分类
技术分析具备全面

初学者易懂的曲线图分析法

初学者易懂的曲线图分析法 虚功原理与最小势能原理(截自清华大学mooc:有限元分析及应用)

机器学习初学者必备的学习路线

目前人工智能(AI)是非常热门的话题,各行各业的产品也尽量与AI挂钩,使产品更具有竞争性和创造性。高级AI程师与调参工程师的最大区别是前者对机器学习算法原理有一定程度的理解,今天小编给大家推荐一个微信公众号 [机器学习算法那些事],公众号包含了大量机器学习算法原理的原创总结性文章,是一个以机器学习、Python数据分析和深度学习为主题的个人技术优质公众号, 扫码并关注石头哥 ,让机器学习算法变得不再复杂~~~

梯度下降是个啥?

用问题一的解决方案,替换“梯度”为“导数”。问题变成了:导数下降干嘛的?我暂时把答案写上稍后解释:梯度下降就是用来求某个函数最小值时自变量对应取值。这个函数名字叫做损失函数(cost/loss function),直白点就是误差函数。一个算法不同参数会产生不同拟合曲线,也意味着有不同的误差。损失函数就是一个自变量为算法的参数,函数值为误差值的函数。梯度下降就是找让误差值最小时候算法取的参数。(看到这里肯定也是一脸懵逼,马的好不容易知道梯度是啥现在又tmd多了个损失函数,不急看完损失函数是啥再回头看就懂了梯度下降干嘛的了)

那么什么是损失函数(误差函数)?

机器学习算法中有一类算法就是产生一条曲线来拟合现有的数据,这样子就可以实现预测未来的数据,这个专业术语叫做回归(见到回归就替换成拟合就好了~^~)。还有另外一种类似也是产生一条曲线,但是这个曲线时用来将点分隔成两块,实现分类,在这个曲线一侧为一类另外一侧算一类。但是我怎么知道这个算法产生的拟合曲线效果好不好呢?这个东东叫做误差,预测值减去真实值最后取绝对值,没错就是这么简单粗暴~~
产生的拟合曲线并不是完全和现有的点重合,拟合曲线和真实值之间有一个误差。一个算法不同参数会产生不同拟合曲线,也意味着有不同的误差。损失函数就是一个自变量为算法的参数,函数值为误差值的函数。梯度下降就是找让误差值最小时候这个算法对应的参数。(是不是突然感觉好像知道了梯度下降干嘛的了,今日宜赞、收藏(要赞不要脸->-))

问题三:梯度为啥要下降?

  1. 翻译问题。☞按照问题一的解决方法可知:我们将“梯度为啥要下降?”这个问题翻译为:找误差函数最小值所对应的自变量,为啥要让导数的绝对值变小。我们看下图这个二次函数对应曲线就是误差函数(也就是损失函数,一般是叫损失函数,误差函数是我为了好理解说的),自变量是算法的参数函数值是该参数下所产生拟合曲线与真实值之间的误差值。注意了,注意了,注意了:一般你看到梯度下降的公式最好想到下面这个图,对就假设误差函数就这么特殊,都是开口朝上,都是平滑的,都是只有一个导数为0的点,都是弯一下而不是弯很多下。

  1. 平常我们怎么求损失函数(误差函数)最小值?☞我们目标是求这个损失函数(误差函数)最小值时候对应自变量的值,也就是求曲线最低点自变量x的取值。用高中知识怎求最小值?老师说了求最值不要怂,上来求个导,然后让导函数为0时候取最值。告诉你还真就可以这么干的,简单粗暴。不过这个方法不是梯度下降,它有个很高端大气上档次的名字叫做正规方程(Normal Equation),吓到了吧这么简单的原理居然名字这么高端,所以嘛梯度下降也差不多就名字吓人而已。但是为啥这么简单粗暴容易理解,为啥还要用梯度下降呢?因为一般来说越简单粗暴的方法效率越低~,正规方程在数据量大时候太慢了,就像冒泡排序那么简单为啥排序算法一般不用冒泡排序一样敲重点了>>>梯度下降和这个原理类似见下面
  2. 梯度下降怎么求损失函数(误差函数)最小值?☞假如你拿着手机地图不用导航去找一个目的地怎么走?我一般是往某个方向走一段路程,然后发现好像离目的地近了,然后产生一个想法“这个方向能使得我离目的地距离更小”,然后我继续沿着这个方向走。(你就会疑问该不会梯度下降就这么做的吧,没错就是这么做的)。

注意了,注意了,注意了:一般你看到梯度下降的公式最好想到下面那个图,对就假设误差函数就这么特殊,都是开口朝上,都是平滑的,都是只有一个导数为0的点,都是弯一下而不是弯很多下。(哈哈怕你记不得,复制粘贴一遍)

按照上面那个图的特点,假设这个图放大1万倍,大到你不能一眼看到最小值。那么要你找最小值对应的自变量x,你怎么找??记住我们目的是为了找自变量x,记住我们目的是为了找x

当你遇到情况1:单调下降,导数为负(梯度为负),要想找到函数的最小值所对应的自变量的值(曲线最低点对应x的值)怎么走?当然是水平向右滑啦,也就是让x增大,此时随着x增大,导数(梯度)的绝对值是减小的(梯度下降含义懂了吧哈哈就这个意思)

当你遇到情况2:单调上升,导数为正(梯度为正),要想找到函数的自变量的值(曲线最低点对应x的值)怎么走?当然是水平向左滑啦,也就是让x减小,此时随着x减小,导数(梯度)的绝对值是减小的(也就是梯度下降)。

通俗易懂的有限元基础原理

1.最初,人们热衷于用各种力学理论严谨地研究结构构件的受力行为。于是开发了以“平衡(Equilibrium)”、“几何(Kinematics)”、“本构(Constitutive)”三大方程为基础分析方法,姑且称为固体力学法。此法是一个边界条件问题(Boundary Value Problem),需要求解微分方程,算出构件的位移后,再推出应力、应变、反力等。其中“平衡”初学者易懂的曲线图分析法 方程和“几何”方程几乎都是微分方程(组)。

平面问题三大方程(截自清华大学mooc:有限元分析及应用)

力学方法虽然理论简单直接,结果也最精确。但是!!!对于略微复杂的结构,上述分析便会遇到复杂的微分方程。。。学过高等数学的同学应该都了解微分方程的恐怖,轻则算上一天得到错误答案,重则头发掉光发现下不了笔。。。总之,微分方程大大降低了使用弹性力学法的效率,甚至让求解成为不可能。

2.在被微分方程折磨够了之后,大家终于想起了一句话:惹不起,躲得起。

人们开始改进固体力学法,试图绕开求解微分方程,于是“虚功原理(Virtual Work Principal)”和“最小势能原理”被搬上了舞台(这两玩意儿是等价的)。

那么怎样才能绕开微分方程呢?答案是在计算一开始就去猜结构受力后的位移,比如你觉得最终的位移可能是线性的,那你可以假设位移的表达式为 u(x)=a_0+a_1x ,另一个人觉得位移可能有周期性,那他可以假设 u(x)=b_0+b_1sinx 。这个位移最好满足边界条件(注意,这里是“最好”),之后算出结构在假设位移下的内外力虚功,或者是应变能,令其满足对应的能量原理。干完这些后大家发现,整个计算过程中没有出现微分方程,只需要求一些积分,就能得到位移表达式中的未知数,从而得到完整的位移函数。

虚功原理与最小势能原理(截自清华大学mooc:有限元分析及应用)

好吧,如果讲成这样你还看不懂,你记住下面这句话就好了:人们通过猜位移并引入能量原理的方式终于摆脱了微分方程,可以通过积分来分析结构了

为什么要这样做呢?因为积分好算啊,再复杂的积分在数值积分面前都是弟弟,数值积分中又以Gaussian Interpolation效率最高,现在的有限元软件基本都采用Gaussian,什么积分点、减缩积分等概念就是数值积分中的东西。

这是有限元发展中极为重要的理论突破,学界将其称作:Convert Strong Form(指力学法解微分方程)to Weak Form(指猜位移求积分)。当然,这个方法是有代价的,后文会详细介绍,正是在消除这个代价的过程中诞生了“有限”的思想。

3.摆脱微分束缚这件事可不得了,打了翻身仗的人们都高兴fong了,争相运用猜位移的方法去研究结构:从简单到复杂,从一维到多维,从轴力构件到任意变形实体。。。到后来,大家发现用传统书写方式进行计算效率贼低,一大堆类似的方程算来算去,好不自在。

于是有人引入了矩阵(Matrix)来改善计算效率,把相似计算写成矩阵形式,使得书写更加简洁,效率也更高。矩阵的引入和有限元的核心原理的关联不大,但作为一种工具实在是太好用了,人们如获至宝地用矩阵重写了分析过程,使得现代有限元中充斥了矩阵运算。后来人们给运算过程中的一些关键元素起了名字,比如刚度矩阵(Element Stiffness Matrix)

红框中为2自由度杆的单元刚度矩阵(截至Quora, https://www.quora.com/What-is-stiffness-matrix) 红框中为2节点4自由度梁的单元刚度矩阵(截至Quora, https://www.quora.com/What-is-stiffness-matrix)

4.前文第二节提到了一个代价:想要用能量原理,就必须得猜结构位移,而位移对结构分析极其重要,后续应力,应变,反力全靠位移导出。对于简单的结构,尚能根据经验猜个大概;但是结构稍微好看点,受力复杂点,猜不猜的准就全看运气了。运气好,算出来和真实情况八九不离十,运气不好。。。工程中是不允许这种随机的东西出现的(量子学家请走开)

如果你没学过有限元,总学过微积分吧,把任意一条复杂的曲线分成许多段,每一段都视作直线,只要分的足够多,最后直线连接起来就和原来的曲线差不多。类比这个思想,把结构分成很多很多份,去猜每一份上的位移,比如都猜成线性,只要结构被划分的够多,每一份上猜的准不准就无所谓,在满足收敛条件的前提下,算出来的位移就会很靠近真实的位移,这样一来,就大大降低了猜错位移对最终结果的影响。这是有限元发展中又一重要里程碑,学界把这一方法称为:N-type 初学者易懂的曲线图分析法 Refinement(对应于另一条思路:P-type Refinement,即如何猜的更准),有限元理论由此基本构建完整。

为方便使用,人们后来制定了若干标准单元,比如平面四边形形单元,空间六面体单元等,每类单元提前给定好假设位移(即位移模式),将结构划分成一定数量的标准单元来分析,即有限单元法。

就这样,有限元诞生了。此后的时间里,在电子计算机的强力支撑下,有限元渐渐从一种运算繁琐辅助工具成为了当代重要的结构分析手段。

试函数就是猜出来的函数(截自清华大学mooc:有限元分析及应用)

至此,结构有限元基本原理已经说完。总的来说,有限元就是一种结构计算的近似方法,核心在于:力学的基本分析,能量原理的引入,猜位移与数值积分,离散化分析。

(2022-6-8更新)很多读者天天催更,之前说过本答案达到一定关注度时,我才会化身人肉有限元。 本答案从19年发布的三年多时间里,点赞不到1300,收藏2000出头,喜欢300+,和我预期的关注度不符。所以我随缘更新吧。。

答:猜的位移满足完全性(completeness) 和连续性 (C^n conitunity)后,在没有Spurious Mesh size effect的情况下,网格越小越准确,这个现象叫做收敛。你提到的龙格现象是我理解为hourglass mode,此现象本质是使用减缩积分时,单元刚度矩阵会有rank deficiency(实在不知道中文怎么说,秩亏?),无法描述单元所有自由度的变形,一些单元会出现非真实的沙漏状(hourglass)变形。故你可以使用完全积分,在刚度矩阵中人为加入刚度,使用选择减缩积分避免hourglass mode出现。

问题3:‘h’-type and ‘p’-type refinement? 我看到的是这样呀 not n-type

答:“静力平衡”不准确,且与本文核心内容无关,原文中已删除,weak form是完全等价于strong from的,对于力学有限元一般是用三大方程中的平衡(力或动量)作为strong form,最终形势往往写成等式右边的Internal Force + 动力分项=等式左边的 External Force。由于动力分项的存在,静力平衡不准确。

初学者易懂的曲线图分析法

本人编辑

©2022 Baidu 使用百度前必读 | 百科协议 | 隐私政策 | 百度百科合作平台 | 京ICP证030173号