拉格朗日乘数法 - Eufisky - The lost book
连分数理论
醉鬼能回家,但喝醉的鸟儿可能永远回不了家!

拉格朗日乘数法

Eufisky posted @ 2017年11月16日 01:28 in 机器学习 with tags 有趣 , 903 阅读
咏怀古迹五首·其一
杜甫
 
支离东北风尘际,漂泊西南天地间。
三峡楼台淹日月,五溪衣服共云山。
羯胡事主终无赖,词客哀时且未还。
庾信平生最萧瑟,暮年诗赋动江关。
 
 一个好的外科医生不应该总是在进行补救式的英雄行为,而是应该预测和预防这些不必要的行为。
 
还记得扁鹊三兄弟的故事吗?
 
根据典记,魏文王曾求教于名医扁鹊:「你们家兄弟三人,都精于医术,谁是医术最好的呢?」
 
扁鹊:「大哥最好,二哥差些,我是三人中最差的一个。」
 
魏王不解地说:「为什么呢?请你详细解释下。」 
 
扁鹊说:
 
「大哥治病,是在病情发作之前,那时候病人自己还不觉得有病,但大哥就下药铲除了病根,使他的医术难以被人认可,所以没有名气,只是在我们家中被推崇备至;
 
我的二哥治病,是在病初起之时,症状尚不十分明显,病人也没有觉得痛苦,二哥就能药到病除,使乡里人都认为二哥只是治小病很灵;
 
我治病,都是在病情十分严重之时,病人痛苦万分,病人家属心急如焚。此时,他们看到我在经脉上穿刺,用针放血,或在患处敷以毒药以毒攻毒,或动大手术直指病灶,使重病人病情得到缓解或很快治愈,所以我名闻天下。」
 
魏王大悟。
 
拉格朗日乘数法(Lagrange multiplier)有很直观的几何意义。举个2维的例子来说明:假设有自变量x和y,给定约束条件g(x,y)=c,要求f(x,y)在约束g下的极值。我们可以画出f的等高线图,如下图。此时,约束g=c由于只有一个自由度,因此也是图中的一条曲线(红色曲线所示)。显然地,当约束曲线g=c与某一条等高线f=d1相切时,函数f取得极值。两曲线相切等价于两曲线在切点处拥有共线的法向量。因此可得函数f(x,y)与g(x,y)在切点处的梯度(gradient)成正比。于是我们便可以列出方程组求解切点的坐标(x,y),进而得到函数f的极值。
(相切的时候碰到最高的等高线)
作者:卢健龙
链接:https://www.zhihu.com/question/38586401/answer/105273125
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

登录 *


loading captcha image...
(输入验证码)
or Ctrl+Enter