异想天开

What's the true meaning of light, Could you tell me why

梯度下降

日期:2016-01-24 21:53:14
  
最后更新日期:2016-01-28 09:37:05
梯度可以认为就是导数,对于多个变量,就是变量的偏导数。如果有多个变量,即多维的空间,那么针对每个纬度都会求偏导数,这个值就是一个向量,反应了下一状态每一个维度的变化量。
代价函数是根据计算值和理想值的误差的平方,目的是让该值最小。这个平方,可以直接求导,我的理解,这类似抛物线,有一个最小值,最小值即导数为0的点。