9 神经网络: 学习(Neural Networks: Learning)9.1 代价函数(Cost Function)9.2 反向传播算法(Backpropagation Algorithm)9.3 直观理解反向传播(Backpropagation Intuition)9.4 实现注意点: 参数展开(Implementation Note: Unrolling Parameters)9.5 Gradient Checking9.6 Random Initialization9.7 Putting It Together9.8 自主驾驶(Autonomous Driving)
对于神经网络的代价函数公式:
: 神经网络的总层数
: 第 层激活单元的数量(不包含偏置单元)
: 分类总数,即输出层输出单元的数量
: 分为第 个分类的概率
注:此处符号表达和第四周的内容有异有同,暂时先按照视频来,有必要的话可以统一一下.
公式可长可长了是吧,那就对照下逻辑回归中的代价函数:
在神经网络的代价函数中,
: 即 维向量
: 即 维矩阵
可见,神经网络背后的思想是和逻辑回归一样的。