9 神经网络: 学习(Neural Networks: Learning)9.1 代价函数(Cost Function)9.2 反向传播算法(Backpropagation Algorithm)9.3 直观理解反向传播(Backpropagation Intuition)9.4 实现注意点: 参数展开(Implementation Note: Unrolling Parameters)9.5 Gradient Checking9.6 Random Initialization9.7 Putting It Together9.8 自主驾驶(Autonomous Driving)

9 神经网络: 学习(Neural Networks: Learning)

9.1 代价函数(Cost Function)

对于神经网络的代价函数公式:

: 神经网络的总层数

: 第 层激活单元的数量(不包含偏置单元)

: 分类总数,即输出层输出单元的数量

: 分为第 个分类的概率

 

注:此处符号表达和第四周的内容有异有同,暂时先按照视频来,有必要的话可以统一一下.

公式可长可长了是吧,那就对照下逻辑回归中的代价函数:

在神经网络的代价函数中,

: 即 维向量

: 即 维矩阵

可见,神经网络背后的思想是和逻辑回归一样的。

 

9.2 反向传播算法(Backpropagation Algorithm)

9.3 直观理解反向传播(Backpropagation Intuition)

9.4 实现注意点: 参数展开(Implementation Note: Unrolling Parameters)

9.5 Gradient Checking

9.6 Random Initialization

9.7 Putting It Together

9.8 自主驾驶(Autonomous Driving)