神经网络

约 326 个字预计阅读时间 1 分钟

神经网络是许多逻辑单元按照不同层级组织起来的网络，每一层的输出都是下一层的输入。第一层被称作输入层，最后一层被称作输出层，中间都被称错隐藏层。

我们需要引入一些参数来描述这个模型： * $a_i^{(j)} $代表第j层的第i个激活单元 * $\theta^{(j)} $代表从第j层映射到第j+1层的权重矩阵

可以看出每一个a都是由上一层的所有x和每一个x对应的权重决定的，这样从左到右的算法叫做前向传播算法(forward propagation)

求解方案

再引入两个标记： * L表示神经网络层数 * $S_I$表示每层的神经元数量 * $S_L$表示最后一层的处理单元个数

这个代价函数异常复杂，但背后的思想还是一致的，我们希望通过代价函数来观察算法预测值与真实情况的误差有多大，唯一不同的是，对于每一行特征，我们都会给出K个预测值。

先计算最后一层的误差，再层层往前推至第二层的误差