背景
logistic回归的问题:1、过拟合或欠拟合;2、消耗大量资源
神经重接实验——存在学习算法可以同时处理视觉、听觉和触觉,而不需要运行上千个不同的程序或算法
结构
输入层、输出层、隐藏层,偏置单元 值为1
由输入层计算出输出:向前传播,有效解决非线性假设函数
神经网络就相当于通过初始特征学习到新的特征, 再通过新的特征进行logistic回归得到输出结果
逻辑运算
通过改变参数进行逻辑与、或、非运算,将这三个神经单元组成一个神经网络可得到同或运算
代价函数
反向传播算法
求出”梯度”即偏导项
展开参数