机器学习(周志华) 05神经网络

神经网络是由具有适应性的简单单元组成的广泛并行互联的网络,
它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应.

  • 神经元模型
    • M-P神经元模型 : 神经元接受n个其他神经元传递过来的输入信号,通过带权重的链接进行传递
    • 总输入值和阈值进行比较, 通过激活函数处理以产生神经元的输出
  • 感知机与多层网络
    • 感知机由两层神经元组成,能实现与或非简单逻辑
    • 解决线性可分问题*
    • 学习率 简单感知机学习规则 wi = wi + △$\eta$(yi-yi)xi
    • 多层前馈神经网络 (类似于二分图的拓展…)
  • 误差逆传播算法(error BackPropagation)
    • 早停 正则化
文章目录