感知机

  • 二分类:输出为-1或1
    • 回归输出实数
    • Softmax回归输出概率

收敛定理

XOR问题

  • 感知机不能拟合XOR函数,只能产生线性分割面

总结

多层感知机

XOR问题

单隐藏层

  • 单分类
    • 隐藏层需要非线性的激活函数

激活函数

  • Sigmoid激活函数
  • Tanh激活函数
  • ReLU激活函数

多类分类

多隐藏层

总结