神经网络基础- 自然语言理解与深度学习4

本课程将介绍神经网络模型中的一些基本知识,包括神经元模型、反向传播算法、优化求解方法等等。

讲师:   钟翰廷

主要内容是:


  • 神经网络的发展历史:从MP模型到Hebb学习率、Hopfield网络,再到CNN模型,ImageNet比赛和深度学习。

  • 多层感知机:什么是多层感知机、XOR问题、多层感知机的激活函数、反向传播算法、梯度下降算法,以及自适应梯度下降算法。

  • 正则化:在优化算法执行的过程中,我们通常需要用正则化的方法来防止过拟合现象的发生。我们可以根据贝叶斯理论来选择正则化的形式。


讲师介绍
钟翰廷

毕业于华中科技大学,现在爱因互动科技发展(北京)有限公司担任算法工程师,从事 NLP 相关工作。