神经网络与深度学习实验室恢复《自然语言处理中的深度学习》课程

2 月 7 日,由 MIPT 神经网络和深度学习实验室组织的自然语言处理深度学习课程即将开课。

来源:Robogeek新闻频道(关于机器人技术的俄罗斯与世界新闻)

2 月 7 日,由 MIPT 神经网络和深度学习实验室组织的自然语言处理深度学习课程即将开课。

本课程面向那些想要熟悉语言处理的神经网络方法的人。该项目基于斯坦福大学的类似课程。

课程以“逆课堂”的形式组织。参与者将参加在线讲座,他们需要做作业和编写测试,完成自己的项目,研讨会将讨论理论和分析项目,以及实践研讨会将帮助他们更好地理解材料并获得使用神经网络的特定技能。

该课程由实验室工作人员 Vladislav Lyalin 和 Alexey Sorokin 教授。研讨会将用俄语举行,讲座将用英语进行。最优秀的参与者将被邀请到实验室实习。

课程主题:

  • 自然语言处理简介、词嵌入(Word2vec、GloVe、FastText);
  • 语言建模、全连接神经网络、反向传播简介;
  • 嵌入研讨会;
  • 实用技巧:梯度检查、过拟合、正则化、激活函数和优化;
  • 反向传播研讨会;
  • 循环神经网络、GRU、LSTM;
  • NLP 中的迁移学习(ELMo、ULMfit);
  • 语言建模研讨会;
  • 神经机器翻译,注意力;
  • 变压器网络;
  • 用于文本分类的卷积神经网络;
  • 用于语言理解的深度双向变压器的预训练;
  • 分类研讨会。
  • 物理和技术专业的学生以及任何熟悉深度学习和自然语言处理的人都可以参加。要注册课程,您必须填写表格。

    研讨会的录音将在实验室的 YouTube 频道上提供。

    根据 MIPT。