In-layer normalization techniques for training very deep neural networks
我们如何有效地训练非常深的神经网络架构？最好的层内规范化选项是什么？我们收集了您需要的有关 transformer、循环神经网络、卷积神经网络中规范化的所有信息。
Recurrent Neural Networks: building GRU cells VS LSTM cells in Pytorch
RNN 相对于 transformer 有哪些优势？何时使用 GRU 而不是 LSTM？GRU 的方程式到底是什么意思？如何在 Pytorch 中构建 GRU 单元？
Review : Stanford's Online Artificial Intelligence Courses - Deep Learning and Machine Learning
你好！我已经入读斯坦福大学并在网上学习他们的课程。以下是我目前所学课程的一些看法。CS224n - 自然语言处理与深度学习 (Manning 教授)难度：4/5 (中等)预期内容：了解应用于 NLP 的最先进的 (SoTA) 深度学习技术。关键主题：问答文本摘要词性标记序列到序列模型Transformers为您提供了NLP发展方向的非常好的概述，家庭作业很有挑战性，但允许您实现最新的神经架构来解决各种语言问题。我的课堂项目：BertQA（github上99*颗星）- 荣获班级最佳项目奖CS231n - 用于视觉识别的卷积神经网络（Li教授和Justin Johnson）难度：4/5（中等）预期
为什么重要：标记化是自然语言处理 (NLP) 中的常见任务。它是传统 NLP 方法（如 Count Vectorizer）和基于高级深度学习的架构（如 Transformers）的基本步骤。
