14.9K ·GitHub
这是什么？
一组简短的 PyTorch 实现，涵盖核心 NLP 和深度学习模型，从词嵌入到 Transformer 和 BERT，适合作为学习资料。
一组简短的 PyTorch 实现，涵盖核心 NLP 和深度学习模型，从词嵌入到 Transformer 和 BERT，适合作为学习资料。这是我需要导入使用的库，还是一组独立示例？这是一套由独立 Jupyter notebook/脚本组成的课程，每个文件实现一个模型，不是需要安装并导入的可复用库。
这是一套由独立 Jupyter notebook/脚本组成的课程，每个文件实现一个模型，不是需要安装并导入的可复用库。这些示例该怎么运行？在本地用 Jupyter 打开任意 notebook，或者点击每个模型对应的 Colab 链接，直接在 Google Colab 中运行。
在本地用 Jupyter 打开任意 notebook，或者点击每个模型对应的 Colab 链接，直接在 Google Colab 中运行。运行代码需要先安装什么？Python 3.5+ 和 PyTorch 1.0.0 或更高版本。
Python 3.5+ 和 PyTorch 1.0.0 或更高版本。它还支持 TensorFlow 吗？不支持了。旧的 TensorFlow v1 实现已移到归档文件夹中；为了便于阅读，只有 PyTorch 版本在持续维护。
不支持了。旧的 TensorFlow v1 实现已移到归档文件夹中；为了便于阅读，只有 PyTorch 版本在持续维护。这套课程是给谁准备的？想了解经典和现代模型的深度学习研究人员，以及学习 NLP 的学生，他们希望看到简洁、易读的参考实现。
想了解经典和现代模型的深度学习研究人员，以及学习 NLP 的学生，他们希望看到简洁、易读的参考实现。这套课程是怎么组织的？课程分为五个循序渐进的部分：基础嵌入模型（NNLM、Word2Vec、FastText）、CNN、RNN、基于注意力机制的 Seq2Seq 模型，以及基于 Transformer 的模型（Transformer、BERT）。
课程分为五个循序渐进的部分：基础嵌入模型（NNLM、Word2Vec、FastText）、CNN、RNN、基于注意力机制的 Seq2Seq 模型，以及基于 Transformer 的模型（Transformer、BERT）。新手应该从哪里开始？从第一部分“基础嵌入模型（NNLM）”开始，按顺序学习各部分，直到最后的 Transformer 和 BERT 实现。
从第一部分“基础嵌入模型（NNLM）”开始，按顺序学习各部分，直到最后的 Transformer 和 BERT 实现。每个模型都附有原始研究论文吗？是的，每个已实现的模型都链接到其原始论文，例如 Transformer 对应的《Attention Is All You Need》，以及 BERT 的原始论文。
是的，每个已实现的模型都链接到其原始论文，例如 Transformer 对应的《Attention Is All You Need》，以及 BERT 的原始论文。BERT 示例实际做了什么？它实现了 BERT 的预训练任务：下一句预测分类和掩码词元预测。
它实现了 BERT 的预训练任务：下一句预测分类和掩码词元预测。What are similar projects?DeepLearning, lectures, Chinese-BERT-wwm, llama3-from-scratch, deeplearning-models, spaCy, deep-learning-with-python-notebooks, bert
DeepLearning, lectures, Chinese-BERT-wwm, llama3-from-scratch, deeplearning-models, spaCy, deep-learning-with-python-notebooks, bertWhich topics is it in?word2vec, bert, attention, colab, neural-networks, tensorflow, paper, natural-language-processing, neural-network, jupyter notebook, transformer, nlp
word2vec, bert, attention, colab, neural-networks, tensorflow, paper, natural-language-processing, neural-network, jupyter notebook, transformer, nlp