15.3K ·GitHub
这是什么？
这是一份精心整理的中文知识库，内容涵盖大语言模型（LLM）的概念和面试题，面向准备大模型相关求职面试的算法工程师和应用工程师。
这是一份精心整理的中文知识库，内容涵盖大语言模型（LLM）的概念和面试题，面向准备大模型相关求职面试的算法工程师和应用工程师。这是一本完整的书，还是一组独立的专题笔记？内容按编号目录组织，包含一系列 Markdown 笔记（01 至 10，另有课程和参考资料），涵盖从 NLP 基础到 RLHF 的全部内容，以在线阅读网站的形式发布，而不是单一的线性书籍。
内容按编号目录组织，包含一系列 Markdown 笔记（01 至 10，另有课程和参考资料），涵盖从 NLP 基础到 RLHF 的全部内容，以在线阅读网站的形式发布，而不是单一的线性书籍。应该从哪里开始读？从目录开始阅读。目录先列出真实的面试题，然后是第 01 章大模型基础，之后依次介绍模型架构、训练、微调、推理、RLHF、RAG 和 LangChain。
从目录开始阅读。目录先列出真实的面试题，然后是第 01 章大模型基础，之后依次介绍模型架构、训练、微调、推理、RLHF、RAG 和 LangChain。答案有专家审核过吗？没有。答案由仓库作者一人根据网上资料撰写，仓库明确欢迎读者指出并更正其中的错误。
没有。答案由仓库作者一人根据网上资料撰写，仓库明确欢迎读者指出并更正其中的错误。这份指南是给谁看的？面向正在备考大模型算法工程师或应用工程师面试的工程师和求职者，内容从 NLP 基础延伸到分布式训练和 RLHF。
面向正在备考大模型算法工程师或应用工程师面试的工程师和求职者，内容从 NLP 基础延伸到分布式训练和 RLHF。有配套的实战项目可以练手吗？有的，作者还链接了几个练习仓库：tiny-llm-zh（从零搭建一个小型中文大模型，包括预训练、微调和强化学习）、tiny-rag（一个带多路召回和重排序的简单 RAG 系统）、tiny-mcp（用提示词和函数调用构建的 MCP 服务端/客户端），以及 llama3-from-scratch-zh（从零实现的 Llama 3，可加载 Meta 官方权重，在一台 16GB 的笔记本电脑上即可运行）。
有的，作者还链接了几个练习仓库：tiny-llm-zh（从零搭建一个小型中文大模型，包括预训练、微调和强化学习）、tiny-rag（一个带多路召回和重排序的简单 RAG 系统）、tiny-mcp（用提示词和函数调用构建的 MCP 服务端/客户端），以及 llama3-from-scratch-zh（从零实现的 Llama 3，可加载 Meta 官方权重，在一台 16GB 的笔记本电脑上即可运行）。内容全部是中文的吗？是的，笔记、面试题以及链接的微信公众号内容都是中文撰写的，没有提到英文版本。
是的，笔记、面试题以及链接的微信公众号内容都是中文撰写的，没有提到英文版本。这份指南涵盖哪些主题？涵盖大模型基础、分词与向量表示、Transformer、注意力机制和 MoE 架构、分布式训练（数据并行、流水线并行、张量并行，以及 DeepSpeed、Megatron）、有监督微调（LoRA）、推理与量化、RLHF（PPO/DPO）、RAG、智能体、模型评测与幻觉，以及 LangChain。
涵盖大模型基础、分词与向量表示、Transformer、注意力机制和 MoE 架构、分布式训练（数据并行、流水线并行、张量并行，以及 DeepSpeed、Megatron）、有监督微调（LoRA）、推理与量化、RLHF（PPO/DPO）、RAG、智能体、模型评测与幻觉，以及 LangChain。What are similar projects?ai-system-design, nlp_course, ai-engineering-interview-questions-company-wise, autumn-recruitment, AgentGuide, LLM101n, llm-course, DeepLearning
ai-system-design, nlp_course, ai-engineering-interview-questions-company-wise, autumn-recruitment, AgentGuide, LLM101n, llm-course, DeepLearningWhich topics is it in?interview-prep, rlhf, function-calling, coding-interview, distributed-training, mixture-of-experts, llama, llms, study-guide, interview-questions, natural-language-processing, langchain
interview-prep, rlhf, function-calling, coding-interview, distributed-training, mixture-of-experts, llama, llms, study-guide, interview-questions, natural-language-processing, langchain