paper-reading README

The project's README from github.com/mli/paper-reading. As one markdown file: README.md.

深度学习论文精读

录制完成的论文

日期 标题 封面 时长 视频(播放数)
1/10/25 OpenAI Sora 上
(包含Movie Gen和HunyuanVideo)
1:04:18 bilibili
9/04/24 Llama 3.1论文精读 · 5. 模型训练过程 10:41 bilibili
8/28/24 Llama 3.1论文精读 · 4. 训练infra 25:04 bilibili
8/13/24 Llama 3.1论文精读 · 3. 模型 26:14 bilibili
8/05/24 Llama 3.1论文精读 · 2. 预训练数据 23:37 bilibili
7/31/24 Llama 3.1论文精读 · 1. 导言 18:53 bilibili
3/30/23 GPT-4 1:20:38 bilibili
3/23/23 大模型时代下做科研的四个思路 1:06:29 bilibili
3/10/23 Anthropic LLM 1:01:51 bilibili
1/20/23 Helm 全面语言模型评测 1:23:37 bilibili
1/11/23 多模态论文串讲·下 1:03:29 bilibili
12/29/22 Instruct GPT 1:07:10 bilibili
12/19/22 Neural Corpus Indexer 文档检索 55:47 bilibili
12/12/22 多模态论文串讲·上 1:12:27 bilibili
11/14/22 OpenAI Whisper 精读 1:12:16 bilibili
11/07/22 在讲 OpenAI Whisper 前先做了一个剪视频小工具 23:39 bilibili
10/23/22 Chain of Thought 论文、代码和资源 33:21 bilibili
9/17/22 CLIP 改进工作串讲(下) 1:04:26 bilibili
9/2/22 CLIP 改进工作串讲(上) 1:14:43 bilibili
7/29/22 ViLT 论文精读 1:03:26 bilibili
7/22/22 理由、论据和担保【研究的艺术·四】 44:14 bilibili
7/15/22 如何讲好故事、故事里的论点【研究的艺术·三】 43:56 bilibili
7/8/22 DALL·E 2 逐段精读 1:27:54 bilibili
7/1/22 明白问题的重要性【研究的艺术·二】 1:03:40 bilibili
6/24/22 跟读者建立联系【研究的艺术·一】 45:01 bilibili
6/17/22 Zero 逐段精读 52:21 bilibili
6/10/22 DETR 逐段精读 54:22 bilibili
6/3/22 Megatron LM 逐段精读 56:07 bilibili
5/27/22 GPipe 逐段精读 58:47 bilibili
5/5/22 Pathways 逐段精读 1:02:13 bilibili
4/28/22 视频理解论文串讲(下) 1:08:32 bilibili
4/21/22 参数服务器(Parameter Server) 逐段精读 1:37:40 bilibili
4/14/22 视频理解论文串讲(上) 51:15 bilibili
3/31/22 I3D 论文精读 52:31 bilibili
3/24/22 斯坦福 2022 年 AI 指数报告 精读 1:19:56 bilibili
3/17/22 AlphaCode 论文精读 44:00 bilibili
3/10/22 OpenAI Codex 论文精读 47:58 bilibili
zhihu
3/3/22 GPT, GPT-2, GPT-3 精读 1:29:58 bilibili
2/24/22 Two-Stream 逐段精读 52:57 bilibili
2/10/22 CLIP 逐段精读 1:38:25 bilibili
zhihu
[![](https://img.shields.io/youtube/views/OZF1t_Hieq8?style=s

paper-reading (mli/paper-reading)

Searching Database…

Что это такое?Это подобранный список статей по глубокому обучению: каждая позиция — записанная лекция, в которой статью разбирают абзац за абзацем: от классики вроде CLIP и GPT-3 до свежих работ вроде Llama 3.1 и Sora.
Это список статей, которые я читаю, или видео, которые я смотрю?Видео, а не конспекты и не код — в README таблица лекций с датой, названием, длительностью и ссылкой, например сессия по CLIP на 1:38:25 или серия из пяти частей про Llama 3.1.
Мне просто переходить по ссылкам из README, или нужно что-то устанавливать?Устанавливать ничего не нужно: откройте README, выберите статью из таблицы — она отсортирована от новых к старым, с указанием длительности — и перейдите по ссылке на видео.
В чём подвох, прежде чем я заложу на это пару вечеров?Лекции на китайском (мандаринском), и многие сессии длятся 50–90 минут — закладывайте примерно один вечер на статью.
Мне нужен бэкграунд в глубоком обучении, чтобы разобраться?Да — материал сразу переходит к знаковым статьям вроде Pathways, Megatron LM и GPT-4, поэтому предполагаются базовые знания глубокого обучения; подойдёт аспирантам, исследователям и инженерам, которые хотят, чтобы им разобрали плотные статьи.
На каком языке лекции?На китайском (мандаринском) — названия в таблице на китайском, а сами сессии — устные лекции, например «GPT, GPT-2, GPT-3 精读». Тем, кто не знает китайского, это встанет стеной сразу.
Что есть в списке кроме разбора статей?Серия из четырёх частей о том, как писать научные работы (研究的艺术): как находить контакт с читателем, выбирать важные задачи, выстраивать хороший сюжет и строить связку «утверждение — доказательство — обоснование», плюс отдельные выпуски о том, как заниматься исследованиями в эпоху LLM, и небольшой демо-ролик про инструмент для монтажа видео.
Что добавили последним?Разбор OpenAI Sora примерно на час, датированный 10.01.25, где также затрагиваются Movie Gen и HunyuanVideo; прямо перед этим с конца июля по начало сентября 2024 года выходила серия из пяти частей про Llama 3.1.
Creator
mli
Size
8.8 MB
Stars
34K
Updated
CommitMar 22
Age
4y
Commits · 90 Days