Awesome-Multimodal-Large-Language-Models README

The project's README from github.com/BradyFU/Awesome-Multimodal-Large-Language-Models. As one markdown file: README.md.

Awesome-Multimodal-Large-Language-Models

✨ Highlights of NJU-MiG

🔥🔥 Surveys of MLLMs | 💬 WeChat (MLLM微信交流群)


🔥🔥 VITA Series Omni MLLMs | 💬 WeChat (VITA微信交流群)


🔥🔥 MME Series MLLM Benchmarks

[🍎 Project Page] [📖 Paper] [🤗 Dataset] [🏆 Leaderboard]


Table of Contents


Awesome Papers

Multimodal Instruction Tuning (& Latest Works)

Title Venue Date Code Demo
GPT-6 Astra: A new generation of intelligence Blog 2026-09-04 - -
Introducing Gemini 3.8 Flash and 3.8 Flash Cyber Blog 2026-09-02 - -
GLM-5.3-Flash: Frontier Intelligence, Flash Cost Zhipu 2026-08-26 Huggingface -
DeepSeek-V4-Flash-Vision-Exp DeepSeek 2026-08-21 - -
Qwen3.8-Max: A New Bar for Coding and Cowork Blog 2026-08-15 Huggingface Demo
Star
DeepSeek Harness
DeepSeek 2026-08-13 Github -
Star
Qwen-MM-Plugins
Qwen 2026-08-11 Github -
Star
Kimi K3: Open Frontier Intelligence
Kimi 2026-07-27 Github Demo
Star
VideoChat3: Fully Open Video MLLM for Efficient and Generalist Video Understanding
arXiv 2026-07-16 Github Demo
Seed2.0 Model Card: Towards Intelligence Frontier for Real-World Complexity arXiv 2026-06-30 - -
Pretrained to Imagine, Fine-Tuned to Act: The Rise of World-Action Models Blog 2026-06-15 - -
Qwen-RobotWorld Technical Report: Unifying Embodied World Modeling through Language-Conditioned Video Generation arXiv 2026-06-15 - Demo
Star
OmniVideo-100K: A Dataset for Audio-Visual Reasoning through Structured Scripts and Evidence Chains
arXiv 2026-06-12 Github Demo
GitHub Repo stars
Cosmos 3: Omnimodal World Models for Physical AI
arXiv 2026-06-05 Github Demo
π0.7: a Steerable Generalist Robotic Foundation Model with Emergent Capabilities arXiv 2026-04-24 - Demo
DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence DeepSeek 2026-04-24 Huggingface -
Qwen3.6-27B: Flagship-Level Coding in a 27B Dense Model Blog 2026-04-22 Huggingface Demo
Xiaomi MiMo-V2.5 Blog 2026-04-22 - Demo
Star
Video-MME-v2: Towards the Next Stage in Benchmarks for Comprehensive Video Understanding
arXiv 2026-04-06 Github Demo
Introducing Muse Spark: Scaling Towards Personal Superintelligence Blog 2026-04-08 - Demo
Star
VITA-QinYu: Expressive Spoken Language Model for Role-Playing and Singing
arXiv 2026-04-03 Github Local Demo
Gemma 4: Byte for byte, the most capable open models Blog 2026-04-02 - Demo
Qwen3.6-Plus: Towards Real World Agents Blog 2026-04-02 - -
Qwen3.5-Omni: Scaling Up, Toward Native Omni-Modal AGI Blog 2026-03-30 - Demo
Xiaomi MiMo-V2-Omni Blog 2026-03-18 - -
Star
InternVL-U: Democratizing Unified Multimodal Models for Understanding, Reasoning, Generation and Editing
arXiv 2026-03-10 Github Local Demo
Star
Omni-Diffusion: Unified Multimodal Understanding and Generation with Masked Discrete Diffusion
arXiv 2026-03-06 Github -
Beyond Language Modeling: An Exploration of Multimodal Pretraining arXiv 2026-03-03 - -
Gemini 3.1 Pro: A smarter model for your most complex tasks Blog 2026-02-19 - -
Star
Qwen3.5: Towards Native Multimodal Agents
Blog 2026-02-16 Github Demo
Star
MiniCPM-o 4.5
Blog 2026-02-06 Github Demo
Star
Kimi K2.5: Visual Agentic Intelligence
arXiv 2026-02-02 Github -
Star
DeepSeek-OCR 2: Visual Causal Flow
DeepSeek 2026-01-27 Github -
Seed1.8 Model Card: Towards Generalized Real-World Agency Bytedance Seed 2025-12-18 - -
Introducing GPT-5.2 OpenAI 2025-12-11 - -
Introducing Mistral 3 Blog 2025-12-02 Huggingface -
Star
Qwen3-VL Technical Report
arXiv 2025-11-26 Github Demo
Star
Emu3.5: Native Multimodal Models are World Learners
arXiv 2025-10-30 Github -
Star
VITA-E: Natural Embodied Interaction with Concurrent Seeing, Hearing, Speaking, and Acting
arXiv 2025-10-21 Github Local Demo
Star
DeepSeek-OCR: Contexts Optical Compression
arXiv 2025-10-21 Github -
Star
OmniVinci: Enhancing Architecture and Data for Omni-Modal Understanding LLM
arXiv 2025-10-17 Github -
NExT-OMNI: Towards Any-to-Any Omnimodal Foundation Models with Discrete Flow Matching arXiv 2025-10-16 - -
Star
InteractiveOmni: A Unified Omni-modal Model for Audio-Visual Multi-turn Dialogue
arXiv 2025-10-15 Github -
Star
VITA-VLA: Efficiently Teaching Vision-Language Models to Act via Action Expert Distillation
arXiv 2025-10-10 Github -
Star
LLaVA-OneVision-1.5: Fully Open Framework for Democratized Multimodal Training
arXiv 2025-10-09 Github Demo
Star
Qwen3-Omni Technical Report
arXiv 2025-09-22 Github Demo
Star
InternVL3.5: Advancing Open-Source Multimodal Models in Versatility, Reasoning, and Efficiency
arXiv 2025-08-27 Github Demo
MiniCPM-V 4.5: A GPT-4o Level MLLM for Single Image, Multi Image and Video Understanding on Your Phone - 2025-08-26 Github Demo
Star
Thyme: Think Beyond Images
arXiv 2025-08-18 Github Demo
Introducing GPT-5 OpenAI 2025-08-07 - -
Star
dots.vlm1
rednote-hilab 2025-08-06 Github Demo
Star
Step3: Cost-Effective Multimodal Intelligence
StepFun 2025-07-31 Github Demo
Star
GLM-4.1V-Thinking: Towards Versatile Multimodal Reasoning with Scalable Reinforcement Learning
arXiv 2025-07-02 Github Demo
Star
DenseWorld-1M: Towards Detailed Dense Grounded Caption in the Real World
arXiv 2025-06-30 Github -
Qwen VLo: From "Understanding" the World to "Depicting" It Qwen 2025-06-26 - Demo
Star
MMSearch-R1: Incentivizing LMMs to Search
arXiv 2025-06-25 Github -
Star
Show-o2: Improved Native Unified Multimodal Models
arXiv 2025-06-18 Github -
Gemini 2.5: Pushing the Frontier with Advanced Reasoning, Multimodality, Long Context, and Next Generation Agentic Capabilities Google 2025-06-17 - -
Star
Ego-R1: Chain-of-Tool-Thought for Ultra-Long Egocentric Video Reasoning
arXiv 2025-06-16 Github -
Star
MiMo-VL Technical Report
arXiv 2025-06-04 Github -
Star
OpenUni: A Simple Baseline for Unified Multimodal Understanding and Generation
arXiv 2025-05-29 Github -
Star
Emerging Properties in Unified Multimodal Pretraining
arXiv 2025-05-23 [Gi

Awesome-Multimodal-Large-Language-Models (BradyFU/Awesome-Multimodal-Large-Language-Models)

Searching Database…

Что это такое?Курируемый, постоянно обновляемый список статей, моделей, датасетов и бенчмарков, который отслеживает последние достижения в области мультимодальных больших языковых моделей (MLLM). Это модели вроде GPT-4o, Gemini и VITA, которые понимают изображения, видео и аудио наряду с текстом.
Это статья или работающий инструмент?Это справочный список (README), а не программа. Это просто упорядоченные ссылки на статьи, проекты, репозитории с кодом и демо, сгруппированные по темам: дообучение на инструкциях, обучение в контексте, цепочка рассуждений и бенчмарки.
Как устроен список?Он разделен на «Awesome Papers» (дообучение на инструкциях, галлюцинации, обучение в контексте, цепочка рассуждений, визуальные рассуждения, базовые модели, оценка, RLHF) и «Awesome Datasets» (предобучение, дообучение на инструкциях, обучение в контексте, цепочка рассуждений, RLHF и бенчмарки для оценки). Каждый раздел оформлен в виде таблицы с названием, местом публикации, датой и ссылками на код и демо.
Нужно ли что-то для просмотра этого списка?Нет, это просто документ в формате Markdown, который читается на GitHub. Установка и аккаунты не требуются.
Записи проверяются и продолжают обновляться?Записи перечислены в хронологическом порядке с указанием места публикации и даты. В список входят как рецензируемые статьи, так и препринты arXiv и записи в блогах компаний, поэтому строгость зависит от источника. Список активно обновляется, записи датируются вплоть до 2026 года.
Для кого этот список?Для исследователей и инженеров, которые работают с мультимодальным ИИ или изучают его и хотят быстро отслеживать новейшие статьи, датасеты и бенчмарки по MLLM.
С чего начать новичку?Начните с трех выделенных вверху обзорных статей: MME-Survey, обзора Unified Multimodal Understanding and Generation и обзора NSR 2024 о MLLM. Так вы получите общее представление, прежде чем переходить к конкретным категориям статей.
Что такое серия VITA, упомянутая вверху?VITA — это серия открытых интерактивных омни-модальных LLM (VITA, VITA-1.5, VITA-Audio). Она предназначена для взаимодействия в реальном времени через зрение и речь, сопоставимого с GPT-4o. У нее есть собственное сообщество в WeChat.
Что такое MME и почему это важно здесь?MME — широко цитируемый комплексный бенчмарк для оценки MLLM (NeurIPS 2025, DB Highlight). Список также отслеживает связанные с ним бенчмарки Video-MME и Video-MME-v2 для оценки понимания видео.
Есть ли вокруг этого списка сообщество?Да, в README есть ссылки на отдельные группы в WeChat: для обзоров MLLM и для серии моделей VITA.
Creator
BradyFU
Size
105.6 MB
Stars
18.1K
Updated
CommitOct 01
Age
3y
Commits · 90 Days