InternVL README

The project's README from github.com/OpenGVLab/InternVL. As one markdown file: README.md.

InternVL Family: Closing the Gap to Commercial Multimodal Models with Open-Source Suites —— A Pioneering Open-Source Alternative to GPT-5

image

[🆕 Blog] [🤔 FAQs] [🗨️ Chat Demo] [📖 Document] [🌐 API] [🚀 Quick Start]

[🔥 InternVL3.5 Report] [📜 InternVL3.0 Report] [📜 InternVL2.5 MPO] [📜 InternVL2.5 Report]

[📜 Mini-InternVL Paper] [📜 InternVL2 Blog] [📜 InternVL 1.5 Paper] [📜 InternVL 1.0 Paper]

[📖 2.0 中文解读] [📖 1.5 中文解读] [📖 1.0 中文解读]

Switch to the Chinese version (切换至中文版)

OpenGVLab%2FInternVL | Trendshift image

image/jpg

News 🚀🚀🚀

More News
  • 2024/10/21: We release the Mini-InternVL series. These models achieve impressive performance with minimal size: the 4B model achieves 90% of the performance with just 5% of the model size. For more details, please check our project page and document.
  • 2024/08/01: The Chartmimic team evaluated the InternVL2 series models on their benchmark. The InternVL2-26B and 76B models achieved the top two performances among open-source models, with the InternVL2 76B model surpassing GeminiProVision and exhibiting comparable results to Claude-3-opus.
  • 2024/08/01: InternVL2-Pro achieved the SOTA performance among open-source models on the CharXiv dataset, surpassing many closed-source models such as GPT-4V, Gemini 1.5 Flash, and Claude 3 Sonnet.
  • 2024/07/24: The MLVU team evaluated InternVL-1.5 on their benchmark. The average performance on the multiple-choice task was 50.4%, while the performance on the generative tasks was 4.02. The performance on the multiple-choice task ranked #1 among all open-source MLLMs.
  • 2024/07/04: We release the InternVL2 series. InternVL2-Pro achieved a 62.0% accuracy on the MMMU benchmark, matching the performance of leading closed-source commercial models like GPT-4o.
  • 2024/07/18: InternVL2-40B achieved SOTA performance among open-source models on the Video-MME dataset, scoring 61.2 when inputting 16 frames and 64.4 when inputting 32 frames. It significantly outperforms other open-source models and is the closest open-source model to GPT-4o mini.
  • 2024/07/18: InternVL2-Pro achieved the SOTA performance on the DocVQA and InfoVQA benchmarks.
  • 2024/06/19: We propose Needle In A Multimodal Haystack (MM-NIAH), the first benchmark designed to systematically evaluate the capability of existing MLLMs to comprehend long multimodal documents.
  • 2024/05/30: We release ShareGPT-4o, a large-scale dataset that we plan to open-source with 200K images, 10K videos, and 10K audios with detailed descriptions.
  • 2024/05/28: Thanks to the lmdeploy team for providing AWQ quantization support. The 4-bit model is available at OpenGVLab/InternVL-Chat-V1-5-AWQ.
  • 2024/05/13: InternVL 1.0 can now be used as the text encoder for diffusion models to support multilingual generation natively in over 110 languages worldwide. See MuLan for more details.
  • 2024/04/18: InternVL-Chat-V1-5 has been released at HF link, approaching the performance of GPT-4V and Gemini Pro on various benchmarks like MMMU, DocVQA, ChartQA, MathVista, etc.
  • 2024/02/27: InternVL is accepted by CVPR 2024 (Oral)! 🎉
  • 2024/02/21: InternVL-Chat-V1-2-Plus achieved SOTA performance on MathVista (59.9), MMBench (83.8), and MMVP (58.7). See our blog for more details.
  • 2024/02/12: InternVL-Chat-V1-2 has been released. It achieves 51.6 on MMMU val and 82.3 on MMBench test. For more details, please refer to our blog and SFT data. The model is now available on HuggingFace, and both training / evaluation data and scripts are open-sourced.
  • 2024/01/24: InternVL-Chat-V1-1 is released, it supports Chinese and has stronger OCR capability, see here.
  • 2024/01/16: We release our customized mmcv/mmsegmentation/mmdetection code, integrated with DeepSpeed, which can be used for training large-scale detection and segmentation models.

Documents

🌟 Get Started

🏆 InternVL Family

Model Zoo

Multimodal Large Language Model (InternVL 3.5)

To maintain consistency with earlier generations, we provide two model formats: the GitHub format, consistent with prior releases, and the HF format, aligned with the official Transformers standard.

If you want to convert the checkpoint between these two formats, please refer to the scripts about custom2hf and hf2custom.

Github Format

Model #Vision Param #Language Param #Total Param HF Link ModelScope Link
InternVL3.5-1B 0.3B 0.8B 1.1B 🤗 link 🤖 link
InternVL3.5-2B 0.3B 2.0B 2.3B 🤗 link 🤖 link
InternVL3.5-4B 0.3B 4.4B 4.7B 🤗 link 🤖 link
InternVL3.5-8B 0.3B 8.2B 8.5B 🤗 link 🤖 link
InternVL3.5-14B 0.3B 14.8B 15.1B 🤗 link 🤖 link
InternVL3.5-38B 5.5B 32.8B 38.4B 🤗 link 🤖 link
InternVL3.5-20B-A4B 0.3B 20.9B 21.2B-A4B 🤗 link 🤖 link
InternVL3.5-30B-A3B 0.3B 30.5B 30.8B-A3B 🤗 link 🤖 link
InternVL3.5-241B-A28B 5.5B 235.1B 240.7B-A28B 🤗 link

InternVL (OpenGVLab/InternVL)

Searching Database…

10.2K ·GitHub
Что это такое?Семейство открытых мультимодальных чат-моделей, которые понимают изображения, видео и текст и позиционируются как открытая альтернатива GPT-4o. InternVL2.5-78B стала первой открытой моделью, превысившей 70% на бенчмарке MMMU.
В этом репозитории сами модели или код вокруг них?Этот репозиторий — центральный хаб: код для обучения, оценки и развертывания плюс зоопарк моделей. Сами веса, от 1B до 241B параметров, скачиваются по ссылкам на HuggingFace или ModelScope из зоопарка.
Как запустить это, чтобы первый раз поболтать с моделью?Установите Python-зависимости из requirements.txt по Installation Guide, скачайте чекпоинт с HuggingFace и используйте быстрый старт через transformers — или запустите встроенное демо на Streamlit, чтобы общаться локально.
Есть ли подводные камни перед скачиванием чекпоинта?Чекпоинты распространяются в двух форматах: устаревшем GitHub-формате и официальном формате, стандартном для transformers, на HuggingFace. Если загрузка не проходит, конвертируйте между ними скриптами custom2hf и hf2custom.
Всё работает локально или мои изображения отправляются на сервер?Вы скачиваете веса и запускаете их на своём железе — в репозитории даже есть локальное чат-демо на Streamlit, так что изображения могут вообще не покидать ваш компьютер.
Насколько большие эти модели — потянет ли моя видеокарта?Размеры — от 1.1B до MoE-модели 241B-A28B, есть и MoE-варианты среднего размера вроде 20B-A4B и 30B-A3B. Небольшие модели на 1B–8B подойдут для скромных видеокарт, а для тяжёлых существуют квантованные версии в 4 бита (AWQ).
Что эта модель реально умеет делать с изображениями и видео?OCR и понимание документов и диаграмм (лучший результат среди открытых моделей на DocVQA и InfoVQA), ответы на вопросы по видео, классификация изображений, семантическая сегментация, поиск по паре изображение-текст, а в поколении 3.5 — ещё и агентные задачи.
Какая модель в семействе самая новая?InternVL3.5, вышедшая в августе 2025 года. Её старшая модель, InternVL3.5-241B-A28B, показывает результат уровня SOTA среди открытых MLLM на общих мультимодальных задачах, рассуждениях, тексте и агентных задачах; версия 20B-A4B построена на GPT-OSS-20B.
Кроме весов, что ещё выложено в открытый доступ?Код обучения CascadeRL (конвейер RL, сочетающий офлайн- и онлайн-этапы) с датасетами предпочтений MMPR-v1.2 и MMPR-Tiny, модель награды за процесс рассуждения VisualPRM 8B с датасетом VisualPRM400K, а также ShareGPT-4o: 200 тысяч изображений, 10 тысяч видео и 10 тысяч аудио с описаниями.
Можно дообучить модель на своих данных?Да — для каждого поколения есть руководства по дообучению, включая туториал по LoRA для генерации подписей к COCO, а конвейер обучения MPO со скриптами для подготовки данных тоже опубликован.
Creator
OpenGVLab
Size
39.6 MB
Stars
10.2K
Age
2y
Commits · 90 Days