context-language-models README

The project's README from github.com/facebookresearch/context-language-models. As one markdown file: README.md.

Context Language Models (CLMs)

Rulin Shao1,2, Shannon Zejiang Shen3, Junjie Oscar Yin1,2, Yuetai Li1, Minheng Wang1, Hamish Ivison1, Radha Poovendran1, Nathan Lambert4, Teng Xiao1, Mike Lewis2, Wen-tau Yih2, Luke Zettlemoyer1,2, Pang Wei Koh1

1University of Washington   2Meta Superintelligence Labs   3MIT   4Trillium Labs

arXiv Twitter

Context Language Models

We introduce Context Language Models (CLMs), language models that natively manage their own context. We implement this by treating the context as a file and allowing the model to make unrestricted updates to this file. This allows the model to learn what is most important to maintain in context, and naturally extends to multi-agent systems where multiple agent contexts coexist as files.

Day 1 Support

CLM for Pi:

pi install npm:@lolipopshock/pi-clm

Getting started

Run the minimal CLM agent on any Harbor task:

pip install -e .
clm-harbor run -p <harbor-task> -a clm-minimal -m openai/<model> \
  --agent-kwarg api_base=http://localhost:8000/v1

clm-harbor is the Harbor CLI with CLM available as -a clm-minimal. See clm/clm_harness for configuration and serving.

Repository

clm/clm_harness CLMs implemented in Harbor
clm/clm_icl In-context learning for CLMs
clm/clm_rl Reinforcement learning for CLMs
suffix_cache_reuse Suffix Cache Reuse for CLM efficient serving

Coming soon

Citation

If you find our work helpful, we would appreciate it if you could cite our paper:

@article{shao2026context,
  title   = {Context Language Models},
  author  = {Shao, Rulin and Shen, Shannon Zejiang and Yin, Junjie Oscar and Li, Yuetai and
             Wang, Minheng and Ivison, Hamish and Poovendran, Radha and Lambert, Nathan and
             Xiao, Teng and Lewis, Mike and Yih, Wen-tau and Zettlemoyer, Luke and Koh, Pang Wei},
  journal = {arXiv preprint arXiv:2609.37725},
  year    = {2026}
}

License

This project is licensed under CC BY-NC 4.0. See also NOTICE.

context-language-models (facebookresearch/context-language-models)

Searching Database…

Что это?Это официальный релиз кода исследования «Context Language Models (CLMs)» от University of Washington, Meta Superintelligence Labs, MIT и Trillium Labs. CLM — языковые модели, которые изначально сами управляют своим контекстом, обращаясь с ним как с файлом, который можно свободно редактировать; это естественно распространяется на мультиагентные сценарии, где контекст каждого агента — его собственный файл.
Это готовый инструмент или исследовательский код для воспроизведения экспериментов из статьи?Это исследовательский код к статье о CLM, а не отполированный продукт: в репозитории реализации на базе Harbor (clmharness, clmicl, clmrl) плюс компонент сервинга с повторным использованием суффиксных кэшей — всё для запуска и воспроизведения экспериментов из статьи.
Как запустить CLM?Запустите минимального CLM-агента на любой задаче Harbor через CLI clm-harbor с флагом «-a clm-minimal»; детали конфигурации и сервинга описаны в clm/clmharness.
Нужен ли фреймворк Harbor для его использования?Да, CLM построены поверх Harbor и вызываются через CLI clm-harbor, а не запускаются отдельно.
Всё ли из статьи уже доступно здесь?Не совсем: ContextBench — бенчмарк, упомянутый для оценки CLM, — всё ещё значится как «coming soon» и в репозиторий пока не включён.
Можно ли использовать это в коммерческих целях?Нет, проект выпущен под CC BY-NC 4.0, которая допускает только исследования и некоммерческое использование.
Насколько CLM лучше стандартных подходов к управлению контекстом?В zero-shot тестах CLM показывают точность на 11,4% выше при 21,5% меньше FLOPs на BrowseComp-Plus, баллы на 5% выше при 59% меньше FLOPs на 12-часовом EdgeBench и улучшение на 65% больше при равных вычислениях на 24-часовой мультирепозиторной задаче с роем агентов.
Можно ли настраивать поведение CLM без переобучения модели?Да, clm/clmicl показывает, что CLM можно направлять инструкциями на естественном языке, эволюционировавшими через цикл оптимизации skills, повышая точность на отложенных данных до 35,9 пункта в задаче управления контекстом при меньших вычислениях.
Есть ли в репозитории метод обучения с подкреплением для CLM?Да, clm/clmrl реализует метод online RL, который улучшил результат Qwen3.5-9B на BrowseComp-Plus на 47,6%, используя на 12% меньше FLOPs.
Для чего нужен suffixcachereuse?Это компонент для эффективного сервинга CLM за счёт повторного использования суффиксных кэшей; цель — снизить вычислительную стоимость работы CLM в условиях, близких к продакшену.
Size
1.6 MB
Stars
732
Updated
CommitOct 14
Age
1mo
Commits · 90 Days