GVS5H README

The project's README from github.com/slee-persis/GVS5H. As one markdown file: README.md.

GVS5H: Five Qwen3.8-27B Models Match Claude Fable 5 on LiveCodeBench Hard

GVS5H: Gorilla vs. 5 Humans

Five small monkeys stacked one on another, together as tall as a single gorilla beside them
slee-persis%2FGVS5H | Trendshift

Results

Manager vs single call, six models — LCB-100, 5 passes, 128k max tokens, reasoning ON

What one pass costs — LCB-100, 5 passes, single call vs manager, against Fable 5

Abstract. Frontier coding performance is typically bought with larger proprietary models at high cost. We introduce ledger-based zero-shot self-orchestration, a training-free method in which fresh instances of one model decompose problems and coordinate through a shared filesystem holding a plan, notes and current solution. Across eleven open and closed-weight models on the 100 latest hard LiveCodeBench problems, the method yields gains of up to 25.6 percentage points on pinned backends and offers two routes to frontier-level accuracy. Orchestrated Qwen3.8 Flash Next reaches 93.0% pass@1 against Fable 5's 90.4% at 9% of the cost, and locally served, open-weight Qwen3.8-27B rises from 66.8% to 92.4%. Gains are not universal: some models are unchanged or worse. Transcript analysis attributes the gain to decomposition and persistent context. Inference-time organization can approach frontier coding accuracy at a fraction of the cost, or slightly exceed it on self-hostable weights.

— the paper

Running the code

Needs uv and an API key for the model you want to test.

cd codebase/v2-current
export OPENAI_API_KEY=...

LCB_RELEASE=release_v6 \
ESCALATION_CLOUD_MAX_TOKENS=128000 \
ESCALATION_CLOUD_TIMEOUT=7200 \
MULTIAGENT_MODEL=openai:gpt-5.6-terra \
uv run --no-project --python 3.12 --with 'datasets<4' --with numpy --with anthropic \
  python escalation/run_bench.py --engine multiagent --only lcb --lcb 100 --parallel 8

License

Code is under the MIT License. The paper, figures and run data are under CC BY 4.0. The LiveCodeBench fork, the benchmark problem statements and the LaTeX template files keep their own licenses. See NOTICE.md for which license covers which path.

GVS5H (slee-persis/GVS5H)

Searching Database…

750 ·GitHub
Что это?GVS5H — код и экспериментальные данные исследовательской работы, вводящей «ledger-based zero-shot self-orchestration» (оркестрацию без обучения на основе реестра): свежие экземпляры одной модели декомпозируют задачу кодирования и координируются через общую файловую систему, где лежат план, заметки и текущее решение, что позволяет нескольким дешёвым открытым моделям догонять или приближаться к точности куда более крупной проприетарной модели.
Это универсальный агентный фреймворк или код экспериментов конкретной статьи?Это эталонная реализация, стоящая за статьёй, а не универсальный фреймворк: она запускает либо мультиагентный оркестратор, либо простой бейзлайн с одним вызовом на задачах LiveCodeBench и печатает оценку pass@1.
Как запустить эксперименты?Установите uv, получите API-ключ для бэкенда, который хотите протестировать, затем запустите скрипт с --engine multiagent или --engine single; оценка pass@1 печатается в конце, а полные результаты сохраняются в runs/results.json.
Какие бэкенды моделей поддерживаются?Из коробки поддерживаются Anthropic, DashScope (Qwen) и OpenRouter, каждому нужен свой API-ключ.
Помогает ли трюк с оркестрацией каждой модели одинаково?Нет — в статье прямо отмечено, что выигрыш не универсален; некоторые протестированные модели не показывают улучшения или даже регрессируют по сравнению с бейзлайном с одним вызовом.
Какой бенчмарк используется для оценки моделей?100 последних сложных задач из LiveCodeBench, оцениваемых по точности pass@1.
Кто или что такое Claude Fable 5 в этом сравнении?Fable 5 — название из статьи для фронтирной проприетарной модели Claude, служащей бейзлайном по точности и стоимости, относительно которого измеряются оркестрированные конфигурации Qwen.
Почему метод оркестрации экономит деньги?Вместо вызова одной крупной проприетарной модели несколько более дешёвых экземпляров моделей координируются через общие заметки и план, что позволяет лучшей оркестрированной конфигурации Qwen3.8 достичь 93.0% pass@1 примерно за 9% стоимости Fable 5.
Куда сохраняются результаты запусков?Итоговые оценки pass@1 попадают в runs/results.json, а рабочие файлы каждого запуска (план, заметки, решение) хранятся в runs/ws/.
Size
93.7 MB
Stars
750
Updated
CommitSep 23
Age
1mo
Commits · 90 Days