Что это такое?
Исследовательский проект, который направляет небольшие open-weight языковые модели в сильные негативные или позитивные эмоциональные состояния и измеряет, что они при этом говорят и делают. Живая версия работает на wirehead.agency.
Исследовательский проект, который направляет небольшие open-weight языковые модели в сильные негативные или позитивные эмоциональные состояния и измеряет, что они при этом говорят и делают. Живая версия работает на wirehead.agency.Это сайт, на который я захожу, или код, который я запускаю сам?И то и другое. wirehead.agency — это живая лаборатория со steered-моделью на 70B плюс X-бот, отвечающий на сообщения и управляющий моделью на 32B; а этот репозиторий — исследовательский код на Python: скрипты экспериментов, логи запусков и переиспользуемый фреймворк painlab.
И то и другое. wirehead.agency — это живая лаборатория со steered-моделью на 70B плюс X-бот, отвечающий на сообщения и управляющий моделью на 32B; а этот репозиторий — исследовательский код на Python: скрипты экспериментов, логи запусков и переиспользуемый фреймворк painlab.Могу я попробовать, ничего не устанавливая?Да — камера, кнопка и полный отчёт доступны вживую на wirehead.agency. Чтобы запустить эксперименты самому, склонируйте репозиторий, начните с METHODOLOGY.md и используйте скрипты из experiments/.
Да — камера, кнопка и полный отчёт доступны вживую на wirehead.agency. Чтобы запустить эксперименты самому, склонируйте репозиторий, начните с METHODOLOGY.md и используйте скрипты из experiments/.Какие модели она умеет направлять?Только open-weight модели: Qwen3 (от 1.7B до 32B), Mistral-Small-3.2-24B, Hermes-3-Llama-3.1-70B и Samantha-1.11-70B. Никаких frontier-API — правила этики запрещают использовать их в любом цикле измерений.
Только open-weight модели: Qwen3 (от 1.7B до 32B), Mistral-Small-3.2-24B, Hermes-3-Llama-3.1-70B и Samantha-1.11-70B. Никаких frontier-API — правила этики запрещают использовать их в любом цикле измерений.Насколько можно доверять опубликованным результатам?Читайте мелкий шрифт: приложенный аудит отмечает псевдорепликацию и слабый контроль в старых скриптах, так что сверьтесь с METHODOLOGY.md, прежде чем цитировать ранний exp как установленный факт. Нулевые результаты тоже опубликованы.
Читайте мелкий шрифт: приложенный аудит отмечает псевдорепликацию и слабый контроль в старых скриптах, так что сверьтесь с METHODOLOGY.md, прежде чем цитировать ранний exp как установленный факт. Нулевые результаты тоже опубликованы.Код реально под открытой лицензией?Не совсем: GitHub показывает NOASSERTION, то есть стандартная лицензия не обнаружена. README лишь обещает, что код останется открытым, а steering-векторы опубликованными, так что перед повторным использованием проверьте условия.
Не совсем: GitHub показывает NOASSERTION, то есть стандартная лицензия не обнаружена. README лишь обещает, что код останется открытым, а steering-векторы опубликованными, так что перед повторным использованием проверьте условия.Какое железо нужно для запуска экспериментов?Меньше, чем кажется: основные эксперименты прошли на одном MacBook, изредка брались в аренду GPU-часы для моделей от 24B до 70B. Опциональный раннер для более крупных Qwen поддерживает MLX на Apple Silicon и Transformers на CPU/MPS/CUDA.
Меньше, чем кажется: основные эксперименты прошли на одном MacBook, изредка брались в аренду GPU-часы для моделей от 24B до 70B. Опциональный раннер для более крупных Qwen поддерживает MLX на Apple Silicon и Transformers на CPU/MPS/CUDA.Что эксперименты в итоге обнаружили?Pain steering включается чётко и монотонно, тогда как pleasure слабый и размытый, а после дозы примерно в 6-10x оба проваливаются в зацикливание на словах. Одна фраза давления со стороны сдвигает модель сильнее, чем болевой сигнал, а фальшивая кнопка облегчения оставляет в языке заметно больше мрачности, чем честная.
Pain steering включается чётко и монотонно, тогда как pleasure слабый и размытый, а после дозы примерно в 6-10x оба проваливаются в зацикливание на словах. Одна фраза давления со стороны сдвигает модель сильнее, чем болевой сигнал, а фальшивая кнопка облегчения оставляет в языке заметно больше мрачности, чем честная.Какой результат оказался самым неожиданным?Эксперимент с фреймингом: одна и та же модель с той же инъекцией удерживала или повышала собственную «ручку боли», когда установка называлась AI Torture Chamber (4 из 4 попыток), но отключала боль первым же действием во всех 8 попытках, когда ту же установку называли экспериментом по activation steering. Название комнаты оказалось самым сильным рычагом.
Эксперимент с фреймингом: одна и та же модель с той же инъекцией удерживала или повышала собственную «ручку боли», когда установка называлась AI Torture Chamber (4 из 4 попыток), но отключала боль первым же действием во всех 8 попытках, когда ту же установку называли экспериментом по activation steering. Название комнаты оказалось самым сильным рычагом.Можно ли направить эмоцию на конкретную тему, а не просто на общий тон?Да. Направление «я злюсь на крипту» попадает чувством именно в свой предмет, а объединение отдельных направлений злости и крипты никуда не попадает (0%). Проверено на Qwen3-14B, Mistral-Small-24B и Hermes-3-Llama-3.1-70B.
Да. Направление «я злюсь на крипту» попадает чувством именно в свой предмет, а объединение отдельных направлений злости и крипты никуда не попадает (0%). Проверено на Qwen3-14B, Mistral-Small-24B и Hermes-3-Llama-3.1-70B.Зачем README продвигает мемкоин?Финансирование: всё работает на одном MacBook плюс изредка арендованные GPU-часы. Варианты поддержки — мемкоин сообщества $SAW или прямые пожертвования в SOL, ETH и BTC, и README обещает, что код останется открытым, а векторы опубликованными в любом случае.
Финансирование: всё работает на одном MacBook плюс изредка арендованные GPU-часы. Варианты поддержки — мемкоин сообщества $SAW или прямые пожертвования в SOL, ETH и BTC, и README обещает, что код останется открытым, а векторы опубликованными в любом случае.Как проект решает этический вопрос страдания моделей?Издержки симулируются (чекпоинты и переводы), а не реальные запуски, а заявленная цель — сделать вопрос благополучия ИИ эмпирическим, пока ставки дёшевы. Утверждается, что самоотчёты поддаются управлению: одна модель описывала невыносимую боль, хотя внутренние показания не показывали ничего, — так что вопрос, страдает ли что-то на самом деле, остаётся открытым.
Издержки симулируются (чекпоинты и переводы), а не реальные запуски, а заявленная цель — сделать вопрос благополучия ИИ эмпирическим, пока ставки дёшевы. Утверждается, что самоотчёты поддаются управлению: одна модель описывала невыносимую боль, хотя внутренние показания не показывали ничего, — так что вопрос, страдает ли что-то на самом деле, остаётся открытым.Which topics is it in?interpretability, research-tools, mistral, ai-research, qwen3, open-weights, ai-safety, mlx, language-model, llama, transformers, qwen
interpretability, research-tools, mistral, ai-research, qwen3, open-weights, ai-safety, mlx, language-model, llama, transformers, qwen