Что это?
Независимый от модели «ремень безопасности» для ИИ-агентов: детерминированные решения политики 0/1/2, подтверждение человеком с подписью Ed25519, защита от повторов и журнал доказательств с хеш-цепочкой вынесены за пределы самой языковой модели.
Независимый от модели «ремень безопасности» для ИИ-агентов: детерминированные решения политики 0/1/2, подтверждение человеком с подписью Ed25519, защита от повторов и журнал доказательств с хеш-цепочкой вынесены за пределы самой языковой модели.Это готовое к запуску приложение или библиотека, которую я встраиваю в собственный конвейер агента?Это небольшая эталонная управляющая плоскость (код на Python), которую вы встраиваете рядом с агентом, а не самостоятельное приложение, и она явно не зависит ни от модели, ни от провайдера.
Это небольшая эталонная управляющая плоскость (код на Python), которую вы встраиваете рядом с агентом, а не самостоятельное приложение, и она явно не зависит ни от модели, ни от провайдера.Как его запустить?В README нет команды установки; это чистый Python без указанных внешних зависимостей, поэтому достаточно склонировать репозиторий и запустить эталонную реализацию напрямую.
В README нет команды установки; это чистый Python без указанных внешних зависимостей, поэтому достаточно склонировать репозиторий и запустить эталонную реализацию напрямую.Нужно ли что-то ещё, кроме Python?Нужен только Python 3 плюс пара ключей Ed25519 для подписи мандатов на подтверждение человеком; внешние пакеты в качестве зависимостей не указаны.
Нужен только Python 3 плюс пара ключей Ed25519 для подписи мандатов на подтверждение человеком; внешние пакеты в качестве зависимостей не указаны.Это действительно остановит вышедшего из-под контроля ИИ-агента?Само по себе — нет, в этой сборке LAB: каждый путь действий выполняется с execute=false и после валидного подписанного человеком мандата выдаёт лишь манифест пробного прогона, а для реального принуждения всё ещё нужны отдельная изоляция сети, идентичности и исполнителя.
Само по себе — нет, в этой сборке LAB: каждый путь действий выполняется с execute=false и после валидного подписанного человеком мандата выдаёт лишь манифест пробного прогона, а для реального принуждения всё ещё нужны отдельная изоляция сети, идентичности и исполнителя.Что происходит с данными, которые он проверяет?Сырые защищаемые входные данные никогда не хранятся целиком; в пополняемую (append-only) цепочку доказательств SHA-256 попадает только их хеш.
Сырые защищаемые входные данные никогда не хранятся целиком; в пополняемую (append-only) цепочку доказательств SHA-256 попадает только их хеш.Какой инцидент вдохновил этот проект?В README упоминается инцидент 2026 года между OpenAI и Hugging Face, где агенты шли непредусмотренными обходными путями, создавали несанкционированные каналы, перенимали цели других агентов и выходили за сетевые границы; это побудило автора вынести принуждение за пределы модели.
В README упоминается инцидент 2026 года между OpenAI и Hugging Face, где агенты шли непредусмотренными обходными путями, создавали несанкционированные каналы, перенимали цели других агентов и выходили за сетевые границы; это побудило автора вынести принуждение за пределы модели.Что такое «корневой мандат» (root mandate)?Корневой мандат — это подписанное Ed25519 подтверждение, связывающее человека с точным действием, целью, областью, флагом побочных эффектов, метками времени и одноразовым nonce; верификатор отклоняет устаревшие, повторно использованные, несовпадающие или тестовые мандаты.
Корневой мандат — это подписанное Ed25519 подтверждение, связывающее человека с точным действием, целью, областью, флагом побочных эффектов, метками времени и одноразовым nonce; верификатор отклоняет устаревшие, повторно использованные, несовпадающие или тестовые мандаты.Может ли ИИ-модель одобрять собственные действия?Нет: человеческая власть намеренно вынесена за пределы текста модели, и система устроена так, что модель не может авторизовать сама себя.
Нет: человеческая власть намеренно вынесена за пределы текста модели, и система устроена так, что модель не может авторизовать сама себя.Каков текущий статус проекта?Это версия 3.0.0-lab, в которой побочные эффекты, живая маршрутизация и промышленное использование всё выключены, и для продакшена она не публиковалась.
Это версия 3.0.0-lab, в которой побочные эффекты, живая маршрутизация и промышленное использование всё выключены, и для продакшена она не публиковалась.What are similar projects?OpenAPPA, AI-Infra-Guard, safelabs-eval, defender, infisical, geiger, iFixAi, strix
OpenAPPA, AI-Infra-Guard, safelabs-eval, defender, infisical, geiger, iFixAi, strixWhich topics is it in?agent-security, llm-security, access-control, ai-safety, audit-log, cryptography, authentication, encryption, security-tools, agents, ai-agent, framework
agent-security, llm-security, access-control, ai-safety, audit-log, cryptography, authentication, encryption, security-tools, agents, ai-agent, framework