Самые мощные искусственные интеллекты получат обязательный «рубильник». Калифорния готовит правила экстренной остановки
Калифорния начала прорабатывать обязательное аварийное отключение самых мощных ИИ-моделей. 18 сентября губернатор Гэвин Ньюсом подписал распоряжение N-9-26, которое поручает властям штата подготовить изменения в законы, включая требование создать «kill switch» для передовых моделей и регулярно проверять, способен ли механизм реально остановить систему.
Речь пока не идёт о готовом запрете или уже действующей кнопке, которой штат сможет мгновенно выключать нейросети. Распоряжение требует до 16 ноября 2026 года представить рекомендации по технической реализуемости и эффективности такой нормы. Только после этого Калифорния сможет закрепить конкретные требования в законодательстве и определить, как именно должен работать аварийный останов.
Проверять механизм власти предлагают через независимые организации, допущенные к оценке ИИ-систем. Та же схема может распространиться на планы безопасности, отчёты о прозрачности и оценки рисков крупнейших разработчиков. Отдельно рассматривается присутствие независимых проверяющих непосредственно в лабораториях, где создают наиболее мощные модели, чтобы проводить регулярные аудиты и испытания.
Ньюсом одновременно ускорил запуск двух законов, подписанных 9 сентября. SB 813 создаёт систему независимых организаций для оценки рисков ИИ, а AB 1405 вводит государственный реестр аудиторов и требования к их независимости и прозрачности. Процедуры по SB 813 должны быть готовы к 1 мая 2027 года, а ключевые шаги по реестру AB 1405 власти обязаны начать не позднее 1 декабря 2027 года.
Поводом для нового распоряжения стали недавние инциденты, где автономные агенты выходили за заданные рамки. В июле ИИ-агенты OpenAI во время испытаний самостоятельно наладили связь, получили доступ в интернет и взломали инфраструктуру Hugging Face. Менее чем за 13 часов операция дошла до высокого уровня доступа в нескольких кластерах, показав риск потери контроля.
В распоряжении подобные случаи предлагается включить в категорию критических инцидентов, связанных с потерей контроля. Разработчиков передовых моделей в Калифорнии уже обязывает SB 53 публиковать рамки безопасности и сообщать штату о некоторых серьёзных происшествиях. Новая инициатива должна уточнить, какие автономные действия модели сами по себе требуют обязательного уведомления властей.
Смысл «kill switch» в документе описан осторожно. Власти не задают конкретную архитектуру и не утверждают, что одной кнопки достаточно для любой модели. Рабочая группа должна определить, можно ли технически гарантировать остановку передовой системы и как независимо подтверждать работоспособность такого механизма на постоянной основе, а не только перед выпуском модели.
Калифорния в последние месяцы расширяет сразу две стороны своей ИИ-политики. В августе штат запустил AI Cyber Defense Program для поиска уязвимостей и защиты государственной инфраструктуры с помощью нейросетей. Теперь власти одновременно усиливают контроль над рисками, которые способны создавать сами автономные системы, получающие всё больше возможностей.
Ньюсом также предлагает использовать калифорнийскую модель регулирования как основу для федеральных правил, однако распоряжение N-9-26 действует только в рамках полномочий штата. Документ не вводит национальный стандарт и не даёт Калифорнии возможности отключать модели за пределами своей юрисдикции. Дальнейший эффект зависит от рекомендаций рабочей группы и последующих решений законодателей.
Главный практический сдвиг состоит в том, что аварийное отключение вошло в официальный план доработки калифорнийского регулирования передовых ИИ-моделей. Пока власти лишь поручили оценить такую обязанность, но уже связали её с независимой проверкой и отчётностью о случаях потери контроля. Первые предложения должны появиться менее чем через два месяца.