США и Китай готовят «красный телефон» для искусственного интеллекта
Вашингтон предложил Пекину создать специальный канал для экстренного обмена информацией об опасных инцидентах с искусственным интеллектом (ИИ). Если механизм одобрят лидеры двух стран, у США и Китая появится своеобразный «красный телефон» для ИИ, который должен помочь не допустить эскалации из-за действий автономных систем.
Инициативу министр финансов США Скотт Бессент представил 20 сентября на переговорах с вице-премьером Госсовета КНР Хэ Лифэном в Нью-Йорке. Стороны обсуждали запуск отдельного американо-китайского диалога по ИИ и систему уведомлений об инцидентах, способных затронуть национальную безопасность. Возможность создать такой отдельный канал между Вашингтоном и Пекином обсуждается уже несколько недель.
Бессент объяснил идею желанием сделать отношения двух крупнейших центров разработки ИИ прозрачнее. Конкретный перечень событий, после которых страны должны будут связываться друг с другом, пока не опубликован. Предполагается, что механизм охватит общие угрозы и чрезвычайные ситуации, связанные с наиболее мощными ИИ-системами.
Китайская сторона пока не подтвердила согласие на американское предложение. В официальном сообщении по итогам встречи говорится лишь о диалоге по вопросам искусственного интеллекта. Подробностей о системе экстренных уведомлений Пекин не раскрыл. На фоне переговоров специалисты двух стран уже предлагают установить красные линии для ИИ, особенно в системах, связанных с ядерным командованием и военной инфраструктурой.
Американский торговый представитель Джеймисон Грир уточнил, что ограничения США на экспорт передовых ИИ-чипов и оборудования для производства полупроводников в обсуждение нового механизма не входили. Вашингтон рассматривает канал прежде всего как инструмент управления рисками, а не как площадку для переговоров о технологических ограничениях.
Предложение должны рассмотреть президенты Дональд Трамп и Си Цзиньпин на встрече в Вашингтоне 24–25 сентября. Помимо ИИ, переговоры затрагивают торговые пошлины, инвестиции и поставки критически важных минералов. Подробности предложенного механизма уведомлений пока остаются предметом обсуждения, поэтому полноценный двусторонний канал ещё не создан.
Необходимость такого канала перестала выглядеть исключительно теоретической. Недавний случай в американских вооружённых силах показал, как ошибка ИИ в разведывательном докладе едва не привела к операции против китайского судна. Военные успели поднять самолёты и начать подготовку к высадке, прежде чем дополнительная проверка выявила неверный вывод чат-бота.
Одновременно в самих США обсуждают более жёсткий контроль над наиболее мощными моделями. Один из вариантов предусматривает право властей остановить релиз системы, если проверка выявит неприемлемый риск применения ИИ для кибератак, создания биологического или ядерного оружия.
Американо-китайский диалог развивается на фоне продолжающейся технологической конкуренции. Вашингтон опасается отставания от Пекина и одновременно пытается снизить риски, которые возникают по мере роста возможностей автономных систем. Недавние заявления Белого дома показали, что США пока не готовы замедлять гонку ИИ, поэтому прямой канал связи может стать одним из способов управлять последствиями без остановки разработки новых моделей.