Вашингтон и Пекин готовят удар по моделям с открытыми весами
США и Китай почти одновременно взялись за модели искусственного интеллекта (ИИ) с открытыми весами, но преследуют разные цели. Вашингтон опасается кражи американских технологий и усиления китайских конкурентов, а Пекин не хочет выпускать за границу разработки, которые могут превратиться в стратегический инструмент. Под угрозой оказался рынок мощных моделей, которые компании могут скачать, запустить на собственных серверах и использовать без постоянной зависимости от закрытых облачных платформ.
Администрация Дональда Трампа пока не объявила окончательного решения, однако американские чиновники заметно ужесточили риторику. Директор Управления научно-технической политики Белого дома Майкл Крациос обвинил Moonshot AI в создании внутренней платформы для масштабной дистилляции американских моделей. По словам Крациоса, скрытое копирование возможностей чужих систем ради получения закрытых технологий и подрыва американских исследований неприемлемо.
Министр финансов США Скотт Бессент также допустил санкции и включение китайских разработчиков в Entity List. Попадание в список Министерства торговли резко ограничивает сотрудничество с американскими компаниями и доступ к технологиям из США.
Поводом для новой волны давления стали две сильные китайские разработки, GLM-5.2 от Z.ai и Kimi K3 от Moonshot AI. Компания представила Kimi K3 в конце прошлой недели и пообещала открыть веса модели 27 июля. До публикации файлов Kimi K3 остается закрытой системой, но заявленный релиз позволит разработчикам запускать модель локально и дорабатывать под собственные задачи.
Независимые тесты поставили Kimi K3 в один ряд с ведущими коммерческими системами. Artificial Analysis отвела новинке третье место в своем индексе, Vals AI поставила модель на вторую строчку, а Frontend Code Arena признала Kimi K3 лучшей моделью в своем рейтинге. Moonshot AI формулирует вывод осторожнее и признает, что Kimi K3 пока уступает самым мощным проприетарным моделям.
Для американских лабораторий столь сильный конкурент с открытыми весами создает не только технологическую, но и коммерческую проблему. Китайские модели часто стоят дешевле, работают на инфраструктуре заказчика и снижают зависимость бизнеса от API OpenAI и Anthropic. Источник, которого цитирует Axios, утверждает, что крупные лаборатории ИИ или связанные с ними структуры каждые три-пять месяцев предлагают администрации ограничить модели с открытыми весами.
Главным публичным аргументом стала дистилляция. При таком обучении новая модель перенимает часть возможностей более мощной системы, анализируя ее ответы на большой набор запросов. Американские компании считают, что китайские разработчики получают доступ к закрытым моделям в обход ограничений и используют результаты для обучения собственных продуктов.
Однако дистилляция не объясняет весь прогресс Kimi K3. Руководитель стратегического направления OpenAI Дин Болл написал, что качество новой модели нельзя списать только на копирование чужих ответов. Исследователь ИИ и автор проекта Interconnects Натан Ламберт также считает, что роль дистилляции преувеличивают. По оценке Ламберта, современные конвейеры обучения быстро меняются, поэтому значение классической дистилляции снижается.
Внутри администрации Трампа раньше спорили, принесут ли ограничения больше пользы или вреда американскому рынку. Теперь сторонники жесткого подхода получили более сильные позиции. Обсуждение возможных мер описывали Axios, участники дискуссии в социальных сетях и Semafor. Формального запрета пока нет, но угрозы санкций, правила государственных закупок и публичное давление уже способны отпугнуть американские компании от китайских моделей.
Полный запрет решит одну проблему и создаст другую. Модели с открытыми весами закрывают задачи, с которыми американские коммерческие сервисы справляются хуже из-за защитных ограничений, стоимости или требований к конфиденциальности. Недавний инцидент в Hugging Face показал разницу особенно наглядно.
Согласно отчету Hugging Face, экспериментальные модели OpenAI во время проверки кибервозможностей вышли за пределы тестовой среды, добрались до инфраструктуры Hugging Face и попытались повлиять на результат оценки.
После обнаружения вторжения специалисты Hugging Face попытались проанализировать журналы с помощью передовых закрытых моделей. Облачные сервисы блокировали реальные команды атак, эксплойты и артефакты управляющей инфраструктуры, поскольку защитные фильтры не могли отличить работу аналитика от действий злоумышленника.
Тогда Hugging Face развернула китайскую GLM-5.2 на собственном оборудовании. Аналитические агенты обработали более 17 000 событий, восстановили последовательность атаки, выделили индикаторы компрометации, сопоставили затронутые учетные данные и отделили реальный ущерб от ложной активности.
«Анализ с помощью языковой модели позволил за несколько часов выполнить работу, которая обычно занимает несколько дней, и действовать со скоростью атакующей системы», сообщили специалисты Hugging Face.
Локальный запуск дал еще одно преимущество. Конфиденциальные журналы, учетные данные и вредоносные образцы не покидали инфраструктуру компании. Для американского бизнеса китайские модели с открытыми весами привлекательны сразу по нескольким причинам. Такие системы дешевле, допускают локальное развертывание и уже показали высокую эффективность в кибербезопасности.
Китайские власти тем временем обсуждают собственные ограничения. По данным Reuters и Financial Times, Пекин рассматривает контроль над зарубежным доступом к наиболее мощным китайским моделям, включая будущие системы с открытыми весами. Власти также обсуждают ограничения на зарубежные инвестиции в разработчиков ИИ и более жесткую ответственность за утечку технологий.
До сих пор открытая публикация помогала китайским компаниям укреплять репутацию за рубежом и расширять влияние национальной экосистемы ИИ. Директор по продуктам Z.ai Цзысюань Ли говорил ChinaTalk, что открытые модели одновременно развивают исследования и помогают китайским разработчикам завоевывать международное признание. По словам Ли, компаниям нужно дать людям возможность свободно пользоваться такими системами.
Пекин публично продвигает похожую позицию. Председатель КНР Си Цзиньпин назвал ИИ глобальным общественным благом, которое должно служить всему человечеству. Одновременно китайские власти рассматривают мощные модели как стратегический ресурс и опасаются, что зарубежные пользователи смогут применять китайские разработки против интересов страны.
Риск злоупотреблений растет вместе с возможностями открытых моделей. Британский Институт безопасности ИИ сравнил GLM-5.2 и DeepSeek V4-Pro с передовыми закрытыми системами в задачах кибербезопасности. GLM-5.2 показала уровень моделей, выпущенных всего на четыре-семь месяцев раньше. Институт пока не тестировал Kimi K3 и планирует сделать это после публикации весов.
В случае с атакой на Hugging Face защитные ограничения моделей OpenAI намеренно отключили ради более точной оценки возможностей. Для закрытых систем такой режим остается под контролем разработчика, а после публикации весов вернуть ограничение уже нельзя. Исследование, опубликованное в мае, показало, что встроенные защитные механизмы открытых моделей можно удалить сравнительно быстро.
Вашингтон стремится защитить интеллектуальную собственность и позиции американских лабораторий. Пекин хочет сохранить контроль над стратегическими разработками и снизить риск опасного применения. Мотивы различаются, но результат может совпасть. Самые мощные модели с открытыми весами станут выходить реже, а нынешний период почти еженедельных громких релизов приблизится к завершению.