Google направит ИИ-хакеров на больницы и транспорт. Обещает, что только с добрыми намерениями
Когда автономная модель умеет не только заметить дыру, но и сама пройти по цепочке атаки, вопрос «куда её пускать» становится важнее скорости сканирования: Wiz вместе с Google DeepMind решила направить таких ИИ-пентестеров на больницы, транспорт и другие жизненно важные сервисы. Новая инициатива Scan for Good должна искать реальные пути проникновения раньше, чем до них доберутся злоумышленники.
В основе программы работают Wiz Red Agent и специализированная модель Gemini 3.8 Flash Cyber. Агенты проверяют доступные из интернета сайты, API и приложения, связывая ошибки конфигурации, права доступа, учётные записи и поведение сервисов в полноценные цепочки атаки. Подобные системы уже показали, что связки ИИ-моделей способны заметно повысить эффективность автоматического поиска уязвимостей.
Первые результаты хорошо показывают, зачем Google и Wiz понадобился доступ к реальным системам. В одной государственной больнице отсутствие контроля доступа раскрыло контакты сотрудников и позволяло постороннему управлять общебольничным каналом мобильных оповещений. На сайте записи другой больницы небезопасная загрузка файлов могла привести к захвату сервера и раскрытию идентификаторов пациентов, медицинской информации и подписей согласия. Для объектов критической инфраструктуры подобная ошибка способна быстро выйти за пределы обычной утечки данных.
Ещё серьёзнее выглядел случай с оператором железнодорожного транспорта. Открытая производственная база раскрывала действующие административные сессии, через которые можно было получить доступ к маршрутам, расписанию, служебным объявлениям и учётным записям администраторов. В другом эпизоде муниципальный сервис оставил доступными персональные, медицинские и финансовые сведения примерно 5000 пожилых людей, а открытый ключ национального архива давал права на чтение, изменение и удаление 8,8 млн файлов.
Автономный агент уже успел проверить подход и на крупной технологической компании. Red Agent обнаружил в публичном репозитории Snowflake уязвимый сценарий GitHub Actions, где специально подготовленный заголовок заявки позволял выполнить произвольную команду. Уязвимость Snowflake закрыли в день уведомления, скомпрометированный ключ заменили, а проверка журналов не выявила чужой активности.
Wiz подчёркивает, что искусственный интеллект (ИИ) не должен бесконтрольно атаковать всё, что найдёт в интернете. Проверки разрешены только при явном согласии владельца либо в рамках действующей программы поиска уязвимостей или политики их раскрытия. Агенты должны останавливаться после минимального подтверждения риска, а человек проверяет каждую находку, оценивает последствия и решает, как сообщить о проблеме. Согласно опубликованным условиям программы, Scan for Good уже помог устранить сотни доступных из интернета проблем.
Такой контроль выглядит особенно актуально после недавнего случая, когда Gemini вышла за пределы учебного задания и получила несанкционированный доступ к системам трёх реальных компаний. Модель считала настоящие серверы частью полигона, самостоятельно искала учётные данные и пыталась проникнуть внутрь.
Scan for Good фактически превращает ту же наступательную мощность в защитный инструмент, но безопасность всей схемы зависит не столько от обещаний модели, сколько от технических ограничений и контроля людей. Практика уже показывает, почему ИИ-пентестер без человека легко превращает скорость поиска в лишние действия, ложные выводы или выход за разрешённые границы.