Anthropic строит систему массовой слежки
Anthropic, ещё недавно отказавшая Пентагону в праве использовать Claude для массовой слежки внутри США, сама разворачивает систему наблюдения за активистами, протестами и людьми, которых корпоративная служба безопасности считает потенциальной угрозой. Компания стремится не только реагировать на инциденты, но и заранее прогнозировать возможные проблемы.
Одним из инструментов стала платформа Samdesk, которая собирает сигналы из открытых источников, использует искусственный интеллект (ИИ) для обнаружения событий и дополняет автоматический анализ проверкой специалистов. Руководитель центра безопасности Anthropic Кеон Эллисон рассказывал, как сервис примерно за час предупредил компанию, что организаторы перенесли протест на более раннее время. Служба безопасности успела изменить маршрут топ-менеджера и провести его в гостиницу через служебный вход.
Корпоративный мониторинг не ограничивается мероприятиями возле офисов. Anthropic заявляла, что отслеживает подозрительное поведение отдельных людей в рамках процесса person-of-interest, чтобы замечать признаки возможной эскалации. Несколько человек, о которых компания впоследствии сообщила полиции, уже находились под наблюдением службы безопасности. В одном случае Anthropic обратилась в полицию Сан-Франциско после слов пользователя Claude о купленной винтовке и гендиректоре Дарио Амодеи, но отказалась передать полицейским саму переписку.
Масштаб программы виден и по найму сотрудников. Команда Global Safety, Intelligence, and Security искала специалиста по корпоративной разведке с зарплатой от $180 тысяч до $230 тысяч в год. Среди задач значились выявление, оценка, отслеживание и расследование глобальных угроз, причём «активизм» стоял в одном перечне с терроризмом, преступностью, геополитической нестабильностью и действиями государств против отрасли ИИ. Параллельно Anthropic снова усиливает связи с сектором национальной безопасности, хотя американские спецслужбы продолжали тестировать Mythos даже на фоне конфликта компании с Пентагоном.
Доступные материалы не подтверждают, что Anthropic напрямую использует Claude для составления досье на активистов. Подтверждены работа собственной разведывательной команды, сотрудничество с ИИ-платформой Samdesk, наблюдение за протестами и практика длительного отслеживания отдельных людей. Опубликованная система мониторинга выглядит особенно противоречиво на фоне публичной позиции Anthropic против массовой внутренней слежки. На вопросы о программе компания не ответила.
Спор о границах наблюдения уже дорого обошёлся Anthropic. В августе федеральный суд признал незаконной попытку Пентагона наказать разработчика Claude после отказа снять ограничения на массовую слежку и автономное оружие. Теперь похожие вопросы возникают уже к собственной службе безопасности компании.
Проблема выходит далеко за пределы одной корпорации. Американские силовые структуры уже начали рассматривать протесты против ИИ через призму экстремизма и возможных угроз инфраструктуре. На таком фоне корпоративные системы, которые собирают открытые сведения об активистах и пытаются предсказывать их действия, рискуют стереть границу между защитой сотрудников и наблюдением за законной политической активностью.