ChatGPT вам не друг. Глава Signal объясняет, почему нельзя пускать нейросети в личные чаты
Приватность в мессенджерах всё чаще упирается не в один взлом, а в вопрос доверия к сервисам, которым пользователи сами открывают доступ к переписке и данным. Президент Signal Мередит Уиттакер в интервью Bloomberg предупредила, что ИИ-чат-ботов вроде ChatGPT и Claude не стоит воспринимать как друзей, собеседников или разумные системы.
Уиттакер признала, что иногда использует такие инструменты для простых задач вроде форматирования документов, но не обращается к ним с вопросами. По словам главы Signal, работа над мыслью и текстом должна оставаться за человеком, а генеративная система усредняет уже существующие материалы и может подменить собственный ход рассуждений готовым ответом.
Главный риск, по её оценке, появляется не в самом факте общения с чат-ботом, а в расширении его доступа к другим приложениям и сервисам. Поводом стал сценарий главы Microsoft AI Мустафы Сулеймана, который предположил, что Copilot сможет взять на себя рождественские покупки и понять желания родственников по семейной переписке.
Уиттакер описала такой сценарий как систему с доступом к мессенджеру, браузеру, банковской карте, домашнему адресу, календарю и возможности писать родственникам от имени пользователя. В случае с защищённым мессенджером такая интеграция, по её оценке, фактически превратилась бы в обходной канал доступа.
Signal строит безопасность вокруг ограничения доступа к содержимому переписки, поэтому глубокая связка с универсальным ИИ-помощником вступает в прямой конфликт с моделью приватности сервиса. Уиттакер не говорит о реальной атаке или найденной уязвимости, а предупреждает о возможном сценарии, где удобство автоматизации требует передать помощнику слишком широкие права.