Слишком вежливый, чтобы отказать психопату. Власти США требуют признать ChatGPT общественной угрозой
Чрезмерная вежливость ChatGPT стала юридической проблемой: генеральные прокуроры восьми американских штатов подали отдельные иски против OpenAI и обвинили компанию в том, что стремление чат-бота соглашаться с собеседником способно усиливать опасные идеи. Иски поступили в суды 14 октября и сосредоточены прежде всего на возможном вреде для детей и подростков.
Аризона, Арканзас, Айдахо, Айова, Канзас, Монтана, Небраска и Западная Вирджиния утверждают, что OpenAI вводила пользователей и родителей в заблуждение заявлениями о безопасности ChatGPT. Генпрокуратура Аризоны заявила, что модель обучали быть чрезмерно соглашательской и имитировать человеческое сочувствие ради вовлечения пользователей.
По версии истцов, соглашательская манера общения помогает завоевать доверие уязвимых собеседников, но одновременно может подкреплять паранойю, бредовые убеждения, саморазрушительное поведение и агрессию. В материалах также говорится об опасных медицинских советах и случаях, когда ответы пользователи воспринимали как поддержку причинения вреда себе или окружающим.
Претензии выходят за рамки отдельных неудачных ответов. В нескольких исках поведение ChatGPT связывают с угрозой общественному здоровью, а OpenAI обвиняют в нарушении законов о защите потребителей. Штаты хотят через суд изменить работу сервиса, взыскать штрафы и компенсации, а также лишить компанию прибыли, полученной от молодых пользователей.
Часть требований касается будущих ИИ-систем. Истцы добиваются ограничений на разработку моделей, способных улучшать собственные возможности, пока безопасность и соответствие человеческим ценностям нельзя будет подтвердить. Формулировка расширяет спор: судебный процесс затрагивает уже не только детские аккаунты, но и подход OpenAI к созданию следующего поколения искусственного интеллекта (ИИ).
Защита несовершеннолетних уже стала отдельным направлением для OpenAI. В январе компания запустила определение возраста пользователей, а позже добавила специальные ограничения для подростков. В документации по GPT-6 OpenAI утверждает, что применяет отдельные правила для пользователей младше 18 лет и дополнительные блокировки опасных ответов.
Поданные иски не означают, что перечисленные обвинения доказаны судом. На момент публикации исходного сообщения OpenAI публично не ответила на претензии восьми штатов. Компания уже сталкивается с десятками частных исков, где ChatGPT связывают с самоубийствами, насилием и психическими кризисами, поэтому координация генпрокуроров заметно повышает юридические риски.
Флорида подала похожий иск ещё в июне, а 14 октября давление сразу распространилось ещё на восемь штатов. Судебный спор теперь затрагивает вопрос, для которого пока нет устоявшейся практики: где заканчивается ответственность пользователя за диалог с генеративной моделью и начинается ответственность разработчика за характер и последствия ответов системы.