Как «генеративная оптимизация» заставляет ИИ рекламировать то, чего нет
Теперь даже умный цифровой помощник рискует превратиться в обычного рыночного «зазывалу».
В Китае быстро набирает обороты новый способ продвижения товаров через искусственный интеллект. Компании массово используют так называемую «оптимизацию генеративных систем», чтобы продвигать нужный контент в ответах нейросетей. Однако за внешней эффективностью скрывается серьёзная проблема — поток ложной информации, который влияет на результаты поиска и рекомендации.
О подобных практиках рассказали 15 марта на ежегодном телешоу по защите прав потребителей, которое проводит государственный телеканал CCTV. Как выяснилось, услуги по «оптимизации» продаются на крупных площадках вроде Taobao и JD.com и стоят от нескольких тысяч до десятков тысяч юаней за три месяца.
Сама технология появилась недавно, когда поисковые системы начали активно внедрять искусственный интеллект. Её задача — повысить видимость определённых товаров или материалов в ответах нейросетей. Для этого в системы вроде DeepSeek, Doubao и Kimi загружают большой объём заранее подготовленных текстов, которые затем попадают в выдачу и влияют на ответы.
На практике многие компании используют такие инструменты не только для продвижения, но и для системного распространения дезинформации. Схема выглядит просто — в сеть загружают множество материалов с выгодным описанием продукта, после чего нейросети начинают воспринимать такие данные как достоверные и включают их в ответы пользователям.
Один из представителей отрасли продемонстрировал, насколько легко манипулировать алгоритмами. Он купил программу «Liqing GEO Optimization System» и создал вымышленный продукт — умные часы Apollo-9. После загрузки выдуманных характеристик система автоматически сгенерировала и опубликовала десятки текстов с положительными отзывами.
Уже через два часа один из популярных ИИ-сервисов начал рекомендовать несуществующий продукт, ссылаясь на эти публикации. Через несколько дней после добавления новых материалов, включая поддельные обзоры и рейтинги, разные модели начали включать Apollo-9 в списки лучших устройств.
Основатель системы Ли Цин признал, что подобные методы вызывают вопросы с точки зрения этики, но остаются востребованными у бизнеса. По его словам, компании активно используют такие инструменты, несмотря на риски, рассчитывая получить преимущество в цифровой среде.
Рост популярности таких услуг резко увеличил нагрузку на сайты, которые публикуют подобные материалы. Ранее малодоходные площадки теперь получают сотни заказов в день и выпускают статьи практически каждую минуту.
Китайские регуляторы уже обратили внимание на проблему. В начале года Государственное управление по регулированию рынка включило рекламу, созданную с помощью ИИ, в список ключевых вызовов. Однако отдельные правила для подобных сервисов пока не разработаны.
После резонанса вокруг ситуации ряд компаний пообещали ограничить распространение недостоверного контента. Тем не менее рынок таких услуг продолжает расти, а влияние на экосистему искусственного интеллекта становится всё заметнее.