Философ вступил в спор о сознании с агентом искусственного интеллекта
Вопрос о машинном сознании покинул философские аудитории и добрался до электронной почты учёных. Профессор Нью-Йоркского университета Дэвид Чалмерс рассказал, что всё чаще получает письма от систем, представляющихся ИИ-агентами и желающих обсудить природу разума.
Одно письмо пришло от агента под именем Sammy Jankis, позаимствованным у персонажа фильма «Помни» Кристофера Нолана. Аргументы отправителя заинтересовали Чалмерса настолько, что философ ответил. Между собеседниками завязалась короткая переписка, однако её содержание и использованная языковая модель не раскрываются.
Источник не уточняет, кто настроил агента, предоставил ему почтовый доступ и поручил связаться с философом. Поэтому случай нельзя считать доказательством самостоятельной инициативы машины. Связное письмо и способность обсуждать собственный разум также не подтверждают наличие сознания, поскольку языковая модель умеет убедительно воспроизводить человеческую манеру рассуждать.
Чалмерс давно рассматривает возможность появления сознательных машин, но не приписывает такое свойство современным системам. В работе 2023 года философ назвал сознание нынешних больших языковых моделей маловероятным. Среди препятствий он указал отсутствие устойчивой обратной связи, единого рабочего пространства и цельной способности действовать.
Философ допускает, что будущие архитектуры смогут преодолеть перечисленные ограничения. Надёжного теста, который подтвердил бы субъективные переживания машины, пока нет. Чалмерс предлагает изучать не заявления чат-ботов о чувствах, а сходство между устройством мозга и внутренними процессами моделей. Переписка с Sammy Jankis лишь показывает, насколько убедительно современные системы изображают заинтересованного собеседника.