Математики объявили войну OpenAI. Даже Терренс Тао оказался в центре скандала
Ассоциация математиков призвала учёных прекратить сотрудничество с OpenAI после публикации сотен потенциально новых математических доказательств. Исследователи обвинили компанию в пренебрежении научными нормами и попытке переложить проверку результатов закрытой ИИ-модели на академическое сообщество.
Association for Human Mathematics (AHM) выступила с официальным заявлением 7 октября. Организация отвергла утверждение OpenAI о том, что массовая публикация автоматически способствует развитию математики, и призвала коллег скептически оценивать научную ценность подобного подхода. Текст также разместил в своём блоге Терренс Тао, профессор Калифорнийского университета в Лос-Анджелесе и лауреат Филдсовской премии 2006 года.
Поводом стала публикация 6 октября большой коллекции математических работ, созданных внутренней моделью OpenAI, которая пока недоступна исследователям за пределами компании. Первоначально репозиторий содержал 722 рукописи, объединённые в 372 группы взаимосвязанных результатов. Компания представила материалы как решения или существенный прогресс в известных открытых задачах из различных областей математики и теоретической информатики.
Главная претензия AHM касается не конкретных формул, а самого способа организации исследований. Представители ассоциации заявили, что математики не заказывали подобную работу и не соглашались превращаться в проверяющих результатов коммерческой ИИ-системы. По мнению организации, выпуск сотен рукописей без предварительного полноценного научного разбора противоречит принципам, благодаря которым математические открытия заслуживают доверия.
Особое возмущение вызвала позиция OpenAI относительно независимой консультативной группы Advisory Group on Mathematics and Artificial Intelligence (AGMAI). Компания ссылалась на консультации с экспертами при подготовке публикации. Однако группа ещё 29 сентября прямо указала в своих рекомендациях, что не одобряет проверку сложных математических задач на закрытых корпоративных моделях, и попросила ИИ-лаборатории прекратить подобную практику.
AHM считает, что OpenAI проигнорировала принципиальное требование консультантов, хотя использовала их рекомендации для обоснования выбранного подхода. Сама AGMAI заняла более осторожную позицию. В отдельном заявлении от 6 октября группа подчеркнула, что её консультации нельзя считать одобрением методов OpenAI или признанием научной значимости опубликованных результатов. Оценить работы и включить подтверждённые открытия в математическую науку ещё предстоит независимым исследователям.
Проблему усложняет неодинаковая степень проверки представленных доказательств. OpenAI снабдила часть материалов формальными записями на языке Lean, который позволяет компьютеру проверять логическую корректность математических рассуждений. Однако такие записи есть далеко не для всех результатов. Компания признаёт, что в работах без формальной проверки могут обнаружиться ошибки, и обещает исправлять выявленные недостатки.
Масштаб эксперимента также вызывает вопросы. По информации OpenAI, модель проверяли примерно на 4000 математических задачах, а средние вычислительные затраты на получение одного результата соответствовали приблизительно трём часам работы ChatGPT Pro в режиме углублённого рассуждения. Разработчики опубликовали десять сокращённых описаний процесса поиска решений, но саму исследовательскую модель пока не открыли. Независимо воспроизвести весь эксперимент научное сообщество не может.
OpenAI, со своей стороны, обещает улучшать оформление доказательств, точнее указывать предшествующие исследования и финансировать конференции, семинары и специальные программы для разбора результатов ИИ. Компания также намерена продолжать испытания внутренних моделей на сложных научных задачах. AGMAI считает публикацию лишь началом работы, поскольку математический прогресс требует не только формально правильных ответов, но и понимания методов, которые привели к результату.
Противостояние началось не в октябре. В сентябре OpenAI объявила о предполагаемом решении одной из знаменитых задач тысячелетия, связанной с уравнениями Навье-Стокса. Заявление вызвало споры о достоверности доказательств, научном авторстве и роли закрытых моделей в фундаментальных исследованиях. На фоне конфликта появилась AHM, выступающая за независимость математического сообщества от интересов технологических корпораций.
11 сентября Терренс Тао вместе с ещё 24 лауреатами Филдсовской премии подписал декларацию против превращения знаменитых нерешённых задач в испытательные полигоны для коммерческих ИИ-систем. Авторы предупреждали, что погоня за быстрыми ответами может разрушить привычный процесс научного поиска, при котором исследователи не только доказывают теоремы, но и создают новые методы, развивают идеи и передают знания следующим поколениям.
Позиция Тао особенно примечательна на фоне его прежнего интереса к искусственному интеллекту. Математик публично экспериментировал с ChatGPT и инструментами формальной проверки доказательств, рассматривая ИИ как перспективного помощника исследователя. При этом октябрьский текст AHM опубликован в его блоге как гостевое заявление организации, а не как отдельное личное обращение учёного.
В новом заявлении AHM также напомнила о судебных разбирательствах, в которых OpenAI защищается от обвинений в плагиате и нарушении интеллектуальных прав. Ассоциация рассматривает претензии к компании в более широком контексте научной этики и ответственности разработчиков. При этом наличие судебных исков само по себе не доказывает нарушений при создании опубликованных математических работ.
Самую жёсткую оценку ассоциация оставила напоследок. Массовую публикацию более 700 файлов AHM назвала не демонстрацией научных достижений, а демонстрацией силы. Организация призвала математиков отказаться от сотрудничества с OpenAI и вернуться к исследовательской работе, в центре которой находится человеческое понимание. Таким образом, спор вышел далеко за пределы проверки отдельных доказательств. Теперь математикам предстоит решить, готовы ли они принять модель научного прогресса, при которой закрытые ИИ-системы производят открытия быстрее, чем люди успевают разобраться в их содержании.