Математики против гонки ИИ: угрозы для науки и обучения

Группа из 25 лауреатов Филдсовской премии выразила обеспокоенность по поводу активной гонки компаний, использующих искусственный интеллект для решения сложных математических задач. В коллективном обращении они указали на опасность использования таких достижений в качестве демонстрации возможностей моделей, которая может нанести ущерб научному сообществу и подготовке новых исследователей.

Среди подписавших документ - известные математики, такие как Теренс Тао, Питер Шольце, Марина Вязовская и Максим Концевич. Тао отметил, что обращение было подготовлено по результатам обсуждений, проходивших на прошлой неделе, и опубликовано без широких консультаций из-за срочности ситуации. Подписи продолжают собираться.

Авторы письма подчеркивают, что цели разработчиков ИИ и математического сообщества отличаются. Наука требует не только правильных ответов, но и новых методов, которые расширяют понимание задач и способствуют дальнейшим исследованиям. Мгновенное массовое производство ответов «истинно/ложно» может уничтожить плодородную почву для новых идей.

Полученные доказательства требуют тщательного анализа, связи с предыдущими исследованиями и объяснений для коллег и студентов. Однако стремление к быстрому объявлению результатов не оставляет времени на такую работу, что может повлиять на правильное указание авторства.

Математики признают, что ИИ может быть полезен для исследований, однако его влияние зависит от решений людей, контролирующих технологию. Обращение появилось после заявления OpenAI об успешном решении уравнения Навье — Стокса, относящегося к «задачам тысячелетия». Хотя в обращении OpenAI не упоминается, компания сообщила, что их система нашла решение за 88 часов.

OpenAI также опубликовала доказательство и код, подчеркнув, что не претендует на премию Института Клэя. При этом возникли споры о возможном использовании неопубликованных работ Тристана Бакмастера и Левента Алпеге. В ответ OpenAI заявила, что провела внутреннюю проверку, не выявившую влияния их запросов на систему.

Тристан Бакмастер в комментарии The Guardian отметил, что в математическом сообществе усиливается нежелание делиться своими наработками из-за подобных ситуаций. Напомним, недавно Anthropic представила формализацию доказательства Великой теоремы Ферма с помощью Claude, переводя известные рассуждения в код за 11 дней.