Лауреаты Филдсовской премии предостерегают от гонки ИИ за математическими рекордами

Четверть века лауреатов Филдсовской премии выразили обеспокоенность из-за стремления ИИ-компаний решать сложные математические задачи. В совместном заявлении они отметили, что использование таких результатов для демонстрации возможностей моделей может нанести ущерб науке и обучению исследователей.

Среди подписавшихся — известные математики Теренс Тао, Питер Шольце, Марина Вязовская и Максим Концевич. Тао отметил, что документ был составлен по итогам обсуждений, которые велись в течение недели. Авторы посчитали ситуацию достаточно срочной, чтобы выпустить обращение, не дожидаясь дополнительных консультаций.

По мнению авторов, цели ИИ-разработчиков и ученых расходятся. Для науки важен не только результат, но и методы, которые помогают глубже понять проблему и продолжать исследовательскую работу. Быстрое массовое производство ответов может подорвать базу для новых идей, говорится в письме.

Полученные доказательства требуют анализа, интеграции с ранее выполненными работами и объяснения коллегам и студентам. Подписанты отметили, что спешка в публикации результатов не оставляет времени на эти важные аспекты и должное указание авторства. Это касается и обучения, где самостоятельные поиски решений развивают умение задавать новые вопросы.

Математики также признали, что ИИ может быть полезен для исследований, но подчеркнули, что последствия его применения зависят от решений людей, управляющих технологией. Обращение появилось на фоне заявлений OpenAI о результате по уравнению Навье — Стокса, одной из задач тысячелетия, хотя компания не была упомянута в декларации.

8 сентября OpenAI сообщила, что их ИИ-система нашла доказательство для вариантов задачи, связанных с внешним воздействием на жидкость. Процесс занял 88 часов, а еще 17 часов ушло на формализацию и проверку в системе Lean. Компания опубликовала результаты и код, добавив, что не претендует на премию Института Клэя.

Результат OpenAI вызвал споры о возможном использовании неопубликованных работ математиков Тристана Бакмастера и Левента Алпеге. Однако в OpenAI заявили, что внутренняя проверка показала, что запросы Бакмастера не могли повлиять на систему. Бакмастер в комментарии The Guardian отметил, что в математическом сообществе теперь никто не хочет делиться своими наработками.

В сентябре Anthropic представила формализацию доказательства Великой теоремы Ферма, выполненную системой Claude. За 11 дней агенты перевели известные математические рассуждения в код для компьютерной проверки.