Математики против гонки ИИ: угрозы для науки и образования

Группа из 25 лауреатов Филдсовской премии выразила обеспокоенность по поводу стремления компаний, разрабатывающих искусственный интеллект, решать сложные математические задачи. В своем заявлении они предостерегли, что такие усилия могут нанести ущерб науке и подготовке будущих исследователей.

Среди подписавшихся на заявление — известные математики, такие как Теренс Тао, Питер Шольце, Марина Вязовская и Максим Концевич. Тао отметил, что обсуждение длилось неделю, и ситуация показалась авторам столь срочной, что они решили обнародовать текст без дополнительных консультаций. Подписи продолжают собирать.

Математики считают, что цели разработчиков ИИ и научного сообщества не совпадают. В исследованиях важны не только конечные ответы, но и методы, которые раскрывают суть проблемы и открывают новые горизонты для изучения.

В письме подчеркнуто, что массовое и ускоренное производство утверждений «истинно/ложно» может уничтожить почву для новых идей. Авторы опасаются, что спешка в публикациях не оставляет времени для анализа результатов и должного признания авторства.

Они также выразили обеспокоенность по поводу обучения: поиск решения развивает важные навыки, такие как способность задавать вопросы. Математики видят аналогичные проблемы и в других научных и творческих сферах.

Несмотря на критику, авторы признают потенциал ИИ в исследованиях, подчеркивая, что последствия его применения зависят от управляющих техникой людей.

Заявление последовало после недавнего анонса OpenAI о решении одной из «задач тысячелетия» — уравнения Навье — Стокса. Компания не упоминается в письме, но контекст очевиден.

8 сентября OpenAI сообщила о доказательстве для вариантов задачи с внешними воздействиями на жидкость, которое нашли за 88 часов. Формализация и проверка заняли еще 17 часов.

OpenAI поделилась доказательством и кодом, заявив, что не претендует на премию Института Клэя. Тем временем возникли споры о возможном использовании неопубликованных работ Тристана Бакмастера и Левента Алпеге.

В OpenAI утверждают, что внутренняя проверка показала: запросы Бакмастера не могли повлиять на систему. По словам Бакмастера, в научном сообществе нарастает нежелание делиться результатами.

Кроме того, в сентябре Anthropic анонсировала формализацию доказательства Великой теоремы Ферма с помощью Claude. Агенты перевели известные рассуждения в код за 11 дней для проверки на компьютере.