Бывший сотрудник OpenAI предложил притормозить ИИ-гонку до 2040 годаАвторы прогноза о вымирании человечества из-за ИИ выпустили новый сценарий — на этот раз с шансом на спасение. Документ AI 2040: Plan A представили экс-исследователь OpenAI Дэниел Ко

Авторы прогноза о вымирании человечества из-за ИИ выпустили новый сценарий — на этот раз с шансом на спасение. ДокументAI 2040: Plan Aпредставили экс-исследователь OpenAI Дэниел Кокотайло и AI Futures Project. Кокотайло покинул OpenAI в апреле 2024 года. Он ушел из-за разногласий по вопросам безопасности искусственного интеллекта, а в 2025 году основал проект AI Futures Project. В апреле того же года организация выпустила прогноз AI 2027. В нем говорилось, что ИИ-гонка между США и Китаем может привести к исчезновению человечества или диктатуре. При этом авторы уточнили: вероятность вымирания варьируется в диапазоне от 10% до 30%. AI 2040: Plan A специалисты назвали рекомендацией: описанным набором шагов, который может снизить риски. Согласно сценарию, в 2029 году США и Китай заключают международное соглашение об отказе от гонки за сверхинтеллектом. Без сделки автоматизация ИИ-разработок произошла бы уже в 2030 году. Вместо этого страны развивают нейросети постепенно — до уровня лучших экспертов-людей. К 2035 это приостанавливают, чтобы сохранить контроль человека над системами, а в 2040 году паузу снимают, и ИИ достигает уровня сверхинтеллекта. План опирается на четыре принципа: выиграть время для исследований безопасности; полностью раскрыть ИИ-разработки; распределить искусственный интеллект между разными компаниями и странами; сохранить обратимость процесса. Чтобы стороны доверяли друг другу, Plan A опирается на верификацию. Крупные дата-центры видно из космоса, поэтому их сложно скрыть. На этом строится первый шаг: страны публично декларируют покупки ИИ-чипов. Дальше вводят временную паузу на новые обучающие прогоны — датчики на дата-центрах подтверждают ее соблюдение. Когда доверие подтверждено, ограничение снимают, но исследования остаются полностью прозрачными: любая страна и компания видит, что делают остальные. От срыва сделки должно защитить «взаимно гарантированное уничтожение вычислительных мощностей», которое авторы сравнили с логикой ядерного сдерживания. Новые дата-центры Китая по плану строят в Канаде, а объекты США — в Монголии, то есть на территории, которую в случае конфликта проще всего атаковать сопернику. Если соглашение провалится, принимающая страна попытается захватить чужие мощности на своей территории, а владелец уничтожит их сам, чтобы они не достались противнику. По расчетам авторов, мировые вычислительные мощности вырастут с 20 млн H100-эквивалентов в 2026 до 60 млрд к 2034 году. Реальный рост ВВП США в отдельные периоды 2030 годов достигнет 50% в год — против обычных 3%. Из-за автоматизации занятость в Соединенных Штатах упадет с 62% в 2027 до 12% к 2040 году. Для компенсации потери рабочих мест эксперты предложили ввести «гражданские дивиденды» — выплаты каждому взрослому американцу из доходов, которые государство собирает с компаний за разрешения на вычисления и роботов. Согласно прогнозам AI Futures Project, в 2032 году дивиденд составит $45 000 на человека. К 2035 он вырастет до $1 млн, а к 2039 году — до $10 млн. Специалисты противопоставили Plan A четырем другим путям развития событий. По их словам, это сюжетные линии одного сценария — иллюстрация того, что произойдет при других решениях властей. План B— США создают коалицию союзников и давят на Китай, вплоть до кибератак и точечных ударов по чужим ИИ-проектам. Сценарий заканчивается выбором между потерей контроля над ИИ и войной. План C— Вашингтон пытается договориться с Пекином и ввести внутреннее регулирование, но под давлением компаний паузу быстро снимают. Финал несет риск постоянной олигархии небольшой группы, контролирующей сверхинтеллект. План D— власти делают ставку на минимальное регулирование и гонку. Риски — потеря контроля над ИИ, крайняя концентрация власти и третья мировая война. План S— полная бессрочная остановка передовых ИИ-разработок. Главная опасность — сделка рано или поздно распадется, и гонка возобновится в менее контролируемых условиях. Напомним, в феврале эксперты Citrini Researchпредсказаликрах экономики из-за искусственного интеллекта.