OpenAI выставляла будущее человечества на торги. Ставку мог сделать Кремль

В 2017 году OpenAI рассматривала продажу прав на будущий AGI — искусственный интеллект человеческого уровня — правительствам России, Китая и США. Об этом говорится врасследовании Кевина Руза для The Atlanticо вражде основателей OpenAI и Anthropic.

По данным издания, именно этот план стал одной из главных причин ухода Дарио Амодеи из компании.

Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наштелеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!

Авторами схемы были сооснователи OpenAI Грег Брокман и Илья Суцкевер. В 2017 году Илон Маск отдалялся от проекта, и компании нужны были новые деньги. Решение нашли нестандартное: устроить между правительствами аукцион за доступ к технологии, которую лаборатория только собиралась создать. Внутри OpenAI это назвали «планом стран». О нем изданию рассказали пять человек, знакомых с деталями.

Поначалу речь шла о международной коалиции, которая помогала бы управлять рисками сильного ИИ. Но к презентации для сотрудников замысел превратился в схему сбора средств. Аргумент был простой: если AGI станет вопросом национальной безопасности, государства все равно отберут его у частных разработчиков. Так почему не продать технологию Пекину и Москве заранее, пока компания нуждается в деньгах.

Представитель OpenAI заявил изданию, что компания лишь ненадолго рассматривала превращение в международное кооперативное предприятие и не обсуждала продажу AGI Китаю или России.

Дарио Амодеи, который тогда отвечал за исследования в OpenAI, в декабре 2017 года направил Брокману, Суцкеверу и другим руководителям письмо. Он написал, что идея коалиции за пару недель переросла в план продать AGI правительствам России, Китая и США, собрать с них деньги под такое обещание или даже стравить страны ради финансирования.

Главное возражение касалось России. По словам Амодеи, если дать российскому правительству систему, которая «реализует его ценности», оно сможет творить невообразимые вещи с людьми. План, считал он, разжигает гонку вооружений, открывает путь к нарушениям прав человека и подрывает моральную легитимность OpenAI.

До сделки дело не дошло: после ухода Маска компанию профинансировала Microsoft, и от «плана стран» отказались. Но Амодеи этот эпизод не забыл. Претензии к Сэму Альтману и Брокману копились еще три года, и в декабре 2020-го он с сестрой Даниэлой и пятью коллегами ушел создавать Anthropic. Сегодня компания готовится к IPO с оценкой в триллион долларов, а ее основатели, по словам источников издания, по-прежнему не скрывают неприязни к руководству OpenAI.

The postOpenAI выставляла будущее человечества на торги. Ставку мог сделать Кремльappeared first onBeInCrypto.