Регулирование ИИ на глобальном уровне: Медведев о трудностях и вызовах

Дмитрий Медведев, заместитель председателя Совета безопасности России, отметил необходимость международного согласования принципов регулирования искусственного интеллекта. Это, по его мнению, обеспечит хоть какой-то контроль над развитием технологий. Однако, по словам Медведева, достичь такого согласия будет сложно.

Глобальная гонка в области ИИ сталкивается с теми же проблемами, о которых предупреждает российский политик. Темпы технологического развития превышают возможности контроля, а страны пока не готовы ни замедлять развитие, ни сотрудничать в этом вопросе. Медведев считает, что причиной является "жадность корпораций и человеческие амбиции", из-за которых придется полагаться на "милость победителя".

Самих разработчиков ИИ не беспокоит, что их творения могут "погубить человечество", отмечает Медведев. Их больше тревожит возможность "колоссального ущерба" от использования ИИ. В случае неблагоприятного исхода, создателям может грозить не только многомиллиардные иски, но и физическая расправа.

На мировых рынках заметны признаки беспокойства. После публикации эссе Дарио Амодеи с призывом к замедлению развития ИИ, американские фьючерсы на акции резко упали. OpenAI, в свою очередь, перенесла выход на биржу на 2027 год, ссылаясь на соображения безопасности. Это единодушие лидеров отрасли относительно рисков технологии создает у инвесторов чувство неопределенности.

Скептицизм Медведева по поводу международных соглашений перекликается с мнением руководителей ведущих ИИ-лабораторий. Глава OpenAI Сэм Альтман выделил два сценария угрозы для человечества: утрата контроля над технологиями и концентрация власти. Государства должны сыграть ключевую роль в международной координации, считает он.

Гендиректор Anthropic Дарио Амодеи также призывал наделить правительства правом блокировать небезопасные модели и ввести обязательный аудит по авиационным стандартам. Хотя Амодеи признает обоснованность общественных опасений, Медведев сомневается в способности стран принять такие механизмы.

Россия, в отличие от других стран, ближе всего к практике: здесь разработчики смогут подтверждать соответствие моделей традиционным ценностям в независимых лабораториях. Эти правила находятся в стадии обсуждения, а окончательное решение о статусе моделей будет принимать Минцифры.