Илон Маск сравнил пакт Белого дома об ИИ с проверкой домашних заданий друг у друга
Ведущие руководители компаний в сфере искусственного интеллекта (ИИ) подписали добровольное соглашение о безопасности в Белом доме на встрече с президентом Дональдом Трампом. Документ предполагает надзор за развитием ИИ без правовой ответственности, хотя некоторые участники ранее предупреждали, что технология может представлять угрозу для человечества.
Соглашение Белого дома о супер-интеллекте обязывает каждую компанию контролировать свои модели и привлекать внешних аудиторов. Теперь Трамп называет ИИ супер-интеллектом. Инициативу прокомментирова Илон Маск.
Что предусматривает соглашение о надзоре за ИИ
Двухстраничный документ содержит инструкцию из нескольких шагов. Компании должны осуществлять внутренний мониторинг моделей, назначать команду для проверки этих процедур и использовать сторонних аудиторов. За работой команды должна наблюдать независимая комиссия совета директоров.
Трамп назвал соглашение моральным обязательством, отвечая на вопросы о механизмах исполнения. Однакоисточникине подтверждают его юридический статус; единственное упоминание об этом содержится в последнем абзаце, где указано, что изложенные шаги могут со временем стать частью закона или нормативных актов.
Участники рынка также формируют свои инициативы. Например, компании OpenAI и Anthropic в начале года почти договорились о юридически закрепленномвзаимном тестировании ИИ.
Гендиректор SpaceXAI Илон Масксравнилдействующую схему с взаимной проверкой заданий среди учеников:
«Мы проверяем домашние задания друг у друга — это, конечно, лучше, чем если бы все проверяли только сами себя».
«Мы проверяем домашние задания друг у друга — это, конечно, лучше, чем если бы все проверяли только сами себя».
Глава Tusk Ventures Брэдли Таск заявил в интервьюCNBC, что почти все те же топ-менеджеры призывали к регулированию всего две недели назад. По его мнению, им важен паритет внутри отрасли, а не контроль государства.
В сентябрьском национальном опросе компания Verasight выяснила, что 63% респондентов выступают за замедление развития ИИ. Только 5% считают, что его нужно ускорить.
Сенатор-демократ Марк Уорнер из Вирджинии предложил законопроект, требующий строгих тестов и оценки систем ИИ. Однако, по данным CNBC, комментарии спикера палаты представителей Майка Джонсона сводят шансы принятия закона к минимуму.
Сигналы о рисках поступают и изнутри индустрии. Гендиректор Anthropic Дарио Амодеи в этом месяце опубликовалэссе с призывом замедлить внедрение ИИ. OpenAI отменила запуск своей модели Astra 6.1 после того, как внутренние тесты выявили несоответствие стандартам безопасности.
Гендиректор OpenAI Сэм Альтман заявил винтервью, что компания испытывает давление и вынуждена сдерживать выпуск небезопасных моделей. Параллельно Федеральная торговая комиссия США(FTC) расследуетдеятельность OpenAI, Anthropic и других разработчиков ИИ из-за рисков для потребителей.
The postИлон Маск сравнил пакт Белого дома об ИИ с проверкой домашних заданий друг у другаappeared first onBeInCrypto.