Пользователи сети высмеяли «моральную конституцию» Трампа для ИИ

Новое соглашение о безопасности ИИ, которое Дональд Трампзаключилс руководителями крупнейших технологических компаний, многие встретили со скепсисом.

Спор разгорелсяпод постомпредпринимателя и инвестора Энтони Помплиано. Он спросил подписчиков, можно ли теперь считать, что суперинтеллект никого не уничтожит, а только сделает людей продуктивнее и богаче.

Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наштелеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!

Во вторник, 29 сентября, Трамп провел ланч с главами ведущих IT-компаний.По данным The Guardian, за столом были Илон Маск (SpaceX), Марк Цукерберг (Meta, признана экстремистской и запрещена в РФ), Дженсен Хуанг (Nvidia), Дарио Амодеи (Anthropic) и другие топ-менеджеры. После встречи президент объявил, что они подписали «морально обязывающий» документ Joint Commitment On Frontier Responsibilities. Трамп сравнил его с конституцией и заявил, что компании смогут эффективно контролировать себя сами.

Соглашение предусматривает четыре уровня контроля:

внутренний мониторинг безопасности во время обучения моделей;

отдельную внутреннюю команду, которая проверяет работу этого мониторинга;

внешнего аудитора с правом независимо оценивать меры безопасности;

независимый совет, который изучает отчеты о проверках.

При этом документ добровольный. Механизмов принуждения и юридических последствий в нем, судя по всему, нет. Госрегуляторы в проверках не участвуют, а публиковать итоги независимых оценок компании не обязаны. Аудиторов и членов наблюдательных советов они, по всей видимости, выбирают сами. Первый уровень контроля и так уже работает в крупных лабораториях. Но он не помешал случиться инцидентам, в ходе которых ИИ во время тестов безопасности случайно взламывали сторонние организации.

Параллельно Трамп подписал указ о переименовании искусственного интеллекта. Теперь федеральные ведомства должны писать в официальных документах и публичных заявлениях «Super Intelligence» и «SI», а от терминов «Artificial Intelligence» и «AI» отказаться.

Цукерберг на пресс-конференции сказал, что гордится соглашением. По его словам, цель документа в том, чтобы убедить американцев, что технологии компаний заслуживают доверия. Сам разговор он назвал историческим и добавил, что это только начало.

Трамп при этом по-прежнему выступает против жесткого регулирования ИИ. Он ссылается на конкуренцию с Китаем и риски для экономики. Дополнительного госнадзора требуют законодатели, исследователи и даже часть ИИ-компаний.

Помплиано спросил подписчиков, можно ли теперь считать, что суперинтеллект никого не уничтожит, а только сделает людей продуктивнее и богаче. Многие ответили «нет», некоторые перешли на оскорбления. Один из комментаторов заметил, что пресс-конференции в Белом доме вряд ли стоит считать убедительным аргументом.

Раскритиковали и переименование ИИ. Пользователи сети считают термин «суперинтеллект» нелепым.

Часть откликнувшихся высказалась по существу:

Пользователи сети не поняли, что именно изменила встреча.

Многие считают, что ИИ-разработчики не учитывают риски редких катастрофических сценариев.

Появление суперинтеллекта признают все, но никто пока не договорился, кто сможет его отключить.

Комментаторов интересует, будет ли обещанное процветание общим или достанется только участникам встречи с Белом доме.

Многие боятся, что остановить технологию уже невозможно.

Нашлись и более мрачные прогнозы. Один комментатор предположил, что ИИ сделают козлом отпущения за сокращение населения планеты, другой назвал технологию опасной и заявил, что ее создателям понадобится помилование.

Напомним, ранее редакция BeInCrypto писала о том, чтобизнес в России увеличит траты на ИИ в 3 раза — до 770 млрд рублей.

The postПользователи сети высмеяли «моральную конституцию» Трампа для ИИappeared first onBeInCrypto.