Альтман призвал смириться с частью вреда от ИИ ради его преимуществОбществу придется принять…
Обществу придется принять некоторые негативные последствия ИИ — ради его преимуществ и широкого доступа к технологии. Об этом в интервьюPoliticoзаявил генеральный директор OpenAI Сэм Альтман.
«Мы считаем, что мир должен принять некоторые плохие вещи ради преимуществ этой технологии и свободы действий людей», — сказал он.
«Мы считаем, что мир должен принять некоторые плохие вещи ради преимуществ этой технологии и свободы действий людей», — сказал он.
Среди возможных негативных последствий глава OpenAI назвал крупные взломы, злоупотребление ИИ и мошенничество.
Полностью исключить их можно лишь ценой жестких ограничений. При этом Альтман не согласился бы на такой размен. По его словам, люди будут делать с помощью искусственного интеллекта «на порядки больше хорошего, чем плохого».
Он отметил, что вместе с тем у допустимого риска есть пределы. Например, Альтман не готов смириться с катастрофическими сценариями, в частности с серьезной потерей контроля над ИИ.
Главным предметом интервью стали различия в подходах OpenAI и Anthropic к безопасности и регулированию ИИ.
Альтман подчеркнул, что между компаниями сохраняется «фундаментальная разница во взглядах». OpenAI выступает за более широкий доступ пользователей к мощным системам и менее жесткое регулирование. Anthropic придерживается более осторожной позиции.
Он признал, что понимает логику сторонников жестких ограничений. Те считают, что технология станет настолько мощной и опасной, что ею должна владеть одналаборатория в Сан-Франциско. Она будет следить, чтобы не произошло ничего плохого, и сама распределять доступ к преимуществам ИИ.
С такой позицией глава OpenAI не согласился и назвал эту модель неприемлемым компромиссом. По его мнению, стремление полностью исключить вред не должно приводить к концентрации контроля над технологией в руках одной компании.
Несмотря на разногласия, в последние месяцы взгляды OpenAI и Anthropic на безопасность частично сблизились.
12 сентября CEO Anthropic Дарио Амодеипризвалразработчиков замедлить рост возможностей передовых моделей, чтобы меры предосторожности успевали за развитием технологии.
Он предложил дать независимым экспертам постоянный доступ к системам, которые должны оценивать поведение ИИ и проверять, соблюдают ли разработчики свои обязательства.
Альтман в тот же день публично поддержал идею регулировать темп развития передовых моделей и согласился с необходимостью независимой оценки.
OpenAI также стала активнее поддерживать обязательное регулирование. 9 сентября компаниявыступилаза федеральные требования безопасности, привязанные к возможностям нейросетей.
До принятия общенациональных правил она поддержала четыре законопроекта в Калифорнии, которые касаются независимой оценки ИИ, стандартов для аудиторов, защиты молодежи и защиты от биологических угроз.
Разработчик ChatGPT отдельно выделяет наиболее серьезные категории угроз: наступательные кибервозможности, биологические и химические риски, вредоносные манипуляции и потерю контроля над системами. Для нихпредусмотреныспециальные процедуры оценки и снижения рисков.
23 сентября на заседании Совета БезопасностиООНАльтманзаявило необходимости сохранять мощные ИИ-системы под человеческим контролем и развивать международное сотрудничество в этой сфере.
Напомним, подкомитет Сената СШАначал проверкудействий OpenAI послеиюльского инцидентас Hugging Face.
Витрина вместо кассы: почему передовые ИИ-модели уже не впечатляют