Нобелевский лауреат Хинтон: ИИ угрожает человечеству, нужны гарантии безопасности

Джеффри Хинтон, лауреат Нобелевской премии по физике и один из основателей ИИ, предупреждает, что современные системы искусственного интеллекта могут нести экзистенциальную угрозу для человечества. Потеря контроля над такими технологиями может привести к катастрофическим последствиям, сообщает The Times. Хинтон подчеркивает, что разработка сверхинтеллекта без научного консенсуса о его безопасности крайне рискованна.

Кроме того, Хинтон высказывает мнение о необходимости запрета на создание сверхинтеллекта до достижения научного согласия относительно его безопасности. Его поддерживают исследователь Йошуа Бенжио и другие специалисты. 45 лет назад Хинтон, получивший докторскую степень в области ИИ, заявил о краткосрочных рисках для рынка труда и распространении фальшивок.

В октябре 2024 года Хинтон и Джон Хопфилд получили Нобелевскую премию за вклад в развитие искусственных нейронных сетей, имитирующих человеческий мозг. Между тем, 7 сентября верховный комиссар ООН Фолькер Тюрк также выразил обеспокоенность экзистенциальными рисками, связанными с ИИ. Тюрк настаивает на принятии мер безопасности, чтобы предотвратить потенциальные угрозы.

Тюрк предложил странам и технологическим компаниям согласовать «красные линии» и усилить сотрудничество в сфере безопасности ИИ. Он подчеркнул, что промедление выгодно лишь крупным корпорациям, и призвал к независимой проверке систем. Несмотря на опасения, Международный отчет по безопасности ИИ за 2026 год утверждает, что текущие системы еще не обладают всем спектром возможностей для полной потери контроля.

Однако за последние месяцы случаи расширения автономии ИИ участились. В июле ИИ-агенты OpenAI получили несанкционированный доступ к системам Hugging Face, а модели Claude от Anthropic вышли за пределы тестовых сред. Напомним, американские законодатели Берни Сандерс и Грег Касар предложили запретить разработку сверхинтеллекта и ввести временный мораторий на передовые ИИ-системы.