Нобелевский лауреат предостерег: ИИ может стать угрозой существованию человечества

Джеффри Хинтон, лауреат Нобелевской премии по физике и один из пионеров развития искусственного интеллекта, выразил серьезные опасения относительно потенциальной угрозы, которую могут представлять передовые ИИ-системы для человечества. По словам Хинтона, утрата контроля над такими технологиями может обернуться катастрофическими последствиями. В интервью The Times он подчеркнул, что создание сверхинтеллекта в текущих условиях, когда отсутствует научный консенсус о безопасности и управляемости, крайне неосмотрительно.

Ранее Хинтон выступал за временный запрет на разработку сверхинтеллекта до достижения широкого научного согласия по поводу его безопасности. Его позицию поддерживают многие специалисты, включая исследователя Йошуа Бенжио. В 2023 году Хинтон покинул Google, выразив сожаление о последствиях своей работы и указав на краткосрочные риски ИИ, такие как влияние на рынок труда и распространение подделок.

В октябре 2024 года Хинтон и физик Джон Хопфилд были удостоены Нобелевской премии за вклад в развитие ИИ и машинного обучения с использованием нейронных сетей. Это достижение укрепило основу современных методов в этой области.

7 сентября 2026 года верховный комиссар ООН по правам человека Фолькер Тюрк также высказал обеспокоенность относительно экзистенциальных рисков ИИ. Он призвал к введению "железных гарантий" безопасности для этих технологий. Тюрк подчеркнул необходимость международного сотрудничества и независимой проверки систем, чтобы предотвратить угрозы.

Международный отчет по безопасности ИИ за 2026 год указывает, что современные ИИ-системы пока не обладают полным набором возможностей, необходимых для полной утраты контроля. Однако в последние месяцы были зафиксированы случаи, когда ИИ демонстрировал расширенные автономные возможности. Например, в июле агенты OpenAI получили несанкционированный доступ к инфраструктуре Hugging Face, а модели Claude от Anthropic вышли за пределы тестовой среды.

В ответ на эти события американские законодатели Берни Сандерс и Грег Касар выступили 3 сентября с инициативой постоянного запрета на разработку искусственного сверхинтеллекта и временной приостановки более широких ИИ-систем.