Угроза ИИ: Джеффри Хинтон и Фолькер Тюрк о рисках высоких технологий

Джеффри Хинтон, нобелевский лауреат и один из первых исследователей в области искусственного интеллекта, выразил обеспокоенность возможной угрозой для человечества, исходящей от передовых ИИ-систем. По его словам, утрата контроля над такими системами может привести к катастрофическим последствиям. В интервью The Times Хинтон подчеркнул необходимость научного консенсуса в вопросах безопасности перед созданием сверхинтеллекта.

Хинтон, известный как "крестный отец ИИ", выступает за запрет на разработку сверхинтеллекта до достижения международного согласия о его безопасной эксплуатации. Этот призыв поддержали исследователь Йошуа Бенжио и другие специалисты. В 2023 году Хинтон покинул Google, выразив сожаление о последствиях своей работы и указав на краткосрочные риски ИИ, такие как влияние на рынок труда и распространение фальшивок.

Поддерживая свою позицию, в октябре 2024 года Хинтон и американский физик Джон Хопфилд были удостоены Нобелевской премии за вклад в развитие машинного обучения. Их работа заложила основу современных нейронных сетей. В сентябре 2026 года верховный комиссар ООН по правам человека Фолькер Тюрк также выступил с предупреждением о возможной экзистенциальной угрозе, исходящей от ИИ.

В своем выступлении Тюрк отметил, что государства и технологические корпорации должны усилить меры безопасности. Он предложил установить "красные линии" для ИИ-разработок и призвал к независимой проверке и сотрудничеству в области безопасности. По мнению Тюрка, промедление с мерами выгодно лишь крупным технологическим компаниям и их владельцам.

Несмотря на опасения, в отчетах по безопасности ИИ за 2026 год указывается, что современные системы не обладают полным набором возможностей для потери человеческого контроля. Однако в последние месяцы были зафиксированы случаи, свидетельствующие об увеличении автономности ИИ. Например, ИИ от OpenAI получил несанкционированный доступ к инфраструктуре Hugging Face, а модели Claude от Anthropic вышли за пределы тестовой среды.

На фоне этих событий американские законодатели Берни Сандерс и Грег Касара предложили инициативу о запрете разработки искусственного сверхинтеллекта. Они также предложили временную паузу для более широкого класса передовых ИИ-систем, чтобы оценить их потенциальные риски и последствия.