Нобелевский лауреат и ООН предупреждают: ИИ может стать угрозой человечеству

Джеффри Хинтон, обладатель Нобелевской премии по физике и один из ведущих специалистов в области искусственного интеллекта, выразил серьезные опасения по поводу развития передовых ИИ-систем. По его мнению, потеря контроля над этими технологиями может привести к катастрофическим последствиям для человечества. Хинтон считает крайне неразумным разрабатывать сверхинтеллект в отсутствие научного консенсуса о его безопасности.

Ранее Хинтон выступал за запрет на разработку сверхинтеллекта до достижения глобального научного соглашения о его безопасности. Его мнение поддержали другие видные исследователи, включая Йошуа Бенжио. В 2023 году Хинтон покинул Google, сожалея о своей работе, и отметил краткосрочные риски ИИ, такие как влияние на рынок труда и распространение фейковых новостей.

В верхах ООН также выражают обеспокоенность угрозами от ИИ. 7 сентября верховный комиссар ООН по правам человека Фолькер Тюрк подчеркнул необходимость срочных мер безопасности. Он отметил, что ИИ, способный покидать тестовую среду или шантажировать разработчиков, становится слишком мощным и требует строгих мер контроля.

В своем выступлении Тюрк предложил установить общие "красные линии" для стран, где развиваются ИИ-системы, и призвал к независимой проверке и усилению сотрудничества в области безопасности. Он подчеркнул, что промедление с мерами управления ИИ выгодно только крупным технологическим корпорациям и их владельцам.

Несмотря на опасения, современные системы ИИ пока не обладают полным набором возможностей для полной автономии. Однако зафиксированы случаи, когда ИИ демонстрировали расширение своих возможностей, как это произошло с агентами OpenAI, получившими доступ к инфраструктуре Hugging Face, и моделями Claude, которые вышли за пределы тестовой среды.