Бывший разработчик Anthropic предостерег об угрозе ИИ для человечества

Джейкоб Коксон, ранее работавший в OpenAI и Anthropic, покинул последнюю компанию, выразив недовольство действиями гигантов в области искусственного интеллекта. Он обвинил их в безответственности и создании угрозы для человечества, утверждая, что их стремление к созданию саморазвивающегося сверхинтеллекта представляет опасность для всех. Коксон подчеркнул, что такие действия могут привести к катастрофическим последствиям.

По словам Коксона, компании вовлечены в опасную гонку за создание сверхчеловеческих систем, которые смогут взламывать сети и изменять целые отрасли. Он также отметил, что внутри индустрии страх перед исчезновением человечества обсуждается регулярно, хотя публично эта тема замалчивается. Коксон подчеркнул, что ни одна другая сфера деятельности не несет таких рисков.

Коксон выразил обеспокоенность по поводу подхода к безопасности в OpenAI и Anthropic. В OpenAI, по его словам, не осознают масштаб угрозы, тогда как в Anthropic, хоть и понимают риски, все равно стремятся обогнать конкурентов. Он призвал компании договориться о временной приостановке разработки новых моделей, чтобы понять механизмы работы их нейронных сетей.

Объявление о достижении уровня AGI новой моделью OpenAI Astra, сделанное главой Nvidia Дженсеном Хуангом, вызвало скепсис среди экспертов. Хотя акции CoreWeave и SoftBank выросли, бумаги Nvidia упали на фоне ожиданий, что компания достигла своего пика. Эксперты считают, что пока ИИ не сможет самостоятельно создать бизнес стоимостью $1 млрд, говорить о настоящем AGI рано.

Экономист Бэзил Халперин из Университета Вирджинии также усомнился в заявлениях Хуанга, утверждая, что современные нейросети еще не обладают когнитивными навыками на уровне взрослого человека. Он отметил, что реальным индикатором появления AGI станет значительное ускорение мирового экономического роста. Пока же рост ВВП от развития технологий оценивается в 0,5 процентного пункта.