Угроза от ИИ: Экс-разработчик обвинил компании в безответственности

Джейкоб Коксон, бывший исследователь OpenAI и Anthropic, покинул Anthropic, обвинив ИИ-гигантов в безответственности. По его словам, компании стремительно движутся к созданию саморазвивающегося сверхинтеллекта, подвергая человечество опасности.

Коксон утверждает, что обе компании участвуют в гонке за разработку сверхчеловеческих систем, способных взламывать сети и менять индустрии. Он также отметил, что в индустрии ИИ всерьез обсуждают возможность гибели человечества до конца десятилетия, несмотря на публичные уверения руководства.

По словам Коксона, в OpenAI недооценивают масштабы угрозы, тогда как в Anthropic осознают риски, но продолжают гонку. Он призвал компании замедлить темпы разработки и временно ограничить мощности, чтобы избежать необдуманных шагов.

Некоторые пользователи соцсетей скептически восприняли опасения Коксона. Они считают, что человечество пережило столетия эволюции и не вымрет из-за ИИ. Другие задавались вопросом, как именно сверхинтеллект может угрожать людям.

Генеральный директор Nvidia Дженсен Хуанг объявил, что новая модель OpenAI, Astra, достигла уровня общего искусственного интеллекта. Однако многие эксперты и инвесторы отнеслись к этой новости с недоверием, указывая на отсутствие реальных доказательств достижения AGI.

Акции CoreWeave и SoftBank выросли на фоне этих заявлений, тогда как бумаги Nvidia немного снизились. Эксперты считают, что рынок уже ожидает пика успехов Nvidia, поэтому инвесторы ищут новые перспективные проекты.

Экономист Бэзил Халперин выразил сомнение в достижении AGI, отмечая, что современные ИИ еще не достигли уровня когнитивных навыков человека. Он считает, что реальным показателем прогресса станет значительный рост мирового ВВП и процентных ставок.

Халперин предсказывает, что в ближайшие годы ИИ приведет к экономическому буму, но говорить о технологической сингулярности пока рано. В сентябре Джеффри Хинтон, лауреат Нобелевской премии, также предупреждал об экзистенциальных рисках ИИ.