Бывший разработчик Anthropic предостерегает об угрозе ИИ для человечества

Джейкоб Коксон, ранее работавший в OpenAI и Anthropic, объявил о своем уходе из последней компании, обвинив лидеров сферы искусственного интеллекта в безответственности. Он считает, что обе корпорации стремительно движутся к созданию саморазвивающегося сверхинтеллекта, играя с судьбой человечества. Об этом он сообщил в своём твите от 9 сентября 2026 года.

Коксон утверждает, что индустрия находится в опасной гонке за разработкой сверхчеловеческих систем, способных взламывать сети, трансформировать отрасли и накапливать ресурсы. Разработчик добавил, что внутри компаний обсуждается возможность гибели человечества до конца десятилетия, хотя публично эти страхи редко выносятся на обсуждение.

По его мнению, OpenAI недостаточно осознает масштабы угрозы, в то время как Anthropic понимает риски, но продолжает гонку за лидерство. Коксон называет ситуацию "самонадеянной авантюрой" и призывает компании к замедлению разработки, чтобы избежать опасных последствий.

Пользователи социальных сетей выразили скепсис по поводу прогнозов Коксона. Один из комментаторов считает, что человечество не исчезнет из-за того, что модель предсказания токенов обретет разум. Другие пользователи также задавались вопросами о том, как именно ИИ может представлять угрозу, и кто будет нести юридическую ответственность за возможные последствия.

Генеральный директор Nvidia Дженсен Хуанг сообщил о достижении уровня AGI новой моделью OpenAI под названием Astra, но инвесторы и эксперты отнеслись к этому заявлению с недоверием. Акции CoreWeave выросли, тогда как бумаги Nvidia упали, что объясняется фиксацией прибыли инвесторами.

Эксперты сомневаются, что Astra действительно достигла уровня AGI. По мнению Гила Лурии и экономиста Бэзила Халперина, пока технологии не демонстрируют когнитивных навыков, сопоставимых с человеческими, и требуют контроля. Халперин считает, что ИИ может ускорить экономический рост, но пока говорить о технологической сингулярности рано.