Бывший сотрудник Anthropic предостерегает об угрозах ИИ для человечества

Джейкоб Коксон, ранее работавший исследователем в OpenAI и Anthropic, покинул последнюю компанию, обвиняя лидеров ИИ в безответственном поведении, представляющем опасность для человечества. По его мнению, обе компании участвуют в гонке за создание саморазвивающегося сверхинтеллекта, что, по его словам, является игрой с жизнями людей.

Коксон считает, что компании стремятся к созданию систем, способных взламывать сети и быстро изменять целые отрасли. Он также утверждает, что разработчики ожидают вымирания человечества до конца десятилетия, несмотря на то, что публично эти опасения стараются сгладить.

По словам Коксона, OpenAI недооценивает масштабы угрозы, в то время как в Anthropic, осознавая риски, продолжают работу ради лидерства в ИИ. Он называет текущую ситуацию "самонадеянной авантюрой" и предлагает снизить темпы разработки, чтобы избежать необдуманных шагов.

Мнения пользователей сети разделились: некоторые считают прогнозы Коксона нелепыми, указывая на тысячелетнюю эволюцию человека. Другие задаются вопросом, каким образом ИИ может угрожать человечеству, приводя примеры с дронами и домашними устройствами.

Глава Nvidia Дженсен Хуанг заявил, что новая модель OpenAI, Astra, достигла уровня AGI, но это вызвало скепсис среди экспертов. Акции Nvidia упали, а CoreWeave и SoftBank показали рост, что аналитики связывают с рыночными ожиданиями.

Эксперты сомневаются в полном достижении AGI, отмечая, что истинный искусственный интеллект должен быть способен создать миллиардную компанию самостоятельно. Пока ИИ не продемонстрирует подобные возможности, разговоры о достижении AGI остаются теоретическими.

Экономист Бэзил Халперин считает, что фондовый рынок не отражает реальное развитие технологий, а настоящий маркер AGI — это значительное повышение реальных процентных ставок. Он прогнозирует, что в ближайшие годы ИИ станет драйвером экономического роста, но до технологической сингулярности еще далеко.

Ранее лауреат Нобелевской премии Джеффри Хинтон также предупреждал об экзистенциальных рисках, связанных с ИИ.