Альтман из OpenAI: два пути к катастрофе из-за ИИ

Сэм Альтман, руководитель OpenAI, в своих публикациях на платформе X обозначил два сценария, способных обернуться катастрофой для человечества из-за ИИ. Первый сценарий — это утрата контроля над будущим в пользу искусственного интеллекта. Второй — чрезмерная концентрация власти в руках отдельного человека, компании или государства.

По мнению Альтмана, избежать этих угроз можно лишь следуя сложному пути между ними. Он утверждает, что OpenAI всегда будет на стороне человечества, и ИИ должен служить людям, а не наоборот. Для этого необходимо обеспечить, чтобы развитие моделей ИИ не опережало возможности их контроля.

OpenAI поддерживает создание федеральных регулятивных норм для безопасности передовых моделей ИИ. Альтман подчеркнул, что начинать нужно с того, что компании могут сделать сами, не ожидая законов или антимонопольных действий. Он также считает важным привлечение независимых аудиторов и разработку единых правил управления рисками.

На фоне всех этих заявлений ярким событием стало увольнение Джейкоба Коксона из Anthropic, который обвинил свою прежнюю компанию и OpenAI в безответственности. Его слова вызвали волну обсуждений и критики в адрес Альтмана, которого упрекнули в лицемерии и пустом пиаре.

Многие пользователи подчеркнули, что американские ИИ-компании не находятся в вакууме, и если они замедлят развитие, то китайские компании могут получить преимущество. Это приведет к концентрации власти в одной стране, чего Альтман и опасается.