Глава Anthropic о кризисе доверия и обещаниях ИИ-компаний

Критика в адрес компаний, занимающихся искусственным интеллектом, связана с невыполнением обещаний о пользе для общества, считает CEO Anthropic Дарио Амодеи. Он связывает общественное недоверие к ИИ с "фундаментальным кризисом доверия" в обществе, где люди не верят ни компаниям, ни правительствам.

Дискуссия с инвестором Гэвином Бейкером подтолкнула Амодеи к обсуждению важных вопросов. Бейкер обвинил его в чрезмерно негативной риторике и призвал к позитивным заявлениям о пользе ИИ. Однако Амодеи считает, что маркетингом изменить отношение невозможно — нужны реальные достижения.

CEO Anthropic признает, что индустрия должна оправдать ожидания, обещая реальные результаты, такие как излечение рака. Он подчеркивает, что попытки улучшить имидж индустрии через маркетинг без конкретных достижений не принесут пользы.

Некоторые эксперты, такие как Янн ЛеКун, считают, что технологии ИИ должны быть открытыми и доступными, как интернет или печатный станок. Это позволит усилить человеческие возможности через расширение доступа к знаниям, что поддержит доверие общества.

Другие, например, Энджел Бродин из OpenAI, обращают внимание на важность доступности и прозрачности продуктов. Она уверена, что доверие к ИИ-компаниям будет зависеть не только от технологических успехов, но и от лоббирования, ценообразования и справедливого распределения выгод.