Глава Anthropic: ИИ-компании под огнем критики за невыполнение обещаний

CEO Anthropic Дарио Амодеи озвучил основную претензию к ИИ-компаниям: они не смогли реализовать обещания принести пользу миру. Такое мнение он высказал, связывая негативное отношение общества к ИИ с «фундаментальным кризисом доверия» к технологиям.

В ответ на критику инвестора Гэвина Бейкера о чрезмерно негативной риторике, Амодеи отметил, что просто обещания победить рак недостаточны — нужны реальные достижения. Бейкер считает, что Амодеи должен стать более позитивным сторонником индустрии, готовясь возглавить одну из крупнейших публичных компаний.

Амадеи подчеркивает, что необходимо уделять равное внимание как рискам, так и преимуществам ИИ. В качестве примера он привел эссе Machines of Loving Grace, которое рассматривает потенциал ИИ в медицине и экономике. Однако он признает, что недоверие к технологиям и компаниям формировалось годами и требует конкретных действий.

CEO Anthropic также признает, что отрасль несет ответственность за невыполнение своих обещаний. Амодеи отметил, что ИИ-компании должны быть критикованы именно за это, а не за маркетинг. Он подчеркивает, что изменить ситуацию можно только реальными результатами, а не рекламными кампаниями.

С ним не согласен ИИ-исследователь Янн ЛеКун, который считает, что ИИ должен быть доступным и открытым, подобно печатному станку или интернету. Он отмечает, что разнообразие ИИ необходимо так же, как и разнообразие прессы, и критикует идею концентрации власти в ИИ.

Энджел Бродин из OpenAI считает, что доверие к ИИ-компаниям будет зависеть не только от технологических достижений, но и от доступности, лоббирования, прозрачности и справедливого распределения экономических выгод.