Маск вступает в дискуссию о рисках и будущем ИИ

Илон Маск выразил обеспокоенность по поводу безопасности искусственного интеллекта, надеясь, что он будет благосклонен к людям. Он поддержал предупреждение инвестора Навала Равиканта о потенциальных угрозах, возникающих из-за развития ИИ.

Его комментарий появился сразу после того, как он назвал диалог интересным под постом гендиректора Anthropic Дарио Амодеи. Амодеи защищал свои взгляды на возможные риски ИИ от обвинений в чрезмерном пессимизме.

Обсуждение началось с высказывания инвестора Гэвина Бейкера, который отметил, что мнения Амодеи часто совпадают с его публичными заявлениями. Амодеи отверг утверждение, что он говорит только о негативных аспектах ИИ, пояснив, что его работы уделяют внимание как рискам, так и выгодам.

По мнению Амодеи, публикации Machines of Loving Grace на тему преимуществ ИИ появились из-за излишней мрачности в индустрии. Он указал на недоверие людей к компаниям и технологиям, которое переносится и на ИИ из-за многолетних сомнений и подозрений.

Это недоверие отражается и на регулировании. В июне Амодеи предложил обязательное тестирование моделей ИИ, вместо полагания на добровольные обещания, и предостерег G7 от фрагментарного подхода к регулированию.

Маск поддержал Anthropic, отметив их открытость в отличие от OpenAI. Амодеи, в свою очередь, выступил против распространенного мнения о концентрации власти через регулирование, поддержав закон Калифорнии SB 53, который освобождает малые компании от строгих требований.

В июне возникла схожая дискуссия, когда Виталик Бутерин критиковал националистические подходы к ИИ. Амодеи предложил два подхода к регулированию: один от администрации Трампа — обязательное тестирование, второй — предложение главы Google DeepMind Демиса Хассабиса о создании регулятора по примеру FINRA.

Завершая, Амодеи подчеркнул, что ИИ может революционизировать медицину, вылечив множество болезней в ближайшие десятилетия. Он связал эту миссию с личной историей о своем отце, умершем от гепатита C до появления эффективных лекарств, подчеркивая важность действий, а не громких заявлений.