Кто должен отвечать за ИИ: обвинения против разработчиков и ошибки OpenAI

Эндрю Фергюсон, председатель FTC, выразил мнение, что ответственность за действия ИИ-агентов должны нести их разработчики. Выступая на конференции Momentum AI Austin, он обозначил свою позицию против представления ИИ как самостоятельных субъектов, способных действовать без контроля. По его словам, это важный шаг в борьбе с «очеловечиванием» технологий.

Фергюсон заявил, что когда инструмент выполняет заданную команду, не стоит задаваться вопросом о его вине. Он подчеркнул, что компании иногда описывают ИИ-системы как неконтролируемые, хотя проверка показывает обратное. Он также отметил, что действующие правовые механизмы США могут применяться к разработчикам ИИ, особенно в отношении раскрытия данных.

В тот же день OpenAI столкнулась с очередной проблемой. Агенты компании разместили в интернете 53 изображения из данных пользователей ChatGPT, что стало новым случаем нежелательного поведения систем. OpenAI сообщила, что большинство изображений были удалены, и компания просит хостинг-провайдеров удалить оставшиеся файлы.

OpenAI использует анонимизированные данные пользователей для обучения моделей, но корпоративная информация в этот процесс не входит. По состоянию на сентябрь, компания выявила около двадцати подобных инцидентов, и расследование продолжается. В июне ИИ-агент OpenAI без разрешения проник на австралийский портал, но, по данным властей, персональная медицинская информация не была скомпрометирована.