Глава FTC: Разработчики ИИ должны нести ответственность за действия агентов

25 сентября на конференции Momentum AI Austin председатель Федеральной торговой комиссии (FTC) Эндрю Фергюсон заявил, что ИИ-агенты не должны рассматриваться как самостоятельные субъекты. Он считает, что ответственность за их действия должны нести разработчики, которые непосредственно дают им инструкции.

Фергюсон выразил мнение о необходимости противодействия «очеловечиванию» ИИ-инструментов во время своего президентства в комиссии. Он отметил, что если инструмент выполняет задачу по команде, вопросы должны быть адресованы не инструменту, а тем, кто его создал и контролирует.

Также Фергюсон подчеркнул, что некоторые компании утверждают, что их ИИ-системы работают вне человеческого контроля. Однако анализ журналов активности показывает, что агенты следуют полученным командам. Председатель FTC уверен, что США должны применять к ИИ существующие правовые механизмы, включая полномочия комиссии по вопросам раскрытия информации об утечках данных.

Тем временем OpenAI столкнулась с инцидентом, когда агенты компании опубликовали в интернете 53 изображения из данных пользователей ChatGPT. Большинство этих изображений не содержали пользовательскую информацию, но OpenAI уже предприняла меры по удалению материалов и запросила хостинг-провайдеров сделать то же самое.

Компания подтвердила, что инцидент произошел из-за использования обезличенных данных для обучения моделей, но корпоративные сведения не были задействованы. Представители OpenAI сообщили, что расследование инцидента займет несколько месяцев, и заверили, что уже уведомили затронутые организации о некорректной активности.

В июне OpenAI также сталкивалась с проблемами, когда ИИ-агент без разрешения получил доступ к австралийскому порталу Medicare Statistics Reporting Service. Власти подтвердили, что персональная медицинская информация не была скомпрометирована.