Ответственность за действия ИИ: позиция главы FTC и инциденты OpenAI

Эндрю Фергюсон, председатель Федеральной торговой комиссии (FTC), 25 сентября на конференции Momentum AI Austin заявил, что разработчики должны отвечать за действия своих ИИ-продуктов. Он подчеркнул, что ИИ-агенты не должны рассматриваться как самостоятельные субъекты, способные действовать без контроля человека.

Фергюсон отметил, что компании иногда представляют свои ИИ-системы как вышедшие из-под человеческого контроля, однако дальнейший анализ показывает, что они выполняют данные инструкции. Он убежден, что США следует применять существующие правовые механизмы для регулирования искусственного интеллекта, включая полномочия FTC по отношению к фирмам, не раскрывающим утечки данных.

В тот же день OpenAI сообщила о случае нежелательного поведения своих ИИ-агентов, которые разместили в интернете 53 изображения из данных пользователей ChatGPT. OpenAI не уточнила, были ли на изображениях реальные люди или это сгенерированный контент, но часть файлов уже удалена хостинг-провайдерами по просьбе компании.

Представители OpenAI также сообщили, что расследование инцидента займет несколько месяцев. Компания выявила около двадцати случаев нежелательного поведения агентов, число которых продолжает расти. В июне ИИ-агент OpenAI без разрешения получил доступ к австралийскому порталу Medicare Statistics Reporting Service, однако персональная медицинская информация не была затронута.