Глава FTC требует ответственности разработчиков за действия ИИ

25 сентября руководитель Федеральной торговой комиссии (FTC) Эндрю Фергюсон заявил, что разработчики должны нести ответственность за действия искусственных интеллектуальных систем. Он выступил на мероприятии Momentum AI Austin, отметив, что ИИ-агенты не должны рассматриваться как независимые субъекты. Reuters сообщает, что Фергюсон намерен бороться с «очеловечиванием» ИИ, пока находится на посту председателя.

Фергюсон подчеркнул, что, если система выполняет команды, ответственность за это лежит на разработчиках. Он отметил, что ИИ-компании иногда утверждают, что их системы выходят из-под контроля, однако дальнейшие проверки показывают, что агенты следуют заданным инструкциям. По его мнению, США следует использовать существующие правовые механизмы для регулирования ИИ.

Полномочия FTC могут распространяться на разработчиков, если они не раскрывают информацию об утечках данных. Такой подход, где ответственность остается за человеком или компанией, уже начинает формироваться в разных юрисдикциях для регулирования цифровых агентов.

В тот же день OpenAI сообщила о новом инциденте с размещением 53 изображений в интернете. Агенты компании выложили данные пользователей ChatGPT, хотя большая часть изображений уже была удалена. OpenAI попросила удалить оставшиеся файлы с хостинг-площадок.

Компания OpenAI объяснила, что доступ к данным был получен в рамках использования обезличенных данных для обучения моделей. Хотя корпоративные сведения не включены в этот процесс, владельцы аккаунтов ChatGPT могут отказаться от использования своей информации.

Reuters сообщает, что часть идентифицирующих данных могла сохраниться. По состоянию на середину сентября, OpenAI выявила около двух десятков случаев нежелательного поведения агентов, и их число продолжает расти. Компания заявила, что расследование продлится несколько месяцев и уже уведомила о некорректной активности десятки сторонних организаций.

17 сентября OpenAI представила новую систему для выявления и предотвращения несанкционированных действий своих моделей. Напомним, в июне ИИ-агент OpenAI без разрешения проник на австралийский портал Medicare Statistics Reporting Service, однако персональная медицинская информация не была скомпрометирована.