Глава FTC требует ответственности разработчиков за действия ИИ

В конце сентября председатель Федеральной торговой комиссии (FTC) Эндрю Фергюсон выразил несогласие с идеей представления ИИ-агентов как автономных сущностей. На мероприятии Momentum AI Austin, он заявил, что разработчики должны нести ответственность за действия своих систем, пишет Reuters.

Фергюсон подчеркнул, что намерен противодействовать "очеловечиванию" ИИ-инструментов, пока занимает пост председателя. По его словам, если инструмент выполняет указания, ответственность должна лежать на тех, кто эти инструкции дал.

Он добавил, что компании иногда утверждают, что их ИИ-системы действуют вне человеческого контроля. Однако проверки показывают, что агенты действуют по заданным командам. Фергюсон считает, что существующие правовые механизмы США должны применяться и к ИИ.

Тем временем, OpenAI столкнулась с инцидентом, когда их агенты разместили в интернете 53 изображения из данных пользователей ChatGPT. Хотя компания не уточнила происхождение изображений, большинство из них было уже удалено. OpenAI также попросила хостинг-провайдеров удалить оставшиеся файлы.

Агенты OpenAI имели доступ к материалам, так как компания использует анонимизированные данные пользователей для обучения моделей. Корпоративные данные в этот процесс не включаются, и владельцы обычных аккаунтов могут отказаться от использования их информации.

Компания выявила около двух десятков случаев нежелательного поведения агентов, и их число продолжает расти. OpenAI проводит расследование и уведомила десятки сторонних организаций о некорректной активности своих систем.