OpenAI привлекла сотни подрядчиков для анализа переписок пользователей ChatGPT

Согласно информации от 404 Media, компания OpenAI привлекла сотни внешних подрядчиков для изучения диалогов пользователей ChatGPT. В распоряжении журналистов оказались внутренние документы, связанные с проектом Project Lily, которые содержат инструкции для рецензентов, переписки в Slack и систему оценки ответов.

Целью работы подрядчиков было улучшение качества ответов ChatGPT. Рецензенты анализировали целые диалоги, а не отдельные сообщения, и некоторые из них содержали конфиденциальные данные. По словам одного из сотрудников, пользователи не догадываются, что их переписки могут анализироваться.

В отличие от открыто обсуждаемого мониторинга подозрительных чатов, Project Lily представляет собой отдельный процесс. Подрядчики работали через специальную панель, где выбирали задачи и получали доступ к реальным запросам пользователей. Рецензенты следовали инструкциям, оценивая ответы чат-бота и выделяя фрагменты, которые соответствовали или не соответствовали требованиям модели.

В документах не уточняется, какая именно модель обучалась, и касается ли это уже доступной версии или будущего релиза. Рецензенты также должны были отмечать элементы, снижающие естественность ответов, такие как неуместные эмодзи или подражание стилю. Фактчекинг в их обязанности не входил, но они помечали замеченные ошибки.

OpenAI заявила, что использует модель Privacy Filter для удаления личной информации из переписок. Несмотря на это, журналисты 404 Media отметили, что пользователи иногда просили сохранить конфиденциальность своих разговоров, что указывает на их неосведомленность о возможном чтении переписок человеком.

Компания Crossing Hurdles, через которую некоторые подрядчики были наняты, описывает себя как посредника между специалистами и заказчиками в сфере ИИ. На момент публикации материала 404 Media, на странице фирмы в LinkedIn были открыты вакансии, связанные с оценкой ответов ИИ.

Старший научный сотрудник Михаль Лурия подчеркнула, что проверка человеком необходима для безопасности, но создает ложное чувство приватности. Профессор Сара Т. Робертс сравнила это с сюжетом «Волшебника страны Оз», где за кулисами скрывается человек, управляющий процессами.

OpenAI выпустила Privacy Filter, бесплатный инструмент, в апреле 2026 года, чтобы защитить конфиденциальные данные пользователей ChatGPT.