OpenAI наняла сотни подрядчиков для анализа переписок ChatGPT

Издание 404 Media сообщило, что компания OpenAI привлекла сотни подрядчиков для анализа переписок пользователей ChatGPT. В их распоряжении оказались материалы проекта Project Lily, включая инструкции и систему оценки ответов. Основная задача — улучшение качества взаимодействия с чат-ботом.

Подрядчики анализировали полные диалоги пользователей, которые иногда содержали личные данные. Цель заключалась в том, чтобы пересказать намерения пользователей и оценить реакции ChatGPT. Представители OpenAI не предупреждали пользователей о том, что их переписки могут быть прочитаны.

Процесс рецензирования включал три этапа: анализ запроса, описание намерений пользователя и оценка ответов ChatGPT. Ответы оценивались по шкале от 1 до 7 в зависимости от их полезности и четкости. Хотя OpenAI утверждает, что использует Privacy Filter для удаления личной информации, журналисты отмечают, что его эффективность ограничена.

Также выяснилось, что переписки могут быть просмотрены людьми для улучшения моделей, о чем пользователи не всегда знают. В некоторых случаях пользователи просили сохранить конфиденциальность разговоров, что указывает на их неосведомлённость о возможном чтении переписок.

На момент публикации вакансии для таких рецензентов были открыты через рекрутинговую фирму Crossing Hurdles, предлагающую заработок свыше $50 в час. Хотя Anthropic и Google также прибегают к проверке переписок людьми, они заявляют об обезличивании данных.

Эксперты отмечают, что подобные проверки необходимы для улучшения безопасности, но могут создавать ложное чувство приватности у пользователей. Тем не менее, оплата труда рецензентов значительно превышает заработки в смежных областях, таких как модерация контента в соцсетях.