OpenAI привлекла сотни подрядчиков для анализа диалогов в ChatGPT

Издание 404 Media сообщило, что OpenAI наняла многочисленных подрядчиков для изучения переписок пользователей ChatGPT. Проект, известный как Project Lily, включал в себя инструкции рецензентам, переписки в Slack и системы оценки ответов, а также сами запросы пользователей. Главная задача подрядчиков заключалась в анализе диалогов для улучшения качества ответов чат-бота.

Подрядчики работали с полными диалогами, а не с отдельными сообщениями, что иногда включало чувствительные данные. В одном из интервью, проведенных 404 Media, представитель подрядчиков отметил, что пользователи вряд ли осознают, что их переписки анализируются. Этот процесс отличается от официально объявленных OpenAI проверок на нарушения или угрозы безопасности.

Процесс анализа включал в себя три этапа: чтение запроса, описание намерения пользователя и оценку ответов ChatGPT. Например, пользователи могли просить переписать сообщение в Slack для создания более располагающего тона. Рецензенты должны были оценивать ответы по шкале от 1 до 7, где 7 означало почти идеальный ответ, и объяснять свои оценки.

Модель, которую обучали, не была уточнена в документах, и неизвестно, идет ли речь о будущей или уже существующей модели. Инструкция требовала, чтобы ответы улавливали намерение пользователя и были ясными, естественными и профессиональными. Важной задачей рецензентов было также следить за тем, чтобы ответы не включали ненужные эмодзи или ссылки на личный опыт.

OpenAI заявила, что использует Privacy Filter для удаления личной информации из переписок, но признала ограничения этой системы. В ряде запросов пользователи просили сохранить конфиденциальность, что журналисты расценили как отсутствие понимания о возможном чтении переписок людьми. Вопрос о том, предупреждала ли OpenAI пользователей о таком анализе, остался без ответа.

Подрядчики, нанятые через фирму Crossing Hurdles, получали более $50 в час за работу. Некоторые пользователи сообщали на Reddit о получении писем от этой фирмы, подозревая возможное мошенничество. Вакансии рецензентов и разметчиков данных оставались открытыми, но OpenAI и ChatGPT в описаниях не упоминались.

Эксперт по взаимодействию с ИИ, Михаль Лурия, отметила, что подобное вмешательство может создавать ложное чувство приватности у пользователей. Сара Т. Робертс из UCLA сравнила ситуацию с "Волшебником страны Оз", подчеркивая необходимость человеческого вмешательства в работу ИИ-систем.