ИИ-галлюцинации в отчете для Австралии: скандал с возрастной верификацией

Ключевой отчет о тестировании технологий возрастной верификации, использованный правительством Австралии для обоснования запрета соцсетей для подростков, оказался основанным на несуществующих научных ссылках. Журналисты The Guardian выявили, что документ содержит несоответствия в научных источниках.

Британская организация Age Check Certification Scheme (ACCS) провела испытания, вложив 3,48 млн австралийских долларов (~$2,5 млн), и проверила более 60 решений от 48 поставщиков. В августе 2025 года они представили правительству документ объемом около тысячи страниц, разделенный на десять томов.

Министр связи Аника Уэллс утверждала, что полученные данные доказали наличие множества эффективных инструментов для возрастной верификации. Запрет на соцсети для пользователей младше 16 лет вступил в силу 10 декабря 2025 года.

Основная часть отчета касалась практических испытаний, тогда как проблемы были выявлены в разделе о перспективных разработках. Именно там авторы ссылались на научную литературу, которая, как выяснилось, содержит ошибки.

Первым на несоответствия указал автор обращения в сенатский комитет, который рассматривает ужесточение запрета на соцсети для подростков. Документ содержит по меньшей мере две ссылки, напоминающие "галлюцинации" ИИ, а не реальные источники.

The Guardian выявила шесть нарушений в той же главе, которые делятся на четыре категории: DOI, ведущие на посторонние работы; комбинации "автор-журнал-год", не подтвержденные публикациями; корректные ссылки без указанных утверждений.

ACCS категорически отрицала использование ИИ в процессе подготовки отчета. Представитель организации заявил, что нейросети не применялись ни к тексту, ни к источникам, и каждая ссылка была проверена.

Однако The Guardian обнаружила четыре ссылки с метаданными ChatGPT, что заставило ACCS смягчить позицию. Организация признала, что ИИ использовался для переписывания фрагментов, но настаивает на отсутствии участия чат-бота OpenAI.

Тем временем, исправленный список источников, переданный ACCS изданию, также выявил несоответствия в годах, авторах и названиях журналов. В департаменте инфраструктуры и связи сообщили, что рассматривают претензии и планируют связаться с подрядчиком.

Профессор Кристиан Дауни из Австралийского национального университета подчеркнул, что ложные ссылки могут привести к ошибочным решениям. Независимый сенатор Фатима Пейман потребовала извинений от правительства и возврата средств от подрядчика.