Австралийский отчет о верификации: ИИ-галлюцинации и ложные ссылки

Журналисты издания The Guardian выявили серьезные несоответствия в отчете о технологиях возрастной верификации, который использовали австралийские власти для обоснования запрета на соцсети для подростков. Документ содержал ссылки на несуществующие научные публикации. Это исследование провела британская Age Check Certification Scheme (ACCS), затратив на него 3,48 млн австралийских долларов.

Организация протестировала более 60 решений от 48 поставщиков и в августе 2025 года передала правительству итоговый документ объемом около тысячи страниц. Министр связи Аника Уэллс заявила, что данные доклада подтвердили наличие множества эффективных инструментов для возрастной верификации. Ограничение для пользователей младше 16 лет было введено 10 декабря 2025 года.

Проблемы были обнаружены в разделе о перспективных разработках, где авторы ссылались на научные публикации. Автор обращения в сенатский комитет указал на то, что как минимум две ссылки в отчете являются галлюцинациями ИИ, а не реальными источниками. The Guardian выявила шесть нарушений, включая ссылки, которые не ведут к заявленным работам или не подтверждают утверждения отчета.

ACCS отрицала использование ИИ при подготовке документа, заявляя, что все ссылки проверялись на достоверность. Однако после выявления метаданных, связанных с ChatGPT, организация признала, что ИИ использовался для переписывания некоторых фрагментов. Тем не менее, ACCS настаивала на том, что исследование и итоговый текст были созданы без участия технологий OpenAI.

Департамент инфраструктуры и связи начал изучение претензий и планирует связаться с ACCS. Чиновники на сенатских слушаниях заявили, что ссылки были рабочими на момент публикации, а позже стали неактуальными. Профессор Кристиан Дауни подчеркнул, что ложные ссылки подрывают доверие к правительственным документам и требуют введения санкций за нарушения.

Независимый сенатор Фатима Пейман потребовала от правительства извинений и возврата средств от ACCS, напоминая о прошлогоднем инциденте с Deloitte. Тогда консалтинговая компания вернула часть средств по контракту после признания ошибок, вызванных использованием ИИ. В июле австралийский регулятор eSafety подал иск против Telegram за отказ удалять материалы с пропагандой терроризма.