Австралийский отчет о верификации возраста оказался с ошибками из-за ИИ

Важный документ, использованный австралийскими властями для обоснования запрета соцсетей для подростков, содержал ссылки на несуществующие научные работы. Журналисты The Guardian, изучившие этот отчет, обнаружили, что он опирается на вымышленные источники.

Британская организация Age Check Certification Scheme (ACCS) провела испытания, потратив на это 3,48 млн австралийских долларов (~$2,5 млн). Было проверено более 60 решений от 48 поставщиков, и в августе 2025 года правительству был передан итоговый документ объемом около тысячи страниц.

Министр связи Аника Уэллс подтвердила, что данные свидетельствуют о наличии множества инструментов для возрастной верификации, и запрет для пользователей младше 16 лет вступил в силу 10 декабря 2025 года. Однако в разделе о перспективных разработках обнаружились проблемы с указанием на несуществующую научную литературу.

Несоответствия впервые заметил автор обращения в сенатский комитет, обсуждающий ужесточение запрета соцсетей для подростков. В документе указано, что как минимум две ссылки являются «галлюцинациями» ИИ. Журналисты Guardian нашли еще шесть нарушений, включая неверные DOI и неподтвержденные комбинации «автор-журнал-год».

ACCS категорически отрицала использование ИИ при подготовке документа, утверждая, что все ссылки были тщательно проверены. Однако после обнаружения метаданных ChatGPT в некоторых частях отчета, организация признала, что ИИ использовался для краткости текста, но не для создания основного исследования.

Несмотря на утверждения ACCS, проверка исправленного списка источников показала новые расхождения в годах и именах авторов. Департамент инфраструктуры и связи заявил о намерении связаться с подрядчиком, отметив, что речь идет о «горстке ошибок» на фоне всего отчета.

Профессор Кристиан Дауни из Австралийского национального университета отметил, что ложные ссылки могут привести к ошибочным решениям правительства. Независимый сенатор Фатима Пейман потребовала извинений и возврата средств, напомнив о подобной ситуации с Deloitte, когда компания признала использование ИИ в отчете с ошибками год назад.