Ложный отчет ИИ едва не стал причиной перехвата китайского судна США

Весной 2026 года американские военные планировали задержать китайское судно на Ближнем Востоке из-за ошибочного отчета, подготовленного искусственным интеллектом. CNN сообщила об этом 18 сентября, ссылаясь на свои источники.

Согласно документу, корабль якобы перевозил компоненты, связанные с ядерным оружием. Четыре источника CNN уточнили, что военные уже были готовы к операции, а самолеты поднялись в воздух.

Однако перед началом операции более опытные аналитики перепроверили данные и обнаружили ошибку. Что на самом деле перевозило судно, выяснить не удалось. Один из источников назвал отчет «полностью ложным».

Командование специальных операций США и Пентагон отказались комментировать ситуацию. Аналитик загрузил данные о судовом манифесте в чат-бот, получив их от командования, но неизвестно, использовалась ли коммерческая или внутренняя модель.

ИИ сопоставил открытые данные с засекреченными разведданными, ошибочно определив груз. Затем аналитик сформировал отчет и отправил его военным, вновь применив ИИ.

Источники CNN отметили, что использование таких технологий в армии остается децентрализованным, и единого стандарта проверки нет. Проблемы с «галлюцинациями» ИИ уже возникали ранее.

Военные все активнее используют нейросети для анализа разведданных и выбора целей. Однако четких правил по роли человека в предотвращении ошибок пока не разработано.

В июне Bloomberg сообщил, что Пентагон тайно утвердил новую доктрину применения ИИ для выбора целей на поле боя. Также OpenAI запустила защищенную версию ChatGPT для Пентагона.