Американцы едва не задержали китайское судно из-за ошибки ИИ

Весной 2026 года американские военные почти вступили в конфликт с китайским судном на Ближнем Востоке. Причиной стал ошибочный разведывательный отчет, подготовленный с помощью искусственного интеллекта. Об этом 18 сентября сообщило издание CNN.

Согласно докладу, судно якобы перевозило элементы, связанные с ядерными вооружениями. Четыре источника из CNN подтвердили, что военные уже были готовы к захвату, а самолеты поднялись в воздух.

Однако перед операцией более опытные аналитики пересмотрели данные и обнаружили ошибку. CNN не удалось выяснить, что именно находилось на борту судна. Один из источников охарактеризовал отчет как "полностью ложный".

Американские спецслужбы, в том числе Тихоокеанское командование специальных операций и Пентагон, не дали комментариев на запросы журналистов.

Аналитик из подразделения специальных операций загрузил данные о судовом манифесте в чат-бот, полученные от командования. Неизвестно, была ли использована коммерческая или правительственная система ИИ.

ИИ сопоставил открытую информацию с засекреченными разведданными и неверно интерпретировал груз. Затем аналитик повторно использовал ИИ для создания стандартного отчета, который был направлен военным.

По данным CNN, использование ИИ в армии и разведке остается несистематизированным, каждый орган применяет свои методы и стандарты безопасности. Нет единого подхода к проверке данных, генерируемых ИИ.

Один из собеседников отметил, что подобные ошибки ("галлюцинации") возникали и ранее при использовании ИИ в спецслужбах США: "Искусственный интеллект позволяет быстрее прийти к плохой идее".

Военные все чаще используют нейросети для анализа данных и определения целей. Источник из CNN указал, что применение ИИ расширяется, но четких правил о роли человека в предотвращении ошибок пока не существует.

Напомним, в июне Bloomberg сообщал, что Пентагон тайно обновил доктрину использования ИИ для выбора целей на поле боя. OpenAI развернула специальную защищенную версию ChatGPT для Пентагона.