Ложный ИИ-отчет едва не спровоцировал столкновение США и Китая

Весной 2026 года американские военные чуть не перехватили китайское судно на Ближнем Востоке из-за ошибочного отчета, составленного искусственным интеллектом. CNN сообщила об этом 18 сентября.

Согласно отчету, предполагалось, что судно перевозит детали для ядерной программы. Четыре источника подтвердили, что военные уже готовились к абордажу, а самолеты поднялись в воздух.

Однако перед началом операции более опытные аналитики перепроверили данные и нашли ошибку. Что именно перевозило судно, осталось неизвестным. Один из источников назвал отчет «полностью ложным».

Тихоокеанское командование и Пентагон отказались комментировать ситуацию.

Аналитик специальных операций загрузил данные о грузе в чат-бот, но неясно, какая модель ИИ была использована — коммерческая или правительственная.

Нейросеть соединила данные из открытых и секретных источников, но неправильно интерпретировала груз. Аналитик с помощью ИИ оформил отчет и отправил его военным.

По данным CNN, использование ИИ в армии децентрализовано: каждая структура применяет свои системы и стандарты безопасности. Единых требований проверки данных нет.

Один из источников указал, что подобные ошибки уже случались при использовании ИИ в спецслужбах: «Искусственный интеллект позволяет быстрее прийти к плохой идее».

Военные активно используют ИИ для анализа данных и выбора целей, но четких правил для предотвращения ошибок пока не существует.

В июне Bloomberg сообщила об утверждении Пентагоном новой доктрины применения ИИ для выбора целей на поле боя. OpenAI развернула защищенную версию ChatGPT для Пентагона.