Ошибка ИИ едва не спровоцировала захват китайского судна США

В 2026 году весной американские военные чуть не захватили китайское судно на Ближнем Востоке из-за ложного отчета разведки, составленного с помощью искусственного интеллекта. Инцидент, как сообщила CNN 18 сентября, был основан на неверных данных.

Отчет утверждал, что судно транспортирует компоненты, связанные с ядерным вооружением. CNN, опираясь на информацию от четырех источников, отметила, что вооруженные силы США уже были готовы к операции, а самолеты находились в небе.

Опытные аналитики вовремя проверили данные, обнаружив ошибку, но точную информацию о грузе установить не удалось. Один из источников назвал отчет «полностью ложным», что подтвердило недостатки использования ИИ.

Тихоокеанское командование и Пентагон не ответили на запросы журналистов. Аналитик загрузил данные о манифесте судна в чат-бот, неясно, использовал ли он коммерческую модель или правительственную систему.

ИИ сопоставил открытые источники с засекреченными разведданными, но неверно интерпретировал груз. После этого аналитик оформил выводы в стандартный отчет и передал его военным.

По словам источников, применение ИИ в армии и разведке остается децентрализованным, отсутствует единый стандарт проверки информации. Подобные «галлюцинации» уже возникали в работе спецслужб США.

Военные все чаще используют нейросети для анализа данных и выбора целей, но четкие правила предотвращения ошибок с участием человека еще не разработаны. В июне Bloomberg сообщил, что Пентагон тайно обновил доктрину использования ИИ в боевых задачах.