ИИ чуть не начал Третью мировую войну. Мир был в одном шаге от катастрофы

Американские военные едва не провели операцию против китайского судна после ошибочного разведывательного анализа, в котором использовался искусственный интеллект. Ошибка обнаружилась в последний момент — когда подготовка к перехвату уже началась.

История, о которой рассказала CNN, показывает, насколько опасной может оказаться вера в машинный анализ. События произошли весной, во время конфликта с Ираном. Американские военные получили разведывательную информацию о китайском судне, находившемся на Ближнем Востоке. Согласно поступившим данным, корабль якобы перевозил груз, связанный с ядерной программой.

Такую информацию в Вашингтоне не могли оставить без внимания. Началась подготовка к перехвату судна. По данным CNN, военнослужащие должны были подняться на борт, а американские самолеты уже находились в воздухе.


Однако перед началом операции выяснилось, что исходная информация была ошибочной.

Как утверждают источники CNN, один из аналитиков, работавший в подразделении специальных операций, использовал чат-бот для анализа данных о грузе. Искусственный интеллект неверно интерпретировал информацию, после чего ошибочный вывод оказался в разведывательном документе.

Дальше произошло самое опасное. Документ перестал выглядеть как результат работы экспериментального алгоритма и начал жить уже внутри военной системы как обычная аналитическая информация. На его основании стали готовить реальные военные действия.

В итоге специалисты перепроверили сведения и обнаружили несоответствие. Операцию удалось остановить.

Что именно находилось на борту китайского судна, CNN установить не удалось. Однако источники издания утверждают, что информация о ядерном грузе была полностью ложной

Несмотря на такой прокол, Пентагон продолжает активно расширять использование искусственного интеллекта в своей работе. Американское военное руководство рассматривает ИИ как инструмент для ускорения анализа разведданных, планирования и принятия решений.

Именно скорость в данном случае может стать одновременно преимуществом и угрозой. Чем быстрее система выдает готовый вывод, тем выше соблазн принять его до полноценной проверки.

В этой истории человеческая перепроверка в последний момент остановила опасное развитие событий. Но остается неприятный вопрос: сколько еще подобных решений принимается на основании машинных выводов, которые пока просто не успели проверить?

До Третьей мировой войны в данном случае, конечно, дело не дошло. Но сама история показывает, насколько короткой может оказаться дистанция между ошибкой алгоритма, военным решением и международным кризисом.