ВМС США едва не перехватили китайское гражданское судно на Ближнем Востоке из-за вымышленного отчета ИИ. Галлюцинация чат-бота о наличии ядерных компонентов на борту чуть не повлекла за собой масштабный военный конфликт.
Об этом информирует РБК-Украина со ссылкой на CNN. Как ошибка ИИ чуть не повлекла за собой силовой штурм?
Военная разведка США подготовила секретную аналитическую справку, согласно которой китайское судно в регионе Ближнего Востока якобы транспортировало детали для создания ядерного оружия.
Пентагон немедленно разработал операцию по задержанию : в воздух подняли боевую авиацию, а перехватчики готовились к высадке на борт.
Миссию отменили в момент, когда чиновники решили повторно проверить первоисточники. Дополнительная проверка показала, чтоинформация о ядерном грузе была полностью придумана ИИ-алгоритмами .
По словам источников в военно-морских силах,силовой захват корабля мог спровоцировать прямое военное столкновение между ядерными державами .
Читайте больше : Трамп основает Силы ИИ: в США назначат специального "царя" для индустрии Почему чат-боты совершают критические ошибки в разведке?
Причиной инцидента сталоширокое внедрение ИИ-инструментов на всех уровнях аналитики без надлежащей верификации .
Так стало известно, что один из сотрудников использовал чат-бот для объединения открытых данных с секретными радиоэлектронными перехватами.Алгоритм сгенерировал фейковый вывод, выдавший за реальный факт .
Эксперты выделяют несколько системных проблем в использовании ИИ военными:
Децентрализация инструментов - различные подразделения используют отличные программы без единого стандарта проверки данных.
Использование коммерческих решений - разведывательные структуры часто применяют адаптированные версии обычных гражданских чат-ботов.
Постоянные галлюцинации - случай с китайским судном оказался лишь одним из серии ложных выводов, которые ИИ издает при анализе массивов информации.
Специалисты отмечают: из-за роста объемов данных армия все больше полагается на ИИ-алгоритмы для определения целей, однакоотсутствие жесткого контроля создает риск катастрофических ошибок в будущем .
Еще больше интересного : Работы идут на войну: Китай испытывает боевые гуманоиды Дроны НАТО обойдут РЭБ: новый ИИ позволит беспилотникам действовать полностью автономно