Разведывательный отчет для военных США на Ближнем Востоке, созданный ИИ, предлагал остановить китайский корабль с якобы компонентами ядерного оружия. Это могло привести к конфликту с Китаем.
Об этом сообщает РБК-Украина со ссылкой на CNN. ИИ провоцировал конфликт между США и Китаем
По словам четырех источников, знакомых с этим инцидентом, американские военныеначали действовать по указанию ИИ , планируя перехватить судно.
Как говорят два источника,вооруженные военные США готовились подняться на борт корабля. Военные самолеты находились в воздухе, сообщил один из этих источников и другой источник, знакомый с инцидентом.
Только непосредственно перед запланированной операцией чиновники глубже изучили отчет. Было обнаружено, что аналитик командования специальных операций создал егос помощью искусственного интеллекта. А его чат-бот неточно идентифицировал материал, перевозивший корабль.
CNN не удалось выяснить, что за груз былошибочно идентифицирован.
По словам одного из источников, сообщение было"полностью ложным". Но оно также "чуть не начало войну", сказал источник.
Любая операция США против китайского судна могла бы привести кперерастанию в вооруженный конфликт между двумя странами. Использование ИИ армией США
В военных силах США и разведывательном сообществе чиновники настаивают на том, чтобы интегрировать ИИ почти в каждый аспект своей работы: анализ огромных объемов необработанных разведывательных данных, выбор целей для ударов, управление бюджетированием, логистикой и цепями поставок.
Но этот эпизод подчеркивает серьезные опасности. Аналитик обратился к чат-боту с вопросом онекоторых разведывательных отчетах по манифесту судна.
Бот объединил разведывательные данные из открытых источников с секретными радиоэлектронными данными, хранящимися в правительственных фондах. Таким образом он пришел к своемусудьбоносному выводу о материале , который перевозил корабль.
Затем аналитик снова использовал ИИ, чтобыупаковать выводы в стандартный разведывательный отчет и распространить его.
По словам одного из источников, это не является единичным случаем в разведывательном сообществе с момента началараспространения этих инструментов в правительстве.
Ранее РБК-Украина писало, что OpenAI публично раскрыла случаи, когда ИИ вел себя вопреки заданным инструкциям. Разработчики создали новую систему информирования о таких инцидентах.
Кроме того, мир стоит на пороге возникновения полностью автономных систем вооружений. Уже проводятся соответствующие эксперименты, заявил экс-директор Центрального разведывательного управления, четырехзвездный генерал армии США Дэвид Петреус.