ВМС США ледве не перехопили китайське цивільне судно на Близькому Сході через вигаданий звіт ШІ. Галюцинація чат-бота про наявність ядерних компонентів на борту ледь не спричинила масштабний військовий конфлікт.
Про це інформує РБК-Україна з посиланням на CNN. Як помилка ШІ ледь не спричинила силовий штурм?
Військова розвідка США підготувала секретну аналітичну довідку, за якою китайське судно у регіоні Близького Сходу нібито транспортувало деталі для створення ядерної зброї.
Пентагон негайно розробив операцію із затримання : у повітря підняли бойову авіацію, а перехоплювачі готувалися до висадки на борт.
Місію скасували в останній момент, коли посадовці вирішили повторно перевірити першоджерела. Додаткова перевірка показала, щоінформація про ядерний вантаж була повністю вигадана ШІ-алгоритмами .
За словами джерел у військово-морських силах,силове захоплення корабля могло спровокувати пряме військове зіткнення між ядерними державами .
Читайте більше : Трамп заснує Сили ШІ: у США призначать спеціального "царя" для індустрії Чому чат-боти роблять критичні помилки у розвідці?
Причиною інциденту сталошироке впровадження ШІ-інструментів на всіх рівнях аналітики без належної системи верифікації .
Так, стало відомо, що один із співробітників використав чат-бот для об'єднання відкритих даних із секретними радіоелектронними перехопленнями.Алгоритм згенерував фейковий висновок, який видав за реальний факт .
Експерти виділяють кілька системних проблем у використанні ШІ військовими:
Децентралізація інструментів - різні підрозділи використовують відмінні програми без єдиного стандарту перевірки даних.
Використання комерційних рішень - розвідувальні структури часто застосовують адаптовані версії звичайних цивільних чат-ботів.
Постійні галюцинації - випадок із китайським судном виявився лише одним із серії неправдивих висновків, які ШІ видає під час аналізу масивів інформації.
Фахівці наголошують: через зростання обсягів даних армія дедалі більше покладається на ШІ-алгоритми для визначення цілей, протевідсутність жорсткого контролю створює ризик катастрофічних помилок у майбутньому .
Ще більше цікавого : Роботи йдуть на війну: Китай випробовує бойових гуманоїдів Дрони НАТО обійдуть РЕБ: новий ШІ дозволить безпілотникам діяти повністю автономно