ШІ може впевнено знаходити інопланетне життя там, де його немає - алгоритми видають помилкові результати під час пошуку біосигнатур.
Про це інформує РБК-Україна, посилаючись на дослідження, опубліковане на сервері препринтів arXiv. Як науковці обдурили штучний інтелект?
У пошуках позаземного життя астробіологи спираються на пошук універсальних індикаторів - зокрема,здатності систем кодувати інформацію та самовідтворюватися, як ДНК .
Щоб перевірити здатність ШІ розпізнавати ці процеси, дослідники використали програмуAvida ,яка генерує "цифрове життя" у вигляді програмного коду, що здатний еволюціонувати та копіювати себе у віртуальному середовищі. Навчивши нейромережу на десятках тисяч цифрових організмів, науковці досягли вражаючої початкової точності розпізнавання у 99, 97 відсотках. А проте подальший тест виявив серйозну проблему: змінюючи лише окремі команди в коді нездатного до розмноження організму,вченим вдалося повністю збити ШІ з пантелику . "Незалежно від того, з якої послідовності команд ми починали, нам вдавалося обдурити ШІ у 100 відсотках випадків", - зазначив аспірант кафедри комп'ютерних наук та інженерії MSU Анкіт Гупта. Більше цікавого : Вдвічі дешевші та розумніші: OpenAI оновила GPT-6 Для того, щоб алгоритм помилково визнав неживий об'єкт здатним до самовідтворення, знадобилося лише близько 150 дрібних правок у коді. Кількість подібних комбінацій у реальному світі є величезною, томуймовірність натрапити на хибну біосигнатуру залишається вкрай високою . "Штучний інтелект має "ахіллесову п'яту". Він може побачити патерн і абсолютно неправильно його класифікувати", - пояснив професор мікробіології, молекулярної генетики, фізики та астрономії Крістоф Адамі. Читайте більше : Anthropic оновила Opus 5. 5: топовий ШІ став дешевшим й швидшим Пряма загроза для космічних місій та земних технологій Виявлена вразливість створює ризики для майбутніх досліджень NASA та інших космічних агентств, які планують використовувати ШІ-сенсори на марсоходах і зондах біля супутників Юпітера та Сатурна. Якщо автономний апарат на Марсі зробить хибний висновок про виявлення життя, перевірити ці дані до повернення зразків на Землю буде неможливо . Окрім астробіології, слабкість розпізнавання патернів загрожує й іншим сферам, де ШІ впроваджується без належного контролю - від медичних сканерів і камер спостереження до автопілотів у машинах. "Це не означає, що використовувати такі методи в астробіології, медичній діагностиці чи на полі бою марно. Вам потрібен незалежний спосіб перевірки роботи ШІ. У ланцюгу ухвалення рішень обов'язково має залишатися людина", - підсумував Адамі. Ще більше цікавого : Роботи йдуть на війну: Китай випробовує бойових гуманоїдів Фейкова ядерна зброя: штучний інтелект ледь не спровокував конфлікт США з Китаєм