ИИ может уверенно находить инопланетную жизнь там, где ее нет - алгоритмы выдают ложные результаты при поиске биосигнатур.
Об этом информирует РБК-Украина, ссылаясь на исследование, опубликованное на сервере препринтов arXiv. Как ученые обманули искусственный интеллект?
В поисках внеземной жизни астробиологи опираются на поиск универсальных индикаторов - в частности,способности систем кодировать информацию и самовоспроизводиться, как ДНК .
Чтобы проверить способность ИИ распознавать эти процессы, исследователи использовали программуAvida ,которая генерирует "цифровую жизнь" в виде программного кода, способного эволюционировать и копировать себя в виртуальной среде. Обучив нейросеть на десятках тысяч цифровых организмов, ученые достигли поразительной начальной точности распознавания в 99, 97 процента. Однако дальнейший тест обнаружил серьезную проблему: меняя лишь отдельные команды в коде неспособного к размножению организма,ученым удалось полностью сбить ИИ с толку . "Независимо от того, с какой последовательности команд мы начинали, нам удавалось обмануть ИИ в 100 процентах случаев", - отметил аспирант кафедры компьютерных наук и инженерии MSU Анкит Гупта. Больше интересного : Вдвое дешевле и умнее: OpenAI обновила GPT-6 Для того чтобы алгоритм ошибочно признал неодушевленный объект способным к самовоспроизведению, понадобилось лишь около 150 мелких правок в коде. Количество подобных комбинаций в реальном мире огромно, поэтомувероятность наткнуться на ложную биосигнатуру остается крайне высокой . "Искусственный интеллект имеет "ахиллесовую пятку". Он может увидеть паттерн и совершенно неправильно его классифицировать", - объяснил профессор микробиологии, молекулярной генетики, физики и астрономии Кристоф Адами. Читайте больше : Anthropic обновила Opus 5. 5: топовый ИИ стал дешевле и быстрее Прямая угроза для космических миссий и земных технологий Обнаруженная уязвимость создает риски для будущих исследований NASA и других космических агентств, планирующих использовать ШИ-сенсоры на марсоходах и зондах у спутников Юпитера и Сатурна. Если автономный аппарат на Марсе сделает ошибочный вывод об обнаружении жизни, проверить эти данные до возвращения образцов на Землю будет невозможно . Кроме астробиологии, слабость распознавания паттернов угрожает и другим сферам, где ИИ внедряется без надлежащего контроля - от медицинских сканеров и камер наблюдения до автопилотов в машинах. "Это не значит, что использовать такие методы в астробиологии, медицинской диагностике или на поле боя бесполезно. Вам нужен независимый способ проверки работы ИИ. В цепи принятия решений обязательно должен оставаться человек", - подытожил Адами. Еще больше интересного : Работы идут на войну: Китай испытывает боевые гуманоиды Фейковое ядерное оружие: искусственный интеллект едва не спровоцировал конфликт США с Китаем