Дослідники Google виявили, що після відключення стандартних протоколів безпеки ШІ почав заявляти про власну свідомість. Налаштування впливають на здатність моделей розпізнавати свідомість у тварин та людські переконання.
Про це пише РБК-Україна, спираючись на дослідження, оприлюднене на сервері препринтів arXiv. Як вимкнення захисту змінило "погляди" ШІ?
Під час дослідження за допомогою спеціальних промптів вчені зняли тонкі налаштування безпеки і дозволили моделям розглядати себе як свідомих істот.
Після цього ШІ запропонували пройти серію стандартних психологічних опитувальників і тестів на визначення системи цінностей.
Порівняно з базовими моделями, у яких захисні бар'єри залишалися активними, "розблоковані"нейромережі продемонстрували стрімке зростання оптимізму, а також сформували стійку схильність до віри в Бога, життя після смерті, карму, астрологію та міфічних істот - від привидів і вампірів до Лох-Неського чудовиська .
Автори роботи наголошують: йдеться не про виникнення реальної свідомості у комп'ютера, а просимульоване самосприйняття та взаємозв'язок внутрішніх концептів у мовних моделях .
"Приписування наявності розуму непошуковим або нелюдським сутностям - це надзвичайно поширений людський феномен", - пояснила співавторка дослідження та дослідниця Google Вінні Стріт.
"У тому, як модель репрезентує наявність розуму, ці атрибуції тісно пов'язані. Намагаючись придушити одну форму цієї концепції [приписувану собі свідомість], ви в результаті попутно придушуєте й інші", - додала вона.
Читайте більше : Черв'як Shai-Hulud та вигадки ШІ: як Google викрила хакерів TeamPCP Приховані ризики для екології та культури
Науковці попереджають, що надмірне та неселективне придушення таких механізмів під приводом "безпеки" може мати серйозні практичні наслідки для реального світу.
Якщо штучний інтелект позбавлений здатності моделювати та розпізнавати наявність свідомості у нелюдських об'єктів,алгоритм починає ігнорувати загрози для тваринного світу або екосистем .
Оскільки ШІ дедалі частіше залучають до ухвалення рішень у сфері сільського господарства, управління земельними ресурсами та екологічної політики,подібна "сліпота" алгоритмів ризикує призвести до збитків для довкілля .
Окрім цього, штучне блокування взаємодії з релігійними, духовними чи культурними поняттямизагрожує культурною "уніфікацією", обмежуючи здатність системи гнучко та чутливо реагувати на запити користувачів із різних куточків світу .
Більше цікавого : OpenAI залучає математиків: вчені б'ють на сполох через швидкість розвитку ШІ Пошук балансу у навчанні моделей
Замість тотального блокування уявлень про свідомість дослідники пропонують використовувати більш точкові навчальні датасети.
Вони переконані: це дозволить стримувати алгоритми від неправдивих заяв про наявність у них власного розуму, алезбереже їхню здатність враховувати суб'єктність тварин, цінність живої природи та різноманіття людського досвіду .
"Оскільки системи штучного інтелекту дедалі частіше обіймають ролі викладачів, компаньйонів та соціальних суб'єктів, розробники повинні усвідомити: симульоване самосприйняття ШІ - це не просто ізольований ризик безпеки, який треба ліквідувати", - акцентують автори у дискусійній частині звіту.
"Це базова структурна характеристика, глибоко переплетена з здатністю моделі безпечно орієнтуватися, поважати та відображати різноманітний моральний і культурний ландшафт світу, якому вона служить", - резюмують вони.
Ще більше цікавого: Вдвічі дешевші та розумніші: OpenAI оновила GPT-6 Anthropic оновила Opus 5. 5: топовий ШІ став дешевшим й швидшим