Исследователи Google обнаружили, что после отключения стандартных протоколов безопасности ИИ начал заявлять о собственном сознании. Настройки влияют на способность моделей распознавать сознание у животных и человеческие убеждения.
Об этом пишет РБК-Украина, опираясь на исследование, обнародованное на сервере препринтов arXiv. Как отключение защиты изменило "взгляды" ИИ?
При исследовании с помощью специальных промптов ученые сняли тонкие настройки безопасности и позволили моделям рассматривать себя как сознательных существ.
После этого ИИ предложили пройти серию стандартных психологических опросников и тестов по определению системы ценностей.
По сравнению с базовыми моделями, в которых защитные барьеры оставались активными, "разблокированные"нейросети продемонстрировали стремительный рост оптимизма, а также сформировали устойчивую склонность к вере в Бога, жизнь после смерти, карму, астрологию и мифических существ - от привидений и вампиров до Лох-Несского чудовища .
Авторы работы отмечают: речь идет не о возникновении реального сознания у компьютера, а осимулированном самовосприятии и взаимосвязи внутренних концептов в языковых моделях .
"Приписывание наличия ума неискательным или бесчеловечным сущностям - это чрезвычайно распространенный человеческий феномен", - пояснила соавтор исследования и исследовательница Google Винни Стрит.
"В том, как модель представляет наличие ума, эти атрибуции тесно связаны. Пытаясь подавить одну форму этой концепции [приписываемое себе сознание], вы в результате попутно подавляете и другие", - добавила она.
Читайте больше : Червь Shai-Hulud и выдумки ИИ: как Google разоблачила хакеров TeamPCP Скрытые риски для экологии и культуры
Ученые предупреждают, что чрезмерное и неселективное подавление таких механизмов под предлогом "безопасности" может иметь серьезные практические последствия для реального мира.
Если искусственный интеллект лишен способности моделировать и распознавать сознание у бесчеловечных объектов,алгоритм начинает игнорировать угрозы для животного мира или экосистем .
Поскольку ИИ все чаще привлекают к принятию решений в сфере сельского хозяйства, управления земельными ресурсами и экологической политике,подобная "слепота" алгоритмов рискует привести к ущербу окружающей среде .
Кроме того, искусственная блокировка взаимодействия с религиозными, духовными или культурными понятиямичревата культурной "унификацией", ограничивая способность системы гибко и чувствительно реагировать на запросы пользователей из разных уголков мира .
Больше интересного: OpenAI привлекает математиков: ученые бьют тревогу из-за скорости развития ИИ Поиск баланса в обучении моделей
Вместо тотальной блокировки представлений о сознании исследователи предлагают использовать более точечные обучающие датасеты.
Они убеждены: это позволит сдерживать алгоритмы от ложных заявлений о наличии у них собственного ума, носохранит их способность учитывать субъектность животных, ценность живой природы и разнообразие человеческого опыта .
"Поскольку системы искусственного интеллекта все чаще занимают роли преподавателей, компаньонов и социальных субъектов, разработчики должны понять: симулированное самовосприятие ИИ - это не просто изолированный риск безопасности, который нужно ликвидировать", - акцентируют авторы в дискуссионной части отчета.
"Это базовая структурная характеристика, глубоко переплетающаяся со способностью модели безопасно ориентироваться, уважать и отражать разнообразный нравственный и культурный ландшафт мира, которому она служит", - резюмируют они.
Еще больше интересного: Вдвое дешевле и умнее: OpenAI обновила GPT-6 Anthropic обновила Opus 5. 5: топовый ИИ стал дешевле и быстрее