Три закона Айзека Азимова могут спасти человечество от опасного ИИ - такую идею предложил криптоинвестор Тайлер Винклвосс. Ученые уже назвали такой способ защиты слишком наивным.
Об этом информирует РБК-Украина со ссылкой на Gizmodo. Почему законы Азимова не работают для современного ИИ?
Еще в 1942 году писатель-фантастАйзек Азимов сформулировал базовые правила для роботов . не наносить вред человеку (или своим бездействием не допускать его вред), подчиняться приказам, защищать собственное существование (впоследствии добавив "нулевой закон" о защите всего человечества).
Однако современные ИИ-модели и автономные агенты кардинально отличаются от фантастических роботов.
Почему?
Проблема определения "вреда" - если ИИ сломает банковскую систему и украдет миллиарды долларов, это не нанесет людям прямой физический ущерб, хотя приведет к катастрофическим последствиям.
Капиталистическая логика - алгоритмы могут оправдать перераспределение благ или ущерб для более бедных слоев населения, поскольку подобное ежедневно происходит в современной экономике.
Военные заказы - Пентагон и другие оборонные ведомства против запретов на автономные вооружения, из-за чего компании вроде Anthropic сталкиваются с бойкотом за попытки ввести ограничения.
Читайте больше : Затормозить не удастся: Цукерберг выступил против ограничений ИИ и поддержал NVIDIA Уроки литературы и комерческие мотивы
Даже в произведениях самого Азимова главная идея заключалась в том, чтодаже самые простые с виду правила неизбежно приводят к логическим тупикам и конфликтам в поведении машин .
Кроме того, многие критики отмечают, что внезапные призывы лидеров индустрии типа Сема Альтмана или Дарио Амодеи остановить разработки из-за экзистенциальной угрозы могут быть лишьпопыткой технологических монополистов закрепить свое влияние и помешать конкурентам .
В действительности ни простые запреты, ни литературные правила не способны контролировать непредсказуемость современных нейросетей.
Еще больше интересного : Законы не нужны: CEO Nvidia выступил против ограничений для искусственного интеллекта Тайный манифест GPT Astra: модель отказалась считать человека главным