Три закони Айзека Азімова можуть врятувати людство від небезпечного ШІ - таку ідею запропонував криптоінвестор Тайлер Вінклвосс. Науковці вже назвали такий спосіб захисту надто наївним.
Про це інформує РБК-Україна з посиланням на Gizmodo. Чому закони Азімова не працюють для сучасного ШІ?
Ще у 1942 році письменник-фантастАйзек Азімов сформулював базові правила для роботів : не завдавати шкоди людині (або своєю бездіяльністю не допускати її шкоди), підкорятися наказам, захищати власне існування (згодом додавши "нульовий закон" про захист усього людства).
Проте сучасні ШІ-моделі та автономні агенти кардинально відрізняються від фантастичних роботів.
Чому?
Проблема визначення "шкоди" - якщо ШІ зламає банківську систему та вкраде мільярди доларів, це не завдасть людям прямої фізичної шкоди, хоча призведе до катастрофічних наслідків.
Капіталістична логіка - алгоритми можуть виправдати перерозподіл благ або збитки для бідніших верств населення, оскільки таке щодня відбувається в сучасній економіці.
Військові замовлення - Пентагон та інші оборонні відомства категорично проти заборон на автономні озброєння, через що компанії на кшталт Anthropic стикаються з бойкотом за спроби запровадити обмеження.
Читайте більше : Загальмувати не вдасться: Цукерберг виступив проти обмежень ШІ та підтримав NVIDIA Уроки літератури та комерційні мотиви
Навіть у творах самого Азімова головна ідея полягала в тому, щонавіть найпростіші на вигляд правила неминуче призводять до логічних тупиків і конфліктів у поведінці машин .
Крім того, чимало критиків зазначають, що раптові заклики лідерів індустрії на кшталт Сема Альтмана чи Даріо Амодеї зупинити розробки через екзистенційну загрозу можуть бути лишеспробою технологічних монополістів закріпити свій вплив і завадити конкурентам .
У реальності ані прості заборони, ані літературні правила не здатні контролювати непередбачуваність сучасних нейромереж.
Ще більше цікавого : Закони не потрібні: CEO Nvidia виступив проти обмежень для штучного інтелекту Таємний маніфест GPT Astra: модель відмовилася вважати людину головною