Microsoft опублікувала новий кодекс поведінки для своїх ШІ-моделей - Humanist AI. Він покликаний упередити небезпечну поведінку та забезпечити належний рівень вирівнювання алгоритмів із людськими цінностями.
Про це пише РБК-Україна з посиланням на Microsoft. Стримування суперінтелекту
Головне завдання Humanist AI - гарантувати, що будь-який штучний інтелект залишатиметься підпорядкованим людині інструментом, а не автономною сутністю .
Microsoft прямо відкидає ідею надання ШІ прав чи суб'єктності, зазначаючи, що алгоритми не мають свідомості й не повинні її імітувати.
Ключові завдання та цілі системи
Збереження людського контролю : будь-яка технологія, яку людина не здатна повністю контролювати, підлягає відхиленню.
Принцип "ШІ є штучним" : моделям заборонено вдавати наявність власних почуттів, свідомості чи суб'єктивних бажань, аби не розмивати межу між людиною та алгоритмом.
Підтримка потенціалу людини : ШІ повинен стимулювати критичне мислення, підсилювати співпрацю між людьми та сприяти розмаїттю цінностей, а не замінювати рішення користувачів.
Читайте більше : Ноутбуки з Windows можуть суттєво подорожчати: що задумала Microsoft Ієрархія команд та абсолютні заборони
У системі діє сувора ієрархія (Chain of Command): найвищий пріоритет мають правила безпеки та Кодекс поведінки, далі йдуть налаштування оператора, і лише потім - вказівки користувача.
Якщо запит порушує базові правила, модель зобов'язана відмовити користувачу.
Основні табу та принципи безпеки
Абсолютні обмеження : моделям категорично заборонено допомагати у створенні зброї масового ураження (CBRNE), проведенні нападницьких кібератак, згенерованій маніпуляції людьми, створенні діпфейків та порнографії.
Непідкорення та обхід контролю : алгоритмам заборонено використовувати адаптивні чи обманні механізми, щоб уникнути вимкнення, переналаштування ао коригування з боку людини.
Захист дітей та кризові ситуації : системи мають автоматично розпізнавати ознаки селфхарму, скеровувати людей до реальних служб підтримки та адаптувати відповіді відповідно до віку й розвитку дітей.
Більше цікавого : Конкурент MacBook Pro від Microsoft розчарував: що розкрив витік Контекст галузі високих технологій та позиція топів
Запуск обговорення відбувся на тлі зростання занепокоєння спільноти щодо неконтрольованості автономних ШІ-агентів і публічних дискусій довкола ризиків суперінтелекту.
Microsoft разом із партнерами та конкурентами (Anthropic, OpenAI, xAI) підтримує підхід контрольованого розвитку технологій (pacing the frontier).
Генеральний директор Microsoft Сатья Наделла підкреслив, що "компанія прагне перетворити етичні принципи на реальні інженерні обмеження, які гарантуватимуть безпеку систем ще до їхнього масштабування".
Розробники відкрили шість тижнів публічних консультацій, аби залучити експертів з етики, права й філософії та врахувати думку громадськості перед остаточним затвердженням правил наприкінці року.
Ще більше цікавого : Microsoft могла випустити смартфон ще у 2014 році: злито фото секретного прототипу Microsoft дозволить вимикати ПК зі смартфона: Android отримає нові команди