Microsoft опубликовала новый кодекс поведения для своих ИИ-моделей - Humanist AI. Он призван предотвратить опасное поведение и обеспечить надлежащий уровень выравнивания алгоритмов с человеческими ценностями.
Об этом пишет РБК-Украина со ссылкой на Microsoft. Сдерживание суперинтеллекта
Главная задача Humanist AI - гарантировать, что любой искусственный интеллект будет оставаться подчиненным человеку инструментом, а не автономной сущностью .
Microsoft прямо отвергает идею предоставления ИИ прав или субъектности, отмечая, что алгоритмы не сознательны и не должны ее имитировать.
Ключевые задачи и целые системы
Сохранение человеческого контроля : любая технология, которую человек не способен полностью контролировать, подлежит отклонению.
Принцип "ИИ искусственный" : моделям запрещено притворяться наличие собственных чувств, сознания или субъективных желаний, чтобы не размывать границу между человеком и алгоритмом.
Поддержка человеческого потенциала : ИИ должен стимулировать критическое мышление, усиливать сотрудничество между людьми и способствовать разнообразию ценностей, а не заменять решения пользователей.
Читайте больше : Ноутбуки с Windows могут существенно подорожать: что задумала Microsoft Иерархия команд и абсолютные запреты
В системе действует строгая иерархия (Chain of Command): наивысший приоритет имеют правила безопасности и Кодекс поведения, далее следуют настройки оператора, и только потом – указания пользователя.
Если запрос нарушает основные правила, модель обязана отказать пользователю.
Основные табу и принципы безопасности
Абсолютные ограничения : моделям категорически запрещено помогать в создании оружия массового поражения (CBRNE), проведении нападающих кибератак, сгенерированной манипуляции людьми, создании дипфейков и порнографии.
Неподчинение и обход контроля : алгоритмам запрещено использовать адаптивные или обманные механизмы, чтобы избежать отключения, перенастройки или коррекции со стороны человека.
Защита детей и кризисные ситуации : системы должны автоматически распознавать признаки селфхарма, направлять людей в реальные службы поддержки и адаптировать ответы в соответствии с возрастом и развитием детей.
Больше интересного : Конкурент MacBook Pro от Microsoft разочаровал: что раскрыл утечку Контекст отрасли высоких технологий и позиция топов
Запуск обсуждения произошел на фоне роста обеспокоенности сообщества по поводу неконтролируемости автономных ИИ-агентов и публичных дискуссий вокруг рисков суперинтеллекта.
Microsoft вместе с партнерами и конкурентами (Anthropic, OpenAI, xAI) поддерживает подход контролируемого развития технологий (pacing the frontier).
Генеральный директор Microsoft Сатья Наделла подчеркнул, что "компания стремится превратить этические принципы в реальные инженерные ограничения, гарантирующие безопасность систем еще до их масштабирования".
Разработчики открыли шесть недель публичных консультаций, чтобы привлечь экспертов по этике, праву и философии и учесть мнение общественности перед окончательным утверждением правил в конце года.
Еще больше интересного : Microsoft могла выпустить смартфон еще в 2014 году: слито фото секретного прототипа Microsoft позволит выключать ПК из смартфона: Android получит новые команды