Перед открытием Генассамблеи ООН в Нью-Йорке лидеры и официальные представители 20 стран мира обнародовали совместное заявление с призывом создать специализированное международное учреждение по надзору за передовыми системами искусственного интеллекта. 20 стран призывают создать новый орган для контроля ИИ
Инициатором документа по созданию органа для контроля ИИ выступил президент Финляндии.
В заявлении отмечается, что стремительное развитие технологий и редкие случаи, когда системы ИИ обходят базовые протоколы безопасности, требуют немедленной и согласованной международной координации.
— Искусственный интеллект должен оставаться под руководством человека, надзором и контролем. Он должен разрабатываться и использоваться в соответствии с международным правом, — говорится в документе.
Среди подписавших обращение — премьер-министр Канады Марк Карни, президент Кении Уильям Руто, премьер-министр Нидерландов Роб Еттен, глава правительства Австралии Энтони Албанезе, президент ЮАР Сирил Рамафоса, а также высокие представители Турции и ОАЭ.
В то же время, США, Великобритания и Китай воздержались от подписания совместного заявления.
Документ содержит призыв к трем конкретным шагам: IT-компании должны проводить тщательные проверки безопасности своих систем к их публичному запуску и предоставлять доступ независимым экспертам для оценки рисков. Правительства должны разработать общие международные критерии безопасности, чтобы каждая страна имела научно обоснованные инструменты оценки моделей ИИ. Члены ООН должны создать международный институт, способный устанавливать нормы, проводить проверки и созывать представителей государств в случае, если ИИ “превысит пороговые значения своих возможностей”.
Ожидается, что тема искусственного интеллекта станет одной из центральных в ходе заседаний Совбеза ООН и мероприятий в рамках Генассамблеи. Читайте также OpenAI, Anthropic и Google объединяют усилия по безопасности ИИ: детали сотрудничества