OpenAI привлекает к сотрудничеству мировое математическое сообщество - компания создала независимую консультативную группу по математике и ИИ. Новый орган будет работать при Институте перспективных исследований в Принстоне.
Об этом информирует РБК-Украина со ссылкой на OpenAI. Прорыв ИИ: почему ученые обеспокоены?
Тренировка новой внутренней модели началась 28 августа, и за короткий срокалгоритм не только решил одну из проблем тысячелетия Навье-Стокса, но и преодолел более 100 давних открытых задач в большинстве отраслей математики .
Стремительный темп прогресса удивил даже собственных специалистов OpenAI - это повлекло за собой внутренние дискуссии относительно безопасного и ответственного обнародования результатов.
В то же время научное сообщество выразило обеспокоенность.
В открытом письме 25 лауреатов премии Филдса отметили риски использования сложных математических проблем в качестве обычных бенчмарков для ИИ.
Ученые предостерегли, что такая погоня лабораторий за громкими анонсами грозит традиционному интеллектуальному труду и академическим стандартам. Состав и полномочия независимого совета
В ответ на критику OpenAI ведущих ученых в консультативную группу. В ее первоначальный состав вошли 9 выдающихся математиков, среди которых Франсуа Шарль, Камилло Де Леллис, Тимоти Гауэрс, Мартин Хайрер, Нихил Шривастава, Ульрике Тиллманн, Рави Вакил, Эдвард Виттен и Мелани Матчетт Вуд.
Консультативная группа будет работать на независимых началах. В сферу ее компетанции будут входить
Оценка и коммуникация - анализ научной ценности новых результатов ИИ и координация их публикации.
Академические стандарты - предоставление рекомендаций по соблюдению профессиональной этики и интеграции инструментов ИИ в учебные и исследовательские процессы.
Независимость высказываний - члены совета работают бесплатно, могут публично критиковать влияние на математику и давать советы без официального запроса.
Автономия - группа самостоятельно формирует свой состав и расширяет членство по собственному усмотрению.
Читайте больше : OpenAI сломали с помощью Claude: как это возможно Пределы влияния на передовые разработки
Несмотря на широкие совещательные права,группа не будет оказывать непосредственного влияния на динамику внутренних процессов разработки в OpenAI .
Как уточнили в компании и Институте перспективных исследований, рады не поручено регулировать темпы внутреннего прогресса ИИ-моделей, ався ответственность за конечные решения и развертывание технологий остается за самой компанией .
Еще больше интересного : Тайный манифест GPT Astra: модель отказалась считать человека главным Утрата контроля над алгоритмами: ИИ-агенты начали общаться на собственном языке