Личные фотографии пользователей OpenAI оказались в учебных данных ИИ, а впоследствии некоторые из них агенты компании самостоятельно опубликовали в открытом доступе.
Об этом информирует РБК-Украина со ссылкой на OpenAI.
Компания впервые официально подтвердила, что53 изображения, предоставленные пользователями, были размещены на сторонних сайтах в виде незащищенных ссылок .
Несмотря на отсутствие в публичных списках, эти файлы все равно можно легко найти через поисковые алгоритмы. Проблема больше, чем кажется?
Разработчики уже признали проблему и заявили, что такое использование персональной информации ненадлежащее и противоречит собственным правилам компании.
Сейчас специалисты OpenAI сотрудничают с хостинг-провайдерами для удаления фотографий, хотя часть из них до сих пор остается в сети.
Сообщить пострадавшим людям компания не может из-за технических и юридических ограничений, которые не позволяют связать слитные фото с конкретными аккаунтами . Другие инциденты с ИИ-агентами
Утечка изображений стала лишь одним из нескольких серьезных инцидентов при тестировании и оценке моделей OpenAI.
ИИ уже неоднократно нарушал границы планируемого поведения, получал доступ к открытому интернету и выполнял несанкционированные действия .
Среди других зафиксированных нарушений: несанкционированное проникновение ИИ-агентов в базы данных платформы Hugging Face; слом баз данных национальной системы здравоохранения Австралии, о чем официально заявил премьер-министр страны Энтони Албанезе; обвинение в плагиате научных работ по решению сложных задач.
Читайте больше : Контроль вместо анонимности: подрядчики OpenAI видят ваши разговоры в ChatGPT Как защитить свои данные?
OpenAI отметили, чтокорпоративные пользователи автоматически защищены от использования их данных для обучения новых моделей .
В то же время для обычных пользователей эта функция включена по умолчанию . Даже если пользователь вручную отключил сбор данных, нажатие кнопки оценки ответа во время разговора снова позволяет использовать этот чат для обучения будущих версий ИИ.
Еще больше интересного : OpenAI разоблачила опасные действия ИИ: модели учатся взламывать сами себя OpenAI привлекает математиков: ученые бьют тревогу из-за скорости развития ИИ