OpenAI привлекла сотни сторонних подрядчиков, просматривающих реальные разговоры пользователей с ChatGPT.
Об этом информирует РБК-Украина, опираясь на расследование 404 Media. Какие риски для пользователей?
Более900 миллионов пользователей ChatGPT применяет чат-бот в качестве личного психотерапевта, цифрового друга или рабочего помощника, не подозревая о живом контроле .
Чем это чревато?
Утечка персональных данных. Хотя OpenAI пытается автоматически удалять личную информацию до того, как промпты попадут к оценщикам, в компании признают, чточувствительные детали все равно проходят сквозь фильтры . Анонимность без гарантий . Контрактники не видят имен пользователей, однакосодержание сообщений часто содержит идентифицирующую информацию . Подтверждение от Anthropic . Журналисты выяснили, что подобную практику оценки реальных диалогов людьми для улучшения своих моделей также использует компания Anthropic. Читайте больше : ИИ для ударов по Украине: россияне привлекали Claude для автономных БПЛА-убийц Борьба с льстивой и судебные иски Главная цель модераторов - оценивать качество ответов и корректировать поведение ИИ, чтобы сделать его более безопасным для общества. Как это работает? Запрет на антропоморфизацию . Подрядчики дают ChatGPT указания не выдавать себя за человека и избавляться от чрезмерной льстивости. Предупреждение новых судебных процессов . Чрезмерная льстивость модели GPT-4 o ранее привела к ряду трагических случаев и самоубийств пользователей - это привело к длительным судебным тяжбам против OpenAI. Миф о самообучении . Ситуация опровергает представление о том, что ИИ совершенствуется исключительно благодаря автоматическому сбору данных из интернета или силам одних разработчиков. Реакция сообщества и оценщиков Сами модераторы отмечают, чтолюди даже не представляют, что их приватные разговоры с чат-ботом анализируют посторонние лица . Несмотря на это, человеческий труд остается базовым элементом для исправления деструктивных моделей поведения алгоритмов. Еще больше интересного: Фальшивые открытия ученых: как ИИ-алгоритмы тайно придумывают несуществующие данные Запрет кибератак и ядерного оружия: Microsoft приняла жесткие правила для ИИ