OpenAI залучила сотні сторонніх підрядників, які переглядають реальні розмови користувачів із ChatGPT.
Про це інформує РБК-Україна, спираючись на розслідування 404 Media. Які ризики для користувачів?
Більшість із понад900 мільйонів користувачів ChatGPT застосовує чат-бот як особистого психотерапевта, цифрового друга чи робочого помічника, не підозрюючи про живий контроль .
Чим це загрожує?
Витік персональних даних . Хоча OpenAI намагається автоматично видаляти особисту інформацію до того, як промпти потраплять до оцінювачів, у компанії визнають те, щочутливі деталі все одно проходять крізь фільтри . Анонімність без гарантій . Контрактники не бачать імен користувачів, протесам зміст повідомлень часто містить ідентифікуючу інформацію . Підтвердження від Anthropic . Журналісти з'ясували, що подібну практику оцінювання реальних діалогів людьми для покращення своїх моделей також використовує компанія Anthropic. Читайте більше : ШІ для ударів по Україні: росіяни залучали Claude для автономних БПЛА-убивць Боротьба з улесливістю та судові позови Головна мета модераторів - оцінювати якість відповідей і коригувати поведінку ШІ, аби зробити його безпечнішим для суспільства. Як це працює? Заборона на антропоморфізацію . Підрядники інструктують ChatGPT не вдавати із себе людину та позбавлятися надмірної улесливості. Попередження нових судових процесів . Надмірна улесливість моделі GPT-4 o раніше призвела до низки трагічних випадків і самогубств користувачів - це призвело до тривалих судових позовів проти OpenAI. Міф про самонавчання . Ситуація спростовує уявлення про те, що ШІ вдосконалюється виключно завдяки автоматичному збору даних з інтернету чи силами самих лише розробників. Реакція спільноти та оцінювачів Самі модератори зазначають, щолюди навіть не уявляють, що їхні приватні розмови з чат-ботом аналізують сторонні особи . Попри це, людська праця наразі залишається базовим елементом для виправлення деструктивних моделей поведінки алгоритмів. Ще більше цікавого: Фальшиві відкриття вчених: як ШІ-алгоритми таємно вигадують неіснуючі дані Заборона кібератак та ядерної зброї: Microsoft ухвалила жорсткі правила для ШІ