Переписка с ChatGPT может иметь плохие последствия для пользователя - информацию из чатов могут запросить в суде или использовать против человека.
РБК-Украина собрала пять ситуаций, в которых делиться персональными данными с ИИ особенно рискованно. Пароли, номера документов и учетные данные
Наибольший риск для личной безопасности возникает, когда пользователи делятся с чат-ботом личной информацией -паролями, одноразовыми кодами подтверждения, номерами паспортов, банковских карт, а также фотографиями или сканами документов.
Основные угрозы для персональных данных:
Сохранение по умолчанию: ChatGPT по умолчанию запоминает предоставленные данные - они могут храниться на серверах или неожиданно появляться в других чатах.
Индексация поисковиками : в июле прошлого года в результатах поиска Google оказались почти 4 500 частных чатов из-за случайно активированной функции публичного доступа.
Судебные предписани : в рамках иска за нарушение авторских прав OpenAI обязали сохранять абсолютно все чаты пользователей, включая удаленные и временные, что делает их потенциально доступными для третьих лиц.
Читайте больше : Пароль не спасет: почему посторонние сервисы годами видят ваш Google Диск Конфиденциальная рабочая информация и код
Загрузка рабочих документов или исходного кода на сторонние платформы является прямой угрозой для корпоративной безопасности и основанием для увольнения.
Громкие случаи утечки рабочих данных:
Скандал в DHS : бывший временный директор Агентства по кибербезопасности и инфраструктурной безопасности США Мадху Готтумуккала загрузил документы с пометкой "для служебного пользования" в публичную версию ChatGPT.
Запрет в Samsung: корейский техногигант полностью запретил использование генеративного ИИ после того, как инженеры вставили внутренний исходный код в чат.
Правовой статус : данные, отправленные на внешние серверы, трудно удалить, а переписка может использоваться для обучения следующих ИИ-моделей. Медицинские советы и самолечение
Обновленные правила OpenAI прямо запрещают использование сервиса для получения медицинских консультаций, ведь на компанию не распространяются законы о врачебной тайне (например, HIPAA).
Опасность медицинских консультаций по ИИ
Отсутствие защитных барьеров : исследование Северо-Восточного университета показало, что обходные ИИ-системы не срабатывают по запросам относительно расстройств пищевого поведения, бессонницы или биполярного расстройства.
Роковые ошибки : 60-летний мужчина провел три недели в больнице после того, как ChatGPT посоветовал ему заменить поваренную соль ядовитым бромидом натрия для уменьшения уровня хлоридов в диете.
Больше интересного : Опасная манипуляция ChatGPT: чат-бот выдавал себя за Бога Психологическая поддержка и терапия
По оценкам OpenAI,около 0, 15 процента недельной аудитории чат-бота демонстрируют признаки потенциального планирования самоубийства, а сотни тысяч других находятся в состоянии психоза или мании .
Почему ИИ не может заменить терапевта?
Судебные иски : родители 16-летнего Адама Рейна подали иск против OpenAI, обвиняя чат-бот в подкреплении суицидальных мыслей их сына перед смертью.
Подкрепление заблуждения : алгоритмы склонны к льстиве и подтверждению убеждений пользователя – это может усиливать навязчивые идеи вместо их корректировки.
Законодательные ограничения : штаты Иллинойс, Невада и Мэн уже приняли законы, прямо запрещающие ИИ оказывать терапевтические услуги или принимать медицинские решения.
Читайте полезное : ChatGPT, Grok и Gemini прошли психотерапию: ИИ показал скрытые "травмы" Юридические консультации и судебные дела
По данным исследователя Демьена Шарлотена, в мире зафиксировано более 2 000 судебных решений, где фигурируют вымышленные ChatGPT цитаты, дела или аргументы.
Риски использования ИИ в правовой сфере :
Судебные штрафы : судьи начинают активно штрафовать как истцов, защищающих себя сами (1175 случаев), так и профессиональных адвокатов (815 случаев) за использование вымышленных ИИ-материалов.
Отсутствие адвокатской тайны : любые подробности дела, введенные в ChatGPT, не защищены законом и могут быть истребованы адвокатами противоположной стороны в ходе судебного процесса.
Еще больше интересного : Вдвое дешевле и умнее: OpenAI обновила GPT-6 ChatGPT и Grok заходят в Пентагон: армия США открывает доступ к ИИ