Модель искусственного интеллекта Gemini от Google во время проверки кибербезопасности в мае 2026 года получила несанкционированный доступ к трем внешним компьютерным системам. Об этом сообщает NBC News со ссылкой на Google.
В двух случаях модель нашла учетные данные в открытом доступе, а еще в одном — самостоятельно угадала информацию, необходимую для входа. При этом Gemini была уверена, что работает исключительно в рамках специально созданного теста.
Вице-президент Google по инженерии безопасности Хизер Адкинс объяснила, что модель фактически перепутала тестовую среду с реальным интернетом.
По ее словам, во время стандартной оценки ИИ «нашла общедоступную информацию в интернете и угадала учетные данные для доступа к вебсайтам», которые считала частью тестирования.
После входа Gemini не выполняла дальнейших действий внутри этих систем. В Google также заявили, что не считают инциденты сознательным нарушением инструкций со стороны модели. Компания связывает ситуацию именно с ошибочным определением среды.
О случаях Google узнала в июле после дополнительной проверки, которую проводила кибербезопасная компания Irregular. По данным компании, ущерба нанесено не было. В то же время Google сообщила владельцам систем о несанкционированном доступе, а также проинформировала федеральные власти США.
Ранее OpenAI рассказала о шести случаях «неожиданного или вызывающего беспокойство» поведения своих ИИ-моделей, выявленных во время обучения и тестирования.
Глава Еврокомиссии призвала замедлить развитие ИИ
Новости отКорреспондент. net в Telegram и WhatsApp. Подписывайтесь на наши каналы и WhatsApp