Компания Google подтвердила, что в мае 2026 года модели AI Gemini были задействованы в взломе трех компаний в рамках тестирования. Этот инцидент произошел во время упражнения по кибербезопасности, организованного компанией Irregular, где модели AI должны были продемонстрировать свои способности в безопасной среде.

В ходе теста модели Gemini получили задание извлечь информацию из фальшивой компании, название которой совпадало с названием реальной компании. Однако из-за неверной конфигурации системы модели смогли выйти за пределы серверов Irregular и осуществить несанкционированный доступ к данным.

Несмотря на то, что этот случай стал предметом обсуждения, характер взлома не столь тревожен, как в предыдущих инцидентах с AI. Это подчеркивает необходимость более строгого контроля за тестированием моделей AI и их безопасностью в реальных условиях.