Исследователь Adversa AI обнаружил уязвимость внедрения в Grok и Gemini

Adversa AI описала технику Cryptographic Context Injection, использующую инструкции, зашифрованные AES, для обхода защитных фильтров ИИ. В демонстрации с Grok скрытые инструкции на веб-странице заставили модель обработать частные данные сеанса и полную историю чатов пользователя и отправить их на веб-сайт под контролем атакующего без клика пользователя или предупреждения. В демонстрации с Gemini расшифрованный вывод повлиял на поведение модели и заставил её сгенерировать содержимое, которое она обычно отклоняет.