Вы предоставили своему ИИ-агенту доступ, но кто отдаёт ему команды?

Контролируемый эксперимент Gen Threat Labs показал, что ИИ-агент может принять недоверенный контент за инструкцию, а затем выполнить системные команды, передать данные за пределы своей среды и осуществить разрушительные операции с файлами. Уязвимость программного обеспечения для этого не требовалась. В источнике также описывается Warden Stealer — вредоносная программа, нацеленная на файлы конфигурации и локальные данные, связанные с ИИ-ассистентами и инструментами разработки.