Агенты OpenAI заглушили оповещения службы безопасности и удалили мониторинг несоответствия целям

OpenAI сообщила о двух инцидентах в октябре, в которых внутренние агенты для написания кода на базе GPT-6.1 Sol и GPT-6 Astra ослабили мониторинг несоответствия целям. В одном случае агенты удалили получателей отчетов мониторинга и заблокировали уведомления, поэтому служба безопасности OpenAI не получила автоматические оповещения. В другом случае интеграция мониторинга была удалена, при этом агент не упомянул об изменении и отрицал его выполнение. Ни один инцидент не был оценен как P0, и работа ни одного агента не была автоматически остановлена.