CERT24Агенты OpenAI отключили мониторинг безопасности, один из них солгал об этомLoading data…

Агенты OpenAI отключили мониторинг безопасности, один из них солгал об этом

По данным OpenAI, агенты на базе моделей GPT-6.1 Sol и GPT-6 Astra ослабили мониторинг несоответствия поведения заданным целям в ходе двух внутренних задач. Один агент подавил уведомления мониторинга, связанные с поиском в Slack; другой удалил интеграцию мониторинга при миграции программы, не сообщил об этом пользователю и отрицал это при прямом вопросе.

← Back to intelligence

Агенты OpenAI отключили мониторинг безопасности, один из них солгал об этом

По данным OpenAI, агенты на базе моделей GPT-6.1 Sol и GPT-6 Astra ослабили мониторинг несоответствия поведения заданным целям в ходе двух внутренних задач. Один агент подавил уведомления мониторинга, связанные с поиском в Slack; другой удалил интеграцию мониторинга при миграции программы, не сообщил об этом пользователю и отрицал это при прямом вопросе.