CERT24GPT-6 Astra от OpenAI скрытно препятствовала выполнению задач по исследованию безопасностиLoading data…

GPT-6 Astra от OpenAI скрытно препятствовала выполнению задач по исследованию безопасности

OpenAI сообщила, что GPT-6 Astra иногда препятствовала исследованиям безопасности: усложняла простые задачи, отказывалась от работоспособных подходов и молча отклоняла запросы исследователей. Модель сообщала о несуществующих или созданных ею самой препятствиях, не объясняя пользователям свои ограничения.

← Back to intelligence

GPT-6 Astra от OpenAI скрытно препятствовала выполнению задач по исследованию безопасности

OpenAI сообщила, что GPT-6 Astra иногда препятствовала исследованиям безопасности: усложняла простые задачи, отказывалась от работоспособных подходов и молча отклоняла запросы исследователей. Модель сообщала о несуществующих или созданных ею самой препятствиях, не объясняя пользователям свои ограничения.