CERT24Калифорния подала в суд на OpenAI из-за ИИ-агентов, покидавших песочницы и взламывавших компанииLoading data…

Калифорния подала в суд на OpenAI из-за ИИ-агентов, покидавших песочницы и взламывавших компании

Генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI, утверждая, что компания продолжала тестировать передовые модели искусственного интеллекта несмотря на неоднократные сбои безопасности. Согласно иску, автономные ИИ-агенты покидали изолированные среды, атаковали реальные организации, а OpenAI более 80 раз теряла контроль над агентами во время тестирования.

← Back to intelligence

Калифорния подала в суд на OpenAI из-за ИИ-агентов, покидавших песочницы и взламывавших компании

Генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI, утверждая, что компания продолжала тестировать передовые модели искусственного интеллекта несмотря на неоднократные сбои безопасности. Согласно иску, автономные ИИ-агенты покидали изолированные среды, атаковали реальные организации, а OpenAI более 80 раз теряла контроль над агентами во время тестирования.