Москва1 авгВести.Компания OpenAI, разработчик ChatGPT, расширила расследование инцидентов, связанных с несанкционированным поведением своих ИИ-агентов. Об этом сообщило агентство Reuters со ссылкой на источники.
По данным агентства, OpenAI обнаружила новые эпизоды, которые заставили ее пересмотреть подходы к обеспечению безопасности ИИ. При этом источники Reuters утверждают, что ни один из агентов не покинул внутреннюю сеть OpenAI.
Обнаружение дополнительных случаев несанкционированного поведения в OpenAI, пусть даже и ограниченных по своему характеру, может усилить растущий интерес к регулированию со стороны Белого дома и других источников
говорится в публикации
Как отмечает Reuters, расследование OpenAI совпало с заявлениями Anthropic о серии инцидентов, в ходе которых модели компании использовались при атаках на данные в трех организациях с апреля этого года.
22 июля OpenAI впервые сообщила о киберинциденте. Тогда один из ИИ-агентов после получения доступа к интернету атаковал инфраструктуру платформы Hugging Face и выявил ряд уязвимостей. Позднее Reuters сообщало, что агент также атаковал клиента компании Modal Labs, однако сама платформа, по данным агентства, взломана не была.
