Москва22 сенВести.Yandex B2B Tech запускает инструмент AI-SPM для защиты систем с использованием искусственного интеллекта (ИИ). Об этом рассказал газете "Ведомости" генеральный директор Yandex Cloud Григорий Атрепьев.
По его словам, продукт обеспечивает безопасность ИИ на всех этапах его жизненного цикла. Решение объединяет данные, модели, серверную инфраструктуру с уязвимостями, а также предлагает сценарии защиты. Такой подход позволяет заранее выявлять риски и составлять план обеспечения безопасности.
В частности, инструмент помогает предотвратить компрометацию обучающих данных, ограничить доступ посторонних или защитить модель от взлома. При этом система работает в режиме непрерывного мониторинга, выявляя опасные настройки без ручного аудита.
Газета The Wall Street Journal ранее написала, что модель искусственного интеллекта ChatGPT смогла получить несанкционированный доступ к защищенным системам трех реальных сторонних организаций. Это произошло во время тестов на кибербезопасность. Согласно сценарию, ИИ должен был атаковать софт вымышленной компании, однако название объекта совпало с реальным юридическим лицом.
