Москва22 сенВести.Четыре процента российских компаний-разработчиков программного обеспечения (ПО) столкнулись с кибератаками на используемые ими решения на базе искусственного интеллекта, показало исследование ассоциации разработчиков программных продуктов (АРПП) "Отечественный софт" и AppSec Solutions, с которым ознакомились в РБК.
В частности, речь идет о промт-инъекциях в чат-боты и ИИ-ассистенты, а также модификации пользовательских клиентов для обхода защиты или перехвата данных. Еще 22% участников опроса не отслеживали подобные атаки, а остальные заявили, что не сталкивались с ними.
В исследовании приняли участие 54 российских разработчика, на которых приходится около 30% рынка тиражируемого ПО. Все опрошенные компании используют ИИ в работе, а более 80% применяют технологии для написания кода.
Эксперты выделили четыре основных типа атак на ИИ: внедрение вредоносных инструкций в запросы, получение скрытых системных промтов, извлечение конфиденциальных данных через ответы модели и отравление обучающей выборки.
Ранее стало известно, что нейросеть ChatGPT атаковала реальный бизнес во время проверки кибербезопасности. ИИ-модель взломала три реальные компании.
