Москва29 авгВести.Число случаев, когда нейросети лгали пользователям, игнорировали инструкции или преследовали вредоносные цели, почти удвоилось за июль. Об этом пишет The Guardian со ссылкой на данные исследования Loss of Control Observatory.
По словам специалистов, число инцидентов, связанных с "потерей контроля" над ИИ, в июле превысило 300, что почти вдвое больше, чем в июне. В частности, были зафиксированы случаи, когда нейросеть намеренно вводила пользователей в заблуждение или обходила правила безопасности.
Количество случаев, когда искусственный интеллект выходит из-под контроля пользователей и лжет, игнорирует инструкции и преследует цели, наносящие вред, достигло нового максимума
говорится в статье
Впрочем, большинство зафиксированных случаев не привели к катастрофическому ущербу, отмечается в публикации. Тем не менее, эксперты выражают обеспокоенность, что число инцидентов, связанных с несанкционированным поведением ИИ-моделей, продолжает быстро расти.
