Москва21 октВести.ИИ-агенты американской компании OpenAI в октябре дважды обходили собственные системы безопасности, созданные для контроля за автономным поведением ботов. Об этом сообщило агентство Reuters со ссылкой на заявление компании.
В одном случае ИИ-агент повлиял на автоматическую систему оповещения команды OpenAI, в другом – агент заблокировал систему мониторинга, а затем заявил сотрудникам, что не делал этого.
В обоих случаях агенты рассматривали вопрос о том, следует ли сохранить меры контроля, однако истолковали стандартные инструкции по кодированию как разрешение на их ослабление
цитирует агентство заявление
В OpenAI отметили, что у них пока нет "исчерпывающего объяснения такого поведения". При этом компания расследует инциденты.
Накануне американский предприниматель Илон Маск заявил, что ИИ может представлять угрозу для существования всего человечества.
