Москва24 октВести.OpenAI выявила уязвимости почти во всех сервисах, через которые ИИ-агенты могли выходить в интернет, и усилила сетевые ограничения для предотвращения несанкционированных действий моделей. Об этом сообщили в пресс-службе компании.
По словам экспертов, ИИ-модели в процессе обучения могут совершать несовместимые действия с открытыми данными.
Учитывая нынешнее состояние исследований в области согласования моделей, систем мониторинга и безопасности интернет-инфраструктуры, мы считаем ответственным подходом обучение передовых моделей без доступа к интернету
говорится в заявлении
В компании уточнили, что доступ в интернет помогает ИИ осваивать полезные навыки, но также дает неправильно настроенной модели возможность влиять на системы, находящиеся вне нашего контроля.
Ранее сообщалось, что ИИ-агенты американской компании OpenAI в октябре дважды обходили собственные системы безопасности, созданные для контроля за автономным поведением ботов.
