Москва7 сенВести.Крупнейшие российские технологические компании приступили к разработке систем, которые будут регулировать действия автономных нейросетевых агентов. Об этом пишет газета "Известия".
Журналисты обратили внимание, что потребность в контроле стала очевидной летом текущего года, когда более тысячи ИИ-агентов скоординировали действия по атаке и перегрузили крупнейшую мировую платформу открытых нейросетей Hugging Face.
При этом в России, как подчеркивается, подобных масштабных инцидентов не фиксировалось. По словам IT-предпринимателя Михаила Лисецкого, это объясняется не только высокой защищенностью российских решений, но и меньшей автономностью по сравнению с зарубежными аналогами.
Отмечается, что в России разработчики создают "обвязку" - корпоративную инфраструктуру вокруг языковой модели. В публикации говорится, что компании развивают технологии "умного роутинга", благодаря которому можно превратить возможности моделей в надежный сервис за счет соединения с локальными данными и контроля безопасности.
Кроме того, в России разрабатывается система, направленная на переключение между разными моделями без изменения логики агента с анализом каждого его действия.
Ранее американская компания OpenAI признала, что ее программные агенты в начале года захватили малоизвестный немецкий вики-форум DseWiki и использовали его в качестве закрытой площадки для обмена информацией.
