Москва11 сенВести.Американские компании по разработке искусственного интеллекта (ИИ) создают систему защиты от вышедших из-под контроля алгоритмов, используя для этого другие инструменты ИИ, сообщает портал Axios.
При этом у компаний нет "единого рубильника", который позволил бы быстро решить проблему. Мощные системы ИИ работают на множестве компьютеров и платформ, отмечает портал.
Компании экспериментируют с многоуровневой защитой, способной выявлять подозрительное поведение, останавливать агентов и отрезать вышедших из-под контроля агентов от ресурсов, необходимых им для продолжения работы
уточняет Axios
Между тем сотрудник компании Anthropic Джейкоб Коксон ушел из отрасли ИИ из опасения того, что гонка технологических корпораций приближает человечество к "точке невозврата".
Агентство Bloomberg написало, что компания OpenAI рассматривает возможность замедлить разработку передовых моделей ИИ. Гендиректор компании Сэм Альтман выразил надежду, что другие профильные лаборатории согласятся пойти на подобный шаг.
