Москва11 сенВести.За запросами пользователей в ИИ-модели Claude от компании Anthropic может следить более мощная нейросеть. Так IT-эксперт Владимир Зыков прокомментировал ИС "Вести" закрытие доступа к Claude для ряда ученых, которые пытались создать биологическое оружие с помощью ИИ.
Эксперт предположил, что в Antropic, так же как и в любых других компаниях, стараются очень внимательно следить за теми запросами, которые делает пользователь.
Скорее всего, они заточили более мощную модель, которая имеется у них в распоряжении, на то, чтобы она проверяла [запросы]. Какой-то сработал внутренний алерт, то есть внутренняя команда внимания. И после этого… их внутренний эксперт-ИИ посмотрел весь спектр общения этого пользователя и пометил риск как очень высокий... Они очень сильно прокачались в части безопасности для того, чтобы предотвратить обучение сторонних моделей и создание различных видов вооружений
сообщил Зыков
Ранее сообщалось, что Anthropic зафиксировала случай, когда сотрудник военного научно-исследовательского института пытался получить помощь Claude при планировании экспериментов по усилению вредоносности вируса Чикунгунья.
