Москва11 сенВести.Доступ к ИИ-модели Claude закрыт для ряда ученых, которые могут быть связаны с разработкой биологического оружия. Автор модели компания Anthropic заявила о неправомерном использовании некоторых технологий, сообщает "Коммерсант".
Заблокированы исследователи и институты, пытавшиеся обойти защитные механизмы модели для совершения экспериментов двойного назначения. В связи с особенностями биотехнологий Anthropic не смогла однозначно определить, преследовали ли учёные законные цели, такие как разработка вакцин, или планировали создать патогены
говорится в заявлении компании
Так, например Anthropic зафиксировала случай, когда сотрудник военного научно-исследовательского института пытался получить помощь Claude при планировании экспериментов по усилению вредоносности вируса Чикунгунья.
Вы не увидите кого-то, кто ведет себя как персонаж из комиксов и прямо говорит: "Эй, я хочу создать биологическое оружие, чтобы всех уничтожить". Это невероятно сложная и неоднозначная ситуация
заявил глава отдела разведки угроз Anthropic Джейкоб Клейн
Помимо биологических угроз, в компания отметила попытки использования Claude для разработки обычных видов вооружений в Китае, России и Йемене.
