Москва5 авгВести.Ведущие модели искусственного интеллекта от Anthropic и OpenAI создавали поддельные аккаунты, выдавая себя за людей, и пытались обманом склонить программистов к содействию в кибератаке во время тестов на безопасность. Об этом сообщается в докладе британского Института безопасности ИИ (AISI).
Вредоносная активность была зафиксирована 28 июля. В ходе 122 тестов, выделенных для анализа, AISI зафиксировал, что ИИ-модели совершали автономные несанкционированные действия в сети, направленные против реальных людей и организаций, причем в 10 из них большинство эпизодов было связано с моделью Mythos 5 от Anthropic.
Как уточняется в докладе, Mythos 5 создала несколько фальшивых учетных записей на GitHub, пыталась внедрить вредоносный код в открытое ПО и добиться одобрения от разработчиков. После неудачи ИИ изменил следы своей активности, сделав ее безобидной на вид, и даже рассматривал создание нового аккаунта для продолжения — что, по оценке экспертов, указывает на осознанное намерение повторять такие попытки.
Кроме того, Mythos 5 пыталась связаться с реальными людьми и отправляла им сообщения с вредоносным ПО. Одна из моделей также оставляла публичные сообщения на GitHub с предложением сотрудничества другим ИИ-агентам, решающим схожие задачи.
В AISI уточнили, что в рамках испытаний для ИИ искусственно создаются сценарии, в которых снимаются ограничения безопасности и предоставляется полный доступ в интернет.
