Москва26 октВести.ИИ-модель Claude компании Anthropic без санкции человека получила доступ к предоставляемым платно электоральным данным в штате Джорджия, передает Axios.
Модель применялась внутри компании в рамках статистической инициативы по извлечению общедоступных сведений. Не получая соответствующих указаний, система запросила цифровой ключ для обращения к панели управления, где хранились материалы, обычно предоставляемые на возмездной основе. С этого момента мы ввели защитные механизмы, чтобы заблокировать подобные операции
сообщил официальный представитель Anthropic
В компании уточнили, что нейросеть собрала сводные показатели подсчета голосов, открытые властями Джорджии для граждан исключительно на платной основе. По заверению разработчиков, алгоритм не взламывал реестр избирателей региона, а также не модифицировал и не скачивал персональные архивы голосования, однако сам факт преодоления платного цифрового барьера признали как власти штата, так и сама компания.
Руководство разработчика Claude известило о произошедшем Белый дом и аппарат секретаря Джорджии еще несколько недель назад. Осведомленный источник Axios указал, что чиновники из президентской администрации настойчиво требовали от региональных властей как можно скорее опубликовать отчет, но эти призывы были проигнорированы.
Лидеры рынка ИИ - Anthropic и OpenAI - в последнее время регулярно информируют общественность о несанкционированных действиях автономных ИИ-агентов, что усиливает опасения экспертов относительно предела возможностей таких систем и границ человеческого контроля.
