Москва6 марВести.От американской технологической компании Anthropic, создавшей нейросеть Claude, Пентагон требовал отказаться от собственных принципов. Это и привело к громкому скандалу, вышедшему в публичное пространство. Такое мнение ИС "Вести" высказал руководитель Центра разработки больших языковых моделей MWS AI Валентин Малых.
Компания Anthropic явно постулирует то, что они стремятся не наносить вреда. Anthropic в переводе с греческого "человеческий", то есть они, по крайней мере, официально декларируют цель быть максимально человечными. И по этой причине они не хотят, чтобы ИИ использовался для всех целей, которые хочет Пентагон. То есть они не против, видимо, некоторых целей, но для всех целей не готовы.
заявил он
Эксперт полагает, что американские военные могли требовать от технологической компании то, что шло вразрез с ее внутренними стандартами.
Часто употребляется слово "гардрейлы", что в переводе с английского обозначает "поручень" (AI guardrails - механизмы контроля и защиты, предназначенные для направления и ограничения действий ИИ-системы. – Прим. ред.). Это вещь, которая помогает идти правильно, они встраиваются в системы, в большие языковые модели, которые не позволяют модели отклониться от того курса, который изложили ее создатели. Насколько я представляю из новостей, то Пентагон потребовал от Anthropic эти "гардрейлы" убрать.
пояснил Малых
В начале марта СМИ сообщили, что Пентагон требовал от ИИ-компании Anthropic открыть доступ к массовой обработке персональных данных рядовых американцев с возможностью перекрестной сверки. Компания отказалась, после этого оборонное ведомство разорвало контракт с компанией, а глава Минобороны США Пит Хегсет обвинил Anthropic в лицемерии и предательстве.
