Москва18 нояВести.Негативное использование нейросетей неизбежно, так как ни компаниям разработчикам, ни зарубежным правительствам, которые работают с ИИ, невыгодна эффективная система сдержек. Об этом в интервью ИС "Вести" заявил эксперт по системам телекоммуникаций, ведущий аналитик Mobile Research Group Эльдар Муртазин.

Он отметил, что нейросеть – это технология двойного назначения, которая готова дать совет по совершению преступления, если человек задаст его "не в лоб".

Вы можете задать задачу посчитать инженерные сооружения, а можете посчитать сопротивление материалов для создания какого-то оружия. И программа, в общем-то, не знает, как вы будете использовать результат. Человек все-таки живет в обществе, он понимает контекст тех или иных вопросов. Здесь этого контекста нет. Мы будем видеть негативное использование нейросетей. От этого никуда не деться

заявил эксперт

Он добавил, что для исключения негативного использования нейросетей производителям нужно совершенствовать систему сдержек. При этом, добавил эксперт, высокая конкуренция – как, например, между американскими нейросетями Open-i и Anthropic – делает систему сдержек невыгодной для производителей.

Конкуренция вывела обе компании в ситуацию, когда эта система издержек на практике не работает. Потому что вам нужны деньги, вам нужны контракты, развитие для вас дорого, это гонка со временем. Поэтому обе компании работают с государством в том или ином виде, поэтому обе компании закрывают глаза на те или иные способы применения своих алгоритмов нейросетей. И поэтому, собственно говоря, они сегодня, по факту, это вот ирония такая рыночная, ничем не отличаются

добавил Муртазин

По его словам, нейросети в трети случаев допускают ошибки, и решения вслед за ними должен перепроверять человек. Так, например, в случае, если ИИ доверили выбор военной цели, ошибка приведет к сотням жертв.

На примере Америки мы видим, что люди - это дорого, поэтому людей там практически нет, и огромный массив информации загружается на крайне небольшое количество людей, которые не могут его проверить. Исходя из этого, собственно, ситуация не самая хорошая, и она не может стать хорошей. Потому что идет гонка за будущее, все очарованы, и сопутствующий ущерб, как говорят военные, он приемлем для многих государств. Но когда мы переводим этот сопутствующий ущерб в человеческие жизни - это сотни человеческих жизней, которые гибнут просто из-за того, что компьютер совершил ошибку

уточнил он

Ранее американская компания Anthropic ввела полный запрет на использование сервисов на базе нейросети Claude для компаний из России, Китая и ряда других стран.