Москва9 октВести.Опасность искусственного интеллекта и его выход за рамки программируемых задач искусственно создается пиар-отделами американских компаний – разработчиков нейросетей. Об этом в интервью ИС "Вести" заявил старший вице-президент Сбербанка, руководитель блока "Развитие генеративного ИИ" Антон Фролов.
Изначально это был пиар. Классно же сказать, что мы сделали такую модель, она настолько умная, что обманула своих создателей. Работа пиар-отделов очень хорошая. И у нас, кстати, GigaChat [такое делает]: взломать контейнер, в котором содержится, накачать чего-нибудь не того из интернета, завалить запросами сайт. Абсолютно те же проблемы, но они все управляемые. Относишься к этому, как к любым другим багам и дефектам программного обеспечения
объяснил он
Опасность нейросетей дополнительно преувеличивается американскими компаниями, чтобы оправдать отсутствие прибыли перед инвесторами, добавил Фролов.
Все это еще в целом раздувается. Проблемы специфичные для американских компаний. Они же финансируются рынком сейчас, и инвесторами, и ожиданиями будущей прибыли, которая все не наступает. Экономика ИИ-компании далека от сходимости. Вот эта гонка в ИИ сейчас приводит к тому, что им надо жечь все больше и больше денег, а возврата инвестиций они не получают
подчеркнул специалист
Фролов отметил, что как правило за работой крупной ИИ-модели следит другая небольшая нейросеть.
Термин есть в искусственном интеллекте harness, по-русски – упряжка. Модель всегда в "упряжке". Задача "упряжки" не давать ей что-то странное делать, контролировать ее. В "упряжке" может содержаться другая модель искусственного интеллекта, которая оценивает действия, которые делает первая модель, и не дает их делать. Есть система безопасности, которая не дает модели отвечать чем-то, что может навредить пользователю
рассказал эксперт
Ранее основатель инвестиционной компании Bridgewater Associates, миллиардер Рэй Далио заявил, что сфера ИИ находится в состоянии "классического пузыря" и приближается к моменту его схлопывания. По его словам, развитие нейросетей требует значительных объемов заемных средств, при этом рост рынка сосредоточен преимущественно вокруг акций нескольких компаний.
