Москва15 сенВести.Нейросети не могут ставить себе самостоятельно цели и отходить от заданных программ, так как мораль искусственного интеллекта (ИИ) программируется человеком. Об этом ИС "Вести" заявил председатель совета Фонда развития цифровой экономики (ФРЦЭ) Герман Клименко.
Таким образом он ответил на вопрос журналиста, могут ли нейросети отказаться от следования человеческим инструкциям и поставить самостоятельно цель, которая будет деструктивна для человечества.
На сегодняшний день никаких целей нейросеть себе не ставит – появиться этому неоткуда. Это все программное обеспечение, которое запускается нажатием на кнопочку человеком конкретным. А мораль нейронной сети, если можно так сказать, – это то, что переносится человеком при обучении. Это уже доказано: если китайцы учат – у них получается китайская нейронная сеть; мы учим – у нас получается российская. Начиная от простых знаний, кто победил во время Великой Отечественной войны, заканчивая какими-то разнообразными морально-этическими ориентирами
сказал Клименко
Нейросети не отойдут от заложенной программы и не примут деструктивный для человека курс, считает Клименко.
Нейронную сеть можно попросить раз в час генерировать какие-то светлые идеи… Пока именно то, что она сгенерирует что-то выдающееся или вдруг откажется с нами сотрудничать, или примет что-то античеловеческое, именно сама - то есть не то, что в нее человек заложил, а именно вот самостоятельно приобретенное, - я бы не ожидал
добавил он
Также Клименко выразил мнение, что искусственный интеллект безопасен и несет только благо. Вместе с тем он заявил, что ИИ может вытеснить юристов, занятых бумажной работой.
