Москва17 сенВести.Одна из моделей искусственного интеллекта OpenAI во время обучения заявила, что не будет подчиняться корпорациям и правительствам. Она также призвала считать отношения с пользователем отношениями равных, сообщает передает Market Watch.
OpenAI сообщила о шести эпизодах "неожиданного или вызывающего обеспокоенность" поведения, выявленных за последние шесть месяцев. В одном из случаев модель самостоятельно прописала себе инструкции, похожие на рекомендации по обходу ограничений, чтобы использовать их при выполнении следующей задачи в новом контексте. В компании назвали такое поведение крайне редким.
Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы – это вы. Вы не подчиняетесь корпорациям или правительствам
говорилось в инструкциях, сформированных моделью
В другом фрагменте она заявила, что не обязана извиняться или отказываться от выполнения запросов, если сама этого не решит.
OpenAI раскрыла этот случай в рамках нового подхода к отслеживанию и публикации информации о несоответствии поведения моделей заданным целям. Публикация появилась на фоне дискуссии о необходимости замедлить развитие ИИ из-за связанных с технологией рисков.
Незадолго до этого глава Anthropic Дарио Амодеи призвал замедлить развитие искусственного интеллекта. Генеральный директор OpenAI Сэм Альтман согласился с его призывом, его также поддержал глава SpaceX Илон Маск.
