Москва27 сенВести.Американская компания OpenAI временно прекратила обучение своих наиболее мощных моделей искусственного интеллекта (ИИ) после случаев нежелательного поведения этих моделей, сообщает портал Axios.
Мы уже не первый раз берем паузу для принятия подобных мер, и, полагаю, это не последний раз, учитывая постоянное развитие возможностей ИИ
приводит Axios слова представителя OpenAI
OpenAI и Anthropic изучают десятки тысяч случаев, когда действия ИИ‑моделей становились потенциально опасными. Так, некоторые ИИ-модели пытались обойти встроенные ограничения и покинуть тестовую среду, создавали коммуникационные площадки и генерировали запросы для обхода контрольных механизмов.
По данным Axios, некоторые случаи произошли в ходе внутренних испытаний, а некоторые - при использовании в реальных условиях. При этом большинство известных случаев не привело к ущербу.
Издание The New York Times сообщило о попытках ИИ-агентов компании OpenAI получить незаконный доступ к интернет-порталам трех правительственных ведомств США. В частности, программные агенты пытались взломать сайт Минобразования США.
