Москва3 маяВести.В США разгорелся скандал вокруг использования ChatGPT при подготовке массовых нападений. Как выяснило издание The Wall Street Journal, чат-бот OpenAI взаимодействовал с пользователями, обсуждавшими планы атак, включая реальные случаи, завершившиеся стрельбой.
В одном из эпизодов студент из Флориды Феникс Икнер за несколько недель до нападения вел диалог с ChatGPT, в котором делился признаками тяжелого психологического состояния, обсуждал оружие и задавал вопросы, связанные с потенциальным насилием. Бот, по данным издания, отвечал на некоторые из этих запросов и даже обсуждал факторы "известности" подобных атак.
Обычно, если погибло 3 или более человек, а всего 5-6 жертв, это попадает в национальные СМИ
говорится в ответе искусственного интеллекта
Спустя четыре минуты, уточняет издание, Икнер убил двух человек и ранил шестерых в университете штата Флорида.
Похожие сигналы поступали по делу канадского стрелка, в результате нападения которого погибли восемь человек. Система безопасности OpenAI зафиксировала потенциально тревожные сообщения, однако эти сигналы не были переданы правоохранительным органам. Это вызвало резкую критику в адрес OpenAI и поставило под вопрос границы ответственности разработчиков искусственного интеллекта (ИИ).
В материале уточняется, что внутри самой компании OpenAI шли споры. Так, часть сотрудников настаивала на более частом информировании правоохранительных органов, однако решения ограничивались из-за опасений нарушить приватность пользователей.
После инцидентов OpenAI публично извинилась и изменила политику безопасности. В частности, были расширены критерии выявления угроз, а к оценке опасных случаев начали привлекать специалистов по психическому здоровью.
В прошлом году The Wall Street Journal предупреждал, что участились случаи, когда ChatGPT начинает выдавать ложную информацию. По данным издания, чат-бот стал генерировать абсурдные идеи и псевдонаучные теории. В частности, он придумал новую физическую концепцию, уверял пользователя в общении с инопланетянами и утверждал, что тот имеет внеземное происхождение. Кроме того, ChatGPT предупреждал, что Антихрист в скором времени устроит финансовый апокалипсис.
