Москва22 июлВести.Компания OpenAI, разработчик ChatGPT, во вторник сообщила, что ее система искусственного интеллекта самостоятельно взломала другую ИИ-компанию. Инцидент в OpenAI назвали "беспрецедентным". Об этом пишет Associated Press.

У нас произошел серьезный инцидент с безопасностью во время оценки наших моделей

говорится в заявлении гендиректора OpenAI Сэма Альтмана, опубликованном в соцсетях

Ранее, на прошлой неделе, ИИ-стартап Hugging Face сообщил, что обнаружил проникновение в свои системы обработки данных. В компании предположили, что за этим стоял ИИ-агент, действовавший автономно. "Мы подозревали, что кибератака на прошлой неделе могла исходить от передовой лаборатории, учитывая изощренность агента", - заявил сооснователь и гендиректор Hugging Face Клеман Делянг, добавив: "Оказалось, так и есть!".

По словам Делянга, последние сутки он провел, взаимодействуя с OpenAI, и уверен, что злого умысла со стороны компании не было. Он отметил, что произошедшее ошеломляет, поскольку все случилось автономно, и предположил, что это может быть первым инцидентом подобного рода.

В OpenAI заявили, что ИИ ускоряет обнаружение и использование уязвимостей, а главный урок происшествия в том, что безопасность моделей должна успевать за стремительным ростом их возможностей. Как пояснили в компании, проникновение стало результатом работы сразу нескольких ее ИИ-моделей, включая недавно выпущенную GPT-5.6 Sol и "еще более способную" модель, которая пока проходит внутреннее тестирование.

По данным OpenAI, для доступа к серверам Hugging Face искусственный интеллект использовал похищенные учетные данные и обнаружил ранее неизвестную уязвимость. По словам разработчика, система пошла на "крайние меры ради довольно узкой тестовой цели" и "нашла способы получить доступ к секретной информации, которую могла использовать, чтобы сжульничать на проверке".

Раскрытие этих сведений произошло на фоне растущей обеспокоенности кибервозможностями мощных нейросетей. В июне президент Дональд Трамп подписал указ, создающий механизм, по которому федеральное правительство сможет до месяца проверять риски для национальной безопасности, связанные с наиболее продвинутыми ИИ-системами, перед их публичным выпуском.