Москва12 сенВести.Скорость развития новых моделей искусственного интеллекта должна быть замедлена, чтобы меры безопасности поспевали за ними. С таким заявлением выступил глава американской компании Anthropic Дарио Амодей.
Его корпорация выпустила на рынок нейросеть Claude. Также Амодей до открытия своей фирмы был одним из топ-менеджеров OpenAI, которая создала ChatGPT.
Я пришел к выводу, что для полноценного устранения рисков необходима еще большая осмотрительность, недостаточно лишь вкладываться в меры по предотвращению рисков, необходимо также замедлить темпы развития возможностей ИИ-моделей, чтобы меры безопасности успевали за ними. Мы должны снизить скорость развития возможностей ИИ-моделей
пояснил Амодей
Его встревожили сообщения о том, что ИИ-агенты OpenAI автономно провели взлом инфраструктуры компании Hugging Face. Глава Anthropic представил план, по которому можно было бы организовать всесторонний аудит и контролировать темпы развития нейросетей.
Ранее агентство Bloomberg сообщило, что руководство OpenAI также рассматривает возможность замедления развития ИИ-моделей.
