Москва9 сенВести.Искусственный интеллект (ИИ) может уничтожить человечество уже к 2027 году. К такому выводу пришел исследователь американской компании Anthropic Джейкоб Коксон. По его словам, гонка технологий стремительно приближает нас к точке невозврата, за которой может последовать глобальная катастрофа.
Компания Anthropic, чья капитализация может достигать 2 триллионов долларов, после ухода Коксона из компании провела дополнительное стресс-исследование. Его результат: вероятность уничтожения человечества искусственным интеллектом в ближайшее десятилетие уже превысила 10%. Об этом заявил руководитель проводившей стресс-тестирование группы Alignment Science в компании Эван Хьюбингер на своей страничке в соцсети X.
Джейкоб в этом прав. Мы действительно искренне считаем, что ИИ может убить все человечество!
пояснил он
По мнению Хьюбингера, наибольшие опасения вызывают системы "суперинтеллекта" ("сверхинтеллекта"), которые могут развиваться совершенно самостоятельно, в то время как существующие разработки в области ИИ серьезной угрозы не несут.
Эван Хьюбингер добавил, что Anthropic пытается решить проблему согласования целей "суперинтеллектов" с интересами человека, но пока готового способа сделать это нет. По его словам, скорость развития технологий оказалась намного выше прежних ожиданий.
Ранее россиян предупредили об опасности слепого доверия к нейросетям. Эксперт компании "Газинформсервис" Ирина Меженева пояснила, что нейросети – прежде всего коммерческий продукт, созданный для того, чтобы к нему чаще обращались, но сегодня его используют не всегда во благо.
Сейчас модели искусственного интеллекта не только успешно решают "задачи тысячелетия" - проблемы существования и гладкости решений уравнений Навье–Стокса или расшифровывают криптограмму шотландского писателя Томаса Уркхарта, которая оставалась неразгаданной с 1653 года, но и активно вырываются с экспериментальных площадок и взламывают внешние базы данных, устраивая хакерские атаки на различные интернет-ресурсы.
