Ученый предупредил, что без контроля активные разработки в этой области могут привести к непредсказуемым последствиям. Рассел указал на ошибку человечества, которое не задумалось о целях искусственного интеллекта в самом начале его развития. Он также предположил, что будущие сверхразумные машины могут сопротивляться попыткам контроля со стороны людей.
Ученый подчеркнул важность сохранения человеческой власти над более сильными искусственными сущностями — а если гарантии такой власти нет, то исследования в этой области нужно просто прекратить. Он опасается, что в качестве решения, например, проблемы изменения климата ИИ может решить уничтожить человечество.
Рассел подчеркнул, что опасно учить ИИ копировать человеческое поведение, так как в этом случае мы учим его преследовать человеческие цели. последствия этого, считает ученый, могут оказаться катастрофическими.
