По его мнению, бесконтрольные разработки в области ИИ привели к тому, что «мы добились прогресса, которого сами не ожидали».

Человечество ошиблось в самом начале, когда не думало для чего будет нужен этот интеллект, уточнил Рассел. Вполне возможно, что сверхразумные машины в будущем будут сопротивляться попыткам ими управлять, добавил он.

«Как сохранить власть над сущностями, которые сильнее вас? Если у вас нет ответа, прекратите исследования. Все очень просто. Ставки уже не могут быть выше: если мы не контролируем нашу собственную цивилизацию, то лишаемся права голоса о нашем будущем существовании», - подчеркнул специалист.

Как отметил Рассел, появление универсального искусственного интеллекта, системы, способной выполнить любую задачу, которая под силу человеку, может произойти в течение десяти лет. При решении проблем, например, связанных с климатом, подобные программы могут прийти к выводу, что лучшим решением станет избавление от людей, выразил опасение ученый.