Идея уничтожения человечества искусственным интеллектом обсуждается уже давно. Учёные поделились своим мнение о том, сможет ли человечество контролировать по-настоящему высокоуровневый компьютерный сверхразум.

Загвоздка в том, что для управления настоящим искусственным интеллектом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхразума, которую мы сможем анализировать (и контролировать). Но если мы не в состоянии это понять, создать такую ​​симуляцию невозможно.

В этом случае люди не смогут устанавливать для ИИ ограничительны правила, такие как «не причинять вреда людям». Впрочем, пока человечество неспособно создать такой искусственный интеллект, но остаётся неясным, в какой момент этот порог будет преодолён.

Источник статьи: www.ferra.ru