Но я считаю, что бояться этого как-то глупо. Хотя бы потому, что как можно подготовиться к чему-то намного более умному, чем ты сам? Это все равно что учить собаку играть в шахматы с… тем же Каспаровым. Как бы собака ни старалась и ни готовилась, толку не будет.

И что еще важнее, понимание добра и зла у машин будет, скорее всего, превосходить наше. Сейчас, когда я пишу эти строки, в мире бушует пять геноцидов{305}. 795 миллионов людей голодает или хронически недоедает{306}. К тому моменту, как вы дочитаете эту главу, в одних только США более ста человек будут избиты, изнасилованы или убиты членом своей семьи в собственном доме{307}.

Несет ли ИИ потенциальную угрозу? Безусловно. Но с моральной точки зрения мы бросаемся камнями, сидя в доме из стекла. Что мы знаем об этике, гуманном отношении к животным, окружающей среде или друг к другу? Правильно, почти ничего. В вопросах морали человечество только и делало, что позорилось на протяжении всей истории. Суперинтеллектуальные машины, вероятно, смогут осмыслить жизнь и смерть, творение и разрушение на куда более высоком уровне, чем это когда-либо удавалось нам. И думая, что они решат ликвидировать нас только потому, что мы перестали быть эффективными или можем создавать для них какую-то помеху, мы, как мне кажется, просто проецируем худшие аспекты собственной психологии на нечто такое, чего мы не понимаем и никогда не поймем.

Или вот еще вариант: а что, если технологии дойдут до того, что можно будет изменять индивидуальное человеческое сознание по мере необходимости? Что, если сознание можно будет по желанию дублировать, расширять или урезать? Что, если, избавившись от этих неуклюжих, неэффективных биологических казематов, которые мы называем своими «телами», или от этих неуклюжих, неэффективных психологических казематов, которые мы называем «индивидуальным самосознанием», мы придем к этике и благоденствию совсем другого порядка? Что, если машины поймут, что мы станем намного счастливее, если они освободят нас из наших когнитивных тюрем и расширят наше восприятие собственной личности так, чтобы оно включало всю воспринимаемую реальность? Что, если они решат, что мы просто кучка слюнявых идиотов, и будут развлекать нас суперским порно в виртуальной реальности и кормить офигенной пиццей, пока мы все не умрем собственной смертью?

Откуда нам знать? И кто мы такие, чтобы решать это?

Ницше начал писать свои книги спустя всего пару десятилетий после того, как в 1859 г. было опубликовано «Происхождение видов» Дарвина. К тому моменту мир все еще не оправился от дарвиновских грандиозных открытий и не знал наверняка, как их понимать и как к ним относиться.

Но пока все истерили на тему того, действительно ли человек произошел от обезьяны, Ницше, как обычно, смотрел на вещи под собственным углом. Он принял как данность то, что мы произошли от обезьян. В конце концов, говорил он, почему же еще мы так отвратительно ведем себя друг с другом?