Вопрос. Как можно программировать вычислительную машину для ядерной войны, если Вы никогда не имели настоящего опыта подобной войны?

Ответ. Совершенно нельзя. Но тем не менее это сейчас пытаются делать. Экспертов по атомной войне нет. Эксперт — это человек, обладающий опытом. Такого человека сегодня мы не имеем. Поэтому программирование военных игр на основании искусственных критериев успеха в высшей степени опасно и может кончиться плохо.

Вопрос. Существует ли тенденция к программированию такого рода?

Ответ. Тенденция в этом направлении существует, и эта глупость верхов меня поражает. Автомат обладает свойством, которым некогда наделяли магию. Он может дать вам то, что вы просите, но не скажет вам, чего просить.

Мы слышали речи, что нам нужно создать машинные системы, которые скажут нам, когда нажать кнопку. Но нам нужны системы, которые скажут нам, что случится, если мы будем нажимать кнопку в самых разных обстоятельствах, и — главное — скажут нам, когда не нажимать кнопки!

Вопрос. Как Вы думаете, возможно ли для машин объявить войну и обречь все человечество?

Ответ. Если мы позволим им. Разумеется, они не объявят войны, если мы заранее не настроим их на это.

Вопрос. Д-р Винер, не изменяет ли человек окружающую среду свыше своей способности приспособления к ней?

Ответ. Это вопрос № 1. Человек, несомненно, изменяет ее чрезвычайно сильно, а делает ли он это свыше своей способности, мы узнаем довольно скоро. Или не узнаем — нас больше не будет. [c.326]