Мысленный эксперимент под названием «китайская комната» был предложен американским философом Джоном Сёрлом (род. 1932). Его целью было доказать, что компьютер не способен мыслить в привычном понимании этого слова, даже если и кажется, что это так. Инструкция в «китайской комнате» – это подобие компьютерного алгоритма, но никакого «сознания» у компьютера нет.

Для того чтобы разобраться, о чем идет речь, нужно вспомнить тест Тьюринга, который был придуман для того, чтобы определить, обладает ли машина интеллектом или нет.

Алан Тьюринг (1912–1954) – выдающийся математик из Кембриджа, заложивший основы современной кибернетики. Созданные им во время Второй мировой войны вычислительные устройства помогли раскодировать шифр «Энигмы», использовавшийся для связи на немецких подводных лодках. Благодаря этому командование союзников могло заранее узнать о планах нацистов.

Задумавшись о том, что когда-нибудь компьютеры смогут не только взламывать коды шифрования, но, возможно, станут по-настоящему разумными, в 1950 году Тьюринг предложил тест, который, как ему казалось, позволит понять, так ли это или нет. Это – тест для определения искусственного интеллекта, хотя сам автор предпочитал именовать его «игрой в имитацию». Почему? Возможно, он хотел подчеркнуть, что в мозге нас прежде всего интересует не физическая форма – будучи вынутым из черепной коробки мозг напоминает холодную серую кашу, – но та функция, которую он выполняет. Из этого следует, что в компьютерах нас также не должен смущать факт, что они состоят из пластика и электронных цепей, важно лишь то, что компьютеры (предкомпьютеры в случае Тьюринга) способны выполнять многое из того, на что способен человеческий мозг. Имитировать – можно сказать и так.

Когда мы пытаемся определить, насколько умен тот или иной человек, мы задаем ему вопросы и делаем выводы на основании ответов, а не вскрываем ему череп, чтобы посмотреть, как там все устроено. Поэтому логично, если при оценке того, насколько разумен компьютер, мы также будем исходить не из внутреннего устройства, но из того, какие ответы компьютер дает. Иными словами, важно лишь то, что мы вводим и что получаем на выходе, а не провода и микросхемы.

Предложение Тьюринга звучало следующим образом. Человек ведет переписку… он не знает, с кем – с другим человеком или с компьютером. Тест для компьютера считается пройденным (искусственный интеллект налицо), если человек не может сказать, с кем он переписывался – с другим человеком или с машиной.

Мысленный эксперимент Джона Сёрла был призван продемонстрировать, что даже если компьютер пройдет тест Тьюринга, это вовсе не доказывает, что он обладает разумом. Как вы помните, в эксперименте Сёрла человек сидит в комнате, куда поступают карточки с китайскими иероглифами. В соответствии с инструкцией, он достает нужную карточку. Что там на этой карточке, он не знает, то есть по большому счету его действия бессмысленны. Если бы он знал китайский – другое дело, но китайского он не знает. Но ему все же удается убедить другого участника эксперимента, что он делает осмысленный выбор, что он якобы ведет разумный диалог.