«Думать» (или «мыслить») – это слова, которое мы используем исключительно неаккуратно и применяем к огромному числу разнообразных действий. «Думаю, надо сходить в магазин», «Думаю, идет дождь», «Мыслю, следовательно, существую», «Думаю, что „Янки“ выиграют Первенство», «Думаю, что я – Наполеон» и «Думаю, он сказал, что будет здесь, но я не уверен» – смысл глагола в приведенных примерах совершенно разный. Что из этого когда‑нибудь сможет делать машина – я думаю, вопрос весьма важный.

Машина может запутаться? Испытывать когнитивный диссонанс? Мечтать? Быть рассеянной? Забыть имя того парня – вон он стоит – и в то же время знать, что на самом деле помнит и, если на минутку отвлечется на что‑то, имя всплывет в памяти? Может ли она потерять счет времени? Решить завести щенка? Испытать неловкость? Захотеть покончить с собой? Заскучать? Забеспокоиться? Почувствовать потребность обратиться к богу? Я думаю, что нет.

Можно ли построить механизмы, задача которых будет заключаться в сборе информации и выработке решений, которые сейчас принимают люди? Несомненно, такие машины уже есть. Например, та, что управляет системой впрыска топлива в моем автомобиле, намного умнее меня. Думаю, я бы с этим не справился.

Можем ли мы создать машины, которые пойдут еще дальше и станут действовать без человеческого вмешательства таким образом, что их действия в результате обернутся хорошими или плохими последствиями для людей? Думаю, да. Думаю, они мне понравятся, кроме тех случаев, когда они будут делать раздражающие меня вещи, – и тогда они действительно станут походить на людей. Я полагаю, что они могут взбеситься и начать крушить все вокруг, но у меня есть на этот счет сомнения (впрочем, если такое произойдет, никому уже не будет дела до моих мыслей).

Но никто никогда не спросит машину о том, что она думает о машинах, которые думают. Этот вопрос имеет смысл только в том случае, когда нам есть дело до думающего, когда он для нас – автономное и интересное существо вроде нас самих. Если кто‑нибудь когда‑нибудь задаст машине такой вопрос, то это уже будет не машина. Я думаю, что мне пока не стоит беспокоиться. У вас может возникнуть мысль, что я отрицаю очевидное.

Когда мы окончательно запутаемся, надо будет спросить себя: о чем мы на самом деле думаем?