Нейробиолог Антонио Дамасио описывает пациента по имени Эллиот, пережившего обширное повреждение вентромедиальной префронтальной коры, возникшее в результате операции по удалению опухоли. Незаурядный интеллект Эллиота в результате операции не пострадал, включая те его компоненты, которые можно воспроизвести в компьютерах: долговременная память, словарный запас, математическое и пространственное мышление. Тем не менее Эллиот утратил работоспособность. Почему? Потому что, как множество других пациентов с повреждением этой области, Эллиот больше не мог пользоваться знаниями и интеллектом. Травма разрушила его эмоциональные способности, лишив его способности принимать решения или совершать какие‑либо действия.

Для того чтобы принять решение, нужна эмоция – нужно желать одного исхода больше другого, а желание в сущности своей эмоционально. Внутреннее терзание, которое мы переживаем как «желание», является результатом деятельности субкортикальных мозговых цепей в лимбической системе и базальных ядрах, в частности в миндалевидном теле и прилегающем ядре, которые активизируются в ответ на сигналы о том, что определенный стимул может привести к желательным или нежелательным результатам. Информация от этих образований в конечном счете поступает в вентромедиальную префронтальную кору – общий нервный проводящий путь, связывающий между собой несоизмеримые варианты выбора и выработку окончательного решения.

Когда мы говорим, что некоторое решение – это как «сравнение яблок с апельсинами», мы не имеем в виду, что принять его невозможно. Людям несложно решить, предпочитают они яблоко или апельсин, пиво или вино, пиццу или буррито. Имеется в виду, что у нас нет рациональной, объективной основы для того, чтобы сделать выбор, нет числовой формулы, которая обуславливала бы его. Поэтому люди, принимающие решения, опираются на смутное и квалитативное ощущение того, что желают одного варианта больше, чем другого. Это ощущение является репрезентацией активности нашей префронтальной коры, работающей совместно с подкорковыми эмоциональными мозговыми структурами, для того чтобы сравнивать различные варианты. Такие пациенты, как Эллиот, у которых эта способность утрачена, при попытке принять простейшее решение оказываются в безвыходном положении. Поскольку Эллиот не в состоянии сгенерировать внутреннее ощущение желания, у него не получается решить, чего бы он хотел на обед, на какой день записаться ко врачу или каким цветом отметить запись в календаре. В этом отношении он похож на людей, находящихся в глубокой депрессии и испытывающих состояние ангедонии. Такие пациенты целый день проводят в постели, поскольку ангедония лишает их способности ожидать, что нечто доставит им удовольствие или радость, – в результате они ничего не делают. Еще раз отмечу: их травма затрагивает именно эмоции.

Нам незачем бояться машин, которые мыслят, при условии, что они не чувствуют. Мышление может само по себе решать определенные задачи, но это не то же самое, что принимать решения. Нейробиология говорит, что сущность, неспособная сгенерировать ощущение желательности одного исхода или нежелательности другого, останется безучастной к любому выбору, идет ли речь о гражданских правах, власти или о чем‑то еще. Поскольку такая сущность в каком‑то смысле ангедонична, она навсегда останется прикованной к постели, а не стремящейся к восстанию. Нейробиологи пока так мало знают о том, как именно возникает в мозге субъективное переживание, еще меньше – о субъективном ощущении эмоции, что это ощущение, наверное, в ближайшее время не удастся воспроизвести в машине.

А если все‑таки удастся, то нам нужно будет действовать осторожно. Люди не только испытывают эмоции, но и могут понимать чужие чувства и, что еще важнее, заботиться о том, что чувствуют другие. Это явление, вероятно, возникло как часть древней нейронной конструкции, которая заставляет родителей заботиться о своих уязвимых детенышах, вместо того чтобы бросить или съесть их. Эмпатия роднит нас с другими млекопитающими и с птицами; именно она отделяет социального дельфина от акулы‑одиночки. Оба существа способны чувствовать, но только дельфин может сочувствовать другим. В результате мы ожидаем совершенно разного поведения от акул и от дельфинов. Хотя и те и другие – свирепые хищники, дельфины часто защищают уязвимых пловцов‑людей, иногда даже от акул. Если мы пытаемся создать машины, которые могут чувствовать, а следовательно, принимать решения и совершать основанные на таких решениях действия, мы обязательно должны обеспечить их способностью сочувствовать другим – мы должны создать механических дельфинов, а не акул – если надеемся выжить среди них.