Чтобы ответить на вопрос Edge 2015 года, надо сначала побольше узнать о том, кто мы такие. Потому давайте сперва поговорим о самом важном нашем органе – о мозге. Упрощенная схема этого сложного образования делит его на три части: кора (отвечает за рассудочные процессы), лимбическая система (обеспечивает работу различных функций организма, включая эмоции и мотивацию) и рептильный мозг (где располагаются самые элементарные и примитивные стремления: выживание и размножение).

Полемика вокруг того, как нам понять мыслящие машины, больше тяготеет к нашей коре и к лимбической системе. Кора позволяет нам более тщательно оценивать рентабельность ИИ в отношении таких вещей, как приблизительная стоимость для бизнеса человеческого или роботизированного труда, относительная стоимость человеческого и цифрового капитала, а также вопросы биоэтики, неприкосновенности частной жизни и национальной безопасности. Она также дает нам возможность планировать, привлекать больше финансирования для исследований и разработок, определять приоритеты государственной политики.

Одновременно наш лимбический мозг помогает принимать меры предосторожности и отвечать страхом или радостью на риски или выгоды развития искусственного интеллекта. Обычно мысль о нем вызывает одну из двух немедленных эмоциональных реакций: или технофобию, или восторг («Все наши проблемы решены!»). Среди распространенных страхов – опасение, что машины станут нами манипулировать или заменят нас; среди притягательных вещей – машинное расширение нашей памяти и помощь в повседневных делах.

Но мы также должны помнить о влиятельной – даже доминирующей – роли рептильного мозга в нашем мышлении. Это значит, что нам нужно осознать свои наиболее примитивные реакции, наш территориальный и эмоциональный подход к понятиям «мышление», «машина», «робот», «интеллект», «искусственный», «естественный» и «человек». Первостепенная задача рептильного мозга – выживание, и, хотя об этом не очень много говорят, стремление к выживанию лежит в основании наших надежд и страхов, связанных с мыслящими машинами. Когда мы изучаем древние архетипы, или литературу, или прогнозы в настоящей дискуссии, отраженной в вопросе Edge, постоянно проступает подсознательное и инстинктивное: рептильный бином – смерть против бессмертия.

Несомненно, у нас есть страх смерти, связанный с коллективным представлением о роботах, которые способны размножиться и, учитывая их интеллектуальное превосходство, предать и истребить своих создателей. Такие машины, видимо, представляют собой ужаснейшую опасность – уничтожение всего, что нам дорого. Но наш рептильный мозг также видит в них спасение; мы надеемся на то, что сверхразумные машины предложат нам вечную жизнь и вечную юность. Указания на такой способ мышления встроены в наш язык. Хотя в английском слова «robot» и «machine» лишены признака пола, в романских языках, а также в немецком есть разница: «el robot» – мужественный, опасный и грозный, тогда как «la máquina» – женственная, покровительственная и заботливая.

Иеремия Бентам определил человека как рациональное существо, но мы‑то знаем, что мы не такие. Каждый из нас иногда действует иррационально, повинуясь силе рептильного мозга, а его стимулы были и остаются основой эволюции интеллекта. Чувство – вот что важнее всего в мышлении.

Машина, у которой скорость обработки данных возрастает по экспоненте раз в полтора года, которая обыгрывает естественный интеллект в шахматы, разбирая несметное количество вариантов развития игры ход за ходом, которая может точно поставить диагноз больному, – все это очень впечатляет, но все‑таки мышлением мы называем другое. Чтобы исполнилась наша мечта о мыслящих машинах, машинам придется понимать ценности и ставить их под сомнение, переживать внутренние конфликты, испытывать дружеские чувства.

Когда мы думаем о мыслящих машинах, нам надо задавать себе рептильные вопросы, например: рискнули бы вы своей жизнью ради машины? Позволили бы вы роботу стать политическим лидером? Стали бы вы ревновать машину? Стали бы вы платить налоги, обеспечивающие благосостояние робота? Принесли бы вы тюльпаны на могилу своего робота? Или, что даже важнее, принесет ли ваш робот тюльпаны на вашу могилу?

Признание роли рептильного мозга в наших размышлениях об ИИ поможет яснее увидеть последствия и саму природу машины, которая способна искренне сомневаться и искренне действовать, а также то, к какому именно искусственному интеллекту нам надо стремиться. Если наша биология создала культуру как инструмент для выживания и эволюции, то сейчас наш естественный интеллект должен привести нас к созданию машин, которые чувствуют и имеют инстинкты; лишь тогда бессмертие победит смерть.