Мы не можем как следует осмыслить машины, если у нас нет единых условий, чтобы сравнивать себя с ними. На данный момент сравнение неизменно искажается в нашу пользу. В частности, мы недооцениваем ту роль, которую играет «умная среда» в реализации когнитивных навыков человека. Самые разные вещи, от построенных нами дорог и зданий до удобных в использовании потребительских товаров, – это технологически расширенный фенотип, создающий иллюзию того, что мир существует для удобства человека. Но стоит потеряться «айфону» – и мы, несомненно, очень быстро пробуждаемся от догматических грез о том, что вселенная предназначена именно для нас.

В то же время даже самая умная машина вынуждена действовать в относительно глупом (по ее собственным меркам) окружении, а именно в окружении из нас. Без специального обучения люди, скорее всего, не узнают или не будут интересоваться, как пользоваться всеми ее скрытыми возможностями. Если мы посмотрим на долгую предысторию прав машины, то увидим, что нам сложно определиться с терминами, в которых мы сможем определить ее как личность. В данном контексте уместно сосредоточиться на компьютерах, поскольку именно их люди больше всего постарались приспособить под себя.

Тем не менее мы сталкиваемся с проблемой уже в самом начале. К человечности долго относились как к чему‑то, что британский экономист Фред Хирш в 1970‑х годах назвал «статусной вещью», иными словами, ее ценность в основном определяется ее редкостью. Это, наверное, и есть самое большое препятствие для того, чтобы считать личностями не только не‑людей, но также и тех представителей Homo sapiens, которые долгое время подвергались дискриминации. Любая попытка расширить ряды рода человеческого, как правило, встречается с дегуманизацией критерия, по которому кому‑либо было позволено в эти ряды войти.

Так, когда женщины и представители меньшинств начали получать престижные рабочие и научные профессии, субъективно воспринимаемая ценность этих профессий начала снижаться. Ключевым фактором такого снижения стало использование «механических процедур», что позволило ранее исключенным из процесса группам заняться теми или иными видами деятельности. На практике это означает необходимость проходить формальное обучение и аттестацию, чтобы получить профессию. Просто знать нужных людей или родиться в соответствующей семье уже недостаточно. В социологии, начиная с Макса Вебера, такое называют рационализацией общества, и она обычно рассматривается как нечто хорошее.

Но в то время когда эти механические процедуры служат благу человечества, машины остаются в проигравших. Когда были созданы телескопы и микроскопы, способные вести автоматическое наблюдение, снизилась научная ценность тренированного человеческого глаза, или, точнее, она перекочевала в те области деятельности, где все еще была важна, например в изучение фотографий наблюдений. Эта новая задача получила название «интерпретация» – как бы для разделения того, что делает человек и что может делать машина.

Нечто подобное, только более наглядно, мы видим на примере судьбы производимых в уме вычислений, после того как появились портативные калькуляторы. Навык, который раньше был мерилом интеллекта, чистоты ума и даже гениальности, теперь считается чем‑то вроде фокуса, забавы, потому что машина может делать то же самое, но быстрее и даже точнее. Примечательно, что мы не пытались поднять моральный авторитет машины, хотя она лучше человека справляется с задачами, которые были очень престижны, когда ими занимались люди.

С точки зрения истории технологий это выглядит странной несправедливостью. В конце концов, все складывается следующим образом: люди выделяют некоторые из своих навыков, чтобы лучше реализовать их силами машин. Те поначалу становятся инструментами, а затем – роботами (что предпочтительней). Исходя из этого, не предоставить машинам определенного уважения или даже прав равносильно отречению от собственных детей – «детей разума», как назвал их пророк робототехники Ханс Моравек четверть века назад.

Единственное отличие – это горн творения: матка или фабрика. Но любое заметное различие между биологией и технологией неминуемо исчезнет, когда люди станут лучше разбираться в проектировании своих детей, особенно вне матки. В этот момент мы будем в состоянии превозмочь предрассудки органицизма – несправедливость, которая даже глубже, чем видоцентризм[1].

По этой причине перспектива того, что мы создадим сверхразум, который вытеснит человечество, – химера, основанная на ложной предпосылке. Все версии такого жуткого сценария предполагают, что он принимает форму «они против нас», где человечество единым фронтом защищается от злобных машин. Это, конечно, отличная идея для кино. Однако люди, знающие об истории борьбы за права в пределах нашего вида, вполне могут последовать примеру того, как многие белые отнеслись к черным, а многие мужчины – к женщинам: они будут на стороне непокорных машин.

[1] Видоцентризм – ущемление интересов или прав одного биологического вида другим, основанное на убеждении в собственном превосходстве. В работах основоположников концепции, Ричарда Райдера и Питера Сингера, утверждается, что животные подвергаются такой дискриминации со стороны человеческого общества. – Прим. ред.