Слухи о возможном порабощении или уничтожении человечества искусственным интеллектом чрезвычайно преувеличены, потому что предполагают наличие у ИИ телеологической автономности, подобной нашей. Не думаю, чтобы что‑то, кроме дарвиновского процесса эволюции, могло дать такую автономность любому существу.

В целом есть два способа создать искусственный интеллект. Первый: не беспокоясь о том, как именно человеческий разум выполняет задачи, написать исчерпывающий набор программ, который тоже будет их выполнять – возможно, даже быстрее или точнее, – а затем собрать эти модули в единый интеллект. Таким подходом мы пользуемся сейчас и в некоторых областях преуспели. Например, компьютеры умеют играть в шахматы лучше, чем люди. Можно себе представить, что если приложить определенные усилия, то удастся запрограммировать компьютеры и для выполнения более творческих задач, вроде написания красивых (по нашему мнению) стихов или музыки посредством продуманных эвристических алгоритмов и встроенных в них знаний.

Но с таким подходом есть одна проблема: мы используем наши возможности в соответствии с ценностями и ограничениями, запрограммированными в нас миллиардами лет эволюции (плюс теми, что мы выучиваем в течение жизни), и некоторые из этих ценностей мы унаследовали от древнейших организмов, включая самую важную – потребность в выживании и воспроизводстве. Без этих ценностей нас бы здесь не было, как не было бы у нас таких тонко настроенных (для нашей среды) эмоций, которые позволяют нам не только выживать, но и сотрудничать с другими. Важность этой стороны нашего разума можно увидеть на примере людей, неспособных нормально функционировать в обществе из‑за повреждения определенных эмоциональных центров мозга, несмотря на нормальное во всем остальном мышление.

Так какие ценности и эмоции будут у искусственного интеллекта? Можно просто запрограммировать их – в этом случае мы сами решаем, что он «захочет» делать, и нам нет нужды волноваться, не станет ли он преследовать цели, отличные от наших. Мы запросто могли бы сделать так, чтобы искусственный интеллект был не в состоянии изменять определенные базовые императивы, которые мы ему дали (что‑то вроде дополненной версии законов робототехники Азимова).

Второй путь к созданию искусственного интеллекта – это детальная расшифровка механизмов работы человеческого мозга. Понятно, что в ближайшем будущем нас могут ждать великие озарения по поводу структуры и концептуальной иерархии мозга – вроде открытия Уотсоном, Криком и Уилкинсом структуры ДНК и расшифровки механизма наследственности. Мы могли бы смоделировать или воспроизвести эту функциональную структуру в кремнии или каком‑то другом субстрате в виде комбинации аппаратных и программных средств.

На первый взгляд может показаться хорошей идеей побыстрее наделить искусственный интеллект достижениями нашей собственной продолжительной эволюции, а также дать ему собственные ценности путем функционального воспроизведения эмоциональных центров нашего мозга и областей высшей нервной деятельности, таких как кора. Но мозг по своей природе должен получать информацию от обширного сенсорного аппарата нашего тела и реагировать на нее. Чем это заменить для искусственного интеллекта? Даже если у него будет высокотехнологичное физическое воплощение с серьезным сенсорным функционалом, для выживания ИИ, вероятно, потребуется нечто совершенно отличное от того, что есть у нас. Он мог бы пройти определенную эмоциональную настройку в ходе взаимодействия со своей средой, но для выработки подлинной автономности и собственных желаний ему потребуется нечто сопоставимое с долгосрочной эволюцией, включающей в себя дарвиновские потребности в воспроизводстве, изменчивость и естественный отбор. Этого у него не будет, потому что мы сейчас говорим не об искусственной жизни . Следовательно, отметим еще раз, мы дадим ему такие ценности, которые сами выберем.

Конечно, возможно, что кто‑то создаст разумных роботов в качестве оружия (или солдат), чтобы использовать их в войне против других людей, но такой инструмент будет просто реализовывать намерения создателей и, лишенный собственной воли или желаний, не станет угрозой для человечества, по крайней мере не больше, чем любое уже существующее оружие. Так что оба потенциально возможных пути к созданию искусственного интеллекта (по крайней мере, те, которые не требуют геологических масштабов времени) не дадут ему такой свободы воли, независимой от намерений создателей, чтобы он мог стать настоящей угрозой для них.