Высокий уровень интеллекта и теплые чувства к ближнему не очень хорошо сочетаются в сознании обывателя. Сверхразумные злодеи из фильмов о Джеймсе Бонде, жестокие и жаждущие мирового господства, – отличный пример. Поэтому неудивительно, что первой реакцией на фразу о мыслящих машинах становится вопрос о том, какие угрозы они несут человечеству.

То, что нам удалось узнать об эволюции своего интеллекта, тоже добавляет беспокойства. По мере того как люди эволюционировали, чтобы жить в более крупных социальных группах, чем у наших собратьев‑приматов, совершенствовались и наши способности манипулировать другими и обманывать их, отличать друзей от врагов, вести учет добрых и злых дел, а также все прочие социальные навыки, необходимые для того, чтобы быть успешными индивидами. Результатом стал мозг большего размера и макиавеллианский интеллект[1].

Однако вряд ли можно утверждать, что мышление неразрывно связано с необходимостью конкурировать с другими и побеждать их только потому, что это было движущей силой эволюции нашего интеллекта. Мы можем создать искусственный разум – или разумы – без присущих человеческой природе пороков, у него вообще может не оказаться потребностей и желаний. Мышление не обязательно связано с коварством и вожделением, характерными для существа, которое эволюционировало прежде всего для того, чтобы выживать. Осмотритесь, и вы увидите, что сейчас повсеместно появляется как раз нейтральный тип ИИ.

Полезно не рассматривать интеллект с антропоцентристской точки зрения, ориентируясь только на наше особое человеческое мышление. Он развился у всех видов по одной и той же веской причине: он нужен, чтобы предугадывать будущее, он помогает разбираться с тем, чем оно грозит, – надо ли увернуться от камня или, если вы бактерия, заметить изменение питательности среды и выяснить, в каком направлении двигаться, чтобы получить наилучшие для себя результаты.

Если рассматривать интеллект в более общем понимании, то можно увидеть, что множество мощных искусственных разумов уже существуют. Возьмем климатические модели. Мы можем достаточно достоверно предугадать состояние всей планеты на десятки лет вперед и предсказать, как повлияют на будущее многие из наших действий. Климатические модели очень напоминают машину времени. Возьмем высокоскоростные компьютерные модели, используемые для работы на фондовом рынке: все они пытаются узнать ближайшее будущее раньше, чем остальные, и получить выгоду от этого знания. То же самое делают современные модели, оценивающие ваши онлайн‑покупки: предсказывают ваши вероятные действия, чтобы получить выгоду от этого знания. С удовольствием покупая книгу из раздела «Рекомендовано для вас», вы попадаете в руки иному интеллекту, подталкивающему вас к тому будущему, о котором вы сами и не догадались бы, и знающему ваши вкусы лучше, чем вы сами.

Искусственный интеллект уже стал мощным и страшным, хотя можно спорить о том, стоит ли говорить о его мышлении. А мы ведь только начали! Практичный интеллект, в том числе роботизированный, будет понемногу прирастать еще долгое время и постепенно менять нашу жизнь, возможно, почти незаметно для нас. Он станет нашим продолжением, как другие наши инструменты. И он сделает нас еще могущественнее.

Нам нужно задуматься о том, кто будет владеть искусственным интеллектом, поскольку уже сейчас некоторые варианты его использования вызывают беспокойство. Нам не нужно беспокоиться по поводу самостоятельных машин, которые когда‑нибудь станут мыслить так, как это делает человек. К тому моменту, когда будет построена разумная человекоподобная машина, если такое вообще когда‑нибудь произойдет, она столкнется с людьми, обладающими макиавеллианским интеллектом и вооруженными всеми инструментами ИИ, которые, собственно, и дали возможность построить мыслящего робота. Испугается именно робот. Мы будем умными мыслящими машинами.

[1] Макиавеллианский интеллект – специфические интеллектуальные способности, отвечающие за функционирование индивида в коллективе (способность предвидеть реакции и поступки «соплеменников», формировать коалиции, повышать свой социальный статус и т. д.). Назван в честь итальянского политика и философа Никколо Макиавелли (1469–1527), известного своими работами по стратегии власти, для укрепления которой он допускал применение любых средств. – Прим. ред.