Глобальный искусственный интеллект (ГИИ) уже родился. Его глаза и уши – это цифровые устройства, окружающие нас со всех сторон: кредитки, картографические спутники, мобильные телефоны и, конечно, миллиарды пользователей интернета. Центр мозга ГИИ сейчас больше похож на червя – узлы, которые объединяют часть рецепторов и часть эффекторов, но целое еще далеко от того, чтобы называться координированным интеллектом.

Уже сейчас многие страны используют эти зачатки нервной системы, чтобы влиять на политическое поведение людей и формировать национальное согласие: «Великий китайский файрвол», его потомки в Иране и в России и, конечно, обе крупнейшие политические партии в Соединенных Штатах. Национальные разведывательные службы и министерства обороны формируют более тихую, потаенную часть ГИИ, но именно они контролируют клыки и когти, хотя и ведут себя тихо. Более заметно то, как компании начинают использовать эту новорожденную нервную систему для формирования потребительского поведения и повышения доходности.

Хотя ГИИ едва появился на свет, корни у него очень древние. Фундаментальные алгоритмы и программы зарождающегося ГИИ были созданы древними политическими, юридическими и религиозными объединениями. Это естественная эволюция, потому что создание закона – по сути, просто написание алгоритма, а бюрократическая система управления – процесс, выполняющий программу закона. Совсем недавно новички вроде торговцев, общественных активистов и даже инженеров, осмелились внести свою лепту в ГИИ. В результате все эти законы и программы оказались существенно улучшены по сравнению с тем видом, в котором они пребывали со времен Хаммурапи, но мы все еще страдаем от недостатка единства, прозрачности и ответственности, а также от плохих механизмов принятия решений и сбора информации.

Однако в последние несколько десятков лет эволюционирующий ГИИ начал использовать цифровые технологии, чтобы заменить ими бюрократов‑людей. Те из них, кто имеет примитивные программы и плохие математические способности – юристы, политики и многие социологи, начали опасаться за свои влиятельные посты и потому всячески поднимают шум по поводу того, что нельзя‑де позволять инженерам и предпринимателям программировать ГИИ. Как по мне, претензии этих «традиционных программистов» звучат неубедительно, учитывая систематические неудачи, сопровождающие их уже несколько тысячелетий.

Если посмотреть на более новые, цифровые части ГИИ, то можно заметить определенную систему. Некоторые из них спасают человечество от ошибок «традиционных программистов»: картографические спутники предупредили нас о глобальном потеплении, исчезновении лесов и других экологических проблемах, а также снабдили фактами, необходимыми для решения этих проблем. Подобным образом статистический анализ здравоохранения, транспорта и режимов работы дает нам глобальную сеть, с помощью которой можно отслеживать мировые пандемии и координировать действия по борьбе с болезнями. С другой стороны, некоторые новые части, такие как «Великий китайский файрвол», АНБ и американские политические партии, выглядят пугающе, поскольку с их помощью горстка людей оказывается способна контролировать мысли и поведение очень больших групп, причем последние могут и не знать, что ими манипулируют.

Это говорит о том, что в действительности волноваться стоит не о самом Глобальном искусственном интеллекте, а о том, кто его контролирует. Если контроль сосредоточен в руках лишь нескольких человек или ГИИ вовсе не зависит от людей, тогда он может порождать кошмары. Но если контроль находится в руках большого и разнородного сообщества представителей разных групп людей, то мощь ГИИ, вероятно, будет использована для решения проблем, стоящих перед всем человечеством. То, что ГИИ превращается в распределенный интеллект, которым управляет многочисленный и разнородный круг людей, – благо для всех нас.

Создание работоспособного ГИИ критически важно, так как человечество сегодня сталкивается с предельно серьезными проблемами. ГИИ, который мы сформировали за последние 4000 лет, в основном состоит из политиков и юристов, исполняющих алгоритмы и программы, которые были написаны несколько веков назад. Он не только не справляется с этими серьезными проблемами, но и угрожает нашему существованию.

Для того чтобы все человечество сперва достигло достойного уровня жизни, а затем продолжало его поддерживать, нам нужно внимательно относиться к тому, как развивается наш ГИИ. Он может существовать в форме реконструированной ООН, которая использует ресурсы цифрового интеллекта, чтобы достичь устойчивого развития. Но, поскольку существующие системы международного управления очень неудачны, подобный подход может потребовать замены большей части современных бюрократических структур протезами с искусственным интеллектом – цифровыми системами, которые собирают достоверную и точную информацию и обеспечивают распределение ресурсов в соответствии с планом.

Мы уже видим, как цифровая эволюция повышает эффективность военных и коммерческих структур, но следует отметить, что, по мере того как организации начинают использовать больше цифровых протезов, они также эволюционируют в сторону более распределенных схем командования. Возможно, вместо дополнения традиционных структур управления цифровыми протезами мы разработаем новые, более эффективные типы цифровой демократии.

Вне зависимости от того, как будет развиваться новый глобальный искусственный интеллект, очевидны две вещи. Во‑первых, маловероятно, что мы можем достичь достойного уровня жизни для всего человечества без работоспособного ГИИ. Голосовать против его развития – значит голосовать за жестокий, больной мир. Во‑вторых, возможная опасность ГИИ связана с тем, в чьих руках будет сконцентрирована власть. Мы должны придумать, как построить подлинно демократические системы, куда входили бы и люди, и компьютерные разумы. Критически важно начать строить и тестировать ГИИ, которые будут решать экзистенциальные проблемы человечества и вместе с тем обеспечивать равенство в управлении ими. В противном случае мы можем обречь себя на будущее, полное экологических катастроф, войн и ненужных страданий.