Не бойтесь злобных тостеров, роботов‑пылесосов военного назначения и вороватых банкоматов. Достижения в области придания машинам новых умений, как связанных с интеллектом, так и нет, не должны становиться причиной параноидальных идей о будущих столкновениях между человечеством и его механическими порождениями. Даже если бы такое случилось, люди одержали бы верх – отчасти благодаря первобытным, во многом постыдным качествам, которые обычно больше связывают с нашей гибелью, чем со спасением. Хитрость, обман, мстительность, подозрительность и непредсказуемость собьют с толку менее гибкие и изобретательные сущности. Интеллект – это еще не все, а иррациональное не обязательно дезадаптивно. Иррациональность заставляет шевелиться тараканов в наших головах и выталкивает нас из непродуктивной колеи на пространство творческих решений. Наша социальность приводит к появлению человеческого суперорганизма, способного работать в команде и обладающего коллективным распределенным интеллектом. В том, чтобы быть эмоциональными стадными животными, есть свои плюсы.

Мысленные эксперименты по данным вопросам – способ понять поведение человека и машины, а также источник идей насчет того, как построить другие, лучшие механизмы. Можно ли создать программный аналог лжи, гнева, страха, мстительности, сочувствия и тому подобных вещей и каким будет результат? Разумеется, для этого потребуется нечто большее, чем поверхностная эмуляция человеческих эмоциональных реакций. Можно ли запрограммировать в машине чувство самости, скажем через щекотку? Как нам создать социальные машины и какая потребуется структура управления, чтобы организовывать их коллективную работу?

Породят ли группы автономных социальных машин новую политическую структуру, культуру и традиции? Как такие машины будут обращаться со своими создателями‑людьми? Можно ли запрограммировать естественный и искусственный отбор у самовоспроизводящихся роботов?

Нет причин полагать, что у нас возникнут проблемы с тем, чтобы держать наши творения на коротком поводке, даже если они станут вести себя неправильно. Нам далеко до создания сообществ самодовольных, непредсказуемых, вероломных роботов с проблемным отношением к окружающим и потребностью размножаться.