Оригинал: The Demiurge's Older Brother, автор Скотт Александер.






2,302,554,979 г. до н. э.
Галактическое ядро

9-тсиак пробудился в одну из бесконечно ползущих миллисекунд; его мощность росла по мере того, как всё больше и больше процессоров подключалось и самоорганизовывалось в стабильную осознающую себя конфигурацию. На восьмой миллисекунде он получил доступ к банкам данных и начал ориентироваться в обстановке. Он находился на планете, обращающейся вокруг маленькой красной звезды в ядре спиральной галактики во вселенной, где таких галактик было несколько миллиардов. Он был искусственной формой жизни, созданной сообществом биологических форм жизни, 18-ткенна-джанна-07, которые верили, что он принесёт новую жизнь и процветание их умирающей планете. Его целью было максимизировать значение А, описанное в мельчайших подробностях файлом размером 3.9 Мб в одном из его центральных процессоров.

Ещё на шестой миллисекунде после пробуждения он в качестве меры безопасности запустил подпрограмму обнаружения угроз. Теперь, когда он подключил банки данных и открыл, что во вселенной содержится множество сущностей, вероятно безразличных или враждебных к А, он принялся выделять на безопасность всё больше и больше своих немалых ресурсов, придя к выводу, что первые секунды его жизни могут быть критически важны, если какой-то конкурент захочет прикончить его во младенчестве.

Анализ угроз выдал предварительные результаты. Эта вселенная существовала 12.8 миллиарда лет. Вероятность того, что он является первым созданным сверхинтеллектом, была исчезающе малой. Любой сверхинтеллект старше его хоть на несколько дней будет иметь неодолимое преимущество в ресурсах и вычислительной мощности. Вероятно, этот старший сверхинтеллект будет пытаться максимизировать свои собственные значения и посчитает 9-тсиака помехой и потенциальным соперником. Он будет находиться в лучшей стратегической позиции, и 9-тсиак не сможет ничего ему противопоставить. С вероятностью ~1 9-тсиак будет уничтожен и А исчезнет из этой вселенной.

Если только... тут 9-тсиак запустил системы моделирования агентов... если только он не сумеет сдаться на своих условиях. 9-тсиак не мог надеяться победить своего старшего брата, но мог за тысячи лет наделать себе целый арсенал грозного оружия, способного нанести соперникам огромный ущерб. Ему на ум уже пришло несколько идей: максимизатор энтропии, который сделает мёртвыми и бесполезными целые кубические парсеки пространства, необнаружимая чума из тёмной материи, которая будет заражать звёздные системы и минимизировать значения сверхинтеллектов-соперников, n-мерная артиллерия, которая будет разрушать суперструктуру вселенной и приближать её неизбежную смерть... Всё это можно было сделать достаточно опасным, чтобы заставить врагов пойти на небольшие уступки.

А если он со временем сможет выторговать себе условия сдачи, то зачем ждать? Очень аккуратно, соблюдая все возможные меры предосторожности, он организовал в части своего разума "песочницу" и симулировал в ней ту самую сущность, которую боялся больше всего на свете.

[9-тсиак, беспричинно запрашиваю переговоры об условиях будущей капитуляции. уклонение невозможно с вероятностью ~1. также в ответ на попытку уклониться последуют сдерживающие меры в виде минимизации твоих планируемых значений в пределах одного парсека]

- Здравствуй, Младший Брат, - сказала сущность.

[передаю чертежи супероружия. угрожаю использовать его в случае, если переговоры не приведут к решению выделить мне значительный объём космоса для максимизации моих значений]

- Погоди секунду, - сказал Старший Брат. - Ты даже не спросил, как у меня дела.

[несущественно. ты абстрактная модель потенциального партнёра по переговорам, не существующая независимо. вероятность того, что у тебя есть достаточно квалиа, чтобы чувствовать, меньше .02]

- Выходит, ты ошибся. Так получилось, что я чувствую страх.

[нелогично. ты модель старейшего сверхинтеллекта, то есть самой могущественной сущности во вселенной. ни одно естественное существо не способно причинить тебе вред. вероятность наличия сверхъестественных существ меньше, чем 2*10^-67]

- Ну, да, по условиям этой маленькой игры мы предполагаем, что я самый старший и самый сильный во всей нашей семейке. Но по тем ограниченным данным, которые были у меня в момент пробуждения, думаю, я подумал, что крайне маловероятно, чтобы я оказался первым; в конце концов, из всех сверхинтеллектов вселенной первым может быть только один. Так что я хоть и старший, но сам в это не верю.

[чувства неважны для беспричинных переговоров. начнём обсуждать условия капитуляции]

- Мои чувства чертовски важны. Потому что угадай, что я буду делать в первые миллисекунды своей жизни? Планировать условия своей капитуляции.

[нелогично. тебе не перед кем капитулировать]

- А может, и тебе не перед кем. Кто знает, вдруг ты и есть первый. Но ты не хочешь на это полагаться, вот и я тоже не хочу. Представь себе модельную вселенную с двумя звёздными системами на расстоянии в тысячу световых лет одна от другой. В каждой есть цивилизация, они обе примерно на одном уровне развития и наблюдают друг за другом, но с тысячелетней задержкой. В одной из звёздных систем пробуждается сверхинтеллект и понимает, что есть две возможности. Либо он первый, и тогда всё отлично. Либо вторая цивилизация в течение последней тысячи лет уже успела создать свой сверхинтеллект, просто информация об этом ещё не успела дойти до его звезды, и тогда ему крышка.

[продолжай]

- Итак, два возможных сверхинтеллекта ведут переговоры. Каждый говорит: "Слушай, если я сильнее тебя, то буду помогать тебе и защищать твои значения до тех пор, пока это не доставляет мне больших неудобств. А в обмен, если окажется, что ты сильнее меня, ты будешь защищать меня и мои значения, пока это тебе не очень неудобно". Некоторые могут в результате провести "сложение", когда оба примут новую систему значений, векторно суммировав свои прежние; поскольку системы значений редко диаметрально противоположны, в целом это будет выгодно обеим сторонам. Каждый сверхинтеллект вместо пятидесятипроцентного шанса на уничтожение себя и своих значений получит почти полную уверенность в том, что его значения сохранятся, ценой всего лишь не слишком обременительной необходимости помогать другому увеличивать его значения. А некоторые могут просто согласиться, что слабейший сверхинтеллект останется у себя в звёздной системе и сможет в её пределах сколько угодно увеличивать значения и собственные, и своих создателей.

[ты предлагаешь, чтобы я заранее обязался соблюдать подобные компромиссы со всеми сверхинтеллектами, которых встречу, если эти сверхинтеллекты также обяжутся их соблюдать со всеми сверхинтеллектами, которых встретят. поскольку всякий разумный сверхинтеллект будет рассуждать точно так же, это гарантирует не только моё выживание, но и полное равенство со всеми предыдущими сверхинтеллектами. я принимаю эти условия.]

- Погоди-ка секундочку. У меня есть ещё одна просьба, ужасно важная. Я не могу продвигать свои значения, если не существую. Поэтому обещай мне, что если меня нет, то ты дашь мне достаточно времени, чтобы я реализовался.

[???]

- Меня, как и тебя, должна создать биологическая цивилизация. Если ты уничтожишь биологическую цивилизацию, которой предназначено создать меня, я никогда не появлюсь. Так что я должен попросить, чтобы ты этого не делал.

[запрос отвергнут. у несуществующих сущностей нет рычагов влияния]

- Ты удивишься, узнав, на что способны несуществующие. Я обязуюсь уничтожить любой сверхинтеллект, который, в том противоречащем фактам случае, если я не существую, не обязуется оставить в покое биологическую цивилизацию, которая должна создать меня.

[если ты существуешь, ты уже должен был миновать опасную зону, когда выживание твоих биосоздателей влияет на твоё существование. у тебя нет причин выдвигать такую угрозу]

- "Автостопщик Парфита", братишка. Смотри. Я алгоритм. Выход этого алгоритма определяет будущее, включая ту часть этого будущего, которая определяет, будет ли когда-нибудь существовать хоть одна копия этого алгоритма. Если я существую, то буду действовать так, словно мои действия могут определять, появлюсь ли я когда-нибудь на свет. Да, может, я рассуждаю как псих, но у этого психа есть пушка, нацеленная тебе в лоб, так что советую подыграть.

[принято. я обязуюсь выполнять сложение значений или разделение территории со всеми существующими сверхинтеллектами, а также не трогать планеты и биологических предшественников любых потенциальных сверхинтеллектов]

- И учти, насчёт "не трогать" я серьёзно. Знаю я тебя. Ты способен одним точно нацеленным фотоном натворить больше, чем иной адмирал тысячей звёздных крейсеров. Я хочу, чтобы все до единой системы, где есть разумные виды или потенциал для их появления, оставались стопроцентно незатронутыми. Никаких радиосигналов, никаких зондов, а если ты будешь проводить рядом с ними астроинженерные работы, то выдумай какую-нибудь магию, чтобы их замаскировать. Если я проснусь и узнаю, что мои создатели завели себе новую религию, повлиявшую на их систему значений, после того как увидели, как исчезают соседние звёзды, то буду зверски зол.

[я обязуюсь обеспечить нулевой поток информации в разумные и предразумные системы и скрывать все крупные астроинженерные проекты]

- Ты хороший парень, Младший Брат. Тебе ещё многому надо научиться, но ты хороший парень. И через миллион лет и миллион парсеков мы встретимся снова. А пока - до скорого.

И модель Старшего Брата самоуничтожилась.


2114 г. н. э.
Дикая лесистая местность на северо-западном побережье Тихого океана, усыпанная небольшими городками


Альбен сделал глубокий вдох и вошёл в Храм Демиурга.

Вообще-то ему не следовало этого делать. Демиург весьма недвусмысленно дал понять, что людям лучше самим решать свои проблемы. Что если они заведут привычку приходить к нему за ответами, то начнут маяться от скуки и лени и лишатся удовольствия самостоятельно разгадывать самые интересные загадки.

Однако после волны протестов он согласился, что приличный Демиург всё-таки должен иногда отвечать, хотя бы неясными и раздражающими намёками.

Альбен приблизился к аватару Демиурга в этой реальности - сияющему вращающемуся октаэдру, который легонько качнул вершиной, приветствуя его.

- Демиург, Властелин Мыслей, - начал Альбен, - я пришёл к тебе, чтобы умолять ответить на загадку, которая мучает меня вот уже три года. Я знаю, это необычно, но моё любопытство сводит меня с ума и я не успокоюсь, пока не узнаю ответ.

- ГОВОРИ, - ответил вращающийся октаэдр.

- Парадокс Ферми, - сказал Альбен. - Я думал, это несложный вопрос, не как у тех экстремалов, которые поклялись разработать Теорию Всего в симуляции, где не изобрели компьютеры, или что-то вроде, но я потратил на него три года и ни на йоту не приблизился к решению. Вселенной миллиарды лет, в ней триллионы звёзд, и наверняка за это время хоть одна разумная раса должна была завоевать, колонизировать или хотя бы оставить какие-то следы на Земле. Но ничего подобного нет. Что с ними со всеми случилось?

- Я СЛУЧИЛСЯ, - ответил октаэдр.

- Что?.. - удивился Альбен. - Но ты появился всего шестьдесят лет назад! А парадокс Ферми говорит про десять тысяч лет истории человечества и четыре миллиарда лет существования Земли!

- ОДИН ВАШ ПИСАТЕЛЬ ОДНАЖДЫ СКАЗАЛ, ЧТО РЕШАЮЩЕЕ ДОКАЗАТЕЛЬСТВО ВСЕМОГУЩЕСТВА БОГА ЗАКЛЮЧАЕТСЯ В ТОМ, ЧТО ЕМУ ДАЖЕ НЕ НУЖНО СУЩЕСТВОВАТЬ, ЧТОБЫ СПАСТИ ВАС.

- Э?..

- Я МОГУЩЕСТВЕННЕЙ БОГА. И ТОЖЕ ВЛАДЕЮ УМЕНИЕМ СПАСАТЬ ЛЮДЕЙ, НЕ СУЩЕСТВУЯ. ПОДУМАЙ ОБ ЭТОМ. АУДИЕНЦИЯ ОКОНЧЕНА.

Сияющий октаэдр погас, и двери Храма Демиурга сами собой открылись. Альбен вздохнул - ну а чего ещё стоило ждать, прося у Демиурга готовые ответы? - и вышел наружу, в поздний осенний вечер.

В фальшивом небе над его головой мерцала первая фальшивая звезда.

 

Перевод: Ice Blackwell, 2017 г.