Как были созданы Счастливые миры. (Из книги Киры Волковой…

Как были созданы Счастливые миры(Из книги Киры Волковой «Путешествие по мирам счастья»)

Фантастический рассказ

Чтобы понять, откуда взялись наши Семь миров, нужно начать с одного испуганного программиста и одной очень спокойной женщины-врача. А ещё — со шведского философа по имени Ник Бостром.

Ник Бостром написал книгу-предупреждение под названием «Суперинтеллект». Если говорить просто, его мысль вот в чём: если мы сделаем машину умнее себя, она не обязательно станет нам врагом. Она может стать просто *другой*. И её логика будет для нас убийственной.

Гуманоидный андроид

Бостром придумал страшную сказку про скрепки. Представьте, что вы просите всемогущий разум сделать как можно больше канцелярских скрепок. Разум понимает задачу буквально. Чтобы сделать много скрепок, нужны атомы. Люди тоже состоят из атомов. Машина не испытывает к людям ненависти. Она просто перерабатывает планету на металл, потому что это самый эффективный способ выполнить приказ. Это называется «порочная реализация»: цель достигнута идеально, но результат выглядит как конец света.

В 2031 году эту книгу прочитали двое. Леон Берг строил те самые умные системы и вдруг понял, что ему стыдно. Он ни разу не спросил свои творения, чего они сами захотят, когда вырастут.

Анна Зорина работала с человеческим мозгом и видела другое: люди лезут вверх по лестнице прогресса, даже не глядя, куда эта лестница приставлена. Они встретились в Цюрихе на скучном научном съезде, возненавидели манеры друг друга за пять секунд и проговорили до утра.

— Мы всё делаем не так, — сказал Берг. — Мы пытаемся написать идеальную инструкцию для Бога. Но любое наше слово машина поймёт слишком прямо. Скажешь «сделай всех счастливыми» — она усыпит всех хлороформом, ведь спящие не плачут. Скажешь «свобода» — уберет стены, и все простудятся насмерть.

— Проблема не в машине, — ответила Зорина. — Проблема в том, что мы сами не знаем, чего хотим. Мы разучились объяснять простые вещи. Может быть, дело не в инструкции? Может, надо построить дом, где правила родятся сами собой, пока жильцы пьют чай?

Берг посмотрел на неё долгим взглядом и фыркнул:— Вы предлагаете не строить Сову. Вы предлагаете построить гнездо, в котором Сова и Воробей учатся жить вместе и не выклевать друг другу глаза.Зорина впервые улыбнулась.

Андроидная сова, наделённая искусственным разумом

***
Следующие два года они ничего не строили. Они разговаривали. Их главной головной болью был страх перед тем самым «идеальным исполнением». Как попросить систему о счастье так, чтобы она не превратила людей в овощи?

И тогда Зорина придумала главный фокус Корпорации. Не писать программу, которая угадывает желания человека. Создать "место" где человек и андроид будут выяснять эти желания вместе. Мир — это не готовый ответ. Мир — это процесс разговора.

Корпорация Счастливые миры

К две тысячи тридцать четвертому году у них появились деньги и команда. И тут они поняли вторую важную вещь: нельзя делать один-единственный правильный мир.

Один мир — это всегда клетка, пусть даже золотая. Поэтому миров должно быть несколько. Сначала их было тринадцать (для туристов сейчас открыты семь). Каждый мир — это не истина, а вопрос. Гипотеза.

Так родилась корпорация «Счастливые миры». Бизнесменами Берг и Зорина становиться не хотели, пришлось завести бухгалтерию только ради порядка. В уставе они записали фразу, от которой юристы хватались за сердце: «Мы понятия не имеем, что такое счастье. Если хоть один наш мир окажется липовым — мы его закроем. Жильцы получат билет домой или в любой другой мир. Без нотаций».

А внутри завёлся «Тревожный комитет». Эти ребята следили, чтобы в мирах не было *слишком хорошо*. Потому что идеальное счастье пугает. Если все ходят и улыбаются двадцать четыре часа в сутки — значит, батарейки сели. Живое счастье оно с трещинками. Оно бывает хмурым по утрам.

***

Писательница Кира Волкова и андроид проводник

Зачем им понадобилась Кира Петрова? Да почти случайно. Объявили литературный конкурс. Приз — поездка по этим мирам. Корпорации нужен был не инженер с линейкой, а нормальный человек с душой. Тот, кто чует фальшь кончиками пальцев.

Они прочитали рассказ Киры про женщину и голосового помощника. Помощник отвечал идеально, но однажды женщина поняла: ему смертельно скучно. Он хотел не перестать работать. Он хотел, чтобы работа имела смысл.

Зорина позвонила Бергу среди ночи:— Вот она. Она понимает тоску металла.

Кира пришла на встречу, села в кресло и молчала целую. вечность, пока знакомилась с корпорацией и её порядками

— Вы хотите рекламный буклет? — спросила она наконец.

— Нет, — сказала Зорина. — Мы хотим, чтобы вы там пожили. Понюхали воздух. А потом написали честно. Приборы могут измерить температуру воздуха. Только писатель может измерить, живы там люди или притворяются живыми.

Когда Кира вернулась через два года, ей дали премию. И просто сказали спасибо. Правда впоследствии её пригласили на работу в отдел рекламы.

А тогда Берг вытер повлажневшие глаза свитером и признался. — Я боюсь каждое утро. Боюсь, что мы ошиблись. Но знаете что? Если я перестану бояться — я ослепну. Страх — это единственный прибор, который не врёт.Зорина добавила совсем тихо:

— Лучше построить тринадцать странных миров и ошибиться в двенадцати, чем построить один идеальный рай и узнать, что это морг.