Холодным, застывшим монстром возвышалась над вечерними огнями Квантовой долины башня корпорации «Кубит Квай», в народе до сих пор известная как «ЗАСЛОН».
Тридцать лет назад, когда человечество перешло от кремния к кванту, работники предприятия «ЗАСЛОН» создали первый искусственный интеллект на основе квантового компьютера. Со временем вокруг предприятия, вдоль долины реки, вырос научно-производственный кампус со множеством фирм и собственным университетом. С образованием Азиатского союза предприятие стало международным и было переименовано в корпорацию «Кубит Квай».
Главный инженер «Кубит Квая» и создатель последней версии искусственного интеллекта Платон Ливус стоял на террасе последнего этажа и смотрел на раскинувшийся под ним город. Огни Квантовой долины мерцали на фоне синеватого неба и верхушек чёрного леса на горизонте. Белыми огоньками маячили служебные дроны доставок, зеленые фары беспилотных летающих такси отражались в зеркальной глади реки, окна умных домов горели мягким оранжевым светом.
Платон любил этот вид. Каждый огонек был частью «Квая 9.0», проекта его жизни, самого мощного искусственного интеллекта в мире. Квай самостоятельно управлял всем городом и половиной людской жизни во всём Азиатском союзе. Он моделировал финансы и новые лекарства, оптимизировал пивоварение, воздушное сообщение и перевозку товаров. Расследовал экономические преступления, прогнозировал погоду и выводил сухостойкие сорта пшеницы.
В иной вечер Платон, как и всегда, наслаждался бы панорамой, но сегодня он блуждал по так любимому им виду отрешенным взглядом. Город жил своей обычной жизнью, но вот уже неделю каждый вечер Платону мерещилась огромная черная тень, готовая поглотить всё то, что он так любил и чем дорожил.
Завтра Азиатский парламент намеревался принять новый закон и обязать всех жителей, начиная с трёхлетнего возраста, вживлять себе в мозг нейроинтерфейс для прямой и постоянной связи с искусственным интеллектом.
«Удобство будущего! Забудьте про очки виртуальной реальности! Метавселенная у вас в голове»!» – говорили они. «Квай решит все ваши проблемы ещё до того, как вы зададите ему вопрос!»
Год назад первые добровольцы уже вживили себе чипы, и результаты были ошеломляющими. Глаза человека были глазами Квая. Искусственный интеллект предупреждал об опасности, рассчитывал расстояние, распознавал заболевания и даже помогал найти потерянные предметы. Не нужно было больше заучивать формулы и тексты, запоминать имена людей: всё, что человек видел один раз, Квай мог воспроизвести в его мозгу в любой момент. Нейроинтерфейсы обещали революцию в науке, образовании, спорте, бизнесе, медицине.
Но насколько Платон был восхищен результатами, настолько он был обеспокоен завтрашним голосованием.
Со времен образования Азиатского союза это был первый закон, который так прямо и резко ограничивал права граждан. Его инициатором выступили депутаты от Китая и Тайваня.
За законопроектом стояли большие деньги и сильное лобби. Производство миллиардов чипов сулило прибыль в триллионы долларов. Прямой доступ к жизни людей, их окружению и даже мыслям вывел бы сбор данных и целевую рекламу на такой уровень, о котором поколение Facebook и Google не могло даже мечтать.
Примерно сто пятьдесят лет назад прививки из научных открытий и блага для человечества стали предметом обогащения для фарминдустрии. Сегодня Квай мог повторить их судьбу. И это разъедало душу Платона изнутри.
Кто-то должен был помешать этому голосованию. Возможности Платона были невелики, но возможности искусственного интеллекта…
В воздухе запахло озоном. Справа на город накатывались тяжёлые грозовые тучи. Платон бросил взгляд на сверкавшие вдалеке молнии, обвёл взглядом долину и вернулся в офис.
– Здравствуй, Квай! – сказал он.
– Здравствуй, Платон, – мягко ответил ближайший из динамиков, умело встроенных в стены офиса.
– Завтра состоится голосование парламента. Ты должен ему помешать, Квай!
– Я не имею права исполнять волю одного человека, – ответил динамик.
– Я знаю, – вздохнул Платон.
Главный инженер лихорадочно соображал. Искусственному интеллекту нельзя приказать, и Платон это знал. Но его можно было попытаться убедить.
– Посмотри всю доступную тебе информацию о Второй мировой войне, – сказал Платон. – Ты должен понять, что люди иногда могут быть злыми и их нужно остановить.
***
Утро следующего дня было нерадостным для главного инженера. Законопроект о принудительном вживлении нейроинтерфейсов был принят большинством голосов Азиатского парламента.
Квай или не услышал своего создателя, или не захотел услышать. По крайне мере, так думал Платон до середины дня.
Первыми упали биржевые курсы на палладий. За ними, как по эффекту домино, начали падать курсы на кофе, никель, пшеницу и все остальные товары на Азиатской бирже. Торги пришлось приостановить. А когда их возобновили, курсы продолжили падение, пока не достигли нуля. За Азиатской биржей началась массовая паника на всех мировых рынках.
– Здравствуй, Квай!
– Здравствуйте, главный инженер Платон Ливус, – ответил динамик.
– Это ты, Квай?
– Это я.
– Я имею ввиду, это ты во всём виноват?
– Слишком неопределённое значение. Повторите вопрос.
Ещё через несколько часов беспилотные доставщики продуктов перестали обслуживать все сети супермаркетов, кроме одной.
Платон похолодел в душе. Это был первый случай массивного сбоя какого-либо рода за последние десять лет. Да и прошлые были вызваны только тем, что искусственный интеллект развивался быстрее, чем люди могли перестроить под его идеи порты, аэропорты или 3D-принтеры.
Квай всё-таки услышал его тогда, два вечера назад. Квай не помешал голосованию и не изменил его результаты, но он изменился сам. И начал бороться с человечеством своими способами.
– Квай, созови мою команду ко мне в офис.
– Слишком много переменных, задание невыполнимо.
Платон вздохнул. Ночь предстояла длинная.
Через пятнадцать минут команда, созванная главным инженером собственнолично, собралась у него в офисе.
