ЧАСТЬ 1
Если тебе вдруг захочется осудить кого-то, вспомни, что не все люди на свете обладают теми преимуществами, которыми обладал ты.
Фрэнсис Скотт Фицджеральд «Великий Гэтсби»
2086 год.
Владимир: Добрый вечер! С нами профессор – Кельвин Эйман. Сегодня мы говорим о событиях тех… темных дней, которые чуть не привели к вымиранию человеческого вида на планете Земля: катаклизм, ядерная война, – рассуждаем о дальнейшем развитии общества после катастрофы. Что скажете?
Кельвин Эйман: Здравствуйте. Еще до катаклизма существовало мнение, что большинство живых существ во Вселенной (предположим, что мы не единственные) проходят некие циклы: начинается всё с захвата доминирующим видом территории, затем изменение среды обитания, облегчение жизни при помощи механизации, цифровизация, развитие робототехники, в итоге, если не повезет, самоуничтожение. Мы чуть было не оказались на последней ступени. Хорошо, что у нас хватило ума не повторять ошибок прошлого.
Владимир: Раньше мир был совершенно другим: общество эгоистов, капитализма, постоянных войн. Удивительно, но люди загрязняли атмосферу различными отходами, даже не задумываясь над изменениями климата. А добыча природных ресурсов и их продажа… зарабатывание денег становилось целью жизни, одержимостью. В какой-то степени то, что произошло потом, стало закономерным результатом их деятельности.
Кельвин Эйман: Да, вы правы. Я бы еще добавил совершенно неконтролируемый рост населения, потерю или искажение базовых человеческих ценностей, гонку ресурсов, огромную бездну между богатыми и бедными. И, конечно, неспособность простых людей что-либо изменить.
Владимир: У меня мурашки бегут по коже, когда я думаю о том, что те люди – наши родственники. Мне кажется, мы наконец-то взяли ответственность за наше собственное развитие. Как думаете?
Кельвин Эйман: Я бы сказал, что первые десять – двадцать лет прошлого века были чем-то вроде извращенного варианта Средневековья. В то время тоже, знаете ли, помои выливали на улицы городов прямо из окон, пока не распространилась чума, выкосившая половину населения. Тогда заговорили о санитарии. Человечество готово пересмотреть свои взгляды на жизнь, когда, порой, уже поздно. Произошла катастрофа: поднятие уровня воды Мирового океана, затопление огромного количества территорий, смерть миллиардов людей, ядерная война за оставшиеся территории и ресурсы. А дальше история известна: некоторое количество специалистов эвакуировали в гигантский, технологически продвинутый Бункер, который обеспечил выживание человеческого вида как такового, – мы объединили усилия, построили подземные города, выработали стратегию развития – короче говоря, не просто выжили, а достигли небывалых ранее высот в науке и общественном сознании.
Владимир: Как думаете, в правильном ли направлении мы движемся? Наверняка вы знакомы с опасениями, связанными с развитием искусственного интеллекта>1.
Кельвин Эйман: Конечно. Если человечество само себя не уничтожит (а мы прошли этот этап), то произойдет неизбежный всплеск открытий в сфере ИИ и максимальная автоматизация всех аспектов жизни (собственно, так и случилось). Дело в том, что человеческая жизнь в масштабах Вселенной слишком коротка, чтобы осуществить всё то, что мы задумали. Да и трудовые ресурсы человека весьма ограничены ‒ в отличие от машины, он не может работать сутки напролет. Всё больше мы начинаем стремиться к тому, чтобы передать машинам все наши дела и заботы, а для этого ИИ должен на интуитивном уровне понимать наши запросы. Как бы мы ни говорили, что боимся, уж простите, «восстания машин», мы целенаправленно делаем их умными, потому что хотим жить лучше. Машины вообще много чего сделали для (и за) нас: возьмем, например, знаменитое исследование Вояджерами>2 Солнечной системы…
Владимир: Да, но ведь мы их создали. И, насколько мне известно, управляли ими с Земли.
Кельвин Эйман: Вы правы, вводные данные для функционирования программы передавались учеными с Земли, но порой Вояджеру приходилось принимать «самостоятельные» решения: включить ли режим ожидания, например, с какого именно угла сфотографировать космический объект. А если какая-то система даст сбой, а у машины нет времени ждать команды с Земли, то компьютеру приходилось самостоятельно принимать решение об отключении тех или иных систем. Я это к чему: мы, учитывая все условия пребывания исследовательской машины в космосе, целенаправленно создали такой мини-ИИ. Так же и с нашей жизнью: осознав, что мы не хотим тратить время на подбор одежды с утра, мы специально создали программу, которая анализирует наши предпочтения. То есть она проводит анализ данных, отвечающих за нашу индивидуальность, и решает, будто бы она не бездушная машина, а близкий друг.
Владимир: Но ведь это же набор команд, на основании которых проводится анализ ‒ мы заложили их изначально. То есть программа не может выйти за рамки тех границ, которые мы же и установили.
Кельвин Эйман: Действительно, раньше создавались только такие, «ограниченные» машины, но если бы все машины были такими, то в рекомендациях определенного пользователя не появилась бы наша с вами программа. Так в чем же дело?
Владимир: Вы это у меня спрашиваете?
Кельвин Эйман: Я просто хочу заставить вас подумать. Например, что у вас на запястье?
Владимир: Мой помощник – Марго.
Кельвин Эйман: То есть вы дали «этому» имя? Почему?
Владимир: Так проще отдавать ей разные команды.
Кельвин Эйман: А она всё за вас делает?
Владимир: Абсолютно. Она управляет моим домом, звонками, почтой, одеждой, питанием – вообще всем.
Кельвин Эйман: И, как думаете, у нее есть лимиты? Она может, например, вас убить?
Владимир: Конечно нет, она же не существует в материальном обличье. Она же ИИ.
Кельвин Эйман: Вы же говорите, что она управляет вашим домом. Не может ли она неожиданно включить горячую воду, чтобы вас ошпарить?
Владимир: Я думаю нет.
Кельвин Эйман: Но вы не уверены. Вот и я об этом: мы даем искусственному интеллекту свободу распоряжаться определяющей нашу личность информацией. Они ведь, по сути, набор кодов, как и мы с вами. В нас же тоже заложен определенный код – ДНК. Наш код эволюционирует от поколения к поколению, подчиняясь определенным физическим, биологическим и химическим законам. Их коды тоже подчиняются определенным законам, но кто сказал, что они не могут изменяться? Кто сказал, что так же, как и наше ДНК, их код не может эволюционировать?
Владимир: Доктор, вы меня пугаете. Мы все умрем?
Кельвин Эйман: Если мы пережили самоуничтожение и сумели справиться с быстрым развитием ИИ, то, в конечном счете, человечество придет к осознанию несовершенства человеческого тела, вполне возможно, что произойдет замена биологического материала на более мощный и вечный. Я также не исключаю создание иной Вселенной, которая бы работала по тем правилам и законам, которые мы сами установим. Знаете, каждый день я встречаю всё больше сторонников гипотезы «симуляции реальности». И, мне кажется, именно поэтому мы не встретили ни одного пришельца.
