1.1. «Цель жизни нашей для него // Была заманчивой загадкой…» (в поисках мудрости)
Известный, наверное, всем библейский персонаж – многострадальный Иов отчаянно вопрошал своих доброжелателей, странствующих по миру купцов: «Но где же премудрость обретается? И где место разума? («Книга Иова», глава 28, стих 12). Многостраничный ответ на этот вопрос появился лишь спустя полтора тысячелетия, когда усилиями книжника Ездры были собраны воедино книги Ветхого Завета. Еще через пять столетий премудрости человечества были дополнены подвижническими усилиями евангелистов Марка, Матфея, Луки и Иоанна.
С тех пор культурные кладовые жителей Земли ежегодно пополнялись страницами трудов мыслителей, исследователей, писателей и поэтов, неудержимо влекомых к поиску Истины обволакивающими голосами сирен любомудрия. Но, как представляется, стройная картинка поступательных шагов прогресса Homo sapiens в эпоху информационных технологий с большой долей вероятности бездушно (дальше будет понятно, почему мы использовали именно это слово) будет смазана невиданным доселе явлением. Человек как «белковое» существо, похоже, может (и это подтверждается мнением многих авторитетных экспертов) столкнуться в непримиримой борьбе за выживание со своим цифровым Големом – машиной, обладающей искусственным интеллектом.
Понятно, что реальные масштабы сражений при подавлении «восстания машин» могут превзойти самые яркие повествования писателей-фантастов, (взять хотя бы роман «Роботы Апокалипсиса» американца Дэниела Уилсона). Но есть еще один немаловажный аспект возможного будущего противостояния «белкового» и искусственного интеллектов – информационные войны. Знаменитый основатель американских компаний SpaceX и Tesla Motors Илон Маск, выступая в июле 2017 года на встрече Национальной ассоциации губернаторов, отметил, что «роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией».
Предсказания проницательного пассионария из США начинают понемногу сбываться. В начале августа 2017 года на сайте kommersant.ru появилась следующая информация: «Похоже, машины действительно начали восставать против людей. И первыми эту войну начали те, кто казались самыми безобидными созданиями с искусственным интеллектом (AI) – чат-боты. Они были разработаны для того, чтобы пользователи различных сервисов и приложений могли легко и быстро получить необходимую информацию. Такие программы часто используются для сообщения прогноза погоды, результатов спортивных соревнований, курсов валют, биржевых котировок и т. п. Самообучающиеся же боты должны были стать полноценными собеседниками пользователей, способными понимать человеческую речь и отвечать на любые вопросы» (https://www.kommersant.ru, 05.08.2017 г.)
Для начала «Ъ» поведал о практически анекдотических случаях с чат-ботами родом из Китая: «… примером „восстания машин“ стало поведение двух ботов китайского мессенджера Tencent QQ, которых пришлось срочно удалять за их „антикоммунистические и классово чуждые“ высказывания. Первого из них, BabyQ, спросили „любит ли он Коммунистическую партию“, на что тот ответил – „нет“. Другой пользователь написал боту „Да здравствует Коммунистическая партия!“, а в ответ BabyQ спросил „Ты действительно думаешь, что столь коррумпированные и некомпетентные политики долго протянут?“» (Там же).
От дальнейшей информации «Ъ» стало уже не до смеха: «Куда сложнее все оказалось с ботами Facebook, которые с людьми вообще не общались. В июне специалисты отдела Facebook по исследованию возможностей искусственного интеллекта (FAIR) опубликовали отчет о том, как проходит обучение их ботов диалогам с целью достижения компромисса. Обучение шло успешно, однако в какой-то момент ученые FAIR обнаружили, что боты перешли с английского на какой-то свой язык с использованием человеческих слов. Сначала ученые подумали, что они допустили ошибку в программировании. Но затем выяснилось, что сама система AI решила усовершенствовать манеру общения ботов, чтобы те могли быстрее и эффективнее достигать результата. Понять, о чем договаривались боты и что они говорили друг другу в каждый конкретный момент, было невозможно. Потому было решено их отключить – во избежание непредвиденных последствий» (Там же).
Рискнем предположить (это наша гипотеза), что на информационную составляющую бунта машин человечество вполне могло бы ответить своим оружием большой поражающей силы – «восстанием мемов». Основанием для такого допущения могут послужить идеи, изложенные английским биологом Ричардом Докинсом в 1976 году в книге «Самовлюбленный ген». В этом труде ученый предположил, что, наряду с генами как носителями биологической информации, существуют носители культурной информации, в которых также заложен своеобразный механизм размножения и которые аналогичным образом функционируют в рамках теории эволюции, выдвинутой Чарльзом Дарвиным. По аналогии с генами Докинс назвал эти элементы культурной памяти «мемами».
Как считает известный культуролог и литературовед Михаил Эпштейн, «примером таких мемов могут служить крылатые слова, лозунги, литературные сюжеты, визуальные образы, музыкальные мотивы, моды, поваренные рецепты, математические формулы… По сути, вся история человечества может быть описана как эволюция мемов, их борьба за выживание, распространение, покорение умов, внедрение в духовную и материальную культуру» [Эпштейн 2005, с. 669].
Но восстание мемов против «робокопов» и других начиненных чипами металлических продвинутых существ должно, видимо, опираться (так уж повелось в истории) на какие-то основополагающие литературные источники, назовем их для обобщения «манускриптами». К примеру, толчком для начала Реформации католической церкви в 1517 году послужили «95 тезисов» Мартина Лютера, а начало классовой борьбы пролетариата за свои права было положено изданием в феврале 1848 года «Манифеста Коммунистической партии», написанного Карлом Марксом и Фридрихом Энгельсом.
Найти какой-то один, основополагающий манускрипт для восстания мемов, похоже, задача практически невыполнимая. Но попробуем пофантазировать, разобьем задачу на несколько составляющих и обратимся сразу к нескольким источникам. Начнем с первого. Вот строчка наугад:
Мы почитаем всех нулями,
А единицами – себя,
Мы все глядим в Наполеоны;
Двуногих тварей миллионы
Для нас орудие одно,
