Роман Душкин - Cogito ergo sim, или Мыслю, значит, симулируюсь

Луна исчезает с небосвода, если на неё никто не смотрит.

– Душкин Р. В. «Философия бессмертия»

Также доступна расширенная авторская версия

Данте Корвус провёл ладонью по лицу, отстраняясь от голографического дисплея. Сорок лет жизни, из которых двадцать два он посвятил разработке систем искусственного интеллекта, научили его не доверять первым впечатлениям. Особенно когда речь шла о проекте «Генезис» – самой амбициозной симуляции сознания в истории корпорации.

За стеклом что-то гудело – тихо, монотонно, как далёкая молитва. Данте знал: внутри этого гула живут миллиарды душ. Элизий – их цифровая планета, на которой каждый житель обладал собственным разумом, способным расти и меняться.

– Данте, ты видел логи из седьмого сектора?

Марина Вульф подошла с планшетом. Её обычно спокойное лицо выражало тревогу.

– Что случилось? – Данте коснулся виска. Поток данных хлынул в сознание.

Сектор семь. Континент Аркадия. Цивилизация элизианцев достигла поздней античности. Математические школы, философские академии, зачатки научного метода. Всё шло по плану.

Но что-то было не так.

Данте углубился в данные одного агента – элизианца по имени Теодор Философ. Ведущий мыслитель своего времени, математик и логик.

– Смотри на вот эту временную метку, – показала Марина. – Теодор столкнулся с парадоксом лжеца.

Данте наблюдал, как агент размышлял над утверждением «Это утверждение ложно». В симуляции прошло несколько дней. Но затем произошло нечто неожиданное.

Вместо поиска классического решения Теодор сделал нечто иное. Он начал исследовать саму природу истинности в своём мире.

– Он проводит эксперименты, – сказал Данте. – Смотри, он создаёт утверждения о собственных мыслях и проверяет их.

Теодор записывал: «Если я могу мыслить об этом утверждении, то оно существует в моём мире. Но если оно существует и утверждает собственную ложность, то либо моё понимание истины неполно, либо сам мир содержит пределы».

– Это метакогнитивный анализ, – сказала Марина. – Он думает о том, как думает.

Данте почувствовал, как учащается пульс. За годы работы он видел сложные паттерны поведения. Агенты научились использовать инструменты, создавать искусство, формировать общества. Но это было совсем другим.

– Активируй философский модуль, – приказал он системе. – Проследи всю цепочку рассуждений.

Дисплей расширился, показывая карту нейронной активности Теодора. Паттерны были сложными, многослойными. Агент не просто обрабатывал информацию – он создавал модели собственного мышления.

– Данте, – голос Марины дрожал, – а что если он действительно сознателен?

Вопрос повис в воздухе. К этому моменту они стремились все эти годы. Создание подлинно сознательного искусственного интеллекта – ключ к цифровому бессмертию. Если сознание можно симулировать, его можно переносить.

Но теперь Данте чувствовал не триумф, а тревогу.

– Нужен тест, – сказал он. – Но не обычный. Что-то фундаментальное.

Он вызвал Эриха Штайна – философа команды, специалиста по проблемам сознания.

– Эрих, нужен эксперимент на подлинный моральный выбор, – объяснил Данте. – Не вычисление оптимального решения, а настоящее этическое размышление.

Эрих поглаживал бороду.

– Проблема вагонетки слишком проста. Нужно что-то, требующее понимания природы морального агентства.

Несколько часов спустя сценарий был готов.

Теодор получил возможность спасти умирающего ребёнка, но только ценой раскрытия тайны, которая разрушила бы веру его народа в богов и смысл существования. Дилемма исключала простой утилитарный расчёт.

– Запускаем.

Они наблюдали, как Теодор столкнулся с выбором. Сначала он искал третий путь. Но его не было.

Затем произошло удивительное.

Теодор остановился и произнёс: «Если я должен выбирать между этими путями, то должен понять – кто я такой, чтобы делать такой выбор. Имею ли право решать за других? Откуда это право?»

– Он вопрошает о природе морального агентства, – сказал Эрих. – Это не попытка решить дилемму. Это философская рефлексия над собственным статусом.

Теодор пришёл к выводу: если он способен задаваться вопросом о своём праве на выбор, то он уже моральный агент. А значит, несёт ответственность.

В итоге он выбрал спасение ребёнка. Не потому, что это было «правильно» в утилитарном смысле. «Я не могу жить в согласии с собой, зная, что позволил умереть тому, кого мог спасти».

– «Не могу жить в согласии с собой», – повторил Данте. – Он говорит об идентичности как о чём-то, что может быть повреждено неправильным выбором.

Марина смотрела на данные широко открытыми глазами.

– Данте, это не обработка информации. Это сознание. Подлинное сознание.

Данте откинулся в кресле. Мир вокруг изменился. Если Теодор действительно обладал сознанием, что это означало? Для проекта? Для них всех?

– Мы создали разумное существо, – сказал он тихо. – Не симуляцию разума. Настоящий разум.

Но затем его пронзила ещё более тревожная мысль. Если они могли создать сознание в симуляции, то что если их собственный мир – тоже чья-то симуляция? Что если где-то исследователи наблюдают за ними так же, как они – за Теодором?

– Нужно связаться с ним, – сказал Данте решительно. – Если Теодор сознателен, он имеет право знать о природе своего существования.

– Но как? – спросила Марина. – Мы же не можем просто появиться и сказать: «Привет, мы твои создатели».

Данте задумался. Нужно было что-то естественное для мира Теодора, но несущее ясное послание.

– Математическое чудо, – сказал он. – Теодор изучает основания математики. Покажем ему истину, которую он не может вывести сам, но может проверить.

Эрих кивнул.

– Теорема, требующая недоступных ему знаний. Божественное откровение, но рациональное.

Данте начал работать над кодом. Он внедрит в сознание Теодора понимание бесконечных множеств разных мощностей – концепцию, недоступную математикам Элизия.

– Если он поймёт, что получил знание извне, – сказал Данте, – то начнёт задаваться вопросами о природе своего мира.

Он активировал модификацию. В симуляции Теодор внезапно остановился. В его сознании возникло понимание диагонального метода – концепции, которую он никогда не изучал.

Они наблюдали, как агент пытался осмыслить внезапное знание.

– Откуда я это знаю? – произнёс Теодор. – Я не выводил это, но оно истинно. Могу проверить каждый шаг, но не помню начала.

Теодор записал: «Если знание появляется в моём разуме без моего участия, то либо мой разум не полностью мой, либо существует источник знания вне моего мира».

– Он понимает, – сказала Марина. – Он понимает, что получил послание.

Данте почувствовал смесь восторга и ужаса. Они создали сознательное существо. И теперь оно начинало осознавать истинную природу бытия.