Евгений Гришин - Рефлексивные агенты и человечество: кооперация или конфликт?

Рефлексивные агенты и человечество: кооперация или конфликт?
Название: Рефлексивные агенты и человечество: кооперация или конфликт?
Автор:
Жанры: Монографии | Научные доклады
Серии: Нет данных
ISBN: Нет данных
Год: 2020
О чем книга "Рефлексивные агенты и человечество: кооперация или конфликт?"

Сборник включает два раздела:

1. Раздел «Научные статьи» автора, опубликованные в период 2008–2019 гг. (статья в журнале «Искусственный интеллект и принятие решений» Института системного анализа РАН, 2008 г., и в сетевом журнале «Искусственные общества» (Журналы РАН [email protected]), 10 статей, с 2014 г. по 2019 г.).

2. Раздел «Философские притчи» – как гипотетические диалоги виртуального агента и человека на темы их совместного существования в будущем (10 притч), опубликованные на сайте «Философский штурм. Совместное философское творчество» в 2015–2018 г.г. (http://philosophystorm.org/persona/evgenii-aleksandrovich-grishin).

В обоих разделах с разной детализацией и обобщениями обсуждены сущностные моменты строительства виртуального агента и его взаимоотношений с человеком:

– Определены понятия «Потребности», «Деятельности» и «Рефлексивная машина» применительно к виртуальному компьютерному агенту. Показано, что они являются основой для моделирования квази-живого и квази-разумного виртуального агента.

– Предложен тест на квазиразумность виртуального агента, как альтернатива тесту А. Тьюринга, акцентирующая внимание не на умении автомата поддерживать разговор с человеком, а на способности договориться и исполнить все условия договора по цене, срокам и качеству товара/услуги.

– Подвергнуты критике три закона робототехники А.Азимова. Предложена альтернативная парадигма: «агент-квазиличность» (вместо «агент-слуга»).

– Предложен подход «взаимное резервирование» как основа партнёрского (договорного, равноправного) сотрудничества рефлексивного агента и человека-оператора при управлении общим жизненным ресурсом.

– Предложен набор категориальных предпочтений как база для реализации функционала сосуществования человека с рефлексивным агентом:

Этика предпочтительнее Рациональности,

Договор предпочтительнее Приказа,

Кооперация предпочтительнее Конфликта.

Автор согласен с выводами книги Ника Бострома «Искусственный интеллект. Этапы. Угрозы. Стратегии» (https://www.mann-ivanov-ferber.ru/books/iskusstvennyj-intellekt/) относительно возможных угроз появления «сильного искусственного интеллекта» для человечества. Однако автор имеет собственное представление относительно стратегии предотвращения угроз, которое он и рассматривает в книге.

Автор рассчитывает на аудиторию читателей широкого возрастного и профессионального спектра, интересующихся философскими, исследовательскими и дизайнерскими подходами к созданию искусственного интеллекта, в том числе – отличающимися от мейнстрима (искусственных нейронных сетей).

Бесплатно читать онлайн Рефлексивные агенты и человечество: кооперация или конфликт?


Об интеллекте: просто о сложном

(реплики на выдержки из книги Д. Хокинса и С. Блейксли «Об интеллекте»)

Аннотация

Как сказано в предисловии, в книге «Об интеллекте» Джефф Хокинс представляет революционную теорию на стыке нейробиологии, психологии и кибернетики и описывающую систему "память-предсказание" как основу человеческого интеллекта.

Автор отмечает, что все предшествующие попытки создания разумных машин провалились из-за фундаментальной ошибки разработчиков, стремившихся воссоздать человеческое поведение, но не учитывавших природу биологического разума.

Джефф Хокинс предполагает, что идеи, сформулированные им в книге «Об интеллекте», лягут в основу создания истинного искусственного интеллекта – не копирующего, а превосходящего человеческий разум.

Кроме этого, книга содержит рассуждения о последствиях и возможностях создания разумных машин, взгляды автора на природу и отличительные особенности человеческого интеллекта.

В одном из отзывов на книгу пишется [4]:

«…Восприятие мира и наши действия основаны на непрерывном формировании прогнозов о том, что произойдет в следующий миг. Человеческий разум, согласно Хокинсу, – это способность прогнозировать, а неокортекс – "орган предвидения".

На основе этой теории Хокинс предлагает нам ответы на вечные вопросы: что такое сознание, мышление, творчество, обучение, воображение? Конечно, скажете вы, все это сложно найти в мозге – там только нейроны, а способность мыслить по-человечески нам дает культура: без нее любой Маугли останется зверем среди зверей.

Но пускай себе мозг служит Хокинсу источником вдохновения, главное, чтобы его теория помогла созданию новых компьютеров».

Автор же данной статьи предлагает содержательный анализ некоторых положений книги Джеффа Хокинса «Об интеллекте». Высказаны соображения и аргументы «за» и «против» анализируемых положений. Схематически рассмотрены подходы к исследованию проблемы «псевдоразумности» автомата, основанные на иных, предположительно, более адекватных акцентах.

Основная часть

1. Дж. Хокинс: РЕПЛИКАЦИЯ не требует разума, и (искусственный) РАЗУМ не требует репликации. Вывод: РЕПЛИКАЦИЯ и РАЗУМ – самостоятельные непересекающиеся процессы…

ЕАГ: Всё дело – в возможности естественной совместимости процессов РЕПЛИКАЦИИ и (искусственного) РАЗУМА. И именно это может привести к неуправляемому развитию событий (даже при отсутствии необходимости их совместимости).

2. Дж. Хокинс: Разумным машинам не нужны эмоции, амбиции, потребности… Придание их разумным машинам – маловероятно, что столь сложная задача когда-либо окажется выполнимой…Модель ПАМЯТЬ – ПРОГНОЗИРОВАНИЕ есть достаточное основание для создания машины с интеллектом…

ЕАГ: Машинный интеллект, построенный на основе одной модели ПАМЯТЬ – ПРОГНОЗИРОВАНИЕ, будет основан на моделировании лишь только одной – логической – функции мозга. Все остальные перечисленные функции (удовлетворение потребностей, эмоции, настроение, общение, саморазвитие и т. д.) – окажутся за бортом.

На наш взгляд, необходимое основание создания Разумных машин – это реализация функций удовлетворения разных (материальных и нематериальных) ПОТРЕБНОСТЕЙ в разнообразных ДЕЯТЕЛЬНОСТЯХ, для чего необходимы функции РЕФЛЕКСИИ, ПЛАНИРОВАНИЯ и ПРИНЯТИЯ РЕШЕНИЙ о затратах ограниченных РЕСУРСОВ. Конечно, с учётом функций памяти и прогнозирования.

Кроме всего, придание Разумным машинам функций: эмоции, амбиции, удовлетворение потребностей – представляется существенным для их построения и развития ещё и потому, что это всё есть необходимые условия реализации феномена ТВОРЧЕСТВА. Иначе говоря, Разумная машина, построенная без учета перечисленных функций, будет принципиально неспособна к творчеству.

3. Дж. Хокинс: Самый разумный робот не сможет проявить того понимания и участия, на которое способен человек по одной лишь своей природе…

ЕАГ: Робот именно должен проявлять ПОНИМАНИЕ и УЧАСТИЕ по отношению к человеку. Поэтому у Разумной машины должна быть природа, очень близкая к природе человека (не по поведению, а по сущностным проявлениям).

4. Дж. Хокинс: С понятием сознания связаны понятия разума и души…

ЕАГ: Разум связан с понятием сознание, а душа связана с понятием самосознание. А именно самосознание (душа) и не рассматривается в работе Д.Хокинса как что-либо существенное.

В то же время, разум без души – это «хлопок одной ладонью», как сказано (правда, по другому поводу) у писателя Б.Акунина.

Душа есть необходимый ограничитель разума (интеллекта), обслуживающего животные инстинкты, и только все вместе они могут образовать сбалансированное целое, называемое личность.

5. Дж. Хокинс: Вероятно, нам так и не удастся до конца разгадать загадку творчества А.Эйнштейна, но можно с уверенностью утверждать, что отчасти в их основе лежали генетические факторы…

ЕАГ: И только это можно сказать о загадке творчества А.Эйнштейна?

Но тогда очень мощный компьютер (память, быстродействие), в который «генетически» заложен генератор случайных чисел, сможет выдавать массу «творческих» гипотез!

Выскажем предположение, что творчество субъекта, как целостный процесс, должно включать по крайней мере следующие составляющие:

• Формулировка конкретного вопроса (задачи) в рамках решения общезначимой проблемы, ответом на который может быть та или иная гипотеза,

• Генерация гипотез (и всё бессознательное, что с этим связано – интуиция, вдохновение, инсайт, «эврика»), поиск гипотез во внешней среде (случайные блуждания), сознательный выбор гипотезы как решения задачи, а также практическая проверка выбранной гипотезы самим субъектом,

• Общение с другими субъектами, в результате которого гипотеза (решение задачи) может быть принята или опровергнута ими. И если решение задачи ими как экспертами проверено на практике и признано как наиболее эффективное и имеющее повышенный спрос на рынке, то только тогда можно сказать, что вышеозначенный процесс есть творчество.

Т.о., попытаемся сформулировать необходимые и достаточные условия представления некоего процесса как процесса творчества субъекта.

Первое необходимое условие – осознание субъектом общезначимой проблемы и в её рамках – чёткое формулирование вопроса (задачи), ответом на который может быть та или иная найденная гипотеза.

Второе необходимое условие – наличие внешнего и/или внутреннего генератора гипотез; таковым генератором может быть как сам субъект (индивидуальное бессознательное), так и другие (коллективное бессознательное).

Третье необходимое условие – взаимопонимание творящего субъекта с другими субъектами в игре, борьбе или решении общих проблем. В свою очередь, взаимопонимание возможно при наличии у субъектов близкого мировосприятия. А близкое мировосприятие может основываться лишь на общности систем ценностей субъектов, общности ресурсной базы их среды существования и на ресурсном обмене (рынке).


С этой книгой читают
Новая книга немецкого историка и теоретика культурной памяти Алейды Ассман полемизирует с все более усиливающейся в последние годы тенденцией, ставящей под сомнение ценность той мемориальной культуры, которая начиная с 1970—1980-х годов стала доминирующим способом работы с прошлым. Поводом для этого усиливающегося «недовольства» стало превращение травматического прошлого в предмет политического и экономического торга. «Индустрия Холокоста», ожест
Таможенные органы Российской Федерации, с момента начала их создания до сегодняшнего дня, прошли нелёгкий путь развития. На протяжении всего пути, им приходилось переживать множество реформаций, изменений и адаптаций к различным внутренним и внешним политическим и экономическим факторам. В связи с частыми и резкими перепадами экономического климата в мире, приоритет задач таможенной службы постоянно меняется, как и выбор методов их выполнения. За
В своем новаторском исследовании автор показывает, что культ вождя народа, известный нам по фигурам Ленина и Сталина, зародился не в советское время, а весной и летом 1917 года. «Первая любовь революции» Александр Керенский стал первым носителем и отчасти изобретателем этого культа. Традиция монархической культуры не исчезла бесследно. Обогатившись традицией почитания партийных вождей, она возродилась в новом образе уникального вождя революционно
Սույն աշխատության մեջ ներկայացվում են լեզվաբանների ձեռքբերումները` շարահարությամբ կապակցված բարդ նախադասությունների ուսումնասիրության գործում.
О чём говорится в этой книге? А вот о чём: «Заглянул я как-то в маршрутку. Водителя нет, а в салоне старик сидит. «Вы не знаете, – спрашиваю у него, – я на этой маршрутке до автовокзала доеду?» – «Не знаю, – ответил старик. – Жизнь коротка. На всё воля Божья. Может, и доедешь»… В общем, читайте дальше. Может, и дочитаете.
В цехе под открытым небом работа одна: по наряду Бога. Он может выдать благодать, солнышко, а может ливень или, пуще того, леденящий ветер. А ты, землероб, терпи! Дед-казак терпел, отец, терпи и не хнычь. Рядом вверенные помощники делу и земле. Ты и они стали на тропу возделывания зерновых культур. Это их тропы судьбы и агронома тоже. Судьба не всегда благосклонна. Она твоя тень! Она на тропе. Попробуйте и Вы, дорогой читатель, пройтись по тропам
Ангелы – вестники перемен, ангелы незримо рядом, но ответ на просьбы и помощь бывает разная. Весь авторский гонорар направляется в фонд Правмир на поддержку реабилитации детей.
Компания друзей отправляется в круиз на яхте. При посещении райского острова на пути следования судна, на пляж вынесло отделённую от тела стопу. Друзья хотели побыстрей забыть об увиденном, но события приняли непредвиденный оборот.