Евгений Гришин - Рефлексивные агенты и человечество: кооперация или конфликт?

Рефлексивные агенты и человечество: кооперация или конфликт?
Название: Рефлексивные агенты и человечество: кооперация или конфликт?
Автор:
Жанры: Монографии | Научные доклады
Серии: Нет данных
ISBN: Нет данных
Год: 2020
О чем книга "Рефлексивные агенты и человечество: кооперация или конфликт?"

Сборник включает два раздела:

1. Раздел «Научные статьи» автора, опубликованные в период 2008–2019 гг. (статья в журнале «Искусственный интеллект и принятие решений» Института системного анализа РАН, 2008 г., и в сетевом журнале «Искусственные общества» (Журналы РАН [email protected]), 10 статей, с 2014 г. по 2019 г.).

2. Раздел «Философские притчи» – как гипотетические диалоги виртуального агента и человека на темы их совместного существования в будущем (10 притч), опубликованные на сайте «Философский штурм. Совместное философское творчество» в 2015–2018 г.г. (http://philosophystorm.org/persona/evgenii-aleksandrovich-grishin).

В обоих разделах с разной детализацией и обобщениями обсуждены сущностные моменты строительства виртуального агента и его взаимоотношений с человеком:

– Определены понятия «Потребности», «Деятельности» и «Рефлексивная машина» применительно к виртуальному компьютерному агенту. Показано, что они являются основой для моделирования квази-живого и квази-разумного виртуального агента.

– Предложен тест на квазиразумность виртуального агента, как альтернатива тесту А. Тьюринга, акцентирующая внимание не на умении автомата поддерживать разговор с человеком, а на способности договориться и исполнить все условия договора по цене, срокам и качеству товара/услуги.

– Подвергнуты критике три закона робототехники А.Азимова. Предложена альтернативная парадигма: «агент-квазиличность» (вместо «агент-слуга»).

– Предложен подход «взаимное резервирование» как основа партнёрского (договорного, равноправного) сотрудничества рефлексивного агента и человека-оператора при управлении общим жизненным ресурсом.

– Предложен набор категориальных предпочтений как база для реализации функционала сосуществования человека с рефлексивным агентом:

Этика предпочтительнее Рациональности,

Договор предпочтительнее Приказа,

Кооперация предпочтительнее Конфликта.

Автор согласен с выводами книги Ника Бострома «Искусственный интеллект. Этапы. Угрозы. Стратегии» (https://www.mann-ivanov-ferber.ru/books/iskusstvennyj-intellekt/) относительно возможных угроз появления «сильного искусственного интеллекта» для человечества. Однако автор имеет собственное представление относительно стратегии предотвращения угроз, которое он и рассматривает в книге.

Автор рассчитывает на аудиторию читателей широкого возрастного и профессионального спектра, интересующихся философскими, исследовательскими и дизайнерскими подходами к созданию искусственного интеллекта, в том числе – отличающимися от мейнстрима (искусственных нейронных сетей).

Бесплатно читать онлайн Рефлексивные агенты и человечество: кооперация или конфликт?


Об интеллекте: просто о сложном

(реплики на выдержки из книги Д. Хокинса и С. Блейксли «Об интеллекте»)

Аннотация

Как сказано в предисловии, в книге «Об интеллекте» Джефф Хокинс представляет революционную теорию на стыке нейробиологии, психологии и кибернетики и описывающую систему "память-предсказание" как основу человеческого интеллекта.

Автор отмечает, что все предшествующие попытки создания разумных машин провалились из-за фундаментальной ошибки разработчиков, стремившихся воссоздать человеческое поведение, но не учитывавших природу биологического разума.

Джефф Хокинс предполагает, что идеи, сформулированные им в книге «Об интеллекте», лягут в основу создания истинного искусственного интеллекта – не копирующего, а превосходящего человеческий разум.

Кроме этого, книга содержит рассуждения о последствиях и возможностях создания разумных машин, взгляды автора на природу и отличительные особенности человеческого интеллекта.

В одном из отзывов на книгу пишется [4]:

«…Восприятие мира и наши действия основаны на непрерывном формировании прогнозов о том, что произойдет в следующий миг. Человеческий разум, согласно Хокинсу, – это способность прогнозировать, а неокортекс – "орган предвидения".

На основе этой теории Хокинс предлагает нам ответы на вечные вопросы: что такое сознание, мышление, творчество, обучение, воображение? Конечно, скажете вы, все это сложно найти в мозге – там только нейроны, а способность мыслить по-человечески нам дает культура: без нее любой Маугли останется зверем среди зверей.

Но пускай себе мозг служит Хокинсу источником вдохновения, главное, чтобы его теория помогла созданию новых компьютеров».

Автор же данной статьи предлагает содержательный анализ некоторых положений книги Джеффа Хокинса «Об интеллекте». Высказаны соображения и аргументы «за» и «против» анализируемых положений. Схематически рассмотрены подходы к исследованию проблемы «псевдоразумности» автомата, основанные на иных, предположительно, более адекватных акцентах.

Основная часть

1. Дж. Хокинс: РЕПЛИКАЦИЯ не требует разума, и (искусственный) РАЗУМ не требует репликации. Вывод: РЕПЛИКАЦИЯ и РАЗУМ – самостоятельные непересекающиеся процессы…

ЕАГ: Всё дело – в возможности естественной совместимости процессов РЕПЛИКАЦИИ и (искусственного) РАЗУМА. И именно это может привести к неуправляемому развитию событий (даже при отсутствии необходимости их совместимости).

2. Дж. Хокинс: Разумным машинам не нужны эмоции, амбиции, потребности… Придание их разумным машинам – маловероятно, что столь сложная задача когда-либо окажется выполнимой…Модель ПАМЯТЬ – ПРОГНОЗИРОВАНИЕ есть достаточное основание для создания машины с интеллектом…

ЕАГ: Машинный интеллект, построенный на основе одной модели ПАМЯТЬ – ПРОГНОЗИРОВАНИЕ, будет основан на моделировании лишь только одной – логической – функции мозга. Все остальные перечисленные функции (удовлетворение потребностей, эмоции, настроение, общение, саморазвитие и т. д.) – окажутся за бортом.

На наш взгляд, необходимое основание создания Разумных машин – это реализация функций удовлетворения разных (материальных и нематериальных) ПОТРЕБНОСТЕЙ в разнообразных ДЕЯТЕЛЬНОСТЯХ, для чего необходимы функции РЕФЛЕКСИИ, ПЛАНИРОВАНИЯ и ПРИНЯТИЯ РЕШЕНИЙ о затратах ограниченных РЕСУРСОВ. Конечно, с учётом функций памяти и прогнозирования.

Кроме всего, придание Разумным машинам функций: эмоции, амбиции, удовлетворение потребностей – представляется существенным для их построения и развития ещё и потому, что это всё есть необходимые условия реализации феномена ТВОРЧЕСТВА. Иначе говоря, Разумная машина, построенная без учета перечисленных функций, будет принципиально неспособна к творчеству.

3. Дж. Хокинс: Самый разумный робот не сможет проявить того понимания и участия, на которое способен человек по одной лишь своей природе…

ЕАГ: Робот именно должен проявлять ПОНИМАНИЕ и УЧАСТИЕ по отношению к человеку. Поэтому у Разумной машины должна быть природа, очень близкая к природе человека (не по поведению, а по сущностным проявлениям).

4. Дж. Хокинс: С понятием сознания связаны понятия разума и души…

ЕАГ: Разум связан с понятием сознание, а душа связана с понятием самосознание. А именно самосознание (душа) и не рассматривается в работе Д.Хокинса как что-либо существенное.

В то же время, разум без души – это «хлопок одной ладонью», как сказано (правда, по другому поводу) у писателя Б.Акунина.

Душа есть необходимый ограничитель разума (интеллекта), обслуживающего животные инстинкты, и только все вместе они могут образовать сбалансированное целое, называемое личность.

5. Дж. Хокинс: Вероятно, нам так и не удастся до конца разгадать загадку творчества А.Эйнштейна, но можно с уверенностью утверждать, что отчасти в их основе лежали генетические факторы…

ЕАГ: И только это можно сказать о загадке творчества А.Эйнштейна?

Но тогда очень мощный компьютер (память, быстродействие), в который «генетически» заложен генератор случайных чисел, сможет выдавать массу «творческих» гипотез!

Выскажем предположение, что творчество субъекта, как целостный процесс, должно включать по крайней мере следующие составляющие:

• Формулировка конкретного вопроса (задачи) в рамках решения общезначимой проблемы, ответом на который может быть та или иная гипотеза,

• Генерация гипотез (и всё бессознательное, что с этим связано – интуиция, вдохновение, инсайт, «эврика»), поиск гипотез во внешней среде (случайные блуждания), сознательный выбор гипотезы как решения задачи, а также практическая проверка выбранной гипотезы самим субъектом,

• Общение с другими субъектами, в результате которого гипотеза (решение задачи) может быть принята или опровергнута ими. И если решение задачи ими как экспертами проверено на практике и признано как наиболее эффективное и имеющее повышенный спрос на рынке, то только тогда можно сказать, что вышеозначенный процесс есть творчество.

Т.о., попытаемся сформулировать необходимые и достаточные условия представления некоего процесса как процесса творчества субъекта.

Первое необходимое условие – осознание субъектом общезначимой проблемы и в её рамках – чёткое формулирование вопроса (задачи), ответом на который может быть та или иная найденная гипотеза.

Второе необходимое условие – наличие внешнего и/или внутреннего генератора гипотез; таковым генератором может быть как сам субъект (индивидуальное бессознательное), так и другие (коллективное бессознательное).

Третье необходимое условие – взаимопонимание творящего субъекта с другими субъектами в игре, борьбе или решении общих проблем. В свою очередь, взаимопонимание возможно при наличии у субъектов близкого мировосприятия. А близкое мировосприятие может основываться лишь на общности систем ценностей субъектов, общности ресурсной базы их среды существования и на ресурсном обмене (рынке).


С этой книгой читают
Данная монография отражает новые тенденции в подготовке бакалавров и предлагает конкретные изменения, которые основаны на изучении психолого-педагогической литературы, нормативных документов, существующей системы подготовки.Автор исходит из изменений и преобразований, происходящих в системе подготовки студентов (бакалавров) в высшей школе, ставит задачу разрешения насущной для системы образования проблемы подготовки студентов к творческой педагог
В монографии рассматриваются вопросы теории детективного жанра, некоторые малоизвестные главы его истории, удачные и не очень удачные примеры соревнования экранизаций детективов с их литературным первоисточником. Показывается, как детективу удается быть по преимуществу головоломкой, не порывая при этом с художественностью. Развенчиваются некоторые популярные мифы о детективе: миф о возможности использования детективного сюжета как "упаковки" для
Монография посвящена исследованию специфики художественного историзма лирики поэтов пушкинской поры. В работе собран и рассмотрен обширный материал, включивший в себя множество поэтических текстов первой половины XIX века. Внимание к ним носит разноуровневый характер: это и проблемы литературных направлений, жанров, художественного своеобразия, и версификационные особенности памятников русской поэзии.Книга предназначена для литературоведов, препо
В монографии раскрываются теоретические основы организация управленческой деятельности директора сельской школы в условиях полицентризма. Полицентризм, как одно из положений новой парадигмы управления, служит основанием для создания оптимальных социально-педагогических условий исполнения государственных планов по реструктуризации сети сельских учреждений образования. Монография адресована научно-педагогическим работникам системы постдипломного об
О чём говорится в этой книге? А вот о чём: «Заглянул я как-то в маршрутку. Водителя нет, а в салоне старик сидит. «Вы не знаете, – спрашиваю у него, – я на этой маршрутке до автовокзала доеду?» – «Не знаю, – ответил старик. – Жизнь коротка. На всё воля Божья. Может, и доедешь»… В общем, читайте дальше. Может, и дочитаете.
В цехе под открытым небом работа одна: по наряду Бога. Он может выдать благодать, солнышко, а может ливень или, пуще того, леденящий ветер. А ты, землероб, терпи! Дед-казак терпел, отец, терпи и не хнычь. Рядом вверенные помощники делу и земле. Ты и они стали на тропу возделывания зерновых культур. Это их тропы судьбы и агронома тоже. Судьба не всегда благосклонна. Она твоя тень! Она на тропе. Попробуйте и Вы, дорогой читатель, пройтись по тропам
Зараза распространяется не только через укус, а при любом контакте. И тут два варианта: либо ты становишься бездушной кусачей тварью, либо получаешь возможность стать сильнее при помощи интерфейса, характеристик и способностей…Нашему герою повезло дважды – он не стал зомби, да еще и на старте выхватил удачную особенность…Вторая книга цикла.
Дебютный поэтический сборник Юлианы Тихоновой «Синестезия» представляет собойпримечательное явление: с одной стороны перед нами явный неофит, автор, впервые являющий себя миру, робко, но настойчиво – отчасти в силу самой робости – заявляющий о себе. Но с другой стороны вполне явственна и зрелость суждений, и некоторая подспудная искушенность, которая отнюдь не тождественна ложной «умудренности», которой так любят бравировать начинающие.