Ник Бостром - Искусственный интеллект. Этапы. Угрозы. Стратегии

Искусственный интеллект. Этапы. Угрозы. Стратегии
Название: Искусственный интеллект. Этапы. Угрозы. Стратегии
Автор:
Жанры: Научно-популярная литература | Зарубежная публицистика
Серии: Нет данных
ISBN: Нет данных
Год: 2016
О чем книга "Искусственный интеллект. Этапы. Угрозы. Стратегии"

Что случится, если машины превзойдут людей в интеллекте? Они будут помогать нам или уничтожат человеческую расу? Можем ли мы сегодня игнорировать проблему развития искусственного интеллекта и чувствовать себя в полной безопасности?

В своей книге Ник Бостром пытается осознать проблему, встающую перед человечеством в связи с перспективой появления сверхразума, и проанализировать его ответную реакцию.

На русском языке публикуется впервые.

Бесплатно читать онлайн Искусственный интеллект. Этапы. Угрозы. Стратегии


Nick Bostrom

Superintelligence

Paths, Dangers, Strategies


Научные редакторы М. С. Бурцев, Е. Д. Казимирова, А. Б. Лаврентьев


Издано с разрешения Alexander Korzhenevski Agency


Правовую поддержку издательства обеспечивает юридическая фирма «Вегас-Лекс»


This book was originally published in English in 2014. This translation is published by arrangement with Oxford University Press. Publisher is solely responsible for this translation from the original work and Oxford University Press shall have no liability for any errors, omissions or inaccuracies or ambiguities in such translation or for any losses caused by reliance thereon.


© Nick Bostrom, 2014

© Перевод на русский язык, издание на русском языке, оформление. ООО «Манн, Иванов и Фербер», 2016

* * *

Эту книгу хорошо дополняют

Теория игр

Авинаш Диксит и Барри Нэлбафф


Brainiac

Кен Дженнингс


Удовольствие от x

Стивен Строгац

Предисловие партнера

…У меня есть один знакомый, – сказал Эдик. – Он утверждает, будто человек – промежуточное звено, необходимое природе для создания венца творения: рюмки коньяка с ломтиком лимона.

Аркадий и Борис Стругацкие. Понедельник начинается в субботу

Компьютеры, а точнее алгоритмы, опирающиеся на непрерывно растущие вычислительные мощности, лучше людей играют в шахматы, шашки и нарды. Они очень неплохо водят самолеты. Они смогли пройти тест Тьюринга, убедив судей в своей «человечности». Однажды таксист в Дублине – городе, где расположены европейские штаб-квартиры многих глобальных IT-компаний, – сказал мне, что приветствует бурное развитие технологического сектора своей страны, но потом с сожалением добавил: «Одна беда – из-за этих умных ребят довольно скоро таксисты будут не нужны». Автомобили без водителей, управляемые компьютерами, уже проходят испытания на обычных дорогах в нескольких странах. По мнению философа Ника Бострома, чью книгу вы держите в руках, – все это звенья одной цепи и довольно скоро из-за развития компьютерных технологий нам всем, человеческому роду, может прийти конец.

Автор считает, что смертельная угроза связана с возможностью создания искусственного интеллекта, превосходящего человеческий разум. Катастрофа может разразиться как в конце XXI века, так и в ближайшие десятилетия. Вся история человечества показывает: когда происходит столкновение представителя нашего вида, человека разумного, и любого другого, населяющего нашу планету, побеждает тот, кто умнее. До сих пор умнейшими были мы, но у нас нет гарантий, что так будет длиться вечно.

Ник Бостром пишет, что если умные компьютерные алгоритмы научатся самостоятельно делать еще более умные алгоритмы, а те, в свою очередь, еще более умные, случится взрывной рост искусственного интеллекта, по сравнению с которым люди будут выглядеть приблизительно как сейчас муравьи рядом с людьми, в интеллектуальном смысле, конечно. В мире появится новый, хотя и искусственный, но сверхразумный вид. Неважно, что ему «придет в голову», попытка сделать всех людей счастливыми или решение остановить антропогенное загрязнение мирового океана наиболее эффективным путем, то есть уничтожив человечество, – все равно сопротивляться этому у людей возможности не будет. Никаких шансов на противостояние в духе кинофильма про Терминатора, никаких перестрелок с железными киборгами. Нас ждет шах и мат – как в поединке шахматного компьютера «Дип Блю» с первоклассником.

За последнюю сотню-другую лет достижения науки у одних пробуждали надежду на решение всех проблем человечества, у других вызывали и вызывают безудержный страх. При этом, надо сказать, обе точки зрения выглядят вполне оправданными. Благодаря науке побеждены страшные болезни, человечество способно сегодня прокормить невиданное прежде количество людей, а из одной точки земного шара можно попасть в противоположную меньше чем за сутки. Однако по милости той же науки люди, используя новейшие военные технологии, уничтожают друг друга с чудовищной скоростью и эффективностью.

Подобную тенденцию – когда быстрое развитие технологий не только приводит к образованию новых возможностей, но и формирует небывалые угрозы, – мы наблюдаем и в области информационной безопасности. Вся наша отрасль возникла и существует исключительно потому, что создание и массовое распространение таких замечательных вещей, как компьютеры и интернет, породило проблемы, которые было бы невозможно вообразить в докомпьютерную эру. В результате появления информационных технологий произошла революция в человеческих коммуникациях. В том числе ею воспользовались разного рода киберпреступники. И только сейчас человечество начинает постепенно осознавать новые риски: все больше объектов физического мира управляются с помощью компьютеров и программного обеспечения, часто несовершенного, дырявого и уязвимого; все большее число таких объектов имеют связь с интернетом, и угрозы кибермира быстро становятся проблемами физической безопасности, а потенциально – жизни и смерти.

Именно поэтому книга Ника Бострома кажется такой интересной. Первый шаг для предотвращения кошмарных сценариев (для отдельной компьютерной сети или всего человечества) понять, в чем они могут состоять. Бостром делает очень много оговорок, что создание искусственного интеллекта, сравнимого с человеческим разумом или превосходящего его, – искусственного интеллекта, способного уничтожить человечество, – это лишь вероятный сценарий, который может и не реализоваться. Конечно, вариантов много, и развитие компьютерных технологий, возможно, не уничтожит человечество, а даст нам ответ на «главный вопрос жизни, Вселенной и всего такого» (возможно, это и впрямь окажется число 42, как в романе «Автостопом по Галактике»). Надежда есть, но опасность очень серьезная – предупреждает нас Бостром. На мой взгляд, если вероятность такой экзистенциальной угрозы человечеству существует, то отнестись к ней надо соответственно и, чтобы предотвратить ее и защититься от нее, следует предпринять совместные усилия в общемировом масштабе.

Завершить свое вступление хочется цитатой из книги Михаила Веллера «Человек в системе»:

Когда фантастика, то бишь оформленная в образы и сюжеты мысль человеческая, долго и детально что-то повторяет – ну так дыма без огня не бывает. Банальные голливудские боевики о войнах людей с цивилизацией роботов несут в себе под шелухой коммерческого смотрива горькое зернышко истины.

Когда в роботы будет встроена передаваемая программа инстинктов, и удовлетворение этих инстинктов будет встроено как безусловная и базовая потребность, и это пойдет на уровень самовоспроизводства – вот тогда, ребята, кончай бороться с курением и алкоголем, потому что будет самое время выпить и закурить перед ханой всем нам.


С этой книгой читают
Кровать, постель, любое спальное место – это то, что сопровождает человека на протяжении всей его жизни, от момента рождения до смерти. В кровати мы спим, занимаемся сексом, болеем, отдыхаем, а некоторые правители когда-то принимали послов и решали государственные проблемы.Историк и археолог с мировым именем Брайан Фейган и автор нескольких учебников по археологии Надя Дуррани собрали огромный исследовательский материал о том, как менялось спальн
Из множества «новых людей», которых породило поле антропологических экспериментов современности, выжил только экономический человек… Этого достаточно, чтобы превратить этот тип, его происхождение и обстоятельства его формирования и развития в предмет исторического анализа. В исследовании Иозефа Фогля рассматриваются разнообразные взаимосвязи между экономикой, политической теорией, антропологией, с одной стороны, и литературой и эстетикой – с друг
Два великих финансовых кризиса последних ста лет – Великая депрессия 1930-х и Великая рецессия, начавшаяся в 2008 году, – разворачивались на фоне кредитного бума, сомнительных банковских практик и хрупкой и нестабильной финансовой системы. С началом кризиса 2008 года правительства обратились к урокам Великой депрессии в стремлении не допустить худшего. Хотя их реакция позволила избежать финансового коллапса и катастрофической депрессии, подобной
«Ахматова открыла Бродского России, но Западу его открыл я», – писал Джордж Л. Клайн, переводчик стихов нобелевского лауреата, славист и преподаватель философии в колледже Брин Мор. Книга Синтии Л. Хэвен – это рассказ о совместной работе Клайна и Бродского на основе бесед с переводчиком и его личного архива. Воспоминания Джорджа Клайна об авторе «Части речи» и «Урании» охватывают период с его знакомства с поэтом в 1967 году и почти до самой смерт
Вся Европейская часть России, столетия назад подвергшаяся мощному ракетному удару, теперь представляет собой огромный неконтролируемый Котел, в котором бурлит дикая и неведомая жизнь. Города лежат в руинах, повсюду разрослась опасная фауна, расплодилось жуткое зверье, рыскают банды и кланы дикарей-мутантов.Молодому купцу Сибирской торговой гильдии Виктору Тесову по прозвищу Золотой не привыкать к далеким походам и рискованным авантюрам. Но, отпра
Это истории о нас с вами, наших детях и родителях. Истории о порванных фотографиях и неожиданных деньгах, о счастье взрослых и детских слезах, о ласковых словах и гневных криках.
Юная принцесса Майрам отдана в жены жестокому варвару, ради хрупкого мира для своего народа. Но быть второй женой слишком унизительно. Выросшая в почете и уважении, привыкшая, что ее слову подчиняются, она оказалась в золотой клетке варварского короля Шаккара, своего мужа и повелителя, в плену и власти его жестокой первой жены. Она не привыкла к подобному обращению. Она сделает все возможное, чтобы стать первой, и чтобы найти свою любовь.
Герман договаривается о покупке подержанного автомобиля и приезжает на осмотр. Немного смущает странное поведение пожилых хозяев, но цена слишком привлекательна, чтобы задаваться лишними вопросами. Модель именно та, что нужна, состояние отличное, можно заключать сделку и дальше заниматься своим небольшим бизнесом. Правда, бизнес этот не вполне легален, и хорошо бы не попасть под тяжелую руку закона. Однако внезапно оказывается, что заботы Германа