Технологическая сингулярность. История концепции

Федеральное агентство по образованию

Государственное образовательное учреждение

высшего профессионального образования

Рязанский государственный радиотехнический университет

Реферат по «Истории науки»

(отрасль науки 01.00.00, специальность 01.04.04)

«Влияние лазеров на наступление технологической сингулярности»

Рязань 2012г.

Содержание:

Введение……………………………………………………………………...………3

Часть I: Прошлое

1. Технологическая сингулярность. История концепции……………………………..…….5

2. История искусственного интеллекта…………………………………..…………………..7

Часть II: Настоящее

3. Современные подходы к созданию искусственного интеллекта………………………...8

4. Роль лазеров в создании кремниевого искусственного интеллекта……………………10

Часть III: Будущее

5. Искусственный интеллект на основе квантовых компьютеров……………………...…11

6. Могут ли роботы представлять опасность?.......................................................................13

Заключение…………………………………………………………………...……..15

Список литературы……………………………………………...………………….16

Мы на грани великих перемен. Всё, на что, как считалось, нужны "тысячи веков", случится в ближайшие сто лет. И несмотря на весь свой оптимизм, мне было бы комфортнее, если бы от этих сверхъестественных событий нас отделяли тысяча лет, а не двадцать.

В.Виндж

Введение

Ускорение технического прогресса - основная особенность XX века. Мы на грани перемен, сравнимых с появлением на Земле человека. Сугубая причина этих перемен заключается в том, что развитие техники неизбежно ведёт к созданию сущностей с интеллектом, превышающим человеческий. [1] Наука может достичь такого прорыва разными путями (и это ещё один довод в пользу того, что прорыв произойдёт):

· Компьютеры обретут "сознание", и возникнет сверхчеловеческий интеллект. (В настоящее время нет единого мнения о том, сумеем ли мы создать машину, равную человеку, однако, если это получится, несомненно, вскоре затем можно будет сконструировать еще более разумные существа).

· Крупные компьютерные сети (и их объединенные пользователи) могут "осознать себя" как сверхчеловечески разумные сущности.

· Машинно-человеческий интерфейс станет настолько тесным, что интеллект пользователей можно будет обоснованно считать сверхчеловеческим.

· Биология может обеспечить нас средствами улучшения естественного человеческого интеллекта.

Первые три возможности напрямую связаны с совершенствованием компьютерного аппаратного обеспечения, вычислительная сила которого в современном понимании компьютера зависит напрямую от возможностей миниатюризации процессора. Изготовление современных компьютеров никогда не обходится без участия лазерных систем, и, по мере совершенствования лазеров, возрастает и вычислительная сила машин, ускоряя темп технического прогресса. Когда прогресс будет направляться интеллектом, превосходящим человеческий, он станет куда стремительнее. Фактически, нет оснований полагать, что прогресс не станет плодить всё более разумные сущности всё более ускоренными темпами. Лучшая аналогия, которую можно здесь провести - в эволюционном прошлом. Животные могут приспособиться и проявлять изобретательность, но не быстрее, чем работает естественный отбор. В случае естественного отбора мир сам выступает в роли собственного симулятора. Мы, люди, обладаем способностью усваивать окружающий мир и выстраивать у себя в голове причинно-следственные связи, поэтому мы решаем многие проблемы в тысячи раз быстрее, чем механизм естественного отбора. Когда же появится возможность просчитывать эти модели на более высоких скоростях, мы войдём в режим, который отличается от нашего человеческого прошлого не менее радикально, чем мы, люди, сами отличаемся от низших животных.

Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока. Неуправляемая цепная реакция начнет развиваться по экспоненте безо всякой надежды на восстановление контроля над ситуацией. Изменения, на которые, как считалось, потребуются "тысячи веков" (если они вообще произойдут), скорее всего, случатся в ближайшие сто лет.

Вполне оправданно будет назвать данное событие сингулярностью. Это точка, в которой наши старые модели придётся отбросить, где воцарится новая реальность. Это мир, очертания которого будут становиться всё четче, надвигаясь на современное человечество, пока эта новая реальность не заслонит собой окружающую действительность, став обыденностью. И всё же, когда мы такой точки, наконец, достигнем, это событие все равно станет великой неожиданностью и ещё большей неизвестностью.

Часть I: Прошлое.

Технологическая сингулярность. История концепции.

Технологи́ческая сингуля́рность — гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию[2][3][4], за которым предположительно следуют создание искусственного интеллекта и самовоспроизводящихся машин, интеграция человека с вычислительными машинами, либо значительное скачкообразное увеличение возможностей человеческого мозга за счёт биотехнологий.

По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года[5][6]. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческое (социальное) поведение.

Одними из фундаментальных открытых вопросов насчет сингулярности являются вопросы о её существовании, времени наступления и темпах роста технологических изменений. Экстраполяция некоторых тенденций показывает, что сингулярность может произойти к 2020 году (возможно, эту дату следует пересмотреть и приблизить до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (Dani Eder) о том, что время удвоения мощности компьютеров упало с 18 месяцев, исходя из закона Мура, до 9 месяцев к сентябрю 2002 года), и она должна быть очень внезапной, что характерно для природы гиперэкспоненциальной кривой. Согласно Эдеру новые технологии приводят к ускорению прироста населения. А чем больше население, тем больше работает специалистов, так что в следующий период технологии разрабатываются быстрее. Кроме того, из-за повышения уровня образования населения прогрессу будут способствовать большее количество знаний, накопленных человечеством, что позволит еще быстрее получать новые знания.

Идею об ускоряющемся росте научного знания впервые можно встретить в работах Ф. Энгельса. В середине XIX века он писал о том, что наука движется вперед пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI—XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В. И. Вернадский, писавший о непрерывном усилении темпов научного творчества. По мнению некоторых современных исследователей, имеет место «экспоненциальный закон развития науки», проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей[7][8].

Близко к концепции сингулярности находятся идеи Станислава Лема о вероятной эволюции компьютеров. В наиболее предельном виде эволюция компьютеров описана в эссе «Голем XIV лекция XLIII. О себе».

Термин «сингулярность» заимствован у астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной — точка с бесконечно большой массой и температурой и бесконечно малым объёмом. Математическая сингулярность (особенность) — точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки — особенности функции.

В данном контексте впервые термин «сингулярность» использовал в середине ХХ века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова — точку, за которой экстраполяция начинает давать бессмысленные результаты (расходиться). Об этом пишет Вернор Виндж, которому данный термин обычно приписывают[1]. Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.

В пятидесятые годы ХХ века немногие предвидели возможность наступления технологической сингулярности. Стэн Юлам пересказывал однажды слова Джона фон Неймана: "Один разговор шел о непрерывно ускоряющемся техническом прогрессе и переменах в образе жизни людей, которые создают впечатление приближения некоторой важнейшей сингулярности в истории земной расы, за которой все человеческие дела, в том виде, в каком мы их знаем, не смогут продолжаться".Фон Нейман даже использовал термин "сингулярность", хотя, похоже, он думал о нормальном прогрессе, а не о создании сверхчеловеческого интеллекта.

В шестидесятые года отмечались признаки некоторого вовлечения в нашу жизнь сверхчеловеческого интеллекта. Ирвинг Джон Гуд писал: "Определим сверхразумную машину как машину, которая способна значительно превзойти все интеллектуальные действия любого человека, как бы умён тот ни был. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить ещё более совершенные машины. За этим, несомненно, последует "интеллектуальный взрыв", и разум человека намного отстанет от искусственного. Таким образом, первая сверхразумная машина станет последним изобретением, которое выпадет на долю человека, при условии, что машина будет достаточно покорна и поведает нам, как держать ее под контролем... И вероятность того, что в двадцатом веке сверхразумная машина будет построена и станет последним изобретением, которое совершит человек, выше, чем вероятность того, что этого не случится".

Гуд уловил суть разгона прогресса, но не рассматривал его самые тревожащие последствия. Любая разумная машина того типа, что он описывает, не будет "инструментом" человечества так же, как люди не стали орудиями кроликов, малиновок или шимпанзе.

В шестидесятые, семидесятые и восьмидесятые годы осознание грядущего катаклизма ширилось и росло. Вероятно, первыми его влияние почувствовали фантасты. В конце концов, ведь именно научной фантастике полагается рассказывать о том, чем обернутся для нас все эти технологии. Всё чаще писателей преследовало ощущение того, что будущее сокрыто за непроницаемой стеной. Когда-то воображение с лёгкостью переносило их на миллионы лет вперед. Теперь же они обнаруживают, что их наиболее усердные прогнозы относятся к неизвестному… завтра. Прежде галактические империи могли казаться постчеловеческими реалиями. Ныне, как ни печально, даже межпланетные государства представляются таковыми.

Так что же ждет нас в эти два-три десятка лет, пока мы движемся к краю? Как наступление Сингулярности станет утверждаться в человеческом мировосприятии? В конце концов, пока не появится аппаратное обеспечение, сравнимое по мощи с человеческим мозгом, наивно надеяться создать интеллект, сравнимый с разумом человека (или превосходящий его).