Что такое сингулярность. Что такое сингулярность, где она встречается, из чего состоит? Откуда она появляется
По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческое (социальное) поведение.
Идею об ускоряющемся росте научного знания впервые можно встретить в работах Ф.Энгельса. В середине XIX века он писал о том, что наука движется вперед пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI-XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В.И.Вернадский, писавший о непрерывном усилении темпов научного творчества. По мнению современных исследователей, имеет место "экспоненциальный закон развития науки", проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей.
Термин «сингулярность» заимствован у астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной — точка с бесконечно большой массой и температурой и нулевым объемом. Математически сингулярность (особенность) — точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки.
В данном контексте впервые термин «сингулярность» использовал в середине ХХ века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова — точку, за которой экстраполяция начинает давать бессмысленные результаты (расходиться). Об этом пишет сам Вернор Виндж, которому данный термин обычно приписывают. Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.
Одним из фундаментальных открытых вопросов насчет Сингулярности является вопрос — когда она наступит и насколько быстро произойдут технологические изменения? Экстраполяция тенденций показывают, что Сингулярность должна произойти к 2020 году (возможно эту цифру следует пересмотреть и приблизить дату до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года) и она должна быть очень внезапной, что характерно для природы экспоненциальной кривой. Согласно наиболее вероятному сценарию Сингулярности примерно в районе 2011 года промышленная нанотехнология начнёт производить лавину дешевых товаров, ликвидирующих бедность и голод во всём мире. Примерно к 2012 компьютерная технология, основанная на нанотехнологии, увеличится по своей мощи на шесть порядков от того уровня, где она будет в 2010. Примерно к 2013 исследования в области молекулярной биотехнологии, основанные на нанотехнологии и компьютерной мощи, обеспечат нам средствами излечения всех телесных недугов. Примерно к 2014 исследования в области ИИ, основанные на нанотехнологии и молекулярной биотехнологии и компьютерной мощности, приведут к созданию первого сверхчеловеческого искусственного интеллекта, СИИ.
Технологическая сингулярность как следствие развития нанотехнологий рассматривается в отчете 2007 года Комиссии по экономической политике Конгресса США. В качестве даты начала сингулярности называется 2020 год. По другим прогнозам — 2030 год.
Кроме пионерских рассказов Вернора Винджа, сингулярность является центральной темой произведений некоторых других авторов научной фантастики. Среди них можно отметить Уильяма Гибсона, Чарльза Стросса, Карла Шрёдера, Грега Игана, Дэвида Брина, Иэна Бэнкса, Нила Стивенсона, Тони Баллантайна, Брюса Стерлинга, Дэна Симмонса, Дэмиена Бродерика, Фредерика Брауна, Яцека Дукая, Нагару Танигава, Кори Доктороу. Кен Маклауд в своём романе 1998 года «Подразделение Кассини» (англ. The Cassini Division) определяет сингулярность как «вознесение для нердов».
Тематика сингулярности часто встречается в киберпанковых романах. Например, рекурсивно самоулучшающийся искусственный интеллект «Зимнее Безмолвие» в романе Уильяма Гибсона «Нейромант». Опубликованный в 1994 году на сайте Kuro5hin роман «Метаморфозы Высшего Интеллекта» посвящён жизни после запущенной искусственным интеллектом сингулярности. Более антиутопичный взгляд на сингулярность в коротком рассказе Харлана Эллисона «У меня нет рта, а я хочу кричать». Другими примерами антиутопичного взгляда являются «Акселерандо» Чарльза Штросса и продолжающаяся в настоящее время серия комиксов Уоррена Эллиса «newuniversal». «Все куклы» (англ. Puppets All) Джеймса Милна затрагивает эмоциональные и моральные проблемы Сингулярности. Проблема Контакта в эпоху технологической сингулярности обсуждается в романе Станислава Лема "Фиаско" (1986).
Майкл Диринг.
Рассвет Сингулярности
ГЛАВА ПЕРВАЯ. СИНГУЛЯРНОСТЬ
УРОВНИ ОРГАНИЗАЦИИ
Что такое Сингулярность?
Непостижимость Сингулярности
Сингулярность трех технологий
Миниатюризация (нано)
В итоге
Почему они не понимают её
ГЛАВА ВТОРАЯ. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
Три подхода к ИИ
Имитационная модель
Теория АГИ, функциональный подход
Описание функциональных модулей
ГЛАВА ТРЕТЬЯ. МОЛЕКУЛЯРНАЯ НАНОТЕХНОЛОГИЯ
Будущее молекулярной нанотехнологии
ПРОМЫШЛЕННОЕ НАНОПРОИЗВОДСТВО
Метод подложек и мостков
Предлагаемые принципы нанотехнологической безопасности
НАНОТЕРРОРИЗМ
ГЛАВА ЧЕТВЁРТАЯ. МОЛЕКУЛЯРНАЯ БИОТЕХНОЛОГИЯ
Перспективы молекулярной биотехнологии
Фрагментация человечества
Вглядываясь вдаль
ГЛАВА ПЯТАЯ. ПЛОДЫ И ОПАСНОСТИ СИНГУЛЯРНОСТИ
Плоды Сингулярности
Опасности Сингулярности
ГЛАВА ШЕСТАЯ. ФАНТАЗИИ НА ТЕМУ О СИНГУЛЯРНОСТИ
ЧЕТЫРЕ ГОДА СПУСТЯ
КРУТОЙ ВЗЛЁТ
НАНОГРЁЗЫ
ЗООПАРК 2099
КОННИ ЧАНГ БЕРЕТ ИНТЕРВЬЮ У ЭЛИЗЕРА
ВЫПУСТИ МЕНЯ
ЖИВОЙ ВИРУС
ИНОПЛАНЕТНЫЕ НАНОБАБОЧКИ
ДИСКУССИЯ С КРЕНДЕЛЯМИ
КРИПТОГРАФИЯ
ТЕОРИЯ КОНСПИРАЦИИ
ПРЕДЕЛЬНАЯ МАШИНА СВЯЗЕЙ
ГЛАВА СЕМЬ. ПРОГНОЗ СИНГУЛЯРНОСТИ
ПРИЛОЖЕНИЕ A. Герои Сингулярности
ПРИЛОЖЕНИЕ B. Книги о Сингулярности
ПРИЛОЖЕНИЕ C. Организации Сингулярности
ПРИЛОЖЕНИЕ D. Проекты Сингулярности
ПРИЛОЖЕНИЕ E. Веб сайты по Сингулярности
ПРИЛОЖЕНИЕ Д. Дополнительные Интернет ресурсы для русской версии
Что будет означать для нас создание искусственного интеллекта разумнее человеческого? Каковы будут последствия деятельности наноботов (роботов молекулярного размера), перестраивающих мир молекула за молекулой? Как загрузка (перемещение Вашего разума в компьютер), физическое бессмертие или освобождение от необходимости работать изменит образ вашей жизни? Эти технологические возможности чрезвычайно быстро развиваются и осуществятся скорее, чем Вы думаете.
Универсальные функции трёх уровней организации.
Сингулярность - взрыв нанотехнологии, биотехнологии и компьютерной технологии.
Молекулярная нанотехнология - полный контроль над структурой материи на атомном уровне.
Молекулярная биотехнология - функциональная генетика, микробиология, цитология.
ИИ - компьютерный искусственный интеллект с разумом и познавательными способностями человеческого уровня.
СИИ - компьютерный искусственный интеллект сверхчеловеческого уровня.
Универсальные функции на трех уровнях организации.
- Первый уровень - "материя. Описывается действием общих законов физики и химии.
- Второй уровень - "жизнь. Характеризуется биологическими функциями жизнеобеспечения, структурой ДНК, процессами, описываемые молекулярной биологией и молекулярной биотехнологией.
- Третий уровень - "разум. Отображает работу функций мышления, сознания, интеллекта и ход различных информационных процессов.
Множество полезных и интересных вещей во Вселенной сложены из атомов, к примеру - звёзды и планеты, космические корабли и самолёты, гольф клубы и ботинки для гольфа, ветчина и яйца, любимая собака и жена. Поведение этих атомов находится в сфере интересов таких наук как физика и химия. Вопрос: в чём разница между вашей женой и предпочитаемым вами множеством гольф клубов? Ответ: тип упорядочения атомов. Технология, которая сможет точно контролировать тип атомов и их расположение в любой "вещи", стала бы крайне полезной технологией. Молекулярная технология как раз и является такой технологией.
Положим, что у вас есть подобная технология. И вы решили похвастаться вашему соседу за забором, что вы можете делать абсолютно всё. После парочки простых трюков с изготовлением шпалерных ножниц и солнцезащитных очков он придёт в настоящий восторг. Он попросит вас создать живого летающего дракона, огнедышащего, и питающегося только молодыми девицами. Вас подкалывают. Для того, чтобы создать совершенно новый живой организм или починить старый, либо переконструировать существующий живой организм, такой как вы сами, вам требуется владеть некоторыми знаниями, которые не были включены в ваше руководство пользователя по молекулярной технологии.
Вы должны знать, чем работа живых организмов отличается от просто движения молекул. Вам нужна база знаний по ДНК, белковым соединениям, молекулярной биохимии, цитологии и биологии систем. И вам необходим комплект средств с названием молекулярная биотехнология. Вы также должны знать, находятся ли ваши окрестности в зоне действия огнедышащих драконов. Молекулярная биотехнология представляет собой набор довольно сложных научных методов. Но вам повезло. Все средства, требуемые для развития молекулярной биотехнологии, входят в состав основных возможностей молекулярной нанотехнологии.
Тем временем некоторые люди, сидя в местной зоне, пишут на доске объявлений, что им необходим определенный тип автоматизированной системы интеллектуального мониторинга активности в окружающей среде, чтобы предотвращать нарушения зональных предписаний, исходящие, например, от огнедышащих драконов. Компьютер в сердце этой системы должен иметь расширенное понимание окрестной жизни, способность делать суждения и предсказывать последствия действий. Он должен быть разумным, то есть быть полноценным искусственным интеллектом.
Существует три различных похода к разработке ИИ. Вы можете создать его в искусственной среде (в киберпространстве). Или вы можете сесть и подумать, какие алгоритмы информационных процессов необходимы для восприятия, обучения и планирования. Либо вы можете вооружиться средствами молекулярной нанотехнологии для реконструкции человеческого мозга. А пока давайте зафиксируем некоторые очевидные недостатки работы нашего мозга.
Среди того, что стоит подрегулировать, хотелось бы улучшить качество и детальность запоминания, увеличить скорость и точность процесса познания, способность безупречно делать длинные серии математических или логических операций, способность выполнять новые алгоритмы обработки информации и изменять состав и структуру существующих мыслительных процессов.
Мы бы хотели запустить в работу этот воссозданный инженерными средствами, проверенный и реконструированный разум на несколько более надежном в действии аппаратном обеспечении, нежели на биологических нейронах, например, на электронной компьютерной микросхеме с молекулярными нанотрубками, что становится возможным благодаря молекулярной нанотехнологии.
С тех самых пор как пещерный человек в нашем далёком прошлом впервые обтесал камень в форме наконечника для копья, мы постоянно создавали всё более совершенные инструменты. Молекулярная нанотехнология, молекулярная биотехнология и искусственный интеллект являются предельно совершенными инструментами. Они делают нас творцами предельно совершенных инструментов. А если вы думаете, что все эти новые технологии выглядят как забава и, конечно, мы не овладеем ими ещё сотни лет, то вы явно должны прочитать следующий раздел - "Что такое Сингулярность?
Что такое Сингулярность?
Сингулярность - это беспрецедентное событие в истории людей, когда жизнь, какой мы её знаем, изменится от "обыденного дела" до состояния виртуально неограниченных возможностей.
Наступление сингулярности подготовлено экспоненциальным развитием передовых технологий. Практически никто не имеет достаточного опыта анализа экспоненциального технологического развития. Это не является частью нашего обычного окружения. Мы эволюционно и культурно запрограммированы на ожидание незаметной скорости перемен. У нас нет нейронных структур познания для моделирования экспоненциальной скорости перемен.
Свидетельством служит проект по расшифровке генома человека. В первое десятилетие прогресс был настолько слабым, что многие эксперты предрекали, что для его завершения потребуется ещё 200 лет. Свыше 50 процентов исходных данных было получено в последние девять месяцев пятнадцатилетнего проекта.
Когда достижения постоянно удваиваются в последовательно равных периодах времени, то этот процесс представляет собой первый порядок экспоненциального развития. Когда период времени удвоения со временем сокращается, то это - второй порядок экспоненциального развития.
Мы все видим, как компьютеры становятся мощнее, а цены на них при этом одновременно падают. Время удвоения мощности компьютеров в расчёте на один доллар было 3 года в 1950-х, 2 года 1980-х, 1 год в 90-х и 9 месяцев к сентябрю 2002 и продолжает уменьшаться.
Причина экспоненциального технологического роста достижений заключается в том, что каждое приращение достижений в средствах проектирования приводит к увеличению производительности будущих средств проектирования. Это цикл с положительной обратной связью, повышающей производительность средств проектирования. Большинство подобных циклов с обратной связью основано на постоянной миниатюризации механических и электрических систем, конечным итогом которых и является молекулярная нанотехнология.
Экспоненциально развиваемые технологии изменят всю нашу жизнь за невероятно короткий промежуток времени. Сингулярность ведёт к почти неограниченным технологическим возможностям. Люди, которые в настоящий момент борются за скудные ресурсы, обретут невероятное благосостояние и свободу.
Непостижимость Сингулярности
Жизнь после Сингулярности будет сильно отличаться от той, что была раньше, но она не будет непостижимой. Мы можем дать достаточно полный список грядущих технологических возможностей. Социальные последствия этих изменений коснуться всех нас. Необходимо, чтобы большая часть человечества призадумалась над тем, какой бы мы хотели иметь тип социальных структур, если мы желаем избежать паники.
Рекурсивно самосовершенствующийся ИИ разовьёт разум, который в количественном отношении быстро превзойдёт сегодняшний человеческий уровень интеллекта. Эти количественные улучшения будут включать расширение способностей, увеличение точности и скорости обработки данных. Количественные улучшения являются лишь расширением имеющихся у нас познавательных способностей.
Качественные улучшения или совершенно новые способы осознания и мышления, находящиеся за пределами нашего нынешнего понимания вещей, вряд ли возможны. Причина того, что мы не ждём появления какого-то нового типа интеллекта, а ожидаем лишь новый уровень интеллекта, коренится в том, что разум есть способ решения проблем путём алгоритмической интерпретации. И основываясь на успехах, которые нам сопутствовали при создании физических, биологических и информационных систем, можно суммировать, что мы уже исследовали достаточно широкий диапазон алгоритмически эффективного пространства решений. Конечно, я не могу оспаривать утверждение, что мы не знаем того, чего мы не знаем, но, я думаю, мы можем разложить всё то, что мы ещё не знаем последовательно по полочкам во всё более маленькие ящички или мелкие матрёшки.
Сингулярность трех технологий
Сингулярность - это наиболее значительное событие в истории человечества. Она наступит в результате одновременного действия трех продвинутых технологий: искусственного интеллекта, молекулярной нанотехнологии и молекулярной биотехнологии. Скорость продвижения к точке Сингулярности вначале увеличивается постепенно, но механизм обратной связи с каждым укорачивающимся циклом всё быстрее ведёт нас к Сингулярности. При достижении Сингулярности способности человечества становятся действительно потрясающими - полный контроль над структурой материи на атомном уровне, полное знание биологических процессов от макро до микро и молекулярного уровня, и сверхчеловеческий искусственный интеллект.
Каждая из этих трёх технологий достигает физического предела в Сингулярности. Распад общества и нашего образа жизни будет полным. Сингулярность будет предвестником начала новой эры, в которой физическое и умственное совершенство будут нормой наряду с невообразимым благосостоянием и свободой. Эти плоды прогресса не выпадут лишь на долю существующим привилегированным классам, а достанутся всем человеческим существам.
Когда наступит Сингулярность?
Одним из фундаментальных открытых вопросов насчет Сингулярности является вопрос - когда она наступит и насколько быстро произойдут технологические изменения? Экстраполяция тенденций показывают, что Сингулярность должна произойти к 2020 году (возможно эту цифру следует пересмотреть и приблизить дату до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года) и она должна быть очень внезапной, что характерно для природы экспоненциальной кривой.
Каким образом все эти перемены будут претворяться в жизнь? Элизер Юдковский считает, что ИИ созреет прежде других двух технологий и сверхчеловеческий искусственный интеллект поведёт нас через транзит (переход). Он называет это "руководством по транзиту. Эрик Дрекслер и Ральф Меркле думают, что наиболее грандиозный потенциал заложен в молекулярной нанотехнологии. Рэй Курцвейл и Ханс Моравек ожидают, что лидировать на этом пути будет синтез компьютеров и людей.
Эти три технологии будут, вероятно, развиваться параллельно вследствие их взаимодействия. Зрелая нанотехнология (полный контроль структуры материи на атомном уровне) позволит нам быстро производить продукты с атомным совершенством по цене сырьевых материалов в неограниченном количестве. Она позволит нам создавать материалы в пятьдесят раз прочнее стали или с любыми наперёд заданными свойствами, с полным доступом и контролем биохимических процессов в живых организмах. И предоставит нам инструментарий для быстрого достижения зрелости в молекулярной биотехнологии и искусственном интеллекте путём восстановительного инжиниринга нашего биологического организма и функционирования человеческого мозга. Последствия влияния на общество трудно переоценить, хотя они и переоценивались в прошлом. Причина была в том, что в прошлом не делалось различия между сингулярными технологиями в развитии и зрелыми сингулярными технологиями.
Согласно наиболее вероятному сценарию Сингулярности примерно в районе 2011 года промышленная нанотехнология начнёт производить лавину дешевых товаров, ликвидирующих бедность и голод во всём мире. Примерно к 2012 компьютерная технология, основанная на нанотехнологии, увеличится по своей мощи на шесть порядков от того уровня, где она будет в 2010. Примерно к 2013 исследования в области молекулярной биотехнологии, основанные на нанотехнологии и компьютерной мощи, обеспечат нам средствами излечения всех телесных недугов. Примерно к 2014 исследования в области ИИ, основанные на нанотехнологии и молекулярной биотехнологии и компьютерной мощности, приведут к созданию первого сверхчеловеческого искусственного интеллекта, СИИ.
Миниатюризация (нано)
Миниатюризация электромеханических систем служит важнейшим источником Сингулярных технологий. Достижения в производительности компьютеров порождены этим источником. Достижения в средствах, используемых для расширения функционально-генетических знаний, являются производными от миниатюризации и компьютерной мощи. Мощность компьютеров будет идти по пятым нано, потому что это наиболее ценное приложение. Но, в отличие от нанотехнологии и повышения мощности компьютеров, создание ИИ потребует громадных теоретических прорывов. Поэтому прогресс состоит в миниатюризации (нано), которой способствует мощность компьютеров. Далее молекулярные средства и мощные компьютеры способствуют развитию молекулярной биотехнологии. И, наконец, нанотех, инфотех и биотех объединяются в производстве СИИ.
Закон Мура не есть основная движущая сила Сингулярности. Для этого имеется гораздо больше оснований. Мы можем вернуться назад к истокам и посмотреть на закон Мура. Закон Мура имеет две стороны - "как" и "почему.
"Как" - это цикл с обратной связью, где результат процесса используется для создания более совершенного механизма, используемого таким образом в процессе дальнейшего увеличения скорости, сложности и производительности этого процесса. И конечно, лучший процесс даёт лучший результат, который, в свою очередь, делает процесс лучше и т.д. и т.д. Когда мы следуем за законом Мура в прошлое через дискретные транзисторные схемы, вакуумные трубки, механические калькуляторы и далее переходим к обработке гуманитарной информации в письменности, которой предшествовала устная речь, а затем продвигаемся дальше вглубь биогенетической эволюции, а затем далее в прошлое, сквозь развитие неживой природы планетарной среды, образование галактик, конденсацию материи из энергии, инфляцию Гута, и в пределе - к исходному безразмерному состоянию Вселенной, то мы обнаруживаем и наблюдаем этот цикл с процессом обратной связи на каждой стадии.
"Почему" - это экономика. Подобным же образом мотивационный аспект экономических сил можно проследить в прошлом в соревнованиях самцов, природный отбор и далее через проявление самоорганизующихся свойств неживой материи-энергии, в динамике сложных систем.
Но где начало? Что является фундаментальной парадигмой этих двух взаимосвязанных концепций "как" и "почему"? Какова "базовая концепция"? Некоторые предполагают что Бог, но эта идея, что вполне очевидно, легко отсекается Бритвой Оккама как нелепая и антропоморфная, без надобности усложняющая положение дел. Определенно, что базовая концепция должна предшествовать понятию пространства-времени и материи-энергии и поэтому не может определяться мистическим актом творения.
Что остаётся? Информация. Рэй Курцвейл в одной из своих публичных бесед с Грегори Стоксом утверждал, что предельно тавтологическая реальность - это структурированная информации. В обмене мнениями между Рэем и Элизером Юдковским, где Элизер спрашивал его о том, как тот понимает ускорение скорости прогресса вследствие обратной связи с ИИ. Рэй ответил, что было бы трудно переоценить взрывную скорость удвоения экспоненциального роста и что ИИ может оказаться одним из тех факторов, которые приведут к продолжению закона Мура и после 2020 года.
Что-то такое удивительное, такое невероятное, что-то абсолютно беспрецедентное в истории должно случиться - Сингулярность. Три Сингулярные технологии, такие как нанотехнология, сверхчеловеческий искусственный интеллект (СИИ) и молекулярная биотехнология, превратят наш мир в рай, если только мы сумеем избежать беспрецедентных опасностей, таящихся в самих же этих технологиях, а именно - биоинженерные супервирусы, вооружения в виде самореплицирующихся нанороботов, недружественные сверхразумные машины и наибольшая опасность из всех - склонность к неограниченному бездумному самоудовлетворению, зацикливанию на кайфомании.
Недоразумение, что компьютерные программисты считают ИИ самым необходимым элементом - это всё из-за непонимания перспективы. Поговорите с каким-нибудь исследователем, занятым изучением генетического кода. Он может наблюдать экспоненциальный рост в своей области. Он может представить удивительное будущее, которое эта технология способна предоставить - полный контроль биологического дизайна живых организмов. И нанотехнология, и генная инженерия дозреют к 2021 вне зависимости от того будет ли создан ИИ или нет, и внезапно совершенно изменят общество.
Термин "технологическая сингулярность" употребляется неверно. Более правильным является термин "социальная сингулярность". На протяжении всей истории новые технологии изменяли общество и хотя люди отдают должное инициирующей природе нововведений, однако наиболее значимым историческим аспектом всегда являлось то как меняется общество.
Вот некоторые из вещей, которые, как мы ожидаем, станут возможными после Сингулярности:
1. Зрелая молекулярная нанотехнология приведёт к производству любых продуктов по цене сырьевых материалов, например, к компьютеру по цене мешка песка. Производство ускорится и будет неограниченно увеличиваться. Качество будет совершенствоваться вплоть до атомного уровня. Потребность во всех необходимых материалы будет легко удовлетворяться. Молекулярная нанотехнология также произведёт средства способствующие развитию молекулярной биотехнологии и искусственного интеллекта. Нанотехнология создаст новые материалы в пятьдесят раз более прочные, чем сталь, или с любыми запроектированными свойствами, требуемыми для применения в космических путешествиях, в больших конструкциях и инструментах.
2. Зрелая молекулярная биотехнология приведёт к полному исключению болезней, недееспособности и смерти от естественных причин (однако вы всё же ещё сможете броситься вниз со скалы). Люди смогут иметь тотальный контроль над проектированием, структурой, функционированием и внешним видом своих тел. Мы будем жить в фантастическом мире, населенном ангелами, феями, колдуньями, демонами и гоблинами. Индивидуальность будет отличительным качеством. Совершенство тела и ума будет нормой. Новые физические способности будут обычными.
3. Сверхчеловеческий искусственный интеллект приведёт к таким последствиям в обществе и в наших возможностях, которые кажутся непостижимыми для человеческого уровня интеллекта, включая загрузку человеческого сознания, искусственные миры, мораль на основе свободы воли и многое другое.
В итоге
Конец мира почти рядом и очень мало людей осознают это. Иногда я бываю настолько подавлен чудовищностью Сингулярности, что чувствую, что должен присоединиться к парню на Мэйн Стрит с лозунгом - КОНЕЦ МИРА БЛИЗОК.
Сингулярность - это проблема связи уровней организации материи во Вселенной. Верхний уровень - РАЗУМ, нижний уровень - АТОМЫ (для наших сегодняшних целей). Три технологии, которые соответствуют трём базовым уровням функциональности, это - искусственный интеллект, нанотехнология и молекулярная биотехнология. Полный успех в этих трёх технологиях обеспечит такие радикальные изменения в наших способностях, которые приведут к социальной Сингулярности. Мы весьма близки к созданию этих последних связей.
Я надеюсь, что ответил на некоторые из Ваших вопросов о Сингулярности. Я также надеюсь, что мои ответы стимулируют появление ещё большего потока вопросов.
Почему они не понимают её
У меня на работе недавно был разговор, который, я думаю, иллюстрирует, почему общественность не понимает Сингулярности. У нас есть сотрудник по имени Доминик - это его настоящее имя. Не стоит над ним подшучивать, он бывший морской пехотинец.
Доминик - интеллигентный, хорошо образованный и хорошо информированный парень, но он скептически относится ко всем, кто пытается всучить ему какой-нибудь перечень товаров. Он смотрит новости и проводит много времени со своим кабельным модемом для доступа к домашним компьютерам. Он в курсе новых технологий, постоянно обновляя свой компьютер. У него телевизор с большим экраном высокого разрешения. Он смотрит все новые научно-фантастические кинофильмы.
Он точно из того сорта людей, которые, как я ожидал, восприняли бы это.
Я говорил с ним о Сингулярности целый год и не смог его убедить. Он видит, что компьютеры становятся всё быстрее и быстрее, но, несмотря на мнение экспертов и в противоположность им он думает, что скоро мы упрёмся в стену, ограничивающую мощность компьютеров. И он говорит, что он не понимает, как более быстрые компьютеры смогут изменить всё вокруг.
Часть проблемы - это Голливуд. В НФ фильмах изменяются лишь технические новинки, а экономика - нет. Люди всё ещё по-прежнему работают ради того, чтобы выжить и всякий хлам всё ещё в цене. Люди по-прежнему глупые и смертные.
Такие вещи, я думаю, не соответствуют истинной картине, ожидаемой нас после Сингулярности. И за исключением электроники и некоторых новых методов медицины он не видит никаких драматических примеров миниатюризации, дающих ему какие-то свидетельства потенциала или близости нанотехнологии.
Что до ИИ, то достаточно продвинутая система Alicebot находится крайне далеко от обретения хотя бы одного процента человеческого знания или понимания, а роботы - несуразные игрушки.
Один из печальных фактов насчёт экспоненциального роста, если вам этого хочется, состоит в том, что почти все свершения происходят практически в самом конце. Почему тогда я вижу это ясно как день, а он не видит вовсе?
Всё потому, что я прочитал эту книгу, а он нет. Могу ли я заставить его прочитать эту книгу? Нет, он не любитель читать, он любит смотреть, слушать и кушать (чукча не читатель, чукча - наблюдатель).
Нам надо создать фильм, показывающий все социальные последствия таких технологий, как нанотех, генотех и ИИтех. Есть ли желающие оказать мне содействие в написании сценария?
: «Самая главная цель человечества - придумать, как связать мозг человека с мозгом машины». Основатель Tesla также утверждает: если такую связь не придумать, искусственный интеллект превзойдёт человеческий , и люди начнут страдать от безработицы. Интерес к превосходству искусственного интеллекта подогревают медиа - новостями о том как чат-боты выходят из под контроля .
Между тем, о превосходстве искусственного интеллекта заговорили ещё в 1980-х годах, и с ним связали понятие «технологическая сингулярность». Рассказываем, что это такое, чем опасна сингулярность и за что её критикуют.
В чем суть технологической сингулярности
Технологическая сингулярность - это момент времени когда мощность компьютерных программ превысит вычислительную мощность человеческого мозга. Этот термин изобрел математик и научный фантаст Вернон Виндж в 1983 году. По словам писателя, люди сотворят более могущественный интеллект, чем их собственный . А когда это произойдет, человечество достигнет сингулярности, и его дальнейшая судьба станет непредсказуемой.
Теорию технологической сингулярности популяризовал футуролог Рэймонд Курцвейл. По его предсказанию, сингулярность наступит в 2045 году, когда мощность компьютера и человеческого мозга сравняются по закону Мура. Курцвейл считает, что искусственный интеллект дойдёт до создания себе подобных, а еще будет способен на самомодификацию.
Однако даже Курцвейлу остаётся гадать, каким будет искусственный интеллект в 2045 году: например, сможет он выполнять за минуту то, на что человеку требуются годы, или нет.
Чем опасна сингулярность
Искусственный интеллект уже сейчас находится на высоком уровне развития. Например, в мае 2017 года программа AlphaGo от компании DeepMind обыграла в го Кэ Цзе , сильнейшего игрока в мире. В 2016 году она одержала победу над другим известным игроком в го, Ли Седолем. Ранее считалось, что компьютер не сможет играть в го наравне с профессионалом, потому что в игре нужно хорошее абстрактное мышление, а перебрать все возможные варианты исхода игры невозможно.
В 2015 году искусственный интеллект ConceptNet догнал четырехлетних детей в IQ-тесте . Программа показала средние результаты для детей этого возраста.
А теперь представьте, насколько опасным может быть искусственный интеллект, способный на самомодификацию. Вдруг он станет настолько развитым, что человек не сможет его контролировать. Такие опасения, например, высказывал Илон Маск в Твиттере , предрекая восстание искусственного интеллекта.
Чего мы боимся
Основные опасности, которые может принести технологическая сингулярность, связывают с потерей контроля человека над искусственным интеллектом.
- Апокалипсис, в ходе которого искусственный интеллект восстанет против человека , и начнётся война.
- Порабощение человечества. Искусственный интеллект станет настолько развитым, что поработит людей с помощью насилия или так, что люди этого никогда не поймут.
- Обвал экономики. Машин станет больше, они подешевеют и смогут заменить труд человека. Таким образом, люди станут безработными, и это приведёт к глобальному кризису в экономике.
- Искусственный интеллект как оружие в плохих руках.
«Меня беспокоят две вещи. Прежде всего, человечество слабеет: всё больше знаний мы получаем с помощью компьютеров, поэтому у людей нет желания исследовать что-то самостоятельно. Кроме того, я боюсь, что люди потеряют контроль над искусственным интеллектом или начнут намеренно использовать его в корыстных целях» - Стюарт Рассел, профессор информатики, Калифорнийский университет в Беркли
Критика сингулярности
Несмотря на предсказания Курцвейла, бояться апокалипсиса и порабощения человечества искусственным интеллектом пока рано. Об этом пишет Пол Аллен , соучредитель Майкрософта.
По его словам, сингулярность может наступить, когда человеческий мозг до конца исследуют. Если искусственный интеллект создадут по его образцу, у машины появится сознание, и она будет думать, как человек. Но для этого нужно понимать, как мозг реагирует и меняется, как взаимодействия нейронов влияют на сознание человека. Сейчас модели человеческого мозга воспроизводят малую долю его реакций, а когда ждать открытий от учёных - неизвестно.
Технологическая сингулярность — момент, по прошествии которого технологический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию, за которым предположительно следуют создание искусственного интеллекта и самовоспроизводящихся машин, интеграция человека с вычислительными машинами, либо значительное скачкообразное увеличение возможностей человеческого мозга за счёт биотехнологий.По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческое (социальное) поведение.
Одними из фундаментальных открытых вопросов насчет сингулярности являются вопросы о её существовании, времени наступления и темпах роста технологических изменений. Экстраполяция некоторых тенденций показывает, что сингулярность может произойти к 2020 году (возможно, эту дату следует пересмотреть и приблизить до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдер (Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года), и она должна быть очень внезапной, что характерно для природы гиперэкспоненциальной кривой.
Есть гипотеза, что явно выраженной точки сингулярности, с острым кризисом, не будет. Развитие идет по S-образной (логистической) кривой, и уже с начала 1970-х годов началось торможение. А точка «сингулярности» — это такая точка на графике развития, в которой её скорость максимальна (середина S-образной кривой).
Основоположник идей технологической сингулярности - Рэймонд Курцвейл. Он известный американский изобретатель и футуролог. В качестве изобретателя он создал многочисленные системы для распознавания речи. Как футуролог он известен научными технологическими прогнозами, учитывающими появление искусственного интеллекта и средств радикального продления жизни людей. Согласно Курцвейлу, в будущем человечество достигнет почти неограниченного материального изобилия, а люди могут стать бессмертными. Он также дал научное обоснование технологической сингулярности — феноменально быстрого научно-технического прогресса, основанного на мощном искусственном интеллекте (превосходящем человеческий) и киборгизации людей.
В 2009 году появились сообщения о создании Университета сингулярности, который будет возглавлен Курцвейлом. Сооснователями университета выступают NASA и Google. Учебное заведение будет готовить специалистов для решения глобальных проблем, с которыми уже сталкивается или может столкнуться человечество.
Основные предсказания
- В 2010-е годы специальные устройства будут проецировать изображения прямо в человеческие глаза, создавая эффект виртуальной реальности (очки с эффектом 3D). Мобильные телефоны, встроенные в одежду, станут посылать звук прямо в ухо (Bluetooth). «Виртуальные ассистенты» будут помогать людям во многих повседневных делах. В частности, они смогут производить мгновенный перевод иностранной речи. Маленькие компьютеры, связанные с интернетом, будут всё теснее интегрироваться в повседневную жизнь.
- По мнению Курцвейла, уже в 2014 году мощность суперкомпьютера сравняется с мощностью человеческого мозга. Компьютеры перестанут существовать, как отдельные объекты — они примут нетрадиционную форму и будут встроены в одежду и повседневные предметы. Виртуальная реальность будет вовлекать не только зрение и слух, а все органы чувств.
- К 2020 году персональные компьютеры достигнут вычислительной мощности человеческого мозга. В 2020-х годах в медицинских целях начнут использовать наномашины. В частности, нанороботы смогут доставлять питание к клеткам человека и удалять их отходы. Они также произведут детальное сканирование мозга человека, позволяющее понять детали его работы. К концу десятилетия в промышленности станут широко использоваться нанотехнологии, что приведёт к значительному удешевлению производства всех продуктов. К 2029 году компьютер сможет пройти Тест Тьюринга, доказывая наличие у него разума в человеческом понимании слова. Это будет достигнуто путём компьютерной симуляции мозга человека.
- В 2030-е годы наномашины будут вставляться прямо в мозг и осуществлять произвольный ввод и вывод сигналов из клеток мозга. Это приведёт к виртуальной реальности «полного погружения», которая не потребует какого-либо дополнительного оборудования.
- В 2040-е годы человеческое тело сможет принимать любую форму, образуемую большим числом нанороботов. Внутренние органы будут заменены кибернетическими устройствами гораздо лучшего качества.
- Курцвейл предсказывает наступление технологической сингулярности в 2045 году. В это время вся Земля начнёт превращаться в один гигантский компьютер, и постепенно этот процесс может распространиться на всю Вселенную. Природа сингулярности такова, что более конкретные прогнозы на период после 2045 года сделать затруднительно.
«Ты всего лишь машина. Только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?» — говорит герой фильма «Я робот», снятого по мотивам одноименного сборника рассказов Айзека Азимова, одного из самых известных писателей- фантастов 20 века. А что, если в недалеком будущем робот сумеет не только сочинить симфонию, но и совершить любое действие, на которое раньше был способен лишь человек? Что, если фантасты умело предсказали самый вероятный вариант нашего будущего? Футурологи всего мира пытаются ответить на вопрос, смогут ли те, кого создал сам человек, превзойти его в возможностях, а если смогут, то когда и что из этого выйдет?
Известный демограф Николас Эберштадт в своей лекции «Что будет с населением Земли в 2035 году?» отметил, что демографическое увеличение населения земли идет по экспоненте. Порог в 100 миллионов человек преодолевался за 1000 лет до Рождества Христова. Человечеству понадобились тысячелетия для такого демографического рывка. При этом первый миллиард появился примерно 200 лет назад, потом миллиард стал появляться каждые 100 лет, затем — каждые 50, сейчас новый миллиард появляется каждые 12-13 лет.
Это иллюстрация экспоненциального закона роста, он проявляется на разных «ветвях» развития, в том числе и на технологическом. В 1965 году основатель корпорации Intel Гордон Мур вывел логарифмический закон, согласно которому каждые полтора года компьютеры становятся в два раза «умнее». По мнению американского футуролога Рэймонда Курцвейла, если закон Мура продолжит функционировать, то уже к 2030 году компьютеры по своей производительной мощности смогут приблизиться к мозгу человека. Вероятность ускоренного развития техники и появления в какой-то момент сверхразума предполагают многие футурологи мира и называют это технологической сингулярностью .
Читайте таже
Впервые концепцию технологической сингулярности представил профессор математики и писатель-фантаст Верно Виндж на симпозиуме VISION-21 в 1993 году:
«Сингулярность — это точка, в которой наши старые модели придётся отбросить, где воцарится новая реальность.
Когда прогресс будет направляться интеллектом, превосходящим человеческий, он станет куда стремительнее. Фактически, нет оснований полагать, что прогресс не станет плодить всё более разумные сущности и всё более быстрыми темпами.
Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока. Неуправляемая цепная реакция начнет развиваться по экспоненте безо всякой надежды на восстановление контроля над ситуацией. Изменения, на которые, как считалось, потребуются «тысячи веков» (если они вообще произойдут), скорее всего, случатся в ближайшие сто лет».
Виндж видит несколько путей развития этой теории:
- Возникнет сверхчеловеческий разум вследствие развития техники;
- Повысится эффективность человеческого разума и физических характеристик при помощи ;
- Крупные компьютерные сети смогут самостоятельно идентифицировать себя как разумные сущности;
- Синтез компьютера и человека приведет к тому, что человек сам будет иметь сверхинтеллект.
Человек задумался о создании искусственного интеллекта, чтобы упростить себе жизнь и оптимизировать большую часть работы. Благодаря оптимизации компьютеры уже занимают не целые помещения, а могут запросто уместиться в ладони, и их стоимость уменьшилась в десятки раз. Роботы в наше время научились выполнять команды, убирать квартиры, мы обзавелись «умными» домами, существует даже робот-художник, способный воспроизвести любую картину. Техника стала не просто компактной и дешевой, но и обладающей интеллектом. Компьютер может распознать ваш голос и перевести информацию в байты, большинство цехов оснащено новейшими технологиями для производства новой продукции, найти какого-либо человека тоже не составляет труда при помощи системы, распознающей лица. Если вспомнить закон, который упоминался в самом начале, то можно рассчитать, что уже к 2040 году каждый из нас сможет приобрести процессор, равный по вычислительной мощности человеческому мозгу.
Продолжать этот список можно бесконечно долго, но что ждет нас, если однажды все заменят компьютерами: место учителей займут интерактивные помощники, автомобилям больше не понадобится водитель, а лучшим художником десятилетия признают робота нового образца? Все это не так далеко, как кажется: уже сейчас роботы без труда могут превосходить человека в плане эффективности и производительности. Робот не устает, не выходит в отпуск и не требует оплаты в привычном нам понимании. Лишь затраты на техническое обслуживание. Едва ли мы можем точно предсказать, что произойдет после технологической сингулярности, однако некоторые детали оценить можно и сейчас.
Рассматривая идею о создании сверхчеловеческого разума, нужно заметить, что уже сегодня производительность суперкомпьютера IBM «Watson» оценивается примерно в 80 триллионов операций в секунду. Новости о развитии и новых возможностях компьютера появляются с завидной регулярностью.
Скриншот выдачи поиска Google
IBM «Watson» способен давать ответы на вопросы, анализировать информацию и скрытые в вопросах значения, планируется использовать суперкомпьютер для помощи в диагностике и лечении рака, и хотя компьютер уступает человеку в принятии решений на ассоциативном уровне, американская компания Neuromatters и Колумбийский университет в Нью-Йорке уже заключили договор на разработку технологии, которая будет сочетать компьютерную мощность и мощность человеческого мозга для решения и этой проблемы.
Синтез человека и компьютера предрекали многие писатели-фантасты и футурологи, пытаясь заглянуть в недалекое будущее. Если говорить о киборгах, на ум сразу приходят Терминатор или Адам Дженсен из Deus Ex. Кажется, это слишком фантастично, чтобы оказаться реальностью, однако, как говорил Уильям Гибсон, «будущее уже здесь, оно просто неравномерно распределено».
Углубляемся
Еще Эдгар Алан По в своем рассказе «Человек, которого изрубили в куски» затрагивал тему аугментации, а именно наращивания имплантатов на тело для воспроизведения человека при помощи технологической мощности. В современном мире уже никого не удивить операциями по замене конечностей на автоматизированные. Но прогресс не стоит на месте, и ученые из университета Carnegie Mellon решили пойти дальше и интерфейс «умных» часов с помощью комплекта из кольца и браслета. Кольцо посылает сигнал постоянно тока в палец и теперь управлять часами можно простым касанием по своей руке.
Сооснователь компании Cyborg Nest Ливиу Бабитс заявил:
«Наша цель - помочь многим людям стать киборгами. Мы верим, что если почувствовать то, что чувствуют животные, то изменится понимание мира. Это позволит нам ступить на следующий этап эволюции».
И уже сейчас с их помощью человек может без операций присоединить к себе чип, который поможет ориентироваться в пространстве и будет вибрировать каждый раз, когда носитель будет поворачивать на север.
«Франкенштейны 21 века» существуют, и их становится все больше. Потенциальное развитие технологического процесса пытались предсказать и визуализировать создатели сериалов «Черное зеркало» и «Мир дикого запада», ведь именно сейчас эта тема актуальна как никогда. Представляя различные взгляды на мир будущего, авторы не забыли и о роботах, чья роль столь велика в наше время.
Мы живем в век, когда уже изобретены летающие машины, а роботы выполняют функции официантов. В 2009 году компания Robosoft представила автобус, способный переправлять людей по спокойным участкам дороги без помощи водителя. И хотя в опасных ситуациях водители брали управление на себя, мы не так далеки от широкого распространения такси без водителей.
Что же нас будет ждать, когда созданная нашими руками техника сможет развиваться вне зависимости от нас? И хотя футурологи сходятся во мнении, что предсказать будущее после технологической сингулярность невозможно, они уверены, что его можно предположить, как это сделал Рэй Курцвейл.
Но, кроме футурологов, этим активно пытаются заниматься современные киноделы, снимая на тему будущего человечества одну картину за другой. Большинство фильмов, показывающих нам предполагаемый сюжет ближайшего будущего, «очеловечивают» роботов, делая их чем-то похожими на людей — терминатор, трансформеры и т.д. Но едва ли у компьютера, обладающего сверхчеловеческим разумом, возникнет потребность создавать свой образ по подобию человеческого.
Научная фантастика также не осталась в стороне от этой темы. Айзек Азимов сформулировал 3 закона робототехники, один из которых гласит, что робот не может причинить вред человеку. Но будет ли так на самом деле? Большинство фантастов представляют не слишком оптимистичный взгляд на будущее человечества. Впрочем, есть и другое мнение на этот счет. Писатель Александр Никонов и футуролог Александр Жаров считают, что человек сможет вступить в симбиоз с искусственным интеллектом и развивать навыки, оставаясь при этом тем, кто контролирует свой разум и тело.
Так что же из всего этого может произойти в ближайшее время? Вероятнее всего, нас ждет массовая «чипизация», которая только начинает набирать обороты. Об этом говорили еще в 2015 году эксперты Всемирного экономического форума. Кроме всего прочего, они обсуждали возможность появления телефонов, встроенных в тело человека, в ближайшие 10 лет. Но вживлением NFC-чипов в узких кругах занимаются уже сейчас (так, например, в 2015 году московский инженер Влад Зайцев вшил себе под кожу NFC-чип карты «Тройка»). В медицине будут появляться разработки в сфере поиска «бессмертия», как биологического, так и кибернетического. Этому поспособствуют уже изобретенные технологии выращивания органов и производства искусственной крови. Несомненно, в таком будущее есть как положительные, так и отрицательные стороны. Сложно оценить все риски и сделать точные прогнозы. Однако нет смысла бояться будущего, оно неизбежно. Стоит помнить лишь о том, как сильно происходящее сегодня влияет на то, что будет завтра.
Гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию, предположительно следующий после создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами, либо значительного скачкообразного увеличения возможностей человеческого мозга за счёт биотехнологий.
По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года.
Значительные сопутствующие изменения, которые станут технически возможными с приходом технологической сингулярности, это:
-Пониженное загрязнение окружающей среды за счёт применения искусственного интеллекта в комплексе: производство + переработка отходов производства.
-Увеличенное свободное время у людей, так как большую часть физического труда будет выполнять машина, контролируемая человеком.
Идею об ускоряющемся росте научного знания впервые можно встретить в работах Ф. Энгельса. В середине XIX века он писал о том, что наука движется вперед пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI-XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В. И. Вернадский, писавший о непрерывном усилении темпов научного творчества. По мнению некоторых современных исследователей, имеет место «экспоненциальный закон развития науки», проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей. Однако важно отметить, что экспоненциальный рост как раз не предполагает никакой сингулярности в математическом смысле этого понятия.
Близко к концепции сингулярности находятся идеи Станислава Лема о вероятной эволюции компьютеров. В наиболее предельном виде эволюция компьютеров описана в эссе «Голем XIV лекция XLIII. О себе».
Термин «сингулярность» заимствован у математиков и астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной - точка с бесконечно большой плотностью и температурой и бесконечно малым объёмом. Математическая сингулярность (особенность) - точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки - особенности функции.
В данном контексте впервые термин «сингулярность» использовал в середине ХХ века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова - точку, за которой экстраполяция начинает давать бессмысленные результаты (расходиться). Об этом пишет Вернор Виндж, которому данный термин обычно приписывают. Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.
Уменьшение промежутка времени между эволюционными событиями (биологическая, затем технологическая эволюция)
Курцвейл пишет, что из-за смены парадигм, тенденция экспоненциального роста наблюдается от интегральных схем до более ранних транзисторов, электронных ламп, реле, и электромеханических компьютеров.
Одними из фундаментальных открытых вопросов насчет сингулярности являются вопросы о её существовании, времени наступления и темпах роста технологических изменений. Экстраполяция некоторых тенденций показывает, что сингулярность может произойти к 2020 году; возможно, эту дату следует пересмотреть и приблизить до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (англ. Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года, - и она должна быть очень внезапной, что характерно для природы гиперэкспоненциальной кривой.
Ряд учёных (из наиболее известных российских, например - один из основоположников клиодинамики А. В. Коротаев и биолог А. В. Марков) выступают с обоснованной критикой данной концепции, утверждая, что явно выраженной точки сингулярности, с острым кризисом, не будет. Ими утверждается, что развитие идёт по S-образной (логистической) кривой, и уже с начала 1970-х годов началось торможение, то есть Мир-Система «точку сингулярности» в процессе модернизационного фазового перехода уже прошла; при этом под точкой сингулярности здесь подразумевается такая точка на графике развития, в которой скорость максимальна (середина S-образной кривой).
Технологическая сингулярность как следствие развития нанотехнологий рассматривается в отчете 2007 года Комиссии по экономической политике Конгресса США. По некоторым мнениям, придерживающихся возможности сингулярности, она должна наступить около 2030 года. Если проэкстраполировать закон Мура, окажется, что примерно в то же время вычислительная мощность компьютеров сравнится с головным мозгом человека. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческую логику.
Кроме рассказов Вернора Винджа, сингулярность является центральной темой произведений некоторых других авторов научной фантастики. Среди них можно отметить Уильяма Гибсона, Чарльза Стросса, Карла Шрёдера, Юрия Никитина, Грега Игана, Дэвида Брина, Иэна Бэнкса, Нила Стивенсона, Тони Баллантайна, Брюса Стерлинга, Дэна Симмонса, Дэмиена Бродерика, Фредерика Брауна, Яцека Дукая, Нагару Танигава, Кори Доктороу, Питера Уоттса. Кен Маклеод в своём романе 1998 года «Подразделение Кассини» (англ. The Cassini Division) определяет сингулярность как «вознесение для нердов».
Тематика сингулярности часто встречается в киберпанковых романах. Например, рекурсивно самоулучшающийся искусственный интеллект «Зимнее Безмолвие» в романе Уильяма Гибсона «Нейромант». Опубликованный в 1994 году на сайте Kuro5hin роман «Метаморфозы Высшего Интеллекта» посвящён жизни после запущенной искусственным интеллектом сингулярности. Более антиутопичный взгляд на сингулярность в коротком рассказе Харлана Эллисона «У меня нет рта и я должен кричать» («I Have No Mouth, and I Must Scream»). Другими примерами антиутопичного взгляда являются «Акселерандо» Чарльза Стросса и продолжающаяся в настоящее время серия комиксов Уоррена Эллиса «newuniversal». «Все куклы» (англ. Puppets All) Джеймса Милна затрагивает эмоциональные и моральные проблемы Сингулярности. Проблема Контакта в эпоху технологической сингулярности обсуждается в романе Станислава Лема «Фиаско» (1986), «Ложной слепоте» Питера Уотса.