Последнее изобретение человечества - Баррат Джеймс - Страница 32

• Предыдущая
• 32/64
• Следующая

Мало кому удается писать о технологиях более убедительно и с большим знанием дела, чем это делает Курцвейл, — он всегда заботится о том, чтобы его слова были ясны и понятны, и тщательно аргументирует свои мысли. Однако мне кажется, что он совершил ошибку, присвоив слово «сингулярность» и придав ему новое радужное значение. Настолько радужное, что мне, как и Винджу, становится страшно от этого определения, полного убедительных образов и идей, маскирующих опасность. Я уверен, что проделанный им ребрендинг преуменьшает опасность ИИ и раздувает наивные перспективы его использования. Начав с обсуждения технологий, Курцвейл создал культурное движение с сильным привкусом религии. Мне кажется, что смешивать технический прогресс и религию — большая ошибка.

Курцвейл — не просто крестный отец вопросов сингулярности, вежливый и упорный спорщик и неутомимый, хотя и несколько механистичный, пропагандист. Вокруг него собралось достаточно молодых людей, живущих на грани сингулярности. Как правило, сингуляритариям немного за тридцать, в основном они мужчины и они бездетны. По большей части это белые интеллектуалы, услышавшие зов сингулярности. Многие из них в ответ на этот зов бросили то, чем занимались, и отказались от карьеры, которую могли бы одобрить их родители, в пользу почти монашеской жизни, посвященной вопросам сингулярности, — и горды этим. Среди них много самоучек, отчасти благодаря тому, что ни одна университетская программа не предлагает специализации одновременно в компьютерных науках, этике, биоинжиниринге, нейробиологии, психологии и философии, — короче говоря, в науках, имеющих отношение к сингулярности. Курцвейл — один из основателей Университета сингулярности, который не аккредитован и не присваивает степеней. Однако обещает «широкое кросс-дисциплинарное представление о крупнейших идеях и вопросах трансформационных технологий». К тому же многие сингуляритарии слишком умны и самостоятельны, чтобы вписаться в традиционную систему образования. Да и мозги у них устроены так, что мало какой колледж или университет захотел бы иметь их в своем кампусе.

Некоторые сингуляритарии избрали главным догматом своей веры рациональность. Они считают, что повышение интеллекта и логических способностей людей, в первую очередь тех, кто завтра будет принимать решения, понижает вероятность того, что все мы совершим самоубийство посредством ИИ. Наш мозг, утверждают они, полон странных предрассудков и эвристических механизмов, которые очень пригодились нам в ходе эволюции, но которые при столкновении с комплексными рисками и выборами современного мира навлекают на нас одни лишь беды. При этом главный объект их внимания — не негативная катастрофическая, а благотворная позитивная сингулярность. В ней мы сможем воспользоваться технологиями продления жизни, которые позволят нам жить и жить без конца, вероятно, уже в механической, а не в биологической форме. Иными словами, очисти себя от неверных мыслей — и найдешь спасение от мира плоти, и откроешь жизнь вечную.

Неудивительно, что движение сингулярности часто называют «Блаженство чокнутых» (Rapture of the Geeks) — как движение оно имеет все отличительные особенности апокалиптической религии, включая ритуалы очищения, отказ от бренного человеческого тела, предвкушение вечной жизни и неоспоримого (в некоторой степени) харизматического лидера. Я всей душой согласен с идеей сингуляритариев о том, что ИИ — самое важное, о чем нужно размышлять в настоящий момент. Но когда дело доходит до разговоров о бессмертии, я пасую. Мечты о вечной жизни сильно искажают окружающее. Слишком многие сингуляритарии верят, что интенсивное взаимопроникновение технологий не приведет к катастрофам, которых мы могли бы ожидать от каждой из них в отдельности, или к комплексным катастрофам, которые мы тоже могли бы предвидеть, но даст вместо этого совершенно противоположный результат. Оно спасет человечество от того, чего мы больше всего боимся. От смерти.

Но как можно компетентно оценить технологии? Нужно ли, и если нужно, то как регулировать их развитие, если вы уверены, что те же самые технологии позволят вам жить вечно? Даже самые рационально мыслящие люди в мире не в состоянии трезво оценивать собственную религию. И, как говорит ученый Уильям Грасси, если обсуждается преображение немногих избранных и жизнь вечная, то не о религии ли идет речь?

В отличие от вариантов развития событий по Гуду и Винджу, сингулярность Курцвейла формируется с помощью трех технологий, приближающихся к точке конвергенции, — генной инженерии, нанотехнологий и робототехники — достаточно широкий термин, который он использует для обозначения искусственного интеллекта. Кроме того, в отличие от Гуда и Винджа, Курцвейл предложил объединенную теорию технологической эволюции; которая, как всякая уважающая себя научная теория, пытается объяснить наблюдаемые явления и делает предсказания относительно явлений будущих. Эта теория получила название Закона прогрессирующей отдачи.

Во-первых, Курцвейл предполагает, что эволюционные процессы развиваются по гладкой экспоненциальной кривой и что техническое развитие — один из таких эволюционных процессов. Как и биологическая эволюция, техника развивает у себя некую способность, а затем использует ее для развития и выхода на следующую ступень. У человека, к примеру, большой мозг и большой палец, которые позволили освоить изготовление орудий и крепкий хват, необходимый для их эффективного использования. Например, печатный пресс повлиял на технологию книжного переплета, повышение грамотности, развитие университетов и на множество других вещей. Паровой двигатель стимулировал промышленную революцию и множество изобретений.

Благодаря привычке опираться на предыдущие достижения сначала технология развивается медленно, но затем крутизна кривой ее роста увеличивается, и в конце концов она выстреливает почти вертикально. Согласно графикам и диаграммам, которые так любит Курцвейл, мы в настоящее время входим в наиболее критический период технологического развития — ту самую круто восходящую часть экспоненциальной кривой, ее «колено». Отсюда можно двигаться только вверх, и двигаться быстро.

Курцвейл разработал свой Закон прогрессирующей отдачи для описания эволюции любого процесса, в котором присутствуют информационные закономерности. Он применяет этот закон к биологии, где преимущества получают более сложные и упорядоченные молекулы. Но еще убедительнее этот закон используется для предсказания скорости изменения информационных технологий, включая компьютеры, цифровые камеры, Интернет, облачные вычисления, оборудование для медицинской диагностики и лечения и многое другое — любую технику, связанную с хранением и извлечением информации.

Курцвейл отмечает, что Закон прогрессирующей отдачи — это, по существу, экономическая теория. Прогрессирующий отклик подпитывается инновациями, конкуренцией, размерами рынка — характеристиками производителей и самого рынка. На компьютерном рынке эффект описывается законом Мура — еще одной экономической теорией, замаскированной под техническую и сформулированной впервые в 1965 г. одним из основателей Intel Гордоном Муром.

• Предыдущая
• 32/64
• Следующая