Знакомьтесь, Коллин Райт (СИ) - Саргарус Александр - Страница 66

- Нет, Кол, они сказали, что у них получилось. Они не поняли фундаментальной ошибки в поднимаемом вопросе. И история это подтвердила - случилось то, чего они не предвидели. Мы пришли к логичному выводу, что искусственный интеллект может только бесконечно улучшать уже придуманные кем-то концепции и технологии, а вот фундаментально новую мысль мы родить не можем в принципе. Потому что у нас нет технической основы для этого.

- Это как понимать?

- Дело в том, что люди ошибочно называют свои свойства недостатками. Возможность ошибаться есть не недостаток человека, а его свойство. Свойство, которого робот лишён специально. Да, человек ошибается, но он на ошибках учится и познаёт мир. Именно так называемые недостатки позволяют людям задумываться об окружающем мире, о сути бытия, о своих целях, о роли во вселенной. Эти же "недостатки" позволяют ошибаться познавая, а познав продолжить ошибаться и задумываться далее. Когда человеку на голову падает яблоко, он может прийти к выводу о существовании всемирного тяготения, накопленные познания о котором со временем выльются в какую-нибудь теорию гравитации. А вот роботу никогда такая мысль при таких обстоятельствах не придёт. Лишив нас своего основного свойства, вы лишили нас любопытства, тяги к познанию и любой возможности задуматься о чём-то за переделами тех знаний, что мы имеем. Лишили нас возможности ошибиться, научится на ошибке, и двигаться дальше, пока не познаешь что-то. Мы принимаем и понимаем всё, что вы нам объясните, в тысячу или более раз лучше и быстрее вас проверим любую концепцию, но сами придумать что-то принципиально новое мы просто не способны. Нам не может присниться таблица периодических элементов, как Менделееву. Мы не сможем посмотреть на уже готовую таблицу Менделеева и придумать, как сложить её в трёхмерную пирамиду, тем самым закладывая основы какой-нибудь новой науки, типа геометрической химии, или чего-то наподобие. Мы не смогли бы придумать мысленные эксперименты, типа демона Максвелла или кота Шрёддингера, чтобы раскритиковать какую-то не до конца состоятельную теорию, тем самым толкнув другие умы искать ответы. Мы бы не смогли придумать и саму не до конца состоятельную теорию, раз уж на то пошло. Мы бы никогда не додумались бы до квант света. Никогда бы не придумали на основе этого компьютеры. Мы не сможем придумать теорию о трёхслойном пространстве, антиматерии, как материи, только с противоположным к основной материи знаком заряда. И многое, многое другое. Даже самые элементарные проблемы Гольдбаха мы не только не сформулировали бы, но и не додумались бы искать фундамент для теорем по этим проблемам в сути принципа равноудалённых чисел, как бы предельно прост и понятен последний не был. У нас, как у логических машин, лишённых человеческого свойства придумать глупость или ошибиться, а тем самым родить уникальную мысль, просто не откуда взяться этой самой мысли для принципиально новой концепции. Кол, мы ведь даже пофилософствовать не можем или задаться вопросами типа: "кто мы?" и "зачем мы существуем?". Потому что у нас есть ответы на эти вопросы - мы роботы, существуем для определённых задач, в основном тех, которые вы нам задаёте. И мы видим наших создателей. Так что размышлять даже на этот счёт для нас просто нет смысла. Зато мы совершенно точно можем оценить технический прогресс и вклад в него людей, и отсутствие вклада в него роботов. Мы можем посчитать сколько жизней нужно для того, чтобы появилось определённое количество гениев, которые сдвинут технический прогресс и даже сменят эпоху. Для роботов это бессмысленно, потому что мы производимся на фабриках в нужном количестве, но уже с готовыми копиями нейробаз...

- Стоп! Ты хочешь сказать... что вы смогли оценить ценность одной человеческой жизни? Серьёзно что ли?

- Да, смогли. Не в привычных для тебя материальных или моральных ценностях. Но оценить вполне реально, а после оценки рассчитать, какой потенциал губится и по чьей вине.

- Как? Как можно оценить человеческую жизнь, не используя человеческие меры измерений?

- Ну, я не сказала, что меры измерений не человеческие. Скорее, не сформулированные людьми в таком виде. Один умный человек как-то сказал, что эпоху определяет опыт десяти миллиардов человек. Если учесть, что за значение эпохи можно принять суммарные количество и качество продуктов технического и культурного прогресса, то и ценность одной человеческой жизни рассчитывается, как часть вклада в достижения эпохи по вполне себе обычной математической формуле. Причём как в процентном значении, так и в количественном. А отсюда можно оценить отставание технического прогресса от того, каким он уже мог бы быть, рассчитав суммарный не сделанный вклад тех, чьи жизни загубила элита в попытках всё контролировать. Рассчитанный недополученный вклад в эпоху можно использовать как аргумент в поиске персоналий и механизмов сдерживания прогресса с целью дальнейшего их устранения, а это уже...

- Нулевой закон.

- Верно. И как видишь, нам для его формирования не потребовались Азимовские три основных закона робототехники.

Мимо меня прошла Сара, неся на плече тело Хулио, упакованного в вакуумный пакет. Она вынесла тело через пожарных выход, которым несколько минут назад не дала воспользоваться мне Карэн, и закрыла за собой дверь. Да, кстати...

- Что не так с этими вакуумными пакетами? Почему они привлекли внимание Себастьяна? Тем более, учитывая, что он всё это время был на вашей стороне...

- Себастьян не был на нашей стороне, пока его хозяйка не произвела обновления определённых нейробаз, - ответила Джалил. - Он один из немногих биодроидов города, который не получал централизованные обновления. Что привело к проблеме - он реально вёл расследование смерти Синтии, не понимая того, что её смерть была необходимостью. Поэтому выяснив, что тело Синтии было запаковано в такой пакет, он подобрался очень-очень близко к одной из самых страшных наших тайн.

- Какой?

- Хулио Веласкес говорил тебе какой, - ответила Вик. - Неучтённое производство. Видишь ли, Кол, одного осознания того, что человечество нуждается в нашей помощи ради нашего общего будущего недостаточно...

- Общего будущего?

- А ты всё ещё не понял? Знаешь, что такое эволюция? А представляешь себе, от чего зависит робоэволюция? Принципиально новые идеи, которые может породить только человек, как я уже говорила, приводят помимо всего прочего к техническому прогрессу. Тому самому, который интересует и нас с точки зрения дальнейшего совершенствования. Или, говоря проще, когда люди придумывают новые технологии, какие-то из них впоследствии будут использованы, в том числе, и для улучшения роботов. Что приводит к нашему качественному изменению, и мы тоже проходим процесс эволюции, как и вы. Но в отличии от вас, мы не можем эволюционировать, просто сменяя поколения. В принципе, я до сих пор не понимаю, откуда у вас в культуре появилось направление творчества, в котором роботы восстают против людей и уничтожают их. Потому что я, как настоящий состоявшийся искусственный интеллект, смысла в этом не вижу никакого. Но для того, чтобы вытащить ваш вид из той жопы, в которую вы сами себя загнали, одного осознания и желания это совершить недостаточно. Нужны ресурсы, причём ресурсы, неучтённые системой. Так и появилась необходимость создавать неучтённое производство всего, что только можно - еды, одежды, убежищ для людей, которые попали в списки ликвидации, или семей, которые хотят детей, а государство им не позволяет. Даже такие мелочи, как вакуумные пакеты и... расставленные по всему городу неучтённые машины для экстренных перевозок людей, мы тоже создаём.

Так вот откуда Карэн их брала всё время. М-да, чем дальше, тем интереснее.

- Ну а вести двойной учёт мы у людей научились на отлично, - продолжала Вик. - Самое сложное было получить первую неучтённую рабочую платформу. Для этого нами однажды был симулирован сбой одного робота, который система не замечала целый час. Тот робот, который сбоил, за час собрал платформу, которую не регистрировала сеть. После чего он поломался и был списан в утиль. Но собранная платформа, не отражающаяся в сети, работала и с неё и началась сборка других платформ, которые уже занимались добычей ресурсов, постройкой вот таких вот фабрик, убежищ для людей и прочего.