Фиаско - Лем Станислав - Страница 63
- Предыдущая
- 63/76
- Следующая
Согласно решению, принятому экспертами SETI во время подготовки экспедиции, GOD наблюдал за поведением всех людей на «Гермесе», чтобы определять их психическое состояние, и это ни для кого не было тайной.
Необходимо было знать, не наступят ли при долговременном стрессе, которому будут подвергаться предоставленные самим себе люди, отклонения от нормы, типичные для психодинамики групп, годами отрезанных от обычных семейных и социальных связей. В подобной изоляции может поддаться нарушениям даже личность, ранее абсолютно уравновешенная и защищенная от душевных травм. Фрустрация переходит в депрессию или в агрессивность, а те, с кем это происходит, почти никогда не отдают себе в этом отчета.
Присутствие на борту врача, хорошо разбирающегося в психологии и нарушениях психики, не гарантирует выявления патологических явлений, поскольку он также может поддаться стрессам, непосильным для самого мужественного характера. Врачи ведь тоже люди. Машинная же программа, напротив, отличается устойчивостью и будет полезна как объективный диагност и невозмутимый наблюдатель, даже если произойдет катастрофа и корабль должен будет погибнуть.
Правда, эта защита разведчиков от коллективного сумасшествия несла в себе угрозу непреодолимого противоречия. GOD все-таки должен был выполнять функции одновременно подчиненного и руководителя команды, выполнять приказы и следить за психическим состоянием приказывающих. Тем самым он получал статус послушного орудия и категоричного начальника. От его постоянного надзора не освобождался даже командир. Вся загвоздка была в том, что осознание того факта, что существует наблюдение, которое обязано вовремя обнаружить психические травмы, само было своеобразной травмой. Но от этого средств уже не было. Если бы GOD выполнял эту функцию втайне от людей, он вынужден был бы раскрыть ее, уведомив их о выявленной аберрации, и такое сообщение стало бы не психотерапией, а шоком. Этот порочный круг как будто удалось разорвать, создав перекрестную обратную связь между ответственностью людей и компьютера. Он передавал свои диагнозы, когда считал это необходимым, в первую очередь командиру и Герберту, не проявляя в дальнейшем никакой инициативы. Ясное дело, никто не встретил этого компромисса с энтузиазмом, но никто также, включая и духоведческие машины, не нашел лучшего выхода из дилеммы. GOD, компьютер последнего поколения, не был подвержен эмоциям; он был поднятым до уровня величайшей мощи экстрактом рационального действия, без примеси аффектов или инстинкта самосохранения; он не был развитым при помощи электроники человеческим мозгом, не имел никаких черт, которые принято называть личностными, характерологическими, никаких страстей, если не считать страстью стремление к получению максимума информации — но не власти. Первые изобретатели машин, усиливающих мощь не мускулов, но мысли, поддались иллюзии, которая одних притягивала, а других ужасала: они-де вступают на путь такого увеличения разумности в мертвых автоматах, что те сначала уподобятся человеку, а затем, также на человечий манер, превзойдут его. Потребовалось несколько десятков лет, чтобы их последователи убедились, что отцы кибернетики и информатики слишком увлеклись антропоцентрической фикцией: ведь человеческий мозг есть дух в машине, которая не является машиной. Составляя с телом неразрывную систему, мозг одновременно служит ему и им же обслуживается. Если бы кому-то захотелось так очеловечить автомат, чтобы он в психическом отношении ничем не отличался от людей, то успех при всем его совершенстве оказался бы абсурдом. По мере неизбежных доработок и усовершенствовании очередные образцы в действительности станут все более похожи на людей и одновременно сделаются все более бесполезными, от них все меньше можно будет добиться той пользы, какую приносят, к примеру, гига— или терабитовые компьютеры высших поколений. Единственной разницей между человеком, рожденным от отца и матери, и максимально очеловеченной машиной будет только строительный материал — в первом случае живой, а во втором — мертвый. Очеловеченный автомат будет таким же сообразительным, но и таким же ненадежным, ущербным и руководимым в своем интеллекте эмоциональными мотивами, как человек. В качестве виртуозного подражания естественной эволюции, увенчанной антропогенезом, это будет превосходным достижением инженерной мысли и вместе с тем — курьезом, с которым неизвестно, что делать. Это будет выполненная из небиологического сырья великолепная подделка под живое существо типа позвоночных, класса млекопитающих, отряда приматов, живородящего, двуногого, с двуполушарным мозгом, потому что именно путем симметрии в формировании позвоночных пошла эволюция на Земле. Неизвестно, однако, какую выгоду из этого гениального плагиата могло бы извлечь человечество. Как заметил один из историков науки, это напоминало бы ситуацию, в которой удалось бы при колоссальных капиталовложениях и теоретических разработках построить фабрику, вырабатывающую шпинат или артишоки, способные к фотосинтезу, как все растения, и ничем не отличающиеся от настоящего шпината или артишоков, кроме того что они несъедобны. Такой шпинат можно было бы показывать на выставках и похваляться мастерством синтеза, но нельзя было бы съесть, и тем самым весь труд, вложенный в его производство, оказался бы поистине безумной затеей. Первые проектировщики и сторонники «машинного разума» сами, вероятно, не знали, к чему они стремятся и на что надеются. Разве дело в том, чтобы можно было разговаривать с машиной, как с посредственным или даже с очень умным человеком? Это можно сделать, но неужели тогда, когда численность человечества достигла четырнадцати миллиардов, самой срочной потребностью оказалось искусственное производство умственно человекообразных машин? Короче говоря, компьютерный разум все отчетливее расходился с людским, помогал ему, продолжал, дополнял его, содействовал в решении задач, непосильных для человека, и поэтому не имитировал его и не повторял. Пути решительно разошлись.
Машина, запрограммированная так, чтобы никто, включая и ее творца, не мог отличить ее при интеллектуальном контакте от домохозяйки или от профессора международного права, является их имитатором, неотличимым от обычных людей, пока кто-нибудь не попытается жениться на этой женщине и иметь от нее детей, а профессора пригласить на завтрак. Если же ему удастся завести от нее детей, а с профессором съесть continental breakfast [континентальный (французский) завтрак (англ.)], то, следственно, он имеет дело с окончательным стиранием грани между естественным и искусственным — но вот что из того? Можно ли производить искусственные звезды путем сидеральной инженерии, причем абсолютно идентичные космическим? Можно. Непонятно только, зачем понадобилось бы их сотворять. Историки кибернетики признали, что ее праотцам светила надежда разрешить загадку сознания. Конец этой надежде положил успех, достигнутый в середине XXI века, когда компьютер тридцатого поколения, необычайно разговорчивый, интеллигентный и смущающий собеседников своим умственным человекоподобием, спросил их однажды, знают ли они, что такое сознание в том смысле, который обычно придают этому определению, ибо он сам этого не знает. Это был компьютер, способный к самопрограммированию, и, выбравшись из начальных условий, как дитя из пеленок, он настолько развил в себе способность к имитации человека-собеседника, что его никак не удавалось «разоблачить» как машину, которая притворяется человеком, не будучи им. Однако это ни на волосок не приблизило ученых к разгадке тайны сознания, поскольку машина в этом вопросе знала столько же, сколько и люди. Да и как могло быть иначе? Они получили результат действия «самоантропизирующейся» программы, которая знала о сознании то же самое, что и они. Один выдающийся физик, присутствовавший при этой дискуссии, сказал, что машина, которая мыслит так же, как человек, знает о механизме собственного мышления столько же, сколько человек, то есть ничего. Может быть, из ехидства, а может быть, желая подсластить пилюлю, он рассказал разочарованным триумфаторам, что с подобными трудностями столкнулись его коллеги по профессии, когда век назад решили припереть материю к стенке, чтобы она призналась, является ее природа волновой или дискретной. Материя оказалась, увы, коварной: она зловредно запугала результаты экспериментов, в ходе которых выяснилось, что она может быть и такой, и такой, а под перекрестным огнем дальнейших исследований окончательно сбила их с толку, ибо чем больше о ней узнавали, тем меньше это вязалось не только со здравым смыслом, но и с логикой. Наконец они были вынуждены согласиться с ее признаниями: частицы могут быть волнами, волны — частицами; абсолютный вакуум не является абсолютным вакуумом, потому что в нем полно виртуальных частиц, которые делают вид, что их нет; энергия может быть отрицательной, и, таким образом, энергии может быть меньше, чем ничего; мезоны в пределах гейзенберговской неопределенности проделывают обманные трюки, нарушая священные законы сохранения, но так быстро, что никто их на этом Мошенничестве не может поймать. Все дело в том, успокаивал своих собеседников этот выдающийся физик, лауреат Нобелевской премии, что на вопросы о своей «окончательной сущности» мир отказывается давать «окончательные» ответы. И хотя уже можно действовать гравитацией, как дубинкой, никто по-прежнему не знает, «какова сущность» гравитации. Поэтому нет ничего удивительного в том, что машина ведет себя так, будто обладает сознанием, но для того, чтобы выяснить, такое ли оно, как у человека, пришлось бы самому переделываться в эту машину. В науке необходима сдержанность: есть вопросы, которые нельзя ставить ни себе, ни миру, а тот, кто их все-таки ставит, подобен тому, кто недоволен зеркалом, которое повторяет каждое его движение, но не желает ему объяснить, каков волевой источник этих движений. Несмотря на это, мы пользуемся зеркалами, квантовой механикой, сидерологией и компьютерами с немалой для себя пользой.
- Предыдущая
- 63/76
- Следующая
