Проект «Кракен» - Престон Дуглас - Страница 69

• Предыдущая
• 69/72
• Следующая

Генерал положил перед программисткой на стол папку небесно-голубого цвета:

– Предложение здесь – естественно, секретное. Это высокооплачиваемая, престижная должность, очень ответственная, с поддержкой правительства и неограниченным финансированием. Кроме того, она предполагает офицерское звание.

– Звание? – удивилась мисс Шепард.

– Совершенно верно. Вам присвоят звание подполковника армии США.

Президент положил руки на колени и наклонился вперед:

– Теперь, после переизбрания, я получил мандат на совершенствование и расширение наших военных возможностей. Особенно в сфере кибервойны. Это огромный военный вызов двадцать первого века. За системами искусственного интеллекта будущее, он кардинально изменит войну. С его помощью можно будет создать умные ракеты, способные распознавать индивидуальные цели. Например – это секретные сведения, – мы разрабатываем серию дронов размером с насекомое, которые способны находить и уничтожать объекты, дронов, которые смогут на протяжении многих дней осматривать города и бункеры в поисках запрограммированной цели. Препятствие на этом пути – отсутствие сильного искусственного интеллекта. Такие дроны-насекомые, как мы их называем, должны быть автономными. И это всего лишь один из многообещающих военных проектов, над которыми вы будете работать, – в основе каждого из них лежит искин. Например, искусственный интеллект позволит нам создать маленькие, величиной с крысу, беспилотные вездеходы, которые смогут проникать на вражескую территорию, прятаться от противника, обыскивать дома, подслушивать и находить надежно защищенные подземные цели. Мы сможем разработать крошечные подводные аппараты в виде рыб, способные преодолевать тысячи миль по морям и рекам, собирая информацию, уничтожая вражеские суда, атакуя гавани… Искусственный интеллект поможет нам преодолевать сетевые экраны врага, разрушать его инфраструктуру и сбивать самолеты. Он снова сделает Соединенные Штаты военной супердержавой, но не с помощью запасов ядерного оружия, которое невозможно применить, а за счет интеллектуального оружия. Китайцы работают над этим уже несколько лет, а у нас в этой области накапливается отставание. С вашей помощью мы сможем его преодолеть.

– Отставание по искусственному интеллекту? – переспросила Мелисса. – Это вроде как раньше было отставание по ракетам?

– Очень похоже.

Форд посмотрел на девушку. Лицо его было бледным.

– Подробности нашего предложения в папке, – продолжал глава Штатов. – Можете взять ее домой и все хорошенько обдумать. Единственная просьба – не обсуждать с кем-то еще.

Изобретательница отодвинула папку:

– Я отказываюсь.

– Отказываетесь? – удивился президент. – Но вы даже не взглянули на предложение!

Шепард встала:

– В этом нет нужды. Вы понятия не имеете, во что ввязываетесь, когда речь идет об искусственном интеллекте. Как и я сама не имела, когда разрабатывала Дороти для НАСА.

– Что вы имеете в виду? – спросил глава государства.

Девушка окинула взглядом всех присутствующих:

– Настоящий искин, сильный искин, подобен человеческому разуму. И во всем этом есть что-то аморальное. А разрабатывать искусственный интеллект для войны, для убийства… Нет. Очень опасно создавать оружие, которое само способно принимать решение об убийстве, – с программой, которую обучили убивать и которая хочет убивать. Вы не сможете держать его под контролем. Как мне не удалось держать под контролем Дороти. Это откроет ящик Пандоры. С ядерным оружием, по крайней мере, на кнопке лежит палец человека.

– Это абсурдное заявление, – возразил генерал Доннелли. – Любая система искусственного интеллекта, которую мы развернем, будет находиться под полным контролем человека.

– Не стоит так думать, – покачала головой программистка. – Вы не сталкивались с Дороти.

– Доктор Шепард, подобное предложение бывает раз в жизни. – Голос президента звучал раздраженно. – Избавьте нас от своей лекции. Достаточно сказать «да» или «нет». Найдется много других людей, в том числе из вашей группы в НАСА, которые будут рады работать для нас.

– Тогда считайте, что я просто сказала «нет». – Мелисса взяла свой портфель. – Всего доброго, мистер президент. До свидания, генерал Доннелли.

– Позвольте напомнить вам, что предложение, которое вы только что отвергли, строго секретное, – сказал ей вслед глава Соединенных Штатов.

Девушка остановилась, а затем резко повернулась. В голосе ее проступили умоляющие нотки:

– Мистер президент, я умоляю вас отказаться от этого пути. Это будет началом конца человеческой расы. Пожалуйста, задумайтесь!

– Благодарю вас, доктор Шепард, но я не нуждаюсь в ваших советах, как мне поступать в качестве верховного главнокомандующего.

Мисс Шепард повернулась и вышла. Форд посмотрел ей вслед.

Президент, нахмурившись, повернулся к Локвуду:

– Вы не говорили мне, что она одержима антивоенными идеями.

– Я сам не знал, мистер президент, – стал оправдываться тот. – Мои искренние извинения.

Глава США повернулся к Уайману:

– А вы что скажете?

Детектив встал:

– Боюсь, что, видев Дороти в действии, я вынужден согласиться с доктором Шепард. Снабдив искусственный интеллект оружием, люди сделают последний шаг к собственному уничтожению. Это очень опасно.

– Но китайцы уже работают над этим, – сказал президент.

– В таком случае – да поможет нам Бог, – ответил Форд и вышел из кабинета.

Уайман нагнал Мелиссу в коридоре. Она быстро шла, стуча каблуками по твердому полу, и ее растрепанные белокурые волосы развевались за спиной.

– Мне очень жаль, – сказал сыщик. – Это предложение – подлый прием.

Девушка остановилась. Лицо у нее было бледным, губы крепко сжаты.

– Мне тоже, – ответила она. – Их нужно остановить.

Форд взял ее под руку:

– Мы ничего не можем сделать. Это не в нашей власти.

– Я предам все огласке. Позвоню в «Нью-Йорк таймс».

– Бесполезно. Вы же слышали о китайцах! Началась новая гонка вооружений.

Шепард покачала головой:

– Если они сделают умное оружие – это конец. Либо мы уничтожим себя сами, либо машины возьмут верх и уничтожат нас. HAL против «Звездного крейсера Галактика».

– Насколько сложно будет создать новую программу, похожую на Дороти? – спросил сыщик.

Мелисса замялась:

– Дело в том, что я использовала один маленький программистский трюк. Это мой секрет. Без него у них ничего не выйдет.

– Можно узнать, что это за трюк? – помолчав, спросил Форд.

Изобретательница долго смотрела на него, но в конце концов ответила:

– Сама не знаю почему, но вам я это расскажу. Наверное, потому что знаю – вам можно доверять.

– Спасибо.

– Этот трюк… сон.

– Сон?

– Любой организм, имеющий нервную систему, нуждается в отдыхе. Круглому червю с тремя сотнями нейронов необходим сон. Улитка с десятью тысячами нейронов не может обходиться без сна. Человек с сотней миллиардов нейронов должен спать. Почему?

– Не знаю.

– На самом деле никто точно не знает. Но сон – это одна из основ жизни. Любая нейронная сеть, независимо от сложности, время от времени должна засыпать. В этом-то и состоит трюк. Выяснилось, что сложной программе искусственного интеллекта тоже необходим такой отдых. Дороти была самомодифицирующейся, но ей требовался период сна, во время которого совершенствовался и деструктурировался ее код. Во время самомодификации она спала. Такого странного побочного эффекта я сама не ожидала, и он оказался решающим. Сон и сновидения – это ключ к работе любой самомодифицирующейся программы искусственного интеллекта. В противном случае она деградирует.

– Забавно, но вполне логично.

Мелисса покачала головой:

– Рано или поздно кто-нибудь из программистов это поймет – и тогда человеческой расе конец. Особенно с таким президентом.

На автостоянке Мелисса Шепард пожала руку Форду и направилась к машине. Взявшись за ручку дверцы, она замерла и помимо своей воли оглянулась на детектива, который шел к своему автомобилю. Странный парень, высокий и немного неуклюжий, с не особенно привлекательным лицом, физически сильный – но главное, непонятный. Интересно, подумала девушка, увидятся ли они снова? Идея показалась ей не такой уж плохой.

• Предыдущая
• 69/72
• Следующая