Академик В. М. Глушков – пионер кибернетики - Деркач В.П - Страница 72
- Предыдущая
- 72/136
- Следующая
В. М. Разве дело только в “сбоях” и “поломках”? А возьмите другое: система по вашей программе работает, но из гущи всяких и всяческих взаимосвязей, из побочных сцеплений может вылезти такое...
В. Г. Эффект “обезьяньей лапы”?
В. М. Как?
В. Г. Есть такой рассказ у английского писателя Джэкобса. Высушенная обезьянья лапа волшебным образом исполняла желания. Человек захотел получить двести фунтов – пожалуйста: принесли страховку за сына, погибшего в катастрофе.
В. М. Точно. Исполнение желания, но каким путем! Абсурд! Наконец, говорят еще о такой угрозе, как “бунт роботов”. Ведь если искусственный интеллект во всем подобен живому, значит, наделен свойством саморазвития, и кто знает, куда оно направится. Что, если против людей? Вдруг ваш искусственный ополчится на естественный?
В. Г. В сущности, разница невелика; одни говорят о слепых, так сказать, возмущениях, другие склонны приписывать их “злой воле” машин. Могу высказать на этот счет свое мнение. Но придется сделать отступление, два слова о кибернетике в целом.
Кибернетику определяют порой как науку о наиболее общих законах управления. Мое мнение – я писал об этом в статьях для украинской, британской энциклопедий – несколько иное: наука об общих законах преобразования информации в сложных системах. Математическое доказательство, например, не управление, однако и здесь действуют общие законы преобразования информации, законы кибернетики. Но это – впрочем. Гораздо важнее другое. Любую самостоятельную науку отличает предмет и метод. Если предмет кибернетики, допустим, управление и связь, то в чем ее специфический метод?.. Не ясно. Может, из-за того, что на эту сторону в свое время не обратили достаточно внимания, кибернетика после Винера в США стала чахнуть, вырождаться в так называемую науку о компьютерах. А между тем есть у кибернетики свой метод, делающий ее Наукой с большой буквы. Причем это новый метод познания, и замечательный. В нем изюминка, в нем душа кибернетики, а не в том, что она занимается только управлением.
В. М. Узнаю вашу горячую любовь! Только... “методов познания”, как нас учили, раз-два и обчелся. Экспериментально-наблюдательный. Абстрактно-логический. Все. Пока что наука держалась на этих двух опорах. Я ошибаюсь?
В. Г. Кибернетика предлагает третью: моделирование. Вернее сказать, это метод, совмещающий черты двух фундаментальных. По существу, он экспериментальный, но эксперименты проводятся не над реальным объектом, а над абстрактной моделью. В этом соль. Вспомним то, о чем вы упомянули, – перестройку климата. Экспериментировать в натуре? Рискованно, да и когда еще откроются отдаленные последствия! Предусмотреть все абстрактно, “в уме”? Невозможно. Но почему не поступить иначе: записать проект во всех подробностях на машинном языке и “прокатать” его в модели. Скоростные ЭВМ за короткое время выявят, “что будет, если...” Причем без малейшего вмешательства в реальные процессы.
Вот вам гарантия от “обезьяньей лапы”, будь то случайности или “бунт роботов”. Понимаете?
В. М. Смутно.
В. Г. Что такое саморазвитие искусственного интеллекта? Это прежде всего автоматическое проектирование, когда кибернетические системы меньшей сложности способны создавать системы большей сложности. Но – очень важное “но”! – проект они будут осуществлять сначала в модели, а не в натуре. Давайте рассуждать реально. Существующие сегодня электронные системы для людей безопасны, не так ли? Но с их помощью мы уже можем проверить на моделях системы следующего уровня сложности – допустим условно, новый класс разумных роботов. Проверяем. Все в порядке? Тогда строим этот класс роботов. И так далее: опять моделируем, проверяем – строим; моделируем, проверяем... Процессы саморазвития машин, которым мы намерены дать жизнь, тоже будут предварительно моделироваться, и модели покажут, в какую сторону направится будущее саморазвитие. Покажут заранее.
В. М. Сумасшедший вопрос: а может статься, что в один прекрасный день очередная модель в самом деле поведет себя зловеще, агрессивно?
В. Г. Если без мистики? Вполне допускаю.
В. М. И что тогда? Стоп прогресс, доигрались?
В. Г. Зачем же “стоп” весь прогресс? Прекратим опасную линию развития, и только.
В. М. Да как прекратим, простите мою вспышку, как прекратим?! Ну, смотрите: вы человек и я человек. Можете вы прекратить какие-то мои мысли? Отнюдь. А как вы “прекратите” мысли искусственного интеллекта, когда он – ваши слова! – во всем подобен настоящему?.. Минуточку, кажется, я понял... Значит, так: мысль она и есть мысль, тоже своего рода “модель”, которая может стать делом, а может и не стать, может воплотиться в жизни, а может остаться невоплощенной. Это, действительно, разные вещи. Чужие мысли и сейчас никому не подвластны, хотя поступками людей в массе общество всегда управляет. Регулироваться, значит, будут не мысли, а действия искусственного интеллекта, так? Тогда мне одно неясно. Я не понимаю, каким образом, в силу чего естественный разум сохранит за собой “верховную власть” над равным ему искусственным? Объясните, пожалуйста.
Бронзовый рубильник и гарантии
В. Г. В принципе я связываю будущее не только с созданием искусственного интеллекта, но и объединенного интеллекта сложных кибернетических систем, которые возьмут на себя управление производством, развитие научных знаний, космические эксперименты и так далее и тому подобное. Спрашивается: а что тогда делать человеку? На первый взгляд кажется, что человек остается без роли... Но это глубокое заблуждение. Без человека не обойтись при любом уровне развития автоматизированных систем и искусственного интеллекта. Только он может стоять в начале и в конце любого информационного процесса. Только от него могут исходить задания системам, лишь он способен определять критерии и оценивать результаты. Тут человека невозможно заменить ничем.
В. М. Почему? Это просто ваше “верую” или существуют доказательства?
В. Г. Потому что в противном случае требовалось бы смоделировать одну совершенно невозможную вещь...
В. М. Значит, есть все же вещи, которые не поддаются моделированию? В первой беседе вы как будто утверждали, что таковых нет...
В. Г. Теперь добавлю – за одним исключением. Потребовалась бы система машин, способная предугадывать развитие человеческих взглядов и вкусов, пожеланий и оценок. И вот это принципиально исключается.
Доказательства? В теории автоматов решена теорема, перекликающаяся с принципом неопределенности Гейзенберга. Она гласит: не может быть двух таких сложных систем, которые в дальнейшем станут развиваться совершенно
- Предыдущая
- 72/136
- Следующая
