СЛУЧАЙ В СТОКГОЛЬМЕ
Если отвлечься от некоторых социальных неприятностей, будущее, которое нам сулит технология, представляется вполне радужным. Резкий рост урожайности генетически модифицированных культур, взлет производительности труда благодаря умным машинам, инженерно-конструкторские разработки на молекулярном уровне – все это уже отчасти достигнуто, и уровень комфорта, по крайней мере в развитых странах, обещает стать беспрецедентным. Между прочим, самого понятия «комфорт» до промышленной революции не существовало: сейчас трудно себе представить, с какими мучительными неудобствами приходилось ежедневно мириться нашим недавним предкам.
Но если оставить прошлое в стороне, то и надежды на светлое будущее разделяют далеко не все. Вот мнение скептика:
По мере того как общество и стоящие перед ним проблемы будут становиться все более сложными, а машины – все более разумными, люди станут позволять машинам принимать все больше решений за себя… В конце концов будет достигнута фаза, когда решения, необходимые для поддержания системы, будут настолько сложными, что люди не смогут разумно их принимать. На этой стадии машины фактически обретут контроль…
С другой стороны, возможно, что люди сохранят контроль над машинами. В этом случае средний человек может контролировать некоторые свои частные машины, такие как автомобиль или персональный компьютер, но контроль над большими системами машин будет в руках крохотной элиты… Благодаря развитой технологии элита будет иметь более широкий контроль над массами, а поскольку человеческий труд больше не будет нужен, массы станут лишними, просто бесполезной нагрузкой на систему. Если такая элита беспощадна, она может просто принять решение об истреблении человечества. Если же она гуманна, она может прибегнуть к пропаганде или другим психологическим и биологическим методам для сокращения темпов рождаемости до тех пор, пока основная масса человечества не исчезнет, освободив мир для элиты.
Автор этого мрачного пророчества – Теодор Качински, один из самых известных террористов столетия, а извлечено оно из трактата, который он шантажом заставил опубликовать в ведущих американских газетах. Освежим память: Качински, после многолетней охоты захваченный ФБР и отбывающий сейчас пожизненный срок заключения, посылал почтовые бомбы ведущим ученым США – некоторые погибли, другие были изувечены. Качински, как явствует из приведенного отрывка, пытался спасти мир от науки.
Однако я взял этот отрывок из вторых рук – из статьи Билла Джоя в журнале Wired, главном органе энтузиастов информационных технологий. Билл Джой, который цитирует эти строки со смешанным чувством отвращения и понимания, – представитель именно того класса людей, с которым Качински вел войну. Он – ученый, вернее, гениальный инженер, один из реактивных двигателей прогресса, заведующий научной частью американской компьютерной компании Sun Microsystems. Его статья называется «Почему будущее обойдется без нас». Ее содержание можно уместить в одну эффектную фразу: если мы не примем исключительных по своей радикальности мер, человеческая история завершится через каких-нибудь полстолетия.
Скажите на милость – и это вдобавок к прохудившемуся сливному бачку и непомерным налогам! Журнал Wired, как я уже упомянул, обслуживает энтузиастов, и поэтому, наряду с вполне разумными материалами, в нем порой мелькают и плоды перегретой фантазии. Но репутация Билла Джоя и факты, на которые он ссылается, приковали не только мое внимание.
По словам автора, примерно через 30 лет компьютерные процессоры сравняются в объеме и скорости с человеческим мозгом. Многие ученые, хотя далеко не все, полагают, что на практике это будет означать появление искусственного интеллекта, соперника нашему собственному. Отсюда – предсказания вроде тех, какими пугает нас Качински.
Кроме того, роботика, как именуют науку о роботах, допускает возможность совершенствования нашей собственной физиологии с помощью компьютерных усилителей и имплантатов. Самые радикальные ученые полагают, что психику человека можно будет просто загружать в машину, как некую компьютерную программу, и таким образом бесконечно продлевать собственную жизнь и расширять возможности.
Иными словами, либо роботы, опираясь на прогресс, захватят над нами власть и ликвидируют нас за ненадобностью, либо мы сами превратимся в этих роботов.
Далее Билл Джой обращается к генной инженерии. Ему вспоминается двадцатилетней давности научно-фантастический роман Фрэнка Херберта «Белая чума» о молекулярном биологе, который, затаив обиду на человечество, создал возбудителя смертельной болезни, поражающей отдельные сегменты населения. Этот некогда фантастический сценарий очень скоро может стать реальностью: одному человеку, при наличии квалификации и скромной лаборатории, будет под силу превзойти все многолетние усилия иракского диктатора Саддама Хусейна.
Еще один предмет опасений автора статьи – так называемая «нанотехнология», то есть миниатюризация технологического оборудования до молекулярного и субмолекулярного уровня. Эти крохотные механизмы, так называемые автоматы Ноймана, наделенные способностью к самовоспроизводству, могут появиться уже через двадцать лет, и их потенциальные возможности практически безграничны – лечение злокачественных опухолей, очистка окружающей среды, небывалое усиление мощности компьютеров. Но среди теоретиков нанотехнологии уже бытует мрачный термин «серая слизь» – результат возможного уничтожения всей биосферы этими микромеханизмами, если они выйдут из-под контроля. Достаточно вспомнить, какие трудности возникают у нас уже сейчас с вирусами и микробами.
Эти технологии XXI столетия, генетика, нанотехнология и роботика, настолько могущественны, что могут привести к совершенно новым типам катастроф и злоупотреблений. Опаснее всего то, что, впервые за всю историю, эти катастрофы и злоупотребления становятся вполне по плечу частным лицам и небольшим группам. Они не будут нуждаться в крупных производственных мощностях или редких материалах. Одно лишь знание даст возможность их использовать.
Таким образом, возникает возможность не просто оружия массового уничтожения, а знаний массового уничтожения…
Думаю, можно без преувеличения сказать, что мы живем накануне нового этапа совершенствования великого зла – зла, чьи возможности простираются далеко за пределы мощи государств-наций с их оружием массового уничтожения, наделяя поразительной и жуткой властью индивидуальных экстремистов.
Картину, нарисованную Биллом Джоем, я бы назвал безрадостной, и поэтому особый интерес представляют методы, которые он предлагает для обуздания грозящего зла. Эти методы на удивление просты и бесхитростны, они не требуют ни больших научных способностей, ни глубокого образования. Джой рекомендует, ни мало ни много, запретить направления научного исследования, чреватые потенциальной опасностью, установить над такими областями исследования строжайший международный контроль и резко ограничить сферу, которую мы в современном мире привыкли считать частной жизнью. В качестве компенсации за утрату этой частной жизни он рекомендует нам предаться изучению недавно опубликованной книги далай-ламы «Этика для нового тысячелетия».
Говоря без обиняков, Билл Джой предлагает нам принять программу террориста Теодора Качински. Сам Качински, коротающий остаток жизни в федеральной тюрьме, наверняка с удовлетворением прочитал этот черновик капитуляции и теперь вряд ли станет возражать даже против далай-ламы.
В социальной психологии с недавних пор существует термин «стокгольмский синдром», возникший в результате террористического инцидента в шведской столице в начале 70-х годов. Два рецидивиста захватили в банке четырех заложников, мужчину и трех женщин, и в течение шести дней угрожали их жизни, однако время от времени давали им кое-какие поблажки. В результате жертвы стали оказывать сопротивление попыткам правительства освободить их и встали на защиту своих захватчиков. Впоследствии две женщины из числа заложников обручились с бывшими похитителями.
Психологический механизм такого поведения понятен – в условиях изоляции и полной зависимости от авторитета человек начинает перед этим авторитетом заискивать и пытается толковать его действия в свою пользу. Это, если хотите, частный вариант всенародной любви к «сильной руке». Такая странная привязанность жертв к террористам отмечена с тех пор неоднократно, в том числе в ходе захвата отрядом Басаева больницы в Буденновске.
Труднее понять психологический механизм поведения Билла Джоя, но в нем, тем не менее, отчетливо различимы именно признаки «стокгольмского синдрома». По его собственным словам, в период террористической активности Качински он постоянно ожидал, что может оказаться его следующей жертвой. Его близкий друг, ученый-компьютерщик и философ Дэвид Гелернтер, стал одной из последний мишеней террориста и был искалечен присланной по почте бомбой. И вот теперь, окинув взглядом научные горизонты, Джой неожиданно приходит к выводу, что его заклятый враг все-таки прав.
Меня, однако, эта правота почему-то не убеждает. Возникает впечатление, что Джой не слишком обдумывал свои методы спасения человечества, а просто взял и предложил те, которые лежали сверху, – вернее, те, которые ему подсунул Качински. Многим эти методы могут показаться примитивными и свирепыми, а на мой взгляд, они даже страшнее, чем потенциальная опасность, от которой нас хотят оградить.
Как показал опыт полувековой попытки контроля над вооружениями, суверенные правительства можно уговорить пойти лишь на те уступки, на которые они сами согласятся. Представить себе, что все государства мира послушно откажутся от чудодейственных технологий, обещающих резкие экономические и военные преимущества над более покладистыми соседями, – значит забыть практически все, что мы знаем о человечестве и его истории. Но даже если они на это согласятся, найдутся, как находились всегда, такие, которые не сдержат своего слова и обведут вокруг пальца любую инспекцию. Мы рискуем, таким образом, оказаться в мире, где какая-нибудь Северная Корея может стать монополистом глобальной гибели и диктовать перепуганному миру любые условия.
Единственный вариант – это установление мирового правительства. На всеобщее согласие здесь опять же надеяться трудно: надо полагать, что государство, первым заполучившее одну из смертоносных технологий Джоя, продиктует всем остальным свою беспрекословную волю и само станет мировым правительством. Представим себе на минуту, что это уже произошло и мы с вами живем в таком всемирном государстве. Знания массового уничтожения, от которых оно считает своим долгом нас уберечь, дают возможность изготовлять оружие апокалиптической силы в самых скромных условиях и при самых скромных возможностях. Поэтому дозировка таких знаний будет поистине аптекарской: каждому отпускать ровно столько, сколько ему прописано, и без права передачи в третьи руки. Кроме того, необходимо пристально следить за распределением сырья и товаров, иначе какой-нибудь диссидент соорудит-таки автоматы Ноймана из алюминиевой пуговицы и стирального порошка. Иными словами, Билл Джой зовет нас в государство, где контроль будет не тоталитарным, а попросту тотальным: над информацией, над потреблением, над личными контактами, над содержимым карманов и над мельчайшими помыслами. Государство для этого будет нуждаться в самой изощренной технологии, но уж себе-то оно ее всегда позволит. А в свободном доступе можно оставить разве что книгу далай-ламы – хотя, впрочем, и это будет рискованно, ибо одно знание ведет к другому, а там недалеко и до «серой слизи».
Для такого государства, если его себе вообразить, каждый лишний гражданин будет источником бесконечных проблем.
Радикальный способ их решения, избавляющий от ненужной головной боли, давно подсказан одним из ведущих социальных инженеров нашего столетия: нет человека – нет проблемы.
Билл Джой – патентованный научный гений, и я, не будучи таковым ни в коей мере, говорю об этом без иронии. Но куда больше, чем мрачные технологические перспективы, которые он рисует в своей статье, меня пугает тот факт, что на мостике корабля нашего прогресса стоят люди, подобные Джою, глупость которых может однажды вооружиться бесконечной властью, какую предоставляет наука. Как тут не вспомнить о социальных теоретиках, поносящих демократию и предлагающих заменить ее властью технократов: мы только что заглянули в такое идеальное общество, милости просим!
Тем не менее, как ни измывайся над автором, проблемы, поднятые в его статье, вполне реальны, и вопрос, как название плохого романа, уже не изъять из памяти: что делать? Прежде всего надо сделать глубокий вдох и выдох и призвать на помощь здравый смысл.
Технологии, о которых пишет Билл Джой, могут быть неизбежны, но связанные с ними социальные проблемы, которые он предвидит, никогда не возникнут. Вместо них возникнут другие, хотя и не обязательно менее сложные. Джой угодил в ловушку футурологии, одной из самых бесполезных псевдонаук, придуманных для решения вечной задачи, квадратуры круга: знал бы, где упаду, соломки бы подстелил. Любая футурология принципиально несостоятельна в силу простого принципа: мы всегда проецируем в будущее лишь некоторые из бесконечного числа факторов и никогда не в силах угадать, какой из упущенных имеет шанс оказаться решающим. Двадцать лет назад тысячи фантастических романов рисовали нам самое невероятное будущее, но ни в одном из них нет упоминания об Интернете, без которого жизнь сегодня практически немыслима. А вот автоматов с пищевыми таблетками, которые упоминались везде, все нет как нет, и никто по ним не скучает. Билл Джой наверняка знает больше меня о теории хаоса, которая делает футурологию принципиально невозможной, но почему-то не может соединить две посылки в силлогизм.
Забота о будущем всегда была уделом тоталитарных обществ, и в угоду этому воображаемому будущему у людей отнимали их скромное настоящее. Будущее, в которое приглашает Джой, многие из нас уже наблюдали воочию.
Homo sapiens – необдуманное название нашего биологического вида, оно подразумевает, что все остальные – дураки. Я бы назвал его homo technologicus – человек технологический, по главному принципу, отличающему нас от других обитателей планеты. Человек никогда не существовал без технологии, одной из первых стала одежда, когда прародители обзавелись фиговыми листами, и с тех пор нас постоянно мучат ночные кошмары, сны, где мы являемся в благородное общество без штанов. Тем, кто винит какого-нибудь Фрейда, рекомендую поставить простой эксперимент: явиться на службу с голым задом. Но считать, что человек подпал под иго технологии, – логическая бессмыслица, как если бы тот факт, что мы не можем обойтись без рук, подсказал нам мысль об их ампутации.
Билл Джой уговаривает нас замуровать коридор в будущее, отказаться от исследований, грозящих тотальной гибелью. Но именно технология – наше главное средство против гибели частной и ежедневной, а в конечном счете и против тотальной. Ведь еще раньше, чем неизбежно погаснет солнце, через считаные годы, нас может стереть с лица земли шальной астероид, как уже случилось когда-то с пресмыкающимися братьями, и даже самое прилежное чтение трудов далай-ламы может оказаться слишком слабой мерой предосторожности. Впрочем, у динозавров не было и этого средства.
Мне кажется, что символизм «стокгольмского синдрома» куда шире, чем думал даже я сам, когда ознакомился с трактатом Джоя. В конце концов, кроме звучного термина ничего нового в этом способе поведения нет. Ситуация полной и беспомощной зависимости от тотального авторитета и его воображаемой доброты повторялась на земле миллионы раз, с тех самых пор, как люди обзавелись то ли фиговыми листьями, то ли оленьими шкурами. Традиционно такая ситуация именовалась рабством, а диктуемый ею способ поведения известен как рабский инстинкт. О нем написаны тысячи страниц, как античными философами, так и классиками-беллетристами. Поведение освобожденного раба часто обманывает благородные надежды освободителя: вчерашний раб продолжает привычно льнуть к вчерашнему хозяину, потому что, хотя его больше никто не высечет, никто и не окажет ему милость.
Рабство отличается от свободы своей предсказуемостью: завтра будет как вчера, и бояться неведомого не приходит в голову.
Свободному человеку бояться приходится постоянно, но он выбирает этот страх сам: будущее есть только у него, и на пути в это будущее ему не нужны поводыри.