Глава 2
Авария в пустыне
Осенним утром 2005 г. по пустынной дороге недалеко от города Флоренс, штат Аризона, поднимая облако пыли, двигался автомобиль Volkswagen Touareg с четырьмя пассажирами. Он ехал со скоростью 30–40 км/ч, и случайный зритель не увидел бы ничего необычного в его движении. Дорога была исключительно неровной, она шла то вверх, то вниз по усеянной кактусами и низкорослой пустынной растительностью местности. Автомобиль нещадно болтало, и шлемы автогонщиков на головах всех четырех пассажиров были совсем не лишними. Touareg украшали наклейки участника гонок по бездорожью Baja 1000. Спереди над крышей автомобиля возвышались пять непонятных датчиков, направленных на дорогу. Было там и другое оборудование, включая несколько радаров. За ветровым стеклом виднелась видеокамера. А сзади на автомобиле торчала длиннющая штыревая антенна, которая вместе с датчиками придавала ему постапокалиптический вид, напоминая фильм про Безумного Макса.
Датчики на крыше были в действительности хитроумными штучками, каждый из них быстро сканировал инфракрасным лучом местность впереди. Невидимые глазу лучи отражались от гравийного покрытия дороги и всего, что встречалось в пустыне. Возвращаясь к датчикам, излучение несло информацию о непрерывно меняющемся окружающем ландшафте с точностью до сантиметра. Даже небольшие камни на дороге за сотню метров впереди не могли скрыться от пристального взгляда датчиков, известных как лидары.
Внутри Touareg был еще удивительнее. Водитель, специалист по робототехнике и искусственному интеллекту Себастьян Трун, не управлял машиной, а жестикулировал, разговаривая с другими пассажирами. Его взгляд редко падал на дорогу, а главное, руки не прикасались к рулевому колесу, которое поворачивалось само, как будто его крутил кто-то невидимый.
Позади Труна сидел другой компьютерщик, Майк Монтемерло, который тоже не управлял автомобилем. Его глаза были прикованы к экрану ноутбука, куда выводились данные с лазеров, радаров и камер, дававшие вид сверху на мир вокруг автомобиля, где препятствия выглядели как разноцветные точки на экране радара. Это непрерывно меняющееся облако цветных точек и было картиной лежащей впереди дороги в пустыне.
Автомобилем, который получил имя Stanley, управлял комплекс программ в пяти установленных в багажнике компьютерах. Трун был создателем роботизированной навигационной технологии, известной как SLAM (simultaneous localization and mapping), что означает «одновременная навигация и построение карты». Она стала стандартным инструментом для роботов при прокладке пути на неизвестной местности. По мере того как автомобиль катился по изрезанной колеями, обрамленной кактусами и усыпанной валунами дороге, руль поворачивался то в одну, то в другую сторону. Справа от Труна между передними сиденьями находилась большая красная кнопка аварийного останова, позволяющая отключить автопилот в экстренном случае. После десятка километров езда в беспилотном автомобиле стала наскучивать. Stanley двигался не по магистрали, и на фоне проплывающего мимо, как во время воскресной загородной прогулки, пустынного пейзажа шлемы автогонщиков стали казаться лишними.
Автомобиль готовили к участию во втором проводимом Пентагоном соревновании Grand Challenge – амбициозном состязании беспилотных автомобилей, целью которого было ускорение развития технологий для будущих роботизированных военных автомобилей. В начале XXI в. конгресс дал военным США зеленый свет на разработку беспилотных транспортных средств. Конгресс даже поставил перед Пентагоном конкретную цель: сделать к 2015 г. треть транспортных средств армии способной перемещаться без людей. Директива не определяла четко, должны ли такие транспортные средства быть беспилотными или управляемыми дистанционно. В любом случае идея заключалась в сбережении и денег, и жизней солдат. К 2004 г., однако, мало что изменилось, и Тони Тетер, в то время директор DARPA, предложил организовать конкурс, чтобы привлечь внимание программистов, профессоров учебных заведений и стремящихся к известности компаний к инновациям, где военные не добились успеха. Тетер был олицетворением военно-промышленного комплекса, а сам конкурс – вынужденным признанием того, что мир традиционных исполнителей оборонных заказов не способен выполнить эту работу. Открыв дверь для разношерстных групп любителей, Тетер рисковал взорвать засекреченный мир, где доминировали «бандиты с кольцевой» – компании, расположенные вокруг Вашингтона и занимающиеся выполнением госзаказов.
Первые соревнования Grand Challenge, проведенные в 2004 г., были неудачными – автомобили опрокидывались, ездили кругами и позорно сбивали ограждения. Даже самый успешный участник застрял в десятке километров от стартовой линии в 200-километровой гонке – одно колесо автомобиля беспомощно вращалось, а сам он балансировал на краю дороги. Когда пыль, поднятая участниками, осела, репортер, облетавший район на легком самолете, увидел ярко раскрашенные автомобили, рассеянные по пустыне. В то время казалось очевидным, что беспилотные автомобили – дело далекого будущего, и Тетера критиковали за организацию пропагандистского трюка.
Однако чуть более чем через год Трун сидел за рулем робота для соревнований второго поколения. Казалось, что будущее наступило раньше, чем ожидалось. Увы, хватило всего 20 км, чтобы убедиться в преждевременности технического энтузиазма. Stanley преодолел подъем и попал во впадину. Потом, когда нос автомобиля задрался вверх, система лазерного наведения обнаружила нависающую ветку дерева. В тот же момент автомобиль резко взял влево, затем вправо и съехал с дороги. Все произошло быстрее, чем Трун смог дотянуться до большой красной аварийной кнопки и нажать ее.
К счастью, автомобиль совершил довольно мягкую посадку. Touareg врезался в огромный терновый куст возле дороги. Он смягчил удар, и автомобиль остановился так, что даже подушки безопасности не сработали. Когда пассажиры осмотрели дорогу на месте аварии, стало очевидно, что все могло закончиться гораздо хуже. Куст обрамляли две впечатляющие кучи валунов, но VW избежал столкновения с ними.
Пассажиры выбрались из машины, а Трун залез на крышу, чтобы выставить заново датчики, расположение которых сбилось из-за аварии. Затем все вновь забрались в Stanley, и Монтемерло удалил виновный в аварии блок программного кода, который должен был сделать путешествие более комфортным для пассажиров. Трун включил автопилот, и машина вновь направилась вглубь Аризонской пустыни. Были и другие происшествия. Контроллер системы искусственного интеллекта не учитывал последствия попадания в илистые лужи, и позже в тот же день Stanley застрял в одной из них посреди дороги. К счастью, неподалеку находилось несколько обычных автомобилей сопровождения, и, когда колеса беспилотника начали беспомощно вращаться, команда помощников вытолкнула его из вязкой жижи.
Но это были мелочи для команды Труна (нескольких преподавателей Стэнфордского университета, инженеров компании VW и студентов-программистов), которая состязалась более чем с десятком других команд за приз в несколько миллионов долларов. Этот день был самым неудачным, потом дела резко пошли в гору. Как ни крути, а соревнования DARPA оказались водоразделом между миром, где роботы рассматривались как игрушки или диковинки для исследователей, и миром, в котором люди начали допускать, что роботы могут действовать самостоятельно.
Тест-драйв Stanley был предвестником будущей технологии. В произведениях писателей-фантастов уже не одно десятилетие фигурирует машинный интеллект, но, когда технологии начали реально появляться, они показались разочаровывающими. В конце 1980-х гг. любой попавший на Центральный вокзал Нью-Йорка видел почти у трети утренних пассажиров наушники Sony Walkman. Сегодня, конечно, Walkman уступили место белым наушниками iPhone компании Apple, и некоторые считают, что технология «от-кутюр» неизбежно приведет к будущей версии Google Glass, первой попытке разработчика поисковой машины расширить реальность, или, может быть, к еще более амбициозным или создающим эффект присутствия системам. Подобно лягушке в кастрюле на плите, не замечающей повышения температуры, мы не видим изменений, вызываемых быстрым ростом возможностей и распространением информационных технологий.
Walkman, iPhone и Google Glass – все это прообразы мира, где граница между человеком и машиной начинает размываться. В книге Уильяма Гибсона «Нейромант» (Neuromancer), научно-фантастическом романе, популяризирующим идею киберпространства, нарисована картина новой кибернетической территории из компьютеров и сетей. В ней описано будущее, в котором компьютеры не отдельные ящики, а единая плотная ткань, которая все больше окутывает людей, «расширяя» их чувства.
От утренних пассажиров с наушниками Sony Walkman и пользователей iPhone, погрузившихся в персональное звуковое пространство, не так уж далеко до носящих Google Glass городских хипстеров, уткнувшихся в отображающие окружающий мир крохотные дисплеи. Они пока что не «включены в сеть», как предсказывал Гибсон, однако ясно, что компьютерные и коммуникационные технологии быстро движутся в этом направлении.
Гибсон одним из первых предложил научно-фантастический взгляд на то, что было названо «усилением интеллекта». Он описывал компьютеризованные элементы, названные им «майкрософтами» с маленькой буквы «м», которые можно вставлять в основание черепа человека, чтобы мгновенно добавлять ему какое-либо умение, например новый язык. В то время, несколько десятилетий назад, эта технология была всего лишь научной фантастикой. Сегодня его представление о киборгах уже не кажется таким экстравагантным.
В 2013 г. президент Обама раскрыл информацию об инициативе BRAIN – попытке одновременно записать активность одного миллиона нейронов человеческого мозга. Одним из основных спонсоров инициативы BRAIN является DARPA, а это агентство заинтересовано не только в чтении из мозга. Работающие над проектом BRAIN ученые терпеливо разъясняют, что одна из целей плана – создание двухстороннего интерфейса для мозга человека и компьютера. Внешне подобная идея кажется крайне зловещей, вызывая образы верховного Старшего Брата и контроля мыслей. В то же время это утопический подтекст, присущий технологии. Потенциальное будущее представляет собой неизбежную траекторию создания интерфейса взаимодействия человека с компьютером, подразумеваемого в манифесте Ликлайдера 1960 г. «Человеко-машинный симбиоз» (Man-Computer Symbiosis), где он предсказал более тесное взаимодействие людей и машин.
Если мир «Нейроманта» был прекрасной научной фантастикой, то реальное вхождение в изображенный Гибсоном мир представляется туманным. Появление киборгов ставит вопрос о том, что значит быть человеком. Сама по себе это не новая проблема. Хотя сегодня технологии развиваются быстрее, чем когда-либо, они трансформировали людей и прежде, еще во времена укрощения огня или изобретения колеса (и его использования для перевозок в XX в.). С начала индустриальной эры машины вытесняли физический труд человека. С появлением компьютеров и компьютерных сетей впервые машины вытесняют «интеллектуальный» труд. Изобретение компьютера с самого начала вызывало дебаты о последствиях создания обладающих интеллектом машин. Новая волна технологий искусственного интеллекта возродила споры с удвоенной силой.
Экономисты-традиционалисты утверждают, что со временем численность рабочей силы растет, несмотря на изменяющийся характер работы, обусловленный технологиями и инновациями. В XIX в. более половины работающих были заняты в сельскохозяйственном производстве. Сегодня их доля сократилась почти до 2 %, но в других сферах экономики количество работающих значительно выросло. В самом деле, несмотря на две рецессии, между 1990 и 2010 гг. общая численность занятых в Соединенных Штатах увеличилась на 21 %. Если эти экономисты правы, вследствие автоматизации в ближайшем будущем экономических катаклизмов на социальном уровне не будет.
Вместе с тем сейчас мы вступаем в эру, когда людей все легче включить в «контур управления» или исключить из него даже в высокооплачиваемых и статусных профессиональных областях. На одном конце спектра небольшие роботы могут заниматься погрузочно-разгрузочными работами, а на другом программные «роботы» могут заменять работников колл-центров и офисных клерков, а также видоизменять такие требующие высокой квалификации профессии, как врач-рентгенолог. Где в будущем будет проходить граница между человеком и машиной и кто проведет ее?
Несмотря на активизацию дискуссии о последствиях автоматизации следующего поколения, почти не слышно споров о разработчиках и их системе ценностей. Когда отвертеться не удается, специалисты по компьютерам, робототехнике и технологиям излагают противоречивые взгляды. Одни хотят заменить людей машинами, другие смиряются перед неизбежным (выражение «Что касается меня, я приветствую наших господ – насекомых», позднее «господ – роботов», было мемом, который получил популярность из-за сериала «Симпсоны»), а третьи столь же страстно хотят создавать машины, расширяющие возможности человека. Вопрос о том, появится ли настоящий искусственный интеллект (концепция, известная как сильный искусственный интеллект или универсальный искусственный интеллект) и смогут ли машины делать что-то большее, чем просто подражать людям, также обсуждается не одно десятилетие. Сегодня все громче раздаются голоса ученых и технологов, высказывающих новые опасения относительно возможности появления обладающих самосознанием машин. Дискуссии о текущем состоянии технологии искусственного интеллекта скатываются в царство научной фантастики, а то и религии. Однако автономия машин уже не философский или гипотетический вопрос. Мы достигли точки, когда машины способны выполнять множество функций человека, которые требуют и интеллекта, и силы: они могут работать на фабриках, водить автомобили, диагностировать болезни и понимать документы и совершенно определенно могут управлять оружием и убивать с беспощадной точностью.
Противостояние искусственный интеллект – усиление интеллекта нигде не проявляется более отчетливо, чем в новом поколении систем вооружений, уже появившемся на горизонте. Разработчики из DARPA близки к тому, чтобы пересечь новый технологический порог при замене нынешних крылатых ракет новой противокорабельной ракетой большого радиуса действия (LRASM). Она должна поступить в Военно-морские силы США в 2018 г. В отличие от предшественников, этот новый вид оружия способен автономно принимать решения о выборе цели. LRASM должна достигать противника без контакта с диспетчером, а затем самостоятельно принимать решение, какую цель поразить.
Возникает новая этическая дилемма – позволят ли люди этому оружию спускать крючок по своему усмотрению, без контроля со стороны человека? Вариант этой же проблемы присущ быстрой компьютеризации автомобиля. В самом деле, транспортная сфера в целом очень показательна с точки зрения последствий появления новой волны умных машин. Искусственный интеллект должен оказать более сильное воздействие на общество, чем персональные компьютеры и интернет в начале 1990-х гг. Символично, что направление этой трансформации определяет технологическая элита.
Несколько лет назад Джерри Каплан, ветеран Кремниевой долины, который начал карьеру как исследователь искусственного интеллекта в Стэнфорде, а затем в 1980-х гг. стал одним из тех, кто ушел из этой области, предупредил группу стэнфордских специалистов по вычислительной технике и аспирантов: «От ваших сегодняшних действий здесь, в Лаборатории искусственного интеллекта, воплощающихся в создаваемых вами системах, может зависеть, как общество будет справляться с этой проблемой». Он утверждал, что неизбежное появление искусственного интеллекта следующего поколения несет с собой критически важный этический вызов: «Есть опасность, что мы выращиваем живых роботов за счет нашей собственной жизни»{10}. Проблема двойственности, о которой он говорил исследователям, заключается в пропасти между обладающими интеллектом машинами, которые заменяют человека, и компьютерными системами, расширяющими возможности человека.
Подобно многим другим технологам в Кремниевой долине, Каплан считает, что мы на грани создания экономики, которая функционирует практически без участия человека. Это может звучать апокалиптически, но описываемое Капланом будущее почти определенно придет. Его более глубокая мысль заключается в том, что сегодняшнее ускорение развития технологии – не слепой процесс. Он зависит от личного выбора каждого из инженеров, которые создают облик нашего будущего.
Осенью 2007 г. на заброшенной военной базе в калифорнийской пустыне на импровизированную гоночную трассу вышел коренастый человек с клетчатым флагом и энергично взмахнул им, когда мимо него плавно проехал внедорожник Chevrolet Tahoe. Это был Тони Тетер, директор DARPA.
Конец ознакомительного фрагмента.