Глава 1
Выбор направления – человек или машина
К тому времени как Билл Дюваль бросил колледж, он уже был классным программистом. Довольно быстро Дюваль подключился к разработке Shakey, шестифутового робота на колесах. Звездный час Shakey наступил в 1970 г., когда журнал Life назвал его первой «электронной личностью». Если взять для сравнения персонажей саги «Звездные войны», то Shakey попадал скорее в категорию мобильных роботов R2-D2, чем человекоподобных C-3PO. В принципе это был электронный агрегат с датчиками и электроприводом на колесах, управляемый сначала по проводам, а позднее по радио расположенным неподалеку мейнфреймом.
Shakey не был первым в мире мобильным роботом, но его создавали как первого по-настоящему автономного робота. В рамках одного из первых экспериментов в области искусственного интеллекта Shakey должен был анализировать окружающую обстановку, планировать собственные действия и выполнять задания. Он мог находить и двигать предметы или перемещаться по заданному маршруту в своем очень структурированном мире. К тому же как предвестник будущего он играл роль прототипа гораздо более перспективных машин, которые должны были жить, выражаясь военным языком, во «враждебной обстановке».
Хотя этот проект сейчас почти забыт, создатели Shakey впервые применили компьютерные технологии, которыми сегодня пользуются более миллиарда человек. Навигационные программы, применяемые повсеместно – от автомобилей до смартфонов, строятся на принципах, разработанных создателями Shakey. Их алгоритм A* – самый известный способ нахождения кратчайшего пути между двумя пунктами. Ближе к концу проекта в числе исследовательских задач появилось управление речью, и сегодняшний сервис Siri компании Apple – отдаленный потомок машины, начавшей жизнь как совокупность исполнительных механизмов и датчиков.
Дюваль вырос на полуострове к югу от Сан-Франциско и был сыном физика, участвовавшего в разработках военного назначения в Стэнфордском исследовательском институте, где находился Shakey. Он прошел все курсы программирования, которые предлагал Калифорнийский университет в Беркли в середине 1960-х гг. Через два года Дюваль бросил учебу в университете, чтобы присоединиться к команде, где работал его отец, и оказался в нескольких милях от кампуса Стэнфорда в замкнутой группе избранных, для которых мейнфрейм был эквивалентом первобытного божества.
Для молодого человека, одержимого вычислительной техникой, Стэнфордский исследовательский институт, вскоре переименованный в SRI International, открывал ворота в мир, где высококвалифицированные программисты создавали изящные программы для машин. В 1950-х гг. в SRI разработали первые компьютеры для обработки чеков. Дювалю поручили автоматизацию операций одного из английских банков, но тот был поглощен другим банком, и проект заморозили на неопределенное время. Дюваль превратил неожиданный перерыв в свой первый отпуск в Европе, а затем направился в Менло-Парк, чтобы возобновить роман с компьютерами в команде исследователей искусственного интеллекта, занимавшихся Shakey.
Как и многие другие программисты, Дюваль был одиночкой. В средней школе за десятилетие до выхода в свет фильма «Уходя в отрыв» (Breaking Away) он вступил в местный велосипедный клуб и колесил на байке по холмам за Стэнфордом. В 1970-х гг. этот фильм изменил отношение американцев к велогонкам, но в 1960-е гг. они все еще были богемным спортом, привлекавшим разного рода индивидуалистов и белых ворон. Это вполне подходило Дювалю. До поступления в среднюю школу он учился на полуострове в альтернативном учебном заведении, где считали, что дети должны обучаться в процессе практической деятельности и в соответствии с собственным темпом. Одним из его учителей был Айра Сандперл, ученик Ганди, завсегдатай книжного магазина Кеплера возле кампуса Стэнфорда. Именно Сандперл, в число подопечных которого входила также Джоан Баэз[2], привил Дювалю независимый взгляд на знания, учебу и мир в целом.
Дюваль был представителем первого поколения асов в сфере программирования, небольшой группы со своей субкультурой, которая зародилась в Массачусетском технологическом институте, где работа на компьютере была самоцелью, где свободно распространялись знания и коды, необходимые для оживления машин. Эта культура быстро распространилась по Западному побережью, где она пустила корни в центрах компьютерных разработок вроде Стэнфорда и Калифорнийского университета в Беркли.
В ту эпоху компьютеры были невероятной редкостью – гигантскими машинами могли похвастаться лишь банки, университеты и финансируемые правительством исследовательские центры. В SRI Дюваль получил неограниченный доступ к машине размером с комнату, которую когда-то приобрели для элитного финансируемого военными проекта, а затем стали использовать для управления Shakey. В SRI и в расположенной рядом Стэнфордской лаборатории искусственного интеллекта (Stanford Artificial Intelligence Laboratory – SAIL), прятавшейся в холмах за Стэнфордским университетом, существовала тесно связанная группа исследователей, уже тогда веривших в возможность создания машины, обладающей способностями человека. Для членов этой группы Shakey был прообразом будущего, и они верили, что всего через несколько лет научный прорыв позволит машинам действовать подобно людям.
Тогда, в середине 1960-х гг., в небольшом сообществе исследователей искусственного интеллекта на обоих побережьях царил фактически безграничный оптимизм. В 1966 г., когда SRI и SAIL в Калифорнии уже работали над созданием роботов и программ искусственного интеллекта, на другом конце страны, в Массачусетском технологическом институте, еще один пионер в сфере искусственного интеллекта, Марвин Мински, дал студенту последнего курса задание решить проблему машинного зрения. По его представлениям, этот проект можно было выполнить за лето. Действительность оказалась обескураживающей. Хотя искусственный интеллект, возможно, и должен был изменить мир, Дюваль, который уже поучаствовал в нескольких проектах SRI до переключения на Shakey, сразу понял, что роботу еще невообразимо далеко до чего-то реального.
Shakey жил в большой пустой комнате с покрытым линолеумом полом и парой электронных блоков. Вокруг были разбросаны похожие на коробки объекты, чтобы робот мог с ними «играть». Вместилище интеллекта, мейнфрейм, располагалось поблизости. Датчики Shakey фиксировали окружающую картину, а затем он стоял и «думал» в течение нескольких минут, прежде чем возобновить движение в своем замкнутом и контролируемом мире. Это было сродни наблюдению за ростом травы. Помимо прочего, робот часто ломался или у него разряжался аккумулятор после нескольких минут работы.
За несколько месяцев Дюваль выжал максимум из своего положения. Ему было ясно, что расстояние до заявленной цели проекта – создание автоматического часового или разведчика – измеряется световыми годами. Он пытался утешиться программированием дальномера, громоздкого устройства с вращающимся зеркалом, но в нем постоянно подводила механика, что превращало разработку программного обеспечения в упражнение по предсказанию сбоев и их устранению. Один из руководителей сказал, что проекту нужно «вероятностное дерево решений» для усовершенствования системы зрения робота. Поэтому вместо того, чтобы работать над этим специальным механизмом, Дюваль стал заниматься созданием программы, которая могла бы генерировать подобные деревья. Система зрения Shakey работала лучше, чем дальномер. Даже при простейшей программе обработки видеоданных робот мог различать края и базовые формы – важнейшие элементы для ориентирования и перемещения в пространстве.
Руководитель Дюваля считал, что в его команде «наукой» должны заниматься только «ученые». Программистам отводилось место чернорабочих низкого ранга, которые воплощали идеи старших коллег. Хотя лидеры группы, наверное, имели представление о том, куда нужно двигаться, проект был организован по-военному, и это делало работу неинтересной для программистов низшего уровня вроде Дюваля, писавших драйверы устройств и другие интерфейсные программы. Такая ситуация не устраивала молодого человека, одержимого компьютерами.
Роботы казались ему модной идеей, но до выхода на экраны «Звездных войн» привлекательных образчиков было не так много. В 1950-х гг. существовал робот Robby из фильма «Запретная планета» (Forbidden Planet), но в остальном мало что вызывало вдохновение. Shakey просто работал не слишком хорошо. К счастью, Стэнфордский исследовательский институт был большой организацией, и вскоре внимание Дюваля привлек более интригующий проект.
В холле, куда выходила лаборатория Shakey, он часто сталкивался с представителями другой группы исследователей, которая занималась разработкой компьютера для реализации системы NLS (oN-Line System). Если управление в лаборатории Shakey было иерархическим, то группа под руководством ученого-компьютерщика Дуга Энгельбарта работала совершенно по-другому. Исследователи Энгельбарта, разношерстное собрание консервативных инженеров в белых рубашках и длинноволосых программистов, двигались в сфере вычислительной техники настолько в ином направлении, что оно находилось в другой системе координат. Проект Shakey был нацелен на имитирование умственной и физической деятельности человека. Энгельбарт ставил совсем другую цель. Во время Второй мировой войны он наткнулся на статью Ваннивара Буша, который предложил поисковую систему Memex для работы с информацией на микрофишах. Позже Энгельбарт решил, что такую систему можно воссоздать с использованием только что появившихся компьютеров. На его взгляд, наступило время для создания интерактивной системы сбора знаний и организации информации таким образом, чтобы позволить небольшой группе людей – ученых, инженеров, преподавателей – творить и сотрудничать более эффективно. К этому времени Энгельбарт уже изобрел компьютерную мышь, а также выдвинул идею гипертекстовых ссылок, которая десятилетия спустя станет основой Всемирной паутины. Как и Дюваль, он был чужим в изолированном мире компьютерной науки, где основой считали теорию и абстракцию.
Культурный разрыв между миром искусственного интеллекта и его антиподом – идеей Энгельбарта, получившей название «усиление интеллекта», – был очевидным. Когда Энгельбарт приехал в Массачусетский технологический институт в 1960-х гг. для демонстрации своего проекта, Марвин Мински посетовал, что это пустая трата выделенных на исследования денег, которая приведет к созданию всего лишь не в меру расхваленного текстового процессора.
Хотя Энгельбарт и не добился уважения влиятельных специалистов по информатике, его совершенно не смущал отход от мейнстрима академического мира. Участвуя в регулярных обзорных совещаниях Агентства перспективных оборонных исследований (DARPA) Пентагона, где ученые делились информацией о результатах своей работы, он всегда предварял презентации словами: «Это не теория вычислительных машин». Затем Энгельбарт излагал свои взгляды на использование компьютеров для «загрузки» в них проектов с целью обмена информацией, обучения и продвижения инноваций.
Несмотря на то что эти идеи не совпадали с мейнстримом компьютерной науки, они захватили Билла Дюваля. Вскоре он перебрался на другую сторону холла – в лабораторию Энгельбарта. Менее чем за год он прошел путь от попыток создать программы для первого полезного робота до работы над программным обеспечением для системы связи, которая, позволив соединить два компьютера, стала прообразом интернета. Поздно вечером 29 октября 1969 г. Дюваль подключил систему NLS Энгельбарта в Менло-Парке к компьютеру в Лос-Анджелесе, которым управлял другой молодой программист, по арендованной у телефонной компании линии передачи данных. Билл Дюваль стал первым, кто переключился с исследований в области замены человека компьютером на использование вычислительной техники для усиления интеллекта человека, и одним из первых, кому удалось побывать по обе стороны от невидимой линии, разделяющей и сегодня два соперничающих лагеря разработчиков.
Интересно отметить, что разработки, начатые в 1960-х гг., получили применение в 1970-е гг. в третьей лаборатории, также расположенной возле Стэнфорда. Исследовательский центр компании Xerox в Пало-Альто развил задумки, выпестованные в лабораториях Маккарти и Энгельбарта, и превратил их в идеи персонального компьютера и компьютерной сети, которые в свою очередь были успешно реализованы компаниями Apple и Microsoft. Среди прочего индустрия персональных компьютеров инициировала то, что венчурный инвестор Джон Дорр в 1990-х гг. назвал «самым крупным законным накоплением богатства в истории»{2}.
Большинству Дуг Энгельбарт известен как изобретатель мыши, однако его гораздо более грандиозная идея заключалась в использовании компьютерных технологий с тем, чтобы небольшие группы людей могли работать над «загруженными» проектами, используя мощные программные средства организации деятельности и создавая, как он выражался, «коллективный IQ», превосходящий возможности отдельного человека. Мышь была просто гаджетом, облегчавшим взаимодействие с компьютером.
Влияние на мир Маккарти, создавшего Стэнфордскую лабораторию искусственного интеллекта, было во многих отношениях не меньше влияния Энгельбарта. Его лаборатория дала компании Xerox, а затем и Apple Computer таких разработчиков, как Алан Кей и Ларри Теслер, внесших немалый вклад в создание современного персонального компьютера. Уитфилд Диффи вынес оттуда идеи, которые привели к появлению метода криптографии, обеспечивающего безопасность нынешней электронной торговли.
Впрочем, в SRI и SAIL тогда были еще два направления работ, которые только сейчас начинают оказывать значительное влияние на мир: роботы и искусственный интеллект. Они не только трансформируют экономику, они ведут к новой эре умных машин, фундаментально меняющих наш образ жизни.
Появление вычислительной техники и роботов было предсказано до организации этих лабораторий. Еще на заре компьютерной эры, в 1948 г., Норберт Винер сформулировал концепцию кибернетики. В своей книге «Кибернетика» (Cybernetics) он обозначил контуры новой прикладной науки, которая занималась вопросами управления и коммуникации и предвосхищала обе технологии. Винер также предвидел последствия этих новых направлений техники: через два года после «Кибернетики» вышла следующая книга – «Кибернетика и общество» (The Human Use of Human Beings), где автор рассуждал о ценности и опасности автоматизации.
Винер был одним из первых, кто задумался об оборотной стороне информационной технологии – возможности ее выхода из-под контроля людей и подчинения их себе. Еще важнее то, что он первым выступил с критикой машинного интеллекта, указав на опасность передачи принятия решений системам, которые в отсутствие способности мыслить абстрактно будут принимать решения с чисто утилитарной точки зрения, а не с учетом более широких человеческих ценностей.
Энгельбарт в 1950-х гг. работал электронщиком в Научно-исследовательском центре Эймса NASA и наблюдал, как инженеры-авиастроители сначала создают небольшие модели для аэродинамических испытаний, а затем масштабируют их до полноразмерных самолетов. Он быстро понял, что новые кремниевые компьютерные чипы можно масштабировать в обратную сторону – уменьшать вплоть до того, что будут называть «микросхемами». Миниатюризация позволит размещать больше схем в одном и том же пространстве при тех же затратах. А главное, увеличение плотности схем должно оказывать на производительность не аддитивный, а мультипликативный эффект. Для Энгельбарта это было решающим. Уже через год после появления первого современного компьютерного чипа в конце 1950-х гг. у него не осталось сомнений в том, что в конечном итоге появятся сравнительно дешевые вычислительные мощности, которые изменят лицо цивилизации.
Идея экспоненциального роста – закон Мура, в частности, – является одним из фундаментальных достижений Кремниевой долины. Энгельбарт и Мур понимали, что мощность компьютеров будет возрастать все быстрее. Аналогичным образом должна падать их стоимость так, что очень скоро мощные компьютеры окажутся доступными даже беднейшим нациям. За последнюю половину десятилетия это ускорение обеспечило быстрое развитие технологий, которые необходимы для создания искусственного интеллекта: машинное зрение, распознавание речи, контактное восприятие и манипуляторы. Машины уже умеют чувствовать вкус и запах, однако более существенные инновации приходят из сферы моделирования нейронов человека с помощью электронных схем, где наметился прогресс в распознавании образов.
Ускорение развития в области искусственного интеллекта позволило кое-кому – взять хотя бы специалиста по вычислительной технике Моше Варди из Университета Райса – провозгласить неминуемое вытеснение человека из очень многих сфер уже к 2045 г.{3} В соответствии с еще более радикальными представлениями компьютеры развиваются настолько быстро, что превзойдут по интеллекту человека через одно или самое большее через два поколения. Писатель-фантаст и специалист по вычислительной технике Вернор Виндж рассуждает о компьютерной «сингулярности» – таком быстром развитии машинного интеллекта, при котором он переходит некий порог, а потом в результате пока неопределенного скачка становится сверхчеловеческим.
Это очень интересное предположение, однако пока что рано рассматривать его всерьез. В связи с этим стоит вспомнить замечание, сделанное долгое время работавшим в Кремниевой долине обозревателем Полом Саффо по поводу комплексного воздействия вычислительной техники на мир. Он постоянно напоминал элите компьютерной индустрии Кремниевой долины: «Не путайте ясное видение с тем, что хорошо видно вблизи». Тем, кто верит, что за несколько десятилетий живой труд уйдет в прошлое, не следует забывать, что даже на фоне глобализации и автоматизации в 1980–2010 гг. численность работающих в США постоянно возрастала. Экономисты Фрэнк Леви и Ричард Мюрнейн недавно показали, что с 1964 г. в экономике было создано 74 млн рабочих мест{4}.
Экономист из Массачусетского технологического института Дэвид Отор предложил детальное объяснение последствий текущей волны автоматизации. По его словам, ликвидация рабочих мест происходит не повсеместно, а сфокусирована на рутинных задачах, выполняемых теми, кто находится в средней части структуры рабочих мест – белыми воротничками, появившимися после Второй мировой войны. Расширение продолжается в нижней и верхней частях пирамиды, страдает средняя часть, зато развиваются рынки неквалифицированного и высококвалифицированного труда.
Меня, однако, интересуют не дебаты, а совсем другой вопрос, тот, что впервые был поставлен Норбертом Винером, когда он высказывал свои опасения относительно последствий автоматизации. К чему приведут подходы Маккарти и Энгельбарта? Какими будут последствия решений, принятых сегодняшними исследователями в области искусственного интеллекта и робототехники, которым все легче выбирать между расширением возможностей и заменой «человека в контуре управления» в создаваемых системах и продуктах? Иначе говоря, какие социальные последствия повлечет за собой появление интеллектуальных систем, которые заменяют людей или взаимодействуют с ними в бизнесе, развлечениях и повседневной жизни?
В компьютерном мире сложились два технических сообщества со своими традициями, ценностями и приоритетами. Одно из них – сообщество искусственного интеллекта – стремится к автоматизации различных аспектов деятельности человека. Другое – сообщество человеко-машинного взаимодействия – в большей мере занято развитием идеи «человеко-машинного симбиоза», который предвидел психолог-новатор Джозеф Ликлайдер на заре современной компьютерной эры. Следует заметить, что Ликлайдер в качестве директора Технического офиса информационных проектов DARPA в середине 1960-х гг. финансировал и Маккарти, и Энгельбарта. Именно во времена Ликлайдера DARPA было в буквальном смысле организацией по финансированию «прожектов», в этот период, как считают многие, агентство оказало наибольшее влияние на развитие науки и техники.
Винер первым забил тревогу по поводу проблемы взаимоотношений человека и вычислительных машин. Десятилетие спустя Ликлайдер указал на принципиальное значение грядущего повсеместного использования вычислительной техники и на то, чем ее внедрение отличается от предыдущей эпохи индустриализации. В каком-то смысле Ликлайдер предсказал появление Борга из сериала «Звездный путь». Образ Борга вошел в массовую культуру в 1988 г. – это была раса киборгов, которая существовала как «коллективный разум», а новые индивидуумы присоединялись к нему путем принудительной ассимиляции.
В 1960 г. в одной из своих работ Ликлайдер рассуждал о разнице между «расширением возможностей человека» и «искусственным интеллектом» и предупреждал в отношении автоматизации: «Если взять человека-оператора в системе, то мы видим, что в некоторых областях техники за последние несколько лет произошли фантастические изменения. "Расширение возможностей" уступает место замене человека на автоматику, а люди, которые остаются, нужны, чтобы помогать, а не чтобы помогали им. В некоторых случаях, особенно в основанных на вычислительной технике больших информационных системах и системах управления, человек-оператор в основном отвечает за функции, которые не удалось автоматизировать»{5}. Это наблюдение показывает, насколько роковым является уклон в пользу автоматизации, а не усиления интеллекта.
Ликлайдер, как и Маккарти полдесятилетия спустя, был уверен, что создание «мощного» искусственного интеллекта – машины, обладающей разумом и самосознанием, по меньшей мере сопоставимыми с человеческими, – дело недалекого будущего. Он писал, что период человеко-машинного «симбиоза» вряд ли продлится более двух десятилетий, хотя и допускал, что появление по-настоящему умных машин, способных соперничать с человеком по умственным способностям, придется ждать более десятилетия, а может, даже и более 50 лет.
Хотя он и поставил вопрос о том, что принесет информационная эра – освобождение или порабощение людей, прямого ответа мы от него не получили. Вместо этого он нарисовал то, что стали называть «киборгами», – образ полулюдей-полумашин. С точки зрения Ликлайдера, человек-оператор и вычислительное оборудование гармонично соединятся и станут единой сущностью. С тех пор такое видение будущего многократно и превозносили, и поносили. Однако оно так и не дает ответа на вопрос – будем ли мы хозяевами, рабами или партнерами появляющихся сегодня умных машин?
Возьмем полный спектр человеко-машинного взаимодействия – от простых FAQbot до Google Now и Siri компании Apple. В недалеком будущем, показанном в фильме «Она» (Her), мы видим наделенный голосом Скарлетт Йоханссон искусственный интеллект, способный одновременно вести сотни задушевных разговоров с людьми. В настоящее время Google Now и Siri представляют два совершенно разных стиля взаимодействия человека с машиной. В то время как Siri намеренно и успешно имитирует человека, демонстрируя своеобразное чувство юмора, Google Now действует только как информационное средство, не имеющее личности или лишенное человекоподобия.
Так и подмывает взглянуть на личности руководителей двух конкурирующих компаний с точки зрения этих противоположных подходов. В компании Apple Стив Джобс видел потенциал Siri еще до того, как появилась возможность распознавать речь человека, и ориентировал разработчиков на естественный язык как лучший способ управления компьютером. В Google Ларри Пейдж, наоборот, был против представления компьютера в образе человека.
Как далеко зайдет эта тенденция? Сегодня нельзя сказать ничего определенного. Хотя мы уже можем разговаривать с автомобилями и другими устройствами, используя ограниченные словари, понимание речи и голосовой ввод все еще остаются частью мира «интерфейсов», управляющих компьютерами. Распознавание речи определенно облегчает взаимодействие со множеством сетевых сервисов и приложений для смартфонов, когда глаза и руки заняты. Возможно, прорывы в разработке интерфейса мозг – компьютер окажутся полезными для тех, кто не может говорить, или когда необходимы тишина или скрытность, например при подсчете очков в блек-джеке. Менее ясен вопрос, пройдут ли однажды эти кибернетические помощники тест Тьюринга – проверку, впервые предложенную математиком и ученым-компьютерщиком Аланом Тьюрингом для определения, является ли компьютер «интеллектуальным». Публикация статьи Тьюринга 1951 г. дала начало долгому философскому спору и даже ежегодным соревнованиям. В наши дни более интересна не интеллектуальность машин, а вопрос в том, что означает этот тест с точки зрения взаимоотношений людей и машин.
Тест Тьюринга предполагает, что человек садится перед терминалом и начинает взаимодействовать с неизвестной сущностью, вводя с клавиатуры вопросы и получая ответы. Если через какое-то время он не может определить, кто с ним общается – человек или машина, то машину считают «интеллектуальной». Хотя у теста несколько вариантов и его широко критикуют, с социологической точки зрения он ставит вопрос правильно. Другими словами, он уместен по отношению к человеку, а не к машине.
Осенью 1991 г. я освещал первый конкурс по тесту Тьюринга, спонсируемый филантропом из Нью-Йорка Хью Лёбнером. Это мероприятие состоялось в Компьютерном музее Бостона и привлекло толпу специалистов по вычислительной технике и кучку философов. В то время «боты» – программные роботы, предназначенные для участия в соревнованиях, – были ненамного сложнее легендарной программы Eliza, написанной ученым-компьютерщиком Джозефом Вейценбаумом в 1960-х гг. Эта программа имитировала роджерианский подход в психологии (сконцентрированный на личности человека метод, цель которого – помочь в понимании собственных чувств), и Вейценбаум пришел в ужас, увидев, как студенты начинают вести разговоры по душам с этим первым простым ботом.
Судьи первого конкурса Лёбнера в 1991 г. представляли две широкие категории людей: компьютерно грамотных и незнакомых с компьютером. С точки зрения судей, не имевших опыта работы с компьютером, в том году тест Тьюринга был пройден по всем пунктам. В своем репортаже я процитировал слова представительницы таких судей, которая объяснила, почему она обманулась: «Он печатал что-то, на мой взгляд, банальное, а когда я отвечала, реакция была очень убедительной»{6}. Это оказалось предвестником грядущего. Нынче мы повседневно взаимодействуем с машинами, имитирующими людей, и они все лучше убеждают нас в своей якобы человеческой природе.
Сегодня программы вроде Siri не только кажутся почти одушевленными, они начинают превращать взаимодействие человека с машиной на естественном языке в обыденное дело. Эволюции этих программных роботов, похоже, помогает наше желание верить, что мы взаимодействуем с людьми, даже когда говорим с машинами. Мы ориентированы на социальные взаимодействия. Если в физическом мире роботы помогают нам не так уж часто, то в киберпространстве они уже вокруг нас. Очевидно, что эти боты – искусственный интеллект, пусть даже с ограниченными возможностями, – будут все больше входить в нашу повседневную жизнь.
Интеллектуальные программные агенты, такие как Siri компании Apple, Cortana компании Microsoft и Google Now, взаимодействуют с сотнями миллионов людей и, таким образом, реализуют взаимосвязь робот – человек. Уже в начале своего существования приложение Siri отличалось явно человекоподобным стилем – первый шаг на пути к созданию поколения приятных и заслуживающих доверия советчиков. Не все ли равно, как мы будем взаимодействовать с этими системами – как с партнерами или как со слугами? Если отвлечься от все более оживленных дебатов о том, будут ли интеллектуальные агенты и роботы автономными и, если да, будут ли они обладать достаточным самосознанием, чтобы нам пришлось задуматься о «правах роботов», то нам ближе вопросы, как относиться к этим системам и как характер взаимодействий с ними будет определять смысл понятия «человек». До тех пор, пока мы относимся к таким системам как к партнерам, мы остаемся людьми. Как бы то ни было, вопрос о взаимоотношениях людей и машин игнорируется большой частью современного компьютерного мира.
Специалист по вычислительной технике из Microsoft Research Джонатан Грудин заметил, что такие области знания, как искусственный интеллект и человеко-машинное взаимодействие, редко пересекаются друг с другом{7}. Он ссылается на Джона Маккарти и его давнее объяснение направления исследований в области искусственного интеллекта: «[Цель] заключалась в том, чтобы уйти от изучения поведения человека и рассматривать компьютер как инструмент для решения определенного класса проблем. Таким образом, искусственный интеллект стал направлением компьютерной науки, а не психологии»{8}. Прагматичный подход Маккарти определенно можно оправдать успехами в этой области в последние пять лет. Исследователи искусственного интеллекта любят говорить, что самолету для полета не нужно махать крыльями, подчеркивая тем самым, что для воспроизведения мыслительного процесса или поведения человека не обязательно понимать их. Пропасть между искусственным интеллектом и усилением интеллекта, однако, лишь увеличивается по мере того, как системы искусственного интеллекта все успешнее берут на себя функции человека, будь то распознавание образов, поддержание разговора, перемещение ящиков, игра в шахматы, «Своя игра» или видеоигры Atari.
Терри Виноград одним из первых отчетливо увидел две крайности и задумался о последствиях. Его карьера – пример дрейфа от искусственного интеллекта к усилению интеллекта. Учась в аспирантуре Массачусетского технологического института в 1960-х гг., он сосредоточился на изучении естественного языка с целью создания программного эквивалента Shakey – программного робота, способного вести разговор с людьми. В 1980-е гг. в какой-то мере из-за изменившихся взглядов на пределы искусственного интеллекта он оставил эту область и постепенно стал заниматься усилением интеллекта. К отходу от сферы искусственного интеллекта Винограда подтолкнули споры с группой философов в Калифорнийском университете. В составе небольшой группы исследователей искусственного интеллекта он участвовал в еженедельных семинарах, где присутствовали философы из Беркли Хьюберт Дрейфус и Джон Сирл. Философы убедили его, что есть реальные пределы возможностей интеллектуальных машин. Обращение Винограда в другую веру совпало с коллапсом нарождающейся индустрии искусственного интеллекта, известным как «зима искусственного интеллекта». Спустя несколько десятилетий Виноград, который был куратором соучредителя Google Ларри Пейджа в Стэнфорде, посоветовал молодому аспиранту сосредоточиться на проблеме поиска в сети, а не на беспилотных автомобилях.
За прошедшие десятилетия Виноград ясно осознал важность точки зрения разработчика. Разделение областей искусственного интеллекта и человеко-машинного взаимодействия в определенной мере зависит от подхода, но это также и этическая позиция в вопросе о том, где должен находиться человек – в создаваемых нами системах или за их пределами. Не так давно Виноград помог создать в Стэнфорде академическую программу, ориентированную на «технологии освобождения», в рамках которой изучают конструирование компьютеризованных систем с учетом человеческих ценностей.
На протяжении всей истории человечества технологии замещали живой труд. Однако локомотивы и тракторы не принимают решений на уровне человека, а вот «думающие машины» делают это все чаще и чаще. Очевидно также, что технологии и человечество эволюционируют совместно, и это вновь ставит вопрос о том, кто будет стоять у руля. В Кремниевой долине стало модным прославлять возвышение машин – об этом ясно говорит появление организаций вроде Института сингулярности и книг типа «Чего хочет технология» (What Technology Wants) Кевина Келли (2010 г.). В более ранней книге 1994 г. «Неуправляемые» (Out of Control) Келли решительно встает на сторону машин. Он описывает встречу Марвина Мински и Дуга Энгельбарта:
Говорят, когда два гуру встретились в Массачусетском технологическом институте в 1950-е гг., между ними состоялся следующий диалог:
Мински: Мы собираемся наделить машины интеллектом. Мы собираемся дать им сознание!
Энгельбарт: Вы собираетесь сделать все это для машин? А что вы намерены сделать для людей?
Эту историю обычно рассказывают инженеры, работающие над тем, чтобы сделать компьютеры более дружественными, более человечными, более ориентированными на людей. Но я полностью на стороне Мински, на стороне дела. Люди выживут. Мы научим наши машины служить нам. Но что мы собираемся сделать для машин?{9}
Келли верно указывает, что есть «стороны» Мински и Энгельбарта. Но говорить, что люди «выживут», – значит недооценивать последствия. Он в основном вторит Мински, который, как известно, отвечал на вопрос о значении появления искусственного интеллекта так: «Если нам повезет, они будут держать нас как домашних животных».
Позиция Мински красноречиво демонстрирует пропасть между лагерями искусственного интеллекта и усиления интеллекта. Сообщество сторонников искусственного интеллекта до настоящего времени по большей части игнорирует последствия появления интеллектуальных систем, которые рассматриваются просто как мощные инструменты без дискуссий о морали. Как сказал мне один из разработчиков роботов следующего поколения в ответ на вопрос о влиянии автоматизации на людей: «Об этом не надо думать, нужно только решить, что ты хочешь сделать, и приложить все силы для улучшения мира людей в целом».
На протяжении последнего полувека философии Маккарти и Энгельбарта оставались несовместимыми и их основное противоречие все еще не разрешено. Один подход направлен на вытеснение людей и их замену все более мощным комплексом программных и аппаратных средств. Другой ориентирован на расширение наших интеллектуальных, экономических и социальных возможностей с помощью тех же средств. Хотя пропасть между этими подходами мало кому заметна, взрывное развитие новой технологии, которая уже влияет на каждый аспект современной жизни, неизбежно вынесет проблему на поверхность.
Будут ли машины вытеснять живых работников или усиливать их возможности? На определенном уровне они будут делать и то и другое. Еще раз подчеркну, что это неправильный вопрос и ответ на него неполный. И виртуальные, и физические роботы достаточно гибки, чтобы стать в конце концов теми, кем мы захотим. В нынешней экономике подход к тому, как разрабатываются и используются и машины, и интеллектуальные системы, определяется чаще всего себестоимостью и выгодой, а себестоимость падает все быстрее. В нашем обществе, если задачу дешевле поручить машине – виртуальной или физической, – в большинстве случаев будет использоваться машина. Реализация этого – вопрос лишь времени.
Решение встать на ту или иную сторону в споре вдвойне трудно, поскольку нет очевидных правильных ответов. Хотя автомобили без водителей приведут к потере миллионов рабочих мест, они также сохранят множество жизней. Сегодня решения о применении технологий принимаются в основном на основе выгодности и эффективности, но очевидно нужна и новая система оценки с точки зрения морали. Дьявол, однако, кроется в деталях. Как и в случае ядерного оружия и атомной энергии, искусственный интеллект, генная инженерия и робототехника будут иметь в следующем десятилетии широкие социальные последствия, как желательные, так и не очень.