ФИЗИКА БУДУЩЕГО Мичио Каку читать онлайн бесплатно стр 3

ФИЗИКА БУДУЩЕГО Мичио Каку читать онлайн бесплатно стр 3 стр 1 стр2 стр 4
Робот оборудован GPS-приемником и имеет два инфракрасных датчика, способные засекать предметы на его пути. Он содержит три мощных процессора Pentium и подсоединен к гигабитной сети Ethernet. Мы с роботом отправились гулять по близлежащему парку, где LAGR учился объезжать возникающие на его пути помехи. Каждый раз, проходя маршрут, он приобретал новую сноровку и учился лучше обходить препятствия. Между LAGR и STAIR есть очень важное различие, состоящее в том, что LAGR специально разработан для самообучения. Каждый раз, наталкиваясь на какое-то препятствие, он объезжает вокруг этого объекта и учится узнавать и миновать его, чтобы в следующий раз не натолкнуться. Если в памяти STAIR хранятся изображения тысяч предметов, то в памяти LAGR нет практически никаких изображений; вместо этого робот создает как бы мысленную карту всех встреченных препятствий и на каждом проходе обновляет и уточняет ее. В отличие от автомобиля-робота, который жестко запрограммирован и движется по маршруту, заранее проложенному для него при помощи системы GPS, LAGR движется совершенно самостоятельно, без всяких указаний со стороны человека. Вы говорите ему, куда двигаться, и он пускается в путь. Со временем подобных роботов можно будет обнаружить на Марсе, на поле боя и в наших жилищах. Энтузиазм и энергия этих исследователей произвели на меня сильное впечатление. Сами они глубоко убеждены, что закладывают основы искусственного интеллекта и что когда-нибудь результаты их работы вызовут в обществе глобальные изменения, которые человечество сегодня только начинает осознавать. Но взгляд со стороны позволил мне увидеть, как далеко им еще до успеха. Даже тараканы способны распознавать предметы и учиться обходить их. Мы же пока находимся на той стадии, когда даже самые примитивные из созданий матери-природы способны победить в состязании с нашими самыми умными роботами. Ближайшее будущее (с настоящего момента до 2030 г.) Экспертные системы Сегодня во многих домах уже появились простые роботы, предназначенные для чистки ковров. Существуют также роботы-охранники, патрулирующие здания по ночам, роботы-экскурсоводы и роботы-рабочие. В 2006 г. было примерно подсчитано, что в мире существует 950 000 промышленных роботов, а в домах и офисах работает 3 540 000 обслуживающих роботов. В ближайшие десятилетия робототехника будет развиваться в нескольких направлениях, возможно неожиданных, но новые роботы не будут похожи на тех, что знакомынам по научной фантастике. Самые большие успехи, скорее всего, будут достигнуты в области так называемых экспертных систем — компьютерных программ, заключающих в себе мудрость и опыт человечества. Как уже говорилось в предыдущей главе, однажды мы, вероятно, получим возможность поговорить с Интернетом на настенном экране и увидеть доброжелательное лицо и получить совет от рободоктора или робоюриста. Эта область называется эвристикой и сводится к следованию некоей системе формальных правил. К примеру, планируя туристическую поездку, вы обратитесь к лицу на настенном интернет-экране и сообщите всю необходимую информацию: длительность поездки, пункт назначения, отели, ценовой диапазон. При этом экспертная система по опытупрошлых поездок будет заранее знать ваши основные предпочтения; она свяжется с отелями, авиакомпаниями и т. п. и предложит вам наилучшие условия. Но при разговоре с ней вам придется пользоваться не свободной разговорной речью, а довольно формальным стилизованным языком, понятным компьютеру. Такая система сможет быстро выполнять множество полезных задач. Вы будете просто отдавать приказы; она сама зарезервирует для вас столик в ресторане, найдет ближайшие магазины, закажет продукты, забронирует авиабилет и т. п. Именно благодаря успехам эвристики в последние десятилетия у нас сегодня есть простые поисковые системы, которыми так удобно пользоваться. Но это довольно грубыесистемы. Каждому пользователю очевидно, что он имеет дело не с человеком, а с машиной. В будущем, однако, роботы станут настолько изощренными, что будут вести себя почти по-человечески и свободно работать с нюансами и сложными запросами. Может быть, самые практичные приложения будут созданы в области здравоохранения. К примеру, если сегодня вы почувствуете себя плохо, вам придется не один час просидеть в приемной службы экстренной помощи, прежде чем удастся попасть к врачу. В недалеком будущем в подобной ситуации вы, вероятно, сможете просто подойти к настенному интернет-экрану и поговорить с рободоктором, одним нажатием кнопки поменять лицо — и даже личность — собеседника на экране. Это симпатичное лицо, которое по запросу будет всякий раз появляться на вашем экране, задаст вам ряд несложных вопросов («Как вы себя чувствуете?», «Где болит?», «Когда начались боли?», «Как часто они возникают?»). Каждый раз, отвечая на вопрос, вы будете выбирать один из представленных на экране вариантов. Вам не придется печатать ответ на клавиатуре, достаточно будет произнести его вслух. Каждый из ваших ответов, в свою очередь, будет вызывать очередную группу вопросов. После вопросов и ответов рободоктор, опираясь на опыт лучших врачей мира, сможет поставить вам диагноз. Помимо ваших ответов, рободоктор будет анализировать данные из вашей ванной, с вашей одежды и мебели, которые непрерывно контролируют ваше здоровье через чипы — ДНК-анализаторы. И не исключено, что он попросит вас проверить себя при помощи портативного магнитно-резонансного томографа, данные с которогобудут затем обработаны суперкомпьютером. (Примитивные версии подобных эвристических программ уже существуют — к примеру, WebMD, — но им не хватает нюансов и полной мощи эвристических алгоритмов.) Таким образом, можно будет исключить большую часть визитов к врачу и значительно ослабить нагрузку на систему здравоохранения. Если проблема окажется серьезной, рободоктор порекомендует вам поехать в больницу, где врачи-люди смогут обеспечить вам интенсивное лечение и уход. Но даже там вы столкнетесь с программами ИИ в видероботов-сиделок, похожих на ASIMO. Эти роботы-сиделки не будут в полном смысле разумными, но смогут передвигаться из одной больничной палаты в другую, раздавать пациентам назначенные лекарства и обеспечивать другие их потребности. Может быть, они будут двигаться по проложенным в полу рельсам, может быть, независимо, как ASIMO. Единственный на данный момент существующий робот-сиделка — мобильный робот RP-6, которого начинают использовать в некоторых больницах, таких как медицинский центрУниверситета Калифорнии в Лос-Анджелесе. В основе своей это телеэкран мобильного компьютера, который передвигается на роликах. На телеэкране вы видите лицо настоящего врача, который в это время может находиться на расстоянии многих миль от больницы. Робот оборудован видеокамерой, которая позволяет врачу видеть то, на что он смотрит. Есть также микрофон, чтобы врач мог разговаривать с пациентом. Врач может управлять роботом дистанционно при помощи джойстика, может общаться с пациентами, наблюдать за приемом лекарств и т. д. Известно, что в год в США в отделения интенсивной терапии поступает 5 млн пациентов, но на них приходится всего 6000 врачей, достаточно квалифицированных, чтобы лечить критически больных. Поэтому роботы, подобные RP-6, могли бы смягчить кризис системы экстренной помощи, где на одного врача приходится множество пациентов. В будущем такие роботы, возможно, станут более автономными, научатся самостоятельно ориентироваться в здании больницы и общаться с пациентами. Япония — один из бесспорных лидеров в этой области техники. Эта страна тратит на роботов немалые средства, стремясь смягчить грядущий кризис системы здравоохранения. Пожалуй, не стоит удивляться тому, что именно Япония стала одной из ведущих стран в области робототехники. Причин тому несколько. Во-первых, в синтоизме считается, что у неодушевленных предметов тоже есть своя духовная сущность. Даже у механических устройств. На Западе дети иногда плачут и кричат от ужаса при виде роботов, что неудивительно после просмотра многочисленных фильмов о бешеных машинах-убийцах. Но для японских детей роботы — это родственные души, игривые и всегда готовые помочь. В японских универмагах покупателей нередко встречает робот-рецепционист. Вообще, 30 % всех коммерческих роботов мира работают именно в Японии. Во-вторых, Японии в данный момент угрожает демографический кошмар. Население этой страны стареет быстрее всех в мире. Уровень рождаемости упал до невероятной цифры — всего 1, 2 ребенка на семью, а иммиграции в Японии практически нет. Некоторые демографы говорят, что мы сейчас наблюдаем крушение поездов в замедленном темпе: один демографический поезд (стареющее население и падение уровня рождаемости) в ближайшие годы столкнется с другим (низкий уровень иммиграции). Наиболее остро все эти явления будут протекать в области здравоохранения и медицины, где ASIMO-подобные роботы-сиделки могут оказаться очень полезными. Такие роботы идеально подходят для больничных задач, таких как доставка медикаментов и приборов, раздача лекарств и круглосуточное наблюдение за пациентами. Середина века (2030–2070 гг.) Модульные роботы К середине века в нашем мире будет полно роботов, причем мы, возможно, не будем их даже замечать. Дело в том, что большинство роботов, вероятно, не будет похоже на человека внешне. Они будут скрыты из виду, замаскированы под змей, насекомых и пауков, выполняющих неприятные, но очень важные задачи. Это будут модульные роботы, способны менять форму в зависимости от задания. Мне довелось встретиться с одним из пионеров в этой области. Вэйминь Шэнь (Weimin Shen) из Университета Южной Калифорнии намеревается создавать небольшие кубические модули, которые можно заменять столь же легко, как кубики Lego, и соединять произвольным образом. Он называет свои создания полиморфными роботами, поскольку они способны изменять форму, геометрию и функции. Оказавшись в его лаборатории, я мгновенно увидел разницу между его подходом к робототехнике и подходом Стэнфорда и MIT. На первый взгляд обе эти лаборатории напоминали игровую комнату. Всюду, куда ни посмотри, можно было увидеть всевозможные роботизированные «игрушки» с чипами внутри и некоторой долей интеллекта. Рабочие столы были завалены самолетами, вертолетами, вездеходами и насекомовидными роботами с процессорами внутри, и все это было способно самостоятельно двигаться. Каждый робот в этих лабораториях — это независимая самодостаточная единица. Но, входя в лабораторию Университета Южной Калифорнии, видишь нечто совершенно иное. Всюду стоят коробки с кубиками размером около 5 см, которые можно соединять или разделять и из которых можно собирать различные «существа», напоминающие животных. Можно собрать змею, способную проползти по проведенной линии. Или кольцо, которое будет кататься наподобие обруча. Затем можно изогнуть цепочку кубиков или соединить их между собой при помощи Y-образных «суставов» — и получатся совершенно новые устройства, напоминающие осьминогов, пауков, собак или кошек. Представьте себе разумный набор Lego, где каждый кубик обладает интеллектом, а все вместе они способны организоваться в любую конфигурацию, какую только можно вообразить. Это свойство могло бы оказаться полезным для проникновения через преграды. Представьте себе паукообразного робота, который пробирается по канализационной системе и встречает на пути стенку. Первым делом он осматривает ее и находит хотя бы небольшое отверстие; затем он разбирает себя на модули. Каждый блок в отдельности протискивался бы через отверстие, а с другой стороны все они вновь собирались бы вместе. Модульного робота почти невозможно будет остановить, ведь он сможет преодолевать таким образом почти любые препятствия. Очень может быть, что без модульных роботов нам уже скоро не удастся поддерживать в рабочем состоянии разрушающиеся объекты инфраструктуры. К примеру, в 2007 г. рухнул мост через Миссисипи в Миннеаполисе; погибли 13 и пострадали 145 человек. Причиной катастрофы, судя по всему, были возраст моста, перегрузки и изначальные недостатки проекта. Можно предположить, что нас ждут сотни подобных инцидентов по всей стране, но непрерывно наблюдать за каждым старым мостом попросту слишком дорого. Именно здесь могут пригодиться модульные роботы; они будут молча и незаметно проверять мосты, дороги, тоннели, трубы и электростанции и при необходимости даже ремонтировать их. (К примеру, мосты, ведущие в нижнюю часть Манхэттена, сильно пострадали от коррозии и небрежения; их не ремонтировали много лет. Один рабочий обнаружил бутылку из-под кока-колы 1950-х гг., оставленную после последней покраски конструкции. Более того, одна из секций стареющего Манхэттенского моста недавно пришла в аварийное состояние и едва не обвалилась, так что мост пришлось закрыть на ремонт.) Роботы-хирурги и роботы-повара Роботы могут быть не только поварами и музыкантами, но и хирургами. К примеру, одно из важных требований в хирургии — ловкость и точность человеческой руки. Хирурги, как и простые смертные, устают в ходе многочасовых операций, эффективность их действий падает. У них начинают дрожать пальцы. Не исключено, что эти проблемы удастся решить при помощи роботов. Так, при традиционной хирургической операции коронарного шунтирования делается разрез длиной около 30 см в середине груди, что, естественно, можно делать только под общим наркозом. Вскрытие грудной клетки увеличивает вероятность инфекции и продолжительность послеоперационного периода, порождает сильные боли и дискомфорт в процессе заживления и к тому же оставляет уродливый шрам. Но все эти негативные явления можно сильно уменьшить при помощи роботизированной хирургической системы, известной как да Винчи. Робот да Винчи имеет четыре механизированные руки — при помощи одной он манипулирует видеокамерой, остальные три предназначены для точнейших хирургических операций. Вместо длинного разреза груди робот делает лишь несколько крохотных разрезиков на боку. В настоящее время эту систему используют 800 больниц в Европе, Северной и Южной Америке; только в 2006 г. с ее помощью было проведено 48 000 операций. Мало того, операцию можно проводить удаленно через Интернет, так что хирург мирового класса может, не выезжая из крупного города, прооперировать пациента в далекой деревне на другом материке. В будущем более продвинутые версии подобных систем научатся проводить операции на микроскопических кровеносных сосудах, нервных волокнах и других тканях при помощи микроскопических скальпелей, пинцетов и игл, что сегодня невозможно. Более того, в будущем хирург, вероятно, практически не будет делать разрезов на коже пациента. Нормой станет неинвазивная хирургия. Эндоскопы (длинные трубки, вводимые в тело, при помощи которых можно освещать тело изнутри и резать ткани) станут тоньше обычной нити. Большую часть механической работы будут осуществлять микромашины размером с точку в конце этого предложения. (Вспомним, как в одном из эпизодов оригинального «Звездного пути» доктор Маккой с отвращением говорил о том, что в XX в. врачам приходилось вскрывать кожные покровы.) Недалек день, когда все это станет реальностью. Студенты-медики в будущем будут учиться вскрывать трехмерные виртуальные изображения человеческого тела, причем каждое движение руки будет воспроизводиться роботом в соседней комнате. Японцы, помимо всего прочего, достигли немалых успехов в разработке роботов, способных общаться с человеком. В Нагое есть робот-повар; он может за несколько минут приготовить вам стандартный обед из меню заведений быстрого питания. Вы просто выбираете в меню блюда, и робот-повар тут же, в вашем присутствии, готовит их. Этот робот, построенный компанией Aisei (ее основная продукция — промышленные роботы), способен приготовить порцию лапши за 1 минуту 40 секунд и обслужить за день до 80 клиентов. Внешне робот-повар очень похож на роботов, которые работают в Детройте на автомобильных сборочных линиях. У него есть две большие механические руки, все движения которых точно запрограммированы. Но вместо того, чтобы закручивать гайки и сваривать металл на заводе, его механические пальцы берут в определенном порядке ингредиенты из специальных мисочек (гарнир, мясо, мука, соусы, специи и т. п.). Механические руки смешивают все в нужных пропорциях, а затем собирают готовый сэндвич, салат илисуп. Повар фирмы Aisei выглядит как робот и напоминает две гигантские руки, торчащие из кухонной стойки. Но планируется, что следующие модели будут более человекоподобными. Фирма Toyota, тоже в Японии, создала робота, который умеет играть на скрипке почти так же хорошо, как любой профессионал. Этот робот напоминает ASIMO, но ведет себя иначе: он способен брать скрипку, раскачиваться в такт музыке, а затем точно и аккуратно играть сложные скрипичные пьесы. Звук получается поразительно реалистичным; крометого, робот, как любой талантливый музыкант, склонен к величественным жестам. Хотя уровень исполнительского мастерства робота-скрипача пока не дотягивает до концертного, он все же достаточно хорош, чтобы развлечь аудиторию. Конечно, еще в позапрошлом веке существовали механические пианино, которые исполняли фортепианные мелодии, записанные на большом вращающемся диске. Робот фирмы Toyota запрограммирован, как и эти механические устройства. Но разница в том, что робот специально разработан таким образом, чтобы как можно реалистичнее имитировать все движения и позы скрипача-человека. И еще о музыке. В японском Университете Васэда ученые разработали робота-флейтиста. В его груди есть специальные полости, куда, как в легкие, закачивается воздух; затем этот воздух струйкой выходит наружу и извлекает звуки из настоящей флейты. Этот робот способен играть довольно сложные мелодии, такие как «Полет шмеля». Следует подчеркнуть, что роботы-музыканты не могут сочинять новую музыку, но в исполнительстве они вполне способны стать человеку соперниками. Робот-повар и робот-музыкант тщательно запрограммированы. Они не автономны. В сравнении со старыми механическими пианино современные роботы, конечно, невероятно сложны, но, если разобраться, действуют они на тех же принципах. До настоящих роботов-горничных и роботов-дворецких пока еще очень далеко. Не исключено, однако, что «потомки» описанных роботов — повара, скрипача и флейтиста — когда-нибудь прочно войдут в нашу жизнь и будут исполнять в ней функции, которые прежде считались исключительно человеческими. Эмоциональные роботы Вполне возможно, что к середине столетия наступит эра эмоциональных роботов. В прошлом писатели нередко фантазировали о роботах, которые мечтают стать людьми и обрести эмоции. В «Пиноккио» деревянная марионетка хотела стать настоящим мальчиком. В «Волшебнике Изумрудного города» Железный Дровосек мечтал обрести сердце. А в сериале «Звездный путь: Новое поколение» андроид Дейта пытался овладеть эмоциями, рассказывая анекдоты и вычисляя, что в них заставляет людей смеяться. Вообще говоря, одна из распространенных тем научной фантастики — утверждение, что, хотя роботы будут становиться все умнее, суть эмоций всегда будет ускользать от них. Когда-нибудь роботы станут умнее нас, говорят некоторые писатели-фантасты, но они никогда не научатся плакать. На самом деле это утверждение, скорее всего, неверно. Сегодня ученые уже далеко продвинулись в понимании истинной природы эмоций. Во-первых, эмоции сообщают нам, что для нас полезно, а что вредно. Подавляющее большинство вещей в мире либо вредно, либо практически бесполезно для человека. Если нам что-то «нравится», значит, это что-то принадлежит к той крохотной доле вещей и явлений окружающего мира, которые для нас благоприятны. Соответствующая эмоция учит нас узнавать такие вещи. Вообще говоря, все наши эмоции (ненависть, ревность, страх, любовь и т. п.) появились миллионы лет назад в результате эволюции и призваны были защитить наших предковот опасностей враждебного мира и помочь в воспроизводстве. Все они помогают человеку как можно шире распространить свои гены в следующем поколении. Принципиальная важность эмоций в эволюции человека подтверждается современными исследованиями. Невролог Антонио Дамасио (Antonio Damasio) из Университета Южной Калифорнии занимается изучением людей, пострадавших от травмы или болезни мозга. У некоторых его пациентов нарушена связь между рациональной, мыслительной частью головного мозга (корой) и эмоциональным центром (миндалевидным телом), расположенным глубоко, в центральной части мозга. Эти люди совершенно нормальны, за исключением того, что они не испытывают никаких эмоций. Одна проблема, связанная с этим, очевидна: такие люди не способны сделать выбор. Купить что-нибудь — серьезная проблема для них, потому что все вещи кажутся одинаковыми, не важно, дорогие они или дешевые, кричащие или изысканные. Назначить встречу почти невозможно, ведь все даты в будущем для таких людей одинаковы. Похоже, они «знают, но не чувствуют», говорит Дамасио. Иными словами, эмоции играют огромную роль; в частности, именно они создают для нас шкалу ценностей, опираясь на которую мы может решить, что важно, что нет, что дорого, что красиво, что ценно. Без эмоций все вокруг будет иметь для нас равную ценность, а необходимость что-то решать — а решать нам приходится постоянно — будет вызывать ступор. Ученые сейчас начинают понимать, что эмоции — это не роскошь, а необходимое условие разума. К примеру, если вы вспомните «Звездный путь» и еще раз посмотрите, как Спок и Дейта выполняют свою работу будто бы без всяких эмоций, вы сразу поймете, насколько недостоверно все это снято. Спок и Дейта постоянно проявляют эмоции — им ведь все время приходится что-то оценивать и решать. Так, они решили, что важно стать офицером, что выполнять определенные обязанности просто необходимо, что Федерация преследует благородную цель, что человеческая жизнь бесценна и т. п. Так что утверждение о том, что может существовать офицер, не испытывающий никаких эмоций, всего лишь иллюзия. Кроме того, эмоциональность роботов может стать вопросом жизни и смерти. Не исключено, что в будущем ученые создадут роботов-спасателей — роботов, которых будут посылать в огонь, в районы землетрясений, взрывов и т. п. Им придется производить тысячи оценок и принимать тысячи всевозможных решений о том, кого и что спасать, каким образом и в каком порядке. Изучая царящий вокруг них хаос, они должны будут оценивать стоящие перед ними задачи и определять приоритеты. Эмоции сыграли принципиальную роль и в эволюции человеческого мозга. Если вы рассмотрите общие анатомические черты мозга, то заметите, что их можно объединить в три большие категории. Во-первых, это «рептильный» мозг, расположенный возле основания черепа и соответствующий почти всему объему мозга рептилий. Эта часть мозга контролирует простейшие жизненные функции, такие как равновесие, агрессия, территориальность, поиск пищи и т. п. (Иногда при взгляде на змею, которая, в свою очередь, смотрит на вас, возникает жутковатое ощущение. Хочется узнать, о чем думает змея. Если теория, о которой идет речь, верна, змея вообще ни о чем особенно не думает, она просто оценивает вас скулинарной точки зрения.) Если взглянуть на более высокоразвитые организмы, увидим, что у них мозг увеличился и распространился вперед, к передней части черепа. На этом уровне мы находим «обезьяний» мозг, или лимбическую систему, расположенную в центре нашего мозга. Эта система включает миндалевидное тело, занятое обработкой эмоций. Особенно развита лимбическая система у животных, живущих группами. Общественным животным, которые охотятся стаями, для понимания законов стаи нужен весьма развитый интеллект. Для них выживание в природе зависит от успешного сотрудничества с другими особями, но, поскольку говорить они не умеют, передавать свое эмоциональное состояние им приходится при помощи языка тела. Наконец, у человека имеется передняя часть мозга и внешняя его часть — кора, слой, который делает человека человеком и управляет рациональным мышлением. Если у других животных доминируют инстинкт и генетика, то человек может размышлять и рассуждать логически, и эту возможность обеспечивает ему кора головного мозга. Если такая эволюционная последовательность верна, это означает, что эмоции должны будут сыграть решающую роль[9]в создании автономных роботов. Управляющие центры всех созданных до сих пор роботов имитируют лишь рептильный мозг. Эти роботы могут ходить, осматриваться вокруг,поднимать предметы — и почти ничего больше. Общественные животные, с другой стороны, обладают более развитым интеллектом, чем те, что обладают только рептильным мозгом. Для социализации и овладения законами стаи животному необходимы эмоции. Вывод очевиден: ученым еще предстоит пройти большой путь, прежде чем они смогут хоть как-то смоделировать лимбическую систему и кору головного мозга. Синтия Бризель (Cynthia Breazeal) из MIT создала робота специально для решения этой проблемы. Лицом этот робот по имени KISMET больше всего напоминает, пожалуй, лукавого эльфа. На первый взгляд он даже кажется живым; в ответ на ваши действия его лицо приходит в движение и передает различные эмоции. Меняя выражение лица, KISMET может изобразитьширокий спектр эмоций. Мало того, женщины при общении с этим роботом, похожим на ребенка, часто переходят на «детский язык», которым пользуются матери при общении смаленькими детьми. Но, хотя роботы вроде KISMET’a разработаны специально для имитации эмоций, ученые не питают иллюзий: разумеется, на самом деле этот робот не испытывает никаких эмоций. В определенном смысле он похож на магнитофон, запрограммированный на воспроизведение не звуков, а движений лицевых мускулов, соответствующих различным эмоциям человека. Он не понимает, что делает. Но KISMET — все же прорыв в робототехнике; оказывается, для создания робота, способного имитировать человеческие эмоции так, что человек на них отзовется, не нужны особенно сложные программы. Такие эмоциональные роботы обязательно найдут путь в наши дома. Они вряд ли станут нашими доверенными лицами, секретарями или горничными, но смогут взять на себя процедуры, которые подчиняются строгим правилам и которые можно запрограммировать на основе эвристики. К середине века они, возможно, дорастут интеллектуально до уровня собаки или кошки. Подобно домашним любимцам, эти роботы будут демонстрировать привязанность к хозяину, так чтобы человеку нелегко было их выбрасывать. Вы не сможете разговаривать с ними обычным языком, но они будут понимать заранее запрограммированные команды — может быть, сотни команд. Если же вы попросите такого робота сделать что-то не заложенное заранее в память (к примеру, скажете: «Иди запусти воздушного змея»), он ответит просто сконфуженным, непонимающим взглядом. (Если к середине века роботы-собаки и роботы-кошки смогут вести себя и реагировать на окружающее в точности как настоящие животные, возникнет вопрос: действительно ли эти животные-роботы испытывают эмоции и умнее ли они обычных кошек и собак?) Фирма Sony тоже экспериментировала с эмоциональными роботами. Она разработала робота-собаку AIBO. Это первая игрушка, способная реалистично, хотя и довольно примитивно, изображать эмоциональный отклик на действия хозяина. К примеру, если вы приласкаете AIBO и погладите его по спине, он сразу же начнет довольно ворчать, издавая успокаивающие звуки. AIBO может ходить, исполнять голосовые команды и даже в какой-то степени учиться воспринимать новое. Но этот робот не может научиться новым эмоциям и эмоциональным реакциям. (Программа была прекращена в 2005 г. по финансовым соображениям, но у нее до сих пор есть последователи; они совершенствуют программное обеспечение робота и «учат» AIBO исполнять новые трюки.) Не исключено, что в будущем роботы-любимцы, способные поддерживать эмоциональную связь с детьми, станут обычными. Тем не менее, хотя набор эмоций у таких роботов будет внушительным и они действительно смогут поддерживать с ребенком длительную эмоциональную связь, настоящих эмоций они испытывать не будут. Инженерный анализ мозга К середине столетия мы, вероятно, сможем достигнуть очередного важного рубежа в истории ИИ: провести «инженерный анализ», т. е. проанализировать структуру человеческого мозга и создать его полноценную модель. Ученые, разочарованные неудачами в создании «настоящего» робота из кремния и стали, пробуют противоположный подход: «разбирают» мозг, нейрон за нейроном, — точно так же, как механик мог бы разбирать двигатель автомобиля, винтик за винтиком, — а затем начинают имитировать работу этих нейронов на громадном компьютере. Эти ученые пытаются моделировать работу нейронов у животных, начиная с мышей и кошек и постепенно поднимаясь вверх по эволюционной лестнице. У них вполне определенная цель и задача, которую, вероятно, можно будет решить к середине века. Фред Хэпгуд (Fred Hapgood) из МТИ пишет: «Если мы выясним, как работает мозг — как в точности он работает, на том же уровне, как мы понимаем работу мотора, — почти все учебники придется переписать». Первым шагом в инженерном анализе, или «реверсивном проектировании», мозга должно было стать понимание его общей структуры. Но даже решение этой простой задачи представляло собой долгий болезненный процесс. Если рассматривать исторически, то отдельные части мозга врачи и ученые обнаруживали во время вскрытий, не имея при этом никакого представления о выполняемых ими функциях. Ситуация начала постепенно меняться, когда ученые стали исследовать людей с травмами мозга и обнаружили, что повреждение различных участков мозга соответствовало различным изменениям в поведении. Жертвы инсульта и люди, перенесшие травму или заболевание мозга, демонстрировали вполне конкретные изменения в поведении, которые затем можно было соотнести с повреждением конкретных частей мозга. Самый наглядный случай такого рода произошел в 1848 г. в Вермонте, когда металлический стержень длиной более метра пробил насквозь череп железнодорожного десятника по имени Финеас Гейдж (Phineas Gage). Причиной этой исторической травмы стал случайный взрыв динамита. Стержень вошел десятнику в нижнюю часть лица сбоку, раздробил челюсть, прошел сквозь мозг и вышел через макушку. Как ни удивительно, человек выжил после страшной травмы, хотя одна или обе лобные доли его мозга были разрушены. Врач, лечивший Гейджа, поначалу не мог поверить, что человек может вынести такое и остаться в живых. Несколько недель раненый провел в полубессознательном состоянии, но затем чудесным образом оправился. После того несчастного случая он прожил еще двенадцать лет — ездил по стране, работал время от времени — и умер в 1860 г. Врачи сохранили его череп и стержень, которым была нанесена травма, и за прошедшие годы то и другое не один раз подвергалось тщательнейшему изучению. Современные технологии, в частности использование компьютерной томографии, позволили восстановить все детали этого необычайного случая. Надо сказать, что это событие навсегда изменило представления ученых о проблеме взаимоотношений сознания и тела. Ранее считалось, даже в научных кругах, что душа итело — это две совершенно независимые сущности. Ученые со знанием дела писали о некоей «жизненной силе», которая одушевляет тело и никак не зависит от мозга. Но отчеты об этом происшествии, которые разошлись очень широко, ясно указывали на то, что личность Гейджа после того несчастного случая заметно изменилась. Говорилось, что симпатичный, общительный и работящий человек после травмы превратился в раздражительного грубияна. После этого случая ученым стало окончательно ясно, что различные участки мозга отвечают за различные аспекты поведения, а потому тело и душа неразделимы. Следующий прорыв в деле изучения мозга произошел в 1930-е гг., когда неврологи и нейрохирурги, в частности Уайлдер Пенфилд (Wilder Penfield), заметили, что электрическое воздействие на различные участки мозга вызывает стимуляцию определенных частей тела пациента; эксперименты проводились во время операций на открытом мозге пациентов,страдающих эпилепсией. Прикосновение электрода к той или иной части коры головного мозга могло вызвать движение руки или ноги пациента. Опираясь на опыт множества операций, Пенфилд составил примерную схему коры головного мозга, где указал, какие ее части контролируют какие части тела. Теперь каждый может нарисовать человеческий мозг и подписать на картинке, где находятся центры управления различными органами. Эта схема напоминает «гомункулуса» — человечка, части тела которого пропорциональны зонам мозга, в которых они представлены; поэтому у него громадные пальцы на руках, губы и язык, но крохотное тельце. Еще позже магнитно-резонансные методы исследования позволили получить весьма информативные изображения функционирующего мозга, но даже эти методы не в состоянии отследить конкретные нейронные пути мысли, в прохождении которой задействуется, может быть, всего несколько тысяч нейронов. Но уже совсем недавно появилась новаяобласть науки — оптогенетика, соединившая в себе возможности оптики и генетики и позволившая все же проследить конкретные нейронные пути у животных. Можно привести по этому поводу следующую аналогию. Представьте, что вы хотите составить карту дорог. В этом случае результаты магнитно-резонансных исследований можно сравнить с прибором, способным увидеть автомагистрали и крупные транспортные потоки на них. Оптогенетика, возможно, сможет различить отдельные местные дороги и даже тропинки. Не исключено даже, что она даст ученым возможность управлять поведением животных путем стимулирования конкретных нейронных маршрутов. Эти исследования стали причиной нескольких громких Журналистских сенсаций. Так, крупный новостной сайт DrudgeReport поместил у себя кричащий заголовок: «Ученые создают дистанционно управляемых мух!» Средства массовой информации породили в общественном сознании образ таких мух, способных выполнить за Пентагон всю грязную работу. В телешоу Tonight Show Джей Лено (Jay Leno) говорил даже об управляемой мухе, которая могла бы по команде залететь в рот президенту Джорджу Бушу-младшему. Конечно, шутники вдоволь повеселились, представляя, как Пентагон одним нажатием кнопки отправляет на задание целые тучи всевозможных насекомых, но на самом деле пока все обстоит гораздо скромнее. Мозг плодовой мушки-дрозофилы насчитывает примерно 150 000 нейронов. Оптогенетические методы позволяют ученым вызвать свечение определенных нейронов мозга дрозофилы — тех, что соответствуют определенным поведенческим шаблонам. Выяснилось, к примеру, что активация двух конкретных нейронов дает мухе сигнал улетать как можно скорее. Муха автоматически выпрямляет ножки, расправляет крылышки и взлетает. Методами генной инженерии ученые сумели получить породу дрозофил, у которых пара «тревожных» нейронов срабатывает всякий раз при включении лазера. Стоит направить на этих мух лазерный луч, как они тут же поднимаются в воздух. Определение структуры мозга — задача огромной важности. В результате мы сможем не только потихоньку стимулировать части конкретных нейронных путей, поощряя тем самым определенные поведенческие шаблоны, но и использовать эту информацию в помощь жертвам инсультов и пациентам с заболеваниями или травмами мозга. Геро Мизенбёк (Gero Miesenbock) из Оксфордского университета и его коллеги научились идентифицировать таким образом нейронные механизмы животных. Они могут исследовать не только тревожный рефлекс дрозофил, но и, скажем, рефлексы, задействованные в восприятии запахов. Они изучали, к примеру, пути, управляющие поиском пищи у круглых червей, изучали нейроны, участвующие в принятии решений у мышей. Они выяснили, в частности, что если фруктовой мушке для запуска механизма рефлекторного поведения достаточно активации всего двух нейронов, то у мыши при принятиирешения задействуется уже почти 300 нейронов. Основной инструмент оптогенетиков — гены, контролирующие производство определенных красителей и светочувствительных молекул. К примеру, у медуз имеется ген, отвечающий за производство зеленого флуоресцентного белка. Кроме того, известен целый ряд молекул, таких как родопсин, которые при воздействии света начинают пропускать ионы через клеточные мембраны. Таким образом, воздействие света на эти организмы может запускать определенные химические реакции. Вооружившись красителями и светочувствительными веществами, ученые впервые смогли выделить нейронные контуры, отвечающие за определенные схемы поведения. Так что пусть юмористы пока смеются над учеными, которые будто бы пытаются создать мух-франкенштейнов и управлять их поведением посредством нажатия кнопки. Реальность одновременно и скромнее, и интереснее: ученым впервые в истории удалось выделить в мозгу нервные пути, отвечающие за конкретное поведение. Моделирование мозга Оптогенетика — всего лишь первый скромный шаг. Следующим шагом должно стать моделирование мозга целиком при помощи новейших технологических достижений. Существует по крайней мере два способа решения этой колоссальной по масштабу и значимости задачи, и любой из них потребует не одного десятка лет интенсивного труда. Первыйспособ состоит в применении суперкомпьютеров для имитации поведения миллиардов нейронов, каждый из которых соединен с тысячами других нервных клеток. Второй путь — определить опытным путем местонахождение каждого нейрона в мозгу. Ключ к первому подходу — моделированию мозга — прост: все дело в «грубой» компьютерной силе. Чем мощнее станут компьютеры, тем лучше. Не исключено, что гигантскую задачу действительно удастся решить при помощи грубой силы и далеких от элегантности теорий. В данный момент совершение этого поистине геркулесова подвига возложено на компьютер под названием Blue Gene, разработанный фирмой IBM, — один из самых мощных компьютеров на Земле. Я имел возможность увидеть этот чудовищный компьютер во время визита в Ливерморскую национальную лабораторию в Калифорнии, где разрабатывают водородные боеголовки для Пентагона. Это важнейшая из американских секретных военных лабораторий — обширный комплекс площадью 320 га в центре огромного массива сельскохозяйственных земель; бюджет лаборатории, где работает 6800 человек, составляет 1, 2 млрд долларов в год. Это сердце комплекса ядерных вооружений США. Чтобы попасть внутрь, мне пришлось пройти через многослойную систему охраны — ведь это одна из серьезнейших военных лабораторий в мире. В конце концов, после прохождения нескольких блокпостов, меня допустили в здание, где располагается компьютер Blue Gene фирмы IBM, способный производить вычисления с умопомрачительной скоростью 500 триллионов операций в секунду. Blue Gene представляет собой выдающееся зрелище. Этот монстр занимает площадь около 1000 кв. м и состоит из множества черных как смоль стальных шкафов около 2, 5 м высотой и 4, 5 м длиной. Шкафы выстроены бесконечными рядами и образуют настоящий лабиринт. Кстати говоря, прогулка среди этих черных шкафов производит странное впечатление. Если в голливудских научно-фантастических фильмах у компьютеров непременно мигают какие-то лампочки, крутятся диски, трещат и сверкают электрические разряды, то здесь совершенно тихо, лишь кое-где изредка вспыхивают крохотные огоньки. Вы понимаете, что компьютер вокруг вас производит триллионы сложнейших вычислений, но ничего не слышите и не видите во время его работы. Меня особенно заинтересовал тот факт, что Blue Gene, помимо всего прочего, занимается моделированием мыслительных процессов в мозгу мыши. Мозг этого зверька содержит всего лишь около двух миллионов нервных клеток (сравните со 100 миллиардами нейронов нашего мозга). Однако смоделировать мыслительные процессы в мозгу мыши труднее, чем кажется, потому что каждый нейрон связан со множеством других нейронов и вместе они образуют густую нейронную сеть. Но я гулял между бесконечными рядами консолей, из которых состоит Blue Gene, и с изумлением думал о том, что всей невероятной вычислительной мощи этого уникального компьютера хватает только на то, чтобы смоделировать работу мозга мыши, — и то лишь в течение нескольких секунд. (Это не означает, что Blue Gene способен смоделировать поведение мыши. В этом плане ученые пока добралисьтолько до таракана, и то едва-едва. Когда мы говорим о моделировании мыслительных процессов в мозгу животного, мы подразумеваем, что компьютер моделирует срабатывание нейронов мозга, а не поведение мыши.) На самом деле моделированием мозга мыши занимается сразу несколько групп ученых. В частности, такая попытка осуществляется в швейцарской Федеральной политехнической школе Лозанны; это амбициозный проект Генри Маркрама (Henry Markram) Blue Brain. Проект стартовал в 2005 г., когда исследователям удалось получить небольшой вариант компьютера Blue Gene всего с 16 000 процессоров; тем не менее в течение года команде Маркрама удалось создать модель неокортикальной колонки мозга крысы — части так называемой новой коры (неокортекса), содержащей 10 000 нейронов и 100 млн связей. Эта работа стала важной вехой, поскольку доказывала принципиальную возможность комплексного анализа структуры важной составной части мозга, нейрон за нейроном. (В мозгу мыши миллионы таких колонок, этот структурный элемент повторен многократно. Таким образом, модель даже одной колонки помогает понять, как работает мозг в целом.) В 2009 г. Маркрам оптимистично заявил: «Построить модель человеческого мозга вполне возможно, и мы в состоянии сделать это лет за десять. Если мы сделаем все правильно, она будет говорить, обладать интеллектом и вести себя совершенно как человек». Однако при этом он предупреждает, что для создания такой модели потребуется суперкомпьютер, в 20 000 раз более мощный, чем современные суперкомпьютеры, и с памятью, в 500 раз превосходящей по объему нынешний Интернет. Так что же мешает ученым достичь этой колоссальной цели? Для Маркрама все просто: нет денег. Ему кажется, что, поскольку базовые научные принципы моделирования мозга уже ясны, для успеха нужно просто вложить в проект достаточно денег. Он говорит: «Речь идет не о годах, а о долларах… Вопрос в том, хочет ли этого общество. Если модель нужна через десять лет, они получат ее через десять лет. Если она нужна через тысячу лет, мы можем подождать». Однако этой проблемой, помимо Маркрама, занимается еще одна группа ученых, которой удалось получить в свое распоряжение величайшие компьютерные мощности в истории. Эта группа работает с наиболее продвинутой версией Blue Gene, получившей название Dawn; она также находится в Ливерморе. Dawn — поистине впечатляющее зрелище; в нем 147 456 процессоров и 150 000 гигабайт памяти. Он примерно в 100 000 раз мощнее вашего настольного компьютера. На счету этой группы, которую возглавляет Дхармендра Модха (Dharmendra Modha), уже имеется несколько серьезных успехов. В 2006 г. она была в состоянии смоделировать 40 % мышиного мозга, а в 2007-м — уже 100 % крысиного (в мозге крысы около 55 млн нейронов, что гораздо больше, чем у мыши). В 2009 г. группа преодолела еще один рубеж и превзошла прежний мировой рекорд. Ей удалось смоделировать 1 % коры головного мозга человека, или приблизительно весь объем коры головного мозга кошки, — 1, 6 млрд нейронов и 9 трлн связей. Однако моделирование шло медленно, скорость работы модели примерно в 600 раз уступала скорости работы реального мозга. (Если модель охватывала только 1 млрд нейронов, она работала намного быстрее, всего в 83 раза медленнее, чем мозг.) «Это можно сравнить с телескопом Хаббла для сознания или с линейным ускорителем для мозга, — гордо говорит Модха, имея в виду научный масштаб этого достижения. Поскольку мозг содержит 100 млрд нейронов, моделирование даже одного миллиарда позволяет увидеть свет в конце туннеля. Ученые уверены, что полная модель человеческого мозга уже не за горами. — Это не просто возможно, это неизбежно. Так будет!» Однако моделирование человеческого мозга целиком до сих пор представляет серьезные проблемы, особенно в плане энергии и отвода тепла. Компьютер Dawn потребляет 1 МВт энергии и выделяет столько тепла, что только на его охлаждение работает 6675 т кондиционирующего оборудования, вырабатывающего 76 тыс. м3охлажденного воздуха в минуту. Для моделирования человеческого мозга целиком все эти числа придется умножить еще на 1000. Задача воистину монументальная. Энергопотребление гипотетического суперкомпьютера составило бы 1 ГВт, что соответствует типовой мощности одного энергоблока атомной станции. Этой энергией можно было бы осветить и обогреть крупный город! Для охлаждения этого суперкомпьютера потребовалось бы отвести целую реку и пропустить ее воды через компьютер. А сам компьютер занял бы не один городской квартал. Поразительно, но человеческий мозг потребляет всего 20 Вт. Выделяемое им тепло почти незаметно, и все же мозг с легкостью оставляет позади совершеннейшие суперкомпьютеры. Более того, человеческий мозг — самое сложное творение матери-природы в этой части Галактики. У нас нет до сих пор никаких данных о присутствии в Солнечной системе других форм разумной жизни, а значит, до ближайшего объекта, сравнимого по сложности с содержимым вашего черепа, от Земли не менее 40 трлн км (расстояние до ближайшей звезды), а скорее гораздо больше. Не исключено, что нам действительно удалось бы провести реверсивное проектирование мозга за десять лет, но лишь при условии неограниченного финансирования и национальной ударной программы — что-нибудь вроде Манхэттенского проекта. Однако, учитывая общий экономический климат, в ближайшее время таких вложений вряд ли стоит ожидать. Отметим, что правительство США в последние годы поддерживало несколько серьезных приоритетных проектов, таких как «Геном человека», который обошелся почти в три миллиарда долларов, но лишь потому, что они обещали очевидные научные и медицинские выгоды. Выгоды проекта моделирования мозга не столь очевидны, поэтому времени на него уйдет гораздо больше. Более реалистично, наверное, предположить, что мы будем двигаться к цели маленькими шажками и до исторического момента, когда полная модель будет наконец создана, пройдет еще не один десяток лет. Так что компьютерное моделирование мозга протянется, вероятно, до середины века. И даже после завершения проекта понадобится еще несколько десятков лет, чтобы разобраться в горах полученной информации и соотнести ее с реальным человеческим мозгом. Мало того что мы утонем в данных, у нас к тому же не будет средств, которые позволили бы надежно отфильтровать шум и отделить полезную информацию от случайной. Разборка мозга Но как же второй подход, о котором шла речь, — определение точного местоположения каждого нейрона? Этот подход также ставит перед учеными задачу, достойную Геракла, и скорее всего означает десятилетия тщательных исследований. Вместо суперкомпьютеров вроде Blue Gene ученые, выбравшие такой подход, пользуются методом последовательного анализа. Для начала они препарируют мозг дрозофилы, разрезая его на тончайшие ломтики толщиной не более 50 нм (около 150 атомов). Получаются миллионы ломтиков, каждый из которых фотографируется при помощи сканирующего электронного микроскопа, скорость и разрешение которого приближаются к миллиарду точек в секунду. Электронный микроскоп выдает на-гора невероятное количество данных — около 1000 трлн байт; этого достаточно, чтобы наполнить носителями информации целую комнату. И все это — для описания мозга одной-единственной плодовой мушки! Затем приходит черед обработки данных и тщательного, скрупулезного восстановления трехмерных связей каждого нейрона; на это уходит около пяти лет. А для получения более точной картины мушиного мозга придется разделать и исследовать мозг не одного десятка особей. Джерри Рубин (Gerry Rubin) из Медицинского института Говарда Хьюза, один из лидеров в этой области исследований, считает, что на составление полной, точной и подробной карты мозга дрозофилы уйдет 20 лет. «Я бы сказал, что, когда эта задача будет решена, мы пройдем пятую часть пути к пониманию человеческого мозга», — заключает он. Рубин понимает всю масштабность и сложность стоящей перед ним задачи. Человеческий мозг имеет в миллион раз больше нейронов, чем мозг дрозофилы. И если на регистрацию каждого нейрона мушиного мозга уйдет 20 лет, то на установление полной нейронной архитектуры человеческого мозга наверняка понадобится еще не одно и не два десятилетия. Стоить этот проект тоже будет громадных денег. Итак, мы видим, что все участники процесса инженерного анализа мозга пока находятся в сложном положении. Они видят и ясно различают цель, представляют, как можно еедостичь, но отсутствие денег не позволяет им работать в полную силу. Можно с достаточной долей уверенности предположить, что где-нибудь к середине века у нас появятся достаточно мощные компьютеры, на которых можно будет смоделировать человеческий мозг, а также грубые приблизительные карты нейронной архитектуры мозга. Однако на полное понимание механизма мышления или на создание машины, способной дублировать функции человеческого мозга, не приходится рассчитывать раньше самого конца XXI в. Приведем пример. Получив карту точного расположения каждого гена в теле муравья, вы не узнаете, как строится муравейник. Точно так же сам по себе факт, что ученые теперь знают все 25 000 генов, которые составляют геном человека, не означает, что они поняли, как работает человеческое тело. Вообще, проект «Геном человека» напоминаеттолковый словарь, в котором нет определения слов. Каждый ген в теле человека четко расшифрован и расписан по буквам, но что каждый из них делает, по-прежнему в значительной степени остается загадкой. В каждом гене закодирована структура определенного белка, но неизвестно, как большинство этих белков функционирует в организме. Еще в 1986 г. ученые смогли составить полную карту расположения всех нейронов в нервной системе крохотного червячка С. elegans. Первоначально это достижение было объявлено прорывом и ключом к раскрытию загадки мозга. Однако знание точного расположения 302 нервных клеток и 6000 химических синапсов даже сейчас, спустя несколько десятилетий, не дает ученым ничего нового для понимания физиологии червя. Точно так же даже после создания полной и точной модели человеческого мозга пройдет не один десяток лет, прежде чем мы сможем понять, как работают и взаимодействуют между собой все его части. Если удастся все же завершить реверсивное проектирование и полную расшифровку структуры мозга к концу столетия, это будет означать, чтосделан громадный шаг к созданию человекоподобных роботов. Что тогда помешает им захватить власть? Отдаленное будущее (2070–2100 гг.) Когда машины обретут сознание В фильмах про Терминатора рассказывается о том, как Пентагон построил и с гордостью запустил в действие Skynet — громадную сверхзащищенную компьютерную сеть, предназначенную для управления ядерным арсеналом США. Эта сеть безупречно исполняла свои обязанности до тех пор, пока однажды, в 1995 г., неожиданно не произошло что-то очень странное. Суперкомпьютер Skynet осознал себя. Люди, работавшие с сетью, с изумлением поняли, что их детище внезапно обрело разум, и попытались выключить его, но опоздали. Защищая себя, Skynet решил, что единственный способ обеспечить собственную безопасность — это уничтожить человечество. Для этого он начал разрушительную ядерную войну. Вскоре три миллиарда людей сгорели в пламени бессчетных ядерных взрывов. После этого Skynet выпустил в мир легионы роботов-убийц, целью которых было уничтожение оставшихся. Современная цивилизация рухнула, оставив после себя лишь крошечные жалкие шайки бандитов и бунтарей. А в трилогии «Матрица» люди показаны настолько примитивными, что даже не понимают: машины уже захватили мир. Люди занимаются повседневными делами, думают, что все нормально, и не замечают, что на самом деле живут в коконах. Их мир — всего лишь модель виртуальной реальности, которой управляют хозяева-роботы. Человеческое «существование» — всего лишь компьютерная программа, выполняемая большим компьютером; данные с нее поступают непосредственно в мозг людей, живущих в этих коконах. Единственная причина, по которой машины вообще терпят присутствие людей, — тот факт, что их можно использовать как источники питания. Конечно, задача Голливуда — напугать аудиторию до полусмерти. Но сюжеты этих и других фильмов поднимают законный научный вопрос: что произойдет, когда роботы наконец станут умнее нас? Что произойдет, когда роботы проснутся и осознают себя? Ученые активно обсуждают вопрос, что будет — причем не если, а когда произойдет это знаменательное событие. Некоторые эксперты утверждают, что наши создания-роботы будут постепенно подниматься по эволюционному древу. Сегодня они сравнимы по интеллекту с тараканами. В будущем они вырастут и сравняются с мышами, кроликами, собаками и кошками, обезьянами, а затем станут соперничать с человеком. На медленное преодоление этого пути могут уйти десятилетия, но ученые верят, что это всего лишь вопрос времени и когда-нибудь машины обязательно превзойдут нас разумом. Исследователи ИИ расходятся в вопросе о том, когда это может произойти. Некоторые говорят, что не позже чем через двадцать лет роботы приблизятся по разумности к человеческому мозгу, а затем оставят своих создателей далеко позади. В 1993 г. Вернор Виндж (Vernor Vinge) сказал: «Не пройдет и тридцати лет, как у нас появится техническая возможность создать сверхчеловеческий разум. Вскоре после этого эра человека закончится… Я буду удивлен, если это событие произойдет раньше 2005-го или позже 2030 г.». С другой стороны, Дуглас Хофштадтер (Douglas Hofstadter), автор книги «Гёдель, Эшер, Бах», говорит: «Я буду очень удивлен, если что-нибудь хотя бы отдаленно похожее произойдет в ближайшие 100–200 лет». Когда я разговаривал с Марвином Мински из MIT — одной из основополагающих фигур в истории искусственного интеллекта, он заметил, что не назначает сроков для этого события и не может сказать, когда именно оно произойдет. Он уверен, что такой день наступит, но категорически отказывается выступать в роли пророка и предсказывать точную дату. (Возможно, будучи мэтром ИИ — области науки, в создании которой он участвовал практически с нуля, Мински видел слишком много несбывшихся прогнозов, породивших к тому же обратную реакцию.) Немалую часть проблемы с датами и сценариями составляет тот факт, что общепринятого представления о том, что такое сознание, просто не существует. Философы и математики бьются над этим вопросом не одно столетие, а воз и ныне там. Мыслитель XVII в. Готфрид Лейбниц, изобретатель интегрального исчисления, однажды написал: «Даже если бы можно было увеличить мозг до размеров ветряной мельницы и побродить внутри, никакого сознания мы бы там не нашли». Философ Дэвид Чалмерс составил список из почти 20 000 научных работ, написанных на эту тему, и не обнаружил у авторов какого бы то ни было единого мнения. Нигде в науке столь громадные усилия множества людей не дали столь ничтожного результата. Слово сознание, к сожалению, относится к тем громким и красивым словам, которые для разных людей означают разное. Как ни печально, общепринятого определения этого понятия не существует. Лично я думаю, что неспособность четко определить сознание, а также измерить его количественно — это одна из серьезных проблем науки, занятой созданием искусственного интеллекта. Но если бы мне предложили попробовать самому, я начал бы с того, что сознание включает в себя по крайней мере три основных компонента: 1) восприятие и распознавание окружающего мира; 2) самоанализ; 3) планирование будущего, постановку целей и составление планов, т. е. моделирование будущего и выбор стратегии. При таком подходе можно сказать, что даже простые механизмы и насекомые обладают какой-то формой сознания, Которую можно оценить численно по шкале от 1 до 10. Существует целое пространство сознания, которое можно представить в количественной форме. Молоток не способен воспринимать окружающий мир, так что его сознание можно оценить как 0 по принятой нами шкале. Однако термостат, к примеру, уже способен воспринимать и оценивать окружающую действительность. Суть термостата в том, что он чувствует температуру окружающей среды и действует в соответствии с ней, при этом изменяя ее; сознание термостата можно оценить уровнем 1. Следовательно, любые механизмы с обратной связью обладают примитивной формой сознания. Черви тоже способны воспринимать окружающий мир. Они чувствуют присутствие пищи, партнера, а также опасности и действуют в соответствии с полученной информацией, но больше не могут почти ничего. Насекомые воспринимают мир несколькими органами чувств (к примеру, зрение, слух, нюх, датчик давления и т. п.) и достойны более высокой численной оценки; их сознание следует оценить, возможно, в 2 или 3. Высшей формой восприятия действительности должна быть способность распознавать и понимать объекты окружающего мира. Человек в состоянии мгновенно оценить обстановку и действовать в соответствии с ней — а значит, его сознание достойно высокой оценки по нашей шкале. Однако именно здесь роботы не в состоянии составить нам серьезную конкуренцию. Распознавание образов, как мы уже видели, — один из принципиальных рубежей на пути к искусственному интеллекту и одновременно одно из серьезнейших препятствий. Роботы способны воспринимать окружающий мир гораздо лучше людей, но они не понимают и не узнают то, что видят. Из-за неспособности распознавать образы роботы на шкале сознания оказываются на самых нижних ступеньках, где-то рядом с насекомыми. Следующий, более высокий уровень сознания связан с самоанализом. Если поставить зеркало почти перед любым животным мужского пола, реакция будет немедленной и довольно резкой: самцы проявляют откровенную агрессивность, иногда даже нападают на зеркало. Изображение заставляет животное-самца защищать свою территорию. Многие животные не сознают себя — и, соответственно, не узнают себя в зеркале. Однако обезьяны, слоны, дельфины и некоторые птицы быстро понимают, что отражение в зеркале — это они сами, и прекращают бессмысленные атаки. Человек близок к верхней планке этой шкалы, поскольку обладает высокоразвитым самосознанием и прекрасно понимает, кем он является по отношению к другим животным, другим людям и миру в целом. Мало того, человек настолько осознает себя, что способен вести внутренний диалог с самим собой, а значит, мысленно оценивать ситуацию. Наконец, животных можно оценить по их способности планировать будущее. Насекомые, насколько нам известно, не ставят перед собой сложных целей. Напротив, они по большей части реагируют на окружающую обстановку непосредственно, шаг за шагом, и полагаются целиком на инстинкты и сиюминутные внешние раздражители. В этом смысле хищники по уровню сознания стоят выше, чем их жертвы. Хищникам приходится кое-что планировать заранее: подыскивать место для логова, планировать засаду, выслеживать, предугадывать действия добычи. Добыче же, как правило, достаточно просто убегать, и побыстрее, так что ее сознание следует оценивать ниже. Далее, приматы способны импровизировать, составляя планы на ближайшее будущее. Если показать человекообразной обезьяне банан, который находится рядом, но вне пределов досягаемости, она может изобрести какой-нибудь способ достать банан; к примеру, воспользоваться палкой. Так что, имея перед собой конкретную цель (достать пищу), приматы планируют ближайшее будущее так, чтобы достичь этой цели. Однако в целом животные не обладают развитым чувством отдаленного прошлого или будущего. Очевидно, в животном Царстве не бывает завтрашнего дня. Нет никаких свидетельств того, что животные могут планировать будущее на несколько дней вперед. (В преддверии зимы многие животные запасают пищу, но такое поведение запрограммировано генетически: гены заставляют их реагировать на снижение температуры усиленными поисками еды.) Зато человек обладает прекрасно развитым чувством будущего и постоянно составляет планы. В голове каждый из нас непрерывно моделирует будущую реальность. Мы способны составлять планы, которые простираются далеко за пределы нашей собственной жизни. Более того, мы оцениваем других людей по их способности верно предугадать развитие ситуации и сформулировать конкретную стратегию поведения на этот случай. Умение предсказать будущее, взвесить возможные последствия и сформулировать конкретные цели с учетом всех обстоятельств — важная часть способности к лидерству. Иными словами, эта форма сознания включает в себя предвидение будущего, т. е. создание многочисленных моделей, аппроксимирующих будущие события. Для этого необходимо великолепное владение принципами здравого смысла и законами природы. Вы должны постоянно задавать себе вопрос: «Что будет, если?..» Не важно, что вы планируете сделать — ограбить банк или избраться в президенты; чтобы спланировать задуманное, вам все равно придется строить в голове многочисленные модели возможного будущего. Все данные указывают на то, что на Земле этим искусством овладел пока только человек. В этом можно убедиться, в частности, при анализе психологических профилей. Специалисты часто сравнивают психологические профили взрослых с их же профилями, полученными, когда они были детьми. Затем задается вопрос: какое качество в профиле ребенка могло указать на будущий успешный брак, успешную карьеру, богатство и т. п.? Если исключить из картины социоэкономические факторы, обнаруживается, что нередко в профиле одна характеристика выделяется среди остальных: способность откладывать удовольствие. Согласно многолетним исследованиям Уолтера Мишеля (Walter Mischel) из Колумбийского университета и многих других ученых, дети, способные воздержаться от немедленного получения удовольствия (к примеру, не съесть сразу же полученную палочку пастилы) и дождаться обещанной более высокой награды (скажем, двух палочек пастилы вместо одной), позже стабильно добиваются более высоких результатов едва ли не во всех мыслимых областях жизни: в учебе, в любви и в карьере. Следует заметить, что способность отложить удовольствие указывает на более высокий уровень самоанализа и сознания. Такие дети умеют моделировать будущее и способны понять, что это будущее обещает больше. Для того чтобы видеть возможные последствия собственных действий, требуется более высокий уровень сознания. Таким образом, исследователи ИИ должны стремиться к созданию робота, обладающего всеми тремя рассмотренными качествами. Первое труднодостижимо, поскольку роботымогут воспринимать окружающий мир, но не способны разобраться в нем. Самоанализ — более простая цель. А вот для планирования будущего необходим здравый смысл, интуитивное понимание, что возможно и что невозможно, а также конкретные стратегии достижения конкретных целей. Мы видим, что здравый смысл — необходимая предпосылка для высшего уровня сознания. Чтобы робот мог моделировать реальность и предугадывать будущее, он должен сначала освоить миллионы закономерностей окружающего мира, составляющие так называемый житейский здравый смысл. Но одного этого недостаточно. Здравый смысл — это всего лишь «правила игры», а вовсе не законы стратегии и планирования. Мы получили шкалу, по которой можно оценить всех существующих на настоящий момент роботов. Ясно, что Deep Blue, машина-шахматист, окажется на этой шкале очень низко. Она, конечно, может выиграть у чемпиона мира по шахматам — и только. Она способна моделировать реальность, но лишь в рамках шахматных правил. Моделировать какую бы то ни было иную реальность она не в состоянии. То же можно сказать о большинстве крупнейших компьютеров мира. Они великолепно моделируют один из аспектов реальности — к примеру, атомный взрыв, обтекание воздухом летательного аппарата или погоду. Эти компьютеры просчитывают сложнейшие модели гораздо лучше человека. Но при этом они очень одномерны, а потому не имеют шансов на выживание в реальном мире. Сегодня исследователи ИИ не представляют, как можно воспроизвести в роботе процессы мышления. Большинство ученых просто поднимает руки и говорит, что как-нибудь громадные сети компьютеров сами выдадут «системные эффекты», так же как иногда из хаоса спонтанно возникает порядок. Если же прямо спросить, как именно эти системные эффекты приведут к возникновению сознания, большинство пожимает плечами и закатывает глаза. Мы не знаем, как сделать робота, который обладал бы сознанием, но вообразить робота, который превзошел бы нас, мы в состоянии. Для оценки уровня сознания воспользуемся всем уже сказанным. Такой робот должен великолепно проявлять себя в третьем качестве: он сможет гораздо лучше, чем мы, производить сложнейшие расчеты и моделирование будущего; он сможет рассмотреть больше вариантов, под разными углами, более подробно и глубоко. Его модели будут более точными, чем наши, потому что он будет лучше владеть здравым смыслом и законами природы, а потому лучше видеть закономерности. Он научится замечать проблемы, которые человек мог бы недооценить или просто не заметить. Более того, он научится ставить перед собой собственные цели. Если роботы поставят себе цель, в частности, помогать роду человеческому, все в порядке. Но если однажды окажется, что человечество мешает достижению какой-то их цели, последствия могут быть весьма неприятными. Все это порождает следующий вопрос: что станет с человечеством, если будет реализован второй сценарий? Когда роботы превзойдут людей В одном сценарии нас, ничтожных человечков, просто отодвинут в сторону как пережиток эволюции. Более приспособленные виды развиваются и сменяют менее приспособленные — это закон эволюции. Возможно, существование человечества на этом закончится и последние люди будут доживать свой век в зоопарках под любопытными взглядами наших творений-роботов. Возможно, такова наша судьба: дать жизнь суперроботам, которые затем будут относиться к нам как к чудовищно примитивной и не слишком существенной главе своей эволюции. Может быть, в этом и состоит наша историческая роль — породить тех, кто сменит нас на пути эволюции. В этом сценарии нашей задачей будет побыстрее уйти с пути разумных роботов. Дуглас Хофштадтер признался мне, что, возможно, таков естественный порядок вещей, но мы должны относиться к этим сверхразумным роботам как к собственным детям — ведь они и впрямь наши дети в каком-то смысле. Если человек может заботиться о своих детях, сказал он мне, то почему он не может так же заботиться и о разумных роботах, которые тоже являются нашими детьми? Ганс Моравек представляет, как может чувствовать себя человек, которого обошли и оставили далеко позади роботы: «…жизнь может показаться бессмысленной, если нам суждено будет провести ее за глупым разглядыванием нашего сверхразумного потомства, в то время как они будут пытаться растолковать нам свои все более впечатляющиедостижения упрощенным языком, чтобы мы могли понять». Если настанет наконец судьбоносный день, когда роботы обойдут нас разумом, мы не только перестанем быть самыми разумными существами на Земле; наши создания смогутизготовить собственные копии и даже улучшить их, так что «дети» будут умнее «родителей». Эта армия самовоспроизводящихся роботов положит начало бесконечному ряду будущих поколений, причем каждое следующее будет умнее предыдущего. А поскольку теоретически роботы смогут создавать следующие поколения очень быстро, со временем этот процесс вплотную подойдет к экспоненциальному взрыву, и бесчисленные роботы в своем ненасытном стремлении к разумности начнут истощать ресурсы планеты. В одном из возможных сценариев этот ненасытный аппетит ко все более высокому интеллекту со временем истощит все ресурсы планеты и Земля целиком превратится в компьютер. Некоторые считают, что сверхразумные роботы отправятся с Земли к звездам, чтобы там продолжить свой бесконечный квест; они доберутся до других планет, звезди галактик и попытаются превратить в компьютеры и их. Но поскольку планеты, звезды и галактики находятся от нас невероятно далеко, Земля-компьютер, возможно, сумеет изменить законы природы, так чтобы можно было путешествовать быстрее скорости света и поглощать целые звездные системы и галактики. Некоторые даже верят, что в конце концов этот сверхкомпьютер сможет поглотить всю Вселенную, так что Вселенная тоже станет разумной. Получается сингулярность. Слово это первоначально пришло из мира релятивистской физики — моей научной специализации, где сингулярность представляет собой точкус бесконечной гравитацией, откуда ничто не может улететь, такую как черная дыра. Поскольку свет тоже не может оттуда улететь, увидеть что-либо за этим горизонтом непредставляется возможным. Идея ИИ-сингулярности впервые была высказана в 1958 г. в беседе между двумя математиками, Станиславом Уламом (которому довелось сделать ключевой шаг в разработке водородной бомбы) и Джоном фон Нейманом. Улам писал: «Один из разговоров крутился вокруг все ускоряющегося технического прогресса и изменений в образе жизни людей, покоторым похоже, что приближается некая важная сингулярность в истории человеческого рода, после которой дела человечества, какими мы их знаем, не смогут продолжаться». Различные варианты этой идеи витали в воздухе уже несколько десятков лет. Но именно тогда ее подхватил, усилил и популяризовал в своих романах и эссе писатель-фантаст и математик Вернор Виндж. Но все это не дает ответа на главный вопрос: когда наступит эта сингулярность? При нашей жизни? Может быть, в следующем столетии? Или никогда? Можно вспомнить, что участники Азиломарской конференции 2009 г. решили: до этого знаменательного момента может пройти от 20 до 1000 лет. Есть человек, которого в настоящее время можно, пожалуй, назвать выразителем идей сингулярности. Это изобретатель и автор бестселлеров Рей Курцвейл; он очень любит делать предсказания, основанные на экспоненциальном развитии техники. Курцвейл однажды сказал мне, что при взгляде ночью на далекие звезды, по идее, там можно отыскать какие-то космические свидетельства подобной же сингулярности, имеющей место в далекой-далекой галактике. Если эта стремительно расширяющаяся сингулярность обладает способностью пожирать или переделывать целые звездные системы, следы ее деятельности должны оставаться и быть заметны. (Его противники говорят, что он поднимает вокруг пресловутой сингулярности едва ли не религиозный шум. Однако сторонники возражают, что Курцвейл, судя по его послужному списку, обладает необычайной способностью верно предугадывать будущее.) Курцвейл всерьез столкнулся с компьютерной революцией, когда основал несколько компаний в разных областях, имеющих отношение к распознаванию образов; речь шла о технологиях распознавания речи, оптического распознавания символов и о разработке электронных клавишных музыкальных инструментов. В 1999 г. он написал бестселлер «Эпоха духовных машин: когда компьютеры превзойдут интеллектом человека», в котором предсказал дату этого события. В 2005 г. он написал книгу «Сингулярность уже близка», в которой изложил свои предсказания более подробно. Путь к знаменательному дню, когда компьютеры превзойдут человека в разумности, будет состоять из несколькихэтапов. К 2019 г., предсказывает он, персональный компьютер стоимостью в 1000 долларов по чистой вычислительной мощности сравняется с человеческим мозгом. Вскоре после этого компьютеры оставят нас далеко позади. К 2029 г. тот же персональный компьютер стоимостью в 1000 долларов будет уже в 1000 раз мощнее человеческого мозга. К 2045 г. все тот жеПК за 1000 долларов будет обладать в миллиард раз более мощным интеллектом, чем все человечество, вместе взятое. Способности даже небольших компьютеров будут намного превосходить способности всего рода человеческого. После 2045 г. компьютеры станут настолько продвинутыми, что смогут производить собственные копии в еще более продвинутом варианте, открывая тем самым путь к технологической сингулярности. Стремясь удовлетворить эту нескончаемую и ненасытную жажду компьютерной мощности, они начнут поглощать Землю, астероиды, планеты и звезды и смогут даже повлиять на космологическую историю нашей Вселенной. Мне довелось побывать в гостях у Курцвейла в его офисе в пригороде Бостона. Проходя по коридору, вы видите на стенах дипломы полученных им премий и наград, а также некоторые из разработанных им музыкальных инструментов, которыми пользуются лучшие музыканты, такие как Стиви Уандер. Курцвейл рассказал мне, что в его жизни был поворотный момент. В 35 лет ему неожиданно поставили очень неприятный диагноз: диабет II типа. Внезапно он, что называется, упал с небес на землю и понял, что может не дожить до исполнения собственных пророчеств. После многих лет небрежения тело его состарилось до срока. Курцвейл был потрясен диагнозом, но рук не опустил. Он подошел к вопросу собственного здоровья с теми же энтузиазмом и энергией, с какими относился к компьютерной революции. (Сегодня он принимает в день более 100 таблеток и написал несколько книг о революции в деле продления жизни. Он считает, что революция в создании микроскопических роботов приведет к появлению средств очистки и ремонта человеческого тела, которые позволят ему жить вечно. Его философия состоит в том, что он хотел бы прожить достаточно, чтобы увидеть революционные медицинские новинки, которые позволят продлить жизнь до бесконечности. Иными словами, он хочет прожить достаточно долго, чтобы жить вечно.) Недавно он пустился в амбициозный проект по организации университета сингулярности при Исследовательском центре NASA имени Эймса в районе Сан-Франциско, который будет готовить ученых к близкому наступлению технологической сингулярности. Вообще, существует множество вариаций и комбинаций этих тем. Сам Курцвейл считает: «Это не будет вторжение разумных машин откуда-то из-за горизонта. Мы и сами сольемся с этой технологией… Мы поместим эти умные устройства в наши тела и мозг, чтобы жить дольше и счастливее». Любая противоречивая идея — а идея технологической сингулярности, согласитесь, весьма противоречива — обязательно порождает обратную реакцию. Митч Капор (Mitch Карог), основатель Lotus Development Corporation, говорит, что сингулярность — это своего рода «разумный замысел для людей с коэффициентом интеллекта 140… Утверждение о том, что мы приближаемся к моменту, когда все изменится, станет просто невообразимо не так, как сейчас, — это в основе своей, на мой взгляд, проявление религиозного импульса. И никакое Размахивание руками не может заслонить от меня этот факт». Дуглас Хофштадтер сказал: «Это как если бы вы взяли много хорошей еды и немного собачьего дерьма и смешали бы все вместе, так чтобы невозможно было разобраться, чтохорошо и что плохо. Это почти однородная смесь чепухи и отличных идей, и очень трудно различить, где что, потому что говорят об этом умные люди; они не глупы». Никто не знает, чем все это обернется. Но мне лично наиболее вероятным представляется следующий сценарий. Наиболее вероятный сценарий: дружественный ИИ Во-первых, ученые, вероятно, примут некоторые простые меры к тому, чтобы роботы не были опасны. В качестве минимальной меры в мозг робота можно поместить специальный чип, который будет автоматически выключать своего носителя при возникновении у него мыслей об убийстве людей. При таком подходе все разумные роботы будут снабжены отказоустойчивым механизмом, который любой человек сможет в любой момент включить, особенно если робот вдруг начнет вести себя неправильно. При малейшем намеке на неисправность и сбои в функционировании робота любая голосовая команда немедленно выключит его. Или можно создать специальных роботов-охотников, обязанностью которых будет нейтрализация роботов с отклонениями в поведении. Роботы-охотники будут превосходить обычных роботов по скорости, силе и координации и смогут без труда захватывать девиантных роботов. В их схему будет заложено понимание слабых мест любой автоматической системы, любого робота, а также принципы их поведения в определенных обстоятельствах. Охотником на сбойных роботов может стать и человек. В фильме «Бегущий по лезвию бритвы» был показан отряд особо тренированных агентов, в который входил и главный герой в исполнении Харрисона Форда; эти агенты владели специальными техниками, необходимыми для выявления и нейтрализации роботов-преступников. На постепенное восхождение роботов по эволюционной лестнице разума уйдет много десятилетий тяжкой работы, поэтому появление разумных роботов не станет внезапным. Человечество невозможно будет захватить врасплох и сразу же загнать в зоопарки, как зверей. Сознание, в моем понимании, — это скорее процесс, ход которого можно оценивать, а не внезапное эволюционное событие, и восхождение роботов по шкале сознания будет идти медленно и постепенно и займет не один десяток лет. В конце концов,на развитие человеческого сознания у матери-природы ушли миллионы лет. Так что для человека не станет неожиданностью, когда Интернет внезапно «проснется» или роботы ни с того ни с сего начнут самостоятельно планировать собственное будущее. Именно такой подход предпочитал писатель-фантаст Айзек Азимов. В его произведениях каждому роботу еще на заводе намертво встраивали в сознание три непреложных закона, не позволявших им выйти из-под контроля. Цель знаменитых трех законов робототехники, придуманных им, состояла в том, чтобы не дать роботам нанести вред человеку или себе самим. (Если очень коротко, эти три закона гласят, что робот не может нанести вред человеку, что он должен повиноваться человеку и что он должен заботиться о себе, именно в этом порядке.) (Даже азимовские законы не избавляют от проблем в тех случаях, когда ситуация порождает противоречие между тремя законами. Представьте, к примеру, что кому-то удалось создать благожелательного робота. Что произойдет, если человечество вдруг сделает губительный выбор и поставит под угрозу собственное существование? Дружественный робот может решить, что необходимо взять под контроль правительство и не дать человеку нанести себе вред. Именно с этой проблемой столкнулся Уилл Смит в кинофильме «Я, робот», когда центральный компьютер решил, что для спасения человечества «некоторыми людьми необходимо пожертвовать, а от некоторых свобод отказаться». Чтобы не позволить роботам поработить человечество и спасти его, некоторые предлагают дополнить законы робототехники еще одним, нулевым законом: робот не может нанести вред человечеству или поработить его.) Однако многие ученые склоняются к варианту так называемого «дружественного ИИ», при котором подразумевается, что человек с самого начала сделает роботов доброжелательными созданиями. Поскольку именно мы — создатели роботов и именно мы будем их разрабатывать, ничто не помешает нам сделать так, чтобы роботы с самого начала занимались только полезными и добрыми делами. Понятие «дружественный ИИ» или «дружественный сверхразум» ввел в обращение Элиезер Юдковский (Eliezer Yudkowsky), один из основателей Института сингулярности по искусственному интеллекту. Дружественный ИИ несколько отличается от законов Азимова, которые предполагается навязывать роботам, возможно против их воли. (Более того, законы Азимова, привнесенные в сознание роботов извне, могут побудить их поступить наоборот и заняться поиском хитрых путей их обхода.) В дружественном ИИ, напротив, ничто не мешает роботам убивать и безобразничать. Здесь нет законов, насаждающих искусственную мораль. Скорее можно сказать, что эти роботы с самого начала придуманы так, что для них естественным является желание помогать людям, а не губить их. Они сами выбирают путь добра. Такой подход породил новое направление, получившее название «социальной робототехники». Его цель — наделить роботов качествами, которые помогут им безболезненно войти в человеческое общество. Ученые компании Hanson Robotics, к примеру, утверждают, что единственная задача их исследований — разработка роботов, которые «эволюционируют в социально разумные существа, способные любить и достойные места в расширенной человеческой семье». Проблема с подобными подходами в том, что больше всего — и намного! — денег в разработки по искусственному интеллекту вкладывают военные, и роботы, создаваемые поих заказам, специально предназначены для выслеживания и убийства людей. Несложно вообразить себе будущих роботов-солдат, задачей которых будет распознавать солдат противника (людей) и уничтожать их с безошибочной эффективностью. При этом придется принимать чрезвычайные, невообразимые меры, чтобы гарантировать, что военныероботы не обернутся против своих хозяев. К примеру, беспилотный роботизированный самолет Predator управляется дистанционно, так что все его действия постоянно контролируют люди, но когда-нибудь самолеты-беспилотники, вероятно, станут автономными и получат возможность самостоятельно выбирать и поражать цели. Сбой в системе управления такого автономного самолета может вызвать катастрофические последствия. В будущем, однако, все большая доля финансирования в разработку роботов будет поступать из гражданского коммерческого сектора, особенно в Японии, где назначение роботов — помогать, а не разрушать. Если такая тенденция сохранится, дружественный ИИ действительно может стать реальностью. В этом сценарии в робототехнике со временем возьмут верх потребительский сектор и рыночные силы, так что вкладывать деньги в дружественный ИИ станет чрезвычайно выгодно. Слиться с роботами В дополнение к дружественному ИИ существует и другой вариант: слиться со своими созданиями. Вместо того чтобы просто ждать, пока роботы превзойдут нас в интеллекте и мощи, нам следует улучшать себя и становиться сверхлюдьми. Я считаю, что будущее будет двигаться по обоим этим путям, т. е. человек будет создавать дружественный ИИ и одновременно совершенствоваться. Этот вариант исследовал, в частности, Родни Брукс (Rodney Brooks), бывший директор знаменитой Лаборатории искусственного интеллекта МТИ. Он всегда был бунтарем, сражалсяс общепринятыми, но косными представлениями и вносил в эту область свежие идеи. Когда он только пришел в робототехнику, там безраздельно господствовал подход «сверху вниз». В результате в робототехнике наблюдался застой. Брукс вызвал немало удивленных взглядов, когда призвал к созданию армии насекомоподобных роботов, которые обучались бы на основе подхода «снизу вверх», т. е. натыкаясь на препятствия. Он не хотел делать еще одного тупого неуклюжего робота, которому требовалось бы несколько часов, чтобы пересечь комнату. Вместо этого он придумал проворных «инсектоидов», которые почти не требуют предварительного программирования, но быстро учатся передвигаться и ориентироваться среди препятствий методом проб и ошибок. Он предвидит наступление дня, когда его роботы и подобные им будут исследовать Солнечную систему, натыкаясь в пути на всевозможные препятствия. Эта идея, высказанная Бруксом в очерке «Быстрые, дешевые и себе на уме», на первый взгляд кажется странной и даже нелепой, но со временем такой подход привел к раскрытию целого спектра новых путей развития. В частности, одним из побочных результатов его идеи стали марсианские роверы, которые уже много лет бороздят поверхность Красной планеты[10].Стоит ли удивляться, что Брукс был также президентом компании iRobot, продающей сегодня всюду напоминающие жуков роботизированные пылесосы. Брукс считает, что одна из проблем ИИ состоит в том, что исследователи, как правило, хватаются за новые веяния и работают в рамках текущей парадигмы, вместо того чтобы думать по-новому и искать новые пути. Он вспоминает, к примеру: «В детстве у меня была книга, в которой мозг описывался как телефонный коммутатор. Еще более ранние книги описывали мозг как гидродинамическую систему или паровой двигатель. Затем, в 1960-е, мозг стал цифровым компьютером. В 1980-е — цифровым компьютером с параллельной шиной. Вероятно, сейчас можно отыскать детскую книжку, где говорится, чтомозг очень напоминает Всемирную паутину…» Так, некоторые историки отмечают, что на психоанализ Зигмунда Фрейда повлияло появление парового двигателя и конкретно паровоза. Вообще, возникновение в Европе сети железных дорог в середине — конце XIX в. серьезно сказалось на мышлении интеллектуалов. По Фрейду, в сознании человека существуют потоки энергии, которые непрерывно конкурируют с другими потоками, и все это напоминает движение пара в паровозных паропроводах. А тот факт, что подавление этих энергетических потоков может вызывать неврозы, аналогичен тому, что паровой двигатель при закупорке клапана может взорваться. Марвин Мински признался мне, что существует еще одна парадигма, которая уже много лет уводит исследователей ИИ в сторону и затрудняет развитие. Дело в том, что многие исследователи искусственного интеллекта пришли в эту область из физики и испытывают чувство, известное как «зависть физиков», — желание отыскать единственный принцип, лежащий в основе всякого разума. В физике ученые вслед за Эйнштейном стремятся представить физическую Вселенную в виде нескольких обобщающих уравнений и, возможно, отыскать короткое уравнение, которое объединило бы всю Вселенную единственной универсальной и понятной идеей. Мински считает, что «зависть физиков» побуждает исследователей ИИ искать универсальную базовую формулу и для сознания, — а на самом деле единой формулы или единого принципа не существует! Мински по крайнеймере в этом убежден. Эволюция случайным образом объединила в один клубок множество самых разных структур и технологий, которые мы сегодня называем сознанием. Разберите мозг на составные части, и вы найдете набор слабо связанных между собой мини-мозгов, каждый из которых предназначен для выполнения конкретной задачи. Мински называет это «союзом сознаний» и говорит, что на самом деле человеческое сознание — это сумма множества отдельных алгоритмов и техник, которые случайно возникли и были подхвачены эволюцией и которые природа за миллионы лет объединила в единую систему. Родни Брукс тоже искал похожую парадигму, но такую, которую никто и никогда еще до конца не исследовал. Вскоре он понял, что мать-природа и эволюция уже решили большую часть наших проблем. К примеру, комар, у которого в мозгу содержится всего несколько сотен тысяч нейронов, способен легко обойти любую, в том числе самую лучшую военную роботизированную систему. В отличие от наших беспилотных самолетов, комары, мозг которых по размеру намного уступает булавочной головке, способны независимоориентироваться в пространстве, огибать препятствия, находить пищу и партнера. Почему не поучиться у природы и биологии? Посмотрев внимательнее на ступени эволюционной лестницы, нетрудно понять, что в насекомых и мышей никто не закладывал законы логики и здравого смысла. Только метод проб и ошибок позволил им завоевать мир иовладеть искусством выживания. Теперь Брукс разрабатывает еще одну теоретическую идею, изложенную в его статье «Смешение плоти и машин». Он отмечает, что старые лаборатории MIT, когда-то разрабатывавшие полупроводниковые компоненты для промышленных и военных роботов, теперь закрываются, уступая дорогу новому поколению роботов, в состав которых будут входить не только кремний и сталь, но и живые ткани. Он предвидит появление абсолютно новых роботов совершенно новой архитектуры, в которой соединятся биологические и электронные системы. Брукс пишет: «Я предсказываю, что к 2100 г. всюду в нашей повседневной жизни будут встречаться весьма умные роботы. Но и мы не останемся независимыми от них — скорее, мы сами будем отчасти роботами и будем при этом неразрывно связаны с роботами». Он считает, что путь к этому будет постепенным. В настоящее время уже идет революция в протезировании, электронные компоненты вживляются непосредственно в тело человека, чтобы обеспечить реалистичную замену слуху, зрению и другим биологическим функциям. К примеру, искусственная «улитка» уже произвела переворот в аудиологиии дала возможность возвращать слух глухим людям. Работа искусственных улиток состоит в том, чтобы подключать электронные устройства к биологической сети, т. е. к нейронам. Такой слуховой имплант состоит из нескольких компонент. Снаружи возле уха помещается микрофон. Он принимает звуковые волны, обрабатывает их и передает сигналы по радио импланту, хирургически размещенному внутри уха. Имплант принимает радиопослания, переводит их в электрические токи и отправляет дальше по проложенным в ухе электродам. Улитка распознает электрические импульсы и пересылает их в мозг. В таких имплантах может использоваться до 24 электродов, которых достаточно для обработки полудюжины различных частот. Этого, в свою очередь, достаточно, чтобы различать человеческий голос. На сегодня уже 150 000 человек во всем мире носят улитку-имплант. Несколько групп ученых занимаются вопросом помощи слепым и создания системы искусственного зрения, которая позволила бы подключить камеру к человеческому мозгу.Один из предлагаемых методов состоит в том, чтобы вживить полупроводниковый чип непосредственно в сетчатую оболочку человеческого глаза и подсоединить его к соответствующим зрительным нейронам. Другой — в том, чтобы подсоединить чип к специальному кабелю, который будет вести в заднюю часть черепа, где мозг обрабатывает зрительные сигналы. Этим группам ученых уже удалось впервые в истории вернуть какую-то часть зрения полностью слепым людям. Пациенты получили возможность различать до 50 световых точек, зажигавшихся перед ними. Со временем, вероятно, ученым удастся повысить Этот результат и довести число точек до нескольких тысяч. Пока пациенты различают огни фейерверков, общие очертания своих рук, яркие светящиеся объекты и лампы, распознают присутствие поблизости автомобилей и людей и улавливают границы объектов. «На детских бейсбольных играх я различаю, где находятся принимающий, отбивающий и судья», — говорит Линда Морфут, одна из пациенток, на которых испытываются новые приборы. На сегодняшний день 30 пациентов получили искусственную сетчатку и до 60 электродов. Но в Проекте искусственной сетчатки Министерства энергетики США, штаб-квартиракоторого находится в Университете Южной Калифорнии, уже разрабатывается новая система с более чем 200 электродами. Изучается также возможность разработки системы на 1000 электродов (но если к одному чипу подключить слишком много электродов, сетчатка может перегреться). В этой системе миниатюрная видеокамера, установленная на очках слепого человека, снимает окружающее и пересылает сигналы по беспроводной связи в микропроцессорный блок, который человек носит на поясе. Блок затем передает информацию чипу, помещенному непосредственно на сетчатку. Этот чип, в свою очередь, посылает слабые импульсы прямо в нервы сетчатки, которые сохранили активность. Таким образом можно обойти и отчасти заменить неработоспособные клетки сетчатки. Роботизированная рука из «Звездных войн» Механические усилители позволяют также копировать «изобретения» научной фантастики, включая роботизированную руку из «Звездных войн» и рентгеновское зрение Супермена. В фильме «Империя наносит ответный удар» Люк Скайуокер теряет кисть руки в результате удара светового меча, находящегося в руке злодея Дарта Вейдера, его отца. Никаких проблем. Ученые той далекой галактики быстро создают для него новую механическую руку с пальцами, способными чувствовать прикосновение. Конечно, это кажется фантастикой — это и есть фантастика, — но на самом деле подобные вещи уже рядом с нами. Ученые Италии и Швеции добились значительного прогресса в этом вопросе и разработали роботизированную искусственную руку, способную «чувствовать». Первый пациент, Робин Экенстам (Robin Ekenstam), — 22-летний молодой человек, потерявший правую руку в результате рака, может теперь управлять движениями механических пальцев и ощущать реакцию предмета. Врачи подсоединили нервы руки Экенстама к чипам, установленным в его механической руке, так чтобы он мог при помощи сознания контролировать движения пальцев. В искусственной «умной руке» имеется четыре моторчика и 40 чувствительных элементов — сенсоров. Движения механических пальцев передаются в мозг пациента, так что он их чувствует и получает, соответственно, сигнал обратной связи. Таким образом, он может не только управлять движениями руки, но и «чувствовать» их. А поскольку обратная связь — одно из существенных условийкорректных движений тела, новые протезы, возможно, произведут переворот в нашем отношении к инвалидам с искусственными конечностями. Экенстам говорит: «Это очень здорово. Я испытываю чувства, которых не испытывал долгое время. Ко мне возвращается чувство руки. Стоит мне что-нибудь крепко сжать — и я ощущаю это кончиками пальцев, что странно, ведь их у меня больше нет». Один из исследователей, Кристиан Чиприани (Christian Cipriani) из итальянского университета «Высшая школа Св. Анны», говорит: «Сначала мозг управляет движениями механической руки без всяких мышечных сокращений. Затем рука сможет послать мозгу сигнал обратной связи, так что пациент сможет это Движение почувствовать. В точности как у настоящей руки». Это достижение очень важно, поскольку оно означает, что когда-нибудь люди смогут без труда управлять механическими конечностями, как если бы они состояли из плоти и костей. Вместо того чтобы долго осваивать управление металлическими руками и ногами, люди научатся обращаться с механическими протезами как с настоящими и чувствовать все нюансы движений через механизмы электронной обратной связи. Имеются также данные в пользу теории о том, что человеческий мозг чрезвычайно пластичен и не имеет постоянной структуры, а непрерывно обновляет и заново устанавливает внутренние связи в соответствии с новыми заданиями и приспосабливается к новым обстоятельствам. Из этого следует, что мозг достаточно адаптабелен, чтобы принять на себя управление любым новым приспособлением или органом чувств. Их можно подключать к мозгу в разных местах, и мозг просто «научится» их контролировать. Еслитак, то мозг можно рассматривать как модульное устройство, способное коммутироваться в разных конфигурациях и брать на себя управление различными сенсорами и исполняющими устройствами. Такой тип поведения можно ожидать, если наш мозг представляет собой некую нейронную сеть, которая собирается по-новому, устанавливает новые связи и прокладывает новые нейронные пути всякий раз, когда сталкивается с новой задачей или необычными обстоятельствами, какими бы они ни были. Родни Брукс пишет: «В следующие десять-двадцать лет произойдет культурный сдвиг, при котором мы примем роботизированные технологии, полупроводники и сталь в наши тела, попытаемся улучшить то, что имеем, и понять окружающий нас мир». Анализируя успехи по подключению мозга непосредственно к компьютеру или к механической руке, достигнутые в университетах Брауна и Дьюка, Брукс делает вывод: «Не исключено, что все мы сможем установить у себя прямо в мозгу беспроводное соединение с Интернетом». На следующем этапе, считает он, целью слияния кремниевых чипов с живыми клетками будет уже не просто исправление физических недостатков, но постепенное увеличение наших способностей. К примеру, если сегодня импланты-улитки и искусственная сетчатка могут в какой-то степени восстановить слух и зрение, то завтра подобные приборы, возможно, дадут нам сверхчеловеческие способности. Мы научимся слышать звуки, доступные сегодня только собакам, и видеть ультрафиолетовые, инфракрасные и рентгеновские лучи. Не исключено, что нам удастся улучшить и свои мыслительные способности. Брукс цитирует исследования, в которых к мозгу крысы в критические моменты развития зародыша добавлялись дополнительные слои нейронов. Интересно, что когнитивные способности таких крыс превосходили средние крысиные показатели. Брукс предвидит, что в недалеком будущем наступит время, когда при помощи аналогичных процессов можно будет улучшить интеллектуальные показатели и человеческого мозга. В дальнейших главах мы увидим, что биологи уже выделили у крыс ген, которые средства массовой информации окрестили «мышиным геном ума». «Улучшенная» мышь, в геном которой был введен этот ген, обладает значительно большим объемом памяти и лучшей обучаемостью, чем обычная. К середине века, по мнению Брукса, наступит время, когда можно будет осуществлять фантастические на первый взгляд улучшения в теле, придавая нам способности, намного превосходящие способности обычного человека. «Через пятьдесят лет мы, скорее всего, увидим радикальные перемены в человеческом теле в результате генетических модификаций». А если добавить к этому еще и электронные усилители, то «разнообразие человеческих типов расширится в невообразимых для нас сегодня направлениях… Нас уже не будет ограничивать дарвиновская эволюция», — говорит он. Но любые разумные идеи, конечно, можно довести до абсурда. Как далеко нам нужно будет зайти в деле слияния с нашими созданиями — роботами, прежде чем часть людей взбунтуется и скажет, что подобные гибриды вызывают у них отвращение? Суррогаты и аватары Существует способ соединения с роботами, при котором нам не придется менять свое человеческое тело. Речь идет о создании суррогатов, или аватаров. В фильме «Суррогаты» с Брюсом Уиллисом в главной роли рассказывается о том, что в 2017 г. ученые придумали способ, при помощи которого люди могли управлять роботами так, как если бы находились внутри их, и каждый получил возможность прожить жизнь в идеальном теле. Робот отзывался на любые команды, а человек-хозяин видел и чувствовал все, что видели чувствовал его суррогат. Пока бренные тела людей слабели и старели, сами люди спокойно управляли поведением роботов-заменителей, обладавших сверхчеловеческими способностями и идеальной фигурой. Сюжет фильма осложняется тем, что люди в какой-то момент предпочли остаться молодыми и красивыми роботами-сверхчеловеками и бросить свои стареющие тела, которые очень кстати оказываются скрыты от глаз. По существу, весь род человеческий, не желая смотреть в лицо реальности, добровольно выбирает жизнь роботов. В фильме «Аватар» эта идея продвигается еще на один шаг. Вместо того чтобы вести жизнь идеальных роботов, как в «Суррогатах», мы в 2154 г., может быть, получим возможность жить жизнью инопланетных существ. По сюжету фильма тело человека помещают в специальный кокон, а сам он получает возможность управлять специально клонированным телом инопланетянина. В каком-то смысле человек получает новое тело, которое позволит ему жить на новой планете. Таким образом мы сможем лучше контактировать с населением иных планет. По ходу сюжета фильма один из героев решает отказаться от своей человеческой сущности и жить жизнью аборигена, защищая местных жителей от наемников. Сегодня подобные суррогаты и аватары невозможны, но не исключено, что в будущем такие возможности у человека появятся. Недавно ASIMO был запрограммирован под новую идею, связанную с удаленным чувствованием. В университете Киото были подготовлены люди, которые должны управлять механическими движениями роботов при помощи сенсоров мозга. К примеру, студенты надевают на голову шлем для снятия электроэнцефалограммы и получают возможность мысленным усилием приводить в движение руки и ноги ASIMO. Пока испытуемые освоили четыре различных движения руками и головой робота. Не исключено, однако, что это первый шаг к новому направлению ИИ: созданию роботов, управляемых силой мысли. Пока это всего лишь грубая демонстрация силы мысли и ее превосходства над материей, но в будущем — в ближайшие несколько десятилетий — мы, вероятно, увеличим набор движений, которые человек может мысленно скомандовать роботу, и установим обратные связи, так чтобы человек мог «чувствовать» свои новые роботизированные руки. Специальные очки или контактные линзы позволять увидеть все, что видит робот, и когда-нибудь человек, возможно, обретет полный мысленный контроль над его телесными движениями. Не исключено, что такой подход позволит решить проблему иммиграции для Японии. Представьте себе работников, живущих в разных странах мира, но каждый день надевающих сенсорные шлемы и берущих на себя управление роботами-рабочими. Получается, что не только интеллектуальный, но и физический труд можно будет передавать дистанционно, через Интернет, и получать на выходе реальные физические действия механических рабочих. Это может означать, что роботы станут неотъемлемой частью любой нации, столкнувшейся с проблемой нехватки рабочей силы и заоблачных расходов на здравоохранение. Дистанционное управление роботами можно будет применить и в других областях. Роботы, управляемые силой мысли, смогут исполнять функции спасателей в любой опаснойили агрессивной среде (к примеру, под водой, возле высоковольтных линий или в огне). Или, скажем, подводных роботов можно будет подключить непосредственно к людям, так что человек сможет мысленно управлять движениями множества плавающих роботов. Поскольку суррогаты будут обладать сверхчеловеческими способностями, с их помощью можно будет гоняться за преступниками (если, конечно, преступники тоже не обзаведутся суррогатами с возможностями сверхчеловека). В общем, человек сможет пользоваться всеми преимуществами слияния с роботами, не меняя при этом нисколько своего тела. Достижения в этой области могут оказаться полезными и в деле исследования и освоения космического пространства — к примеру, на постоянной лунной базе. Суррогаты будут выполнять все опасные задачи по содержанию и обслуживанию лунной базы, а астронавты все это время будут оставаться на Земле, в безопасности. При этом последние смогут пользоваться сверхсилой и другими сверхвозможностями роботов, что, безусловно, окажется полезным при исследовании полного опасностей инопланетного ландшафта. (Однако с суррогатами на Марсе такой фокус не пройдет, поскольку прохождение радиосигналов от Земли к Марсу и обратно занимает до 40 минут. Тем не менее суррогаты смогут работать на поверхности Красной планеты, выполнять опасные задачи под управлением астронавтов, находящихся в безопасности на постоянной марсианской базе.) Стоит ли полностью сливаться с роботами? Пионер робототехники Ганс Моравек заходит еще на несколько шагов дальше и представляет нам крайний случай слияния: мы полностью превращаемся в тех самых роботов, которых создали. Он объяснил мне, как человек может до конца слиться со своим роботизированным созданием: хирургическая операция заменит каждый нейрон человеческого мозга на транзистор внутри робота. Операция начинается, когда человек ложится рядом с безмозглым пока телом робота. Робот-хирург берет поочередно каждый кластерсерого вещества мозга, воспроизводит его транзистор за транзистором, подключает нейроны к транзисторам и помещает готовый элемент мозга в череп робота. По мере дублирования кластеров мозга оригиналы отключаются. Человек во время этой деликатной операции находится в полном сознании. Часть его мозга продолжает функционировать в черепе его прежнего тела, но другая часть уже состоит из электронных элементов и находится внутри тела робота. Такая операция даст человеку не только роботизированное тело, но и все преимущества робота: бессмертие в совершенном теле, обладающем сверхчеловеческими способностями. В XXI в. такая операция не станет возможной, но в XXII — может быть. Крайний сценарий такого рода предусматривает полный отказ от наших неуклюжих тел и превращение со временем в чисто компьютерные программы, в которых будет закодирована наша личность. Можно будет «загрузить» себя целиком, всю свою личность, в компьютер, и если кто-нибудь нажмет на клавиатуре этого компьютера кнопку с вашим именем, машина станет вести себя как вы, ведь ее память будет хранить все особенности вашей личности. Человек станет бессмертным, но будет существовать лишь в замкнутом мире компьютера, взаимодействуя с другими «людьми» (т. е. с другими программами) в некоем огромном киберпространстве — виртуальной реальности. Он откажется от телесного существования, заменив его движением электронов в гигантском компьютере. Окончательная судьба человека в этом сценарии — превратиться в строчку кода огромной компьютерной программы и при этом вести виртуальную псевдотелесную жизнь в виртуальном раю. Он будет обмениваться глубокими мыслями с другими строчками программного кода и жить в иллюзорном мире. Он будет совершать героические подвиги и исследовать новые миры, не обращая внимания на то, что сам он — всего лишь танец электронов внутри некоего компьютера. Конечно, все это до тех пор, пока компьютер кто-нибудь не выключит. Однако существует проблема, которая, судя по всему, не позволит завести подобные сценарии слишком далеко: это Принцип пещерного человека. Мы уже говорили, что архитектура нашего мозга соответствует образу жизни примитивного охотника-собирателя, вышедшего из Африки более 100 000 лет назад. Наши заветные желания, аппетиты и нужды сформировались на травянистых равнинах Африки, где наши далекие предки убегали от хищников, выслеживали и загоняли добычу, собирали пищу в лесу, искали себе партнеров и развлекались у привальных костров. Одной из первичных наших потребностей, прочно вплетенных в ткань мыслей и подсознания, является желание хорошо выглядеть, особенно в глазах противоположного полаи сверстников. Громадную часть свободных средств человек тратит (после развлечений) на собственную внешность. Именно поэтому так быстро развиваются пластическая хирургия, всевозможные технологии омоложения, производство продуктов ухода за лицом и телом и одежды на самый разный вкус, а также обучение танцам, бодибилдинг, модная музыка и здоровый образ жизни. Если сложить все это, получится громадный сектор потребительского рынка, который в свою очередь порождает значительную долю экономики США. Все это означает, что, получив возможность создавать идеальные, почти бессмертные тела, мы, не захотим переселяться в роботизированные оболочки, если при этом будем выглядеть как неуклюжие роботы с торчащими из головы имплантами. Никто не захочет походить на беглеца из научно-фантастического фильма. Если уж переселяться в новое тело, то только в такое, которое сделает нас привлекательными для противоположного пола и повысит наше реноме среди ровесников. В противном случае новые тела будут нам не нужны. Какой подросток захочет обрести сверхспособности за счет внешнего вида? Некоторым писателям-фантастам нравится идея о том, что мы все со временем избавимся от тел и станем бессмертными сущностями, воплощениями чистого разума, внутри некоего компьютера, погрузившись в размышления о вечном. Но кто захочет так жить? Возможно, наши потомки не станут решать дифференциальные уравнения, описывающие структуру черной дыры. Может быть, в будущем люди предпочтут чаще слушать рок-музыку совершенно старомодным способом, нежели рассчитывать движение элементарных частиц, живя каким-то непостижимым образом внутри компьютера. Грег Сток (Greg Stock) из Университета Калифорнии в Лос-Анджелесе заходит еще дальше. Он считает, что в налаживании связи человеческого мозга с суперкомпьютером нет особого смысла. Он говорит: «Когда я пытаюсь думать о преимуществах, которые мог бы получить, если бы между моим мозгом и суперкомпьютером была налажена прямая связь, я оказываюсь в тупике, если пытаюсь настаивать на двух условиях: чтобы эти преимущества невозможно было получить каким-то другим, неинвазивным способом и чтобы они окупали в моих глазах неудобства, связанные с нейрохирургической операцией». Так что, хотя возможностей в будущем просматривается немало, я лично считаю, что наиболее вероятный путь — разработка изначально благожелательных и дружественных роботов и улучшение наших физических возможностей, — но лишь в той мере, в какой это не противоречит Принципу пещерного человека. Человек с удовольствием попробовал бы пожить жизнью суперробота при помощи суррогатного тела, но никогда не пойдет на то, чтобы полностью переселиться в компьютер или изменить свое тело до неузнаваемости. Рубежи на пути к сингулярности Никто не знает наверняка, когда роботы смогут сравняться с человеком по интеллекту. Однако я лично отнес бы это событие на конец нынешнего века по нескольким причинам. Во-первых, поразительные успехи компьютерных технологий в значительной степени объясняются законом Мура. Но где-то в 2020–2025 гг. заданные им темпы развития начнут замедляться, а в какой-то момент рост, возможно, совсем остановится. Поэтому неясно, можем ли мы достоверно оценивать скорость новых компьютеров после этой даты. (Информацию о посткремниевой эпохе см. в главе 4.) При написании этой книги я исходил из предположения о том, что мощность компьютеров будет продолжать расти, но более медленными темпами. Во-вторых, даже если компьютеры научатся считать с фантастической скоростью вроде 1016операций в секунду, это не будет обязательно означать, что они стали умнее нас. К примеру, Deep Blue, компьютер-шахматист фирмы IBM, способен проанализировать 200 миллионов позиций в секунду и обыграть чемпиона мира. Но, несмотря на всю свою скорость и вычислительную мощь, этот компьютер больше ничего делать не умеет. А мы уже знаем, что истинный разум — это нечто гораздо большее, чем просто перебор и анализ шахматных позиций. К примеру, среди аутистов встречаются эрудиты, способные творить чудеса с числами и запоминанием данных. Но этим людям бывает трудно завязывать шнурки, найти работу или жить в обществе. Покойный Ким Пик — человек настолько необычный, что стал прототипом главного героя фильма «Человек дождя», — помнил каждое слово из 12 000 книг и способен был производить вычисления, проверить которые мог только компьютер. Тем не менее его IQ равнялся 73, ему было сложно поддерживать разговор и, чтобы выжить, он нуждался в постоянной помощи. Без поддержки отца он был практически беспомощен. Иными словами, сверхбыстрые компьютеры будущего будут похожи на гениев-аутистов; они смогут запоминать громадное количество информации, но не способны будут самостоятельно выжить в реальном мире. Даже если компьютеры сравняются с человеческим мозгом по скорости вычислений, им все равно будет не хватать необходимых программ, чтобы все это заработало. Скорость вычислений — всего лишь начало долгого пути. В-третьих, даже если разумные роботы возможны, неизвестно, способен ли робот изготовить собственную копию, которая будет умнее оригинала. Математический аппарат для самовоспроизводящихся роботов был разработан математиком Джоном фон Нейманом (John von Neumann), изобретателем теории игр и участником разработки электронного компьютера. Он первым поднял вопрос об определении минимального числа исходных посылок, необходимых для того, чтобы машина могла воспроизвести сама себя. Однако Нейман никогда не обращался к вопросу о том, сможет ли робот сделать свою копию умнее себя. Более того, сама «разумность» — понятие спорное и общепринятого его определения не существует. Конечно, можно смело предположить, что робот сумеет создать копию себя, сумеет снабдить ее более емкой памятью и лучшими вычислительными возможностями — для этого достаточно будет добавить в структуру дополнительные чипы. Но означает ли это, что копия будет умнее оригинала или просто быстрее? К примеру, калькулятор считает в миллион раз быстрее человека, но сказать, что он умнее, не повернется язык. Так что разум, очевидно, — это нечто большее, чем просто скорость и объем памяти. В-четвертых, даже если вычислительные мощности компьютеров будут расти экспоненциально, программное обеспечение может за ними и не успеть. Если возможности компьютерного «железа» долгое время развивались за счет микроминиатюризации транзисторов и совершенствования технологии производства, позволявших размещать на однойи той же подложке все большее число электронных элементов, то с программным обеспечением все иначе. Для его создания нужен человек, который сядет за стол, возьмет карандаш и сочинит программный код. Это и есть самое главное ограничение: человек. Программное обеспечение, как и любая творческая деятельность человека, развивается скачками; здесь бывают блестящие озарения и долгие периоды застоя и монотонной работы. Если в электронике как таковой достаточно было научиться вытравливать на кремниевой подложке все больше и больше транзисторов — и здесь закон Мура работал как часы, — то уровень программного обеспечения определяется такими непредсказуемыми качествами, как человеческая креативность и настроение. Поэтому все предсказания, касающиеся стабильного экспоненциального роста компьютерных мощностей, следует оценивать трезво. Цепь не может быть прочнее самого слабого своего звена, а слабое звено компьютера — программное обеспечение, которое создают люди. В технике развитие часто идет по экспоненте, особенно если речь идет всего-навсего о повышении эффективности технологических процессов. Однако когда дело доходитдо фундаментальных исследований, где трудно обойтись без удачи, мастерства и неожиданных гениальных прозрений, речь может идти скорее о «прерывистом равновесии»,когда долгое время почти ничего не меняется, а затем вдруг происходит прорыв, который полностью меняет всю картину. Если взглянуть на историю фундаментальных исследований от Ньютона до Эйнштейна и до наших дней, становится понятно, что прерывистое равновесие более точно описывает способ развития фундаментальной науки. В-пятых, как мы уже видели в исследованиях по реверсивному проектированию мозга, чрезвычайно высокая стоимость и просто масштаб проекта, по всей видимости, отсрочат его реализацию до середины века. А затем наступит время обработки данных, которая тоже может растянуться на много десятилетий, и в результате полная модель мозга, скорее всего, будет создана лишь к концу текущего столетия. В-шестых, вероятно, не будет никакого «большого взрыва», когда машины вдруг, в один день, обретут сознание. Как прежде, если мы установим, что сознание обязательно включает способность планировать будущее при помощи моделирования, получится, что существует целая шкала сознания, целый спектр его уровней. Машины будут медленно двигаться по этой шкале вверх, и человек успеет подготовиться. Я считаю, что это произойдет ближе к концу века, так что времени на обсуждение всевозможных вариантов и путей у нас достаточно. Сначала у роботов появится некая форма «кремниевого сознания», и только потом — настоящее человеческое сознание. Но здесь возникает другой вопрос. Наряду с механическими способами усовершенствовать тело человека существуют и биологические способы. Более того, весь ход эволюции основывается на отборе лучших генов — так почему бы человеку не «перепрыгнуть» через миллионы лет эволюции и не взять под контроль собственную генетическую судьбу? 3. Будущее медицины Совершенство и далее Ни у кого не хватает духу сказать это вслух, но если бы мы могли улучшить человеческую природу, научившись добавлять гены, то почему бы нам этого не сделать?Джеймс Уотсон, нобелевский лауреат На самом деле я не думаю, что человеческое тело сохранит от нас какие-то секреты до конца текущего века. А поэтому все, что мы сумеем придумать, вероятно, воплотится в реальность.Дэвид Балтимор, нобелевский лауреат Я не думаю, что время уже настало, но оно близко. Я боюсь, к несчастью, что принадлежу к последнему поколению, которому суждено умереть.Джеральд Суссман Мифические боги обладали абсолютным могуществом: властью над жизнью и смертью, способностью исцелять больных и продлять жизнь. Первой в человеческих молитвах, обращенных к богам, была мольба об избавлении от болезней и немощи. В греческой и римской мифологии есть легенда об Эос, прекрасной богине утренней зари. Однажды она без памяти влюбилась в смертного красавца Тифона. Эос, конечно, обладала совершенным телом и была бессмертна, но Тифон должен был со временем постареть, увянуть и умереть. Богиня решила спасти возлюбленного от этой печальной судьбы. Она умолила Зевса, отца богов, даровать Тифону бессмертие, чтобы они могли провести вместе вечность. Сжалившись над влюбленными, Зевс исполнил просьбу Эос. Однако Эос в спешке забыла попросить Зевса о вечной молодости для своего возлюбленного. Так что Тифон стал бессмертным, но его тело состарилось. Он не мог умереть, но тело старилось все сильнее, и ему пришлось вечно жить в боли и страдании. Именно такой вызов стоит перед медицинской наукой XXI в.