Глава 3 Изображая бога

Глава 3

Изображая бога

Большинство из нас не слишком интересуется разговорами о расцвете или гибели стран и даже цивилизаций. История эта стара как мир. Но возможности изменить саму природу человека или создать его точную копию посвящено такое количество фильмов и сериалов – как, например, «Бегущий по лезвию», «Человек на шесть миллионов долларов» или «Матрица», – что сегодня легко списать ее со счетов как удел фантастов. В XIX в. теория эволюции Чарльза Дарвина нанесла сокрушительный удар по былым представлениям о создании человека и подорвала доверие к дословной библейской интерпретации, а для кого-то и саму веру. Люди начали шире трактовать принцип естественного отбора. В большинстве случаев ни к чему хорошему это не привело. Казалось бы, расизм оправдан, а война превозносилась как проявление закона природы.

Сегодня мы переживаем новый переломный момент, и трудно предсказать в полной мере масштаб ожидающих нас изменений или их последствия. Мы не просто исследуем сотворение, как это было во времена Дарвина. Сегодня мы можем изменить саму природу человека. Иными словами, нам теперь не нужно ждать, пока Бог или естественный отбор сделают свое дело. С другой стороны, как заметил Рэй Курцвейл, автор книги «Сингулярность действительно близко»: «Понимая информационный процесс, лежащий в основе жизни, мы начинаем учиться перепрограммировать нашу биологию, чтобы суметь на виртуальном уровне положить конец болезням, добиться невероятного роста человеческих возможностей и заметного продления продолжительности жизни»{88}.

И дело не только в том, что биологические науки шагнули на новый уровень. Эту технологическую революцию характеризуют конвергенция и синергия нескольких масштабных технологий – а именно нано-, био-, ИТ, 3D-печати, искусственного интеллекта, новых материалов и робототехники.

Звучит пугающе, особенно в свете других перемен, происходящих сегодня: появление людей, обладающих огромной властью, и раздробленный мир, в котором становится все больше могущественных государств, не принимающих общие ценности и принципы. Мой опыт работы в разведке заставляет меня видеть всевозможные ловушки и нежелательные последствия. Прежде чем я изложу вам все потенциальные негативные стороны, взглянем на основные плюсы новых возможностей.

Впервые ощущение, что грядет что-то совершенно новое, посетило меня, когда я начинал работать над проектом «Глобальные тенденции» и отправился на конференцию послушать презентацию врача из клиники Джона Хопкинса. Речь шла об имплантах и протезировании, призванных помочь возвращающимся из зон военных действий солдатам с ампутациями и парализованными конечностями. Имплантированный в мозг микрочип используется для управления роботизированной рукой. Имплант принимает сигналы мозга пациента, расшифровывает их и через кабельное соединение двигает роботизированной рукой. В будущем ученые надеются, что это соединение станет беспроводным. По словам ученых из Института мозга Браунского университета, главная цель – восстановить подвижность собственных конечностей пациента{89}.

Джеффри Стибел, президент компании Braingate, разработчика технологии мозгового компьютерного интерфейса, рассказал о прогрессе в сфере восстановления потерянного зрения: «У вас будет мозговой имплант, соединенный с прибором, похожим на солнечные очки. Очки, собственно, и делают то, что мы делаем, когда смотрим, только в этом случае сам смотрящий слеп и очки передают информацию через компьютерный чип напрямую в мозг, чтобы у человека появилось ощущение, будто он действительно что-то видит. Это работает». По мнению Стибела, впереди еще много работы по усовершенствованию имплантов, но мы уже на пути к вселенной, где «разум превыше материи»{90}.

Экзоскелеты – еще одно изобретение, расширяющее наши физические возможности. Как правило, они состоят из внешнего каркаса, который прикреплен к ногам солдата. При помощи системы, приводимой в движение моторчиками или гидравликой, солдаты могут переносить тяжелые грузы – до 100 кг. По сообщениям в прессе, компания Lockheed Martin испытывает модель, которая сможет обеспечить 72 часа бесперебойной работы{91}. Со временем, когда технология производства аккумуляторов шагнет вперед, ограниченное количество электроэнергии перестанет быть сдерживающим фактором. Подобные экзоскелеты создаются для того, чтобы преодолеть ограничения солдат. Как и мозговые импланты, призванные расширять ментальные возможности, экзоскелеты расширяют возможности физические. На сегодняшний день создаются экзоскелеты и для увеличения физической силы верхней части корпуса.

Усиление человека позволит гражданским и военным работать более эффективно и в таких средах, которые раньше были недоступны. Пожилым людям могут быть полезны механизированные экзоскелеты, помогающие в простой деятельности (ходьба, подъем тяжестей). Это улучшило бы здоровье и качество жизни стареющего населения. Успешные разработки в области протезирования, возможно, будут напрямую интегрированы в человеческое тело. Мозговые компьютерные интерфейсы могут предоставить сверхчеловеческие возможности, увеличить силу и скорость, а также выполнять функции, ранее человеку недоступные. Так, например, из мозга могут посылаться сигналы, которые, минуя поврежденные фрагменты спинного мозга, будут активизировать нервы в неработающих руках или ногах.

По мере того как развивается технология замены конечностей, у людей появится возможность расширить свои физические способности (так же, как с помощью пластической медицины в наши дни улучшают внешность). Будущие импланты в сетчатку глаза дадут нам возможность видеть ночью, а неврологические усовершенствования могли бы снабдить нас лучшей памятью или скоростью мысли. Нейрофармацевтика позволит людям сосредоточиваться на более длительные промежутки и улучшить способность к обучению. Это был бы шаг, опережающий нательный компьютер Google Glass с прозрачным дисплеем, который крепится на голову и позволяет человеку иметь постоянное соединение с интернетом. Системы дополненной реальности – например, те, что повышают интеллект или улучшают способность видеть в темноте, – могут существенно расширить ваши умственные или физические возможности и скорость, что позволит лучше справляться с ситуациями в реальной жизни. Стоит ли говорить, как в таких возможностях заинтересованы военные! В недавнем исследовании, проведенном вашингтонским Центром новой американской безопасности, отмечается: Министерство обороны США выразило некоторую озабоченность в связи с «расширением возможностей человека» за рамки базовых, но «есть признаки того, что некоторые страны планируют запустить программы, направленные на это. США таких намерений не имеет»{92}.

Для расширения человеческих возможностей продвинутая робототехника будет так же важна. Я убедился в этом во время визита в Кремниевую долину. Ее компании могут обеспечить столь необходимую физическую и механическую помощь людям с ограниченными возможностями. Если бы сын твоего лучшего друга был парализован и ты мог бы ему помочь, неужели не помог бы? Вот что побудило к действию создателей компании Willow Garage, одного из крупнейших разработчиков роботов в Кремниевой долине. Мне это напомнило о том, как Александр Белл изобрел телефон: он изначально пытался найти способ помочь своим глухим жене и дочери. В случае Willow Garage сын одного из друзей был уже почти взрослым мужчиной, но не мог обходиться без посторонней помощи. В ближайшем будущем ему грозило оказаться в учреждении для инвалидов. Теперь рядом с ним находится человекоподобный робот, благодаря которому он живет как все. С помощью своего друга-робота молодой человек может обслуживать себя сам. При помощи двусторонней видеосистемы он также может направлять робота, чтобы тот мог перемещаться в другом физическом пространстве и взаимодействовать с другими людьми по команде пользователя.

Одна из самых трудных задач – сделать робота ближе к человеку. Роботы обладают большими механическими возможностями, чем люди, что делает их идеальными исполнителями рутинных заданий. Промышленные роботы изменили не одно производство: каждый день по всему миру работают более 1,2 млн промышленных роботов. Но многие из них заперты в клетки, как следует отгорожены от человека, чтобы не допустить контакта: одно движение их руки может убить. Они запрограммированы совершать движения с определенной скоростью и целью. Они мастерски работают на конвейерах, легко превосходят человека бесперебойностью и точностью движений при выполнении конкретных задач. Заботиться о другом человеке – совсем другая история. Таким роботам нужно реагировать на тактильный контакт, держать чашку, не разбивая ее, и чувствовать движения человека, которому помогают. Иными словами, создателям нужно передать им все умения и способность к обучению человека. До Франкенштейна нам еще очень далеко.

Разработчики постоянно расширяют возможности механизмов, и грань между промышленными и непромышленными роботами стирается. Бакстер – первый пример такого устройства. Он создан бостонской компанией Rethink Robotics – стартапом, основанным Родни Бруксом. Бакстер был представлен общественности в сентябре 2012 г.; он стоит скромные 22 тыс. долларов и показывает, как роботы становятся все удобнее в пользовании. Вместо того чтобы приводить в движение руку, как обычно бывает у промышленных роботов, мотор приводит в движение пружину, а та – руку. Рука может чувствовать, когда она натыкается на что-то, и останавливаться. Согласно рекламе Rethink Robotics, роботу не нужны защитные ограждения и программирование. Рабочие на конвейере могут обучать Бакстера вручную. Он так разумен и так прекрасно адаптируется, что, по сообщениям прессы, лаборатория MIT Media Lab в конце 2013 г. занялась его обучением для выступления в живом шоу вместе с фокусником Марко Темпестом. Цель проекта – показать, как Бакстер умеет сочетать спланированные движения с расчетами, которые позволяют ему приспосабливаться к вариативности в программе Темпеста{93}.

Необходимо существенное развитие технологий, чтобы улучшить когнитивные способности роботов, но многие составляющие революционных футуристических систем будут готовы уже в ближайшие пару десятилетий. Такие устройства могут полностью исключить необходимость человеческого труда в некоторых отраслях производства, причем полная автоматизация экономически будет более эффективной, чем перенос в развивающиеся страны. Даже там роботы могут вытеснить местную рабочую силу в таких отраслях, как электроника. Это, возможно, приведет к снижению заработной платы или потере мест многими людьми.

Роботы в сфере здравоохранения и ухода за пожилыми людьми станут особенно важны и получат широкое распространение по мере того, как они будут учиться все лучше взаимодействовать с людьми. Уже сейчас они выполняют некоторые специальные задачи в больницах: помощь при операциях, в том числе роботизированная хирургия под контролем опытных врачей. Система da Vinci состоит из пульта хирурга, который обычно находится в одном помещении с пациентом, и платформы с четырьмя интерактивными роботизированными руками, контролируемыми с пульта. Три из них предназначены для устройств, держащих предметы, и могут также использоваться как скальпели, ножницы и другие хирургические инструменты. На четвертой установлена камера с двумя линзами, которая передает хирургу на пульт полное изображение. Хирург сидит за пультом и смотрит на трехмерное изображение через два окуляра, управляя руками робота при помощи двух ножных педалей и двух джойстиков. Система da Vinci измеряет, фильтрует и переводит движения руки хирурга в более точные микродвижения инструментов, работающих внутри тела через маленькие надрезы. Роботы da Vinci работают в нескольких тысячах клиник по всему миру, в 2012 г. ими было проведено 200 тыс. операций (чаще всего это гистерэктомии и простатэктомии){94}.

Япония и Южная Корея активно инвестируют в разработку роботов, способных помогать пожилым в повседневной жизни. Ожидается, что военные будут увеличивать масштабы применения автономных систем, в том числе роботов и беспилотных летающих аппаратов, чтобы снизить использование людей в ситуациях повышенного риска, а также в качестве защиты от быстрорастущих расходов на персонал{95}. Роботы уже привычно используются для обследования и при необходимости детонирования закрытых пакетов с бомбами или уничтожения других подозрительных предметов. Робот контролируется при помощи джойстика человеком, который получает с камер информацию, чтобы направлять машину к цели и командовать, когда она доберется до места. Вручную позиционировать роботов для устранения или детонирования взрывного устройства – дело долгое и трудоемкое. Автономный робот может существенно ускорить процесс, если сам будет постоянно виртуально контролировать ситуацию при помощи сенсоров. В результате оценка ситуации и принятие решения будет осуществляться гораздо быстрее, чем у человека. Переход к безоператорной системе, несомненно, ускорится при развитии искусственного интеллекта для роботов и беспилотных летательных аппаратов и быстром распространении сенсоров в мире «всеобъемлющего интернета», в который мы стремительно вступаем.

Возможно, в будущем войны будут вестись автономными солдатами-роботами, беспилотными наземными транспортными средствами и летательными аппаратами с очень небольшим участием человека. Такой сценарий вызывает достаточные опасения, чтобы ООН и Human Rights Watch призывали к запрету роботов-убийц. На сегодняшний день их стоимость стала одновременно и движущей силой, и барьером на пути внедрения роботизированных технологий. Роботы все еще дорого обходятся покупателю, но их способность раз за разом выполнять задания эффективно и быстро, снижать количество отходов или минимизировать расходы на рабочую силу экономит деньги компаний. Производители могут отдавать дорогостоящих роботов потребителям в лизинг, и все же стоимость роботов должна существенно уменьшиться, чтобы они получили широкое распространение. Главным ограничением для развития непромышленных роботов становится уровень развития технологий: ученым надо преодолеть существенные препятствия в развитии интеллекта роботов, включая способность понимать окружающий мир, справляться с неожиданными событиями и взаимодействовать с человеком. И тем не менее теперь, когда в продаже появилось столько технологий, открывающих новые возможности, мы наблюдаем, как новое поколение разработчиков и энтузиастов создает новые роботизированные решения, которые все лучше приспосабливаются к окружению.

Расширение возможностей человека – не единственная сфера, где мы бросаем вызов своей природе. Ключевой темой стало увеличение продолжительности жизни человека, рост ожиданий и снижение ограничений. И дело не только в продолжительности времени, которое мы остаемся в живых. Может улучшиться и качество жизни в преклонном возрасте. Тут важно помнить распространенную тенденцию к старению общества: она создает прецедент и сопряжена с рисками и проблемами. Входящие в ОЭСР страны с высоким уровнем доходов на душу населения к 2030 г. достигнут среднего возраста населения в 42,8 года (в 2010 г. этот показатель составлял 37,9 года). На 2012 г. только население Японии и Германии перешагнуло за отметку в 45 лет, а к 2030 г., по прогнозам, произойдет тектонический сдвиг и крупная группа стран – Южная Корея и большая часть Европы – пополнят ряды пожилых. Значительную долю их населения будут составлять люди старше 65 лет – беспрецедентный «пенсионный бугор»{96}.

Старение общества и долголетие – не одно и то же. Меньший процент молодого населения – основание для поднятия среднего возраста, но это не обязательно приведет к продлению срока жизни. И все же мы наблюдаем и то и другое. Во многом старение общества связано с падающим уровнем рождаемости. А значит, традиционная демографическая пирамида – где в основании большой процент молодых, способный поддерживать и сохранять остальную часть населения, – деформируется. То, что должно было быть здоровой пирамидальной возрастной структурой, теряет форму, по мере того как процент взрослого и пожилого населения растет и верхушка пирамиды утяжеляется.

Не менее важна и тенденция роста средней продолжительности жизни, которую мы наблюдаем во всем мире. В мае 2013 г. Всемирная организация здравоохранения (ВОЗ) ООН опубликовала данные, демонстрирующие «повышение средней продолжительности жизни в мире с 64 лет в 1990 г. до 70 лет в 2011?м», и это существенный рост. Как заявил во время ежегодной встречи по вопросам медицинской статистики в Женеве в мае 2013 г. Колин Мейтрез, координатор ВОЗ по вопросам смертности и бремени болезней: «Это увеличение продолжительности жизни в среднем на восемь часов в день за последние 20 лет». Гендерный баланс показывает, что в среднем ожидаемая продолжительность жизни для женщин при рождении составляет 72 года, а для мужчин – 68 лет (по данным на 2011 г.). Снижение средней продолжительности жизни наблюдалось только в Северной Корее, ЮАР, Лесото, Зимбабве и Ливии. Эта тенденция прослеживается с 1990 г., с начала ведения наблюдений ООН. А Китай и Индия пережили с 1990 г. скачок средней продолжительности жизни на семь лет{97}.

Здесь действуют несколько различных факторов. Для большей части планеты, особенно развивающихся стран, этот рост в первую очередь связан с резким снижением детской смертности и ростом средней продолжительности жизни в двух крупнейших развивающихся странах: Китае и Индии. Но даже в богатом, продвинутом мире, где продолжительность жизни изначально была дольше, произошли существенные перемены к лучшему. Страны, в которых и так самая высокая продолжительность жизни – Япония, Австралия и Швейцария, – продолжают увеличивать этот показатель.

«Предположительно впереди нас ждет некоторое замедление роста, если на ситуацию не повлияют генотерапия или другие научные прорывы», – отметил Мейтерс. На мой взгляд, подобные научные и технологические прорывы нам как раз и предстоят, и стоит к ним подготовиться. Биотехнологическая революция – великое событие, которое уже происходит и будет иметь масштабные последствия для всех нас. И эта революция коренным образом скажется на судьбе человека, каким мы его себе всегда представляли.

Стоимость секвенирования генома – процедуры, лежащей в основе биотехнологического прорыва в генотерапии, – существенно снизилась. Первое секвенирование генома человека в 2003 г. стоило больше 1 млрд долларов, затем цена упала до 100 млн, а теперь она составляет около 1000 долларов за полную персональную последовательность. Ожидается дальнейшее снижение цены до 200 долларов, что не только поможет в индивидуальной медицинской диагностике, но и даст возможность при помощи анализа больших данных обнаружить генетические связи с конкретными заболеваниями и нарушениями, проанализировав миллионы геномов и проведя краудсорсинг. С падением цен на работу с геномом нам необходимо проводить все более масштабные исследования для установления связи генов с медицинской историей{98}. В McKinsey Global Institute убеждены, что не за горами времена настольных устройств для секвенирования (определения структуры) генов. Не исключено, что в будущем это станет частью стандартной диагностической процедуры врача: «Возможность проводить генетическое секвенирование для всех пациентов, а также всех вирусов, бактерий и раковых клеток, влияющих на их здоровье, позволит точнее подбирать лечение для каждого из них. Секвенирование также может помочь медикам понять, может ли набор симптомов, рассматривавшихся ранее как одно заболевание, на самом деле быть вызванным рядом различных факторов»{99}.

Точность молекулярной диагностики, основанной на секвенировании гена в комбинации с анализом больших данных и искусственным интеллектом, могла бы полностью изменить медицину. Сейчас медики борются за то, чтобы распознавать различные заболевания со схожими симптомами. Результатов приходится ждать несколько дней, в итоге происходит задержка в постановке диагноза, а это может навредить пациенту. Аппараты для диагностики и обнаружения болезнетворных организмов будут ключевыми технологиями, открывающими новые возможности в лечении заболеваний.

Устройства для молекулярной диагностики произведут в медицине революцию, позволив проводить быстрые исследования как генетических, так и патологических заболеваний во время операций. Доступные генетические исследования ускорят диагностику и помогут медикам подобрать оптимальное лечение для каждого пациента. Такой подход в медицине снизит расходы на здравоохранение, связанные с тем, что врачи выписывают медикаменты, которые не дают эффекта.

К тому же снижение стоимости анализов позволит каталогизировать гораздо больше индивидуальных генетических профилей, что приведет к лучшему пониманию генетической основы многих заболеваний. «Эти шаги приведут к развитию новых классов целевых медикаментов, а также чувствительных и специализированных диагностических тестов. Очень велика вероятность того, что ярче всего ценность этих передовых технологий проявится там, где аппараты для диагностического и терапевтического использования будут покупаться и применяться совместно в развивающейся сфере тераностики[7]»{100}. Тераностика «стремительно осуществляет переход от медицины “проб и ошибок” к индивидуальной медицине и внушает большие надежды на улучшение результатов для пациентов… Такой подход дает возможность повысить эффективность лекарств за счет понимания того, какие пациенты могли бы получить наибольшую выгоду от их применения»{101}.

Доктор Ватсон, похоже, тоже сможет внести огромный вклад, непрерывно просматривая свежую информацию, которая появляется в медицинской литературе. Это робот компании IBM, который победил двух чемпионок в американском телешоу Jeopardy![8] в 2011 г. А с недавних пор IBM совместно с Мемориальным онкологическим центром Слоана – Кеттеринга в Нью-Йорке и американской компанией WellPoint использует Ватсона для помощи онкологам при диагностике раковых опухолей у пациентов. Чтобы быть в курсе всей свежей тематической литературы, человеку, по некоторым оценкам, понадобилось бы 180 часов в неделю. Это непосильная задача. Но для сверходаренного робота это детские игры. Ватсон снабжает врачей рекомендациями по лечению на основе анализа всей доступной литературы и истории болезни пациента. Затем он предлагает несколько вариантов и ранжирует их, показывая также всю документацию, на которой основано его мнение. Живой доктор может спорить с ним, говоря в микрофон и прося предоставить больше доказательств.

Очевидно, врачам потребуется время, чтобы привыкнуть работать бок о бок с роботами. И все же исследования взаимодействия людей и роботов показывают, что постепенно диалог между ними становится все более естественным. Дети и вовсе с трудом отличают робота от взрослого человека. Уровень комфортности взаимодействия с Ватсоном будет зависеть от поколения: молодым проще его принять, старшие профессионалы будут работать с ним неохотно. Способы использования Ватсона бесконечны и не ограничены медициной. Будет невероятно интересно наблюдать за тем, как новый поток знаний, возникший благодаря новому пониманию генетики, может быстро найти применение в больницах и кабинетах врачей благодаря интеллектуальной мощи Ватсона{102}.

Прогресс в регенеративной медицине, безусловно, не отстанет от успехов в области диагностики и лечебных протоколов. Например, замены таких органов, как почки и печень, могут стать стандартными процедурами в ближайшие несколько десятилетий. Аддитивная технология, или 3D-печать, совершенно новый производственный процесс (подробнее см. главу 6), уже сейчас делает внушительные шаги в области биопрототипирования артерий, тканей и простых органов из собственных тканей пациента, а в следующие 10 лет или около того станет возможно создавать и более сложные человеческие органы.

Я думаю, что, учитывая ошеломляющий прогресс и скорость, с которой в биотехнологиях и медицине происходят прорыв за прорывом, эти новые технологии борьбы с заболеваниями продолжат отодвигать границу продолжительности жизни, меняя демографический профиль многих стран в сторону более пожилого, но предположительно и более здорового населения. И все же улучшения в области технологий ведения больного могут оставаться недоступными бедным людям в странах, где отсутствует медицинское страхование или есть только рудиментарные формы медицинской помощи для граждан.

Регулярному использованию молекулярной диагностики в медицинской практике мешает прежде всего стоимость этой технологии, несмотря на снижение расценок на генетическое секвенирование. Сегодня известно недостаточно болезнетворных генов, чтобы обеспечить массовый скрининг. Компьютерные возможности в области обработки и хранения больших данных станут ключом к изучению и использованию огромных объемов данных, полученных при секвенировании генома. И все же маловероятно, что вычислительные технологии станут ограничивающим фактором в условиях постоянного роста доступности дешевеющих облачных вычислений и еще более мощных алгоритмов для анализа данных.

Как и в случае с любой масштабной программой, для общественного признания массовых диагностики и сбора информации очень важно зафиксировать четкие принципы работы, гарантирующие защиту личной информации. Сегодня мы все опасаемся, что кто-то может получить доступ к нашим счетам и поставить под угрозу наши сбережения. А теперь представьте, что на карту поставлена ваша медицинская информация. Кибербезопасность будет все чаще вызывать опасения по мере того, как все больше информации о ДНК отдельных людей будет загружаться в компьютеры и вноситься в базы данных.

Есть и другие, более масштабные последствия старения общества, с которыми нам придется иметь дело. Быстро стареющие страны могут столкнуться с замедлением роста ВВП и даже стагнацией. «Пожилым» государствам будет нелегко провести реформы пенсионной и здравоохранительной систем – и организовать финансирование для поддержки нуждающихся пенсионеров, – при этом не обременяя молодые поколения, которые вынуждены оплачивать пенсионные программы. Правительства стран с относительно высоким средним возрастом – 45–50 лет – могут быть вынуждены существенно сократить расходы и увеличить налоги.

Некоторые аналитики считают, что стареющие общества будут стремиться избегать рисков и окажутся в стесненном положении. Некоторые европейские и быстро стареющие восточноазиатские государства решат, что не могут позволить себе масштабных вооруженных сил или демонстрации силы перед другими странами. Тогда урезание средств на оборону, наблюдавшееся в Европе на протяжении последних 10 лет, окажется только верхушкой айсберга. Быстрый рост численности азиатских и африканских меньшинств в западноевропейских странах с низким уровнем рождаемости рискует больше подорвать народное согласие и вызвать рост реакционных настроений в политике.

И мы не знаем, к чему все это приведет. Стареющее общество может не быть той катастрофой, которой оно было бы, если бы физический труд все еще был жизненно важной потребностью, как на многих исторических этапах. Прогресс в области здравоохранения, о котором шла речь чуть выше, наверняка улучшит качество жизни пожилых, что позволит им дольше оставаться трудоспособными. А некоторые опросы показывают, что, например, в США у поколения беби-бумеров сохраняется желание работать – хотя и с менее жестким графиком, – даже если они финансово могут себе позволить уйти на пенсию и сохранить привычный уровень жизни.

Я бы сказал, что в области новых технологий, призванных изменить саму природу человека, сделать нашу жизнь дольше, а ее качество – выше, пока ситуация выглядит неплохо. Есть пара существенных оговорок, о которых нам стоит побеспокоиться и постараться что-то сделать, прежде чем будет слишком поздно. Во-первых, необходимо не допустить того, чтобы внедрение этих технологий положило начало новому измерению неравенства. Скоро родители смогут выбирать, какими именно качествами должно обладать их потомство. «Очень может быть, что в развитых странах лет через 20–40 большинство детей будет зачинаться в пробирке, и родители смогут выбирать из нескольких эмбрионов. Так родители сами или кто-то еще смогут выбирать из ограниченного числа эмбрионов с комбинацией генов, которую они больше всего хотят видеть в своих детях. Так и будет», – уверен Хэнк Грили, профессор юридического факультета Стэнфорда и директор университетского Центра права и биологических наук{103}. Проблема в том, что, по крайней мере поначалу, не все родители смогут позволить себе эту процедуру. Получается, мы дадим богатым родителям преимущество? Во-вторых, по мнению Грили, «у Китая будет меньше культурных и правовых барьеров». Выровнять игровое поле вопреки различным культурным барьерам – задача, мягко говоря, не из легких.

Во-вторых, некоторые из усовершенствований – например, контроль и управление мозговыми волнами для оперирования протезными устройствами, которые помогут человеку снова начать ходить или жить обычной жизнью, после того как он перенес ампутацию или паралич конечностей, – могут показаться скорее чем-то из области фантастики. Но за их работу все равно отвечает человек. Открытия, о которых мы говорим как о части биотехнологической революции, возможно, зашли уже слишком далеко, когда речь идет о синтетической биологии или создании ДНК с нуля для получения желаемых характеристик.

И если мы не будем осторожны, то откроем ящик Пандоры. Последствия возможности манипулировать ДНК, чтобы избежать заболеваний или дать человеку дополнительные возможности – физические или умственные, – откроют дверь для создания особенно коварных и живучих вирусов. И если закрывать глаза на этические, моральные проблемы и вопросы безопасности в сфере генной инженерии, это не избавит нас от проблем. Цены на процедуры будут снижаться, и все больше родителей по всему миру будут заинтересованы в секвенировании геномов своего ребенка на предмет возможных заболеваний. Секвенирование до рождения откроет дорогу для манипуляций с ДНК для получения желаемых качеств. И тут есть положительные и отрицательные стороны.

Прогресс в области синтетической биологии вполне может оказаться палкой о двух концах и стать основой смертоносного оружия, доступного биологам-дилетантам или биохакерам. По мере того как снижается стоимость, а секвенирование и синтез ДНК улучшаются, ученые закладывают фундамент для развития отрасли. Первыми попытками поставить дело на коммерческие рельсы было снабжение инструментами и недорогими материалами исследовательских институтов и компаний. Биологическим сообществом был создан находящийся в свободном доступе архив стандартизированных и взаимозаменяемых фрагментов, так называемых биокирпичей, которые используют исследователи. Такие шаги не только вносят существенный вклад в исследование все более инновационных и ценных методов конструирования искусственных организмов, таких как, например, водоросли, поглощающие токсичные отходы, но и повышают вероятность ненамеренных открытий, которые можно использовать двояко. Прогресс, открывающий новые возможности в медицине, сельском хозяйстве и энергетике, одновременно повышает риск «биотеррора», который может привести к распространению смертельно опасных вирусов или разработке биологического оружия на основе технологий двойного действия. Все это приобретает актуальность по мере того, как технологии становятся все более доступными в мировом масштабе. В результате сложнее отслеживать, регулировать или ослаблять биотеррор, а может, и фатальные биологические ошибки. Я подробнее рассмотрю вопросы двоякого использования биотехнологий и сопряженных с ним трудностей в области безопасности в главе 6.

Мы также рискуем перейти грань и потерять контроль над большими данными. Большие данные и алгоритмы, позволяющие выделить ценную информацию, все важнее для функционирования наших экономик. Большие данные и ИТ подпитывали биотехнологическую революцию и масштабные открытия в других областях. Устройств, подключенных к интернету, будет становиться все больше. По некоторым оценкам, сейчас их число составляет более 15 млрд. Это и смартфоны, ноутбуки и стационарные компьютеры, и сенсоры, следящие за аграрным производством, городской инфраструктурой, здоровьем и местоположением скота, инженерными системами зданий, медицинским оборудованием и даже лесом и отдельными деревьями. Возможен резкий скачок эффективности. Как сегодня розничные сети собирают информацию о своих покупателях – их привычках, кредитах, истории поиска в интернете, сообщениях в социальных сетях, демографической информации и т. д., – чтобы ориентироваться на их предпочтения, городские власти могут комбинировать информацию с датчиков и размещенных в разных местах камер, чтобы лучше понимать поведение жителей, их потребность в транспорте, а также требования к городской инфраструктуре в целом. На этом список сфер использования больших данных и интернета не заканчивается.

Но чем дальше, тем больше решений будут принимать и сами компьютеры. И именно здесь нам необходимо ввести меры безопасности на случай сбоя. В начале 2014 г. прошло сообщение, что один из мощнейших суперкомпьютеров в мире – японский K. – создал наиболее точную симуляцию человеческого мозга из когда-либо существовавших, которой требуется 40 минут на то, чтобы воспроизвести одну секунду человеческой мозговой деятельности. Ученые предполагают, что симуляция работы мозга в полном объеме будет возможна тогда, когда появятся еще более мощные компьютеры. Скорее всего, это произойдет в следующие 10 лет{104}. Понимание устройства человеческого мозга и способность воспроизвести его имеют широкое применение в медицине при лечении таких заболеваний, как болезни Альцгеймера, Паркинсона, и множества других нарушений работы мозга. Это также даст существенный стимул в работе над созданием искусственного интеллекта и применении больших данных.

Первые исследователи искусственного интеллекта разработали алгоритмы, которые шаг за шагом имитировали ход мысли людей, когда они складывают головоломки или делают логические выводы. Правда, люди решают большинство своих проблем, используя быстрые интуитивные суждения, а не осознанную последовательную логику, которую умел моделировать искусственный интеллект на начальном этапе. Исследования в области искусственного интеллекта несколько продвинулись вперед в том, что касается имитации мозговой деятельности, но удачная симуляция деятельности человеческого мозга, сделанная не так давно японским компьютером, поможет продвинуться в ее понимании. Здесь необходимо также сделать шаг вперед в развитии алгоритмов, которые использует компьютерная программа для воссоздания работы мозга. Поиск более эффективных алгоритмов для поиска решения проблем стал для исследований в области искусственного интеллекта первоочередной задачей{105}.

Мой коллега по Атлантическому союзу доктор Бэннинг Гаррет исследовал проблему мира, управляющегося алгоритмами, и рисков, с ним связанных{106}. Он отмечает, что прогресс в сфере алгоритмов привлек гораздо меньше внимания общественности, чем рост производительности микропроцессоров (причем скорость развития алгоритмов существенно выходит за рамки закона Мура). Скорости процессоров ускорились в 1000 раз, но за тот же период, с 1988 по 2003 г., работа алгоритмов улучшилась аж в 43 тысячи раз. Алгоритмы и интернет вещей, который все чаще называют интернетом всего, – союз, заключенный на небесах, вносящий существенный вклад в науку, здравоохранение, эффективное использование ресурсов и умные города. Однако вместе большие данные и алгоритмы могут привести к массированной атаке на личную информацию. Более того, есть огромный потенциал для злоупотребления алгоритмами прогнозирования. «Уже сегодня страховые компании и комиссии по условно-досрочному освобождению используют прогнозные алгоритмы, чтобы вычислять риски; в США все больше мест, где работа полиции осуществляется на основе прогнозирования, после обработки данных выбираются улицы, группы или отдельные люди, которые становятся объектами более пристального внимания», – рассказал Гаррет.

Как объяснил Гаррет, основной ограничивающий фактор для анализа алгоритмов заключается в том, что результаты основываются на корреляциях, а не причинной зависимости. В своей книге о больших данных Виктор Майер-Шенберг и Кеннет Кукьер объясняют, что корреляции хороши, если их можно обнаружить «гораздо быстрее и дешевле, чем причинную зависимость»{107}. Однако ложные корреляции могут привести к ошибочной оценке со всеми вытекающими: например, преследование правоохранительными органами невинных граждан на основе предсказанной склонности к совершению преступлений.

Стэнфордский профессор и археолог Ян Моррис в своей последней книге «Война! Для чего она нужна?» начинает повествование с инцидента, который мог бы уничтожить большую часть мира, если бы не было системы защиты на случай сбоя алгоритма. Станислав Петров дежурил на командном пункте советской системы предупреждения ракетного нападения в Серпухове-15. Алгоритмы, над которыми работали Петров и его команда, зафиксировали 26 сентября 1983 г. запуск ракет из США. К счастью, Петров понял, что тревога ложная, и убедил советский Генштаб, что произошел сбой алгоритма. Ему пришлось принять решение за доли секунды и добиться того, чтобы его руководство отменило ответный удар{108}.

Остается надеяться, что в будущем таких ложных тревог не будет. Однако пример ситуации, случившейся несколько десятилетий назад, еще до появления суперкомпьютеров, невероятного расширения использования и развития алгоритмов, ставших сегодня привычными во всех сферах жизни, а не только в системах предупреждения ракетного нападения, только подчеркивает опасность.

Гаррет справедливо предупреждает: неважно, насколько хорошо написаны и качественно протестированы алгоритмы. В реальной жизни существуют исключительные ситуации, и они возникают тогда, когда алгоритмы сталкиваются с непредвиденным сочетанием событий или факторов. А значит, кибербезопасность становится все более важной темой по мере того, как все больше «вещей» подключаются к интернету. С подключением новых устройств появляются новые уязвимые места, а для компаний, ориентированных на повышение эффективности систем коммутации, «безопасность не является главной заботой на этом высококонкурентном рынке»{109}. При наличии миллиардов устройств, запрограммированных выполнять разнообразные функции автономно и асинхронно, любой узел может стать вектором атаки на всю систему{110}. В конце концов, это мир, где «машины при помощи сложных алгоритмов и адаптивного поведения [теперь] ведут себя как разумные исполнители, действующие по поручению человека. Выполняя задачи от оптимизации организации движения до наблюдения за здоровьем пожилых или детального контроля использования электроэнергии, “интернет всего” призван сделать мир разумнее, а нашу жизнь проще. Но хакерам будет куда легче нанести серьезный ущерб в реальном мире»{111}. Уже было несколько тестовых случаев, когда компьютеризированные системы в современных автомобилях и электронные кабинеты для ведения медицинской документации продемонстрировали, насколько они уязвимы перед хакерской атакой{112}. Учитывая возможность серьезного ущерба или даже катастрофы, ключевым системам в будущем понадобится отдельная система для управления и мониторинга.

В мире, где машины будут управлять целыми системами без существенного вмешательства со стороны человека, необходимо найти пути обеспечения стабильности работы систем и выполнения ими изначальных функций и при этом минимизирования нежелательных последствий. Вспоминается знаменитый фильм Джозефа Лоузи «Слуга» (1963 г.) с Дирком Богартом в главной роли. По сюжету богатый молодой лондонец нанимает героя Богарта с качестве камердинера. Сначала эти двое формируют тихий союз, укрепляя свои социальные роли как хозяина-аристократа и прислуги, но по мере развития сюжета меняются ролями. Состоятельный лондонский житель становится все более зависимым и в результате полностью деградирует, а слуга все больше захватывает бразды правления. Такого будущего хотелось бы избежать.

Данный текст является ознакомительным фрагментом.