Что такое есть в нас, чего нет в компьютерах

Пионер компьютерной музыки Дэвид Коуп говорит: «Почти все, что я слышу и читаю, – одно и то же. Это вечное противопоставление машины и человека и вопрос “Вы же не хотите отнять у нас последнее качество, которое можно назвать истинно человеческим, – творческие способности?” Знаете, я считаю такое отношение мелочным и чуждым творчеству»[290]. Мы понимаем, каково ему слышать это. Споры, являются ли компьютеры настоящими творцами и могут ли ими быть, представляют интерес для некоторых людей; нас же гораздо больше волнует, как максимизировать общее количество творческих сил в мире. Мы считаем, что для этого нужно двигаться в двух направлениях: продолжать работать над созданием компьютеров, способных придумывать новые идеи, и искать способы сочетать их возможности с тем, что делают творческие люди. Наилучшие решения появятся при совместной работе разума и машины.

Слишком часто, сводя их вместе, мы просим разум заняться скучной и рутинной работой, которую должны делать машины. Как мы описывали в главе 2, идея стандартного партнерства, установившегося двадцать лет назад, состояла в том, чтобы освобождать людей для мышления высокого порядка, оставляя компьютерам нудный труд. Однако дизайнеры и представители других творческих профессий сегодня проводят слишком много времени за отупляющими скучными делами. Вот что заявил нам бывший CEO компании Autodesk Карл Басс:

Использование средств автоматического проектирования – это как геометрия в 11-м классе. Вы сидите, чертите линию, находите среднюю точку, отмечаете ее, чертите другую линию, экструдируете, делаете сопряжение[291]. И что интересно, вы вынуждены заниматься всем этим, еще не зная, решит ли ваша деталь поставленную задачу. Вы можете неделями работать над всеми этими чертежами и только потом понять, что создаваемый механизм работать не будет. Мы обучили целое поколение работать таким образом. Мне кажется, что мы дали людям плохие инструменты[292].

Autodesk и другие компании работают над улучшением инструментов для творчества. Продукты нового поколения будут делать некоторые вещи иначе.

Во-первых, они будут давать возможность проверить общую осуществимость или пригодность идей до того, как пользователи займутся «геометрией как в 11-м классе». Типичный первый проект – набросок на обратной стороне салфетки. Цифровые инструменты, которые появятся очень скоро, позволят делать что-то вроде такого наброска – в порыве вдохновения – и будут давать быстрый и точный ответ относительно реалистичности замысла: выдержит ли здание землетрясение, выдаст ли двигатель требуемую мощность и тому подобное.

Во-вторых, новые инструменты на каждой стадии разработки будут автоматически делать больше рутинной работы. Мы неважно с ней справляемся, слишком медленно, с множеством ошибок, поэтому стоит перепоручить ее технологиям и модернизировать стандартное партнерство, оставив себе творческие задания.

Еще очень долго роль людей в этой работе останется огромной, как бы ни развивались технологии. Ранее мы высказывались в пользу очень ограниченного участия людей во множестве ситуаций, включая принятие решений, вынесение суждений, диагностику и прогнозирование. В чем разница между этими вещами и творчеством? Разница в том, что во многих сферах создание чего-либо нового и хорошего явно требует, чтобы создатель жил в реальном мире, а компьютеры ни в коем случае не живут. Здесь не место начинать дискуссию о том, что такое сознание – этому «слову-чемодану» посвящены целые жизни и библиотеки, – но мы все-таки заметим, что в настоящее время компьютеры сознанием не обладают. Чтобы придумать что-то, что может понравиться людям, обычно нужно обладать глубоким пониманием того, что значит быть человеком, и ощущать мир всеми органами чувств и эмоциями. Насколько мы можем судить, долгое время никто, кроме людей, не будет на такое способен.

Автор песен Эндрю Бёрд в 2008 году заметил: «Единственное, что отличает песню от путаницы вроде бы разнородных наблюдений, – это чрезмерная уверенность автора в себе»[293]. Нам нравится его идея, но, полагаем, он проявил излишнюю скромность. У компьютеров никогда не будет недостатка уверенности в себе, и они могут генерировать бесконечные списки разнородных или связных наблюдений о любви и потерях. Однако мы сильно удивимся, когда появится цифровой поэт, который сможет создавать выдающиеся тексты песен, как Коул Портер, Джони Митчелл или Джей-Зи[294]. Источники их творчества большей частью лежат в понимании человеческой природы. Мы не видим ничего, что указывало бы на скорое появление этого понимания у компьютеров. По мнению пионера в области искусственного интеллекта Яна Лекуна, нас определенно ждет такое в будущем, но сейчас «есть концептуальные представления, что мы пока не знаем, как это делать»[295]. Эндрю Ын, другой выдающийся исследователь, согласен с ним. Он сказал нам: «Мы понятия не имеем, как работает мозг, и создаваемые нами алгоритмы работают совершенно не так, как мозг»[296].

Пока машины не обрели этой способности, мы можем довольствоваться своего рода поэзией и прозой, созданными искусственным интеллектом и собранными в CuratedAI – «литературном журнале, написанном машинами для людей»[297]. Его вводная статья «Музыка довольна тем, как мыслит господин Бертрам» была написана в августе 2016 года нейронной сетью Deep Thunder после «воздействия романов Джейн Остин». Текст начинается так:

Холодно, и никаких воспоминаний о том, что происходит в Горе. Твоему старшему скажи, когда я пытался стать первым в прославлении, и все это было так небрежно в поездке к господину Кроуфорду; но вы заслужили гораздо, что едва было до этого, и я уверен, что у меня нет возвышенного слова, мэм, я уверен, что мы не знали, что музыка довольна тем, как мыслит господин Бертрам[298], [299].

Мы понятия не имеем, что это означает, и в ближайшее время будем отдавать предпочтение той поэзии и прозе, что создают люди.

СВЯЗИ МЕЖДУ ЛЮДЬМИ В ЦИФРОВОМ МИРЕ

Человеческой природе свойственны межличностные отношения. Люди – социальные существа, живущие группами (семьями, племенами, городами), которые увеличиваются в размере в ходе эволюции. Неизбежное следствие такой тенденции – это то, что мы сильно подстраиваемся друг под друга и как индивидуумы, и как члены группы. Всех нас постоянно и сильно заботит то, как мы относимся к другим людям и что они думают о нас (среди немногих исключений – истинные социопаты и люди с глубокими расстройствами аутического спектра). Наш коллега из Массачусетского технологического института, чрезвычайно талантливый ученый Деб Рой, указал, что социальная природа позволяет нам весьма точно предсказать, какие виды работы технологический прогресс затронет меньше всего, – те, что затрагивают социальные побуждения.

Список таких побуждений, составленный Роем, включает страсть, гордость, смущение, зависть, чувства справедливости и солидарности. Чтобы понять, как они задействованы в сфере труда, возьмем в качестве примера женщину – тренера футбольной команды старшеклассниц. Было бы великолепно, если бы она обладала глубоким стратегическим пониманием спорта и способностью, наблюдая за ходом игры, менять тактику нужным образом, но из-за почти полного отсутствия денежной мотивации, связанной с количеством побед и поражений, важнее всего в такой работе оказывается вовсе не умение научить команду выигрывать. Главным становится умение добиться, чтобы девочки сработались и научились общими силами достигать цели, стали хорошими товарищами по команде, способными помогать друг другу, и развили личность через спорт. Тренер большей частью достигает этого, опираясь на свою способность сопереживать и обращаясь к гордости девочек. Она также использует желание подопечных получить одобрение от человека, являющегося для них ролевой моделью и авторитетом.

Большинство из нас отдают себе отчет в том, что хорошие футбольные тренеры встречаются редко, но мы забываем, что таких тренеров не людей не бывает. Попробуйте представить себе, что в школьной команде работает цифровой тренер с искусственным интеллектом. Сможет ли он выделить в команде прирожденных лидеров и трудных подростков и понять, что нужно делать, если кто-нибудь попадает сразу в обе категории? Сможет ли он поддерживать командный дух весь сезон, во время всех взлетов и падений? Найдет ли он доброе слово для какой-нибудь школьницы, чтобы она, забыв об усталости и сомнениях, добилась того, что казалось ей невозможным? Мы уже знаем, что в случае с технологиями никогда не нужно говорить «никогда», но в этом случае все-таки скажем: «Почти наверняка нет».

Компьютеры все лучше справляются с задачами вроде определения эмоционального состояния человека по выражению его лица и звуку голоса, но все это еще очень далеко до того, что мы только что описали. Мы уверены, что способность эффективно работать с эмоциональными состояниями и социальными побуждениями людей еще долго останется исключительно человеческим умением. Это дает еще один новый способ сотрудничества разума и машины: пусть компьютер играет ведущую роль в принятии решений, а также в прогнозах, диагностике, вынесении суждений и тому подобном, а люди будут выходить на первый план в случае необходимости убедить кого-нибудь согласиться с такими решениями.

Здравоохранение дает множество примеров того, как это можно осуществить на практике. Медицинский диагноз – упражнение на сравнение наблюдаемой ситуации с образцами, и компьютеры достигли в нем сверхчеловеческого уровня благодаря переводу всей медицинской информации в цифровую форму и успехам в машинном обучении и других областях. Если лучшим в мире диагностом в большинстве медицинских специальностей – радиологии, патологии, онкологии и прочих – еще не стал компьютер, то это ненадолго. Возможно, на первых порах было бы неплохо, чтобы эксперт-человек посмотрел диагноз[300], но ведущая роль останется у компьютера.

Большинство пациентов не желают получать диагноз от машины. Они хотят получать его от человека, способного к сочувствию, который поможет им понять и принять тяжелые новости. Поэтому высоко ценятся врачи, которые после поставленного диагноза могут построить с пациентом доверительные отношения и использовать социальные побуждения, поскольку у них больше шансов убедить больного следовать прописанному лечению. Невыполнение назначенного курса – основная проблема здравоохранения, плохо сказывающаяся на здоровье миллионов людей; согласно одной оценке, она обходится США в 289 миллиардов долларов ежегодно[301].

Компания Iora Health из Кембриджа (Массачусетс) к середине 2015 года запустила 13 медицинских проектов в шести штатах, где пыталась прикрепить к людям «консультантов по здоровому образу жизни». Эти профессионалы не только давали медицинские советы, но и брали на себя труд выслушивать пациентов, проводить с ними время и в целом делать так, чтобы вся практика охраны здоровья выглядела максимально человечной и персонифицированной, а не обезличенной. Похоже, такой подход работает. Как сообщала газета The Boston Globe: «Согласно заявлению компании, в одном пункте Iora уровень госпитализации оказался на 37 процентов ниже, а расходы на здравоохранение – на 12 процентов, чем в случае контрольной группы, использовавшей традиционные медицинские системы… В двух других пунктах количество обращений за неотложной помощью снизилось минимум на 30 процентов»[302].

В будущем люди останутся жизненно важной частью усовершенствованных систем предоставления медицинских услуг, но не всегда в той же роли, что сегодня. На центральное место должны выходить не блестящие диагносты и другие медицинские «лица, принимающие решения», а эмоционально и социально грамотные координаторы по оказанию помощи. Помните шутку про двух работников на заводе – человека и собаку? В случае с медициной мы предлагаем небольшое изменение: в больнице должны будут находиться искусственный интеллект, человек и собака. Работа искусственного интеллекта – поставить диагноз, работа человека – понять его и донести до пациента, а также объяснить, в чем заключается курс лечения, работа же собаки – кусать человека, если он будет оспаривать мнение искусственного интеллекта.