Искусственный интеллект: насколько умные машины нам нужны?

Искусственный интеллект уже стал фактом в некоторых финансовых и транспортных сегментах, и по мере его распространения в других сферах мы все больше хотим убедиться, что контролируем его, а не наоборот. От «Космической Одиссеи 2001 года» до «Бегущего по лезвию», от «Робокопа» до «Матрицы», когда люди имеют дело с искусственным интеллектом, они неизбежно сталкиваются с мрачной фантазией кинематографистов. 

Последний фильм Спайка Джонса «Она» и грядущий «Из машины» Алекса Гарленда уже посвящаются творениям искусственного интеллекта, живущим среди нас. Тест Тьюринга выходит на передний план, а мы все так же не можем определить основное отличие чипов и кода от плоти и крови.

Эти опасения проявляют и некоторые известные люди Кремниевой долины: в прошлом месяце Элон Маск (CEO Tesla и SpaceX) описал искусственный интеллект как «крупнейшую экзистенциальную угрозу» для человечества. Чего многие из нас не понимают, а возможно, и сам Элон Маск тоже, это то, что искусственный интеллект — это не какая-то невероятная технология, существующая только в фантазиях кинематографистов и лабораториях компьютерных гениев. 

Многие наши смартфоны используют элементарные методы искусственного интеллекта для перевода с одного язык на другой или ответов на наши вопросы; в игровой индустрии ИИ используется для генерации сложных и постоянно меняющихся игровых сценариев. И пока компании Кремниевой долины вроде Google и Facebook продолжают скупать компании по разработке ИИ и нанимать экспертов, коэффициент искусственного интеллекта будет продолжать расти.

Получается, искусственный интеллект — это не фильм Спилберга?

К фильму никаких претензий нет, но термин, который обозначает «искусственный интеллект», имеет куда более длинную историю, чем ту, которую показали в своих фильмах Спилберг и Кубрик. Понятие искусственного интеллекта восходит еще к рождению вычислительной техники в 1950-х годах, когда, всего спустя 14 лет после определения понятия компьютера общего назначения, Алан Тьюринг задумался, может ли машина мыслить.

Прошло 64 года, а эта идея до сих пор занимает наши умы, воплощается в фильмах и книгах, обсуждается на симпозиумах. Она не ушла далеко от набора правил, изложенных Тьюрингом в работе 1950 года «Вычислительные машины и разум», в которой он предложил «игру в имитацию», которую мы сейчас знаем как тест Тьюринга.

Подключить компьютер к текстовому терминалу и дать ему возможность пообщаться с оператором наряду с реальным человеком. Суть теста в том, что когда вы просите определить оператора, кто из его собеседников был человеком, «оператор ошибется столько же раз в ходе этой игры, сколько мог ошибиться, пытаясь отличить мужчину от женщины».

Тьюринг считал, что выяснить, может ли машина пройти тест, будет более полезным, чем ответить на смутный и философский вопрос о том, думает она или не думает. «Что касается этого вопроса… я считаю, что обсуждать его бессмысленно». Правда, Тьюринг думал, что к 2000 году «язык и образование изменятся настолько, что любой сможет пообщаться с мыслящей машиной безо всяких проблем».

Говоря буквально, он не слишком и прогадал. Сегодня нередко можно услышать людей, которые говорят, что их компьютеры «тупят» или «задумываются». Но даже если мы серьезнее подойдем к определению думающей машины, эта идея будет ближе к реальности, чем многие могли бы подумать.

ИИ уже существует?

Относительно. Мы по-прежнему далеки от прохождения игры в имитацию Тьюринга, несмотря на сообщения об обратном. В июне чатбот Евгений Густман успешно обманул треть судей, проходя тест Тьюринга в Лондоне, убедив их в том, что он человек.

Но вместо того, чтобы думать, Евгений опирался на уловки и трюки. Выдавая себя за 13-летнего мальчика, для которого английский язык — не родной, машина объясняла этим многие нелогичные моменты своего поведения, в том числе плохое чувство юмора и оскорбительные высказывания, часто перенаправляя разговор в другое русло.

Большинство разработчиков ИИ пытаются научить его обрабатывать естественный язык, чтобы мы могли задать команду на привычном для нас языке. Это то, что начинают делать дети еще до того, как делают свой первый шаг, и это крайне сложная задача для машины.

Рассмотрим любимую фразу исследователей ИИ: «time flies like an arrow, fruit flies like a banana». [игра слов: «время летит как стрела, фруктовые мушки любят банан»; вторую часть предложения, по аналогии с первой, можно перевести как «фрукт летит как банан»]. Разложение предложения на составные части иногда ставит в тупик даже носителей английского языка, не говоря уже об алгоритме.

У ИИ проблемы с речью?

Не совсем так. По сути, чаще всего ИИ используется не для разговоров. Некоторые из вас должны знать об искусственном интеллекте не из научной фантастики или от Алана Тьюринга, а из видеоигр, где ИИ используется для обозначения управляемых компьютером оппонентов.

В шутере от первого лица, например, ИИ управляет движениями врагов, позволяя им уклоняться, целиться и стрелять в вас самым непостижимым образом. В гоночных играх ИИ может контролировать автомобили соперников. Как образец возможностей ИИ, видеоигры, конечно, оставляют желать лучшего. Но бриллианты делаются из алмазов, и упрощенные правила системы объединяются, чтобы сделать что-то сложное.

Взять, к примеру, GTA V, где создание городов, живущих собственной жизнью, означает, что можно завернуть за угол и обнаружить пожарный экипаж, который дерется с водителем, наехавшим на шланг; или Dwarf Fortress, где гномы живут в пещерах своей жизнью, текстурной и алгоритмически подробной. Эти возникающие системы гейм-плея показывают совершенно новый способ, которым может развиваться ИИ, не пытаясь имитировать человека, но развивая «достаточно хорошую» эвристику, которая превращает алгоритмы в нечто совершенно иное при достаточном масштабировании.

Получается, все вкладывают деньги в ИИ, чтобы делать игры получше?

Нет. Очень много финансов в ИИ вкладывают такие компании, как Apple и Google, которые пытаются создать себе виртуальных личных ассистентов вроде Siri и Google Now.

Возможно, это немного далеко от фантастического видения Тьюринга, но голосовые сервисы, по сути, проделывают ту же тяжелую работу, что и человек. Им нужно слушать и понимать разговорную речь, определять, какие данные она в себе заключает, а затем возвращать результат, тоже в форме разговора. Они не пытаются обмануть нас, убедив в том, что они люди, но это происходит само по себе. Поскольку все вычисления происходят в облаке, чем больше они слышат, тем лучше они понимают.

Однако ведущие исследования ИИ сосредоточены не на том, чтобы повторить человеческое понимание мира, а превзойти его. Watson от IBM, например, известен как компьютер, который победил на игровом шоу Jeopardy! в 2011 году, использовав понимание естественного языка для поиска ответов на вопросы ведущего. Но наряду с пониманием естественного языка, Watson также может читать и понимать огромные массивы неструктурированных данных, и весьма быстро.

В случае с Jeopardy!, он работал с 200 миллионами страниц данных, включая текст всей Википедии. Реальная же цель Watson заключается в том, чтобы расшириться на весь Интернет и предоставить специалистам в медицинской сфере удобный механизм для работы. В конце концов, есть ученые, которые просто хотят спасти человечество.

Мы все умрем?

Возможно. Есть опасение, что после того, как достаточно универсальный ИИ вроде Watson будет создан, его мощность будет увеличиваться вместе с вычислительной мощностью, доступной для него. Закон Мура предсказывает, что вычислительная мощность удваивается каждые 24 месяца, так что остается только вопрос времени, когда ИИ станет умнее своих создателей и сможет создать еще более мощный ИИ, что приведет к экспоненциальному росту его возможностей.

Но что сверхразумный искусственный интеллект будет делать с этими возможностями? Все зависит от того, как его запрограммируют. Проблема в том, что весьма трудно запрограммировать в высшей степени умный компьютер так, чтобы он случайно не уничтожил человечество.

Допустим, вы даете своему ИИ задачу делать скрепки и делать их так хорошо, насколько это вообще возможно. Довольно скоро он поймет, что улучшения производства скрепок можно добиться улучшениями на производственной линии. Что он будет делать дальше?

«Например, он будет озабочен тем, чтобы люди его не выключили, потому что тогда скрепки производиться не будут», — объясняет Ник Бостром. Скрепочный ИИ, говорит Бостром, «может избавиться от человека сразу, поскольку он представляет угрозу. Кроме того, ему понадобится столько ресурсов, сколько вообще возможно, потому что их можно использовать для производства скрепок. Например, атомы в человеческих телах».

Как бороться с таким ИИ?

Единственный способ, который сработает, по мнению некоторых теоретиков вроде Рэя Курцвейла, технического директора Google, — это вырубить ИИ. Людям стоит задумываться не только о том, как создать разумный ИИ, но и об этической стороне этого вопроса — и программировать в соответствии с ней.

В конце концов, написание кода — это просто поиск неприятностей. Машина с инструкцией «сделать людей счастливыми» может решить эту проблему весьма просто, внедрив людям электроды в мозг. Поэтому, задавая искусственному интеллекту решать крупные философские проблемы, нам нужно убедиться, что машина понимает, что такое «хорошо» и что такое «плохо».

Получается, нам нужна программа этики и все будет хорошо?

Не совсем. Даже если нам удастся предотвратить появление вредоносного ИИ, остается вопрос того, как общество адаптируется к растущим возможностям искусственного интеллекта.

Промышленная революция характеризуется автоматизацией ряда работ, которые ранее полагались на ручной труд. Нет никаких сомнений в том, что промышленная революция стала периодом самого значительного роста благосостояния людей. Но переворот того времени был уникальным в своем случае, и вряд ли мы сможем увидеть такое снова.

То же, что сила пара сделала для физического труда, ИИ может сделать для умственного. Уже появляются первые жертвы этой сферы: диспетчерской такси нет места в мире с Hailo и Uber; работа биржевого маклера изменилась именно благодаря внедрению высокочастотного трейдинга; спортивные и новостные заметки скоро тоже будут делать машины.

Настоящие изменения только начинаются. В ноябре Goldman Sachs возглавила раунд финансирования на 15 миллионов долларов для Kensho, сервиса анализа финансовых данных, который использует методы искусственного интеллекта, которые неподвластны лучшему из аналитиков-людей. Он может работать с таким огромным количеством данных, что люди просто бессильны перед ним.

Аналитика Kensho может использовать компанией высокочастотного трейдинга, например, Athena, которая использует ее для того, чтобы получить преимущество в миллисекундах на рынке — этого достаточно, чтобы заработать, если вы торгуете миллиардами долларов.

После того как такой трейдинг скажется на рынке в общем, Kensho может предоставить свои алгоритмы Forbes, и та заменит своих финансовых аналитиков. Большинство бизнес-сводок похожи одна на одну, и если данные доступны в структурированном формате, зачем тратить время на людей?

В общем и целом такие изменения — это хорошо. Если труд миллионов людей заменят алгоритмы, они смогут заняться чем-нибудь получше, количество рабочих часов снизится, и мы приблизимся к утопии еще на шаг.