Встречая знакомого, мы почти мгновенно его узнаем. Компьютеры тоже научились этому. Чему еще их можно научить? Эндрю Энджи из Baidu считает искусственный интеллект новым электричеством, которое изменит облик цивилизации. Так ли это? Может ли ИИ изменить мир так же сильно, как электричество?
Больше искусственный, чем умный
Фанаты компьютерной науки недавно радовались очередной победе: программа AlphaGo обыграла сильнейшего в мире игрока в го — пожалуй, самую сложную игру на свете. После этого разработчики создали более совершенную программу AlphaGo Zero, которая выиграла у первой версии себя самой сто матчей из ста, а у второй — восемьдесят девять из ста. Особенностью программы стало то, что она училась не на реальных партиях, сыгранных людьми (как делали предыдущие версии), а играла сама с собой (использовалось обучение с подкреплением). Чтобы научиться играть как сверхчеловек, ей потребовалось всего три дня.
Но позволяют ли новые успехи говорить, что ИИ скоро догонит естественный интеллект и в остальном? Смогут ли машины оценивать свои действия, принимать самостоятельные решения, осуществлять моральный выбор? И вообще, корректно ли в принципе сравнивать ИИ и интеллект живого организма?
Еще в 1980 году американский философ Джон Сёрл продемонстрировал мысленный эксперимент «Китайская комната», по которому среди специалистов до сих пор нет консенсуса. Сёрл предложил нам представить, как он, не зная китайского языка, находится в закрытой комнате и получает от наблюдателя, владеющего китайским, иероглифы с вопросами. Сёрл заглядывает в инструкцию, где написано: «Если вы видите иероглиф A, положите иероглиф B рядом с иероглифом C», — и, ничего не понимая, фактически дает ответ, который носителю китайского кажется вполне осмысленным. Китаец может подумать, что перед ним человек, понимающий иероглифы. Но это не делает Сёрла знатоком китайского: он по-прежнему не знает иероглифов и может лишь различать их по форме.
Выделяют два типа искусственного интеллекта: сильный и слабый. Сильный ИИ — это компьютерный разум, близкий к человеческому, способный осознавать самого себя. Такой ИИ фактически учится языку, как учится ребенок. Слабый — это машина с элементами ИИ, не наделенная сознанием, но умеющая выполнять утилитарные задачи. Такой ИИ обучен использовать язык, не зная его.
Современный период развития искусственного интеллекта ознаменовался спором о возможности и необходимости создания сильного ИИ. В 2011 году всемирно известный лингвист Ноам Хомски выступил на симпозиуме Массачусетского технологического института, где раскритиковал статистический подход к изучению языка, лежащий в основе важных направлений развития ИИ — машинного перевода и распознавания речи. Согласно этому подходу, компьютер может статистически вычислить, какой будет следующая словоформа в предложении, основываясь на собранном массиве данных (например, из интернета). При этом машине не нужно знать правил грамматики или значений слов. Хомски утверждал, что статистическая модель неэффективна в изучении языка, поскольку настоящее знание кроется в человеческой природе и неподвластно машине. Статистические модели могут точно смоделировать некоторые явления, но их механизм в корне неверен. Люди не определяют, каким будет следующее слово в предложении, сверяясь с таблицей.
В ответ на выступление Хомски директор по исследованиям Google Питер Норвиг опубликовал в своем блоге статью, в которой возразил, что статистический метод уже активно используется во всех успешных программах ИИ, связанных с изучением языка. Норвиг указал, что сегодня благодаря этому методу создаются устройства, которые работают и продаются. Что касается науки, то у нас нет другого способа формализовать и выяснить природу вещей, включая язык, мышление, сознание и работу мозга человека, поэтому пока приходится ограничиваться статистическим методом.
Дискуссия Хомски и Норвига — вечный спор между ученым и предпринимателем. Хомски выступает с позиции лингвиста и философа: природа человека пока непознаваема, и попытки ее формализации бессмысленны. У Норвига железный аргумент капиталиста: статистическая модель приносит несколько триллионов долларов в год, а доход от теорий Хомски не достигает и миллиона.
Хомски указывает на невозможность создания сильного ИИ, но сегодня он и не в приоритете: большинство компаний-разработчиков стремится развить слабый ИИ, который позволит им увеличить прибыль. Сильный ИИ остается предметом обсуждений футурологов и философов как один из возможных сценариев развития человечества. Невозможно предсказать, будет ли он реализован. Процесс мышления укоренен в нервной системе человека, а это дает основания полагать, что сильный ИИ должен основываться на живой субстанции (например, на генетически модифицированном организме). А вот возможность перевести процессы живого организма в бинарную логику вызывает сомнения. В конечном счете код ДНК к логике 0/1 не сводится. Живой субстанции свойственна неопределенность, а неопределенность противоречит принципу предсказуемости ИИ.
Автоматизация плюс
Когда компьютер HAL 9000 из романа Артура Кларка и экранизации Стэнли Кубрика «2001 год: Космическая одиссея» понял, что астронавты собираются его отключить, он поднял бунт и начал их убивать, что стало неожиданностью для всех членов экипажа. Подобно настоящему человеку, компьютер осознал ценность своей жизни и принялся бороться за нее, вместо того чтобы служить человеку.
Нам пока беспокоиться не о чем. По мнению специалистов в области ИИ, на современном этапе развития сопоставлять искусственный и человеческий разум по одной шкале некорректно. «Машины во многом опередили человека по вычислительной мощности, по скорости, силе. Но человек осознает окружающий мир и способен быть адекватным в этом мире, — считает Константин Воронцов, профессор МФТИ и НИУ ВШЭ. — Искусственный интеллект пока что решает узкие задачи. Мы еще далеки от того, что называется сильным ИИ».
Схожую точку зрения высказывает и генеральный директор компании SocialDataHub Артур Хачуян: «В моем понимании, искусственный интеллект — это искусственное сознание, цифровая копия человека, что-то осознанное, что может отвечать на вопросы, основываясь на собственном опыте, воспоминаниях, знаниях. Все, что сейчас называется искусственным интеллектом, пока что является просто автоматизацией плюс».
С российскими специалистами соглашаются и зарубежные исследователи. Профессор Болонского университета Джованни Корацца выразил мнение, что именно человек должен работать над тем, что связано с креативностью. «ИИ должен заниматься более рутинными задачами. Эффективность, с которой ИИ их выполняет, недостижима для человека», — объяснил он. Ученый отдает предпочтение слабому ИИ и видит будущее в нем.
Вокруг слабого ИИ сегодня царит шумиха. Компании зачастую используют этот термин для продвижения сервисов, которые в действительности не имеют отношения к ИИ. Как замечает Артур Хачуян, в ведущих компаниях искусственным интеллектом часто называют обычные скрипты — например, те, которые по шаблону генерируют бухгалтерские документы. ИИ же устроен гораздо сложнее.
Сейчас он ассоциируется в первую очередь с глубокими нейросетями, пытающимися имитировать работу мозга человека. Первые нейросети появились еще в 1950-х годах, но тогда из-за недостаточных вычислительных мощностей не вышли за пределы лабораторий. Теперь они стали полноценной технологией. «Нейросети — это хайп, поскольку благодаря им произошел прорыв в компьютерном зрении, распознавании речи и других областях», — объясняет популярность технологии Константин Воронцов.
Фактически искусственная нейросеть — это математическая модель, пытающаяся имитировать имеющиеся у нас представления о работе реальных нейронов. Особенность такой модели в том, что она не просто программируется, но способна самообучаться. Искусственный нейрон представляет собой функцию, которая может принимать определенные значения (обычно 0 и 1). При этом главными в модели являются связи между нейронами (синапсы). Они могут обладать так называемыми весами, то есть характеристиками, определяющими важность той или иной связи среди множества других. Математически веса можно представить в виде матрицы, которая обрабатывается компьютером в соответствии с задумкой программиста и архитектурой конкретной сети.
Моше Варди, профессор Института информационных технологий Университета Райса (США), поделился с «Экспертом»: «С начала пятидесятых люди пытались автоматизировать некоторые задачи. Машинное обучение устроено по принципу того, как учатся люди. Есть быстрое и медленное мышление. Быстрое мышление — это, например, распознавание лиц. Мы узнаем лицо человека очень быстро, не задумываясь об этом. Медленное мышление — это обдумывание ответов, рефлексия и так далее. В последнее время специалисты по ИИ пытаются научить машины именно быстрому мышлению. Думаю, последние пять-шесть лет самой популярной темой было глубокое обучение — особая техника машинного обучения. Она появилась уже давно, но только сейчас компьютеры наконец-то стали достаточно быстрыми, а данных стало достаточно много. Например, чтобы научить компьютер распознавать фотографии, нужно много фотографий с проставленными тегами. И теперь у нас есть Instagram».
У нейронных сетей есть ряд ограничений. Так, для каждой задачи требуется специфичная сеть, более того, «тренировка» сети должна учитывать особенности конкретной задачи. Например, нейронная сеть, заточенная под распознавание рукописного текста, не сможет распознавать фотографии или звуки.
Определенные ограничения есть и в аппаратном обеспечении: для распознавания образов требуются большие вычислительные мощности и система хранения данных. В Tesla считают перспективной технологию облачного хранения, однако не все разработчики согласны с таким решением Илона Маска. «Одной из самых сложных задач для ИИ является именно распознавание образов: при движении автомобиля важна каждая деталь, на нее должна быть дана адекватная реакция. Чисто алгоритмические подходы ушли в прошлое. Сегодня используют более совершенные технологии — например, конволюционные сети, разновидность нейронных сетей. Все это требует серьезных вычислительных мощностей и памяти. Именно в железе есть ограничения, поскольку необходимы более совершенные системы хранения данных. К сожалению, облака не могут решить эти задачи, кто бы что ни говорил», — рассказывает Ольга Ускова, президент компании Cognitive Technologies, разрабатывающей системы искусственного интеллекта для беспилотного транспорта.
Поскольку для нейронной сети любые данные в конечном счете представляют собой совокупность матриц, при определенных условиях такие сети можно обмануть: зная архитектуру сети, злоумышленник способен незаметно и незначительно подменить входные данные, и сеть даст неверный результат. Так, если немного изменить трехмерную модель черепахи, компьютерное зрение перестает ее распознавать и вместо черепахи видит винтовку. Это несет в себе потенциальную опасность — например, в области распознавания дорожной ситуации, где неправильное определение дорожного знака может привести к несчастному случаю.
Чтобы преодолеть эти ограничения, необходимо совершенствовать аппаратное обеспечение и двигать вперед фундаментальную науку, в частности вычислительную математику и кибернетику. По мнению Роджера Шенка, одного из главных апологетов ИИ, необходимо больше внимания уделять его научной основе. Шенк считает, что прогресс в ней пока незначителен, что ставит под сомнение яркое будущее ИИ, которое нам обещают. Сомнения связаны и с тем, что ряд ограничений ИИ преодолеть невозможно. Даже самая сложная искусственная вычислительная система, пытающаяся повторить процессы мозга, не может быть сравнима с мозгом, поскольку когнитивные навыки более сложная субстанция, чем массив данных, подчиняющийся математическим закономерностям. Именно поэтому в ближайшем будущем ИИ останется просто автоматизацией плюс.
Весна, лето, осень, зима… и снова весна
Попытки создать ИИ предпринимаются давно. Вторая мировая война привела к рывку во многих сферах науки и инженерии, в том числе в криптографии и кибернетике. Термин «искусственный интеллект» появился в 1956-м, когда на специально созванной конференции в Дартмуте собрались лидеры зарождающейся компьютерной науки. Именно благодаря достижениям в математике, логике и криптографии, которые были накоплены за первую половину XX века, стали возможными первые шаги в направлении машинного обучения.
Первые попытки развития ИИ отражали желание американских военных получить автопереводчик. Попытки провалились (системы машинного перевода до сих пор слабы в языках со сложной грамматикой), и на смену им пришла новая идея — создать ИИ, способный поддерживать беседу с человеком. Алан Тьюринг даже предложил эмпирический тест, который должен был определить, может ли машина притвориться человеком. Пик оптимизма пришелся на 1960-е. Влиятельный ученый Герберт Саймон в 1965 году заявил, что через двадцать лет машины смогут выполнять любую работу, которую делает человек. Однако вскоре стало понятно, что задача гораздо сложнее, чем кажется. Ученые столкнулись с недостаточной вычислительной мощностью компьютеров и нехваткой цифровых данных.
В 1970-е наступила «зима искусственного интеллекта», эра пессимизма по отношению к ИИ. Похолодание началось в 1973 году с отчета британского математика Джеймса Лайтхилла. По заказу британского Научно-исследовательского совета Лайтхилл, который не имел прямого отношения к разработкам в сфере искусственного интеллекта, проанализировал его практические успехи и дал неблагоприятный прогноз, и в итоге правительство Великобритании решило прекратить поддержку программ по исследованию ИИ. Вскоре финансирование ИИ сократило и Управление перспективных исследовательских проектов минобороны США (DARPA).
В 1980-м успехи в сфере ИИ продемонстрировала Япония, началась эра персональных компьютеров, и оптимизм вернулся. Из всех направлений тогда наибольшую популярность получили экспертные системы, которым смогли найти коммерческое применение. В них компьютер на основе базы фактов проводит логические цепочки (прямые и обратные). Но экспертные системы оказались неэффективными — они не могли учиться новому, допускали ошибки в нестандартных задачах. В 1984-м Роджер Шенк и Марвин Минский предупредили о наступлении новой «зимы», и тремя годами позже их предсказание сбылось. В 1987 году рынок экспертных систем обрушился. Вперед вырвались компании IBM и Apple, чьи продукты развивались быстрее, чем машины компаний Lisp Machines и Symbolics, оптимизированные для работы экспертных систем.
В итоге к началу 1990-х уровень оптимизма относительно ИИ был, пожалуй, самым низким. Тем не менее исследования продолжались, и в 1997 году новые разработки позволили суперкомпьютеру IBM Deep Blue одержать победу над чемпионом мира по шахматам Гарри Каспаровым. Deep Blue не был похож на ИИ в современном понимании. В нем не было нейронных сетей — он просто перебирал миллиарды возможных вариантов ходов в поисках оптимального. И все же это было огромным шагом вперед, вновь пробудившим интерес к ИИ.
Каждая волна интереса вела к пересмотру понятия «искусственный интеллект», к изменению ожиданий и основных направлений финансирования. С каждой итерацией понятие расширялось, включало в себя новые направления. Так, термин «машинное обучение» появился в 1959-м. «Глубокое обучение» — в 1986-м. Data mining — в 1990-м. Big data — в 1998-м.
К 2010-м годам аппаратное обеспечение существенно шагнуло вперед. Распространение интернета, социальных сервисов, цифровизация B2B и B2C — все это открыло дорогу технологиям машинного обучения, персонифицированным сервисам, бизнес-аналитике, дата-майнингу. Компьютеры способны обрабатывать настолько большие объемы данных, какие двадцать лет назад нельзя было себе представить. Крупнейшие корпорации и венчурные инвесторы поверили в новые возможности, в бизнес-ценность новых технологий. В 2016 году объем инвестиций в ИИ составил более пяти миллиардов долларов — рекорд для отрасли.
На волне нового витка оптимизма крупные IT-компании начали активно скупать стартапы, специализирующиеся на ИИ. Первыми в этом направлении стали действовать eBay (приобрела рекомендательный сервис Hunch в 2011 году), Google (в 2011 году купил Clever Sense — сервис, рекомендующий рестораны) и Facebook (в 2012 году купил стартап Face.com, занимающийся распознаванием лиц). С каждым годом число сделок по приобретению ИИ-стартапов увеличивается. Только за прошлый год крупнейшие компании Кремниевой долины совершили несколько знаковых покупок ИИ-стартапов: Apple/Emotient (распознавание мимики лица), Intel/Itseez (компьютерное зрение), Google/Api.ai (обработка естественного языка). По прогнозам International Data Corporation, в 2017 году оборот рынка ИИ вырастет до 12,5 млрд долларов.
Приобретения стартапов — лишь малая доля вложений гигантов в ИИ. По оценкам McKinsey, в 2016 году крупнейшие IT-компании потратили на ИИ от 20 до 30 млрд долларов, причем поглощения других компаний — лишь 10% всех затрат, а 90% средств пошли на НИОКР и ввод технологий в эксплуатацию.
Наступившая «весна» — самая перспективная из всех. Повсеместное внедрение информационных технологий не оставляет другого пути развития, кроме как через технологии ИИ. Можно рассчитывать на существенные сдвиги в сфере автоматизации, рационализации производства и использования ресурсов. В ближайшие десять лет человечество способно широко внедрить персонифицированную рекламу, здравоохранение, СМИ, сделать повседневные услуги нацеленными под конкретного потребителя. ИИ приведет к прорыву в беспилотном транспорте, аналитике данных и сфере безопасности.
Как достать деньги из черного ящика
Крупные компании заявляют, что инвестиции в ИИ уже приносят плоды. В 2012 году Amazon приобрел компанию Kiva, производящую роботов-упаковщиков. В результате упаковка товаров стала занимать не 60–75, а всего 15 минут. Операционные издержки снизились на 20%. Это позволило сэкономить по 22 млн долларов каждому центру обработки заказов Amazon. В американской Netflix тоже заявляют об успехах ИИ: благодаря использованию персонализированных рекомендаций компания перестала терять до миллиарда долларов в год.
Роль корпораций в экономике США растет — доля корпоративных доходов в общем объеме номинального ВВП США достигла исторического максимума. В то же время в последние несколько лет все чаще наблюдается падение доходов американских компаний. Выход из ситуации представители бизнеса видят в технологиях ИИ — этот новый фактор производства, по их мнению, способен стать новым топливом для экономики: рост производительности труда в США в последнее десятилетие оказался минимальным за пятьдесят лет, и это наводит на мысль о необходимости технологических изменений.
Увеличение корпоративных затрат на НИОКР в сфере ИИ и развитие мощных графических процессоров (GPU) стимулируют рост возможностей технологий ИИ. Сегодня GPU, первоначально разработанные для видеоигр, могут обрабатывать изображения в 40–80 раз быстрее, чем самые быстрые версии процессоров, существовавшие в 2013 году. GPU оказались в тренде, потому что более эффективны для расчетов, которые проводятся системами ИИ. На фоне роста популярности GPU стремительный рост показывает производящая их компания Nvidia, цена акций которой за последний год выросла втрое — лучший индикатор роста интереса к ИИ. Появляются и новые архитектуры процессоров: в 2016 году в Google создали тензорный процессор, предназначенный для работы с библиотекой машинного обучения TensorFlow.
Однако в конечном счете одно только увеличение вычислительной мощности не означает повышения уровня ИИ — программы должны быть написаны людьми под конкретную задачу, и именно талант программиста определяет возможности того или иного алгоритма, нейронной сети или любого другого черного ящика, который получает данные, а на выходе дает осмысленный результат. Роль человека в каком-то смысле не снижается, а растет. Данные, предоставляемые технологиями ИИ, необходимо интерпретировать.
По словам Артура Хачуяна, именно аналитики, способные выделять важное в полученных данных, в ближайшем будущем станут наиболее востребованными специалистами. Они потребуются для выявления и отсечения ложных корреляций — то есть связей, не имеющих смысла с точки зрения поставленной задачи. Мозг человека устроен невообразимо сложнее, чем любая математическая модель, которую в ближайшей перспективе смогут построить ученые. Модель по определению предполагает специализацию, следовательно, она ограничена в своих возможностях. Человек же способен обнаруживать самые сложные смыслы и связи между данными, которые компьютер распознать не в состоянии. Замены человеку в таких задачах не будет.
Нельзя отрицать, что наука подвела нас к новой реальности, и нам с этим жить. Однако не стоит терять почву под ногами и ожидать от математических моделей чудес. От выступлений участников недавно прошедшего в Сколкове форума «Открытые инновации» может сложиться впечатление, будто мы находимся в фантастическом фильме, где умные машины общаются с человеком на равных. Но стоит признать, что, как бы кому ни хотелось, компьютеры не показывают чудес креативности — они лишь выполняют технические задачи. ИИ работает, следуя инструкциям, не осознает того, что делает, и не развивает свои когнитивные функции.
Дивный новый мир
Большинство исследователей не видят в ИИ реальной угрозы миру, однако влияние новых технологий нельзя недооценивать. «Компьютеры должны действовать на наше благо, но как мы можем исключить возможность злонамеренного использования ИИ? Корпорации приобретают огромную роль, поскольку у них есть огромное количество наших персональных данных, — считает Джованни Корацца из Болонского университета. — Нам не стоит бояться ИИ, но нужно беспокоиться о будущем. Следует заранее поменять образовательную систему, подход к труду, рынки. И надо думать о том, зачем нам технологические изменения. Если они нужны только для увеличения прибыли корпораций, то это не имеет смысла. Нужно, чтобы технологии приносили пользу всему обществу. Но пока что мы движемся в другом направлении».
Профессор Корацца — один из тех, кто верит в возможность самостоятельного написания программами новых программ и последовательного усложнения задач ИИ. «Мы движемся в сторону гибких компьютерных архитектур, которые будут подстраиваться под выполняемые задачи, копируя реакции человеческого мозга. Думаю, технологии будут развиваться в невероятном темпе, когда программное обеспечение будет само себя писать. Мы не знаем, что случится потом, пока что мы далеки от этих технологий. Но, думаю, в принципе это возможно», — заключает он.
Даже разделяя оптимизм Кораццы, нельзя предугадать, когда именно компьютерные архитектуры дадут прорыв в ИИ. Это может произойти, как через десять лет, так и через пятьсот. Но уже сегодня спекуляции вокруг ИИ дошли до такой степени, что можно услышать даже о грядущем наступлении новой античности — новый мир ИИ якобы станет возрождением лучших эпох, моментом истории, когда человек наконец-то сможет заняться своими делами, посвятить жизнь творчеству, досугу и близким, а всю работу будут делать машины. О подобном говорил Джон Кейнс еще в 1930 году, предсказывая, что к концу века люди будут работать не более пятнадцати часов в неделю. Мир действительно изменился, стандарты жизни в развитых странах очень высоки. Но растущая конкуренция не дает возможности сократить рабочую неделю.
Изменит ли ситуацию искусственный интеллект? Едва ли. Исторический опыт показывает, что потребности человека растут по мере роста как его собственных финансовых возможностей, так и возможностей экономики. Передовые технологии, безусловно, произведут сильный сдвиг на рынке труда. Вероятнее всего, будут исчезать «бумажные» профессии, операторы колл-центров, бухгалтеры, юристы — то есть те, кто занят в сфере простейшей обработки данных. Проще говоря, компьютеры освободят нас от писанины. Однако возникнет потребность в новых специалистах — аналитиках, разработчиках, «архитекторах» систем. Технологии ИИ не заменят человека, а позволят ему расширить свои возможности. В будущем механическое запоминание информации с последующим ее воспроизведением будет отдано ИИ. От человека будет требоваться понимание смысла процессов, постановка целей перед ИИ и решение морально-этических вопросов.
Говоря о будущем ИИ, мы беспокоимся не о машине, а о человеке. Общаясь с «неодушевленными» системами, мы теряем связь со скрытым знанием (tacit knowledge), полученным не из книг, а из опыта. Соответственно, при полной вовлеченности ИИ в жизнь человека возникает риск нехватки специалистов, способных как контролировать ИИ, так и развивать его в дальнейшем. Это требует скорого изменения образовательных стандартов и методов обучения.
Обращаясь к метафоре Эндрю Энджи, можно заключить, что новая «электрификация» планеты идет полным ходом. Однако ИИ, как и электричество, имеет сугубо утилитарный характер. Человек склонен представлять ИИ в качестве высшей формы сознания, но нет никаких оснований одушевлять технологии. Каких бы высот ни достиг ИИ, высшей формой разума останется человек.
