Илон Маск — один из организаторов открытого письма в ООН по поводу опасности применения искусственного интеллекта в военном деле. Он вместе со 115 единомышленниками из 26 стран, такими же бизнесменами, которые занимаются искусственным интеллектом (Artificial Intelligence, AI), настоятельно призывают запретить автономные системы вооружений (AWS). Так называют «умное» оружие, которое включает всем известных, в основном по книгам и кино, роботов и беспилотники, которые способны выполнять боевые задачи самостоятельно, без вмешательства человека. Маск считает, что, дойдя до определенного уровня развития, AWS выйдут из-под контроля и превратятся в огромную угрозу для человечества. Развитие AI сравнивается в письме с ящиком Пандоры: откроешь его — и выпустишь наружу неисчислимые беды. По мнению Маска и его сторонников, появление AWS — третья революция в военном деле (первые две — изобретение пороха и атомного оружия). Времени на раздумья и полемику практически не осталось, считают авторы письма, потому что речь идет не о десятилетиях, как думают многие, а всего лишь о годах.
Любовь и ненависть
Состояние Илон Маск сделал на компании X.com, которая впоследствии превратилась в PayPal. В 2002 году он вместе с другими бизнесменами создал SpaceX, первую частную компанию, запустившую спутник на земную орбиту. Сейчас имя Маска чаще связывают с автопромом: его компания Tesla Motors обошла по капитализации всех американских автопроизводителей и вышла на третье место в мире.
Маска часто сравнивают с Тони Старком из блокбастера «Железный человек». Кстати, режиссер фильма Джон Фавро не скрывает, что именно Маск послужил прообразом Старка.
То, что фамилия миллиардера не просто значится в списке подписантов в письме-предупреждении, но он считается и одним из организаторов этой акции, мало кого удивило. Всем известны непростые «отношения» между Маском и AI, очень похожие на бурные отношения между супругами, которые любят и одновременно ненавидят друг друга.
Люди, считает Илон Маск, в будущем превратятся в граждан второго сорта. Двадцать первый век вполне может стать веком доминирования искусственного интеллекта. Выступая перед студентами Массачусетского технологического института (MIT) в октябре 2014 года, он четко обозначил свою позицию: «Думаю, мы должны быть очень осторожны с искусственным интеллектом. Если бы меня спросили о самой серьезной экзистенциальной угрозе, стоящей перед человечеством, то я, скорее всего, назвал бы AI. Мы должны быть очень осторожны. У меня все больше крепнет убеждение, что необходим контроль на национальном и, может, на международном уровне, чтобы избежать ошибок и глупостей».
Говоря об AI, Маск не стесняется в выражениях. Вот, например, одно из его заявлений: «Развивая искусственный интеллект, мы вызываем демона». Он нередко сравнивает ситуацию с искусственным интеллектом с сюжетом франшизы «Терминатор».
Или другое яркое сравнение. На прошлой неделе, в самый разгар очередного обострения отношений между США и КНДР, Маск заявил, что угроза, которую AI представляет для человечества, намного страшнее северокорейских ракет.
Необходим контроль
Контролем за развитием искусственного интеллекта Илон Маск объясняет бросающееся в глаза противоречие: его граничащее со страхом отношение к AI — и статус крупнейшего инновационного предпринимателя в этой области. Вместе с Марком Цукербергом они инвестировали в Vicarious, компанию, работающую над компьютером, который будет думать как человек. А также в DeepMind Technologies, которая очень плодотворно работает над развитием AI и сейчас принадлежит Google. Достаточно сказать, что компьютеры этой компании неоднократно побеждали сильнейших игроков в го и шахматистов, включая Гарри Каспарова.
Сорокашестилетний миллиардер объясняет, что главное для него, когда речь идет об AI, не прибыль, хотя он и заинтересован в ее получении. Главное — быть в курсе всего, что происходит в сфере искусственного интеллекта. Он не хочет, чтобы выход AI на опасный уровень развития захватил его врасплох.
Если друг оказался вдруг…
О том, что развитие искусственного интеллекта необходимо контролировать, Илон Маск говорит часто, везде и всем. В том числе сильным мира сего. В этом году он, например, призвал американских губернаторов, собравшихся в июле в Провиденсе, разработать соответствующий регулирующий закон. Искусственный интеллект Маск назвал на этой встрече фундаментальной угрозой для существования человеческой цивилизации. Большинство губернаторов, похоже, его тревоги разделяют.
«Я продолжаю бить тревогу, — сказал Илон Маск, — но до тех пор, пока люди не увидят на улицах роботов, убивающих других людей, они не будут знать, как реагировать на эту угрозу, потому что она кажется нереальной».
Свою точку зрения Маск готов отстаивать на любом уровне. Яркий пример — его публичная перепалка с Цукербергом, который тоже очень активно интересуется искусственным интеллектом, но считает, что угрозы, которые он несет, сильно преувеличены. Он обвинил Маска в том, что тот делает из искусственного интеллекта пугало, а его тревоги назвал безответственными.
Слова коллеги, похоже, задели Илона Маска за живое. Маск считает, что к высказываниям основателя Facebook по этому вопросу не следует относиться серьезно, потому что он не очень глубоко в нем разбирается.
Возможно, Маск прав. Определенной игры за его линией не видно. Но американцы всегда смогут сослаться на него, если захотят запретить в мировом масштабе те виды военных роботов, в создании которых отстанут.
Успокоительное
Несколько успокоить Маска мог бы Дэвид Минделл — американский исследователь автономных систем. Вот что он пишет в своей книге «Восстание машин отменяется!». «Давайте перечислим три мифа двадцатого века, связанные с робототехникой и автоматизацией. Первый — о линейном прогрессе — идея о том, что техника перейдет от непосредственного управления человеком к дистанционному контролю, а затем к полностью автономным роботам <…> Но нет никаких оснований предполагать, что эволюция пойдет именно по этому пути <…> Существуют подтверждения того, что люди входят все в более глубокий контакт со своими машинами. Мы постоянно обнаруживаем, что люди, дистанционно управляемые ими и автономные аппараты развиваются параллельно, воздействуя друг на друга <…> Самые развитые и сложные технологии не те, которые работают отдельно от людей, а те что наиболее глубоко внедрены в социальную систему и быстрее откликаются на происходящее в ней».
Второй миф — о замещении. Идея в том, что аппараты берут на себя функции людей. На самом деле, пишет Минделл, исследования показывают, что аппараты расширяют возможности людей, делая задачу более сложной и открывая поле для дальнейшего совершенствования самого аппарата. Это непрерывный процесс.
Миф третий — о полной автономности. Минделл указывает, что машины могут автономно выполнять задачи только некоторое время, реагируя на изменения окружающей среды. Машины, которые в принципе не зависят от указаний человека, — это бесполезные машины. «В любой, даже автономной с виду системе, есть интерфейс, благодаря которому человек может контролировать ее работу, считывать информацию, и благодаря которому она становится полезной». Более того, аппарат может быть создан только во взаимодействии людей — инженеров, программистов, политиков, военных и прочих. Создается только та система, которую могут спроектировать люди. Сам Маск тому подтверждение.
