В Пекине наверняка понимают, что победа в борьбе со США за лидерство в сфере искусственного интеллекта (AI) таит в себе скрытые риски. Одним из них является вполне обоснованное предположение, что высокое развитие AI в Поднебесной может ослабить правление Компартии Китая как в целом над страной, так и над китайской экономикой. Об этой скрытой угрозе рассказал в интервью американскому кабельному и спутниковому телеканалу CNBC известный специалист по AI Макс Тегмарк, который сравнил желание победить в гонке за лидерство в AI с… самоубийством.
Чат-боты с генеративным искусственным интеллектом ChatGPT сейчас являются уже пройденным этапом. Многие AI компании перешли на следующий уровень и разрабатывают уже искусственный разум (AGI), который не уступает интеллекту человека. По мнению Сэма Альтмана, возглавляющего OpenAI, AGI может быть создан уже в 2025 году. Хотя большинство экспертов настроены менее оптимистично и считают, что искусственный разум появится еще нескоро.
Кроме конкуренции между технологическими компаниями, в развитии AI и AGI процветает и острая конкуренция между государствами. В наиболее острой форме она проходит между США и КНР.
Макс Тегмарк возглавляет аналитический центр Future of Life Institute. Он считает опасным заблуждением теорию о том, что человек может контролировать AGI, и призывает ученых приостановить работу по развитию искусственного разума. Его письмо с призывом не торопиться с AGI поддержали многие бизнесмены из IT-сектора, включая Илона Маска, который разделяет его тревоги.
«Мы находимся сейчас гораздо ближе к созданию AGI, чем к пониманию того, как его контролировать,- подчеркнул Тегмарк.- Гонка в создании AGI это не гонка вооружений, это самоубийственная гонка».
Илон Маск, кстати, утверждает, что еще в начале 2023 года предупреждал об этой опасности китайских чиновников и специалистов на большом совещании в Пекине, в котором он принимал участие. Его слова о том, что Поднебесной через какое-то время будет управлять не КПК, а AGI, уверен он, произвели на китайцев большое впечатление. По крайней мере, вскоре после того совещания Пекин, кстати, одним из первых в мире, разработал первые правила в сфере искусственного интеллекта.
Развитию AI в КНР уделяется огромное внимание, им занимаются самые крупные компании страны, такие гиганты, как Alibaba, Huawei, Tencent, имеющие и совершенствующие свои системы AI. Обладая большим опытом в попытках контроля над интернетом, Пекин сейчас пытается развивать инновации и одновременно помнить о своих интересах и защищать их. С AGI Пекин, очевидно, попытается сделать то же самое.
Немало экспертов разделяют точку зрения Тегмарка и Маска. Они считают, что со временем AI сможет самосовершенствоваться. Причем, будет делать это независимо от человека, т.е. фактически выйдет из-под его контроля и станет полностью автономным и независимым.
Макс Тегмарк уверен, что такие риски прекрасно понимают не только в США и КНР, но и в других странах. Он надеется, что «правила безопасности» в сфере AI, которые не позволят ему выйти из-под контроля человека, сначала разработают и примут Вашингтон и Пекин и что после этого они «убедят» сделать то же самое другие страны.
«Когда опасности конкуренции перевешивают выгоду от нее, страны получают идеальный мотив для того, чтобы объединиться и принять общие правила»,- предполагает Кендра Шефер из консалтинговой компании Trivium China.
Однако здесь к оптимизму примешивается пессимизм. Закономерно возникает вопрос, что помешает отдельным странам отказаться от моратория на создание AGI и попытаться обзавестись новым «супероружием», в которое при желании можно легко превратить искусственный разум?
– новый журнал для тех, кто развивает Россию.