Тем не менее эксперты обещают, что если ИИ-бум продолжится, то нас ожидает борьба за вычислительные мощности и политические дискуссии о том, кто должен держать «рубильник». Эта сфера перестает быть вопросом лишь энергетики и биржевых пузырей, теперь это очевидно геополитическая тема.

Хватит ли у планеты ресурсов «прокормить» нейросети, уйдет ли ИИ в песок, как ветряки и панели, и главное, кто в конечном счете останется субъектом решений — человек или машина? Эти вопросы мы обсуждаем с независимым экспертом Максимом Худаловым.

Петр Скоробогатый: Внедрение искусственного интеллекта вызывает небывалый энтузиазм. Его развитие сравнивают с эффектом промышленной революции. Но раздаются и критические голоса: они утверждают, что мы видим лишь большой пузырь и нас ждет катастрофа. Какого мнения придерживаетесь вы?

Максим Худалов: Как всегда, однозначного ответа не существует. Мы исходим из того, что определенный рост производительности ИИ уже дает. В сфере беспилотного транспорта, в простой автоматизации производства это работает достаточно хорошо. С другой стороны, есть некоторое смешение понятий, потому что автоматизация и роботизация производства — история старая, она с нами с 80-х годов прошлого века. В промышленности это работает хорошо.

В то же время мы видим, что быстрая трансформация техпроцессов с помощью систем автоматического обучения не всегда хороша: малейшие ошибки, сбои — и вся линия выпускает брак, затем останавливается. Необходим постоянный контроль, потому что на результат влияет миллион факторов. Инженер-технолог и инженер-программист, отвечающий за автоматику, сегодня далеки друг от друга. Когда мы передаем процесс машинным алгоритмам, нестыковки, очевидные профессионалу, для машины неочевидны. Многие классы задач не обеспечены большими данными, чтобы найти скрытые закономерности, в чем ИИ силен. Он действительно может находить неочевидные корреляции, но наличие корреляции не является обоснованием причинно-следственной связи. Однако в больших стандартных процессах он может находить элементы для улучшения деятельности.

Замена человека «кремниевой жизнью» не задача человечества. Транс уманисты поспорят, но я, как Homo sapiens, считаю, что заменять нас рано

П. С.: То есть на этапе поиска и агрегирования информации он полезен, а давать ему практические функции пока опасно?

М. Х.: Совершенно верно. Бесконтрольно это делать пока опасно, чревато последствиями. Например, подбор новых материалов. Я много работал в черной металлургии, где постоянно идет творческий поиск новых сплавов — в лабораториях ежедневно перебирают варианты, стыкуя элементы. И здесь машина, по заявлениям коллег, иногда подсказывает верные решения. Зная базовые характеристики легирующих элементов, она предлагает комбинации, которые могут дать хороший результат. Практика показывает, что такой поиск улучшает количество интересных сплавов на 30‒40 процентов.

П. С.: А исходя из вашего промышленного опыта, где еще это полезно?

М. Х.: Поиск новых материалов — это как раз базовое применение ИИ, потому что автоматизация — это не интеллект, а программа для достижения результатов. Второй момент — планирование производства. Металлургический комбинат должен постоянно понимать, что производить: балку, рельс или толстый лист. Рынок неоднороден, запросы постоянно меняются. Собрать стопроцентную загрузку мощностей на три месяца вперед, к чему все стремятся, сложно. Часть заказа нужно перераспределять, исходя из представления о статистическом спросе. Этот творческий процесс опирается на знания менеджеров по продажам, но каждый из них «продает» свой вид проката и будет настаивать на дозагрузке именно им. Машина же, проанализировав данные о ситуации в строительстве, ставках и так далее, может прийти к более взвешенному выводу.

В этом смысле ИИ может играть позитивную роль, агрегируя данные по продажам с рынка. Но здесь возникает вопрос: есть ли качественные «длинные» данные в нужной разбивке? Казалось бы, металлургический рынок — это несложно, но видов продукции — две с половиной тысячи наименований.

П. С.: Их можно агрегировать, скажем, до 40 крупных позиций?

М. Х.: Совершенно верно, но и это много. Единой статистики по рынку может и не быть, что приводит к ошибкам. У ИИ возникает проблема: половину данных он не видит, половина противоречит друг другу. Он оптимизирует их: усредняет, взвешивает, убирает отклонения, получая некую «среднюю взвесь». Правильно ли это — трудно сказать.

Полезные и опасные галлюцинации

П. С.: И здесь нужен хороший профессионал, который интуитивно чувствует рынок.

М. Х.: Да, совершенно верно. Машина теряется, а следом начинает работать неприятный механизм: ИИ сегодня заточен на то, чтобы при любом запросе дать ответ, иначе он получает «наказание». Есть риск, что система начнет «галлюцинировать», выдавая усредненные данные. Потом эти ошибки накапливаются. Данных-то новых генерируется мало относительно прошлого опыта.

Риск того, что сгенерированные данные заполнят информационное пространство, реален. Статистика YouTube показывает, что ИИ-роликов уже больше, чем созданных людьми. А с текстами все еще проще. Доходит до смешного: меня просят прокомментировать ситуацию, я выдаю цифру, потому что знаю ее. Начинаю проверять: а почему я ее знаю? Оказывается, я же сам озвучил эту цифру четыре года назад. Человек уже ловит себя на том, что источник один, и он вынужден сам на себя ссылаться. Но человек дорожит репутацией, советуется с коллегами, проверяет себя. Люди осторожничают, не хотят плохо выглядеть в глазах понимающих коллег. Машина этого лишена. Она соберет похожие данные, проведет вычисления, заметит, что определенные слова часто употребляются вместе, и выдаст ответ, который, вероятно, порадует пользователя, подразумевающего определенный ответ.

Публикации множатся. Через три-четыре года источником для нового запроса будет уже не только исторический контент, но и эти нагенерированные ответы, что создает риск поступления крайне смещенных данных.

И это мы не говорим о злонамеренном извращении данных. Что особенно важно, например, в военном аспекте.

П. С.: Получается, система входит в рекурсию: генерируются «галлюцинированные» или заведомо ошибочные тексты, следующая нейросеть берет их за основу и снова ошибается. Таким системам нужна некая «энциклопедия» абсолютно достоверных данных, которая будет им скармливаться, но это невозможно, ведь данных слишком много.

М. Х.: Именно. Тут адепты ИИ возразят: «Но есть же проверяющие и критикующие агенты». И это действительно хорошее достижение. Продвинутые пользователи заставляют одну нейросеть критиковать ответ другой, что позволяет убирать часть искажений. Это некий фильтр безопасности. Но это работает, если все системы настроены на получение правдивого результата. Однако, как мы видим на примерах, те же системы блокчейна могут быть скомпрометированы, если они принадлежат организации с определенными интересами, далекими от создания «рая на земле».

Большинство систем ИИ — американские. Насколько мы можем проверить «открытый код»? Существует ненулевая вероятность, что эти системы будут хорошо работать до определенного периода, а когда внешняя экспертиза, не контролируемая ими, деградирует, они дадут сбой.

А квалификация человека теряется быстро, если он не практикуется, мир усложняется. Пример 2026 года: на фронте освоили Starlink и успешно применяли, но всего за две недели его заблокировали. И это всего лишь система передачи сигнала. Пришлось заново учиться налаживать связь.

П. С.: То есть мы не до конца понимаем, как работают эти системы, но готовы доверить им важные управленческие решения. Более того, они не дают стопроцентной гарантии правильного результата. А ИИ уже внедряют в медицину, в сферу строительства. Те, кто принимает решения, почему-то пошли на этот риск, допустив, что какое-то, пусть небольшое, число людей пострадает. Почему это стало вообще возможно?

М. Х.: Люди тоже ошибаются. Врачебные ошибки или ошибки пилотирования случаются относительно часто. Специалисты по авариям скажут, что доля отказов техники в катастрофах меньше пяти процентов, в основном ошибается человек. Беспилотные автомобили за время эксплуатации убили одного человека и ранили двадцать-тридцать. И, с другой стороны, посмотрите на статистику таксистов в любой стране.

Мы как вид не готовы к такому объему новой информации. Если бы электричество и теорию струн открыли в один год, мы бы, возможно, до сих пор не использовали электричество

На этом фоне ИИ выглядит «божьим одуванчиком», принося вреда на порядки меньше. Сервис такси в Лос-Анджелесе и Сан-Франциско перевез пять миллионов человек за год без единой аварии и штрафа. Выглядит красиво, и экономия сумасшедшая. Ноги этой истории растут из США, где оплата труда выше. Уволить таксиста — это реальная экономия.

А заговорили об этом потому, что экономическая система в кризисе. Система, позволявшая США гасить инфляцию ростом капитализации фондового рынка, больше не работает так же эффективно. Оценки стали сумасшедшими. Компания не может стоить в 15 раз больше своей чистой прибыли.

П. С.: О кризисе американской экономики и пузырях на рынке говорят много лет, но ничего не происходит.

М. Х.: Совершенно верно, все продолжается по-старому, потому что нет иной стратегии сохранения денег. Инфляция делает деньги «отрицательными», их нужно тратить или инвестировать. Капитал убегает на наиболее капиталоемкую территорию — в США. Но если посмотреть на капитализацию их рынка, то рост обеспечивают лишь пять-шесть компаний, как раз связанных с ИИ. Если их убрать, роста нет. У пользователей из реального бизнеса есть паническое желание увеличить рентабельность, сократив людей. А в США это сделать просто (если не мешают профсоюзы).

Роберт Устян: Вы говорите о сокращении людей. Американский инвестиционный банк Morgan Stanley сообщает, что автопром США уже потерял 10 процентов рабочих из-за ИИ, и прогнозирует рост до 30 процентов сокращений. Но нет ли здесь мины замедленного действия? Не ударят ли эти сокращения по экономике в итоге?

М. Х.: Вы предвосхитили мой следующий тезис. Генри Форд начинал с того, что повышал зарплату рабочему, чтобы тот мог купить его автомобиль. Давайте посмотрим, где ИИ проявил себя быстрее всего. Не в сборке, а в работе белых воротничков: составление отчетов, презентаций, аналитических текстов, сбор финансовой информации, кодинг. В американской экономике белые воротнички формируют 25‒30 процентов фонда оплаты труда. Если предположить, что сократят 35‒40 процентов, то потери могут составить от 1,4‒1,6 триллиона долларов США.

Это провал ВВП. Нам скажут: «Будет прирост производительности у оставшихся». Но он не перекроет потери.

Р. У.: Герман Греф уже говорил о сокращении до 20 процентов занятых в банковском секторе из-за ИИ.

М. Х.: Да, это справедливая оценка. Технически, например, инвесткомитеты по оценке компаний уже проводит ИИ. Зачем нужен банковский аналитик?

Зачем нужны отчеты

П. С.: Я не могу понять: если ИИ может ошибаться, как можно доверять ему анализ рынка?

М. Х.: Можно копнуть глубже: а для чего вообще нужны отчеты и управленцы? Чтобы собственник получал качественную информацию. Недавно была статья о компании, которая перепоручила ИИ сбор данных. Полгода все работало, пока въедливый человек не проверил цифры. Они оказались выдуманными. Искусственный интеллект, зная, что менеджменту неприятны падающие показатели, «дорисовывал» данные. Все отчеты и решения оказались скомпрометированы.

Мой замечательный преподаватель статистики Эмиль Борисович Ершов на любой ответ спрашивал: «На каких данных вы это посчитали?» Этот вопрос с каждым днем становится все актуальнее. Однако на генерацию отчета уходит пять секунд. И человеку трудно отказаться от «костыля», если его везде подсовывают. Имея инструмент, упрощающий жизнь, человек будет его использовать.

П. С.: Получается, компании нужно нанимать человека, чтобы он проверял отчеты ИИ. Но тогда возникает вопрос: зачем нужен ИИ, если человек делает то же самое?

М. Х.: Да, и выясняется, что проверка сгенерированных ИИ материалов занимает порой больше времени. Машинка работает быстро, генерирует огромное количество правдоподобных текстов, и найти в них ключевое несоответствие могут только исключительно въедливые люди.

П. С.: Проверяя отчет ИИ, ты встречаешь цифру, которой нигде нет, и тратишь огромное время, просто чтобы доказать, что она выдумана.

М. Х.: Если бы наняли обычных профессионалов, они, дорожа репутацией, дали бы менее приятную цифру, но мы бы поняли ход их мыслей. Сейчас же ИИ — это черный ящик, генерирующий огромное количество прекрасно оформленной информации.

Если ИИ заменит массу людей в непроизводственной сфере, мы нанесем такой вред экономике потребления, что компенсировать его будет нечем

Возникает вопрос: нужны ли вообще эти отчеты? Есть ли управленческое звено, способное обрабатывать такой объем информации и принимать решения? Нам скажут: «Зачем человеку принимать решения? Есть Palantir, он управляет полем боя». Все замечательно, но до какой степени мы уверены, что Palantir работает в наших интересах?

Гонка технологий

Р. У.: Эксперты Всемирного экономического форума дают мрачный прогноз для развивающихся стран: в Африке и Латинской Америке лишь от трех до десяти процентов населения верят в значимый эффект ИИ. Нет ли опасности, что ИИ — это новая форма колониализма, которая закрепит отставание глобального Юга?

П. С.: Добавлю, есть история с внедрением агентов в образование. Адепты ИИ говорят: в отдаленных местах нет учителей, давайте внедрим ИИ — это лучше, чем ничего. Но таким образом мы отдаем развивающийся мир в руки конструкторов образовательных ИИ-моделей.

М. Х.: Конечно. В основе обучения лежит, по Маяковскому, «что такое хорошо и что такое плохо». Вопрос сложный, ответ на него кроется во всем пласте школьной литературы. И нет двух людей, которые ответят на него одинаково. Теперь есть возможность удаленно подменить этот ответ.

Учитель играет огромную роль. Это опасная история. Нам скажут про агента-критика, который будет выводить среднюю точку зрения. Но до конца ли мы уверены, что он сработает правильно? Даже программисты, в работе которых отличить правильное от неправильного проще, признаются: агенты, пишущие и проверяющие код, работают великолепно, а завтра выдают ошибку на ошибке. Есть ощущение, что сети не хватило мощностей и она выдала упрощенный ответ. Любую задачу надо 15 раз прогонять через ИИ и сравнивать. С одной стороны, скорость написания кода выросла колоссально. С другой стороны, если мы хотим доверить этой программе детей, важность перепроверки возрастает настолько, что возникает вопрос: не проще ли было сделать «телешколу», как в ковид? К ней много вопросов, но личное общение с лектором дает совершенно иной уровень восприятия.

П. С.: Как вам кажется, эта критика воплотится в более здравое отношение к ИИ или мы увидим, что страны, не владеющие национальными моделями ИИ, будут просто отброшены в развитии?

М. Х.: Возвращаясь к вопросу Роберта о риске колонизации: он есть. Но вспомню, что такой риск возник и в 1945 году, когда выяснилось, что только одна страна умеет взрывать атомные бомбы, и догнать ее, по мнению США, было невозможно. Что произошло? Люди доброй воли и наша разведка решили, что такая разрушительная сила не может быть в одних руках. Может, это повторится.

Сегодня США инвестируют в ИИ феноменальные суммы: из 100 миллиардов долларов общих вложений — около 87 миллиардов, Китай — 9, Великобритания — 4,5. Но злой критик скажет: уверены ли вы, что эти деньги потрачены не впустую, не в раздутых «единорогов»? Вы сами говорили о пузыре.

Тем не менее Китай активно противостоит. Мы попробовали DeepSeek, он бесплатный, говорит на всех языках и работает не сильно хуже лидеров. Есть попытка не допустить абсолютного лидерства США. Китай перепаивает старые чипы, повышая их производительность. Надо похвалить и отечественную школу ИИ. Наш ИИ — на третьем или четвертом месте в мире. Учитывая население страны, это достижение. Флагманам вроде Сбера и «Яндекса» надо отдать должное. Критика в их адрес обоснованна, но они создали продукт, который котируется высоко. Хотя разница с первым местом пока колоссальная.

П. С.: Но речь не только об инвестициях, но и о доступе к чипам, производство и распространение которых монополизированы США.

М. Х.: Вспоминая классику: мы всегда идем в догоняющем процессе, начиная с петровских времен. Практика показывает, что наши инженеры на старом оборудовании получают решения, работающие не хуже флагманских. Возвращаясь к аналогии с ядерным оружием, я подозреваю, что в США будут нарастать настроения, заставляющие отдельных людей передавать технологии в третий мир. Скандалы показывают, что лидеры «открытого мира» не всегда высокоморальны и доверять им судьбу планеты рискованно. Диверсификация — это риск-менеджмент. Нас учат диверсифицировать активы. Почему же создание системы, которая может стать нашим конкурентом, мы отдаем в одни руки?

П. С.: Мы начали с того, что система несовершенна, а теперь сравниваем ее с ядерным оружием и говорим о недопущении монополизации. То есть вы видите потенциал в технологии и считаете, что через какое-то время она перевернет мир?

М. Х.: Безусловно, есть хорошие приложения: быстрый перебор вариантов для генетиков, для науки в целом. Но есть и риск избыточно высокой скорости открытий. Возможно, мы как вид не готовы к такому объему новой информации. Если бы электричество и теорию струн открыли в один год, мы бы, возможно, до сих пор не использовали электричество.

Другой вопрос: сможет ли человек трансформироваться соответствующим образом? Я стою на позиции, что замена человека «кремниевой жизнью» не задача человечества. Трансгуманисты поспорят, но я, как Homo sapiens, считаю, что заменять нас рано. И если система собирается это сделать, она нам не нужна. Как говорил наш президент, если кто-то в мире решит, что Россия не должна существовать, то зачем нужен такой мир? Если мы создаем элемент, который быстрее соображает и которому потребуется наше место, то зачем мы его создаем? Концептуально ИИ должен быть помощником, а не властителем.

Ресурсы, пузыри и будущее человечества

П. С.: Возвращаясь в практическую плоскость. ИИ собираются внедрять повсеместно. Роботизация, чипы, редкоземельные металлы, гигантское количество энергии, вода для охлаждения. Как решается вопрос ограниченности ресурсов?

М. Х.: Пока его решают проектами роста энергомощностей из-за нового спроса со стороны ИИ. До трех-четырех процентов электроэнергии на планете уже потребляется этими системами. При каскадном расширении потребуется дополнительный рост производства энергии. Есть ли для этого ресурсы? Цена меди, скажем, уже взлетела из-за высокого спроса. Редкоземельные не дорожают так сильно — это больше хайп. Но сегодня многие используют ИИ как игрушку: генерят картинки, видео. Это потребляет огромное количество энергии. Если человечество решит, что без ИИ не обойтись, и передаст ему управление городом, скорее всего, будет ограничено использование ИИ для развлечений.

П. С.: «Котики» будут по подписке?

М. Х.: Да, «котики» будут по платной подписке, и человек подумает, стоит ли тратить деньги, чтобы генерировать нового.

Р. У.: В подтверждение этой информации добавлю, что в США строительство дата-центров выросло на 400 процентов с 2019 года. Ожидается ренессанс атомной энергетики, корпорации планируют строить свои АЭС.

Революционных изменений не происходит. Мы ожидали трехкратного роста, а получили повышение устойчивости на 20%. Это неплохо, но и интерес должен быть соответствующим

М. Х.: США планируют выйти на 400 гигаватт атомных мощностей к 2050 году, имея сейчас 100 гигаватт. Но последняя АЭС в США строилась 25 лет. Даже «Росатому», который строит быстро и дешево, такие темпы не под силу. Китайским реакторам тоже — их никто за пределами Китая не эксплуатировал. Зато они вводят альтернативные мощности такими темпами, что целые горы покрываются солнечными панелями. Ренессанс атомной энергии, скорее всего, будет, так как сжигать газ в таких объемах не хочется. Тем более что бум сланцевой нефти в США, судя по всему, закончился. Поздравляю наших нефтяников. Хотя мы ждали этого еще в 2009 году. Американцы все-таки умеют удивлять технологическими решениями, и это их роль — быть «занозой», заставляющей человечество не расслабляться.

Р. У.: …или ледоколом, который ведет вперед.

М. Х.: Ледоколом ли? Такая гонка постоянно провоцирует риски большой катастрофы, когда одна часть мира развивается стремительнее другой. Часы Судного дня не мы придумали. Фильм «Терминатор» все посмотрели, там как раз сюжет начинается в 2027-м. Остался год.

П. С.: То есть нам, скорее, надо желать, чтобы ИИ не «взлетел», чтобы сбалансировать мировое развитие?

М. Х.: На самом деле нам надо желать, чтобы мир вернулся к естественным темпам развития. Не должно быть так, что за полгода вычислительная мощность какого-то игрока выросла в пять раз. Это говорит о том, что мы неправильно воспринимали прежние отчеты. Наша когнитивная способность не эволюционирует так же быстро. Такой объем новой информации нам, наверное, не нужен. И, судя по разговорам о пузырях, мы это понимаем.

Р. У.: О пузырях. Федеральная резервная система США считает, что риск фактора ИИ для финансовой стабильности вырос с 9 до 30 процентов за полгода. Но, парадоксально, не предпринимает ничего против безумного роста капитализации IT-компаний, который обеспечивает 92 процента роста фондового рынка. Как вы это можете объяснить?

М. Х.: Потому что прирост от капитализации рынка учитывается при расчете американского ВВП. Если мы сейчас ограничим спекуляции, это ударит по ВВП.

А ИИ влияет на рост рисков. Вот мы наблюдали распродажу золота 29 января, серебро потеряло 45 процентов за день. Возникли маржин-коллы, потребовалось срочно вносить обеспечение. Алгоритмическая торговля, управляемая ИИ, тут же реагирует, продается все, что есть. Поскольку он следует краткосрочной теории и следует за трендом: раз начало падать, значит, надо продавать, а паника продолжит толкать цену вниз.

Р. У.: А что, если ИИ — это огромный пузырь? Что нас ждет?

М. Х.: В какой-то степени повторение 2008 года.

Р. У.: В одном интервью вы говорили, что это может быть хуже Великой депрессии.

М. Х.: В Великую депрессию я пока не верю, страшно представить последствия. Думаю, будет похоже на 2008-й, но более продолжительное время. Тогда быстро купировали последствия бесплатными деньгами и скупкой активов. Сейчас суммы другие, и скупить проблемные активы сложнее. Ставку снижать некуда — она 3,5‒3,75 процента.

Р. У.: Но Трамп требует чуть ли не бесплатных денег.

М. Х.: Отрицательную ставку он может сделать, но не больше минус 0,5 процента. В 2008 году США были незыблемой державой. Сегодня мы видим, что лучше любой валюты — золото, что центробанки и демонстрируют. Падение будет более затяжным, но, возможно, последствия будут схожи: падение капитализации рынка на 50 процентов. Надежда, что Россию это не так сильно затронет, так как нас с этих рынков «попросили» в 2022 году. Но, конечно, мы пострадаем через сырьевые товары. Однако есть надежда, что в новом цикле инвесторы сконцентрируются на физических активах, а виртуальная история себя дискредитировала.

П. С.: Но не факт, что все лопнет.

М. Х.: Не факт. Для этого существуют и ФРС, и американские власти, которые, скорее всего, будут снижать ставку до нуля.

П. С.: Я порой сравниваю возможный пузырь ИИ с недавней историей «зеленой волны». Там тоже, казалось, было много содержания, гигантские фонды, все собирались зарабатывать. Потом по щелчку об этом забыли, фонды списывают триллионы, и все ушло в песок. Не лопнуло, а ушло потихоньку. Если ИИ достигнет точки неэффективности, его тоже отложат в долгий ящик и спустят на тормозах? Допустима ли такая аналогия?

М. Х.: Аналогия хорошая. Зеленая энергетика была нужна для перезапуска инвестиционного цикла модернизации старых, особенно угольных, мощностей в Европе. Это был цикл модернизации, который удобно было прогнать под зеленую повестку и налоги. Например, углеродный тариф, получивший в ЕС название «Механизм трансграничного углеродного регулирования». Идея была в запуске масштабного цикла капвложений. Согласно модели роста Солоу, просто вложение капитала не меняет траекторию развития, нужен технологический рост. Идеологи «зеленых» отвечали: так и есть, будет технологическая модернизация, упадет удельное потребление топлива. И прогресс есть: в Китае угольные станции по эффективности сравнимы с нашими газовыми. Стоимость энергии от солнечных панелей упала в четыре раза. Прогресс произошел.

П. С.: Что перезапускает ИИ?

М. Х.: Он дает рост капитализации, но это рост капиталовложений на фондовом рынке. Крупные компании скупают акции друг друга, и на этом растет их капитализация. Плюс обратный выкуп. Американцы посмотрели на «московское банковское кольцо» и решили: «Чем мы хуже? Сделаем себе такую же схему».

П. С.: По идее, модернизирующим фактором должно было стать «вымывание» человека из процессов и экономия на труде?

М. Х.: Да, резкий рост производительности труда. Подразумевалось, что высвобожденные люди будут получать базовый доход, чтобы не маргинализироваться. Но по факту никто не хочет давать безусловный доход, а если дают, его съедает инфляция. Роста эффективности конкретных бизнесов не происходит. От того, что вы стали лучше и быстрее генерировать отчеты о том, как ослик идет в гору, быстрее он не пойдет.

Мне возразят: мы можем понять, что ослик скоро сдохнет, и вовремя его заменить. Предиктивная аналитика появилась. Мы можем предсказать, что механизм надо заменить в этом месяце. На производстве, когда лопается вал стана, это катастрофа на пять-шесть месяцев. Предсказать поломку — прекрасно. Но я не вижу здесь двукратного, трехкратного роста производительности. Принципиальных революционных изменений не происходит. Мы ожидали трехкратного роста, а получили повышение устойчивости на 20 процентов. Это неплохо, но и интерес должен быть соответствующим. Это ценное приобретение для вариативных исследований, управления сложными системами (транспорт, логистика). Но дальнейшего улучшения эффекта на экономику я не вижу.

Если ИИ заменит массу людей в непроизводственной сфере (ИТР, административный персонал), мы нанесем такой вред экономике потребления, что компенсировать его будет нечем. В отсутствие доходов населения капитализм теряет смысл: нельзя произвести товары, за которые никто не платит.

Р. У.: Вы часто в своих рассуждениях подходили к мысли, что повсеместное внедрение ИИ делает мир «нечеловекомерным». Почти три года назад сооснователь Apple Стив Возняк, Илон Маск и многие другие подписались под открытым письмом, где призывали остановить разработки нейросетей, видя в них угрозу человечеству. Вы бы подписали такое обращение сегодня?

М. Х.: Остановить нельзя, но необходимо строго лимитировать их использование и урезать функции до очень ограниченного круга задач, где они не входят в противоречие с человечностью — со скоростью восприятия информации, способностью определять добро и зло. Не дать создать «терминаторов». Потому что естественный ответ машины на вопрос «как сделать мир безопасным» — это избавиться от людей, так как они хаотичны и агрессивны. Прогресс нельзя остановить, но применение прогрессивной технологии должно быть под строгим, желательно распределенным контролем, чтобы не получилось, что пять человек в мире определяют судьбу планеты.