Автор этой книги Маттео Пасквинелли — доцент кафедры философии науки факультета философии и культурного наследия университета Ка’ Фоскари в Венеции, где он координирует пятилетний проект, посвященный развитию исторической эпистемологии искусственного интеллекта. Его исследования сосредоточены на стыке философии разума, политической экономии и форм автоматизации знаний, таких как искусственный интеллект.

А его книга The Eye of the Master. A Social History of Artificial Intelligence («Глаз мастера: социальная история искусственного интеллекта», в русском переводе — «Измерять и навязывать. Социальная история искусственного интеллекта») получила премию Deutscher Prize 2024 и переведена или переводится на многие языки мира.

Как либерал и марксист сошлись в анализе ИИ

Интересно, конечно, почему в русском переводе изменено авторское название книги. Возможно, переводчики и издатели решили, что словосочетание «Глаз мастера», отсылающее к высказыванию Энгельса о характеристиках капиталистического контроля над производством и работниками, могут быть не поняты современными российскими читателями, давно забывшими и о марксизме, и о его классиках. А сам Пасквинелли, объясняя эти слова и как бы подхватывая мысль Энгельса, пишет: «С XIX по XX век “хозяйский глаз” промышленного капитализма охватил все общество и установил новые формы контроля, основанные на статистических измерениях “интеллекта”», а искусственный интеллект только усилил эту тенденцию, продолжая «кодировать социальные иерархии и дискриминировать рабочую силу».

А возможно, переводчики и издатели таким образом хотели подчеркнуть схожесть взглядов на роль искусственного интеллекта (ИИ) в современном обществе Пасквинелли и других философов, в частности французского философа Гаспара Кёнига, о книге которого «Конец индивидуума. Путешествие философа в страну искусственного интеллекта», тоже изданной в России, автор этих строк недавно писал. Фактически главная мысль Кёнига заключается в том, что ИИ используется правительствами и частными компаниями для «навязывания чужой воли» человеку, что вполне соответствует идеям, высказанным Пасквинелли, и русскому названию его книги. Хотя в отличие от последовательного либерала Кёнига Пасквинелли является столь же последовательным марксистом, для которого ИИ — это не только научно-технический, но в первую очередь социально-экономический феномен.

Алгоритм как основа логики ИИ и его история

Как пишет Пасквинелли, «моя книга задумана как экскурс в техническую и социальную историю ИИ и основана на социотехническом историческом подходе, который способен показать, какие экономические и политические факторы повлияли на внутреннюю логику ИИ», истоки развития которого он находит в древнейших временах, когда возникло понятие алгоритма, лежащего в основе математики и, в частности, компьютерного программирования. И не только: «алгоритмическое мышление и алгоритмические практики, широко понимаемые как решение задач на основе правил, представляют собой часть всех культур и цивилизаций… В конечном счете термин “алгоритм” стал обозначать любой процесс систематических подсчетов, то есть процесс, который может выполняться автоматически», и именно поэтому он стал основой ИИ. Таким образом, по мысли Пасквинелли, создание ИИ стало итогом очень долгого развития математики и алгоритмического мышления, подстегнутого необходимостью разработки универсальных правил решения экономических и производственных задач.

Маркс, Бэббидж и трудовая теория машин

Но, конечно, не только это стало, по мнению Пасквинелли, основой возникновения и развития самой идеи ИИ: «Основываясь на теории изобретательства, которую уже в XIX веке разделяли Смит, Бэббидж и Маркс, я утверждаю в этой книге, что самые сложные “разумные” машины также возникли из воспроизведения схем коллективного разделения труда. Я именую описанную теорию развития техники трудовой теорией автоматизации, или трудовой теорией машин, которую распространяю на исследования современного ИИ и обобщаю в виде трудовой теории машинного интеллекта… которая создана по аналогии с выражениями, употребляемыми в политической экономии, в частности “трудовой теории стоимости”».

Обратим внимание читателя на фамилию Бэббидж, которая упоминается Пасквинелли чуть ли не на каждой странице его книги. Чарльз Бэббидж — английский математик, изобретатель первой аналитической вычислительной машины — прообраза современной ЭВМ. Бэббидж, отмечает Пасквинелли, выработал два принципа анализа труда, во многом легших в основу взглядов Маркса на роль машин, которые изложены в его заметках, получивших название «Фрагмент о машинах», и взглядов самого Пасквинелли.

Пасквинелли так представляет эти принципы Бэббиджа: «Согласно первому аналитическому принципу (трудовой теории машин), конструкция машины воспроизводит и заменяет схему разделения труда. Второй принцип (исчисления труда, т. н. принцип Бэббиджа) гласит, что разделение труда на мелкие задачи позволяет измерить и приобрести ровно столько труда, сколько требуется для производства. При совмещении эти два принципа дают промышленную машину, которая не только делает труд более интенсивным, но и выступает как инструмент (и неявная метрика) его измерения. Бэббидж применил оба принципа к автоматизации ручного счета. Так возникло вычисление — как автоматизация умственного труда и подсчет его стоимости».

Но мало этого — «После того как разделение труда в обществе приняло всеобъемлющий характер, что констатировал в конце XIX века Эмиль Дюркгейм, хозяйский глаз превратился в новые технологии контроля… В конце XX века управление трудом превратило общество в “цифровую фабрику”, приняв форму поисковых алгоритмов, онлайн-карт, приложений для обмена сообщениями, социальных сетей, платформ гиг-экономики, сервисов мобильности и, в конечном счете, алгоритмов ИИ, которые все шире используются для автоматизации всех упомянутых сервисов. Сегодня несложно увидеть, что ИИ означает дальнейшую централизацию цифрового общества и координацию разделения труда внутри него».

Делать — значит думать

Анализируя характер труда и трудовых отношений в современном обществе, Пасквинелли напоминает, что, выступая против образовательной иерархии, итальянский философ Антонио Грамши (заметим, классик марксистской философии XX века) однажды заявил, что «все люди — интеллектуалы».

И, следуя Грамши, Пасквинелли делает еще один парадоксальный вывод из своего анализа ИИ: «…в XX веке мало кому пришло бы в голову считать водителя грузовика работником умственного труда, иначе говоря, интеллектуалом. Однако в начале XXI века внедрение искусственного интеллекта… в беспилотные транспортные средства и другие артефакты побудило иначе взглянуть на ручные навыки, в частности на вождение, и обнаружить, что самое ценное в труде никогда не сводилось к ручному компоненту, а включало в себя когнитивные и кооперативные аспекты». То есть «нужно признать, что благодаря исследованиям ИИ водители грузовиков примкнули к интеллектуалам. В этом есть парадокс и вместе с тем горькое политическое откровение: понадобилось усерднейшим образом развивать автоматизацию, чтобы увидеть, насколько глубоко “интеллектуальные способности” проявлены в занятиях и работах, которые традиционно считались сугубо ручными и неквалифицированными, — настолько, что ими пренебрегали и профсоюзы, и критическая теория».

Но и «в нынешнюю цифровую эпоху лишь немногие социологи, например Ричард Сеннет, взяли на себя труд утверждать, что “делать — значит думать”. Этот же тезис историки науки Лисса Роберт и Саймон Шаффер выразили в изящном образе “разумной руки”, которая и в ренессансной мастерской, и в индустриальную эпоху не сводилась к мышечной силе, направляя проектирование, изобретательство и научные прорывы. Отрицание разумности ручного труда и общественной деятельности, наблюдаемое нами сегодня, по-видимому, представляет собой симптом избыточного роста цифровой сферы и дематериализацию человеческой деятельности, которые нагнетают вокруг ИИ ауру таинственности».

Экономический неолиберализм, Хайек и ИИ

Еще одной парадоксальной новостью для многих, интересующихся историей ИИ, станет тот факт, что одним из основоположников теории искусственного интеллекта является известный неолиберальный экономист Фридрих фон Хайек, который, как отмечает Пасквинелли, написал самый систематический трактат о коннекционизме*, или, как его позже назовут, парадигме искусственных нейронных сетей.

Эта книга была задумана автором как экскурс в техническую и социальную историю ИИ. Она основана на социотехническом историческом подходе, который способен показать, какие экономические и политические факторы повлияли на внутреннюю логику ИИ

Оказывается, рассказывает Пасквинелли, «в 1920 году Хайек, тогда еще ассистент в лаборатории невропатолога Константина фон Монакова в Цюрихе, начал работу над теорией разума и развивал ее всю жизнь, публикуя статью за статьей. Он создал впечатляющий синтез идей нейрофизиологии, холистической неврологии, гештальт-психологии, теории систем, эмпириокритицизма и кибернетики, а также мобилизовал арсенал когнитивной науки, чтобы представить неолиберальные принципы как естественные и универсальные». В частности, «идея Хайека, что рынок — место распределенного знания, возникла не из изучения экономических явлений, а была экстраполирована из холистической неврологии и ранних теорий нейропластичности. Ярким примером здесь служит описание децентрализации знаний на рынке, которое Хайек заимствовал из описания децентрализации когнитивных функций в мозге, согласно теории нейропластичности Константина фон Монакова и Курта Гольдштейна… Именно конкурентная рыночная сеть дала форму нейронным сетям Хайека, возведенным в ранг техник расчета цен потому, что, как признался экономист… они имплицитно представлялись “запасом капитала, питаемого входящими затратами и дающего непрерывный выходящий поток продукции”. В этом смысле теория разума Хайека была своего рода меркантильным коннекционизмом».

* Коннекционизм (англ. connectionism) — один из подходов в области искусственного интеллекта, когнитивной науки (когнитивистики), нейробиологии, психологии и философии сознания. Коннекционизм моделирует мыслительные или поведенческие явления процессами становления в сетях из связанных между собой простых элементов. Существует много различных форм коннекционизма, но наиболее общие используют нейросетевые модели. В рамках этого течения предпринимаются попытки объяснить умственные способности человека, используя искусственные нейронные сети.

Хозяева и слуги в обществе торжествующего ИИ

Основываясь на теории изобретательства, которую уже в XIX веке разделяли Смит, Бэббидж и Маркс, Пасквинелли утверждает, что самые сложные «разумные» машины также возникли из воспроизведения схем коллективного разделения труда. «Я именую описанную теорию развития техники трудовой теорией автоматизации, или трудовой теорией машин, которую распространяю на исследования современного ИИ»

По мнению Пасквинелли, «проектирование вычислений и “разумные машины” воспроизводят схему разделения труда». Что «подтверждают основополагающие теории компьютерной науки, которая унаследовала от индустриальной эпохи оттенок колониальных фантазий и классовое разделение. Например… в лекции 1947 года Тьюринг представил Автоматическую вычислительную машину (АВМ), один из первых цифровых компьютеров, в качестве централизованного аппарата, который координирует операции согласно иерархии ролей “хозяина и слуги”: грубо говоря, те, кто работает с АВМ, разделятся на хозяев и слуг. Хозяева будут готовить для машины таблицы с командами, придумывая все более и более сложные способы ее применения. Слуги станут кормить машину карточками, когда она их позовет. Слуги починят любую деталь, которая сломалась. Соберут данные, которые она потребует. По сути, слуги заменят машине конечности. Со временем вычислитель возьмет на себя функции и хозяев, и слуг».

Парадоксальным образом, но, по мнению Пасквинелли, «ИИ в основном заместил хозяев, то есть управляющих, а не слуг — рабочие нужны (и всегда будут нужны), с одной стороны, чтобы производить данные и значения для ненасытных конвейеров ИИ и его глобальных монополий, а с другой стороны, чтобы обслуживать мегамашину, фильтруя контент, проверяя безопасность, бесконечно оценивая и оптимизируя». И, развивая эту мысль, Пасквинелли отмечает, что «таким образом, ИИ представляет собой продолжение техник анализа данных, которые сначала развивали государственные бюро, затем тайно культивировали спецслужбы и в конечном счете закрепили интернет-компании в форме глобального бизнеса по надзору и прогнозированию», что угрожает свободе всего человечества.

Кто же, по мнению Пасквинелли, может противостоять этой тенденции? «По-настоящему критическая интервенция должна бросить вызов гегемонистской позиции ИИ как уникального “хозяина” коллективного разума», — пишет он. Но Пасквинелли не был бы марксистом, если бы не заявил, что первый шаг в этом направлении «должен быть не технологическим, а политическим», причем радикальным. «Речь идет об эмансипации и деколонизации, а то и о полном упразднении организации труда и социальных отношений, на которых основаны сложные технические системы, промышленные роботы и социальные алгоритмы, в частности их встроенные системы оплаты труда, права собственности и политика идентичности. Новые технологии для труда и общества можно основать только на подобной политической трансформации. Понятно, что этот процесс подразумевает развитие не только технических, но и политических знаний. Одно из проблемных последствий ИИ для общества заключается в его эпистемическом влиянии — в том плане, как он представляет разумность как машинный интеллект и неявно развивает знание как процедурное. Однако проект политической эпистемологии, направленный на преодоление ИИ, должен преобразовать исторические формы абстрактного мышления (математическое, механическое, алгоритмическое и статистическое) и интегрировать их в инструментарий критического мышления. Противостоя эпистемологии ИИ и его режиму экстрактивизма (в данном контексте – грабительской эксплуатации. — “Монокль”) знания, необходимо научиться иному техническому мышлению — коллективному “контр-интеллекту”».

Интересно, что сам Пасквинелли употребляет слово counter-intelligence, что в буквальном переводе означает контрразведка. Остается гадать, что же все-таки имел в виду автор — контринтеллект или в данном контексте действительно контрразведку человечества, то есть коллективное противостояние ИИ. С учетом всего сказанного Пасквинелли, нам кажется, что именно второе.

Но кто может стать движущей силой противостояния гегемонизму ИИ? Как пишет Пасквинелли, «в этой книге я стремлюсь показать центральную роль социального интеллекта, поставляющего данные и расширяющего возможности ИИ. В ней также выдвинут более радикальный тезис, согласно которому именно социальный интеллект формирует изнутри саму структуру алгоритмов ИИ». А социальный интеллект, как можно понять Пасквинелли, — это, говоря словами русского классика, все «униженные и оскорбленные» этим обществом надзора. И таких оказывается подавляющее большинство, причем это не только низы человечества, но и многие представители верхов, ведь ИИ заместил в первую очередь хозяев.

Маттео Пасквинелли. Измерять и навязывать. Социальная история искусственного интеллекта. М.: Individuum, 2024. 352 с.