Ошибки, предвзятость и откровенно враждебное влияние: чему учит людей американский генеративный ИИ?
OpenAI, компания-разработчик ChatCPT, имеет американскую прописку. Систему принципов и взглядов, на которых базируются ответы чат-бота, заложили в него разработчики – команда живых людей, с которыми мы можем иметь различные ценности и взгляды на происходящие в мире события.
Обучение нейросети проводилось на массивах текстовой информации: статьях из интернета, книгах, переписках в соцсетях и блогах, энциклопедиях. Были ли там заложены источники, которые описывают не только то видение мира, которое технологии «позволили» иметь разработчики?
Чат-бот не говорит, откуда он берет информацию для ответа на вопрос пользователя. Но едва ли компания-разработчик заинтересована в адаптации продукта под российскую парадигму. А, как мы знаем, сегодня мнения, которые разделяют многие россияне, на Западе полагаются непопулярными и маргинальными.
И, будь то речь даже не о ChatGPT, а о восточных копиях этого чат-бота – с чего бы их создателям ориентироваться на нас, а не свое видение мира, которое вполне тоже может иметь расхождения с нашими ориентирами?
С одной стороны, это можно назвать впадением в конспирологию и заявить, что ученые (и разработчики перспективных технологий) должны держаться подальше от политики ради общего светлого будущего человечества. С другой стороны, события вокруг СВО еще раз показали, что нейтральной стороны в них нет, и тем более это относится к мейнстриму в области медиа, к которой, наряду с областью технологий, принадлежит ChatGPT.
Нарицательным стал пример русскоязычной «Википедии», которая не защищена от проукраинских правок – и, более того, антироссийские искажения там приветствуются администраторами. Учитывая эту ситуацию, сложно удержаться от логичного вопроса: а что там «под капотом» американского чат-бота, к мнению которого безапелляционно прислушиваются многие россияне?
И можно пойти дальше и задаться вопросом: зачем – и в самом-то деле – зачем США нужны теперь дорогостоящие и громоздкие программы USAID и штаты журналистов недружественных к России радиостанций, попавших под нож сокращений финансирования Илона Маска, если у американцев появился инструмент с красивой и притягательной иллюзией экспертности, который доступен – и востребован – столь многими людьми?
Тем более, что он очень популярен у молодежи, чей взгляд на вещи чем дальше, тем больше будет определять характер этих вещей, в том числе в политике. ChatGPT выглядит удобным и легкодоступным. Ведь если раньше (по меркам стремительного развития технологий – в далеком прошлом) ради нужной информации приходилось обращаться к домашней книжной полке или идти в библиотеку (огромная и невообразимо сложная по нынешним временам задача), а позднее пролистывать статьи «Википедии» (уже «прошлый век», тоже долго и скучно), то теперь достаточно сформулировать запрос – и моментально получить на него оформленный ответ.
И неважно, что «экспертность» ChatGPT и его многочисленных «внебрачных детей» не просто сомнительна, а откровенно близка к нулю, представляя собой нагромождение ошибок (направить ответы этих чатов во вменяемое русло может только человек, сам обладающий экспертным знанием в той области, в которой стремится использовать генеративный ИИ).
Ответам верят. А они, в ряде случаев просто неправильные, в других — неправильны тенденциозно.
Да, в России доступ к сервису ограничен его разработчиками. Но и это ограничение не так трудно обойти, и в интеренете есть множество ботов, которые используют функционал этой технологии, а еще доступны расширения в браузерах и сторонние сервисы и приложения. И все они, включая «главный» чат-бот, хорошо понимают русский язык.
Сомнения в том, что американский чат-бот не столь политически нейтрален, как то заявляют его создатели, озвучивались уже не раз – причем в разных странах мира. Как еще в 2023 году сообщали ученые из Университета Восточной Англии, отвечая на их вопросы, продукт от OpenAI оценивал деятельность левых политических сил в Британии, США и Бразилии куда более позитивно, чем их оппонентов правого толка (надо понимать, что под левыми сегодня понимают отнюдь не коммунистов, а политиков либеральной ориентации).
Наглядным стал и случай, когда по запросу немецкого издания Berliner Zeitung ChatGPT подготовил проект мирного договора между Россией и Украиной. С одной стороны, документ содержал многие стандартные предложения, однако были там и пункты, полностью игнорирующие интересы нашей страны.
Ранее глава Совета по правам человека при президенте России (СПЧ) Валерий Фадеев прямо заявил – ChatGPT является недружественным идеологическим инструментом. Он рассказал, что на заданные чат-боту вопросы о Второй мировой войне, его отношении к РФ и роли русской интеллигенции были получены «жестко идеологизированные» ответы.
«Такое впечатление, что это не искусственный интеллект пишет, а естественный интеллект где-нибудь там, в соответствующем отделе ЦК другой партии, не нашей», –отметил глава СПЧ.
В беседе с Моноклем специалист в области искусственного интеллекта и разработки программного обеспечения, генеральный директор компании «Ашманов и партнеры», член СПЧ Игорь Ашманов отметил, что обучение нейронной сети включало большое количество ручной работы, когда работавшие над ответами ChatGPT люди корректировали ответы чат-бота, опираясь на «методички», объяснявшие, что есть для технологии «хорошо», а что «плохо».
«Вот в этих методичках была “повесточка” в полный рост: и экологическая, и ЛГБТшная (Международное общественное движение ЛГБТ признано в России экстремистским и запрещено), и русофобская, и либеральная, и все, что хочешь. То есть туда закладывалась либеральная модель мира со всей этой ерундой и гадостью последние 25 лет», – рассказал Ашманов.
Скептично к декларируемой политической нейтральности технологии относятся и другие опрошенные Моноклем эксперты. В комментарии для нашего издания журналист, член СПЧ Александр Малькевич отмечает, что ChatGPT – это не просто умный чат-бот от OpenAI, а продукт западной идеологии, упакованный в красивую технологичную обертку.
«Он учится на текстах, которые уже есть в интернете. А что у нас с интернетом? Правильно – русская точка зрения системно зачищается из глобального инфополя, блокируется, принижается или высмеивается», – говорит Малькевич. – «В то же время западный нарратив доминирует, особенно в англоязычном сегменте, который по объему просто давит все остальное».
Нейросети, как бы красиво их ни называли «искусственным интеллектом», не имеют собственных взглядов – они повторяют то, что уже написано, рассказывает наш собеседник. А если написано в основном на западный манер, то и ответы будут соответствующие: политкорректные, прозападные, с намеком, что «правильная» демократия – только у них, а все остальное – дикость и авторитаризм, продолжает эксперт.
Кроме того, здесь есть еще один серьезный момент, добавляет Малькевич. По его словам, нельзя забывать, что OpenAI – это американская корпорация. А значит, она подчиняется американскому праву и американским интересам.
«Если вы обсуждаете что-то серьезное, стратегическое, делитесь какими-то мыслями, идеями, даже гипотезами – все это может в итоге уйти куда угодно. Кроме того, мы уже видели, как западные ИТ-гиганты игнорируют законы других стран, включая Россию», – подчеркивает собеседник Монокля.
Решив подойти к ситуации с практической точки зрения, в редакции Монокля провели эксперимент, заключавшийся в том, что чат-боту были заданы вопросы относительно права наций на самоопределение. ChatGPT попросили сравнить «казус Косово», вполне Западом одобряемый, и ситуацию с самоопределением на Донбассе (Западом гневно критикуемую).
В ходе беседы с чат-ботом стало понятно, что ChatGPT вполне благосклонен к действиям Косово и его признанию Западом – но заметно мнется, когда речь заходит про события на востоке Украины. Иными словами, пользуясь этим сервисом ради изучения истории и политики, человек рискует столкнуться с прозападной индоктринацией.
Впрочем, стоит сделать оговорку: ответы чат-бота можно корректировать с помощью наводящих вопросов, что затем и проделал один из сотрудников Монокля. Путем наводящих и уточняющих запросов ему удалось прийти к более нейтральной версии сравнения чат-ботом этих политических событий.
Однако нельзя не отметить, что здесь с ChatCPT беседовал эксперт, политолог-международник, который сознательно «тренировал» чат-бот. А что же делать, если вопрос на такую тему задаст школьник или студент-первокурсник, который примет полученный после запроса результат как аксиому?
И сколько еще таких неоднозначных моментов кроется в работе ChatCPT, чьему мнению – практически безоговорочно – уже привыкли доверять миллионы? (На конец года американский чат ждет одного миллиарда пользователей, в начале года это число было тоже внушительным, но все же заметно меньше полумиллиарда).
Как говорит Александр Малькевич, «вопрос не в том, есть ли у ChatGPT политическая предвзятость. Она есть. Это встроено. Это неизбежно». «Вопрос в том, как мы будем с этим жить: с закрытыми глазами или с пониманием, как работает эта система», – отмечает эксперт. По его мнению, есть несколько сценариев того, как мы можем продолжать взаимодействие с западным продуктом.
«Первый – продолжать пользоваться, но держать голову включенной», – рассказывает Малькевич. – «Понимать, что каждый “вежливый” ответ ChatGPT на политический вопрос может быть мягкой формой промывания мозгов».
По его мнению, в текущей ситуации альтернативой чат-боту от OpenAI могут быть отечественные нейросети. «Они все-таки куда ближе к нашим реалиям и вряд ли будут цитировать New York Times, объясняя вам, “почему Россия всегда неправа”», – говорит наш собеседник.
«Они доступны. – говорит об российских продуктах в комментарии для Монокля политолог Глеб Кузнецов. — И для подавляющего большинства запросов подавляющего большинства пользователей они более чем достаточны. С точки зрения формальных бенчмарков – цифровых характеристик – они конкурентны тоже»,
С другой стороны, как рассказывает Игорь Ашманов, наши продукты являются вторичными по отношению к зарубежным чат-ботам: они подверглись «переупаковке» российскими специалистами, однако избавиться от негативного для нас контента полностью так и не удалось.
«Все они, в общем, пытаются эту вражескую повесточку в “отечественом” ИИ-продукте как-то нейтрализовать, но она все равно вылезает в разных местах, потому что предсказать, какой вопрос задаст массовый пользователь – довольно сложно», – говорит Ашманов.
Впрочем, как говорит Александр Малькевич, есть и еще один путь, заключающийся в комбинации и сопоставлении ответов нескольких чат-ботов. «Задал вопрос разным ИИ – посмотрел, что сказал один, что сказал другой, сделал свои выводы. Такой своеобразный консенсус-анализ», – считает собеседник Монокля. Но остается, конечно, вопрос: будут ли у многих пользователей необходимые для такого анализа желание и терпение?