Китайская «система социального рейтинга» будет определять ценность людей

Азия
Getty Images

Рейтинг гражданина в Китае

В наше спорное время Китай стал первой страной, которая к 2020 году планирует внедрить систему социального рейтинга (Social Credit Score или SCS). Инициатива впервые появилась в документе Государственного совета КНР, опубликованном в июне 2014 г. Эта инновация настолько шокирует современное прогрессивное общество, что людям не остается ничего, кроме как безучастно разводить руками — реальность все ближе к мрачной научной фантастике.

Аудиоверсия статьи: Podster | iTunes | YouTube | Скачать | Telegram

С виду SCS устроен довольно просто. В рамках системы оценивания будет определен рейтинг жителей Китая, страны, чье население составляет почти 1,3 миллиарда человек. Рейтинг будет находиться в открытом доступе для каждого. Система будет определять позицию гражданина, отслеживая его социальное поведение: как он тратит деньги, регулярно ли оплачивает счета, даже то, как он взаимодействует с другими людьми. На этой публичной оценке и будет основано доверие к каждому отдельному человеку.

Звучит еще хуже, чем оруэлловский кошмар.

Дэвид Деттманн / Netflix

От рейтинга гражданина будет зависеть, сможет ли он получить работу или ипотеку, а также в какой школе смогут учиться его дети. В этом смысле рейтинг SCS напоминает один из самых ужасающих эпизодов третьего сезона «Черного зеркала». К слову, это сериал не славится жизнеутверждающим посылом. В нем зрителям показываются различные антиутопичные варианты того, как может развиться общество, однако проект SCS доказывает, что в этом отношении реальность уже обошла вымысел.

Эта «услуга» станет полностью доступна только в 2020 году, однако уже сейчас Китай начал добровольное внедрение рейтинга SCS: правительство сотрудничает с рядом частных компаний, чтобы отладить отдельные алгоритмы, необходимые для работы такой крупномасштабной системы обработки данных.

В работе над проектом задействованы такие компании, как China Rapid Finance, партнер сетевого гиганта Tencent, и Sesame Credit, дочерняя компания Ant Financial Services Group (AFSG), партнера Alibaba. Как China Rapid Finance, так и Sesame Credit имеют доступ к пугающе огромному массиву данных, первая компания — через приложение обмена сообщениями WeChat (в настоящее время с 850 миллионами активных пользователей), а вторая — через свою платежную систему AliPay.

По данным местных СМИ, Tencent внедряет рейтинг SCS в чат-приложение QQ, где рейтинг человека находится в диапазоне от 300 до 850 и разбивается на пять подкатегорий: социальные связи, потребительское поведение, безопасность, материальное состояние и законопослушность.

Положительное (и отрицательное) подкрепление

Сторонники рейтинга SCS считают, что с его помощью можно улучшить некоторые государственные услуги. Некоторые утверждают, что рейтинг предоставит китайским гражданам столь необходимый им доступ к финансовым услугам. Правительство также заявляет, что рейтинг «позволит благонадежным гражданам ходить там, где вздумается, и не даст дискредитированным ступить ни шагу», сообщается в The Wall Street Journal. В некоторых ситуациях это вполне может сработать. В конце концов, финансовые организации и банки уже составляют системы оценки кредитоспособности, которые помогают им не выдавать кредиты тем, кто не сможет их выплатить.

Утопическое стремление управлять финансами граждан посредством системы сдержек и противовесов может стать хорошо продуманным способом снизить государственный долг и побудить граждан своевременно выплачивать имеющиеся у них долги. Однако настолько вездесущее организованное управление личными финансами граждан переходит разумные границы.

Основная проблема заключается в том, что рейтинг SCS выходит далеко за рамки оценивания того, как граждане распоряжаются своими долгами. По своей сути, рейтинг выставляет оценку каждому жителю страны, определяя его ценность как человека. И вынуждает общество принимать эту оценку во внимание.

«Предложенный Китаем социальный рейтинг – только подтверждение тому, что Китай превращается в полностью полицейское государство», — утверждает Анураг Лал, бывший директор американской Национальной группы по исследованию широкополосной связи при администрации Обамы, а также президент и главный директор по решениям для мобильности фирмы Infinite Convergence.

«Китай делает еще один шаг к тому, чтобы стать тоталитарным полицейским государством, контролирующим своих граждан и плюющим на их конфиденциальность. Будут оцениваться все виды деятельности и межличностного взаимодействия, как в сети, так и в реальной жизни. Их будут хранить, как данные, доступные для просмотра».

Кажется, печально известный Великий китайский файрвол — лишь одно из следствий ухудшающегося социально-политического положения Китая.

Big Data для хорошего поведения

Такая система способна не только выступать в качестве социального посредника, но и жестко ограничивать граждан. В своем интервью WIRED технологический директор Sesame Credit Ли Инъюнь согласился с таким опасением, заявив, что с помощью SCS можно будет судить о человеке по его покупкам. «О том, кто играет в видеоигры по десять часов в день, например, подумают, что он безработный, — поясняет Ли. — А о том, кто часто покупает подгузники, подумают, что у него наверняка есть дети, значит, этот человек наверняка ответственен».

Некоторые считают, что такие изменения дадут позитивный результат: людей будут мотивировать на то, чтобы учиться отвечать за себя и свои привычки ради хороших баллов в рейтинге и статуса так называемого «заслуживающего доверия гражданина». Китайский блоггер Расул Маджид поделился с WIRED, что всерьез считает инициативу полезной. Если человек знает, как именно за ним следят, то он сумеет и выкрутиться.

Лал, в свою очередь, не согласен с такой позицией. «Как можно судить о человеке по его ежедневным действиям? Мы так много всего делаем, и нами всегда движет множество самых разных причин. Если контекст поступка неясен, то его можно истолковать неверно», — поясняет он. И в его словах есть рациональное зерно. Очевидно, почему нельзя сказать, что все, у кого есть дети, однозначно заслуживают доверия. Что это значит для тех, кто не может иметь детей? Что это значит для однополых пар? Что это значит для людей, которые просто не хотят заводить детей?

Вероятно, ничего хорошего.

В конце концов, даже базовая система SCS, которая оценивает всего лишь несколько элементов данных, может создать очень неточный и неполный образ человека. «Если вы играете в видеоигры по 10 часов в день, то алгоритм объявит вас безработным, не разбираясь в причинах ваших действий. Возможно, вы работаете инженером и просто тестируете эти игры. Но вы уже автоматически отмечены как безработный, — добавляет Лал. — Когда на самом деле вы, может быть, просто выполняли свою работу».

В конечном итоге, главная проблема сводится к тому, что «социально приемлемое поведение» будет определять китайское правительство, а не демократический процесс или независимая комиссия. И если человек нарушит это доверие, меры по его наказанию не заставят себя ждать.

С помощью SCS китайское правительство фактически убьет двух зайцев одним выстрелом: они смогут продвинуть и навязать обществу свое представление о «социально приемлемом поведении» и одновременно с этим получат возможность контролировать все аспекты жизни граждан.

Тем не менее, Лал сомневается в том, что эта система способна работать в долгосрочной перспективе. «Подобная инициатива не сможет прижиться в свободном мире. Если люди, сидящие в правительстве, действительно окажутся настолько наивны, то от этого Китай только потеряет свой авторитет в региональном и глобальном плане. Технические компании, работающие в Китае, уже выражают свое недовольство серьезными ограничениями техполитики и шифрования. Такие нововведения только усугубят возмущение».

Система представляет собой нечто гораздо более коварное, чем паноптикум, о котором говорил теоретик культуры Мишель Фуко. Поэтому давайте надеяться, что Лал прав.

Примечание редактора: Мы обновили статью, чтобы дать понять, что Лал только “бывший” директор при администрации Обамы, и прояснить характер компаний, работающих в этом направлении.

Оригинал: Futurism.
Авторы: Дом Галеон и Брэд Берган.

Переводили: Маргарита КоковихинаВероника Чупрова
Редактировала: Елена Остапчук.

Оцените статью
Добавить комментарий
  1. admin
    admin автор

    По теме уже выходили не менее интересные статьи, не стесняйтесь делиться ссылками.

  2. Alexander Lee
    Alexander Lee

    Кто-то насмотрелся Psycho-Pass

  3. Данил Иванов
    Данил Иванов

    Обколются своим черным зеркалом, а потом воплощают в реальной жизни

  4. Ильгиз Купель
    Ильгиз Купель

    Какая серия черного зеркала?

    1. admin
      admin автор

      Ильгиз, первая серия третьего сезона.

  5. Расул Хасенов
    Расул Хасенов

    Большой брат 2.0. Как Китай строит цифровую диктатуру

  6. Лалита Мусаилова
    Лалита Мусаилова

    погодите, что значит “ещё один из эпизодов”? Ещё что-то похожее на события сериала произошло?

    1. It's Me
      It's Me

      Лалита, да, и очень много. Создание чат-ботов умерших людей на основе нейросетей, роботизированные пчелы, разработка имплантатов памяти (пусть и пока не в той мере, как в сериале, но все же). Только первое, что пришло на ум.

  7. Михаил Кондрашов
    Михаил Кондрашов

    Остается только пожелать китайцам успеха в этой сфере. Может быть им удастся так построить идеальное общество к которому люди стремились испокон веков. Нам же видимо остается только мечать об этом.

    1. Наумов Олег
      Наумов Олег

      Mikhail, этот инструмент управления в целях верхушки. Никакой обратной связи. С чего это приведет к идеальному обществу?

      1. Михаил Кондрашов
        Михаил Кондрашов

        Oleg, ну коли уж эта верхушка сумела превратить отсталую страну второго (а по факту третьего) мира в сверхдержаву то с чего вы решили что они не смогут осуществить то где другие споткнулись. В конце концов опыт государственного построения у китайцев больше чем у Запада и уж тем более чем у нас.

  8. Игорь Дудукалов
    Игорь Дудукалов

    Поржал с коментов людей из США))

  9. Алексей Щедринский
    Алексей Щедринский

    Китайское общество живёт такой системой уже не одну сотню лет, не стоит ровнять своё и чужое.

  10. Сергей Кузьмин
    Сергей Кузьмин

    Коммунизм говорили они, бесклассовое общество говорили они

  11. Андрей Штольц
    Андрей Штольц

    Есть rss подкастов?

    1. admin
      admin автор

      Andrey, да, через Podster. Ссылка в статье.

      1. Никита Марченко
        Никита Марченко

        Newочём, можно ли уточнить, в какую категорию вы поместили данную статью? https://vk.com/page-80512191_50573183
        Это обновляемый каталог, по нему можно ориентироваться в ваших переводах?

        1. admin
          admin автор

          Никита, каталог временно не обновляется, скоро исправим.

        2. Никита Марченко
          Никита Марченко

          Никита, спасибо, просто если хочется найти все ваши переводы, кроме “Меню группы” другого выбора нет. Пролистывать ленту точно не вариант, чтобы искать переводы.

  12. Тимофей Шарагин
    Тимофей Шарагин

    Геймификация.

  13. August Dun
    August Dun

    Кастовая система – то, от чего убегали веками, пытаются в новой обертке подать как веяние будущего. Оруэлловская антиутопия

  14. Алексей Климовский
    Алексей Климовский

    В принципе, ничего ужасного в этом нет, кроме возможного примешивания политики.

  15. Влад Луган
    Влад Луган

    в Русском орфографическом словаре под редакцией В.В. Лопатина дается вариант блогер

  16. Сева Залеский
    Сева Залеский

    читал это, да, я офигел)

  17. Alex Russa
    Alex Russa

    Слышала от одного НАШЕГО очень известного аналитика (тв+радио), что это Хорошо. Типа, это внедрение поощрения хорошего поведения в людях.
    А по-моему, это просто питомник с послушной глиной.

  18. Alex Russa
    Alex Russa

    Кстати, в Китае разработана система распознавание человека по походке. То есть, считывается индивидуальный профиль движений каждого человека. В гос. базе данных уже сотни миллионов граждан, потому что Пекин, Шанхай и ряд первостепенных городов Китая оборудован веб камерами на каждом шагу.

  19. Линка Нестерович
    Линка Нестерович

    Оригинал статьи находится на ресурсе, который судя по всему, спонсируется какой-то организацией то ли футурологов, то ли чего в ОАЭ. При этом имеет домен gov.
    Когда там новый сезон сериала?)

  20. Юрий Иванов
    Юрий Иванов

    Для полноты реализации psycho-pass в Китае теперь нужен серийный маньяк, у которого будет наивысший рейтинг социального одобрения и подвал с расчлененными трупами

  21. Капралов Руслан
    Капралов Руслан

    У них и так подробная схема есть

  22. Максим Корбут
    Максим Корбут

    Ну впринцепе норм тема

  23. Иван Иванович
    Иван Иванович

    Чёрного зеркала насмотрелись?

  24. Елизавета Яковлева
    Елизавета Яковлева

    Механическое пианино

  25. Ангелина Окшина
    Ангелина Окшина

    Вот прям первая мысль:Черное зеркало

  26. Пётр Коваленко
    Пётр Коваленко

    Голубая мечта любого правительства – управление людьми нажатием кнопки. Вжух, и целый слой граждан неблагонадёжны) Вжух, и недовольные режимом лишаются всего

  27. Юра Ошурков
    Юра Ошурков

    https://knife.media/social-ranking/ эта статья таки больше рассказывает о том как это на шкуре человека на самом деле и о том как народ легко продается за всякие вынужденые плюшки.

  28. Василий Вихров
    Василий Вихров

    Черное зеркало как проект в долгосрочной перспективе в реальной жизни.

  29. Мария Черных
    Мария Черных

    Да прикольно