Skąd się wzięła Zhima?
Na początku było Alipay, aplikacja opracowana przez Ant Financial, firmę należącą do ogromnej korporacji Alibaba. Za pomocą Alipay chiński obywatel może zapłacić praktycznie za wszystko, od marchewki kupowanej na targu przez rachunek za prąd i wypożyczenie roweru i to bez konieczności sięgania do portfela, po prostu za pomocą swojego smartfonu. Alipay to zdecydowanie coś więcej niż aplikacja, to super app, cały ekosystem. Jednym z elementów Alipay stał się system Zhima Credit (Sesame Credit). Nazwa, podobnie jak nazwa koncernu – Alibaba – jest oczywistym nawiązaniem do historii Alibaby i 40 rozbójników. Przy czym chodzi nie tyle o Alibabę, co o jaskinię pełną skarbów – Sezam. Użytkownik Zhimy otrzymuje dostęp do dóbr na kredyt. “Zhima Credit jest ucieleśnieniem osobistego kredytu” – to hasło jakim reklamuje się to rozwiązanie. “Wykorzystujemy big data do przeprowadzenia obiektywnej oceny. Im wyższy wynik, tym lepszy kredyt”. Zhima Credit pozwala jej użytkownikom budować wiarygodną historię kredytową w oparciu o wszystkie działania, jakich dokonują za pomocą aplikacji Alipay. To istotne, bo w Chinach kuleje nieco oficjalny bankowy system ratingowy, umożliwiający ocenę ewentualnych kredytobiorców. Zhima tę lukę wypełnia, korzystając z danych gromadzonych przez wszystkie aplikacje zebrane w Alipay.
Powstanie Zhimy idealnie zbiegło się w czasie z planem chińskiego rządu, który w 2014 r. ogłosił uruchomienie tzw. systemu “kredytu społecznego”. W czerwcu 2014 r. Rada Państwa ChRL wezwała do utworzenia ogólnokrajowego systemu śledzenia w celu oceny reputacji osób fizycznych, przedsiębiorstw, a nawet urzędników państwowych (pisaliśmy o tym całkiem niedawno). Celem jest, aby do 2020 r. każdy obywatel Chin miał przypisany sobie plik, w którym zawarte byłyby informacje dotyczące praktycznie każdego aspektu życia, pochodzące zarówno ze źródeł publicznych, jak i prywatnych. Rada Państwa nazwała ten pomysł “systemem kredytowym obejmującym całe społeczeństwo”.
Jak to działa w praktyce?
Testy terenowe działania Systemu Zaufania Społecznego prowadzone są już w Chinach od kilku lat. Szczególnie kontrowersyjne i wzbudzające wątpliwości zarówno w samych Chinach, jak też szczególnie poza ich granicami, okazały się eksperymenty przeprowadzone w przedsiębiorstwach działających na terenie azjatyckiego mocarstwa. Przeprowadzono ich osiem, a ich wspólną cechą było m.in. wykorzystanie właśnie Zhima Credit. Choć prawda jest taka, że w tym konkursie na przychylność władzy startują także Tencent i WeChat, ale na razie wygrywa Zhima Credit.
Rząd chiński chce nadzorować absolutnie każde działanie swojego obywatela w sieci, niezależnie od tego, czy za pośrednictwem sieci prowadzi on działalność komercyjną, kupuje prezenty dla rodziny, wypożycza rower, czy poszukuje partnera. Każda czynność wykonywana przez internet będzie nie tylko monitorowana, ale także oceniana. Zarówno monitorowanie, analiza, jak i ocena obywatela odbywać się będzie za pomocą wysoce zautomatyzowanego systemu klasyfikacyjnego. Baza danych podlegających analizie jest na tyle olbrzymia, że nie dałoby się tego zrobić w inny sposób.
Ten tzw. System Zaufania Społecznego (co za niewinna nazwa) ma oczywiście nie tylko odzwierciedlać ekonomiczną zdolność kredytową. Choć tak na pierwszy rzut oka użycie Zhima Credit sugeruje akurat ten powód. W rzeczywistości jednak oczekuje się, że system pozwoli zbadać, na ile wiarygodna i szczera jest dana osoba lub instytucja. Co więcej ocena tej szczerości i dane klasyfikacyjne obywatela czy firmy mają być publicznie dostępne, a na pewno dostępne władzom.
Taka konstrukcja i założenia projektowe sprawiają, że nietrudno dostrzec, iż system ma charakter wyraźnie dyscyplinujący. Niczym surowy rodzic mówiący do dziecka “zachowuj się!”. Wszelkie działania prowadzone w trybie online będą podlegały ocenie czy są dobre czy są złe i wskaźnikiem, czy zrobiłeś dobrze czy źle nie będzie Twój własny kręgosłup moralny, lecz narzucony przez władze światopogląd. Zabawne. Może. Ale nie w kraju, w którym obywatele masowo korzystają z aplikacji służącą do ścigania się, kto szybciej pogratuluje prezydentowi Xi Jinpingowi przemówienia, a potem swój zachwyt przemówieniem wrzuci do sieci.
Czy zgodzilibyście się na coś takiego? W pierwszym odruchu wszyscy z pewnością reagujemy “oczywiście, że nie”. Chińskie władze wiedzą o tym, znają historię, rozumieją, że wprowadzanie pewnych reguł siłą rzadko kiedy przynosi szanse powodzenia. Dlatego Zhima Credit i podobne jej rozwiązania klasyfikujące obywateli wprowadzane są w zgoła odmienny sposób. Łagodnie i podstępnie. To już się dzieje. W wybranych prowincjach wprowadza się metody manipulacyjne wykorzystujące mechanizm znany z gier, współzawodnictwa, itp. Innymi słowy obywatel korzystający z systemu klasyfikacyjnego jest tak zmanipulowany, że wierzy, iż bierze udział w grze. Ukuto nawet termin określający ten sposób manipulacji: gamifikacja posłuszeństwa. Gdy będziesz zdobywać punkty za właściwe (po linii partii) zachowanie, będziesz zdobywać dodatkowe przywileje. Jak w grze, tyle że tu nie można gry wyłączyć, a stawką jest prawdziwe, a nie wirtualne życie.
Szczególnie aspekt dyscyplinujący wzbudza kontrowersje. Jeżeli zbierzemy kilka punktów bo np. kupiliśmy partnerowi czy dziecku prezent online, to przecież wszyscy zgodzimy się, że ostatecznie to nic złego. Po prostu nagroda za dobry uczynek. Jednak to pułapka. Zaczyna się od rzeczy pozornie niewinnych, najpierw wciągamy obywatela w rozgrywkę, nagradzając banalne czyny, a później dajemy mu do zrozumienia że prawdziwym mistrzem w tej dziwnej grze o zaufanie społeczne zostanie tylko wtedy, gdy oczyści krąg swoich przyjaciół i znajomych z domniemanych “dysydentów” i “nieprzystosowanych”. Gra zaczyna toczyć się wg zasad znanych wyłącznie rządzącymi i na ich warunkach. Kto zakwestionuje reguły, ten z niej wypadnie. A to oznacza utratę nawet nie jakichś domniemanych przywilejów, ale wypchnięcie poza nawias społeczności. Kto zdecyduje się “podskoczyć”, jeśli za niesubordynację zostanie ukarany brakiem dobrej szkoły dla swojego dziecka, utratą pracy, brakiem awansu, a nawet utratą kontaktów towarzyskich?
Być może niektórzy Czytelnicy pamiętają działania prowadzone przez Ministerstwo Bezpieczeństwa Państwowego NRD, czyli sławetne Stasi (świetnie funkcjonowanie tego systemu pokazuje film “Życie na podsłuchu”, zwiastun poniżej). W nieistniejącej już dziś Niemieckiej Republice Demokratycznej, Stasi zbudowało gigantyczną sieć szpiegowską, w której niemal każdy obywatel donosił na każdego, bo musiał.
Chińczycy budują Stasi XXI wieku. Nie tylko wszyscy mają zachowywać się tak jak chce tego partia, ale – zmanipulowani – zrobią to z wielką ochotą mając w perspektywie przywileje jakie ich czekają. Nigdzie indziej na świecie nie jesteśmy bliżej technologicznej dystopii tak mrożącej krew w żyłach, jak w Chinach.
Warto jednak zastanowić się nad dwoma istotnymi aspektami: po pierwsze, dlaczego Chiny rozwijają taki system już teraz i czy jakąś rolę odgrywamy w nim my, jako przypuszczalnie niezaangażowani obserwatorzy.
Budowanie zaufania w społeczeństwie ma sens
Ten śródtytuł nie oznacza, że zamierzamy gloryfikować działania władz ChRL. Warto jednak zauważyć, że Chiny stoją obecnie w obliczu złożonego problemu: gospodarka przeżywa trwający od dłuższego czasu boom, ludność, szczególnie ta w miastach, przechodzi masową cyfryzację. Chiny wbrew pozorom nie są krajem homogenicznym, ani kulturowo, ani wyznaniowo, ani społecznie czy narodowościowo. Dlatego jednym z głównych celów chińskiej polityki wewnętrznej jest utrzymanie społecznego ładu i porządku. Chińczycy wiedzą, z obserwacji rozwiniętych krajów Zachodu, jak ważne w społeczeństwie są struktury zaufania społecznego. Tyle, że w rozwiniętych gospodarkach zachodnich powstawały one przez wieki. Chiny nie chcą i nie mogą czekać, by idąc za przykładem zachodnich demokracji zbudować, ufające sobie wzajemnie uporządkowane społeczeństwo, funkcjonujące na wzór zachodnich społeczności. Dlatego władze próbują zmienić stan rzeczy poprzez narzucone dyrektywy technokratyczne. Oficjalna notatka władz dotycząca wprowadzenia systemu społecznego zaufania, opublikowana – jak już wspomnieliśmy – w czerwcu 2014 roku głosi:
“Przyśpieszone tworzenie systemu kredytów społecznych (społecznego zaufania) jest fundamentalne dla całościowego wdrażania naukowych koncepcji rozwoju i stworzenie harmonijnego społeczeństwa socjalistycznego. (…) Celem jest zwiększenie świadomości na temat uczciwości i wiarygodności społeczeństwa jako całości.”
Szczerość, zaufanie, dostęp do zaszczytów
Ten dokument jest kluczem do zrozumienia gigantycznych planów Chin. Mówi o ocenie naukowej, a także o zmianie społecznej. Praktycznie każda sfera społeczna powinna zostać włączona do systemu społecznego zaufania i stać się “scentralizowaną i standaryzowaną bazą danych finansowych informacji kredytowych”. Uznaje się ją za “niezwykle ważną” dla poprawy ogólnej konkurencyjności kraju i promowania postępu społecznego i cywilizacyjnego. Społeczeństwa zachodnie nie byłyby tak wysoko rozwinięte, gdyby nie przejrzysty system kredytów umożliwiających rozwój i inwestycje.
Głównym celem jest osiągnięcie “szczerości, wiarygodności i dobrego środowiska zaufania kredytowego” wśród wszystkich członków społeczeństwa, a tym samym usprawnienie gospodarki. Wyniki pierwszych testów w terenie wydawały pozytywne dla autorów: “Popyt społeczny na usługi kredytowe wzrasta, a rynek usług kredytowych stale rośnie”.
Warto przy tym wiedzieć, że według badania przeprowadzonego przez Bank Światowy, w 2014 roku aż 12 procent obywateli Chin nie miało nawet konta bankowego, nie mówiąc już o innych usługach finansowych. Kredyty bankowe były wówczas dostępne tylko dla dużych firm i bogatych ludzi. Zwykli obywatele, którzy chcieli kupić dom lub samochód, a nie dysponowali wystarczającymi środkami, zaciągali pożyczki prywatnie lub poprzez zabezpieczenia realizowane poza oficjalnym systemem finansowym. Z tego powodu wciąż wielu obywateli Chin do dziś nie jest w ogóle klasyfikowanych przez systemy finansowe, a instytucjonalna ocena kredytowa nie istniała do 2014 roku. System zaufania społecznego, jako że jednym z jego aspektów jest również ocena zdolności kredytowych, wypełnia tę lukę. Elementem tego systemu jest m.in. Zhima Credit.
Z drugiej strony rynek handlu elektronicznego i płatności realizowanych np. za pomocą telefonu komórkowego czy innymi cyfrowymi metodami dosłownie eksplodował w ciągu ostatnich pięciu lat. Jak wynika z badania, tylko w latach 2012-2016 przychody z telefonów komórkowych wzrosły 61-krotnie. Tak, to nie błąd sześćdziesięciojednokrotnie! Obecnie co piąty obywatel Chin korzysta już z cyfrowo realizowanych płatności. Według prognoz rynkowych, jedna piąta wszystkich zakupów w Chinach do 2020 roku będzie realizowana w Sieci. Na popularności cały czas zyskuje ogromny rynek dostawców rozwiązań płatności mobilnych. Wystarczy wymienić wspomniane wcześniej Alipay i WeChat Pay. Te dwie firmy mają 90-procentowy udział na rynku chińskim. Obie też działają za wyraźnym przyzwoleniem władz i w imieniu Chińskiego Banku Ludowego obie firmy przeprowadzają eksperymenty, korzystając z własnych programów kredytów społecznych (Tencent Credit i Zhima Credit).
Dobry obywatel, zły obywatel
Władze Chin dostrzegły potrzebę budowania świadomości społecznej wśród obywateli. Choć to brzmi niegroźnie, w istocie chodzi o plan mutacji charakteru całego społeczeństwa. Metody konwencjonalne, stosowane przez systemy opresyjne, czyli wielokrotne aresztowania, przymusowa “reedukacja” itp. nie są wystarczające by uzyskać pełną kontrolę nad “uciążliwościami” społecznymi i gospodarczymi. Chiny borykają się również z problemami w kwestii bezpieczeństwa, kłopotami w branżach spożywczej czy farmaceutycznej, oszustwami handlowymi, fałszowaniem produktów i wiele, wiele więcej. Brak zachęt do dobrych zachowań. System zaufania społecznego ma to zmienić. Zdaniem chińskich władz, takie rozwiązanie może stworzyć kulturę zaufania, zachęcić do dobrych zachowań i narzucić “atmosferę uczciwości i szczerości”. Na przykład, szczególnie szczerzy i godni zaufania ludzie powinni być umieszczani na stanowiskach kierowniczych właśnie za pomocą tego systemu. Oczywiście lepsza punktacja danego obywatela, to również większe dla niego szanse otrzymania lepszego wykształcenia i bardziej obiecującej kariery.
Brzmi całkiem nieźle, prawda? Jednak efekty działania projektów pilotażowych już działających w dziesiątkach miast i prowincji stały się źródłem medialnych doniesień o przerażającym systemie, który obejmuje wszystkie dziedziny życia. Problem z jakimkolwiek systemem klasyfikacyjnym polega na tym, w jaki sposób został on opracowany i według jakich kryteriów. Pamiętajmy o istotnym fakcie powiązanym z wszelkimi algorytmami maszynowej selekcji: dziedziczą one uprzedzenia i przekonania swoich twórców i nie są obiektywne. Li Yingyun, mededżer ds. rozwoju Zhima Credit wyjaśnił w jaki sposób cechy charakteru zostały wydedukowane na podstawie zachowań zakupowych obserwowanych klientów Alipay, powiedział on: “Ci, którzy grają w gry wideo przez dziesięć godzin każdego dnia, będą klasyfikowani jako leniwi. Ci, którzy kupują pieluchy, najprawdopodobniej są rodzicami, a to sugeruje, że są odpowiedzialni”. Doskonale widać, jak płytki jest taki system ocen, a także – jak przerażające mogą być konsekwencje jego wprowadzenia.
Jednak to, co planuje zrobić chińskie państwo, a to co tak naprawdę się tam dzieje, to dwie różne rzeczy. Nie tak dawno Hu Tao, dyrektor zarządzający firmy Zhima wspomniał w oświadczeniu dla “Financial Times”, że jego firma nie monitoruje zawartości postów publikowanych w mediach społecznościowych swoich klientów, nie próbuje również zmierzyć cech jakościowych takich jak osobowość. Co więcej, według Tao, żadna ocena nie jest przekazywana “stronom trzecim, a nawet rządowi” bez zgody jej użytkowników.
Ponadto Jeremy Daum, naukowiec z Uniwersystetu Yale i ekspert ds. Chin zwraca uwagę, że ani Ali Financial (Zhima Credit), ani siedem innych firm, które na zlecenie Ludowego Banku Chin pracują nad systemem oceniającym ludzi nie otrzymały licencji jako oficjalna agencja oceny wiarygodności kredytowej. Chińskie władze skrytykowały konflikt interesów firm, które z jednej strony chcą oceniać obywateli, a z drugiej, świadczyć im usługi finansowe. Zasadniczym pytaniem, jakie muszą postawić sobie chińskie władze jest: ile mocy decyzyjnej można pozostawić samym algorytmom i jaką rolę w tym przypadku mają odgrywać firmy internetowe i ich monopole danych.
Z perspektywy czasu dyskusja na temat systemu oceniającego obywateli Chin przypomina dyskusję o społecznej sile danych, którą mogą prowadzić obywatele dowolnego innego kraju. Przecież również w Polsce technologia w coraz większym stopniu decyduje o funkcjonowaniu społeczeństwa – wszyscy jesteśmy pod ciągłą presją oceny, samokontroli i optymalizacji.
Torsten Heinemann, profesor socjologii na Uniwersytecie w Hamburgu, na temat zaufania i monitorowania: “Zaufanie opiera się na zasadzie wzajemności. Tam, gdzie okazuję zaufanie, generuję również zaufanie z drugiej strony. Najważniejsze jest jednak to, że nigdy nie można być stuprocentowo pewnym. Zaufanie przyjdzie, gdy zaakceptuję tę niepewność i będę opierać się na uzasadnionych przesłankach, że zachowanie lub wynik, którego się ode mnie oczekuje staje się jednak rzeczywistością.
Monitorowanie jest w pewnym sensie odpowiednikiem zaufania. Bez sporadycznego monitorowania nie byłoby zaufania. Ciągły nadzór nie jest jednak ani konieczny, ani możliwy. Stały nadzór zastępuje zaufanie, ale nie jest nim samym. Przy wysokim poziomie zaufania potrzebna byłaby tylko niewielka miara nadzoru. Z drugiej strony większa nieufność prowadzi do wzmocnienia nadzoru.
Chiński system kredytów społecznych opiera się nie tyle na zaufaniu, co właśnie ciągłym monitorowaniu. To maluje obraz społeczeństwa, w którym nie można ufać ludziom, a wszystkie działania i interakcje społeczne muszą być nadzorowane i oceniane. Zaufanie jest wirtualnie przechowywane i zobiektywizowane w bazie danych. Tym samym zaufanie przestaje być powodem, dla którego ktoś zachowuje się w określony sposób – staje się próbą przeliczenia oczekiwań twórców systemu i zredukowania czynnika niepewności jako centralnego elementu zaufania.
Chociaż nie można twierdzić, że nieufność wzrosła dzięki systemowi kredytów społecznych, to jednak zaufanie na pewno zostało osłabione. Jednocześnie jednak system wymaga zaufania. Dopiero gdy wszyscy zaangażowani zaczną wierzyć, że ta forma oceny jest właściwa, system na dłuższą metę będzie dominował.
Zdolność “kredytowa” w praktyce
Chińskie nadmorskie miasto Rongcheng jest przykładem najbardziej udanego wdrożenia testowego jeszcze systemu kredytów społecznych. Przynajmniej według tzw. oficera do spraw polowych Sui Yuxiang, który stwierdza: “Poprawiła się tutaj atmosfera. Ludzie są bardziej aktywni i zaangażowani, jakość współżycia w społeczności stała się lepsza”. W RongCheng wszyscy mieszkańcy dzielą się na cztery kategorie: A, B, C i D, w zależności od ich zachowania.
“Osoby z oceną A są na czerwonej liście, pozostałe na czarnej liście. Te na czerwonej liście są traktowane preferencyjnie, na przykład w odniesieniu do przyjęć do szkół, osiągnięć społecznych, czy np. ubezpieczeń. Grupa C jest monitorowana dokładniej i codziennie. Otrzymuje pisemne instrukcje o pewnych ograniczeniach. Może to być na przykład zmniejszenie pomocy społecznej. Najniższa klasa to D. Ci ludzie nie mogą zajmować kierowniczych stanowisk, otrzymują zredukowane usługi i nie mają już zdolności kredytowej” – tak opisuje system informatyk Zhang Chengwei.
W ciągu dwóch lat Chińczycy staną się uczestnikami koszmarnego eksperymentu. Kiedy przyjdzie czas na nas? I co wtedy z tym zrobimy? | CHIP