Algocrația sau despre dictatura digitală

Societățile umane au intrat în epoca dictaturii algoritmilor și suntem deja expuși unui nou tip de guvernare algoritmică. Cel mai sinistru exemplu este experimentul numit „Sistemul de credit social”, implementat de către autoritățile chineze, care utilizează pe scară largă diverse sisteme de supraveghere în masă (de la recunoașterea facială la analiza bazelor de date). Azi în statul chinez algoritmii sunt folosiți pe scară largă pentru a monitoriza și controla viețile cetățenilor. 
Începând cu 2007 președintele Xi Jinping a anunțat crearea și implementarea primelor sisteme de „credit social”, inițial testate în orașe precum Rongcheng. Azi Partidul Comunist Chinez practică o adevărată guvernare prin intermediul bazelor pe date, în China existând uriașe „liste negre digitale”, în care sunt incluse peste 14 milioane de persoane. Algoritmii evaluează cetățenii în funcție de nivelul lor de încredere, pe baza modului cum respectă legile și a valorile morale, pe criterii de onestitate și integritate. Inclusiv firmele „private” sunt supuse regulilor acestui sistem de credit social, 73% dintre companii fiind evaluate prin acest sistem (conform estimărilor MERICS https://merics.org/sites/default/files/2021-06/MERICS%20ChinaMonitor%2067%20Social%20Credit%20System%20final3.pdf).

Există milioane de chinezi care au primit diverse scoruri de „neîncredere”, astfel 17,46 milioane de oameni au primit evaluarea „discreditat” și au primit interdicția de a mai achiziționa de bilete de avion, iar 5,47 milioane nu au avut dreptul să mai cumpere bilete la trenurile de mare viteză. Pe baza acestor informații, Partidul poate decide cine are dreptul să fie angajat și cine nu, inclusiv la firmele private, cine poate lua în chirie și cine poate să fie proprietar, cine obține credite și cine nu.

Pentru a înțelege fenomenul merită citită cartea jurnalistului german Kai Strittmatter (We Have Been Harmonised: Life in China's Surveillance State, HarperCollins, 2020), care a publicat un studiu unde există nenumărate exemple pentru ceea ce putem numi dictatura 2.0 sau societatea Mao 2.0. Strittmatter a făcut studii de sinologie și e un bun cunoscător al lumii chinezești, fie și numai pentru că a fost corespondent de presă la Beijing al Süddeutsche Zeitung.
Titlul cărții lui Strittmatter în germană (Neueifindung der Diktatur. Wie China den digitalen Überwachungsstaat aufbaut und uns damit herausfordert, 2018) este mult mai grăitor decât cel din engleză, ea se numește chiar „reinventarea dictaturii”. Dacă Lenin spunea că socialismul este „puterea sovietelor plus electricitate”, azi China comunistă demonstrează că o societate a viitorului poate fi controlată printr-o combinație malefică dintre capitalism, tehnologiile digitale și autoritatea Partidului. Totalitarismul digital, este o formă actualizată și digitalizată a vechilor forme de control asupra cetățenilor. Dacă Mao avea „Cărticica roșie”, lectură obligatorie pentru toți, azi în China președintele Xi utilizează „Micile aplicații roșii”, versiuni contemporaneizată ale dominației prin tehnologii. Folosind același termen de comparație, dacă revoluția maoistă se baza pe principiul wu-wen (pușcă și peniță, armată și cultură), azi revoluția algocratică induce controlul prin algoritmi și programe de inteligență artificială.
Ideea a fost avansată și de către alți specialiști, de exemplu Sebastian Heilmann de la MERICS (Mercator Institute for China Studies) a propus noțiunea de “Leninism digital”, pentru a descrie această o nouă formă de autoritarism înlesnită de tehnologiile informațiilor.
Partidul poate să verifice cine și câte ore se joacă pe computer, telefoanele mobile transmit cine cu cine și unde se întâlnește, iar Poliția secretă a ajuns să facă interogatoriile pe WeChat. Acest sistem „de credit”, care împarte cetățenii în „virtuoși”, care sunt pe lista roșie, și cei care sunt „lipsiți de încredere” controlează inclusiv nivelul de igienă personală. Când în China cineva este „armonizat” nu înseamnă că a intrat într-o stare de echilibru emoțional, ci că cenzura i-a șters comentariile din mediul online – lecție pe care și-au asumat-o recent și Facebook și alte platforme de socializare occidentale.
În orașul Rongcheng, care este considerat un model pentru sistemul de credit, și unde cetățenii sunt notați de la A (cel mai onest) la D (lipsit de onestitate), comportamentul online a devenit principalul mod de administrare socială. Astfel cetățenii „triplu A” (cu scorul A+++) primes credite avantajoase și chiar reduceri la încălzire în timpul iernii.
Viitorul algocrației este îngrijorător. Asemenea sistemelor birocratice, al căror abuz este ilustrat de romanul lui Kafka, „Procesul”, sistemele artificiale au început să fie folosite în evaluările profesionale şi chiar poliţienești. De exemplu guvernul chinez a dezvoltat recent un „procuror artificial”, care folosește algoritmi pentru a identifica presupuse crime, mai ales forme de disidență socială sau critici la adresa puterii din mediul online. Acest tip de platformă artificială poate depune acuzații, iar cazul urmează traseul spre condamnare.
În „epoca algoritmilor” și în noua societate algoritmică în care trăim tehnologiile informațiilor dețin o autoritate și o putere care oferă un control sinistru asupra vieților noastre.