Sculați, voi sclavi ai algoritmilor, voi osândiți la iPhone, sus!

Când, în 1989, Tim Berners-Lee a inventat rețeaua World Wide Web (căreia îi spunem impropriu „Internet”), scopul său a fost unul altruist, aceasta trebuia să permită schimburile automate de informații între oamenii de știință din universitățile din întreaga lume. Întâmplător sau nu, această tehnologie dezvoltată inițial de către de Pentagon (și numită Arpanet), a apărut exact în momentul prăbușirii comunismului în Europa.
Astăzi 5 miliarde de oameni sunt conectați la Internet, adică peste 63% din populația acestei planete, iar 5,3 miliarde de oameni au telefoane inteligente, adică peste 67%. Dintre aceștia 4,65 de miliarde folosesc diverse rețele de socializare (date complete aici: https://datareportal.com/reports/digital-2022-global-overview-report). Pe măsură ce, în ultimele trei decenii, o mare parte din viețile oamenilor s-au transferat în sfera virtuală, idealurile altruiste au devenit realități algoritmice. Trăind conectați în rețele digitale și viețuind în conexiune cu niște aparate care par să ne facă viețile mai bune și mai ușoare, am devenit dependenți de algoritmi.
Acesta este Evul Algoritmilor, nu numai pentru că toate computerele noastre funcționează pe bază de coduri și orice cod este algoritmic, dar și pentru că Internetul este un spațiu algoritmic. De fiecare dată când căutăm, citim sau cumpărăm ceva un algoritm intermediază aceste activități. În spatele tuturor acestor pagini „de Internet” se află diverse programe de inteligență artificială, algoritmi care ne analizează comportamentele, care ne interpretează „click”-urile și ne monitorizează „tweet”-urile, ne verifică „haștagurile” și, fiind capabile să facă previziuni și calcule, știu deja ce ne place, astfel că ne fac recomandări chiar și atunci când nu le cerem.

Unii autori consideră că algocrația, noțiune concepută pentru a descrie un mod de organizare socială bazată pe algoritmi, este pozitivă. Așa este recenta carte a lui Arthur Grimonpont (Algocratie. Vivre libre à l'heure des algorithmes, Actes Sud, 2022), cercetător la Școala Urbană din Lyon, care afirmă că avem șansa să construim o societate algo-democratică, cu ajutorul platformelor de socializare digitală.
Numai că soluțiile avansate de Grimonpont, cum ar fi reglementarea platformelor de socializare și responsabilizarea acestora, sunt doar naive și se bazează pe prejudecățile politice ale autorului. Crearea unei „democrații digitale”, produsă de o „revoluției a atenției”, care să fie urmată de o evoluție culturală, care va duce la rândul ei spre o „civilizație ecologică” este o nerozie. Grimonpont, fiind activist ecologist, vede în societatea algoritmizată posibilitatea de a pune „puterea algoritmilor” în slujba Naturii. Algo-democrația imaginată de Grimonpont, în care algoritmi precum WeBuildAI ar putea să permită un soi de „guvernare algoritmică” în cadrul căreia să se producă o nouă participativitate, nu este doar pernicioasă, este periculoasă.
De fap nu trăim într-o algo-democrație, ci suntem într-o epocă a tiraniei algoritmilor. Așa cum observa Tristan Harris, co-fondator al Center for Humane Technology, fost angajat la Google și personaj în documentarul „The Social Dilemma” difuzat de Netflix, platformele digitale conduse de algoritmi generează dependență, izolare și radicalizare politică. Ele au schimbat structura interacțiunilor umane și influențează mecanismele decizionale a miliarde de oameni în sens malign, nu pozitiv.

Nu contează cine votează, contează cine codează
Dimpotrivă, putem să spunem că suntem deja într-o epocă a guvernării algocratice, în care cei care controlează Imperiul Big Data, din care facem parte cu toții, stabilesc destinul societății umane fără să ne consulte. Putem să îl parafrazăm aici pe Stalin, pentru că trăim într-o lume în care nu mai contează cine votează, cotează cine codează (algoritmii). Din păcate acest nou imperiul al algoritmilor după cum îl numește Stéphane Grumbach (L'empire des algorithmes : Une géopolitique du contrôle à l'ère de l’anthropocène, 2022), s-a transformat într-un imperialism algo-cratic.

Ceea ce a început ca o revoluție benefică în favoarea umanității, s-a transformat, printr-o algoritmizare a tuturor interacțiunilor umane, într-o nouă formă de sclavie. Aceste platforme ne controlează viețile la un nivel atât de profund încât nici nu ne mai dăm seama că a fost instaurat un nou tip de sclavagism digital. Algoritmii complecși de astăzi sunt în stare ne supravegheze și să conducă oamenii, producând o nouă formă de proletariat digital. Exemplul malefic este compania Amazon, unde algoritmii sunt folosiți pentru a eficientiza muncitorii, iar personalul care e considerat prea „leneș” sau „inadaptat” este pur și simplu concediat prin intermediul computerelor.

Suntem în mod practic sclavii algoritmilor fie și numai pentru că, prin intermediul informațiilor culese de pe Internetul mari grupuri umane pot fi controlate. Eliberarea din această captivitate este aproape imposibilă, iar dacă vom acorda și mai multă putere unor algoritimi „eco-democratici” nu înseamnă că vom crea o societate mai bună. Nu există nicio garanție că, dacă vom da algoritmilor, care sunt deja alimentați cu date uriașe despre omenire și care controlează deja o mare parte din sistemele decizionale comerciale, vom ajunge la decizii publice și politice benefice. 
O altă problemă ține de modul de funcționare a algoritmilor la scară mondială. Aceste coduri produsul unei epoci în care s-a produs transformarea oamenilor din cetățeni în utilizatori. Iar marele risc constă tocmai în calitatea acestor cetățeni-utilizatori care sunt rezultatul unei uzine de cretinătate. Fabrica de cretini, termenul avansat de Michel Desmurget (La Fabrique du crétin digital. Les dangers des écrans pour nos enfants, Seuil, 2019, tradus la noi cu formula „cumințită”, „fabrica de dependenți”) sau procesul de cretinizare globală care începe încă din fragedă pruncie, a creat generații întregi crescute într-un fel de „telerealitate” tipică pentru multitudinea de ecrane cu care ne înconjurăm. Realitatea este că, deși suntem înconjurați de tehnologii „inteligente”, noi devenim tot mai tâmpiți. În ultimele decenii coeficientul de inteligență în țările dezvoltate a scăzut dramatic.

Poate că povestea maimuțelor vorbitoare va fi spusă cândva de mașinile noastre mult mai inteligente, iar perspectiva cu adevărat optimistă este aceea post-umanistă. Recentele inovații tehnologice care au digitalizat aproape total societățile umane vor duce la o lume pașnică, unde un nou tip de democrație reglementată de algoritmi va rezolva problemele de mediu și va mântui omenirea de propriile defecte, prin transformarea omului într-un non-om.

Dacă mașinile noastre sunt deja conduse de algoritmi, cafetierele pot fi programate să ne aștepte cu un cappuccino cald la oră exactă și există deja algoritmi care optimizează locurile bolnavilor în spitale, este posibil un viitor în care algoritmii să ne ofere medicamente care să ne calmeze, să spună cum să ne comportăm și să ne indice cum să votăm.

Deja este o realitate faptul că o mare parte din instituțiile „trecutului” cum sunt școala, spitalul, presa sau armata devin algoritmice. Vedem cum militarizarea algoritmilor a dus la apariția unor drone autonome, care pot să omoare „inamicii” fără să mai consulte oamenii, iar apariția unor sisteme jurnalistice care nu sunt făcute să transmită informații, ci sunt utilizate ca să promoveze falsul și minciuna este deja o realitate.
Algocrații sunt deja cei mai bogați oameni din lume, nu mai trebuie decât să își creeze un tip de societate adaptată nevoilor lor, o umanitate adaptată la managementul algoritmic. Pare un viitor distopic, dar, după cum spunea Marshal McLuhan, întotdeauna viitorul este în spatele nostru, noi trăim prezentul doar pentru că ne întoarcem în viitor.