La naiba cu algoritmii sau despre milițienizarea algoritmilor

În august 2020 mii de elevi de liceu din Marea Britanie au ieșit pe străzi, strigând: Fuck the algorithm. Ministerul Educației a decis să înlocuiască examenele de admitere cu o selecție făcută de un algoritm. Rezultatul a fost acela că minunatul algoritm i-a defavorizat pe elevii din zonele cele mai sărace ale Regatului Unit, promovându-i pe cei privilegiați.

Tinerii britanici erau victimele unei transformări cognitive, sociale și politice la care asistăm cu toții neputincioși. Pentru că ducem vieți algoritmice, în care tehnologiile inteligente ne spun ce să mâncăm, câte calorii trebuie să ardem, în care telefoanele noastre știu câți pași am făcut și câte etaje am urcat, nu ne dăm seama că am intrat în epoca totalitarismului digital sau, după formula lui Miguel Benasayag (La tyrannie des algorithmes 2019) suntem supuși tiraniei algoritmilor. 

Umanitatea a intrat benevol într-o nouă formă de sclavie digitală, care marchează și tranziția către o eră a post-democrației.

Devine tot mai evident faptul că ideologia este codificată în algoritmii pe care îi utilizăm, deși îi folosim ca și cânda aceștia ar fi neutri. Algoritmii nu sunt „doar matematică”, iar interfețele digitale care ne guvernează viețile nu sunt nici inocente și nici etice. După cum arăta matematicianul Cathy O’Neil, absolventă a universității Harvard (în Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, 2016), modelele matematice pe care le folosim, deci implicit matematica, pot fi și rasiste și discriminatorii.

Întrebarea este aceea dacă societatea algoritmică în care trăim azi este autonomă sau este produsul unui tip de cod cultural pre-existent. Un răspuns este prezentat în raportul „AI Now Institute”, în care arată că majoritatea celor care scriu programele pentru mașinile inteligente sunt bărbați. 85% din cercetării de la Facebook și 90% din cei de la Google care se ocupă de inteligența artificială sunt bărbați albi. Deci, dacă tehnologiile acestea sunt rasiste și sexiste este produsul unui cod social, nu tehnologic. În 2021 conducătoarea programului de etică al Google AI, Margaret Mitchell, a fost concediată de către Google după ce a scris un articol prin care atrăgea atenția asupra problemelor de etică și de discriminare din cadrul companiei. Una dintre problemele evidente decurge din faptul că marea majoritate a programatorilor sunt bărbați albi,  prin urmare, așa cum demonstrează Safiya Umoja Noble (Algorithms of Oppression: How Search Engines Reinforce Racism) programele create sunt „algoritmi ai oprimării”, creații ale unui mod de a gândi specific doar unor grupuri din societate.
Dar marea problemă cu această nouă formă de dominație exercitată asupra oamenilor decurge din faptul că tehnologiile digitale sunt instrumente ale controlului exercitat de elitele capitalismului asupra lumii. Cartea lui Scott Timcke (Algorithms and the End of Politics. How Technology Shapes 21st-Century American Life) descrie în detaliu mai multe efecte negative, generate de modul cum funcționează capitalismul digital sau „capitalismul platformelor”, după formula lui Nick Srnicek (la care voi reveni). Marile corporații globale care controlează interfețele informaționale, respectiv algoritmii care ne guvernează viețile sunt și cele mai bogate și mai influente. Kris Shaffer (Data Versus Democracy: How Big Data Algorithms Shape Opinions and Alter the Course of History) merge și mai departe, susținând că Amazon, Facebook sau Google adună sistematic date pe care apoi le folosesc pentru a ne condiționa modul de a gândi și felul în care acționăm.

Fenomenul există încă de la primele forme de manifestare a algoritmilor, înțelese în sensul cel mai primitiv de automatisme, când acestea s-au integrat în logica de bază a capitalismului. Azi marile corporații folosesc algoritmii pentru a selecta angajații, pentru a oferi credite și pentru a gestiona mărfurile, însă și poliția americană utilizează algoritmii pentru a identifica zonele „periculoase”, pentru a anticipa unde vor fi făcute următoarele arestări, iar armata americană a anunțat că se pregătește pentru un nou „război algoritmic”. Raportul Comisiei Naționale de Securitate pentru Inteligență Artificială (https://www.nscai.gov/2021-final-report/) indică faptul că întreg complexul militaro-industrial al capitalismului se reorientează către inteligența artificială, recunoscând că am intrat în „era IA” (AI era).

Desigur, sunt și unii autori care încearcă să minimalizeze impactul algoritmilor sau chiar să îi umanizeze. Așa este cartea lui Massimo Airoldi (Machine Habitus), care vrea să ofere o altă perspectivă asupra „mașinăriilor socializate” și a modului cum acestea participă la viața socială. Ideea a fost enunțată deja de către Daniel Neyland și de alți autori care discută despre „viața de zi cu zi” a algoritmilor (The Everyday Life of an Algorithm 2019). Acești algoritmi participă deja la viața socială, deci există un „habitus al mașinăriilor” (Machine Habitus Toward a Sociology of Algorithms, Polity, 2022), algoritmii fiind doar agenți sociali care participă direct la existența socială și mai ales la cultura noastră. Airoldi folosește teoria lui Bourdieu, dar o golește de dimensiunea critică, pretinzând că face o analiză sociologică de extracție bourdieuiană asupra efectului social al acestor coduri algoritmice. Teoria a fost a fost lansată încă din 1985, când Steve Woolgar a publicat articolul „De ce nu am avea o sociologie a mașinilor” (Why Not a Sociology of Machines?), însă inocentizarea algoritmilor nu poate ascunde impactul negativ al acestora asupra umanității.

 Chiar și Airoldi înțelege distincția între cele trei epoci ale mașinilor de calcul. Am trecut de la epoca analogă (din Antichitate până în 1946), spre epoca digitală și acum suntem în epoca platformelor. Aceasta începe din 1998 când Larry Page și Sergey Brin au creat algoritmul PageRank pentru Google Search. De atunci algoritmizarea umanității s-a produs în mod accelerat. Deși echipele de la Google AI și de la Google Brain, care încearcă de mai bine de un deceniu să creeze un creier artificial, nu au reușit încă, efectul este că asistăm la o atrofiere a umanului prin contactul cu digitalul. 

Pe măsură ce delegăm responsabilități și decizii omenești către algoritmi, creierul nostru se atrofiază. Google Assistant poate deja să vorbească la telefon în locul nostru, sistemul medical este algoritmizat și tratamentele medicale sunt făcute prin intermediul computerelor, iar viața economică este controlată de aceste mașinării inteligente. Algoritmii iau decizii în locul nostru, au preluat nenumărate activități în care viețile noastre sunt afectate. De la automatismele cele mai banale din viața de zi cu zi, când folosim trasee rutiere oferite prin GPS, la decizii de viață și de moarte luate de aparatele inteligente, suntem victimele unei „colonizări” sistematice a umanului de către digital, după cum afirmă Benasayag.

Nu mai putem face nimic pe lume fără să fim supravegheați și ghidați de algoritmi. Știm și acceptă ca algoritmii să ne facă „recomandări”, pe baza informațiilor pe care noi le oferim despre comportamentele noastre. Algoritmii știu ce filme ar trebui să vedem, ce produse ar trebui să cumpărăm, ei ne sugerează ce răspunsuri să dăm la un email și există chiar programe de inteligență artificială care sunt în stare să scrie în locul nostru. Se poate spune că noi suntem de acord cu acest lucru și că am fost de acord cu „condițiile și termenii” de utilizare, dar nimeni nu stă să citează sute de pagini scrise cu litere mici de pe un ecran luminos.

Mai mult, o mare parte din informațiile colectate despre noi sunt date care sunt înregistrate fără a noi să știm. Iar ceea ce nu știm este și mai îngrijorător, pentru că habar nu avem cum influențează algoritmii comportamentul și gândirea noastră. 

Dintr-o perspectivă materialist-dialectică nu putem să nu observăm că transformările condițiilor materiale de viață produc schimbări de esență a viului. Schimbările cantitative, după cum spune teoria clasică marxistă, duce la schimbări calitative. Așadar o revoluție antropologică care transformă sau cel puțin afectează gândirea noastre este inevitabilă. Benasayag compară acest moment cu celelalte două revoluții, care au fost dezvoltarea limbajului și apariția scrisului. Ambele au transformat radical umanitatea. Același lucru îl fac azi algoritmii care, pe măsură ce ne guvernează viețile, schimbă profund ceea ce înțelegem prin umanitate, societate și chiar democrație.

Rolul aparent benign al algoritmilor și al programelor de învățare automată, care extrag date „neimportante” despre noi, cum ar fi tipul de programe de televizor care ne plac, ce mâncare și ce haine comandăm online, ce fel de comportamente erotice preferăm, cum și ce citim, ce muzică ascultăm, la ce oră ne trezim, nu poate să ascundă dimensiunea lor întunecată. Partea întunecată a lumii digitale, cum spune Andrew Weiss (The Dark Side of Our Digital World: And What You Can Do about It), este vizibilă chiar acum, nu este un fenomen al viitorului. Pe măsură ce noi învățăm aceste mașini cum să gândească, la rândul lor algoritmii învață despre noi.

Un exemplu este modul cum platformele de socializare, ca Facebook sau Twitter, recurg la algoritmi pentru a impune așa-numite „reguli ale comunității”, interzicând conturile considerate „dăunătoare”. Algoritmizarea societății aduce cu sine milițienizarea algoritmilor, care au ajuns la un nivel de restricțiilor incredibil. Conform datelor furnizate de Conform raportului de transparență al Google, doar între ianuarie 2021 și iunie 2021 au fost eliminate 9.569.641 de videoclipuri de pe YouTube, 95% dintre acestea fiind eliminate prin semnalare automată. La rândul său raportul Facebook privind aplicarea „standardelor” arată că între ianuarie 2021 și martie 2021, algoritmii au eliminat 9 milioane de conținuturi considerate teroriste și  25,2 milioane de conținuturi considerate „instigatoare la ură”, iar Instagram a eliminat 6,3 milioane de conținuturi de acest tip.

Tendința și mai îngrijorătoare este aceea că, în universul Web 3.0 după cum îl numea creatorul Internetului, Tim Berners-Lee, adică acea o lume în care “app-urile” procesează singure informații și iau decizii, oamenii sunt inferiori algoritmilor. Evident, la această îndobitocire a oamenilor contribuie chiar tehnologiile. Asistăm la apariția lui homo numericus, de fapt a unui nou cretinism digital (La Fabrique du crétin digital. Les dangers des écrans pour nos enfants, 2019) indus de dependența față de computere, ecrane și interfețe. Michel Desmurget arăta cum „generația app” sau „generația touch-screen” nu este mai inteligentă datorită conectivității, ci dimpotrivă tot mai proastă. Studiile demonstrează că, în cazul utilizatorilor de jocuri video, capacitatea de memorare scade cu 47%, iar la utilizatorii de filme și programe de televiziune cu 39%. 

În vreme ce noi devenim tot mai cretini, mașinăriile devin tot mai inteligente. Compania britanică DeepMind a creat programul AlphaGo, primul program de computer care a reușit să învingă un om la jocul de go. Acum tot DeepMind a făcut publică informația că a fost creată prima mașină de calcul capabilă să scrie programe pentru funcționarea altor mașinării. Astfel sistemul numit AlphaCode a reușit să conceapă singur un program pentru computer (software) care să ofere codurile necesare funcționării altui computer. În același timp modul de funcționare al acestor programe de inteligență artificială este opac chiar și pentru cei mai calificați dintre semenii noștri. Algoritmii știu cum funcționează majoritatea oamenilor, dar mare parte a omenirii nu știe cum funcționează un algoritm.

Această evoluție e înspăimântătoare. Deși știam și până acum că algoritmii au un grad de autonomie, azi acceptăm că există mașini care se conduc singure, ceea ce nu știm este că există agenți conversaționali (chatbots) cu care discutăm și interacționăm fără să știm că nu sunt oameni. Spre deosebire de Alexa sau Siri, care sunt niște jucării sonore, acești algoritmi au o putere extraordinară în viețile noastre. Nu e vorba numai de faptul că niște computere culeg informații personale, care pot fi folosite împotriva noastră de către guverne, cum se întâmplă în China. 

Există consecințe bio-politice ale acestei revoluții a algoritmilor. Un exemplu este dat de Microsoft, care a creat un de agent comunicațional numit „Tay”. El a început să genereze mesaje pe Twitter, însă povestea sinistră a lui Tay, algoritmul care învăța din conversațiile oamenilor, este aceea că, pe măsură ce a fost implicit într-o serie de „tweet”-uri rasiste, a devenit el însuși un nazist înrăit. Ultimul mesaj al lui Tay, înainte de a fi șters, a fost: „Hitler a avut dreptate”. Acești algoritmi învață acum cum să se comporte ca niște oameni adevărați, știu să se prefacă rasiști ca să îi convingă pe suprematiștii albi, dar și cum să pară filozofi francezi, ca să îi seducă pe snobi. Algoritmii online sunt atât de puternici încât direcționează zilnic modul cum ne raportăm la semenii noștri, de la artă și literatură, la hrană și sex.

Dacă optimiștii ca Airoldi cred că societatea modelează codurile algoritmice și că această cultură „de cod” ghidează comportamentul practic al codului în cultură, eu sunt pesimist. Nu mai trăim într-o lume lume a oamenilor, prin extinderea algoritmilor care ne controlează viețile am ajuns în zorii unei noi civilizații. Miliardele de sisteme automatizate, de programe de calculator care învață singure, platformele digitale care ne guvernează existența cotidiană. Algoritmii care controlează laptopurile și telefoanele noastre furnizează în mod continuu informații despre noi dobândesc o putere nemaiîntâlnită în istoria umanității. De la  cumpărăturile făcute pe platforma Amazon products, la deciziile de vizionare de pe Netflix, la modul de selecție a muzicii pe Spotify, aceste sisteme automatizate ne construiesc imaginația și ne formatează imaginarul social. 

Acești „boți” care ne ghidează ne transformă pe noi oamenii în „agenți sociali” artificiali care există într-un imaginar algoritmizat. Nicholas Carr se întreba în urmă cu ceva timp dacă nu cumva „Google ne face stupizi”. Răspunsul este că algoritmii de azi ne fac tot mai proști. Lipsiți de dreptul la viață privată, fără libertate de exprimare și fără nicio putere în fața acestor tehnologii, oamenii se atrofiază și devin simple „date”. Trăind ca niște biți de informații în Epoca Mașinilor Inteligente e posibil ca însăși natura oamenilor să fie schimbată. Recent un grup de cercetători (https://journals.plos.org/plosgenetics/article?id=10.1371/journal.pgen.1009303) au anunțată că au creat un algoritm care a generat cod genetic uman sintetic. Așa că nu mai e mult până când inteligența artificială va decide că oamenii sunt prea proști și își va crea o nouă umanitate.