Viitorul a început ieri

În aprilie 2022 UNESCO a adoptat primul ghid de standarde globale privind etica utilizării inteligenței artificiale (https://unesdoc.unesco.org/ark:/48223/pf0000381137) și tot mai mulți teoreticieni avansează ideea de „inteligență artificială responsabilă”, argumentând importanța de a avea un control etic asupra intervenției tehnologiilor inteligente în viețile noastre. În 2021 Comisia Europeană a propus spre dezbatere Legea Inteligenței Artificiale (Artificial Intelligence Act) încercând să prevină riscurile etice și pericolele pe care aceste programe inteligente le reprezintă pentru democrație și umanitate.
Deși pare scoasă din filmele SF, influența inteligenței artificiale este pretutindeni, de la cele mai simple aplicații de pe telefoanele noastre, până la drone și mașini autonome. Inteligența artificială este prezentă în viețile oamenilor, pe măsură ce tot mai multe companii folosesc programe de inteligență artificială pentru a angaja muncitori, multe bănci au automatizat analiza de risc, așa că acordă credite în funcție de deciziile unor algoritmi și există chiar unele țări, cum este Estonia, unde inteligența artificială e utilizată în sistemele judiciare. Dacă un  program inteligent poate să evalueze cazurile simple și poate da sentințe mai rapid și mai eficient decât un judecător „uman”, atunci pare că omenirea merge pe un drum bun.

Unii autori alarmiști, cum este James Barrat (Our Final Invention: Artificial Intelligence and the End of the Human Era, 2013), consideră că aceste tendințe din dezvoltarea inteligenței artificiale reprezintă o amenințare la adresa umanității. Alții sunt mai optimiști, cum este Gerd Gigerenzer psiholog la Institutul Max Planck (How to Stay Smart in a Smart World). Gigerenzer e convins că tehnologiile bazate pe algoritmi nu vor putea niciodată să ne înlocuiască, pentru că mașinile inteligente nu vor avea niciodată „bun simț”.

Kate Crawford, profesor la USC Annenberg din Los Angeles și cercetător la Microsoft Research, susține că aceste tehnologii trebuie înțelese ca instrumente ale creatorilor lor, produse ale capitalismului contemporan și manifestări ale dominației și ale exploatării naturii (și a semenilor) de către elitele economice. Suntem sub controlul algoritmic al unor mari corporații mondiale, fie că le numim FAANG (Facebook, Apple, Amazon, Netflix, Google) sau FAMGA (Facebook, Apple, Microsoft, Google, Amazon), platformele digitale ale lumii funcționează ca niște monopoluri sau oligopoluri.

Crawford face un „Atlas” al inteligenței artificiale (Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, 2021), de fapt o istorie a acestor forme de gândire non-umană, care începe cu celebrul Hans, calul din Berlin care știa să răspundă la orice întrebare și care făcea inclusiv adunări și scăderi și ajunge la programele de azi care înving oamenii la jocuri de inteligență. De altfel, încă din anii 50 politologul Herbert Simon, unul dintre inventatorii inteligenței artificiale, a susținut că, atunci când mașinile inteligente vor reuși să învingă un om la șah, vor deveni autonome. În 1997 campionul mondial Garry Kasparov a fost învins de computerul Deep Blue și omenirea a intrat într-o nouă epocă.

Crawford folosește o metaforă cartografică, înțelegând atlasul ca pe o formă de vizualizare care, aidoma hărților medievale (mappae mundi) devin expresii vizibile și concrete ale înțelegerii (și neînțelegerii) noastre despre lume. Autoarea pornește de la afirmația provocatoare, că inteligența artificială nu este nici inteligentă, nici artificială. De fapt acești algoritmi „inteligenți” nu sunt autonomi, existența lor depinde de factori materiali (minerale rare, energie electrică), dar și politici (prejudecățile programatorilor). În plus, ținând cont de costurile enorme ale acestor programe „inteligente”, ele nu sunt rezultatul unor tehnologii „independente”, ci produsul unor instituții și infrastructuri care deservesc interese politice și sociale. În fond sunt expresia unui noi „imperiu al inteligenței artificiale”.

De la programul inteligent numit ELIZA, un fel de chatbot care conversa cu creatorul său Joseph Weizenbaum, la aplicațiile contemporane numite „asistenți virtuali”, tot mai mulți algoritmi inteligenți interacționează cu oamenii, iar evoluția lor este spectaculoasă. În 2021 Curtea Federală din Australia a decis chiar că un sistem de inteligență artificială poate să dețină un brevet și să fie declarat „inventator non-uman”, iar același lucru este acceptat în Africa de Sud.

Conform unor previziuni ale Forumului Economic Mondial din 2018, inteligența artificială va ajunge să producă primele melodii pop care vor intra din Top 40 până în 2027 și vor genera videoclipuri creative până în 2028. Evenimentul care va marca definitiv evoluția acestora se va produce în 2049, când un astfel de program va scrie un bestseller care va intra pe lista New York. Deja există Sensorium sau Mubert, programe automate care generează muzică, iar platforme inteligente gratuite, cum ar fi AI Art Generator pot deja produce artă.

Tendințele sunt, însă, periculoase atunci când transferăm inteligenței artificiale decizii importante pentru umanitate. În 2018 directorul de studii al Institutului Sapiens, Erwann Tison, a publicat un manifest în revista „Les Echos”, unde propunea să oferim Inteligenței artificiale întreaga conducere politică și economică a societății umane. Argumentul său „de bun simț” era acela că un computer supra-inteligent ar putea să ia decizii mai bune decât oamenii. Consecințele posibile ale unei astfel de tranziții sunt descrise perfect de Ira Lewin, autorul celebrului Rosemary’s Baby, care a scris „O fericire insuportabilă” (folosesc titlul din franceză, care e mai sugestiv, în original cartea se numea This Perfect Day).

Acest moment nu este departe pentru că la alegerile locale din 2018 pentru primăria localității Tama din Japonia,  a candidat și Michihito Matsuda, care era un robot înzestrat cu inteligență artificială, iar 9% dintre alegători l-au votat! Convinși de sloganul: „Inteligența artificială va transforma orașul Tama”, o parte dintre cetățenii japonezi au fost dispuși să fie conduși de o mașinărie inteligentă. Pericolul decurge din faptul că, așa cum arată un studiu din 2015 realizat de Michal Kosinski, cercetător la Stanford University, algoritmii sunt deja în stare să ne cunoască preferințele și să ne înțeleagă deciziile mai bine decât noi înșine. Doar analizând 10 „like-uri” de pe Facebook. Când programul primește informații despre 150 de Like-uri”, computerul ne cunoaște mai bine decât membrii familiei apropiate, iar după 300 de „Like-uri”, mașina gânditoare ne cunoaște mai bine decât partenerii de viață.

Așa cum arată Marianne Elliott, coordonatoarea proiectului intitulat „Digital Democracy” (https://www.digitaldemocracy.nz), există astăzi trei amenințări majore ale acestor programe de inteligență artificială. Prima este dată de monopolurile platformelor, pentru că un grup restrâns de oameni controlează interacțiunile a milioane de semeni ai lor; a doua este opacitatea algoritmică, pentru că algoritmii care au o putere tot mai mare asupra noastră nu sunt utilizați în mod transparent sau responsabil; și apariția unei economii a atenției, în care oamenii consideră că cele mai importante informații sunt cele care ne atrag atenția, indiferent dacă ele sunt pozitive ori necesare. 

În mod evident trebuie să introducem un set de „coduri morale” în modul de funcționare al acestor tehnologii? Ele nu trebuie să fie ca „legile roboticii” inventate de Isaac Asimov, dar, așa cum sugerează Michael Kearns și Aaron Roth, soluția sunt algoritmii etici (The Ethical Algorithm: The Science of Socially Aware Algorithm Design, 2019). În dezvoltarea și aplicarea algoritmilor în interacțiunile cu oamenii ar trebui să existe un control moral, numai că aceste lecții de etică sunt aproape imposibil de aplicat mașinăriilor inteligente, deoarece devin forme de abuz. Și, așa cum s-a văzut din scandalul Cambridge Analytica, degeaba algoritmii sunt „etici”, dacă oamenii care îi folosesc sunt lipsiți de scrupule și veroși.