Roboții ucigași și militarizarea algoritmilor

Prea puțină lume știe că, pe 26 septembrie 1983, lumea a fost în pragul cataclismului nuclear. Nu cunoaștem chiar toate detaliile din „cazul Petrov”, dar se pare că sistemul sovietic de alertă anti-rachete nucleare, controlat de computerele aflate în buncărul Serpukhov-15 aflat în afara Moscovei, a „detectat” în mod greșit un atac american cu rachete balistice intercontinentale. După ce computerele au identificat o rachetă, au mai apărut încă cinci, pe care le-a considerat amenințări nuclear. Ofițerul de serviciu era locotenent-colonelul Stanislav Evgrafovici Petrov, care ar fi trebuit să inițieze procedurile de contra-atac nuclear. Cu toate acestea ofițerul Petrov a ezitat, gândindu-se că SUA nu ar fi atacat URSS cu doar cinci rachete, înțelegând că sistemul automat a funcționase defectuos și că rachetele erau doar reflexii solare deasupra norilor pe care senzorii le-au interpretat greșit. Povestea incredibilă este relatată în detaliu de către Peter Anthony într-un film documentar din 2013, Omul care a salvat lumea (The Man Who Saved the World). Aici poate fi văzut tot filmul: https://youtu.be/8TNdihbV5go
Așa cum ne avertiza Stephen Hawking încă din 2014, azi evoluția inteligenței artificiale pune în pericol existența întregii omeniri, în contextul în care asistăm la o nouă cursă a înarmării algoritmice globale.
Pe măsură ce utilizarea inteligenței artificiale s-a extins în aproape toate interacțiunile noastre cotidiene, militarizarea algoritmilor era inevitabilă. În 2021, agenția Națiunilor Unite specializată în zona tehnologiilor comunicării a elaborat un raport (https://www.itu.int/dms_pub/itu-s/opb/gen/S-GEN-UNACT-2021-PDF-E.pdf) cu privire la faptul că tehnologiile avansate sunt tot mai mult utilizate în domeniul sistemelor de arme autonome letale, simplu spus că tot mai multe state cercetează și creează roboți ucigași.
Apariția unor „sisteme de armament autonome și letale” (LAWS), în fond niște „mașini criminale” care folosesc inteligența artificială pentru a identifica și ucide fără intervenție umană, constituie o primejdie îngrozitoare. Unele dintre aceste arme par scoase din filmul Terminator, unde revolta mașinilor inteligente avea loc în 1997. Însă viitorul în care roboții inteligenți luptă împotriva oamenilor este mai aproape decât am putea să credem. 
În 2018 Financial Times a dedicat un număr special (https://www.ft.com/content/21eb5996-89a3-11e8-bf9e-8771d5404543) cursei înarmării cu ajutorul inteligenței artificiale între Statele Unite și China. China investește sume uriașe în tehnologiile bazate pe inteligență artificială, statul fiind susținut de cei trei coloși tehnologici — Alibaba, Baidu și Tencent. Doar conducerea Alibaba a anunțat investiții de 15 miliarde de dolari în cercetarea din domeniul computerelor cuantice și al inteligenței artificiale. În 2017 Partidul Comunist Chinez a stabilit că, până în 2030, Republica populară chineză trebuie să devină lider mondial în inteligența artificială. La al 19-lea Congres al Partidului din octombrie 2017, Xi Jinping trasat directive Armatei de eliberare a poporului pentru a accelera „inteligentizarea militară”, însemnând dezvoltarea militară în zona tehnologiilor avansate.
Pe vremea când era președinte, Trump a lansat American AI Initiative, un proiect prin care toate cercetările în zona inteligenței artificiale urmau să fie coordonate. Generalul de armată Robert Cone, comandantul TRADOC (Training and Doctrine Command), a recunoscut în 2014 că armata americană studiază posibilitatea creării unei armate compuse din roboți și chiar înlocuirea a 25% din soldați cu mașini inteligente.
Fostul Secretar adjunct al Apărării SUA, Robert O. Work, împreună cu Shawn Brimley au redactat un document (20YY: Preparing for War in the Robotic Age (https://s3.us-east-1.amazonaws.com/files.cnas.org/documents/CNAS_20YY_WorkBrimley.pdf?mtime=20160906082222&focal=none) unde susțineau că armata SUA trebuie să se pregătească pentru războiul din „Era robotică”, în contextul unei „revoluții militare” produsă de noile tehnologii care conduc către sisteme militare autonome. Între 2016 și 2020 doar Statele Unite au investit peste 18 miliarde de dolari în aceste noi tipuri de arme „inteligente”.
Și Rusia e implicată în această competiție pentru inteligența artificială (și împotriva inteligenței umane). În 2017 Vladimir Putin a declarat public că inteligenta artificiala reprezenta „viitorul Rusiei și viitorul întregii omeniri” și că aceia care vor ajunge să fie lideri în această zonă, vor fi „conducătorii lumii”. Reprezentatul Ministerului Apărării din Federația Rusă, generalul Gerasimov, a recunoscut de mai mult timp că Rusia face cercetări în zona roboților de luptă, iar producătorii ruși de armament a creat deja roboții Uran-9 și Nerekhta, înarmați cu mitraliere și aruncătoare de grenade. Statele Unite testează diverse vehicule de teren fără operator, cum este M5 Ripsaw creat de Textron Systems, care sunt deja la faza de utilizare în teren. Ca și sistemul robotic Gladiator, considerat primul vehicul terestru tactic fără operator folosit cu scopuri militare, aceste mașinării sunt mici tancuri, înzestrate cu aparatură de supraveghere și cu armament ușor. Acești roboți militari vor evolua în continuare, așa cum s-a întâmplat cu tancul „clasic” care la numai 20 de ani de la prima apariție pe front s-au transformat în cea mai importantă armă din istoria lumii.
Compania israeliană General Robotics a creat un „robot tactic de luptă”, numit DOGO, care este dotat cu un pistol ce poate fi declanșat de la distanță cu ajutorul un program numit „țintește și trage” (point and shoot) ce e utilizat deja în operațiuni militare și anti-teroriste. Firma americană Ghost Robotics a realizat robotul militar numit Vision 60, similar cu varianta „populară” creată de Boston Dynamic, un fel de patruped identificat ca „dronă terestră” și care poate să fie dotat cu o pușcă specială tot fără „pilot”. Robotic Systems Lab din Zürich au dezvoltat un robot similar și se pare că și compania chineză Xiaomi și-a creat propriul Cyberdog.
„Inteligentizarea armamentului” are loc nu doar în cazul armelor terestre, ci și în cazul vehiculelor aeriene. În 2016 cercetătorii de la Universitatea din Cincinnati au anunțat crearea unui program de zbor, numit Alpha, special conceput pentru vehiculele aeriene de luptă fără pilot (Unmanned Combat Aerial Vehicles sau UCAV), antrenat pentru misiuni de luptă aeriană. Când programul a fost folosit în simulatorul de zbor împotriva colonelui (în retragere) Gene Lee, avionul condus de „Alpha” și-a învins adversarul uman. Deja se folosesc armamente aeriene performante, numite muniție flotantă (loitering amunition), în principal drone sinucigașe, din categoria Switchblade cu care SUA au înzestrat recent armata ucraineană. Aceste aparate de zbor relativ simple pot fi controlate de la distanță, dar pot fi și autonome. Armata SUA cercetează acum aparate mult mai complexe, în cadrul proiectului numit „Skyborg”, care să fie dotate cu senzori și conduse de algoritmi. Un astfel de vehicul experimental, numit Kratos XQ-58 Valkyrie este un aparat fără pilot, o dronă furtivă (stealth) bazată pe inteligență artificială. Construită de Kratos, aceste aparate fără pilot sunt numite „pilot de aripă loială” (loyal wingman), pentru că ajută misiunile de zbor ale avioanelor tradiționale.
Deși toată lumea a auzit deja de celebrele drone turcești Bayraktar, Turcia produce și alte tipuri de aparate autonome aeriene, cum este STM Kargu-2 programată să ucidă fără operator uman și care a fost utilizată deja în conflictul din Libia. Turcii experimentează însă și cu tehnologii de tip „roi” (swarm) sau programe de învățare automată (machine learning), „algoritmii roi” fiind construiți după modelul din lumea naturală sunt capabili de adaptare și optimizare inteligentă. Pentru a contracara dronele diverse armate au dezvoltat alte arme autonome, cum este sistemul RB109-A Bylina folosit de ruși în Ucraina și care folosește algoritmii pentru a distruge alte aparate ghidate de alți algoritmi.  

După cum arată cartea lui Nik Hynek și Anzhelika Solovyeva (Militarizing Artificial Intelligence: Theory, Technology, And Regulation-Routledge. Taylor & Francis, 2021) riscurile introducerii inteligenței artificiale la nivel militar și a diverselor sisteme de arme autonome letale introduse pe câmpul de luptă ridică multiple întrebări juridice, etice și filozofice. Arsenalizarea algoritmilor (weaponization of AI) a extins utilizarea inteligenței artificiale în sistemele militare dincolo de procesele elementare. Participarea algoritmilor la luarea deciziilor, la operațiuni cibernetice și chiar la comanda și controlul asupra armamentului nuclear, unele state testând chiar utilizarea de drone înarmate cu arme nucleare, face ca însăși natura războiului să se schimbe, traseu ducându-ne către un tip de „hiper-război” (un război cu instrumente cibernetice). Sistemele automate pot să facă simulări complexe de luptă, prin care să anticipeze toate posibilele rezultate ale unui conflict militar. Această transformare va schimba întreaga filosofie a războiului, de la distribuirea de resurse la gestionarea operațiunilor specifice războiului, dar mai ales influențarea proceselor decizionale sau derularea unor operațiuni militare conduse de către aceste mașini „gânditoare”.
Marea problemă rămâne aceea că armele dobândesc capacitatea de a identifica și de a decide să atace o țintă umană sau non-umană fără implicare unui om. Există multe inițiative menite să restrângă utilizarea acestor sisteme de armament autonom și care luptă împotriva dezumanizării digitale prin care trec aceste arme. Cea mai importantă este coaliția „Opriți roboții ucigași” (Stop Killer Robots, https://www.stopkillerrobots.org/), care a lansat o campanie internațională prin care încearcă să impună o legislație ONU prin care aceste mașinării să fie interzise în toată lumea.
Înainte ca evoluția acestor tehnologii să ne ducă în scenariul din Terminatorul, ar fi bine să împiedicăm această noua cursă a înarmării algoritmice. Din păcate în 2021 reprezentanții Națiunilor Unite, reuniți la Geneva, nu au reușit să ajungă la un consens cu privire la legislația care să împiedice dezvoltarea roboților ucigași, printre țările care s-au opus fiind Statele Unite și Rusia. Astăzi, în războiul din Ucraina, vedem cumplitele efecte ale acestor arme dar și faptul că, datorită succesului înregistrat, ele continuă să prolifereze.