Kujdes nga qeverisja me IA

Në fillim të këtij muaji, Emiratet e Bashkuara Arabe njoftuan një plan për të kaluar gjysmën e shërbimeve qeveritare në inteligjencë artificiale agjentike brenda dy viteve të ardhshme.

Sipas këtij skeme, IA pritet të shërbejë si një “partner ekzekutiv” që “analizon, vendos, zbaton dhe përmirëson në kohë reale”, pa ndërhyrje njerëzore. Duke qenë se kemi punuar gjatë karrierës sonë në ndërthurjen mes sipërmarrjes, kërkimit dhe politikave digjitale, mund të themi me bindje se ky plan është i pamatur.

Dhe, duke qenë se Emiratet e Bashkuara Arabe paraqiten si model global digjital, edhe qeveri të tjera do të ndihen nën presion për t’i ndjekur.

Ky është një rrezik që nuk duhet injoruar. Ne tashmë e dimë çfarë ndodh kur qeveritë ia delegojnë vendimmarrjen algoritmeve. Në vitin 2021, një sistem vetë-mësues në Holandë akuzoi gabimisht rreth 35,000 familje për mashtrim me përfitimet e kujdesit për fëmijët. Prindërve iu kërkua të kthenin dhjetëra mijëra euro që nuk i detyroheshin; u humbën shtëpi dhe më shumë se 2,000 fëmijë u vendosën nën kujdesin e shtetit.

Ky rezultat ishte, në fakt, i ngulitur në vetë dizajnin e sistemit. Shtetësia e dyfishtë dhe emrat me tingull të huaj ishin shënuar si faktorë rreziku, duke futur diskriminim të paligjshëm drejtpërdrejt në model. Rezultati ishte një skandal kombëtar që përfundimisht çoi në dorëheqjen e qeverisë së atëhershme të kryeministrit Mark Rutte.

Një dinamikë e ngjashme u shfaq në Australi. Midis viteve 2015 dhe 2019, skema “Robodebt” ndoqi 433,000 përfitues të ndihmës sociale për 1.7 miliardë dollarë australianë (1.2 miliardë dollarë amerikanë) borxhe të supozuara të paligjshme. Dëmi ishte i thellë, me nëna që dëshmuan se djemtë e tyre u vetëvranë pas marrjes së njoftimeve për borxhe që nuk kishin asnjë mënyrë reale për t’i kundërshtuar. Një Komision Mbretëror më vonë e cilësoi programin si “as të drejtë dhe as të ligjshëm”.

Në Shtetet e Bashkuara, ndërkohë, Arkansas dhe Idaho zëvendësuan infermierët me algoritme për të vlerësuar përshtatshmërinë dhe nivelin e kujdesit në shtëpi. Personave me paralizë cerebrale, kuadriplegji dhe sklerozë të shumëfishtë iu ul ndihma me 20–50% brenda natës. Gjykatat më pas urdhëruan ndalimin e këtyre sistemeve, por jo përpara se dëmi të ishte bërë. Disa pacientë mbetën pa kujdes të mjaftueshëm, duke çuar në komplikime të parandalueshme mjekësore.

Secili prej këtyre rasteve përfshinte vetëm një sistem brenda një agjencie të vetme. Tani imagjinoni sisteme të tilla duke menaxhuar gjysmën e të gjitha shërbimeve qeveritare, siç parashikon plani i Emirateve të Bashkuara Arabe.

Për shembull, një nënë beqare që humb përfitimet e kujdesit për fëmijën pasi një agjent IA sinjalizon aktivitetin e saj bankar, duke u përballur me një proces ankimimi që kalon nga një sistem i automatizuar në tjetrin, pa asnjë kontakt njerëzor, pikërisht kur duhet të paguajë qiranë. Ose një punëtor emigrant, të cilit i refuzohet rinovimi i lejes së qëndrimit sepse sistemi nuk arrin të interpretojë saktë dokumentet e punëdhënësit, duke e lënë në një situatë të pasigurt ligjore. Ose një vejushë e moshuar, pensioni i së cilës pezullohet për shkak të mospërputhjeve mes bazave të të dhënave, të cilat ajo nuk ka as mjetet dhe as aftësinë për t’i kuptuar.

Këto nuk janë hipoteza. Janë modele të dokumentuara që inteligjenca artificiale agjentike i përforcon në mënyra që asnjë program trajnimi nuk mund t’i adresojë brenda afatit dyvjeçar të Emirateve të Bashkuara Arabe.

Tre rreziqe kryesore bien në sy. I pari është shkalla: kur një punonjës social gabon, dëmtohet një person; kur gabon një agjent IA, mund të preken mijëra persona përpara se dikush ta vërë re.

Më pas është opaciteti i vendimmarrjes së inteligjencës artificiale. Duke qenë se sistemet agjentike marrin vendime në zinxhir, ku çdo hap ndërtohet mbi të mëparshmin, gjurma shkak-pasojë humbet praktikisht deri në momentin kur dëmi bëhet i dukshëm. Sistemi i përfitimeve shëndetësore në Arkansas ofron një shembull të qartë. Askush – madje as krijuesit e tij – nuk mund ta shpjegonte plotësisht se si funksiononte, gjë që bëri që një gjykatë federale ta përshkruante si “krejtësisht irracional”. Për më tepër, mungesa e transparencës mund të jetë e qëllimshme, e mbrojtur nga sekrete tregtare ose korniza pronësore që qëndrojnë pas algoritmeve.

Së fundi, sistemet e inteligjencës artificiale e përmbysin barrën e provës, duke i detyruar qytetarët të provojnë pafajësinë e tyre në vend që shteti të justifikojë veprimet e veta. Siç treguan skandali i përfitimeve për fëmijë në Holandë dhe skema “Robodebt” në Australi, më të prekurit janë ata që kanë më pak mundësi për ta bërë këtë – njerëzit me kohë të kufizuar, të ardhura të ulëta, aftësi të kufizuara gjuhësore dhe qasje të kufizuar në ndihmë ligjore.

Emiratet e Bashkuara Arabe pretendojnë se parimi udhëheqës i programit të tyre të inteligjencës artificiale është “njerëzit vijnë të parët”. Por dizajni sugjeron të kundërtën. Një qeveri që i vlerëson ministritë sipas “shpejtësisë së adoptimit” dhe “zotërimit të IA” nuk po mat atë që ka rëndësi, por po riprodhon të njëjtën logjikë efiçience që tashmë ka shkaktuar dëme të mëdha në mbarë botën.

Shpejtësia e adoptimit është një metrikë e shitësve të teknologjisë. Por përgjegjësia thelbësore e një qeverie është detyra e kujdesit, e bazuar në gjykimin njerëzor.

Kjo përputhet me pritshmëritë e qytetarëve që qeveria të jetë e përgjegjshme dhe transparente, si dhe të shpjegojë vendimet që ndikojnë mbi të drejtat dhe liritë e tyre. Kur qeveritë përqafojnë me entuziazëm vendimmarrjen autonome në emër të efikasitetit, ato, në fakt, po heqin dorë nga kjo përgjegjshmëri.

Çdo skandal i lidhur me algoritme në vitet e fundit ka ngritur të njëjtat pyetje themelore: Kush është në kontroll dhe kush e mori vendimin? Në një qeveri të drejtuar nga inteligjenca artificiale agjentike, këto pyetje nuk kanë më përgjigje të qarta. Sistemi vendos, vetëpërditësohet dhe ecën përpara, duke i lënë qytetarët pa asnjë mjet ankimi kur gjërat shkojnë keq.

Me ardhjen e IA-së, përgjegjshmëria demokratike nuk gërryhet përmes një marrjeje të hapur të pushtetit, por përmes një sërë vendimesh prokurimi që zhvendosin në heshtje mbikëqyrjen njerëzore. Duke minuar besimin në institucione në një kohë kur ai është tashmë në nivele të rrezikshme, këto sisteme në fund i shërbejnë interesave të gjigantëve teknologjikë që drejtojnë revolucionin e IA-së.

Por nuk ka pse të jetë kështu. Emiratet e Bashkuara Arabe kanë burimet, talentin dhe stabilitetin politik të nevojshëm për të ndërtuar një qeverisje digjitale vërtet të përqendruar te njeriu, e cila mund të vendosë një standard global duke e shtuar, jo zëvendësuar, vendimmarrjen njerëzore.

Kostot e një dështimi në këtë drejtim nuk do të kufizohen brenda Emirateve. Ato do të bien mbi një nënë beqare në një vend tjetër, së cilës përfitimet i ndërpriten nga një algoritëm për të cilin ajo nuk ka dëgjuar kurrë, dhe mbi shumë të tjerë si ajo në mbarë botën.

—–

Autorë të këtij shkrimi janë Gabriela Ramos dhe Emilija Stojmenova nga Project Syndicate