Shqipëria në kërkim të algoritmit të drejtësisë

Menstruacioni, Diella dhe paragjykimi i pagabueshmërisë

1.
Ky rrëfim fillon me një aplikacion britanik, të cilin e shfrytëzojnë gratë për të mbajtur evidencë rreth ciklit të tyre menstrual. Shfrytëzueseve aplikacioni u ka shërbyer për të regjistruar rregullsinë e ciklit, shkarjet eventuale dhe, në instancë të fundit, vonesën domethënëse të tij. Aplikacioni, si edhe shumë të tjera që ofrojnë shërbime nga më të ndryshmet (evidencë të lëvizjeve në peshë, matës hapash gjatë ditës, regjistruesi i ushqimit e kështu me radhë) janë falas. Por, në momentin e shkarkimit dhe fillimit të vënies në funksion, përdoruesi pajtohet me pronarin e aplikacionit se do t’i japë atij shënimet e mbledhura në aplikacion dhe se pronari i aplikacionit ka të drejtë që ato shënime t’ua japë palëve të treta në formë diskrete. Ky formulim i “diskrecionit” do të thotë se pronari i aplikacionit për ciklin menstrual ka të drejtë që të shesë informatat e mbledhura në aplikacion, por pa iu referuar me emër personit që i ka krijuar ato të dhëna.

Dhe, të marrim dy blerës të këtyre të dhënave. 

I pari është një kompani e cila prodhon reklama të dizajnuara personale për media sociale. Kësaj kompanie i hyjnë shumë në punë shënimet e grave në moshë pjellore, të cilave u del se u është vonuar cikli menstrual për aq sa të jetë indikator i shtatzënisë. Me këto shënime, kompania fillon të drejtojë fushatë algoritmike, që kësaj apo asaj gruaje i duket krejtësisht e personalizuar: kur e hap Facebookun apo ndonjë faqe interneti i dalin reklamat për rrobat për bebe, kremra për të porsalindurit, pelena e të ngjashme. 

Blerësi i dytë është organizata që përcjell klinikat e abortit në SHBA, shumë prej tyre të konsideruara jolegale ose jolegjitime. Duke kombinuar shënimin për vonesën indikative në cikël menstrual me shënimet e tjera, si për shembull vendndodhjen kur hap aplikacionin e motit apo të atij të ecjes për të mbajtur ritmin e 10 mijë hapash në ditë, mund të ngushtohet bukur afër rrethi i shfrytëzueseve potenciale të klinikave të abortit.

2.
“Sundimi i algoritmit” është titulli i librit prej nga nxora shembullin e aplikacionit për ciklin menstrual, si njërin prej shembujve të një ndryshimi dramatik nëpër të cilin po kalojmë e që autorët përpiqen ta shpjegojnë me termin e ri sociologjik “algokraci”. Me algokraci pak a shumë nënkuptohet kalimi prej një sistemi sundim- menaxhimi, në të cilin burokracia - të gjithë ata zyrtarë të shtetit nga sporteli e deri te ministri - që duhet ta zbatojnë sistemin demokratik të bazuar në ligj kalon në sundim të algoritmit. Kjo, në formë vizuale do të thotë se një vendim që duhet të marrë verifikimin dhe pëlqimin e një zinxhiri prej të themi dhjetë zyrtarësh nivele të ndryshme, merret nga një program i koduar i inteligjencës artificiale.

Algokracia u mbështet thelbësisht në idenë se ashtu si mund të shfrytëzohet algoritmi i mbledhjes së shënimeve nga aplikacioni i menstruacionit për të përfituar në reklamë të drejtpërdrejtë (a ndjekje grash që duan të abortojnë)  ashtu do të kemi algoritmin që do të na i zgjidhë problemet e përditshme në qytet a shtet. Në Evropë, që tani po merren shembujt dhe pasojat negative të këtij sistemi të ri dhe rasti i shkollave në Gotheborg të Suedisë, shërbeu si shkas për këtë libër. Aty administrata përdori inteligjencën artificiale për të përcaktuar se cili fëmijë, në cilën shkollë do të shkonte (duke besuar se kështu do të tejkalohen ndikimi njerëzor dhe krijimi i pabarazisë së fëmijëve) dhe për disa vite kjo krijoi një rrëmujë kur algoritmet kishin krijuar me “vullnet” të vetin një sistem që shpërndante fëmijët jashtë zonave ku banonin.

Në formë edhe më vizuale ideja dhe dilemat e algokracisë u shfaqën në momentin kur kryeministri Rama prezantoi ministren e re të qeverisë së tij, ministren Diella, me portofolin e inteligjencës artificiale. Nuk është se ekziston ndonjë qartësi për këtë portofol - inteligjenca artificiale është fushë e cila nuk mund të përcaktohet, si p.sh ministritë tradicionale si kultura apo punët e jashtme - por edhe më shumë se kaq nuk ekziston mundësia e përcaktimit të një resori që quhet inteligjenca artificiale, sepse kemi të bëjmë me makina (sisteme përllogaritjeje) që shërbejnë në lidhje horizontale. Çdo dikaster veç e veç dhe brenda tij çdo segment administrativ do të përdorë inteligjencën artificiale dhe jo anasjelltas, pra që çdo segment administrativ dhe çdo dikaster të jenë të lidhura që t’i shërbejnë ministres Diella.

3.
Mbase Diella si ministre përmbledh shumë nga dilemat e sotme evropiane me algokracinë.

Kryeministri Rama, në të shpjeguar nevojën për ministren Diella, tha se nëpërmjet të saj do të kalojnë të gjitha dokumentet e prokurimit publik, që do të duhej të ishte një lloj garancie për transparencë dhe paanshmëri, rrjedhimisht do të ishte zgjedhja për problemin e endemisë korruptuese. Disa muaj më parë kryeministri u shpreh se edhe inteligjenca artificiale do të zgjidhte një pjesë të problemeve në integrimet evropiane të vendit, ngase do ta bënte përkthimin e menjëhershëm të dokumentacionit ekstensiv të Bashkimit Evropian.

Në gjuhën e sundimit algoritmik ky quhet “machine bias”, gjegjësisht “paragjykim algoritmik”, pra besimi se një makinë llogaritëse do të krijojë një rezultat të drejtë administrativ për faktin se nuk ka anshmëri njerëzore, vese, paragjykime e interesa të ulëta të integruara në vendimmarrje. Rrjedhimisht, nëse ia jep Diellës të gjitha dokumentet e prokurimit të parasë publike së bashku me të gjitha dokumentet relevante në procesin negociator me BE-në, makina llogaritëse do të nxjerrë rezultat të pagabueshëm, gjegjësisht rezultat sipëror ndaj atij që mund të nxjerrë gabueshmëria njerëzore.
Dhe këtu prej studentëve të informatikës, analistët e sigurisë, akademikët që studiojnë ndryshimet dramatike në sistemet demokratike e deri te hartuesit e ligjeve të reja evropiane bëjnë dallimin thelbësor: përderisa burokracia në sistem demokratik është një sistem i mbikëqyrur njerëzor me rregulla të parashikueshme, algoritmi me të cilin Diella bëhet sundimtare nuk është objekt i diskutimit publik, nuk votohet në Parlament dhe nuk mbikëqyret nga kush.

Për më tepër, ministrja Diella, në momentin kur fillon të administrojë të dhënat që i japin dikasteret e tjera të qeverisë, të dhëna që janë pronë e qytetarëve shqiptarë, i proceson ato me kompani të madhe botërore, në serverët e tyre, me sistemet e tyre informative, duke bartur kështu një pjesë të sovranitetit të vendit te kompani private që nuk iu nënshtrohen ligjeve të Shqipërisë e madje praktikisht nuk i nënshtrohen ndonjë ligji relevant, sepse të këtilla nuk ekzistojnë ende.

4.
Prej formimit të Qeverisë së re të vendit, Shqipëria mori vëmendjen me ministren Diella e javëve të fundit me ministren Balluku, të akuzuar nga SPAK-u për një numër aferash korruptuese. Në një formë paradoksale, rastet Diella dhe Balluku afrohen në disa pika. Diella ishte një premtim jetëshkurtër se teknologjia alogritmike do të ndërpriste korrupsionin dhe rasti Balluku, nëse vërtetohet, do të tregojë se problemi i korrupsionit në vend nuk është kapaciteti teknologjik i përpunimit të të dhënave, por kultura politike që qëndron prapa këtij kapaciteti. Diella dhe një ministre e Qeverisë kanë të përbashkët të njëjtën gjë: kapacitetin për të përpunuar të dhënat - tenderët, aplikacionet për grante, vendimet për koncesione - dhe mund të prodhojnë rezultatin që duan. Në rastin Diella kjo bëhet me algoritmin, në rastin e z.Ballukut (me supozimin e përcaktimit të fajësisë) kjo bëhet me ndikimin interaktiv njerëzor në procesin e vendimmarrjes. Në që të dyja rastet, qytetari mbetet i përjashtuar prej vendimmarrjes: në rastin Diella algoritmi me të cilin ushqehet operacioni i ministres nuk do të kalojë me pëlqim e mbikëqyrje parlamentare, në të dytin veprimet e supozuara të ministres apo të vartësve të saj do të kalojnë të papenguara në tërë zinxhirin e vendimmarrjes. 

Ky kontrast midis premtimit të Diellës, si algoritëm i drejtësisë dhe praktikës së Ballukut, si shembull i korrupsionit të vjetër shqiptar, na zbulon të vërtetën më të thjeshtë dhe më të hidhur: asnjë makinë nuk e ndal korrupsionin, sepse korrupsioni nuk është defekt teknik; është defekt politik. 

Por, nëse vërtetohen akuzat ndaj z.Balluku, do të ishte interesant hulumtimi i përgjigjes për pyetjen se çfarë do të ishte natyra e korrupsionit nëse sistemi i deritanishëm i kleptokracisë do të fitonte kapacitetin e përpunimit të të dhënave të algokracisë së z.Diella?