'Diella' bëhet temë globale, Forbes: Ministrja e AI, një provë e botës reale për automatizimin e qeverisjes

Shqipëria prezantoi një sistem të inteligjencës artificiale muajin e kaluar për të shërbyer si ministër në qeveri, një zhvillim i parë i këtij lloji nga një shtet kombëtar. Lajmi erdhi si një tronditje, madje edhe për shumë nga ata që kanë qenë vëzhgues të zellshëm në industrinë e inteligjencës artificiale gjatë tre viteve të fundit.

Shqipëria prezantoi një sistem të inteligjencës artificiale muajin e kaluar për të shërbyer si ministër në qeveri, një zhvillim i parë i këtij lloji nga një shtet kombëtar. Lajmi erdhi si një tronditje, madje edhe për shumë nga ata që kanë qenë vëzhgues të zellshëm në industrinë e inteligjencës artificiale gjatë tre viteve të fundit. Shqipëria, një komb ballkanik me 2.8 milionë banorë, tha se figura virtuale Diella, një sistem i inteligjencës artificiale që filloi vitin duke ndihmuar individët me dokumentacionin dixhital, do të promovohej në një pozicion në nivel kabineti për të menaxhuar prokurimin publik.

Qeveria e paraqiti atë si një sistem softuerik që do të vlerësonte tenderët vetëm në bazë të meritës, pa ryshfete, favore apo frikë. Në varësi të asaj se kë pyet, është ose një risi botërore në luftën kundër korrupsionit ose një eksperiment i rrezikshëm i mbështjellë me teatër politik. Sidoqoftë, është i vërtetë dhe i drejtpërdrejtë.

Çfarë ndryshoi në të vërtetë dhe çfarë jo

Diella nuk është ministre e financave. Është një “ministre” virtuale e fokusuar në prokurimin publik, sistemi që përcakton se kush fiton kontratat qeveritare. Roli bazohet në funksionin e mëparshëm të Diellës si asistente e qeverisjes elektronike , i cili tani është zgjeruar në vendime që kanë pasoja serioze financiare dhe politike.

Reuters , The Guardian dhe media të tjera raportuan se IA do të marrë gradualisht përgjegjësinë për dhënien e tenderëve, me qëllim uljen e ndikimit njerëzor në një proces që shpesh lidhet me favorizime.

Megjithatë, ajo që mbetet e paqartë është se si do të funksionojë kjo në të vërtetë. Kur një ofertues humbës kundërshton një çmim, kush është përgjegjës - kryeministri, një zyrtar mbikëqyrës njerëzor, shitësi pas modelit apo askush? Deri më tani, qeveria shqiptare nuk e ka shpjeguar plotësisht se si do të trajtohet llogaridhënia.

Është gjithashtu e rëndësishme të jemi të qartë se çfarë është në të vërtetë Diella dhe çfarë nuk është. Ndërsa qeveria e Shqipërisë mund ta përshkruajë sistemin e inteligjencës artificiale si të drejtë dhe efikas, njerëzit prapëseprapë vendosin se cilat të dhëna përdor dhe si i merr vendimet. Sepse edhe pse një sistem i inteligjencës artificiale nuk mund të pranojë ryshfet, njerëzit prapëseprapë mund të ndikojnë në rezultatet e tij. Pra, nëse sistemi është i besueshëm varet nga mënyra se si menaxhohet, jo nga vetë teknologjia.

Pse Prokurimi Publik?

Prokurimi publik është vendi ku vendimet qeveritare përputhen drejtpërdrejt me shpenzimet. Globalisht, ai përfshin triliona dollarë çdo vit dhe shpesh përbën një pjesë të madhe të buxheteve kombëtare. Për vendet që përpiqen të rrisin ekonomitë e tyre, të zvogëlojnë mbeturinat dhe të ndërtojnë besim me investitorët ose partnerët rajonalë, rregullimi i mënyrës se si menaxhohen tenderët mund të japë rezultate të shpejta dhe të dukshme. Kjo është arsyeja pse roli i ri i Diellës ka rëndësi. Ai synon një nga fushat e pakta që mund të ndryshojnë vërtet mënyrën se si funksionon një qeveri.

Siç e tha Tech Policy Press , “prokurimi luan një rol të fuqishëm në formësimin e vendimeve kritike në lidhje me IA-në. Në mungesë të rregullimit federal të shitësve të IA-së, prokurimi mbetet një nga të paktat leva që qeveritë kanë për të nxitur vlerat publike, të tilla si siguria, mosdiskriminimi, privatësia dhe llogaridhënia.”

Është një pikë që vlen kudo. Qoftë në SHBA, Evropë apo Shqipëri, qeveritë që blejnë, ndërtojnë ose vendosin sisteme të inteligjencës artificiale kanë të njëjtën detyrë për të vendosur standarde të qarta dhe për të mbrojtur interesin publik.

Koha e zgjedhur për Shqipërinë nuk ishte e rastësishme, pasi vendi dëshiron të anëtarësohet në Bashkimin Evropian. Akti i BE-së për IA- në hyri në fuqi për modelet e IA-së me qëllim të përgjithshëm në gusht dhe detyrimet e reja tashmë kanë filluar të formësojnë mënyrën se si qeveritë evropiane projektojnë dhe vendosin sistemet e IA-së, me kërkesa më të detajuara që do të pasojnë gjatë dy viteve të ardhshme.

Përafrimi i sistemit të prokurimit të Shqipërisë me standardet e BE-së nuk ka të bëjë vetëm me reformën e brendshme — është edhe një mesazh politik. Dhe nëse Diella përdor ose lidhet me modele të inteligjencës artificiale për qëllime të përgjithshme, ajo do të duhet të përmbushë pritjet e BE-së për transparencë, dokumentim dhe siguri, pavarësisht nëse Shqipëria është anëtare apo jo.

Pikat e Verbëra

Dy gjëra mund të jenë të vërteta njëherësh: Prokurimi algoritmik mund të zvogëlojë abuzime të caktuara, dhe gjithashtu mund të sjellë të reja. Rreziku i vërtetë nuk është vetë algoritmi, por sistemi që e rrethon atë. Nëse stafi qeveritar ose shitësit mund të rregullojnë në heshtje mënyrën e vlerësimit të ofertave, ose nëse të dhënat e përdorura për të trajnuar IA-në tashmë kanë paragjykime, procesi nuk do të jetë më i drejtë - ai thjesht do të fshehë të njëjtat probleme të vjetra pas një perdeje dixhitale.

Kjo është arsyeja pse fokusi i vërtetë duhet të jetë në mënyrën se si qeveriset sistemi. Duhet të ketë rishikime të pavarura, të dhëna transparente që nuk mund të ndryshohen në fshehtësi, dokumentacion të qartë se si funksionon inteligjenca artificiale, mënyra të drejta për ofertuesit për të sfiduar vendimet dhe raporte publike mbi mënyrën se si funksionon sistemi. Këto janë elementë thelbësorë që rrisin besueshmërinë e procesit.

Ekziston gjithashtu një këndvështrim demokratik që është i lehtë për t’u anashkaluar mes gjithë kësaj entuziazmi. Siç paralajmëroi në maj Instituti i Shkencës së të Dhënave i Universitetit të Kolumbias , “Sigurimi që projektimi dhe përdorimi i këtyre mjeteve pasqyrojnë vlerat e qytetarëve dhe interesin publik është jetik për ruajtjen e legjitimitetit dhe llogaridhënies demokratike.” Vendimet e prokurimit përcaktojnë se kush ndërton rrugë, spitale dhe shkolla. Nëse qytetarët nuk i kuptojnë rregullat ose nuk mund t’i sfidojnë rezultatet, kjo gërryen besimin, edhe nëse shifrat në letër duken më mirë.

Së fundmi, ekziston çështja e precedentit. Disa tituj lajmesh janë përpjekur ta analogjojnë Diellën me "gjyqtarët robotë" ose vendimmarrësit algoritmikë në gjykata. Kjo nuk është ajo që po ndodh këtu. Ky është një eksperiment prokurimi me markën ministrore, jo një magjistrat i inteligjencës artificiale , dhe ky dallim është i rëndësishëm. Ai e mban analizën të bazuar në atë që sistemi duhet të bëjë në të vërtetë - të vlerësojë ofertat - dhe në masat mbrojtëse specifike që janë të përshtatshme për atë detyrë.

Efekti i valëzimit

Nëse eksperimenti i Shqipërisë jep rezultate që çojnë në vendime më të shpejta, më shumë ofertues, kosto më të ulëta dhe më pak mosmarrëveshje, vendet e tjera me siguri do ta vënë re. Dhe kjo veçanërisht sepse qeveritë kudo përballen me të njëjtat probleme: Ekipe të vogla, të dhëna të çrregullta, metoda vlerësimi të pabarabarta dhe dyshime për drejtësinë. Një shembull i qartë se si automatizimi dhe transparenca mund t'i përmirësojnë këto rezultate do të përhapej shpejt, veçanërisht në vendet ku prokurimi publik është një pjesë e madhe e buxhetit.

Por që projekti të merret seriozisht, duhet të ketë transparencë të vërtetë, jo vetëm një premtim. Qeveria duhet t'i bëjë të disponueshme për publikun metodat e vlerësimit, regjistrat e përditësimit dhe rezultatet tremujore mbi konkurrencën, kursimet dhe ankesat. Ajo gjithashtu duhet të lejojë auditime të pavarura dhe të publikojë gjetjet e tyre. Kështu publiku mund të shohë se vendimet e sistemit janë të qarta dhe të gjurmueshme, jo të varrosura në zhargon teknik. Është gjithashtu mënyra se si Shqipëria mund të përmbushë standardet e transparencës dhe llogaridhënies që tani priten nga qeveritë në të gjithë Evropën dhe më gjerë.

Ky ndryshim mund të ketë efekte anësore edhe përtej Shqipërisë. Nëse qeveritë kudo fillojnë të kërkojnë të dhëna të qarta, kontrolle sigurie dhe rishikime të pavarura në prokurim, kompanitë do të fillojnë t'i bëjnë këto standarde një praktikë të zakonshme. Kjo mund ta bëjë inteligjencën artificiale më të sigurt dhe më të dobishme për të gjithë me kalimin e kohës.

Në fund të fundit Shqipëria nuk ia ka dorëzuar financat e saj një makine. Ajo që ka bërë është vendosja e prokurimit publik, një nga proceset e saj më të ndjeshme të shpenzimeve, nën një sistem të ri të mundësuar nga inteligjenca artificiale, dhe më pas i ka dhënë atij sistemi titullin simbolik të "ministrit". Pyetja e vërtetë nuk është nëse ideja tingëllon moderne, por nëse qeveriset me përgjegjësi.

Suksesi i këtij eksperimenti do të varet nga mënyra se si monitorohet dhe rishikohet. Kjo do të thotë të kesh monitorim të qartë, auditime të hapura, rregulla të qarta dhe procese të drejta apelimi. Nëse këto mbrojtje përcaktohen dhe zbatohen në mënyrë të qartë publikisht, Diella mund të tregojë se si IA mund ta bëjë qeverisjen më të drejtë. Nëse jo, rrezikon të provojë atë që kritikët tashmë e kanë frikë: Se automatizimi i një procesi me të meta vetëm fsheh të metat./ Forbes