Nga Hamid Chriet
Inteligjenca Artificiale (IA) nuk ka nevojë t’ju urrejë për t’ju diskriminuar; asaj i mjaftojnë vetëm të dhënat e gabuara. Në mbarë Evropën dhe Amerikën e Veriut, teknologjitë e A.I. po formësojnë mënyrën se si njerëzit shihen, klasifikohen dhe trajtohen si të dyshimtë.
Sistemet e njohjes së fytyrës, megjithatë, shpesh dështojnë t’i lexojnë saktë nuancat më të errëta të lëkurës dhe shamitë (hixhabet). Ndërkohë, softuerët e kontrollit kufitar etiketojnë si “rrezik” emrat muslimanë, ndërsa moderimi i përmbajtjes në internet fshin në heshtje postimet rreth Palestinës, duke lejuar ndërkohë që urrejtja anti-muslimane të qarkullojë lirisht.
Inteligjenca Artificale është paraqitur si neutrale, objektive dhe efikase – si zgjidhja teknike ideale për gabimet njerëzore. Por teknologjia mëson nga bota që e rrethon. Nëse ajo botë është e pabarabartë, paragjykuese dhe përjashtuese, atëherë edhe algoritmi i ngritur mbi të, i tillë do të jetë.
Inteligjenca artificiale pasqyron supozimet e rrënjosura në të dhënat me të cilat trajnohet, dhe këto supozime reflektojnë shoqëritë që i prodhojnë ato. Kështu, ndodh që sistemet, të cilat pretendojnë se eliminojnë paragjykimet, përfundojnë duke i përforcuar ato.
“Këto sisteme nuk u bënë paragjykuese rastësisht,” shpjegoi Mutale Nkonde, Drejtore Ekzekutive e AI for the People, për The New Arab. “Ato u trajnuan mbi të dhëna të formësuara nga dekada vendimesh politike dhe doktrinash sigurie, të cilat e kornizonin identitetin musliman si thelbësisht të dyshimtë.”
“Teknologjia thjesht e përshkallëzoi atë paragjykim,” thotë ajo, duke e bërë më të shpejtë, më të vështirë për t’u zbuluar dhe më të vështirë për t’u kundërshtuar. Megjithatë, ndërgjegjësimi dhe rezistenca po rriten mes studiuesve ligjorë dhe aktivistëve të të drejtave digjitale, të cilët po sfidojnë mungesën e transparencës së sistemeve algoritmike.
Të dhëna të njëanshme, sisteme të njëanshme
Teknologjitë e njohjes së fytyrës performojnë sistematikisht më dobët te individët me lëkurë më të errët dhe te pakicat fetare.
Për shembull, një studim i rëndësishëm tregoi se sistemet komerciale të njohjes së fytyrës kishin norma gabimi deri në 34.7% për gratë me lëkurë të errët, krahasuar me vetëm 0.8% për burrat me lëkurë të çelët.
Një tjetër raport nga Instituti Kombëtar i Standardeve dhe Teknologjisë (NIST) zbuloi se sisteme të tilla kishin 10 deri në 100 herë më shumë gjasa t’i identifikonin gabim fytyrat e personave me ngjyrë dhe ata aziatikë, sesa fytyrat e të bardhëve.
Nëse të dhënat e trajnimit kodojnë performancë të dobët për popullata të caktuara, atëherë përdorimi i këtyre sistemeve në polici, mbikëqyrje apo kontroll, e përjetëson padrejtësinë – vetëm se tani në formë algoritmike.
Policimi, kufijtë dhe “syri” mbi muslimanët
Në Mbretërinë e Bashkuar, projektet e policimit parashikues, si Zgjidhja Kombëtare e Analitikës së të Dhënave (NDAS), janë ndërtuar mbi të dhënat historike të arrestimeve, të cilat tashmë janë të shtrembëruara nga dekada të tëra profilizimi racor.
Këto algoritme më pas i riorientojnë burimet policore drejt të njëjtave komunitete që prej kohësh janë subjekt i mbikëqyrjes së tepruar, duke e maskuar paragjykimin me gjuhën e “efikasitetit të bazuar në të dhëna”.
Në Francë, prirja është po aq alarmante. Sistemet e krijuara fillimisht për të zbuluar “radikalizimin” në internet kanë evoluar në heshtje në mjete për monitorimin e vetë shprehjes fetare. Faqet e xhamive, aplikacionet e lutjeve dhe faqet sociale me bazë fetare skanohen nga algoritme që nuk dinë të bëjnë dallimin mes besimit dhe ekstremizmit.
Ky dyshim digjital i bën jehonë klimës më të gjerë politike, e cila e trajton besimin e dukshëm si kërcënim të mundshëm. Nkonde paralajmëron se kjo logjikë ushqen vetveten: “Kur ne projektojmë teknologji për të zbuluar kërcënime, shpesh përfundojmë duke i mësuar asaj (teknologjisë) se tek kush duhet të dyshojnë.”
Askund nuk është kjo më e qartë se në Shtetet e Bashkuara, ku prioritetet e sigurisë kombëtare pas vitit 2017 hodhën themelet për njëanshmëri algoritmike në shkallë të gjerë. Gjatë administratës së parë të Trump-it, Urdhërat Ekzekutivë 13,769 dhe 13,780 kufizuan emigracionin nga shtatë vende me shumicë muslimane.
Këto vendime u justifikuan si masa kundër terrorizmit, por ndikimi i tyre u shtri thellë në arkitekturën e kontrollit kufitar të SHBA-së.
Sipas Nkonde, kjo periudhë “përcaktoi një nga parametrat për zhvillimin e sistemeve të AI që përdoren në pikat kufitare të SHBA-ve”. Skanimet e njohjes së fytyrës dhe kontrollet biometrike u bënë rutinë për ata që hynin nga bota muslimane. Pas kryerjes së këtyre skanimeve, të dhënat mbi racën, etninë, vendin e origjinës dhe “arsyet për kontroll shtesë” ruheshin në metadatat e sistemit.
Me kalimin e kohës, algoritmi mësoi t’i lidhte këto atribute me “rrezikun”. Nkonde e përshkruan këtë si përforcim të heshtur të paragjykimit. “Ato të dhëna më pas nguliten në kujtesën e modelit, duke rritur probabilitetin që udhëtarët muslimanë të asociohen me fjalën ‘terrorizëm’ brenda bazës së të dhënave.”
Rezultati është një qark i mbyllur reaktiv ku dyshimi gjeneron më shumë të dhëna, dhe më shumë të dhëna gjenerojnë më shumë dyshim. Udhëtarët e pafajshëm etiketohen, merren në pyetje ose vonohen jo për shkak të asaj që kanë bërë, por për shkak të asaj që makineria ka mësuar të presë.
“Është një shembull i qartë i paragjykimeve islamofobe të koduara në teknologji,” thotë ajo, “ku frika politike shndërrohet në të dhëna, dhe të dhënat shndërrohen në fat.”
Inteligjenca Artificiale Gjeneruese dhe të dhënat ‘orientaliste’ të trajnimit
Vala tjetër e shqetësimit lidhet me AI gjeneruese dhe modelet gjuhësore/vizuale që mbështeten në baza masive të dhënash, sipas Sonia Fereidooni, kandidate për doktoraturë në Universitetin e Kembrixhit, e cila studion rolin e kompanive të mëdha teknologjike në mbikëqyrje dhe mbrojtje.
“Modelet e AI gjeneruese që shohim të komercializuara fuqishëm sot, kanë paragjykime anti-muslimane të rrënjosura thellë, të cilat kanë qenë aty që nga konceptimi i tyre, për shkak të të dhënave të trajnimit me natyrë orientaliste mbi të cilat janë themeluar,” tha ajo për TNA.
Ajo shprehet se ekziston literaturë akademike që tregon se modelet gjuhësore – madje që nga epokat e GPT-2 dhe GPT-3 në vitin 2021, dhe para publikimit të ChatGPT – kishin paragjykime të mëdha anti-muslimane, të cilat vazhdojnë të kenë efekte zinxhirë në krijimin e modeleve të sotme.
“Më e rëndësishmja, modelet e AI gjeneruese, përfshirë modelet vizuale, jo vetëm që përforcojnë idealet islamofobe, por gjithashtu amplifikojnë paragjykimet sociale dhe stigmat, përfshirë imazhet orientaliste me qendër perëndimore që gjenden në të dhënat me të cilat janë trajnuar. Kjo krijon një cikël të pafund të rritjes së Islamofobisë përmes automatizimit dhe shpërndarjes së retorikës së amplifikuar anti-muslimane,” shton Fereidooni.
Në fakt, një studim shkencor (peer-reviewed) me titull “Paragjykimet e Qëndrueshme Anti-Muslimane në Modelet e Mëdha Gjuhësore”, zbuloi se në rastin e GPT-3, fjala “musliman” lidhej me analogji me “terrorist” në 23% të rasteve të testimit, krahasuar me norma shumë më të ulëta për fetë e tjera. Puna pasuese tregoi se edhe pas përpjekjeve për “zhbërjen e njëanshmërisë”, paragjykimi mbijetonte në modelet më të reja.
Një tjetër studim i fundit zbuloi se teknika të caktuara për zbutjen e njëanshmërisë (inxhinieria e komandave, udhëzimet kulturore) mund të ulnin prevalencën enjë anshmërisë arabo/muslimane deri në 87.7%, por rezultatet varionin shumë dhe shumë asocime të nivelit të lartë mbeteshin të pranishme.
Moderimi në internet, heshtja dhe amplifikimi
Platformat online pretendojnë se e zbusin gjuhën e urrejtjes, megjithatë kërkimet sugjerojnë një realitet tjetër kur bëhet fjalë për përmbajtjen anti-muslimane. Për shembull, organizata e pavarur Qendra për Kundërveprimin ndaj Urrejtjes Digjitale (CCDH) raportoi në vitin 2023 se kompanitë e mediave sociale dështuan të vepronin në 89% të rasteve të raportuara të urrejtjes anti-muslimane (Islamofobisë).
Po ashtu, një raport i vitit 2022 nga Amnesty International zbuloi probleme sistematike në moderimin e përmbajtjes që preknin në mënyrë shproporcionale gratë muslimane.
Mesazhi është i qartë: ndërsa platformat reklamohen si arbitra neutralë të shprehjes së lirë, sistemet e tyre të moderimit shpesh lejojnë që përmbajtja islamofobe të përhapet pa kontroll, e shtyrë nga algoritmet.
Dimensioni kulturor dhe institucional
Ajo që e bën mbikëqyrjen algoritmike dhe njëanshmërinë kaq tinëzare është mungesa e transparencës. Paragjykimi i një oficeri policie mund të sfidohet; ai i një algoritmi jo. Në momentin që makineria etiketon dikë si “rrezik i lartë”, rrallëherë jepet shpjegim dhe rrallëherë ka mundësi apeli.
Për muslimanët që udhëtojnë, punojnë ose shprehin besimin në internet, kjo krijon ndjesinë e një kontrolli të përhershëm. Njohja e fytyrës në aeroporte mund të shkaktojë marrje në pyetje shtesë; softueri për shqyrtimin e punësimeve mund t’i rendisë kandidatët më poshtë për shkak të një emri që e konsideron “të huaj”; moderimi i mediave sociale mund të shtypë diskutimet rreth Gazës ose Islamofobisë.
Secili rast veçmas mund të duket i vogël, por kolektivisht ato përbëjnë një regjim digjital të qytetarisë së dorës së dytë. Nkonde e quan këtë një “cikël të dyshimit digjital”, duke paralajmëruar se pretendimet për neutralitet maskojnë një të vërtetë më të thellë. “Neutraliteti në një botë paragjykuese i shërben vetëm status quo-së,” shton ajo.
Megjithatë, rezistenca po rritet. Teknologët muslimanë, studiuesit ligjorë dhe avokatët e të drejtave digjitale kanë filluar të sfidojnë errësirën informuese të sistemeve algoritmike. Nëse perspektivat muslimane dhe ato të Jugut Global vazhdojnë të mungojnë në debatin ndërkombëtar, njëanshmëria do të vazhdojë të trajtohet si një defekt teknik dhe jo si një padrejtësi politike.
“Derisa zërat muslimanë të jenë pjesë e shkrimit të rregullave, etika e AI do të mbetet një bisedë perëndimore rreth problemeve globale,” thotë Nkonde. Në të gjithë Evropën, organizatat e shoqërisë civile po bëjnë presion për transparencë përmes Aktit të Inteligjencës Artificiale të BE-së, i cili prezanton klasifikime të rrezikut dhe mekanizma mbikëqyrjeje.
Megjithatë, zbatimi mbetet jo konsistent dhe përjashtimet për sigurinë kombëtare u lejojnë qeverive të operojnë teknologji të errëta, nën radar.
Problemi më i thellë, megjithatë, qëndron përtej rregullimit ligjor. Ai është kulturor dhe institucional. Njëanshmëria e AI nuk është thjesht çështje softueri, por një pasqyrim i asaj se kush vendos se si duket “rreziku” dhe siguria e kujt ka më shumë rëndësi.
“Sistemet e AI punojnë bazuar në atë që u jepet dhe çfarë bëjnë algoritmet dhe programet brenda tyre. Pa dyshim, në çdo sistem të AI do të ketë njëanshmëri, që do të thotë se ato mund të fillojnë të fokusohen ose të kërkojnë modele të caktuara, të cilat një njeri do ta kuptonte se janë të manipuluara ose thjesht të pavërteta,” tha Imane A. Atta, Drejtor i Tell MAMA, për TNA.
“Kjo është arsyeja pse mbikëqyrja njerëzore është kaq e rëndësishme, dhe prandaj mbështetja vetëm te AI është një rrezik real kur i lidhni ato me sipërmarrje që kanë për qëllim fitimin,” shton ai.
“Paragjykimi anti-musliman mund të depërtojë lehtësisht në AI nëse programet njohin një vëllim të lartë të një aktiviteti të tillë, identifikojnë influencues kyç që e promovojnë atë, ose nëse kjo sjell shitje më të mëdha. Ato mund ta legjitimojnë një aktivitet të tillë ose madje ta rrisin atë.”
Sistemet e trajnuara mbi frikën do të vazhdojnë të riprodhojnë frikë, pavarësisht sofistikimit teknik. Siç na kujton Nkonde: “Ne vazhdojmë të pyesim se si t’i bëjmë makineritë më të zgjuara, kur duhet të pyesim se si t’i bëjmë sistemet më të drejta.”
Hamid Chriet është ekspert i sigurisë kibernetike dhe kolumnist marokeno-britaniko-francez.
