L-Ewropej għal Konnessjonijiet Sikuri jappellaw għal regolamentazzjoni aktar b’saħħitha tal-Intelliġenza Artifiċjali fit-Teħid ta’ Deċiżjonijiet

L-Ewropej għal Konnessjonijiet Sikuri hija koalizzjoni ta’ organizzazzjonijiet nazzjonali u internazzjonali li huma konxji mill-konsegwenzi negattivi tat-teknoloġiji moderni tal-komunikazzjoni. Nenfasizzaw li m’aħniex kontra t-teknoloġija, iżda favur teknoloġija sikura u konnessjonijiet sikuri.

Matul sena tal-kampanja tagħna tgħallimna tagħlimiet li jistgħu jkunu utli għall-organizzaturi futuri. L-ewwel nett, jekk tisma’ dik il-vuċi vera f’qalbek tgħidlek tibdel id-dinja għall-aħjar għal kulħadd u għal kulħadd: segwi dik il-vuċi, niġġieldu u qatt ma naqtgħu t-tama!

jekk tmur bil-fluss, in-nies faċilment imorru miegħek u mhux se tiffaċċa reżistenza. Iżda jekk ikollok tmur kontrih, il-messaġġ tiegħek jista’ jkun meħtieġ peress li tletin ħamrija li tirrepeti l-ilma teħtieġ xita persistenti ratba. Għalkemm l-UE teħtieġ miljun firma, hija l-kwalità tal-ideat tiegħek li tgħodd.

Fl-inizjattiva taċ-Ċittadini Ewropej (ECI) “Inwaqqfu (((((5G))) — Nibqgħu Konnessi iżda Protetti” għandna 23 proposta. Fosthom nappellaw għal regolamentazzjoni aħjar għall-privatezza tad-data u t-teħid awtomatiku ta’ deċiżjonijiet mill-intelliġenza artifiċjali. Nipproponu li titnieda valutazzjoni tal-impatt tal-effetti tal-5G fuq il-protezzjoni tad-data personali (proposta 19), nixtiequ naraw ġlieda attiva kontra d-diskriminazzjoni u l-ksur tad-drittijiet diġitali (proposta 21) u naħsbu li ċ-ċittadini għandhom jiġu infurmati dwar jekk id-data tagħhom hijiex ipproċessata permezz ta’ proċedura awtomatizzata (proposta 22).

Kif beda kollox

L-intelliġenza Artifiċjali (IA) ilha xi żmien mhux ħażin. Fil-bidu tal-50 l-aspettattivi kienu diġà għoljin fuq il-possibbiltajiet bla tmiem li t-teknoloġija intelliġenti ġġib lis-soċjetà tagħna. Issa, aktar minn nofs seklu wara, it-teknoloġija infuża tal-IA rnexxielha taqbad bil-mod fil-ħajja tagħna ta’ kuljum. Għalkemm ir-robots umanojdi għadhom mhumiex mexjin fid-dinja tagħna, aħna niddependu fuq teknoloġiji kumplessi multipli fil-ġestjoni tal-infrastruttura, fil-proċessi tax-xogħol u fil-ħin liberu tagħna.

It-teknoloġiji ‘intelliġenti’ attwali jistgħu jvarjaw minn dak li x-xjentisti preċedenti jsejħu magni intelliġenti simili għall-bniedem. Filwaqt li Alan Turing iddefinixxa l-intelligence bħala ħsieb u azzjoni bħall-bnedmin, illum il-ġurnata s-sistemi intelliġenti joħolqu lakuna fid-dar tagħna bi ħsieb limitat. Id-definizzjoni ta’ x’inhi eżattament l-IA u x’tinvolvi hija diffiċli. Madankollu, ippermettielna ngħixu l-ħajja b’mod aktar effiċjenti, aktar faċli, u forsi, saħansitra aktar pjaċevoli.

Iżda l-iżvantaġġi tal-awtomatizzazzjoni u r-robotizzazzjoni mingħajr tmiem qed isiru dejjem aktar evidenti. Ħu, pereżempju, l-applikanti nisa ta’ Amazon: irrifjutat minħabba li l-algoritmu kien tgħallem jiffavorixxi lill-irġiel lin-nisa. Jew iċ-chatbot Tay tal-Microsoft fuq Twitter li kellu jittieħed offline minħabba li kien iddeduċa xi “veritajiet” estremament razzisti minn twetri sħabhom. Jew il-fatt li prinċipalment jidhru stampi ta’ rġiel għat-terminu ta’ tfittxija “CEO” fuq Google.

Nistgħu naħsbu li l-IA tidher li tneħħi l-agħar fost l-irġiel u tapprofondixxi l-inugwaljanzi eżistenti. Madankollu dan jista’ jkun kemxejn simplistiku biex nikkonkludi. Is-sistemi tal-IA u l-algoritmi sottostanti spiss jiddependu fuq id-data, ħafna data, biex jitgħallmu dwar id-dinja tagħna. Tekniki ta’ tagħlim awtomatiku, bħal networks newrali u siġar tad-deċiżjonijiet, jippruvaw jinferixxu x-xejriet, ir-rabtiet bejn il-kunċetti, u parametri importanti biex jgħinuhom jagħżlu l-għażliet it-tajba f’talbiet futuri. Din id-data mhijiex xi ħaġa li kienet magħmula għal raġunijiet ta’ tagħlim awtomatiku. Le, il-biċċa l-kbira tad-data ġiet iġġenerata minna, mill-bniedem, filwaqt li kklikkjaw fuq l-internet u naqsmu l-preferenzi tagħna. Bl-użu tad-data tagħna biex nitgħallmu, is-sistemi tal-IA b’hekk jikxfu preġudizzji sistematiċi li kienu diġà preżenti, sa ċertu punt, fis-soċjetà tagħna. U dan jagħmel l-implimentazzjoni ta’ teknoloġiji intelliġenti mhux biss kwistjoni teknoloġika, iżda wkoll kwistjoni soċjetali u etika. Għal dawn ir-raġunijiet xi riċerkaturi jargumentaw li l-inġiniera ilhom jinħbew wara l-aspetti teknoloġiċi tal-IA, b’enfasi fuq it-titjib tal-kalkoli filwaqt li jittraskuraw l-effetti li l-innovazzjonijiet tagħhom jista’ jkollhom fuq l-utenti finali. It-teknoloġija tpoġġi lilha nnifisha bejn żviluppatur u d-dinja ta’ barra. Dan l-artikolu jiddeskrivi tliet kwistjonijiet: id-diskriminazzjoni, ir-responsabbiltà, u l-loġika tal-kaxxa s-sewda.

Pajjiż tax-xitwa b’ 20 arbli tat-telekomunikazzjoni fost iż-żrar u l-prinjol
Kreditu: Sors ta’ Dominju
Pubbliku: https://labs.openai.com/

Trattament tad-diskriminazzjoni u l-preġudizzji 

Bħall-applikanti nisa ta’ Amazon, il-persuni ta’ gruppi ta’ minoranza jaqgħu barra mill-kamp ta’ applikazzjoni attwali tas-sistemi tal-IA. Ir-raġuni hija evidenti mill-isem: dawn huma persuni li jiffurmaw minoranza. Ir-rappreżentazzjoni tagħhom fid-data se tkun limitata u l-algoritmu mhux se jitgħallem il-karatteristiċi speċifiċi li jirrappreżentaw lil dawn l-individwi. Bħall-bnedmin, is-sistemi jmorru agħar b’għarfien limitat. Ir-riżultat: l-individwi suwed huma ttikkettati bħala xadini mis-softwer ta’ Google għall-qari tal-immaġni intelliġenti jew bħala aktar perikolużi f’ sistema awtomatika ta’ valutazzjoni tar-riskju għar-reċidività. Sempliċiment minħabba li s-softwer kien imħarreġ fuq stampi li fihom individwi bojod (u forsi gorillas).

Ix-xjenzati tad-data kienu konxji ta’ din il-problema u diġà hemm tekniki biex tittejjeb il-prestazzjoni. Pereżempju, billi jiġi aġġustat is-sett ta’ data b’tali mod li l-gruppi ta’ minoranza jkunu rappreżentati aħjar. Jew billi jiżdied pass ieħor fil-proċess tat-tagħlim awtomatiku biex il-mudell jiġi finalizzat.

U biex id-diskussjoni ssir aktar ikkumplikata: x’jiġri jekk is-sistema tagħna tbassar ir-riżultati tajjeb ħafna. Nassumu li niżviluppaw żewġ algoritmi. Waħda li tidentifika b’mod korrett marda 80 % tal-ħin f’individwi bojod iżda 60 % biss tal-ħin f’individwi ta’ kulur. U t-tieni waħda li tidentifika b’mod korrett marda 60 % biss tal-ħin irrispettivament mill-isfond. Imbagħad għandna nistinkaw għall-ugwaljanza u nieħdu l-agħar algoritmu? Minkejja li dik li tiddiskrimina tista’ potenzjalment issalva aktar individwi bojod? Dan huwa fejn jidħlu l-kunsiderazzjonijiet etiċi.

Ix-xjenzjat tad-data tagħna għadu kif sar persuna li ssawwar il-fiduċja ta’ miljun persuna oħra u f’daqqa waħda jrid jagħmel kunsiderazzjonijiet etiċi diffiċli. Dilemmi etiċi li għadhom ma tweġbux fid-dibattitu pubbliku. Ma nistgħux nistennew li l-inġiniera jieħdu dawk id-deċiżjonijiet, u lanqas ma għandna nixtiquhom. Huma meħtieġa regolamenti biex jiggwidaw id-disinn tas-softwer.

L-intelliġenza Artifiċjali hija ħaddiem tajjeb iżda ħakma ħażina.
Kreditu: Waqqaf it-Tim tal-5G

Obbligu ta’ rendikont u responsabbiltà

Fis-soċjetà tagħna, l-individwi jinżammu responsabbli għall-fatti tagħhom. B’sistemi intelliġenti, huwa diffiċli li jiġi identifikat il-kulprit. Speċjalment jekk is-sistemi jkunu kumplessi u awtotagħlim. L-inġiniera mhux dejjem jistgħu jbassru x’se titgħallem is-sistema jew kif se taġixxi. Amazon probabbilment ma kellhiex l-intenzjoni li tipperikola applikanti nisa, u Google konxjament ma poġġietx lill-irġiel fil-quċċata tar-riżultati tat-tiftix. Kien biss wara li s-sistema ddaħħlet fid-dinja, li dehru dawn il-konsegwenzi. Iżda min għandna nagħtu t-tort? Il-kumpanija għall-użu ta’ dawn is-sistemi, minkejja li ma kellha l-ebda bażi raġonevoli biex tiddubita l-kwalità tas-sistema minn qabel. Jew il-kumpanija li bniet is-sistema għall-bejgħ ta’ prodott li rriżulta li kien qed jiddiskrimina.

L-innovazzjonijiet minn dejjem kienu qed ifixklu u mhux mingħajr riskju. Huma jitolbu adattamenti fis-soċjetà u fis-sistema ġudizzjarja tagħna. Ħu l-karozza. Fil-jiem bikrin tagħha, karozza tħalliet tivvjaġġa liberament madwar il-bliet mingħajr ċinturini tas-sikurezza, airbags, u sinjali tat-toroq. Sakemm l-għadd ta’ vittmi kien qed jikber b’rata mgħaġġla, u t-toroq ma baqgħux għaddejjin. Linji gwida u regolamenti ġodda kienu meħtieġa biex jissimplifikaw it-teknoloġija l-ġdida fl-infrastruttura eżistenti. Ftit kienu dawk li pprevedew li l-karozza se ssir tant perikoluża għall-folla bil-mixi. Billi rregolajna l-użu, stajna nżidu s-sikurezza filwaqt li naħsdu wkoll il-benefiċċji ta’ dan it-tip ġdid ta’ trasport. Illum il-ġurnata, bilkemm nistgħu nimmaġinaw dinja mingħajr trasport motorizzat.

Bħal fil-każ tal-karozzi, il-projbizzjoni tas-sistemi tal-IA għall-implikazzjonijiet perikolużi inizjali tagħhom tkun qasira wisq. Is-sistemi tal-IA jistgħu jagħmlu, u diġà qed jagħmlu, impatt pożittiv fuq is-soċjetà tagħna. Madankollu, f’dan il-punt, is-sistemi tal-IA jiġu żviluppati u mormija fil-ħajja tagħna ta’ kuljum mingħajr ebda “ċinturin tas-sikurezza” jew salvagwardji oħra. Huwa importanti li naħsbu b’mod kritiku dwar kif irridu li l-IA teżisti fis-soċjetà tagħna. Biex tinfetaħ il-konverżazzjoni dwar kif nistgħu nżidu s-sikurezza ta’ dawn is-sistemi jew innaqqsu l-ħsara f’każ ta’ eżiti mhux mistennija.

Il-bandiera ħamra ta’
Kreditu: Waqqaf it-Tim tal-5G

Kaxxa sewda

Il-ġustifikazzjoni tal-GDPR tiddikjara li n-nies għandhom id-dritt li jaraw ir-raġunijiet li fuqhom ittieħdu d-deċiżjonijiet, liema data tinġabar, u kif se tintuża din id-data. Din il-liġi relattivament ġdida kienet pass fid-direzzjoni t-tajba iżda għadha’ l bogħod minn soluzzjoni xierqa għall-istabbiliment tal-privatezza jew ir-rispett tad-drittijiet ċivili. Meta jżuru sit web fuq l-internet, l-utenti spiss iħabbtu wiċċhom ma’ ammonti kbar ta’ test li jispjega b’mod vag liema data personali tinġabar. U ħafna drabi, huwa diffiċli li tirrifjuta kwalunkwe cookies, jew trid tikklikkja madwar diversi pop-ups. Il-kumpaniji qed isegwu r-restrizzjonijiet fundamentali tal-GDPR u ma jagħmluhiex faċli għall-individwi biex jissorveljaw id-data tagħhom stess. Għalhekk nemmnu li l-GDPR huwa inizjattiva inġenwa li turi l-ġuħ għad-data tal-kumpaniji online.

Iżda anke jekk il-kumpaniji jkunu aktar lesti li jaqsmu l-ġbir u l-użu veru tad-data personali, mhux dejjem ikunu jistgħu jagħmlu dan bis-sħiħ. Ħafna sistemi intelliġenti jiffunzjonaw bħal kaxxi suwed: it-tqegħid ta’ ħafna data u s-sistema se tagħti ċertu output skont il-karatteristiċi tad-data. F’dawn l-aħħar snin, l-inġiniera kienu favur dawn is-sistemi tal-kaxxa s-sewda. Sistemi bħal dawn kellhom potenzjal għoli għat-tagħlim ta’ kunċetti aktar kumplessi bħal-lingwa jew l-immaġnijiet. Eżempji famużi ta’ sistemi ta’ kaxxa sewda huma networks newrali, software għar-rikonoxximent tal-wiċċ, jew software għall-ipproċessar tal-lingwa naturali (eż. Google Translate). L-inġiniera għandhom kontroll fuq xi parametri iżda ma għandhom l-ebda għarfien dwar it-tip ta’ informazzjoni li dawn is-sistemi qed jitgħallmu jew jinferixxu mid-data. Huwa biss permezz tal-verifika tal-prestazzjoni fuq data ġdida li inġinier jista’ jistma jekk is-sistema tkunx saret taf x’suppost kellha tagħmel. Inġinier jista’, pereżempju, idaħħal sett ta’ immaġnijiet ġodda biex jara jekk is-sistema hijiex kapaċi tinterpretahom. Iżda kif rajna qabel, jekk l-inġinier ma jkunx ittestja s-sistema bir-reqqa biżżejjed, ir-ritratti ta’ persuni ta’ kulur jistgħu jiġu interpretati bħala dawk tax-xadini. L-inġiniera ta’ Google setgħu kienu jafu dwar dan l-iżball? Tajjeb, li kieku kienu ttestjaw is-software fuq sett ta’ ritratti ta’ persuni ta’ kulur li jista’ jkollhom. Iżda r-ritratti jista’ jkun fihom xi ħaġa. U jkun diffiċli ħafna li wieħed jivverifika s-sistema fuq kollox.

Aktar effiċjenti jkun li jiġi vverifikat x’tip ta’ affarijiet ikun tgħallem is-softwer. Jekk l-algoritmu ta’ Google jista’ jgħidilna x’tip ta’ passi jieħu biex jikseb interpretazzjoni, l-inġiniera jistgħu jivverifikaw dan ir-raġunament u jistmaw eċċezzjonijiet probabbli jew każijiet ta’ żball. Huwa għalhekk li l-membri tal-komunità xjentifika kienu qed jitolbu approċċi aktar komprensibbli lejn it-tagħlim awtomatiku. L-algoritmi tal-kaxxa s-sewda għadhom ma laħqux il-potenzjal tagħhom u mhumiex neċessarjament aħjar minn algoritmi li jinftiehmu aktar.

Il-vantaġġ tal-interpretabbiltà ta’ dawn l-algoritmi li jinftiehmu huwa akbar mill-vantaġġ tal-prestazzjoni mistenni tal-algoritmi tal-kaxxa s-sewda. Huwa biss jekk inkunu nafu x’inhu għaddej li nistgħu ninterferixxu jew naġġustaw kif xieraq.

Osservazzjoni tal-kaxxa s-sewda
Kreditu: Waqqaf it-Tim tal-5G

Għeluq

L-IA u s-software intelliġenti huma pjuttost omnipreżenti fil-ħajja moderna. L-influwenzar tal-proċessi tat-teħid tad-deċiżjonijiet fil-kumpaniji u l-wiri ta’ preġudizzji lejn gruppi ta’ minoranza. Filwaqt li ma nifhmux bis-sħiħ kif taħdem l-intelliġenza artifiċjali, kif qed ikollha impatt u x’se jkunu l-effetti fit-tul.

Iċ-ċittadini tal-UE ma ġewx mistoqsija jekk jaċċettawx il-konsegwenzi mifruxa fuq is-soċjetà mill-għodod iggwidati tat-teħid tad-deċiżjonijiet tal-Intelliġenza Artifiċjali f’isem il-progress teknoloġiku u d-diġitalizzazzjoni.

Għalhekk fl-ECI “Inwaqqfu ((((5G)) — Nibqgħu Konnessi iżda Protetti” qed nitolbu regolamentazzjoni aktar b’saħħitha biex nipproteġu liċ-ċittadini mill-ksur tal-privatezza u d-diskriminazzjoni bħala riżultat tal-użu mhux ikkontrollat tas-sistema tal-IA fit-teħid tad-deċiżjonijiet fil-proposta 19, il-proposta 21 u l-proposta 22 tal-ECI.

U m’aħniex waħidna:

• Il-Bord Ewropew għall-Protezzjoni tad-Data ma jixtieqx proposti leġiżlattivi ġodda mill-Kummissjoni Ewropea li se jiffaċilitaw l-użu u l-kondiviżjoni ta’ data (personali) bejn aktar partijiet pubbliċi u privati. Skont il-Bord Ewropew għall-Protezzjoni tad-Data dan sejkollu impatt sinifikanti fuq il-protezzjoni tad-drittijiet fundamentali għall-privatezza u l-protezzjoni tad-data personali.
• Il-Kunsill Ewropew jenfasizza l-importanza ta’ approċċ iċċentrat fuq il-bniedem għall-politika tal-IA. Aħseb dwar kwistjonijiet bħal teħid ta’ deċiżjonijiet preġudikat u opak li jaffettwaw id-drittijiet fundamentali tal-bniedem taċ-ċittadini.
• L-istudju preliminari tal-UNESCO dwar l-Etika tal-Intelliġenza Artifiċjali fil-paġna 10 jiddikjara li “Huwa l-aktar importanti li... jiġu edukati l-inġiniera futuri u x-xjentisti tal-kompjuter għad-disinn allinjat etikament tas-sistemi tal-IA.”
• Inizjattiva taċ-Ċittadini Ewropej (ECI) oħra bl-isem Reclaim Your Face talbet projbizzjoni fuq l-użu ta’ IA dannuża bħas-sorveljanza tar-rikonoxximent tal-massa bijometrika u tal-wiċċ.
• Anke fl-1942, Isaac Asimov ippreveda l-problemi u ddikjara tliet liġijiet tar-Robotika. L-ewwel liġi hija li robot ma għandux jagħmel ħsara lil bniedem. Kif muri f’dan l-artikolu, għadna’ l bogħod minn dan.