Eurooplased ohutute ühenduste nimel nõuavad tehisintellekti tugevamat reguleerimist otsuste tegemisel

Eurooplased ohutute ühenduste nimel on ühendus, kuhu kuuluvad riiklikud ja rahvusvahelised organisatsioonid, kes on teadlikud kaasaegse kommunikatsioonitehnoloogia kahjulikest tagajärgedest. Rõhutame, et me ei ole vastu tehnoloogiale, vaid pooldame ohutut tehnoloogiat ja ohutuid ühendusi.

Kampaania ühe aasta jooksul oleme õppinud, mis võivad olla kasulikud tulevastele korraldajatele. Esiteks, kui kuuldud seda tõelist häält oma südames, räägite, et muuta maailma paremaks kõigi ja kõigi jaoks: jälgige seda häält, võitlege kunagi lootust!

kui liigute vooga, lähevad inimesed sinuga hõlpsalt kaasa ja te ei seisa vastu. Kuid kui peate selle vastu seisma, võib olla vajalik teie sõnum, näiteks kui muld peletab vett, mis vajab pehmet püsivat vihma. Kuigi ELil on vaja miljon allkirja, on oluline teie ideede kvaliteet.

Euroopa kodanikualgatuses „Peatage (((5G))) – Stay Connected, kuid Protected“ on meil 23 ettepanekut. Nende hulgas kutsume üles paremini reguleerima andmete privaatsust ja automaatset otsuste tegemist tehisintellekti abil. Teeme ettepaneku käivitada mõjuhinnang 5G mõju kohta isikuandmete kaitsele (ettepanek 19), soovime näha aktiivset võitlust diskrimineerimise ja digiõiguste rikkumise vastu (ettepanek 21) ning leiame, et kodanikke tuleks teavitada sellest, kas nende andmeid töödeldakse automatiseeritud menetluse teel (ettepanek 22).

Kuidas see kõik algas?

Tehisintellekt on kestnud juba mõnda aega. Juba 50. aasta alguses olid intelligentne tehnoloogia meie ühiskonna jaoks lõputute võimaluste osas kõrged. Nüüd, enam kui pool sajandit hiljem, on tehisintellektil põhinev tehnoloogia meie igapäevaelu aeglaselt laienenud. Kuigi humanoidrobotid ei ole veel maailmas kõndinud, toetume taristu haldamisel, tööprotsessides ja vaba ajas paljudele keerukatele tehnoloogiatele.

Praegused arukad tehnoloogiad võivad erineda sellest, mida varasemad teadlased nimetavad inimlaadseteks intelligentseteks masinateks. Kui Alan Turing määratles intelligentset mõtlemist ja inimestena tegutsemist, siis tänapäeval vajutab arukad süsteemid meie maja piiratud mõttega. Raske on määratleda, mis on tehisintellekt täpselt ja mida see hõlmab. Siiski on see võimaldanud meil elada tõhusamalt, sujuvamalt ja ehk veelgi nauditumalt.

Kuid üha ilmsemaks muutuvad ka lõputu automatiseerimise ja robotiseerimise puudused. Võtke näiteks Amazoni naissoost hagejad: lükati tagasi, sest algoritm oli õppinud eelistama mehi naistele. Või Microsofti juturoboti tay Twitteris, mis tuli internetist välja võtta, sest ta oli järeldanud mõned äärmiselt rassistlikud „usaldusavaldused“ kaassäutsejatelt. Või asjaolu, et Google’is kuvatakse otsingusõna „CEO“ juures peamiselt meessoost pilte.

Võime arvata, et tehisintellekt näib olevat meeste halvim ja süvendab olemasolevat ebavõrdsust. Siiski võib see olla mõnevõrra lihtsustatud. Tehisintellektisüsteemid ja nende aluseks olevad algoritmid tuginevad meie maailma tundmaõppimiseks sageli andmetele ja paljudele andmetele. Masinõppe meetodid, nagu närvivõrgud ja otsustuspuud, püüavad tuletada suundumusi, seoseid kontseptsioonide vahel ja olulisi parameetreid, mis aitavad neil tulevastes taotlustes õigeid valikuid valida. Need andmed ei ole masinõppe huvides välja töötatud. Ei, enamiku andmetest koostasime me, inimesed, klõpsates internetis ja jagades oma eelistusi. Kasutades meie andmeid õppimiseks, paljastavad tehisintellektisüsteemid seega süsteemseid eelarvamusi, mis olid meie ühiskonnas teataval määral juba olemas. See muudab aruka tehnoloogia rakendamise mitte ainult tehnoloogiliseks, vaid ka ühiskondlikuks ja eetiliseks küsimuseks. Neil põhjustel väidavad mõned teadlased, et insenerid on pikka aega varjanud tehisintellekti tehnoloogilisi aspekte, keskendudes arvutuste parandamisele, jättes samal ajal tähelepanuta mõju, mida nende innovatsioon võib avaldada lõppkasutajatele. Tehnoloogia asub arendaja ja välismaailma vahel. Selles artiklis kirjeldatakse kolme küsimust: diskrimineerimine, vastutus ja musta kasti loogika.

Talveriik, kus nulude ja kuusede hulgas on 20
telekommunikatsioonimasti: Avalik domeen
Allikas: https://labs.openai.com/

Diskrimineerimine ja eelarvamuste käsitlemine 

Sarnaselt Amazoni naissoost taotlejatega jäävad vähemusrühmadesse kuuluvad inimesed tehisintellektisüsteemide tegelikust kohaldamisalast välja. Põhjus ilmneb nimest: need on inimesed, kes moodustavad vähemuse. Nende esindatus andmetes on piiratud ja algoritm ei saa teada nende isikute spetsiifilisi omadusi. Sarnaselt inimestele toimivad süsteemid kehvemini ja väheste teadmistega. Tulemus: mustanahalised isikud märgistatakse Google’i intelligentse pildilugemistarkvaraga või ohtlikumatena automaatses riskihindamissüsteemis korduvkuritegevuse automaatses riskihindamissüsteemis. Lihtsalt seetõttu, et tarkvara õpetati valgeid elanikke (ja võib-olla gorilla) pilte.

Andmeteadlased on sellest probleemist teadlikud ja on juba olemas meetodid tulemuslikkuse parandamiseks. Näiteks kohandades andmekogumit nii, et vähemusrühmad oleksid paremini esindatud. Või lisades masinõppe protsessi lisaetapi, et mudelit täpsustada.

Ning muuta arutelu veelgi keerulisemaks: mis saab siis, kui meie süsteem prognoosib tulemusi väga hästi? Eeldame, et töötame välja kaks algoritmi. Üks, mis avastab õigesti haiguse 80 % ajast valgetel isenditel, kuid ainult 60 % ajast värvilistel isenditel. Teine, mis avastab haiguse õigesti ainult 60 % ajast, olenemata taustast. Kas me peaksime seejärel püüdlema võrdsuse poole ja kasutama halvemat algoritmi? Kuigi diskrimineeriv võiks säästa rohkem valgeid inimesi? Siin tulevad mängu eetilised kaalutlused.

Meie andmeteadlasest sai äsja inimene, kes kujundas miljoni teise usku ja peab äkki tegema raskeid eetilisi kaalutlusi. Eetilised dilemmad, millele ei ole avalikus arutelus veel vastatud. Me ei saa eeldada, et insenerid teevad selliseid otsuseid, ega soovida neid. Tarkvara kavandamise suunamiseks on vaja eeskirju.

Tehisintellekt on hea teenistuja, kuid halb kapten.
Krediit:

Peatage 5G meeskond

Aruandluskohustus ja vastutusMeie ühiskonnas vastutavad üksikisikud oma tegude eest. Arukate süsteemide abil on raske süüdlast kindlaks teha. Eriti kui süsteemid on keerukad ja iseõppivad. Insenerid ei saa alati prognoosida, mida süsteem õpib või kuidas see käitub. Tõenäoliselt ei kavatsenud Amazon seada ohtu naissoost taotlejaid, samuti ei seadnud Google teadlikult otsingutulemuste esiplaanile meessoost inimesi. Kas need tagajärjed ilmnesid alles pärast süsteemi maailmale toomist. Kuid keda me süüdistame? Ettevõte kasutab neid süsteeme, kuigi neil ei olnud eelnevalt põhjendatud alust kahelda süsteemi kvaliteedis.

Või ettevõte, kes ehitas süsteemi sellise toote müümiseks, mis osutus diskrimineerivaks.Uuendused on alati häirinud ja mitte ilma riskita. Nad paluvad teha kohandusi meie ühiskonnas ja kohtusüsteemis. Võtke autoga ühendust. Esimestel päevadel lubati autol vabalt liikuda linnades ilma turvavööde, turvapatjade ja liiklusmärkideta. Kuni hukkunute arv kiiresti kasvas ja tänavad muutusid kättesaamatuks. Uue tehnoloogia ühtlustamiseks olemasolevas taristus oli vaja uusi suuniseid ja eeskirju. Vähesed arvasid, et auto muutub kõndivale rahvahulgale nii ohtlikuks. Kasutust reguleerides suutsime suurendada ohutust, kasutades samal ajal ära selle uue transpordiliigi eeliseid.

Tänapäeval ei saa me ette kujutada mootorsõidukitranspordita maailma.Sarnaselt autodega oleks tehisintellektisüsteemide keelamine nende esialgse ohtliku mõju tõttu liiga lühike. Tehisintellektisüsteemidel on juba praegu positiivne mõju meie ühiskonnale. Praegu aga arendatakse tehisintellektisüsteeme ja neid juhitakse meie igapäevaellu ilma turvavööde või muude kaitsemeetmeteta. Oluline on kriitiliselt mõelda, kuidas me soovime, et tehisintellekt meie ühiskonnas eksisteeriks.

 
Ohulipp Krediit :

Peatage 5G meeskond

Must kastIsikuandmete kaitse üldmääruse põhjenduses on sätestatud, et inimestel on õigus näha, millistel alustel otsused tehti, milliseid andmeid kogutakse ja kuidas neid andmeid kasutatakse. See suhteliselt uudne seadus on olnud samm õiges suunas, kuid ei ole kaugeltki sobiv lahendus eraelu puutumatuse loomiseks või kodanikuõiguste austamiseks. Veebisaidi külastamisel puutuvad kasutajad sageli kokku suure hulga tekstidega, milles selgitatakse, milliseid isikuandmeid kogutakse. Enamasti on küpsiseid raske tagasi lükata või peate klõpsama mitmel hüpikaknal. Ettevõtjad järgivad isikuandmete kaitse üldmääruses sätestatud vaevu piiranguid ega tee üksikisikutele oma andmete üle järelevalvet lihtsaks.

Seetõttu usume, et isikuandmete kaitse üldmäärus on naiivne algatus, mis näitab veebiettevõtjate andmete nälga.Kuid isegi kui ettevõtted oleksid rohkem valmis jagama isikuandmete tegelikku kogumist ja kasutamist, ei ole nad alati täielikult võimelised. Paljud arukad süsteemid toimivad näiteks mustade kastidena: suur hulk andmeid ja süsteem annab sõltuvalt andmete omadustest teatava väljundi. Viimastel aastatel eelistasid insenerid neid mustade kastide süsteeme. Sellistel süsteemidel oli suur potentsiaal õppida keerukamaid kontseptsioone, nagu keel või kujutised. Kuulsad musta kasti süsteemid on närvivõrgud, näotuvastustarkvara või loomuliku keele töötlemise tarkvara (nt Google Translate). Insenerid kontrollivad mõningaid parameetreid, kuid neil puudub ülevaade sellest, millist teavet need süsteemid andmete põhjal õpivad või tuletavad. Ainult uudsete andmete tulemuslikkuse kontrollimisega saab insener hinnata, kas süsteem on saanud teada, mida ta pidi tegema. Näiteks võib insener sisestada uusi kujutisi, et näha, kas süsteem suudab neid tõlgendada. Kuid nagu eespool nägime, võib juhul, kui insener ei ole süsteemi piisavalt põhjalikult katsetanud, tõlgendada värvilistest inimestest tehtud fotosid ahvidena. Kas Google’i insenerid oleksid sellest veast teadlikud? Kui nad oleksid testinud tarkvara värvilistest inimestest tehtud fotodel. Kuid fotod võivad sisaldada midagi.

Samuti oleks väga raske kontrollida süsteemi kõigest.Tõhusam oleks kontrollida, milliseid asju tarkvara on õppinud. Kui Google’i algoritm võiks meile teada anda, milliseid samme ta teeb tõlgendamiseks, võiksid insenerid seda põhjendust kontrollida ja hinnata tõenäolisi erandeid või vigu. Seepärast on teadusringkondade liikmed nõudnud arusaadavamaid lähenemisviise masinõppele.

Musta kasti algoritmid ei ole veel saavutanud oma potentsiaali ja ei pruugi olla paremad kui arusaadavamad algoritmid.Nende arusaadavate algoritmide tõlgendatavuse eelis on suurem kui musta kasti algoritmide eeldatav toimivuseelis.

 
Musta kasti krediteerimine :

Peatage 5G meeskond

JäreldusTehisintellekt ja intelligentne tarkvara on tänapäeva elus üsna levinud. Mõjutada otsustusprotsesse ettevõtetes ja kallutada vähemusrühmi.

Kuigi me ei mõista täielikult, kuidas tehisintellekt toimib, kuidas see meid mõjutab ja milline on pikaajaline mõju.

ELi kodanikelt ei ole küsitud, kas nad aktsepteerivad tehisintellekti juhitud otsustusvahendite ulatuslikke ühiskondlikke tagajärgi tehnoloogia arengu ja digitaliseerimise nimel.

Seepärast nõuame Euroopa kodanikualgatuses „Peatage (((5G))) – Stay Connected but Protected“ tugevamat reguleerimist, et kaitsta kodanikke eraelu puutumatuse rikkumiste ja diskrimineerimise eest, mis tuleneb tehisintellektisüsteemi kontrollimatust kasutamisest otsuste tegemisel Euroopa kodanikualgatuse ettepanekutes 19, 21 ja 22.

• Me ei ole üksi:Euroopa Andmekaitsenõukogu ei soovi Euroopa Komisjoni uusi seadusandlikke ettepanekuid, mis lihtsustaksid (isiku)andmete kasutamist ja jagamist rohkemate avaliku ja erasektori isikute vahel.
• Euroopa Andmekaitsenõukogu sõnul mõjutab seemärkimisväärselt eraelu puutumatuse ja isikuandmete kaitse põhiõiguste kaitset.Euroopa Ülemkogu rõhutab, kui oluline on inimkeskne lähenemisviis tehisintellektipoliitikale.
• Mõelge sellistele küsimustele nagu erapoolik ja läbipaistmatu otsuste tegemine, mis mõjutavad kodanike põhilisi inimõigusi.
• UNESCO tehisintellekti eetikat käsitlevas esialgses uuringus ( lk 10) märgitakse, et „kõige olulisem on õpetada tulevasi inseneridele ja arvutiteadlastele tehisintellektisüsteemide eetiliselt ühtlustatud disaini.“
• Teises Euroopa kodanikualgatuses „ Reclaim Your Face “ nõuti kahjuliku tehisintellekti, näiteks biomeetrilise massi ja näotuvastuse jälgimise kasutamise keelustamist.Isegi 1942. aastal nägi Isaac Asimov ette probleeme ja teatas kolmest robootikaseadusest. Esimene seadus on, et robot ei tohi kahjustada inimest.

Nagu käesolevas artiklis näidatud, oleme sellest kaugel.