Razprava Umetna inteligenca in nadzor


EARL_Umetna inteligenca in nadzorNa Fakulteti za družbene vede je 28. 2. 2020 potekala druga v seriji petkovih razprav, s katerimi ozaveščamo o vlogi ter pomenu umetne inteligence v svetu. Serije petkovih razprav, ki jih vodijo študenti FDV, bodo potekale na Fakulteti za družbene vede, v okviru Raziskovalnega središča za Vzhodno Azijo. Na januarski razpravi smo spoznali osnove umetne inteligence, priložnosti in nevarnosti, na tokratni pa smo se spraševali: Kakšne spremembe povzroča napredek tehnologije umetne inteligence (UI) v kontekstu nadzora? Kakšne so prednosti, priložnosti, nevarnosti in izzivi nadzora?

Z odvetnico in nekdanjo informacijsko pooblaščenko dr. Natašo Pirc Musar se je pogovarjal Tilen Gorenšek, doktorski študent organizacijsko-kadrovskih študij na Fakulteti za družbene vede.

EARL_Umetna inteligenca in nadzorZ razpravo o umetni inteligenci in nadzorom se odpira nova dimenzija razmišljanja o umetni inteligenci, takšna, ki je povezana s temeljnimi ideološkimi pogledi glede narave in obstoja zasebnosti ter anonimnosti. Tehnološka revolucija namreč v ospredje postavlja vprašanje dostopa do podatkov, ki so sicer temeljnega pomena za dvig kvalitete in interoperabilnosti UI rešitev, po drugi strani pa zapostavlja človeka in pomen zasebnosti ter anonimnosti, ki ju težnja po čedalje večjem dostopu do podatkov predstavlja kot grožnjo in ne kot temeljno človekovo pravico.

Dr. Nataša Pirc Musar je pri tem opozorila: »Na novo definirati koncept zasebnosti bi bila prezahtevno, bolj pomembno je ljudi informirati kaj je pravica do zasebnosti.« In dodala: »Več kot bomo želeli varnosti in bili za to pripravljeni izpuščati zasebnost, prej bomo izgubili oboje.«  

Raziskave kažejo, da vse več držav uporablja ali pa zlorablja napredna orodja za nadzor s pomočjo UI za spremljanje, sledenje in nadzorovanje državljanov, s ciljem doseči najrazličnejše politične cilje – nekateri so zakoniti, drugi kršijo človekove pravice, številni od njih pa spadajo v nejasno sivo polje, ki predstavlja nevarnost zlorabe tehnologije UI.

Tilen Gorenšek je opozoril, da se UI in zlorablja, hkrati pa je orodje za odkrivanje zlorab. Dr. Nataša Pirc Musar o tem: »Vsaka umetna inteligenca je etična toliko, kot je etičen njen ustvarjalec. Če se informacijsko rešitev da ustvarit, se jo bo uporabljalo, če so jo bo uporabljalo, se jo bo tudi zlorabljalo. UI je v tem primeru ena najnevarnejših tehnoloških rešitev. Pri razvoju tehnologij je temeljnega pomena določiti meje in transparentnost. In tu nam manjka družboslovnega znanja.«

Organizacija Carnegie Endowment for International Peace je razvila AI Global Surveillance (AIGS) Index, ki predstavlja enega izmed prvih raziskovalnih prizadevanj na področju uporabe UI za nadzor. Ugotovitve njihove raziskave kažejo, da se tehnologija nadzora na podlagi UI širi hitreje in na širši krog držav, kot so strokovnjaki sprva predvidevali. Vsaj 57 od 176 držav po vsem svetu aktivno uporablja tehnologijo UI za namene nadzora. Obstaja tudi močna povezava med vojaškimi izdatki v državi in uporabo sistemov nadzora s pomočjo UI, ki jih vlada uporablja – 40 od 50 držav z največjimi vojaškimi izdatki uporablja tudi tehnologijo UI za nadzor.« Tilen Gorenšek je zato nadaljeval: »Smo že zakorakali v čas konstantnega nadzora, kaj bo čez 5 let?«

Dr. Nataša Pric Musar je komentirala: »Pri obravnavanju umetne inteligence se premalo naslavlja družboslovna vprašanja in posledice vpliva UI na družbo.«  Opozarja, da bi se pri razvoju in vpeljevanju tehnologij UI morali vprašati tri stvari: »Kakšne probleme želimo rešiti s tehnologijo? Ali te probleme lahko rešimo brez tehnologije? Kakšne nove probleme lahko ustvarimo z novo tehnologijo? Pri tem je dodala, da jo je strah: »Masovni nadzor pomeni konec družbe razvoja. V naravi velja normalna porazdelitev Gaussove krivulje. Majhen je odstotek ljudi, ki želijo družbi škodovati. Da bomo odkrili 5 % ljudi, ki družbi delajo škodo, bomo nadzirali 95 % ljudi. Pri tem pa se ne zavedamo, da možgani posameznika, ki ne bo mogel več svobodno razmišljat in delovat, ne bodo sposobni več delovati tako kot danes. Tega bi se morali razvijalci tehnologij zavedati in zato pri razvoju in vpeljevanju UI tehnologij nujno vključiti družboslovce«.




Nazaj na seznam vseh obvestilObjavljeno: 28. februar 2020 | v kategoriji: Dogodek