Vgrajena pristranskost algoritmov na družbenih platformah

Vgrajena pristranskost algoritmov na družbenih platformah

Lekt. Dr. Nina Gorenc

Gorenc, N. (2025). AI embedded bias on social platforms. International Review of Sociology, 35(2), 317–336. https://doi.org/10.1080/03906701.2025.2489056

Tema:

Vedno večji del našega življenja poteka na digitalnih platformah a se večinoma ne zavedamo, da ne gre za nevtralna okolja. Digitalne in družbene platforme uporabljajo digitalne tehnologije, ki jih poganjajo algoritmi. Nestrokovnjaki jih poenostavljeno razumemo kot matematična navodila oz ukaze in jim posledično pripisujemo objektivnost in nepristranskost. Matematika pač. To nerazumevanje ima lahko resne posledice. Ker so najpogostejši uporabniki digitalnih platform in socialnih omrežij mladi, ki njihovo delovanje načelno razumejo, a hkrati podcenjujejo z njim povezane nevarnosti, se empirični del raziskave osredinji prav na mlade. Zanimalo nas je predvsem, kako in če se njihovo teoretično znanje kaže tudi v njihovih vzorcih obnašanja na družbenih platformah.

Dilema:

Algoritmi imajo že vgrajen “bias” – pristranskost, ki je tam lahko namerno, torej z namenom diskriminacije ali pa nenamerno in se je tja prikradla skozi proces nadzorovanega in nenadzorovanega učenja algoritma na velikih bazah podatkov, v katere je pristranskost vgrajena že izvorno. Npr. baza vhodnih podatkov, ki jo uporabljajo v bankah npr. za izračun krednitne sposobnosti oz faktor tveganja, ima neprimerno več podatkov za moške kot ženske, saj so se ženske zaradi diskriminacije mnogo kasneje kot moški aktivno vključile v gospodarstvo. Učenje algoritmov na takih podatkih torej pristranskost praviloma le še povečuje. Tveganju algoritemske pristranskosti pa smo izpostavljeni tudi če družbenih omrežij ne uporabljamo. Preko digitalnih platform opravljamo namreč vsakodnevne stvari kot so bančne storitve, dostop do zdravstvenih storitev, zavarovanj ipd.

Rešitev:

Raziskava je bila usmerjena v iskanje odgovorov na vprašanje • objektivnosti socialnih omrežij in digitalnih platform, • informiranosti študentov o skriti pristranskosti na omrežjih in • vpliva digitalnih platform in socialnih omrežij na socialno učenje.

Analiza relevantne literature je potrdila, da socialna omrežja s pomočjo različnih strategij, kot je ustvarjanje sob odmeva, filtrov in s pomočjo ciljnega usmerjanja informacij družbo polarizirajo in posledično vodijo do pomanjkanja dialoga, pluralnosti idej in krepijo neobjektivnost uporabnikov.

Študenti so na eni strani pokazali precejšnjo stopnjo teoretične informiranosti in razumevanja delovanja družbenih platform, na drugi pa presenetljivo nizko stopnjo vključevanja tega razumevanja v svoje obnašanje na družbenih platformah. Zaskrbljujoče je tudi, da jih relativno malo prepozna nevarne posledice vse večjega premika v digitalno okolje, kot sta naraščujoča pasivnost ter pomanjkanje interesa za vse, kar se dogaja v družbi.

Tudi socialno učenje, ki je v preteklosti potekalo v krogu družine, prijateljev in skozi sekundarno socializacijo, se hkrati s povečano platformizacijo družbe seli na družbena omrežja, kjer so starše, prijatelje in znance kot vzorniki zamenjali influenserji in slavni posamezniki, ki z mladimi iz raziskave nimajo ničesar skupnega. Zato interesi mladih pogosto niso njihovi, ampak so le odsev interesov slavnih posameznikov.

Koristi:

S pomočjo boljšega razumevanje delovanja na umetni inteligenci utemeljenih digitalnih platform in družbenih omrežij in predvsem prepoznavanja njihove skrite pristranskosti, bomo lažje sprejemali informirane in premišljene odločitve, prilagajali naše obnašanje digitalnemu okolju in tako prispevali k omejitvi škodljivih posledic nekritične uporabe in obnašanja na družbenih platformah na posameznika in družbo.

CTR: Raziskava sledi ciljem 3 – zdravje in dobro počutje, 4 – kakovostno izobraževanje, 5 – enakost spolov.