Proti sovražnemu govoru

Algoritem sovraštva: Sovraštvo, laži in delitve so dobri za posel

Ljubljana, 16. 05. 2022 15.37 |

PREDVIDEN ČAS BRANJA: 6 min
Avtor
Natalija Švab
Komentarji
84

Splet je kraj, kjer še posebej na družbenih omrežjih vladajo močna čustva, padajo težke besede, ljudje si dajo duška, da povedo vse, kar jim pade na misel brez zavor. Medtem ko na vse to vpliva predvsem možnost uporabnikov, da komunicirajo anonimno in so slišni bolj kot kdaj koli prej, pa vse krivde ni mogoče prevaliti na uporabnike. Raziskovalci pravijo, da so lastniki spletnih platform v želji po čim večjem dobičku iz svojih algoritmov naredili stroje za širjenje sovraštva. Platforme, kot je Facebook, obtožbe seveda zavračajo, zatrjujejo, da počnejo vse, da bi bilo manj sovražnega govora in neprimernih vsebin.

Umetna inteligenca
Umetna inteligenca FOTO: Shutterstock

Ste se kdaj vprašali, zakaj je na vrhu vsebin, ki vam jih postreže priljubljeno družbeno omrežje, najbolj nezaslišana teorija zarote ali pa morda vsebina, ki vas takoj vrže iz tira in zavede v ure dolgo brskanje po strani?

Avstralski raziskovalec za digitalno varnost Zac Rogers je prepričan, da to nikakor ni naključje, ampak prefinjen način spletnih gigantov, da maksimizirajo svoj dobiček, četudi na račun ustvarjanja toksičnega okolja.

"Sodelujemo v sistemu, kjer pozornost regulira algoritem, ki je v osnovi optimiziran za več besa, ekstremizma, nasilja in sovraštva," je pred časom dejal Rogers, ki ga je povzel NZ Herald. 

Podpredsednik družbe Facebook za globalne zadeve in komuniciranje Nick Clegg je obtožbe sicer takrat zanikal, dejal je, da Facebook ne služi s sovraštvom. "Milijarde ljudi uporabljajo Facebook in Instagram, ker imajo dobre izkušnje. Nočejo videti sovražne vsebine, naši oglaševalci je nočejo videti in mi je nočemo videti," so še vztrajali v podjetju. 

A raziskovalcev, ki podpirajo Rogersovo mnenje, niti ni malo. Kmalu potem so prišla strokovna pričevanja pred ameriškim kongresom, na podlagi katerih je bilo mogoče ugotoviti, da izpodbijajo trditve gigantov. Pravijo namreč, da so se algoritmi, ki so v središču poslovnih modelov družbenih medijev, naučili, da jeza uporabnike na spletnem mestu zadrži dlje, spodbuja več interakcije, vse to pa poganja oglaševanje.

"Poraja se zavedanje, da so ogorčenje, sovraštvo, ekstremizem, nasilje ... Značilnost delovanja interneta. To ni napaka, ampak dejstvo," pravi Rogers, ki je preučeval dogajanje v Avstraliji.

Na družbenih omrežjih je našel pozive k nasilju, ekstremne primere teorij zarote. Ugotovil pa je tudi, kako počasi ali pa sploh ne deluje Facebookov sistem odstranjevanja takšnih vsebin. Medtem ko je bilo nekaj objav po pritožbah umaknjenih, je denimo skupina, ki je delila takšna sporočila, ostala aktivna.

Pa ne po naključju. "Skupine, ki širijo jezo in razburjenje, so vedno obstajale, jih pa tokrat izkoriščajo algoritmi. Podžiganje teh skupin poganja oglaševanje," poudarja Rogers.

Čeprav marsikdo pravi, da bi raje več prijetnih spletnih vsebin, podatki kažejo nasprotno. Veliko raje klikamo na neprijetne teme.
Čeprav marsikdo pravi, da bi raje več prijetnih spletnih vsebin, podatki kažejo nasprotno. Veliko raje klikamo na neprijetne teme. FOTO: Shutterstock

Malo klikamo lepe objave, veliko ekstremne objave

Pri vsem skupaj ne gre zanemariti, da svoj delež krivde nosimo uporabniki. V komentarjih pod novicami v medijih ali pod objavami na družbenih omrežjih je mogoče pogosto zaznati pozive, naj bo več bolj veselih novic. V teoriji uporabniki pravijo, da želijo poštene in uravnotežene poglede.

A eno je teorija, nekaj drugega pa praksa, saj kliki teh uporabnikov razkrivajo nekaj drugega, piše NZ Herald. Te vsebine so deležne veliko manj klikov.

"Zmerna vsebina in pozitivna čustva žal ne poganjajo informacij v tolikšni meri kot jeza. To je dejstvo človeške narave," pravi Rogers. "In algoritmi umetne inteligence so se tega naučili. V odsotnosti etike pa so se izpopolnili do te mere, da to izkoriščajo."

"Mark Zuckerberg skriva dejstvo, da ve, da so sovraštvo, laži in delitve dobri za posel," je pred odborom ameriškega predstavniškega doma leta 2020 povedal strokovnjak za digitalno forenziko Hany Farid.

Rogers pa pravi, da je bil škandal Cambridge Analytica iz leta 2017, ki je želel zagotoviti usmerjeno politično oglaševanje s precizno natančnostjo, le vrh ledene gore. "Odlično je, da lahko izvajaš mikrotargetiranje, vendar najprej potrebuješ pozornost targetiranih. In način, kako se pozornost zbere in izkorišča, je z vzbujanjem besa."

"Facebookov algoritem je tako v prvi vrsti algoritem za zbiranje pozornosti, šele nato algoritem za targetiranje," pravi Rogers. "Ker pa pozornost vzbujajo teme, ki polarizirajo, se na primer objave QAnona, ekstremistične vsebine, tako učinkovito ohranjajo v naši družbi, ker tako delujejo algoritmi."

Strupen poslovni model: ekonomija jeze

"Glavni strup tukaj je poslovni model. Poslovni model je v nasprotju z našimi družbenimi in demokratičnimi cilji," je Farid še zatrdil v kongresu.

Ekonomija jeze sicer ni nova in ne velja izključno za splet. Kričeči časopisni naslovi, jezni glasovi na televiziji – vse to je del ekonomije jeze, opozarjajo pri NZ Heraldu. So pa družbena omrežja po zaslugi umetne inteligence moč ekonomije jeze okrepila na neznosno raven.

Poleg tega so si tehnološki giganti v družbi izborili mesto, ko se jih nikoli ne sprašuje, nikoli ne kliče na odgovornost. Nihče – niti vlada – torej ne sme analizirati, kako delujejo algoritmi, kako so optimizirani ali kakšno človeško vedenje izkoriščajo.

"Tehnološka podjetja manipulirajo z našim občutkom identitete, lastne vrednosti, odnosov, prepričanj, dejanj, pozornosti, spomina, fiziologije in celo procesov oblikovanja navad brez ustrezne odgovornosti," je nekoč dejal nekdanji Googlov etik Tristan Harris. "Ta tehnologija je neposredno privedla do številnih neuspehov in težav, ki jih vsi vidimo: lažne novice, odvisnost, polarizacija, socialna izolacija, upadajoče duševno zdravje najstnikov, razmišljanje o zarotah, erozija zaupanja in zlom resnice."

Poslovni model družbenih medijev je nezdružljiv z demokracijo, menijo številni strokovnjaki.
Poslovni model družbenih medijev je nezdružljiv z demokracijo, menijo številni strokovnjaki. FOTO: Dreamstime

Tisti, ki so algoritme ustvarili, ne bodo poskrbeli, da bodo etični

Rešitve pa ni na obzorju. Rogers pravi, da bo vsak poskus dodajanja etike algoritmom škodoval dobičku, zato na bolj etične algoritme ne gre računati. Etične skupine znotraj tehnoloških gigantov tako ne služijo svojemu namenu. "Ko sem drugim strokovnjakom za etiko umetne inteligence in človekove pravice opisal delo ekipe za odgovorno umetno inteligenco, so opazili neskladje med težavami, s katerimi se je ukvarjala, in težavami, po katerih je Facebook najbolj razvpit. Zdi se, da je odgovorna umetna inteligenca popolnoma subjektivna stvar, glede na to, za kaj se podjetje odloči, da mu je mar," je pred časom dejala Ellery Roberts Biddle, urednica Ranking Digital Rights. "Sploh ne razumem, kaj mislijo, ko govorijo o pravičnosti. Ali menijo, da je pošteno priporočati ljudem, da se pridružijo ekstremističnim skupinam? Če vsi dobijo priporočilo, ali to pomeni, da je bilo pošteno?"

Svojo vlogo bi zato morali odigrati regulatorji in politika, ki pa izziva ne znajo ali ne želijo rešiti. Zatekajo se k slabim rešitvam. "Zdi se, da sta cenzura in zatiranje informacij refleksna poteza. Vendar ne bo delovala. Osnovni problem je, kako so ta podjetja zgradila internet, da bi izkoriščala in monetizirala najhujše človeške napake," še pravi Rogers.

Nezdružljivost z demokracijo

Posledice pa so lahko uničujoče. Poslovni model družbenih medijev je nezdružljiv z demokracijo, so pred časom sklenili strokovnjaki na razpravi Harvard Law School o stanju demokracije. Socialni mediji ne ogrožajo le demokracije v prihodnosti, ampak so že zdaj naredili precejšnjo škodo. Med največjimi kritiki je bil že omenjeni etik Tristan Harris: "Algoritem ima danes primat nad mediji, nad novicami, je pred založniki časopisov, nad vsakim od nas in nadzoruje, kaj počnemo."

Profesor pravne fakultete na Stanfordu Nate Persily je ocenil, da so družbeni mediji spodbudili bolj strupen politični dialog. "Sistem političnega komuniciranja, ki privilegira viralnost, tudi privilegira določene vrste kandidatur, strategij in komuniciranja tiste, ki nagovarjajo ogorčenje in čustva," je dejal.

Harris pa meni, da moramo v času družbenih omrežij, ki rušijo tudi izobraževanje in družbeno solidarnost, tudi na novo premisliti, kaj v času algoritmov pomeni svoboda govora. "Govorimo o svobodi govora, ko imamo trilijon dolarjev vredno umetno inteligenco, usmerjeno v vaše možgane, ki je zasnovana tako, da najde naslednjega popolnega črnega moža, ki bo razsvetlil vaš živčni sistem. To ni tisto, kar smo imenovali svoboda govora, ko smo se družili na mestnem trgu."

Šaljivi komentarji pasica

 

  • 8
  • 7
  • 6
  • 5
  • 4
  • 3
  • 2
  • 1

KOMENTARJI (84)

Opozorilo: 297. členu Kazenskega zakonika je posameznik kazensko odgovoren za javno spodbujanje sovraštva, nasilja ali nestrpnosti.

Pika005
18. 05. 2022 19.48
+1
Sovražni govor sprožajo politiki, zdaj se je pa razpasel tud med ovce.
Andrew16
18. 05. 2022 13.25
+4
Clanek, ki ni odraz pravega stanja na temu portalu. Zal. Ste globoko odvisni od …..in temu primerne vsebine in komentarji. Zdaj pa brisite komentar
User2243757
18. 05. 2022 13.20
+0
Čudo na 24ur!!! Napisali so članek brez: naj bi, po naših informacijah, baje...
Andrew16
18. 05. 2022 13.19
+4
Rdeci portal. Zapises resnico pa brisete. Potem pa tak clanek. Pateticno
User2243757
18. 05. 2022 13.23
+1
Pravkar sem napisal, pa so me izbrisali, da jim je uspelo napisat članek brez naj bi, po naših informacijah,...jao jao hahahaha
revolucija_mb
18. 05. 2022 12.12
+7
Ko tisti ki to počnejo, pravijo o drugih. 🤣🤣
Andrew16
18. 05. 2022 13.20
+1
FC Chelsea2
18. 05. 2022 12.04
+7
Sploh pa ne razumem kaj je zdj problem, če smo pa baje svobodni potem bi mogli in smeli govoriti kaj cemo ampak levaki to svobodo očitno drugace razumejo. Kaj bo goli otok za vse, ki si bodo drznili govoriti cez Golobčka?
FC Chelsea2
18. 05. 2022 11.58
+7
Na platformi 24ur ste to zadnjih dveh let konstantno to podpihovali ta sovražni govor pod pretvezo, da je to pravica govora. In zdaj cez noč kar naenkrat ste proti in bi radi, da tudi ljudje zacnejo govoriti o rožicah, ribicah, metuljckih sam, da ne bi grdo govorili proti novi oblasti, ker ste pri njih bili pri spovedi an? Pa tud ko imate pogovore z gosti iz bodoce oblasti z njimi delate v rokavicah pred tem pa prakticno niste pustili človeku, da pove svoje mnenje ampak ste mu kar vsilili vaše mnenje. Vglavnem ne snešite se.
Andrew16
18. 05. 2022 13.21
Tocno tako in tudi v bodoce imajo enak modus operandi. Razlicni vatli.
Rosimaro
18. 05. 2022 11.31
+3
Ta portal je najboljši na svetu.Pa me zdaj dajte zbrisat.Zdaj ko je svoboda plešemo plešemo.POP TV je naša luč
Rompompomsenegremodomov
18. 05. 2022 11.28
+5
Enako velja zaportale z novicami. Vazno je na kaj se klikne in bere, ce pa to slucajno zavaja bralce pa ni tako pomembno.
GMajky
18. 05. 2022 11.05
+11
js moram priznat, da odkar sem na temu portalu, je iz leta v leto moja komunikacija slabsa in bolj sovrazna! se opravicujem vsem ki sem jih tukaj uzalil in se zavezujem, da bom v prihodnje pisal manj sovrazno!!! upam da mi rata;)
Spužva
18. 05. 2022 11.17
+1
Si se pa izboljšal v slovenščini.... opažam 😉
Novinec
18. 05. 2022 10.45
+8
V sloveniji je svoboda govora in kaj je sovražni govor samo v domeni in tolmačenju levičarjev.Zato nikoli ne bo objektivno.
Benkooo
18. 05. 2022 11.19
+1
🕯️niso nič boljšie. Saj so vsi enak šmoren. Še nisem videl poštenega politika.
Novinec
18. 05. 2022 10.42
+12
Če je dovoljeno smrt Janšizmu potem mora biti dovoljeno tudi smrt Golobizmu,ali ne?Sam vprašam…
Vap0
18. 05. 2022 13.50
Kakšnem Golobizmu? Daj kakšen primer. Za janšizme ti jih lahko iz rokava stresem na stotine...
Ve?ni optimist
18. 05. 2022 10.36
+11
Eno samo sprenevedanje, .... nam pljunek v obraz, ... nekdo to dobro ve, ....
Lukrisa
18. 05. 2022 10.31
+3
Npr: Janez me spominja na balkanskega sladoledarja.😀
Lukrisa
18. 05. 2022 10.44
+2
Benkooo
18. 05. 2022 11.06
+2
Nisi edini. Sedaj pa kdo je pa drug sIadoledar?
Lukrisa
18. 05. 2022 12.16
-2
Nemorem verjet. Niso še izbrisali mojih komentarjev. Verjetno zato, ker napisano drži.
sudokujanko
18. 05. 2022 12.48
+1
če bi to napisal za GOLOBA, bi te zbrisali
ipissimus
18. 05. 2022 10.20
+7
Zanimivo napišeš nekaj kar je uradno potrjeno in si zbrisan.
lojze3
18. 05. 2022 10.22
+7
lojze3
18. 05. 2022 10.23
+5
lojze3
18. 05. 2022 10.20
+6
Smrt janšizmu je še dovoljeno?
lojze3
18. 05. 2022 10.21
+8
Malin3
18. 05. 2022 10.12
+15
Zdaj, ko je svoboda je treba paziti kaj govoriš in pišeš.
Big M
18. 05. 2022 10.05
+8
alo to brišejo vse kar ni po njihom vredno da je tu gor!!torej je res!hahaha, hvala vam da ste mi dokazali da sem imela PRAV kar sem prej natipkala v tistih dveh komentarjih🤣
Lukrisa
18. 05. 2022 10.03
+1
Pol bi mogli SDS ukinit.
Gospod .
18. 05. 2022 09.59
+4
Da ne bo kje pod pretvezo sovražnega govora izmaličeni mnenje, ki ni v skladu z vladajočimi. Aja, saj že pišejo, da so proti ekstremizmu in ekstremizem dandanes ni več to, kar bi naj bil. Primer je nasprotovanju koronskim ukrepom.