O nevarnosti algoritmov piše Zala Katarina Kenda.

Danes naše vedenje na družbenih omrežjih v veliki meri usmerjajo algoritmi, pogosto bolj kot mi sami. Ko odpremo TikTok ali Instagram, drsamo po objavah, ki nam jih predlaga algoritem. Na YouTubu gledamo posnetke, ki nam jih predlaga algoritem. Tudi na Netflixu pogosto izberemo filme in serije, ki nam jih predlaga algoritem, na Spotifyju pa seznam glasbe, ki ga je napravil algoritem. Kako pogosto se ustavimo in se vprašamo, kako vsi ti algoritmi delujejo, ali so nevarni in kako vplivajo na naše mišljenje?

Kako delujejo algoritmi družbenih omrežij in čemu služijo?

Algoritmi določajo, katere od neštetih objav, ki so vsak dan objavljene na družbenih omrežjih, bo uporabnik videl. Pri tem skušajo pokazati objave, ki so za posameznika najbolj relevantne in ga bodo čim dlje zadržale pri uporabi posameznega družbenega omrežja. Dlje ko uporabnik uporablja omrežje, večji je zaslužek platforme.

Kako natančno algoritmi delujejo, ni povsem jasno, znani pa so nekateri dejavniki. Gre za filtrirne sisteme, ki izbirajo, katere objave so za posamezne skupine pomembnejše. Zasnovani so tako, da spodbujajo čim večjo odzivnost uporabnika. Skušajo predvideti, kaj bo pridobilo posameznikovo pozornost in ga zadržalo na platformi. Pri tem upoštevajo vse, kar že vedo o uporabniku, njegovih preferencah in vedenju na spletu (denimo všečkih, času gledanja, klikih in komentarjih). Na podlagi tega predlagajo podobno vsebino. Poleg tega upoštevajo tudi splošno viralnost objav in dajejo prednost plačanim vsebinam. 

Zakaj so algoritmi lahko nevarni?

Morda se ne zdi preveč problematično, če nam zaradi všečkanja posnetka o vrtnarjenju družbeno omrežje naslednji dan predlaga trgovino za vrtnarjenje v bližini. Ali če nam, ker sledimo nogometašu, predlaga več športnih vsebin. Vendar imajo lahko algoritmi tudi zelo nevarne posledice.

Raziskava CCDH (glej vire) je leta 2024 izvedla simulacijo računa trinajstletne deklice na YouTubu, ki je »pogledala« en posnetek o motnjah hranjenja. Po tem so pregledali tisoč predlogov YouTubovega algoritma in ugotovili, da je bila tretjina teh posnetkov škodljiva vsebina, povezana z motnjami hranjenja, vključno s posnetki, ki so spodbujali ekstremno omejevanje kalorij in nevarne diete. V drugi raziskavi so ugotovili, da je TikTok račun najstnice v 39 sekundah od ustvarjanja profila pokazal posnetek o telesni podobi in duševnem zdravju, v 2,6 minute vsebino o samomoru in v 8 minutah posnetek o motnjah hranjenja. Na tak način so lahko algoritmi neposredno nevarni.

Kaj pa vpliv na naše mišljenje?

Na eni strani algoritmi personalizirajo, kar vidimo na družbenih omrežjih. Kot del tega ustvarjajo tako imenovane odmevne komore (echo chambers) in filtrirne mehurčke (filter bubbles), kar pomeni, da večinoma vidimo objave, ki potrjujejo naša obstoječa prepričanja, nasprotni pogledi pa so nam pogosto skriti. Zaradi tega pogosto dobimo občutek, da imajo vsi enako mnenje kot mi. Naše mnenje se nam vedno znova potrjuje kot tisto pravo. To je za razvoj našega mišljenja in samostojnosti nevarno, saj je zanju nujno poznavanje in odkrivanje različnih perspektiv (včasih še posebej tistih, ki so drugačne od naših!).

Na drugi strani pa algoritmi raje spodbujajo prav določene glasove in ideje. Raje predlagajo tiste vsebine, ki so priljubljene. Mednje pogosto sodijo predvsem kontroverzne vsebine, kot so denimo teorije zarote, lažne informacije ali sovražni govor, saj sprožijo veliko čustvenih odzivov, pa naj gre za strinjanje ali nestrinjanje.

Kako ustaviti moč algoritmov?

Zdi se, da je potreben dvojen odziv. Najprej odgovornost, predvsem za mlade, leži na lastnikih družbenih omrežij in državah, ki bi morali poskrbeti za večjo regulacijo delovanja algoritmov ter večjo transparentnost tega, kako delujejo.

Do takrat pa se lahko do določene mere zaščitimo tudi sami – najprej tako, da se informiramo, saj lahko nevarne posledice delovanja algoritmov lažje preprečimo, če jih bolje poznamo. Nato pa še s tem, da se pri uporabi družbenih omrežjih večkrat ustavimo in razmislimo o vsebinah, ki nam jih predlagajo, morda aktivno izberemo drugačne, poiščemo drugačne perspektive in, ko je vsega dovolj, tudi odložimo telefon.

Viri

• Center for Countering Digital Hate. (2025). What Are Algorithms and How Do They Make Social Media More Harmful? https://counterhate.com/blog/what-are-algorithms-and-how-do-they-make-social-media-more-harmful/#how-algorithms
• Roese, V. (2018). You Won’t Believe How Co-Dependent They Are: Or: Media Hype and the Interaction of News Media, Social Media, and the User. V P. Vasterman (ur.), From Media Hype to Twitter Storm (str. 313–332). Amsterdam University Press. https://doi.org/10.2307/j.ctt21215m0.19