Točka osveščanja o varni rabi interneta in mobilnih naprav za otroke, najstnike, starše in učitelje

Algoritmi odkrijejo večino kršitev standardov skupnosti na Facebooku

29.5.2018

Facebook je pred kratkim z novimi smernicami podrobno pojasnil kaj je dovoljeno objavljati in česa ne smemo. Zdaj pa so objavili poročilo o izvrševanju, ki zajema njihova prizadevanja za uveljavljanje novih smernic med oktobrom 2017 in marcem 2018. poročilo zajema šest področij: grafično nasilje, golota odraslih in spolna dejavnost, teroristična propaganda, sovražni govor, neželeni zapisi (spam) in lažni računi.

V novem poročilu o izvrševanju standardov skupnosti je Facebook razkril podatke, koliko vsebin, ki kršijo standarde, je bilo odstranjenih in koliko nedovoljenih vsebin so odkrili z uporabo različnih algoritmov, preden so uporabniki Facebooka zadevo prijavili.

  • V času med oktobrom 2017 in marcem 2018 so pri Facebooku odstranili 837 milijonov neželenih zapisov oziroma spama, od katerih so skoraj vse našli in odstranili sami s pomočjo algoritmov.
  • V tem času so izbrisali približno 583 milijonov lažnih računov - večina jih je bilo onemogočenih že v nekaj minutah po registraciji.
  • Odstranili so 21 milijonov objav odrasle golote in spolne dejavnosti, od katerih jih je bilo 96 % najdenih s pomočjo algoritmov.
  • Umaknili so približno 3,5 milijona vsebin, ki prikazujejo grafično nasilje, od katerih so jih 86 % odkrili algoritmi.
  • V primeru sovražnega govora pa priznavajo, da algoritmi še vedno ne delujejo dovolj dobro, zato mora preverjanje potekati predvsem ročno, kljub temu pa so v omenjenem obdobju odstranili 2,5 milijona primerov sovražnega govora, od katerih so jih 38 % odkrili algoritmi.

Tehnologija, s katero Facebook odkriva in odstranjuje neprimerno vsebino je precej obetavna, a še vedno ni popolnoma učinkovita, kar se najbolj kaže na primeru sovražnega govora, ki je precej odvisen od konteksta, ne zgolj od zapisa samega. Kljub temu Facebook poroča, da se kaže napredek, zaradi česar želijo tovrstne informacije tudi javno objavljati in prikazati uporabnikom, da Facebook vlaga vse več  v to, da bi postal varen za vse.

 

Fakulteta za družbene vede

Center za družboslovno informatiko logo

Arnes MISSSInsafe


Za vsebine spletne strani odgovarjajo izključno avtorji (izvajalci projekta Center za varnejši internet). Evropska unija ne odgovarja za kakršnokoli morebitno uporabo na njej navedenih informacij.

Uporaba piškotkov

© Fakulteta za družbene vede, Univerza v Ljubljani.
Vse pravice pridržane, razen za vsebine (videi, gradiva, besedila, slike itd.), ki so objavljene pod licencami Creative Commons.