Centar za sigurnost i privatnost

Naš pristup opasnom i obmanjujućem sadržaju

Spotify timovi neprekidno rade kako bi stvorili siguran i ugodan doživljaj za autore, slušatelje i oglašivače. Dok je većina sadržaja na našoj platformi usklađena s pravilima i većina vremena slušanja troši se na licencirani sadržaj, zlonamjerne osobe povremeno pokušavaju pokvariti iskustvo dijeljenjem zavaravajućih i/ili manipuliranih informacija. Kada identificiramo sadržaj koji krši Pravila platforme Spotify, odmah poduzimamo odgovarajuću radnju. Nastavite čitati kako biste saznali više o taktikama koje koristimo kako bismo zaštitili Spotify.

Obmanjujući sadržaj može imati mnoge različite oblike, od bezazlenih glasina do vrlo ozbiljnih, ciljanih kampanja osmišljenih za širenje straha i štete u zajednicama. U svijetu koji se mijenja ti trendovi se brzo razvijaju i mi koristimo stručnost naših internih timova i vanjskih partnera kako bismo bolje razumjeli ove vrste manipulacije.

U mnogim slučajevima ove vrste zlonamjernih priča može dijeliti netko tko možda ne zna da su lažne ili zavaravajuće. I dok neke neistine nisu opasne („moj pas je najpametniji na svijetu“), drugi ozbiljniji primjeri očito jesu („rak je prijevara“). Izraz „dezinformacija“ često se koristi za opisivanje više vrsta manipuliranih informacija, kao npr. sadržaj koji zlonamjerne osobe namjerno dijele kako bi posijale sumnju u autentičan sadržaj.

Opasan i obmanjujući sadržaj vrlo je složen i iziskuje promišljenu procjenu. Vjerujemo da nam rješavanje ovih vrsta kršenja provedbom više kategorija pravila omogućuje da budemo učinkovitiji i precizniji u svojim odlukama.

Na primjer, u našim pravilima o opasnom sadržaju jasno navodimo da ne dopuštamo sadržaj koji promiče lažne ili zavaravajuće zdravstvene informacije koje mogu uzrokovati štetu u izvanmrežnom načinu ili izravno ugroziti javno zdravlje. Drugi primjer je u našim pravilima o zavaravajućem sadržaju, koja naglašavaju da poduzimamo radnje u vezi sa sadržajem koji pokušava manipulirati ili ometati izborne procese, uključujući sadržaj koji zastrašuje ili sprečava sudjelovanje birača na izborima.

Kada procjenjujemo ove oblike online zlostavljanja, u obzir uzimamo više čimbenika koji uključuju:

  • suštinu sadržaja (na primjer, pretvara li se autor da je netko drugi?)
  • kontekst (na primjer, radi li se o vijesti o opasnoj priči koja se širi ili podržava samu priču?)
  • motivaciju (na primjer, pokušava li autor prevariti korisnika da glasa nakon isteka roka?)
  • rizik od štete (na primjer, postoji li velika vjerojatnost da će širenje priče rezultirati neizbježnom fizičkom ozljedom?)

Opasna prijevara često je hiperlokalizirana, usmjerena na određena tržišta, jezike i određene rizične populacije. Kako bismo se nosili s time, koristimo stručnost na lokalnom tržištu kako bismo osigurali da smo u toku s novonastalim trendovima koji mogu predstavljati ozbiljan rizik od štete, a ovo ljudsko znanje prilagođavamo pomoću klasifikatora strojnog učenja. Ovaj pristup poznat je kao „čovjek u tijeku“.

Shvaćamo da ova vrsta sadržaja može prevladavati u razdobljima nesigurnosti i nestabilnosti kada je dostupno malo vjerodostojnih informacija. Iz tog razloga također možemo poduzeti niz radnji nad sadržajem kako bismo ograničili širenje potencijalno uvredljivog sadržaja tijekom osjetljivih događaja kada postoji izraženiji rizik od štetnih narativa koji dovode do nasilja izvan mreže.

Na primjer, možemo ograničiti mogućnost otkrivanja sadržaja u preporukama, uključiti upozorenja o sadržaju ili ga ukloniti s platforme. Također možemo istaknuti sadržaj iz vjerodostojnih izvora kako bismo osigurali da naši korisnici imaju pristup točnim i pouzdanim informacijama kao što su veze na službene resurse povezane s glasovanjem koje su izradila i održavala izborna povjerenstva.

Kontinuirano ažuriramo naša pravila i smjernice za recenzente na temelju unosa naših vlastitih Spotify timova, vanjskih dionika i naših partnera u Spotifyjevom savjetodavnom vijeće za sigurnost.

Ovdje možete pročitati više o našem sigurnosnom radu, a naše smjernice za autore tijekom prošlih izbora ovdje.