Центар за безбедност и приватност

Нашиот пристап кон опасни и измамнички содржини

Тимовите на Spotify работат деноноќно за да создадат безбедно и пријатно доживување за нашите создавачи, слушатели и огласувачи на реклами. Иако повеќето содржини на нашата платформа се усогласени со политиките и најголемиот дел од времето за слушање се поминува на лиценцирани содржини, лошите актери повремено се обидуваат да го уништат доживувањето споделувајќи измамнички и/или манипулирани информации. Кога ќе ги идентификуваме содржините што ги прекршуваат нашите Правила на платформата, веднаш преземаме соодветно дејство. Продолжи со читање за да дознаеш повеќе за тактиките што ги користиме за да го заштитиме Spotify.

Измамничките содржини може да имаат многу различни облици, од безопасни гласини, до многу сериозни, насочени кампањи создадени за ширење страв и штета во заедниците. Во променливиот свет, ваквите трендови еволуираат бргу и ја користиме стручноста на нашите внатрешни тимови и надворешни партнери за подобро да ги разбереме ваквите типови манипулација.

Во многу случаи, ваквите злонамерни наративи може да ги сподели некој што можеби не знае дека се лажни или погрешни. И иако некои невистини не се опасни („моето куче е најпаметно на светот“), други фрапантни примери очигледно се („ракот е измама“). Терминот „дезинформација“ често се користи за опишување повеќе типови манипулирани информации, вклучувајќи дезинформации, односно содржини што намерно се споделуваат од злонамерни актери за внесување сомнеж во автентичните содржини.

Опасните и измамничките содржини се суптилни и комплексни и за нив е потребна многу промислена проценка. Сметаме дека справувањето со ваквите типови прекршувања преку повеќе категории на политики ни овозможува да бидеме поефикасни и попрецизни кога носиме одлуки.

На пример, во нашите политики за „Опасни содржини“, јасно е наведено дека не дозволуваме содржини што промовираат лажни или измамнички медицински информации што може да предизвикаат офлајн штета или директно да го загрозат јавното здравје. Уште еден пример може да се најде во нашите политики за „Опасни содржини“, во којшто е наведено дека преземаме дејства во однос на содржините што се обидуваат да манипулираат со или да ги попречат процесите поврзани со избори, вклучувајќи содржини што ги заплашуваат или ги спречуваат гласачите да одат на гласање.

Кога ги проценуваме ваквите форми на онлајн злоупотреба, земаме предвид повеќе фактори, вклучувајќи:

  • суштината на содржините (на пример, дали создавачот се преправа дека е некој друг?)
  • контекстот (на пример, дали се работи за вест за опасен наратив што се шири или го поддржува самиот наратив?)
  • мотивацијата (на пример, дали создавачот се обидува да го измами корисникот да гласа по крајниот рок?)
  • ризикот од штета (на пример, дали постои голема веројатност дека ширењето на наративот ќе доведе до неизбежна физичка повреда?)

Опасните измами често се хиперлокализирани, насочени кон конкретни пазари, јазици и одредени популации изложени на ризик. За да се справиме со тоа, користиме стручни совети за локалниот пазар за да бидеме во тек со новите трендови што може да претставуваат сериозен ризик од штета и да го скалираме ваквото човечко знаење со класификатори за машинско учење. Пристапов е познат како „човекот во јамката“.

Знаеме дека ваквиот тип содржини може да доминира за време на периодите на несигурност и нестабилност, кога нема доволно авторитетни информации. Затоа, може да преземеме и различни дејства за содржините за да го ограничиме ширењето на потенцијално навредливите содржини за време на чувствителните настани, кога постои понагласен ризик од штетни наративи што доведуваат до офлајн насилство.

На пример, може да ја ограничиме можноста за откривање на содржините во препораките, да додадеме советодавно предупредување за содржините или да ги отстраниме од платформата. Може и да потенцираме содржини од авторитетни извори за да се погрижиме дека сите корисници имаат пристап до точни и доверливи информации, како линкови до официјални ресурси поврзани со избори развивани и одржувани од изборните комисии.

Постојано ги повторуваме нашите политики и насоките на прегледувачите според информациите од нашите тимови на Spotify, надворешните акционери и нашите партнери од Spotify Safety Advisory Council.

Повеќе за нашите работи поврзани со безбедноста може да прочиташ тука, а нашите насоки за создавачите за време на изборите во минатото може да ги разгледаш тука.