Hvordan tackler sociale netværk hadefulde ytringer?
AI-programmer og anmeldere af menneskeligt indhold slår ned på stødende kommentarer online
Zach Gibson/AFP/Getty Images
Hadefulde ytringer er ikke et nyt fænomen for sociale netværkswebsteder, men lørdagens højreekstremistiske demonstration i Charlottesville, Virginia, der efterlod en demonstrant død, har ført til, at virksomheder skrider til handling mod offensive grupper online.
Her er, hvordan de største sociale mediegrupper reagerer på hadefulde ytringer, såvel som deres planer om at forhindre stødende indhold i at spredes:
Efter de voldelige begivenheder i Charlottesville lørdag, Engadget siger, at Facebook har 'lukket adskillige hadgrupper i kølvandet på angrebene', herunder 'begivenhedssiden for Unite the Right-marchen, der udførte volden'.
Den sociale mediegigant bruger en kombination af kunstig intelligens (AI) og menneskelige indholdsanmeldere til at finde hadefulde ytringer, som Randen siger fjerner '66.000 had-mail-indlæg om ugen'. Men siden siger, at Facebook 'er stærkt afhængig' af, at brugere rapporterer indhold som stødende eller hadefuldt.
I maj hyrede Facebook yderligere 3.000 personer til sit 'hold af indholdsanmeldere', siger TechCrunch , hvilket bringer det samlede antal op på 7.500. Dette blev udløst af flere globale 'indholdsmodereringsskandaler', herunder brugen af Facebook Live 'til at udsende mord og selvmord.'
Men Kablet siger, at der har været situationer, hvor virksomhedens 'algoritmiske og menneskelige anmeldere' har stemplet kommentarer eller indlæg som stødende uden at tage konteksten i betragtning. For eksempel siger hjemmesiden, at nogle ord 'råbt som besværgelser' nogle gange 'genvindes' af grupper 'som et middel til selvudfoldelse.'
Twitters politik for hadefuld adfærd siger, at tjenesten ikke 'tillader konti, hvis primære formål er at tilskynde andre til skade' på baggrund af områder som race eller seksuel orientering.
Det Uafhængig rapporterer, at siden i løbet af de sidste måneder har introduceret flere systemer og værktøjer til at opdage og fjerne hadefulde ytringer, samt forbedre processen, hvor dets brugere manuelt rapporterer stødende materiale.
Men det sociale medie har været i 'en del varmt vand i de seneste måneder med hensyn til en opfattet mangel på handling i kølvandet på opfattede trusler', siger TechCrunch , hvilket førte til, at en aktivist sprøjtede 'hadesprog på gaderne uden for virksomhedens hovedkvarter i Berlin.'
I kølvandet på lørdagens sammenstød siger hjemmesiden, at kontoen for den højreekstremistiske gruppe The Daily Stormer er blevet fjernet, selvom 'Trumps tweets, der vipper på kanten af truende atomkrig', ser ud til at falde i tråd med selskabets politik.
Chatforummet Reddit har også slået ned på hadefulde ytringer. Engadget siger, at hjemmesiden har 'lukket adskillige hadgrupper i kølvandet på angrebene'.
Blandt grupperne, der blev fjernet fra det sociale medie, var subreddit /r/Physical_Removal, en side Engadget siger 'håbte, at folk i anti-had subreddits og på CNN ville blive dræbt, støttede koncentrationslejre og skrev endda digte om drab.'
'Vi er meget klare i vores servicevilkår for, at posting af indhold, der opfordrer til vold, vil få brugere udelukket fra Reddit,' fortalte Reddit Cnet .
Selvom Google ikke udelukkende er et socialt netværk, spiller teknologigiganten en nøglerolle i at styre internettrafikken og de sociale apps, som brugerne kan få adgang til.
Siden sammenstødet i Charlottesville i lørdags, TechCrunch siger, at firmaet har fjernet det 'konservative sociale netværk' Gab fra sin Play Butik, da det var blevet et 'tilflugtssted' for brugere, der er forbudt fra almindelige platforme.
Google siger, at det ikke understøtter 'indhold, der promoverer eller tolererer vold mod enkeltpersoner eller grupper' baseret på visse kriterier, og tilføjer, at det 'i høj grad afhænger af, at brugerne giver os besked om indhold, der kan overtræde vores politikker'.
Men TechCrunch siger, 'det er ikke klart, hvad Gab specifikt gjorde, der berettigede, at den blev smidt ud af butikken', da appen er et chatrum og ikke ser ud til aktivt at fremme hadefulde ytringer. Hjemmesiden siger 'der er masser af hadefulde ytringer på Twitter og YouTube', men disse er stadig tilgængelige til download på trods af denne uges 'krak' på stødende indhold.
Ifølge Randen , Gab er 'aldrig blevet godkendt til placering i Apples App Store'.
Hvad laver andre?
Et af de bemærkelsesværdige tilfælde af nedkæmpelsen af hadefulde ytringer efter lørdagens begivenheder omfatter webdomænenavne-forhandleren GoDaddy, der smider The Daily Stormers hjemmeside fra sin tjeneste, siger Registeret .
Hjemmesiden siger, at aktivister fortalte detailhandleren, at gruppen kom med 'ekstraordinært vulgære og nedsættende bemærkninger' om offeret for Charlottesville-angrebet, Heather Heyer. GoDaddy gav The Daily Stormer 24 timer 'til at flytte domænet til en anden udbyder'.
Vi informerede The Daily Stormer om, at de har 24 timer til at flytte domænet til en anden udbyder, da de har overtrådt vores servicevilkår.
- GoDaddy (@GoDaddy) 14. august 2017
YouTube forventes også at 'indføre strengere retningslinjer med hensyn til hadefulde ytringer', rapporterer TechCrunch . Dette kan se, at flere videoer bliver fjernet, efter at brugerne har markeret dem som stødende, selvom der ikke er noget ulovligt i indholdet.
