Beviser 'Elsagate', at YouTube er for stort til at kontrollere?
Skandale med voldelige og seksuelle videoer rettet mod børn afslører vanskeligheden ved at stole på algoritmer
Catrinus Van Der Veen / AFP / Getty Images
I februar, YouTube annonceret det havde ramt en svimlende milepæl: besøgende forbrugte nu hvad der svarer til en milliard timers video hver dag.
Størrelsen af platformens brugerbase er lige så forbløffende. Mere end 1,5 milliarder mennesker bruger YouTube, siger The Guardian Roger McNamee, hvilket giver den en global rækkevidde, der kan sammenlignes med islam.
Men, som de siger, med stor magt følger et stort ansvar, og den nylige ElsaGate, en skandale, der involverer forstyrrende videoer rettet mod børn, har fået nogle til at spekulere på, om YouTube er blevet et Frankensteins monster, uden for dets skaberes kontrol.
Hvad er ElsaGate?
Nogle af YouTubes mest populære kanaler er rettet mod børn, hvor skabere, der er specialiseret i børnerim, farverige tegnefilm og de almægtige videoer, der udpakker legetøj, får millioner af abonnenter og milliarder af visninger.
Men der er et problem. YouTube er fuldstændig oversvømmet med ekstremt voldelige, upassende, seksuelt orienterede videoer rettet mod børn, siger Inquistr , og disse videoer er ved at finde vej til autoplay-lister sammen med alderssvarende klip.
Journalisten James Bridle dykkede ned i dette foruroligende fænomen, døbt Elsagate efter den populære Frozen-karakter, der optræder i mange af videoerne, for en artikel med titlen Something is Wrong på internettet på Medium denne måned.
Han fandt ud af, at efterhånden som indholdsskabere jagter seere, gentages vellykkede - og oprindeligt harmløse - formler for at opnå visninger uendeligt på tværs af netværket i stadig mere besynderlige og forvrængede rekombinationer.
På deres mest ekstreme, omfatter disse en legion af foruroligende videoer, som ser ud til at være produceret, eller i nogle tilfælde automatisk genereret, som svar på populære søgeord. De har ofte foruroligende temaer og seksuelt eller voldeligt indhold.
For eksempel returnerer en søgning efter Peppa Pig-tandlægen et hjemmelavet klip, hvor den populære børnekarakter tortureres, før den bliver til en række Iron Man-robotter og udfører Learn Colors-dansen.
ElsaGate har genereret en strøm af respons fra bekymrede forældre, medierne og internet-spekulere dedikeret til at finde ud af, hvem eller hvad der laver disse foruroligende videoer og hvorfor.
Er YouTube blevet for stort til at kontrollere?
I hjertet af ElsaGate og andre kontroverser om YouTubes indhold, såsom videoer, der promoverer terrorisme eller vold, er almagten af platformens algoritmer.
I modsætning til hvad nogle forældre måske tror, er indhold på YouTubes dedikerede Kids-app ikke kureret eller endda forhåndsscreenet af mennesker. I stedet vises foreslåede videoer automatisk på dens autoplay-liste baseret på delte søgeord eller lignende målgrupper.
Alene størrelsen af YouTubes katalog rækker ud over mulighederne for menneskeligt tilsyn. Indhold uploades til platformen svarende til 400 timers video hvert minut ifølge Statista .
Den utrolige udbredelse af videoer, der tydeligvis er blevet produceret som svar på almindelige søgetermer, viser, i hvilket omfang YouTube i det væsentlige drives af maskiner, siger Medium's Bridle.
På en platform, hvor indholdssynlighed – og dermed potentiale for annonceindtægter – er styret af algoritmer, selv hvis du er et menneske, skal du ende med at efterligne maskinen.
ElsaGate har afsløret en langvarig sandhed om YouTube, som ikke længere kan ignoreres, siger Polygon : filtrene designet til at beskytte brugere i alle aldre mod forstyrrende, voldeligt eller ulovligt indhold er ikke op til opgaven.
Algoritmerne bliver flået fra hinanden, analyseret og slået op af indholdsskabere, menneskelige eller automatiserede, som er blevet dygtige til at spille systemet for at sikre, at deres output bliver set.
I et særligt berygtet eksempel lykkedes det sjovere på 4chan-meddelelsestavlen at splejse pornografi i børneshows og spille algoritmen for at sikre, at videoerne blev indtægtsgenereret og set, siger Polygon.
Kan problemet løses?
YouTube har lovet at slå ned på plagen af upassende børns videoer, der glider forbi filtrene på sin Kids-app.
Juniper Downs, direktør for politik, sagde, at et nyt system, der går forud for ElsaGate-afsløringerne, vil klassificere videoer markeret af brugere som aldersbegrænsede, hvilket automatisk vil holde dem ude af YouTube Kids-appen.
På et bredere plan er der tegn på, at YouTube ændrer sin holdning til indholdskuration mod en mere praktisk tilgang, foranlediget af pres fra regeringer, der er bekymrede over onlineekstremisme.
Flere terrorangreb i Europa og USA er blevet begået af personer, der menes at være blevet selvradikaliseret til dels ved at se YouTube-propagandavideoer lavet af grupper som Islamisk Stat og deres sympatisører.
Politikere har truet med at gribe ind over for teknologivirksomheder, der ikke styrker foranstaltningerne til at fjerne videoer, der indeholder ekstremistisk indhold. Alphabet, YouTubes moderselskab, ser ud til at tage truslerne alvorligt.
Tidligere var inflammatoriske religiøse eller politiske videoer tilladt på YouTube, hvis de ikke overtrådte webstedets regler om grafisk indhold eller promovering af vold, selvom de ikke var kvalificerede til annonceindtægter.
Det bekræfter en YouTube-talsmand Reuters deres politik er ændret for at forbyde enhver video, der viser personer eller grupper, der er klassificeret som terrorister, herunder materiale såsom foredrag af al-Qaeda-rekruttereren Anwar al-Awlaki.
Men selvom YouTube udvikler nye strategier til at rette smuthullerne, forbliver konsekvenserne af ElsaGate foruroligende på et mere dybtgående niveau, siger TechCrunch Natasha Lomas.
YouTube-mediet tilskynder indholdsfabrikker til at producere klikfoder, skriver Lomas, og udsætter en generation for en flodbølge af popkultur-slam baseret på søgeord frem for sammenhæng. Det er svært at forestille sig noget positivt, der kommer fra noget så bevidst base- og bundfodring, der systematisk bliver skubbet foran børns øjenæbler.
