Kultur & Nöjen

Porr, tortyr och konst – Städare i sociala medier matas med det ingen får se.

Plötsligt blir det svart i rutan. En konstnärligt godkänd nakenbild plockas bort från en social mediesajt. Ett foto av ett normbrytande sexuellt uttryck, till exempel två män som kysser varandra, censureras oförklarligt.
Den 3 juni skrev Fotografiska på Facebook: "Här skulle vi ha visat bilder från utställningen med Anders Zorn […] Tyvärr [anser] Facebook att bilderna är stötande".
Sådant skapar såklart rubriker. Och frågorna som ställs i samband med att till exempel Facebook, Youtube eller Instagram enväldigt raderar innehåll som riskerar att bryta mot deras konservativa riktlinjer är ofta relevanta. Inte minst med tanke på det inflytande som de sociala mediernas flöden har över vår vardag.
Men vad som aldrig diskuteras när rapporteringen om censur drar igång är vilka det är som har som jobb att göra avvägningen mellan att radera och passera när en naken dalkulla i svartvitt anmäls som stötande.
Algoritmer, tänker man. Men det är bara en del av svaret.
Det tyngsta jobbet görs av människor. Ofta av nyutexaminerade akademiker som hotas av arbetslöshet. Eller billig arbetskraft i Asien.
Det är de som från sina kontorslandskap städar våra digitala vardagsrum från kukbilder, våldsporr, halshuggningar och självmord.
Inte mycket är känt om den här industrin, som på engelska kallas commercial contentmoderation. Men enligt ett reportage i tidningen Wired i vintras sysselsätter den över 100 000 personer. Sannolikt utgör de i genomsnitt hälften av arbetskraften på de företag som utvecklar och tillhandahåller sociala medier.
I reportaget står det att många av tjänsterna använder sig av ett tvådelat system, där den mest basala innehållskontrollen outsourcas till låglöneländer som Filippinerna, medan svårare avvägningar – där det krävs större kulturell kännedom – görs av arbetskraft från den region där anmälan gjorts.
När en användare flaggar ett innehåll, alltså anmäler något olämpligt, dyker det upp på skärmen hos innehållskontrollanterna, som på kort tid måste fälla sina avgöranden.
Det kan vara allt från provokativ konst till det absolut mörkaste av mänskliga uttryck.
Enligt reportaget i Wired är flödet konstant.
Timmar av djurplågeri, tortyr och porr.
Enligt en av de få som forskar på området, den kanadensiska medievetaren Sarah T Roberts, lider många av dem som jobbar med kontrollerna av psykiska besvär. Mest traumatiserande är filmer och bilder från krigszoner, berättade hon för radiostationen CBC Ontario förra året.
De flesta av kontrollanterna arbetar också under sekretess, vilket gör det svårt för dem att prata av sig om det som de har upplevt under en arbetsdag.
Flera av dem slutar efter bara några månader.
Ideologin bakom de avväganden som görs när sajter som Facebook och Youtube plockar bort innehåll ska granskas stenhårt. Men också villkoren för de många gånger bortglömda arbetare, som när de granskar en bild med misstänkt barnporr, också råkar radera ett par foton av Anders Zorn.
Gå till toppen