Åsikt: Är Metas säkerhetsregleringssystem trasigt?

Nästan varje innehållsskapare eller aktiv sociala medier-chef har ställts inför samma problem när de postar på Facebook eller Instagram nyligen: ett inlägg eller ett konto blockeras, troligen av fel skäl.

Denna irriterande situation är bara en bit av pusslet i ett komplext problem med Metas innehållsregleringssystem. Trots att Meta verkar ha många kontrollåtgärder – ibland absurda – verkar roten till problemet inte vara löst.

Under de senaste månaderna har Meta introducerat flera uppdateringar av sina innehållsriktlinjer och infört strängare regler i syfte att skapa en hälsosammare online-miljö. En av konsekvenserna har varit att många företag, förlag och användarkonton har blivit bannlysta, vilket har lett till hundratals klagomål över forum, chattplattformar och sociala mediekanaler. Flera nyhetsförlag och varumärken togs bort från Metas plattformar i vissa regioner i år, vilket väckte oro bland företagsägare, journalister och innehållsskapare.

Trots Metas senaste uppdateringar, som ger intrycket av strängare moderering och närmare granskning av innehåll som delas på dess plattformar, fortsätter inlägg relaterade till droger, självmord, sexuella trakasserier, mobbning, hatprat, missbruk och falska nyheter att slinka igenom algoritmerna och nå sårbara samhällen.

Jag kan inte låta bli att undra: Vad händer med Metas säkerhetsregleringssystem?

Konton bannlysta av fel skäl

Allt börjar med ett liknande meddelande: ”Ditt Meta-konto följer inte våra regler.” Många Facebook- och Instagram-användare har blivit bannlysta eller tillfälligt utsparkade från sina konton ”för att inte följa” Metas regler, även när de tror att de har det.

Det är en situation som vi har upplevt på Wizcase. Metas system flaggade relevanta objekt som olämpliga och fick community managern att gå igenom en överklagandeprocess och tillhandahålla ID-handlingar utfärdade av regeringen.

Hundratals användare, community managers och kontohanterare har klagat på plattformar som Reddit och andra forum, chattar och sociala mediekanaler om liknande situationer. I flera olyckliga scenarier förlorar användare sina konton och det finns ingenting de kan göra åt det, och de får inte ens en förklaring.

“Supportteamet på Facebook är fruktansvärt. Oavsett hur många gånger vi berättar allt för dem eller förklarar allt för dem, så fattar de helt enkelt inte,” sa en användare på Reddit i en tråd om förbjudna konton. “En sak jag kan säga direkt är att du inte kommer att få ditt konto återställt om du inte spenderade hundratusentals om dagen,” tillade en annan.

Detta problem, även om det kan verka som att det endast påverkar innehållsskapare, är endast en liten del av en större utmaning.

Meta Mot Stämningar

I åratal har Meta investerat i innehållsmoderering och utvecklat nya strategier för att skapa en säkrare plattform för användare och skydda sig själva mot fler rättsprocesser – den senaste kommer från kinesiska innehållsmoderatorer, som för närvarande kräver 1,6 miljarder dollar i ersättning för massuppsägningar och för det påfrestande material de utsattes för när de analyserade innehåll för Facebook.

Teknikföretaget förlitar sig på tredjepartsaktörer för att hjälpa till med innehållsregleringar och utvecklar verktyg för att känna igen när innehåll bryter mot plattformens regler. Trots detta har dessa åtgärder inte varit tillräckliga och situationen har kommit ur hand, särskilt bland minderåriga användare.

I 2021 introducerade Meta nya skyddsfunktioner, men det hindrade inte Senaten från att inkludera Instagram och Facebook bland de plattformar som ansågs skadliga för barn förra året. Teknikjätten stod inför en gemensam stämningsansökan från 33 stater i USA på grund av dess manipulativa och skadliga algoritm.

Sedan januari har Meta delat uppdateringar om nya säkerhetskontrollverktyg. I juni förbättrade företaget sitt verktyg mot trakasserier för att skydda tonåringar på Instagram med en standardinställning ”Nära vänner” och en ”Gränser”-funktion så att bara riktiga vänner och familj kunde interagera med innehållet som unga användare postade.

För bara några dagar sedan meddelade företaget den nya Tonårskonton för att skydda tonåringar och ”försäkra föräldrar om att tonåringar har säkra upplevelser.” Skulle det räcka för att skydda barn? Vad med äldre användare?

Ett osäkert ekosystem

Facebook, Instagram och WhatsApp är fortfarande plågade av skadligt innehåll som påverkar användare, av alla åldrar, yrken och sociala grupper, och det kommer knappast att lösas när som helst snart.

En studie utförd av Center for Countering Digital Hate (CCDH) analyserade över 500 miljoner kommentarer på Instagram gjorda på konton tillhörande 10 kvinnliga politiker i USA och avslöjade att Meta misslyckades med att ta bort eller vidta åtgärder mot 93% av dessa kommentarer.

De många stämningarna mot Meta har bokstavligen bevisat att företaget kämpar med att skydda användare från skadligt innehåll, och har också skadat skapare, utgivare och varumärken med orättvisa filter och dåligt implementerade säkerhetsverktyg.

Självklart är detta en komplex och djupgående fråga som bör behandlas i detalj, men kanske är det dags att acceptera att Meta inte har kunnat hantera denna situation. Plåster-på-såren-lösningar kommer inte att rätta till ett system som i grunden är trasigt. Nu är den verkliga frågan: Hur många fler användare behöver bli orättvist bannlysta, vilseledda eller manipulerade innan en verklig förändring sker?