AI-avatars kan sprida felinformation, men även sanning i censurtunga länder som Venezuela

Jag återvände till mitt hemland, Venezuela, förra året i några månader efter flera år utomlands. En av sakerna som fångade min uppmärksamhet under min vistelse var denna virala video av ”amerikanska TV-ankare” som förklarade den ekonomiska situationen i landet och hur den hade förbättrats, på engelska med spanska undertexter. Det såg inte verkligt ut, och jag blev genast misstänksam – tyvärr var inte de som bodde där det.

”Vi ville ta reda på om Venezuela verkligen är så förstört som media har påstått i flera år,” sa Noah, den blonda ”journalisten” från denna okända nyhetskanal som kallas House of Media, i en av videorna som blev viral på sociala medier, som regeringen delade på lokal TV, och som till och med marknadsfördes online av Nicolás Maduro, Venezuelas autokrat.

”Det händer,” tänkte jag efter att ha pratat med några venezuelaner som trodde att AI-avatarna var riktiga journalister, ”Maduros regim använder AI för att sprida desinformation och det fungerar.” Även om det inte var bekräftat att Maduros administration låg bakom det, avslöjades det senare att videorna var AI-avatrar skapade av AI-företaget Synthesia – som nyligen utvecklade avatrar som kan uttrycka mänskliga känslor. Enligt VICE, tog Synthesia vid denna tidpunkt $30 i månaden, och liknande videor skapades för propaganda i Afrika och Asien.

Men precis när jag började känna förtvivlan över att deepfakes användes för illvilliga syften och desinformation i flera länder, kom en intressant vändning som återvände min uppmärksamhet och hopp: Venezuelas journalister använder AI för att informera och sprida sanningen.

AI-Avatarer: Anonymitet som en fördel

Ett av problemen med deepfakes är anonymiteten. Om ingen bekänner – som den där trollkarlen från New Orleans berättade för journalister om sin roll i robocalls som imiterade president Joe Biden under primärvalen – kan det vara svårt att hitta författarna till viss AI-genererat innehåll eftersom AI-avatarerna inte ger information om den verkliga personen. Men vad om det faktiskt är en lösning i vissa scenarion?

I länder som Venezuela är det farligt att dela information som går emot regeringen, även om du inte är journalist, även för bara ett inlägg på sociala medier – det finns flera fall av människor och studenter som Villca Fernández som skickats till fängelse för en tweet. Folk gör det fortfarande, men det är mycket riskabelt.

Det är här AI-avatarer kommer väl till pass. Enligt Reuters, lanserade Connectas, en organisation baserad i Colombia, ett nytt projekt kallat ”Operation Retweet”, tillsammans med initiativen #LaHoraDeVenezuela och Venezuela Vota, efter presidentvalet den 28 juli. Målet är att dela verklig information framtagen av oberoende medier genom att använda två AI-karakterer, La Chama (flickan) och El Pana (”kompis” i venezuelansk slang)

Videorna delas på sociala medier genom de kvarvarande oberoende nyhetskanalerna och andra kommunikationskanaler som WhatsApp. Till skillnad från AI-avatarerna från House of Media som jag såg förra året, ser dessa nya karaktärer lite mer konstgjorda ut och avslöjar det från början. ”Innan vi börjar, om du inte har märkt det, vill vi berätta att vi inte är verkliga,” säger La Chama i den första videon som publicerades. ”Vi genererades av Artificiell Intelligens, men innehållet är verkligt, verifierat, högkvalitativt och skapat av journalister,” tillägger El Pana.

Flera videor har delats på sociala medier, på engelska och spanska, och genom flera webbplatser och andra kommunikationskanaler. Projektet har fått internationellt beröm och beundrats som en strategi för att bekämpa censur.

📢 Tredje avsnittet av Operacion Retuit!#InvaluableJournalism

🎥 Detta avsnitt fokuserar på den nyligen genomförda lagen som reglerar icke-statliga organisationer i 🇻🇪. Är det civila utrymmet på väg att stängas ner för gott?🚨

🔗 👉🏽 https://t.co/SkFE5KKQBu

Läs och dela.📲🔄#VenezuelaVota #LaHoraDeVenezuela pic.twitter.com/HAdlqBXwnh

— CONNECTAS (@ConnectasOrg) 6 september, 2024

Teknologi blir nyckeln till överlevnad

Digitala plattformar har varit oumbärliga för venezuelaner i flera år. Jag minns att jag hjälpte min familj att hitta min mormors medicin genom Twitter (nu X) tillbaka i 2016 och 2017 när medicinbristen låg på hela 85% i landet.

Många venezuelaner blir tekniskt kunniga av nödvändighet och utnyttjar varje digital plattform till fullo. Jag var imponerad förra året över hur företag och kunder hanterade så många transaktioner via WhatsApp. Jag fick matleverans och bokade mina transporter genom denna plattform eftersom populära appar som Uber Eats, Uber, Lyft, eller traditionella internationella onlinebetalningsmetoder inte existerar. Folk lär sig att lita på främlingar genom chattar.

Från att använda VPN:er för att kringgå censur—liknande hur brasilianare nu gör för att få tillgång till X, som nyligen förbjöds i landet—till Bitcoin-gruvdrift och till att vända sig till online gig-arbete för att klara sig, har venezuelanerna konstant anpassat sig till nya teknologier som verktyg för att navigera genom de turbulenta politiska, sociala och ekonomiska kriserna. ”Efter USA, är det Venezuela som har det största antalet datamedarbetare i världen,” enligt en rapport som delades av Rest of World tidigare i år.

Artificiell intelligens har haft en stark närvaro i Venezuela i flera år. Flera AI-företag har utnyttjat krisen genom att anställa billig arbetskraft. 2022 delade MIT Technology Review en rapport om hur AI-dataetiketteringsföretag hittade möjligheter att utnyttja begåvade medborgare: ”Venezuelas kris har varit en guldgruva för dessa företag, som plötsligt fick tillgång till några av de billigaste arbetskraften som någonsin varit tillgängliga.”

Nu använder venezuelanerna sin talang och kunskap inom teknik som ett kraftfullt verktyg för att inte bara motverka krisen utan också utmana regeringen. Kanske – och förhoppningsvis – är de nya AI-avatarerna bara början på en ny våg av medborgarmakt.