AI-Desinformation Hade Ingen Påverkan På Europavalet 2024, Rapport Visar

AI-genererad desinformation och deepfakes hade ingen inverkan på resultaten av de brittiska, europeiska unionens (EU) och franska valen 2024, enligt en ny rapport av Centre for Election Technology and Security (CETaS).

Trots utbredda oro över AI-manipulation, fann studien att de flesta AI-drivna desinformation bekräftade befintliga politiska övertygelser snarare än att påverka obeslutsamma väljare.

Oavsett detta, väcker rapporten oro över de bredare konsekvenserna av AI-användning, särskilt med tanke på de etiska utmaningar det presenterar i demokratiska processer.

Rapporten identifierade 16 fall av AI-drivet viral desinformation i det brittiska valet, och 11 fall under EU- och franska valen. De flesta av dessa fall, argumenterar studien, förstärkte bara redan existerande politiska åsikter.

Emellertid avslöjade efterspelet av dessa AI-händelser ett mönster av desinformation. Många människor var även förvirrade över om AI-genererat innehåll var verkligt, vilket skadade förtroendet för onlinekällor.

Rapporten anger att vissa politiker använde AI i kampanjannonser utan korrekt märkning, vilket uppmuntrade oärliga valmetoder.

I en annan slutsats noterar rapporten att uppkomsten av AI-genererad satir, ofta misstagen för verkligt innehåll, ytterligare vilseledde väljare, vilket avslöjade en ny typ av risk för valintegriteten.

Rapporten belyste rollen för både inhemska aktörer och utländsk inblandning i spridningen av AI-drivet desinformation. Dock betonade den att traditionella metoder, som bott-drivet astroturfing och desinformation spridd av mänskliga inflytare, hade en mycket större inverkan på väljarna än AI-innehåll.

Medan AI:s inflytande var litet när det gäller valresultat, varnar CETaS för de växande riskerna när AI-tekniken blir mer tillgänglig.

Rapporten uppmanar lagstiftande och reglerande organ att ta itu med dessa utmaningar, och föreslår behovet av att balansera yttrandefrihet med bekämpning av AI-driven desinformation. Den betonar också vikten av tydlig märkning av AI-genererat politiskt innehåll för att förhindra oetiska kampanjmetoder.

Den slutgiltiga rapporten från CETaS, planerad till november 2024, kommer att fokusera på AI:s roll i det amerikanska valet och erbjuda långsiktiga rekommendationer för att skydda demokratiska processer från hot relaterade till AI.

Sammanfattningen avslutas med att erkänna de potentiella positiva tillämpningarna av AI. Rapporten hävdar att AI erbjöd en plattform för att stärka kopplingen mellan väljare och politiska kandidater via syntetiska online-personligheter.

Dessutom hjälpte generativ AI-assisterade faktagranskare till att prioritera vilseledande påståenden som framförts av kandidater, vilket hjälpte dem att avgöra vilka som behövde omedelbar uppmärksamhet.