Apple uppmanas att ta bort AI-funktion efter kontrovers kring falsk rubrik

En betydande journalistvaktare har uppmanat Apple att dra tillbaka sin generativa AI-funktion efter att verktyget felaktigt tillskrivit en rubrik om ett högprofilerat mordfall till BBC News.

BBC rapporterade på torsdag att det uppstått kontrovers kring Apples nya funktion, Apple Intelligence, efter att den felaktigt genererat en rubrik. Den antydde att Luigi Mangione, en misstänkt för mordet på sjukförsäkrings VD:n Brian Thompson, hade skjutit sig själv. BBC hade inte publicerat en sådan artikel.

Reportrar utan gränser (RSF), en internationell organisation som förespråkar pressfrihet, kritiserade Apple och menade att händelsen understryker riskerna som omogna AI-verktyg utgör för medias trovärdighet och allmänhetens förtroende.

Vincent Berthier, chef för RSF:s teknik- och journalistikavdelning, fördömde misstaget och kallade det för ett ”slag mot mediets trovärdighet” samt ett hot mot allmänhetens tillgång till tillförlitlig information. RSF krävde att Apple omedelbart skulle ta bort funktionen.

”Europeiska AI-lagen – trots att den är den mest avancerade lagstiftningen i världen på detta område – klassificerade inte informationsskapande AI:er som högrisk-system, vilket lämnar ett kritiskt juridiskt vakuum. Detta gap måste fyllas omedelbart,” sade Berthier.

BBC bekräftade att de hade lämnat in ett formellt klagomål till teknikjätten och begärt en lösning, men det är fortfarande oklart om Apple har svarat.

Den bristfälliga AI-sammanfattningen var inte begränsad till BBC News. Den 21 november, sammanfattade funktionen på ett felaktigt sätt en artikel från New York Times, vilket felaktigt antydde att Israels premiärminister Benjamin Netanyahu hade blivit arresterad, enligt vad BBC-artikeln rapporterade.

Detta meddelande, som senare framhävdes av journalisten Ken Schwencke, hänvisade faktiskt till en internationell arresteringsorder från Internationella brottmålsdomstolen mot Netanyahu.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligence syftar till att minska avbrott från notifikationer genom att sammanfatta och gruppera dem. Tillgängligt på iPhones som kör iOS 18.1 och nyare modeller, liksom utvalda iPads och Macs, har verktyget mottagit kritik för att felaktigt representera information från pålitliga nyhetskanaler.

BBC:s talesperson underströk att medan vissa grupperade notifikationer korrekt sammanfattade berättelser om globala händelser, visade desinformationen som involverade Mangione teknologins potential att skada både mediekanaler och allmänhetens förståelse.

RSF varnade för att ”Denna incident illustrerar att generativa AI-tjänster fortfarande är för omogna för att producera tillförlitlig information till allmänheten, och borde inte tillåtas på marknaden för sådana användningar.”

Ars Technica granskade Apples notissammanfattningar och noterade flera problem som ofta uppstår. Först och främst, medan vissa sammanfattningar är faktiskt korrekta, låter de robotaktiga och klumpiga, särskilt i känsliga ämnen som relationer eller mental hälsa. Andra missförstår sarkasm, slang eller idiomatiska uttryck, ofta tolkar de dem alltför bokstavligt.

Förlust av sammanhang är ett annat stort problem, särskilt när sammanfattningar missar tidigare meddelanden i en tråd eller inte tar hänsyn till multimedia-innehåll. I gruppchattar med flera ämnen kan sammanfattningar bli överbelastade, blanda ämnen och leda till felaktigheter.

Slutligen är vissa sammanfattningar helt enkelt fel, ofta på grund av ett försök att kondensera för mycket information till för få ord, vilket resulterar i förvrängda redogörelser. Sammantaget är dessa problem, som påverkar funktionens användbarhet och korrekthet, vanliga i vardagligt bruk.

Mangione, nu åtalad för mord i första graden, har blivit en central punkt i debatten om riskerna med AI inom journalistik. Allmänhetens förtroende för trovärdiga nyheter står på spel när Apple står inför ökande press att hantera problemet.