Google DeepMind lanserar öppen källkods-vattenmärkesverktyg för att hjälpa till att upptäcka AI-genererad text

Photo by Agence Olloweb on Unsplash

Google DeepMind lanserar öppen källkods-vattenmärkesverktyg för att hjälpa till att upptäcka AI-genererad text

Lästid: 2 min

Har bråttom? Här är snabbfakta!

  • Google DeepMind lanserade SynthID-Text, ett nytt gratis öppen källkodsverktyg
  • SynthID-teknologin kan nu upptäcka AI-genererad text, ljud, video och bilder
  • Forskningen publicerades i Nature med fler tekniska detaljer

Google DeepMind lanserade ett öppen källkods vattenmärkningsverktyg kallat SynthID-Text denna onsdag för att hjälpa till att upptäcka AI-genererad text. Verktyget är tillgängligt för företag och utvecklare gratis och fungerar genom att bädda in osynliga vattenmärken – oigenkännliga för det mänskliga ögat – i texten under generering, genom att ändra sannolikheten för ord.

“Här beskriver vi SynthID-Text, ett produktionsklart textvattenmärkningsschema som bevarar textkvaliteten och möjliggör hög detektionsnoggrannhet, med minimal latensöverhäng”, säger sammanfattningen av forskningen publicerad i Nature. ”För att möjliggöra vattenmärkning i skala, utvecklar vi en algoritm som integrerar vattenmärkning med spekulativ sampling, en effektivitetsteknik som ofta används i produktionssystem.”

Enligt MIT Technology Review, har techjätten AI-forskningslaboratorium utvecklat SynthID-teknologin för att skapa flera AI-vattenmärkesverktyg som nu kan känna igen AI-genererad text, musik, video och bilder. Google DeepMind delade en video där de förklarar hur tekniken fungerar över flera typer av media.

SynthID är tillgängligt genom företagets Google Responsible Generative AI Toolkit, och forskare arbetar tillsammans med Hugging Face – en samarbetsplattform för utvecklare som också innehåller andra öppen källkodsprojekt som LeRobots handledning för att bygga AI-drivna robotar hemma – för att dela det på deras webbplats också.

“Nu kommer andra [generativa] AI-utvecklare att kunna använda denna teknik för att hjälpa dem att upptäcka om textutdata har kommit från deras egna [stora språkmodeller], vilket gör det lättare för fler utvecklare att bygga AI på ett ansvarsfullt sätt,” sa Pushmeet Kohli, vice VD för forskning på Google DeepMind, till MIT Technology Review.

SynthID har testats i Googles Gemini-produkter, och miljontals användare kunde inte skilja mellan vattenmärkt och icke-vattenmärkt innehåll. Forskare erkände dock att det har begränsningar när texten har redigerats eller översatts, men de förblir optimistiska och tror att verktyget kan hjälpa till att bekämpa felinformation och förbättra AI-säkerheten.

Flera teknikföretag har under de senaste månaderna annonserat strategier för AI-märkning. Meta tillkännagav i februari ett system för att identifiera AI-innehåll på Instagram, Facebook och Threads, Google krävde att användare skulle märka AI-innehåll i mars, och Tiktok lade till etiketter till AI-genererat innehåll i maj.

Var den här artikeln hjälpsam?
Betygsätt den!
Riktigt usel Halvdålig Helt ok Riktigt bra! Älskade den!

Vad kul att du gillar vårt arbete!

Skulle du, som vår uppskattade läsare, vilja uppmärksamma oss på Trustpilot? Det går snabbt och betyder jättemycket för oss. Tack för att du är så fantastisk!

Betygsätt oss på Trustpilot
0 Betygsatt av 0 användare
Titel
Kommentera
Tack för din feedback
Loader
Please wait 5 minutes before posting another comment.
Comment sent for approval.

Lämna en kommentar

Loader
Loader Visa mer...