
Photo by Agence Olloweb on Unsplash
Google DeepMind lanserar öppen källkods-vattenmärkesverktyg för att hjälpa till att upptäcka AI-genererad text
Har bråttom? Här är snabbfakta!
- Google DeepMind lanserade SynthID-Text, ett nytt gratis öppen källkodsverktyg
- SynthID-teknologin kan nu upptäcka AI-genererad text, ljud, video och bilder
- Forskningen publicerades i Nature med fler tekniska detaljer
Google DeepMind lanserade ett öppen källkods vattenmärkningsverktyg kallat SynthID-Text denna onsdag för att hjälpa till att upptäcka AI-genererad text. Verktyget är tillgängligt för företag och utvecklare gratis och fungerar genom att bädda in osynliga vattenmärken – oigenkännliga för det mänskliga ögat – i texten under generering, genom att ändra sannolikheten för ord.
“Här beskriver vi SynthID-Text, ett produktionsklart textvattenmärkningsschema som bevarar textkvaliteten och möjliggör hög detektionsnoggrannhet, med minimal latensöverhäng”, säger sammanfattningen av forskningen publicerad i Nature. ”För att möjliggöra vattenmärkning i skala, utvecklar vi en algoritm som integrerar vattenmärkning med spekulativ sampling, en effektivitetsteknik som ofta används i produktionssystem.”
Enligt MIT Technology Review, har techjätten AI-forskningslaboratorium utvecklat SynthID-teknologin för att skapa flera AI-vattenmärkesverktyg som nu kan känna igen AI-genererad text, musik, video och bilder. Google DeepMind delade en video där de förklarar hur tekniken fungerar över flera typer av media.
Så här fungerar SynthID-vattenmärken på AI-genererat innehåll över olika modaliteter. ↓ pic.twitter.com/CVxgP3bnt2
— Google DeepMind (@GoogleDeepMind) 23 oktober, 2024
SynthID är tillgängligt genom företagets Google Responsible Generative AI Toolkit, och forskare arbetar tillsammans med Hugging Face – en samarbetsplattform för utvecklare som också innehåller andra öppen källkodsprojekt som LeRobots handledning för att bygga AI-drivna robotar hemma – för att dela det på deras webbplats också.
“Nu kommer andra [generativa] AI-utvecklare att kunna använda denna teknik för att hjälpa dem att upptäcka om textutdata har kommit från deras egna [stora språkmodeller], vilket gör det lättare för fler utvecklare att bygga AI på ett ansvarsfullt sätt,” sa Pushmeet Kohli, vice VD för forskning på Google DeepMind, till MIT Technology Review.
SynthID har testats i Googles Gemini-produkter, och miljontals användare kunde inte skilja mellan vattenmärkt och icke-vattenmärkt innehåll. Forskare erkände dock att det har begränsningar när texten har redigerats eller översatts, men de förblir optimistiska och tror att verktyget kan hjälpa till att bekämpa felinformation och förbättra AI-säkerheten.
Flera teknikföretag har under de senaste månaderna annonserat strategier för AI-märkning. Meta tillkännagav i februari ett system för att identifiera AI-innehåll på Instagram, Facebook och Threads, Google krävde att användare skulle märka AI-innehåll i mars, och Tiktok lade till etiketter till AI-genererat innehåll i maj.
Lämna en kommentar
Avbryt