In Breve

• Google Gemini ora rileva filigrane nascoste nelle immagini generate dall’IA utilizzando la tecnologia SynthID.
• SynthID incorpora tag digitali invisibili nelle immagini create dagli strumenti di IA di Google.
• Il rilevamento funziona solo per le immagini generate dai modelli di Google - non per i contenuti dei concorrenti.
• I ricercatori hanno già dimostrato modi per rimuovere o aggirare queste filigrane.
• Google prevede di supportare standard di metadati a livello industriale, ma nessun sistema è infallibile.

La Scena: Un Gioco del Gatto e del Topo nella Galleria Digitale

Immagina una vasta galleria d’arte online dove ogni dipinto potrebbe essere un falso. Questa è la realtà di oggi su Internet, dove le immagini generate dall’IA invadono timeline e feed di notizie, confondendo il confine tra reale e sintetico. In questo paesaggio caotico, Google ha lanciato nuove armi-ma i falsari stanno già affinando i loro strumenti.

La Scommessa di Google: SynthID e la Ricerca dell’Autenticità

Per affrontare la crescente ondata di immagini create dall’IA, Google ha ampliato la sua piattaforma Gemini includendo uno strumento di rilevamento che cerca filigrane digitali invisibili. Queste filigrane, prodotte da una tecnologia chiamata SynthID, sono nascoste nei pixel di ogni immagine generata dai modelli di IA di Google. Sono invisibili a occhio nudo e progettate per resistere a modifiche di base, ritagli o ridimensionamenti-come una firma segreta nascosta nelle pennellate di un quadro.

Lanciato nel 2023, SynthID ha rappresentato un salto in avanti nella provenienza digitale. L’idea: se ogni immagine generata dall’IA porta un segno indelebile, chiunque potrà in seguito verificarne l’origine. Gemini ora permette agli utenti di controllare la presenza di questi segni direttamente nell’app o sul web, offrendo un filtro tanto necessario nell’era dei deepfake e dei media sintetici.

I Limiti: Scappatoie e Tattiche di Evasione

Ma c’è un problema. SynthID applica tag solo alle immagini prodotte dai generatori di Google. Se carichi un’immagine creata da un’IA rivale-come DALL-E di OpenAI o uno strumento di Adobe o Meta-il rilevatore di Gemini non può individuarla in modo affidabile. Ancora più preoccupante, ricercatori accademici dell’Università di Waterloo hanno recentemente dimostrato che filigrane come SynthID possono essere rimosse in pochi minuti usando comuni schede grafiche, rendendo inutile il rilevamento. Nel frattempo, approcci basati sui metadati come lo standard C2PA possono essere ancora meno affidabili, poiché i tag vengono facilmente rimossi o persi durante le conversioni dei file.

Google ha annunciato l’intenzione di supportare standard industriali come C2PA, sperando di costruire una rete di fiducia più ampia. Ma con la maggior parte dei generatori di immagini IA che utilizzano schemi propri e incompatibili, il sogno di un rilevamento universale resta lontano. La corsa agli armamenti continua: mentre i difensori aggiungono nuove filigrane, gli attaccanti inventano nuovi solventi.

Innovazione ed Escalation: Il Caso di Nano Banana Pro

Accanto a questi aggiornamenti di rilevamento, Google ha presentato Nano Banana Pro, un modello di immagini di nuova generazione che eccelle nel generare testo chiaro all’interno delle immagini-da sempre un punto debole per l’arte AI. Nelle dimostrazioni, anche dopo tentativi deliberati di cancellare le filigrane SynthID, il sistema di Gemini a volte segnalava comunque l’immagine come creata dall’IA, suggerendo che la resilienza delle filigrane sta migliorando. Tuttavia, come insegna la storia, ogni progresso viene rapidamente contrastato da nuove tattiche di elusione.

WIKICROOK

• SynthID: SynthID è uno strumento di Google DeepMind che applica filigrane invisibili alle immagini generate dall’IA, permettendo di verificarne successivamente origine e autenticità.
• Filigrana: Una filigrana è un codice digitale incorporato nei file multimediali per verificarne l’autenticità, identificare la proprietà e rilevare manomissioni o usi non autorizzati.
• Metadati: I metadati sono informazioni nascoste associate ai file digitali, come foto o annunci, che contengono dettagli quali data di creazione, autore o dispositivo utilizzato.
• C2PA: C2PA è uno standard che incorpora metadati sicuri e a prova di manomissione nei media digitali, verificandone origine, paternità e modifiche.
• Deepfake: Un deepfake è un contenuto generato dall’IA che imita l’aspetto o la voce di persone reali, spesso usato per ingannare creando video o audio falsi ma convincenti.