Le due famiglie di filigrane AI
Le filigrane AI rientrano in due grandi categorie: artefatti a livello di carattere e impronte digitali statistiche. Gli artefatti a livello di carattere sono punti di codice Unicode discreti (spazi a larghezza zero, spazi unificatori, segni direzionali) inseriti nel testo in modo che appaia normale a un lettore umano ma porti un carico utile nascosto. Le impronte statistiche sono intrecciate nel processo di generazione del modello stesso: alcune parole sono sistematicamente preferite rispetto ai sinonimi, creando un pregiudizio rilevabile nelle probabilità simboliche che sopravvive alla parafrasi.
Perché le aziende di intelligenza artificiale incorporano filigrane
Tre pressioni commerciali guidano il watermarking. In primo luogo, la responsabilità legale: i risultati identificati come società di sovvenzione generate dall’intelligenza artificiale costituiscono una difesa nelle controversie sul copyright. In secondo luogo, la prevenzione degli abusi: la segnalazione del testo AI aiuta le piattaforme a moderare spam, recensioni false e disinformazione. In terzo luogo, la responsabilità della ricerca: i risultati dell’IA pubblicati possono essere ricondotti a una versione specifica del modello, utile per il controllo degli incidenti di sicurezza.
Caratteri Unicode invisibili
Le filigrane a livello di carattere più comuni sono punti di codice Unicode invisibili. Hanno una larghezza visiva pari a zero, quindi non sono rilevabili in qualsiasi editor di testo che visualizzi un carattere proporzionale. Sopravvivono al copia-incolla dal browser al documento senza alcuna traccia visiva. Esempi comuni includono:
- U+200B: spazio a larghezza zero
- Il carattere filigrana AI più diffuso. Inserito tra le parole o dopo la punteggiatura: non rilevabile visivamente ma rilevato dai rilevatori di intelligenza artificiale e da alcuni elaboratori di testo come un'anomalia.
- U+200C: non unitore a larghezza zero
- Legittimo nel testo arabo e farsi per sopprimere le legature. Nei documenti in caratteri latini non ha alcuna funzione visiva ed è un segnale di filigrana affidabile.
- U+00AD — Trattino morbido
- Resi solo in corrispondenza di un'interruzione di riga. Posizionandolo a metà parola si crea un indicatore invisibile che sopravvive alla maggior parte delle operazioni di copia-incolla.
- U+FEFF — Contrassegno dell'ordine dei byte
- Un indicatore di codifica legacy che dovrebbe apparire solo all'inizio di un file. Trovato a metà testo, si tratta sempre di un artefatto di inserimento.
Filigrane statistiche e semantiche
Le filigrane più sofisticate funzionano a livello di modello e non richiedono caratteri speciali. Il SynthID di Google per il testo utilizza un sistema di "torneo": ad ogni posizione del token il modello classifica segretamente i token candidati e si orienta verso quelli presenti in una lista verde predeterminata. La distorsione è troppo piccola per influenzare la leggibilità, ma abbastanza grande per essere rilevata con confidenza statistica in un paragrafo. Queste filigrane sono più difficili da rimuovere perché per pulirle è necessario parafrasare il contenuto, che cambia significato.
In che modo le filigrane influenzano i tuoi flussi di lavoro
Anche le filigrane invisibili causano problemi reali. I caratteri di larghezza zero interrompono i modelli di espressione regolare nel codice, corrompono i conteggi dei token nelle API fatturate per token, attivano falsi positivi nei sistemi di controllo del plagio e causano la sillabazione errata delle parole negli elaboratori di testi. Per la SEO, i crawler dei motori di ricerca possono interpretare i caratteri nascosti come parole chiave in eccesso. Per la pubblicazione, possono far scattare i validatori della lunghezza del contenuto del CMS e causare errori di codifica nell'esportazione PDF.
Rilevamento e rimozione di filigrane a livello di carattere
Le filigrane a livello di carattere vengono rilevate in modo affidabile eseguendo la scansione dei punti di codice Unicode di ogni carattere nel testo e contrassegnando quelli al di fuori dell'intervallo previsto per la lingua del documento. La rimozione è senza perdite: il carattere nascosto viene eliminato senza alcun effetto sul contenuto leggibile. Il nostro strumento esegue esattamente questa scansione nel browser, sul tuo dispositivo, senza caricare il tuo testo su alcun server.