OpenAI afferma che nelle prossime settimane inizierà ad aggiungere una filigrana invisibile al testo idoneo prodotto da ChatGPT e Codex per gli utenti dell’Unione europea. L’azienda descrive la funzionalità come un modo per aiutare a stabilire se un testo sia probabilmente stato generato da uno dei suoi sistemi di IA.
La tecnologia, denominata textGrain, non inserisce etichette visibili, metadati o caratteri speciali nei contenuti generati. Influenza invece in modo sottile la selezione delle parole per creare una firma statistica che un rilevatore autorizzato può tentare di identificare in seguito. Secondo OpenAI, i lettori e gli utenti che copiano l’output non dovrebbero notare alcuna differenza nel testo.
Per ora il rilascio è limitato geograficamente. I clienti API di tutto il mondo potranno scegliere la filigrana per i modelli supportati, ma l’impostazione sarà disabilitata per impostazione predefinita. OpenAI sta inoltre accettando richieste di accesso al proprio strumento di rilevamento, limitandone inizialmente la disponibilità a ricercatori approvati e organizzazioni specializzate.
Il rilevamento può essere indebolito dalle modifiche
OpenAI ha riconosciuto che la filigrana non è un metodo definitivo per stabilire la paternità di un testo. Nei test dell’azienda su brani di 400 token, la sostituzione del 10% delle parole con sinonimi ha ridotto i tassi di rilevamento da circa il 92% al 66%. Quando veniva modificato il 25% delle parole, il rilevamento scendeva a circa il 17%.
Le prestazioni variavano anche in base alla lunghezza e al tipo di contenuto. Con una soglia di falsi positivi dell’1%, OpenAI ha riportato il rilevamento in circa l’80% delle risposte di psicologia da 200 token e in circa il 95% delle risposte da 400 token. Il testo matematico era più difficile da filigranare perché vi sono meno scelte di parole intercambiabili senza alterarne il significato.
- L’assenza di una filigrana non dimostra che il contenuto sia stato scritto da un essere umano.
- Brani brevi, traduzione e modifiche successive alla generazione possono impedire un rilevamento affidabile.
- Una filigrana rilevata non identifica l’utente, l’account, il prompt o la conversazione associati all’output.
- Il segnale non può determinare quale parte di un documento finale sia stata scritta o rivista da una persona.
OpenAI ha affermato che l’attivazione di textGrain non ha influito in modo significativo sui benchmark di qualità del suo modello GPT-6 Astra. L’iniziativa arriva mentre responsabili politici, educatori, editori e team di sicurezza continuano a valutare metodi per identificare i contenuti sintetici, evitando al contempo un’eccessiva dipendenza da strumenti che possono essere aggirati mediante modifiche di routine.