OpenAI: la filigrana anti-plagio per i testi generati con l’IA.

OpenAI e la controversia sulla filigrana del testo

OpenAI ha introdotto un sistema per applicare la filigrana al testo generato da ChatGPT e un tool per rilevare questa filigrana da quasi un anno, secondo quanto riportato dal Wall Street Journal.
Tuttavia, l’azienda si trova divisa internamente sulla decisione di renderlo pubblico o meno.
Da un lato, ci sarebbe la responsabilità etica di farlo; dall’altro, potrebbe avere risvolti negativi sui profitti.
La filigrana di OpenAI si basa sull’adattamento delle previsioni del modello riguardo alle parole e alle frasi più probabili a seguire quelle precedenti, creando uno schema identificabile.

Il potenziale vantaggio per gli insegnanti

Offrire uno strumento per individuare il testo prodotto dall’Intelligenza Artificiale potrebbe essere un vantaggio per gli insegnanti che cercano di scoraggiare gli studenti dal plagio.
Secondo il Wall Street Journal, OpenAI ha scoperto che l’applicazione della filigrana non ha influenzato la qualità del testo prodotto dal suo chatbot.
Inoltre, un sondaggio condotto dall’azienda ha rivelato un sostegno schiacciante a favore di uno strumento di rilevamento dell’IA da parte delle persone in tutto il mondo.

Dopo la pubblicazione dell’articolo del Journal, OpenAI ha confermato di aver lavorato sulla filigrana in un aggiornamento del loro blog.
L’azienda sostiene che il suo sistema è estremamente preciso (con un’efficacia del 99,9%, stando ai documenti consultati dal Journal) e resistente a manomissioni come la parafrasi.
Tuttavia, sottolinea che esistono tecniche che potrebbero eludere questa filigrana, rappresentando così una preoccupazione.

La controversia e le preoccupazioni di OpenAI

Nonostante la filigrana possa essere considerata efficace da alcuni dipendenti, ci sono preoccupazioni riguardo alla possibile alienazione degli utenti di ChatGPT.
Una percentuale significativa di intervistati ha dichiarato che utilizzerebbe meno il software se fosse presente la filigrana.
Alcuni suggeriscono, quindi, di esplorare metodologie potenzialmente meno divisive ma altrettanto efficienti.

Intanto, Elon Musk ha intentato nuovamente una causa contro OpenAI, accusando il produttore di ChatGPT e due dei suoi fondatori di aver violato gli ideali fondanti dell’azienda.
La nuova causa, presentata in California, sostiene che ci sia stata una manipolazione nei confronti di Musk per co-fondare l’organizzazione no-profit, promettendo un livello di sicurezza e trasparenza non rispettato.
Musk ha già ritirato una causa simile in passato, ma questa volta sembra determinato a far valere le sue ragioni.