La nuova tecnologia di Google per "marchiare" il testo generato dalle AI
Google ha presentato una nuova tecnologia in grado di nascondere un watermark invisibile all'interno dei testi generati dalle AI. Per gli studenti 'furbetti' sarà la fine?
Una nuova tecnologia di Google consente di nascondere un watermark all'interno del testo generato da AI. Il nuovo strumento si chiama SynthID Tezt e fa parte del Responsible GenAI Toolkit, un pacchetto di strumenti destinato agli sviluppatori. Si può già scaricare dalla piattaforma Hugging Face ed è disponibile gratuitamente.
COME FUNZIONA IL WATERMARK PER AI DI GOOGLE
Per capire come funziona SynthID bisogna prima spiegare brevemente il funzionamento delle AI generative, che non sono in grado di pensare in senso proprio, ma funzionano attraverso il calcolo delle probabilità e sulla base di questo generano contenuti. In sostanza, un modello viene addestrato grazie ad un'immensa mole di dati, da cui imparano la probabilità di distribuzione dei dati, in modo da poterne generare di nuovi. Facciamo un esempio: ad ogni carattere e parola corrisponde un token e grazie all'analisi di immensi archivi di articoli, libri e riviste, l'AI è in grado di determinare, attraverso un calcolo delle probabilità, in che ordine mettere token diversi per formare una frase di senso compiuto che risponda alle richieste dell'utente.
Siccome ogni modello assegna a ogni possibile token un punteggio, che rappresenta la probabilità che il token sia incluso nel testo generato, SynthID può intervenire sul pattern delle scelte di parole da usare del modello, aggiungendo informazioni che vanno a costituire un watermark univoco.
CLICCA QUI PER CONTINUARE A LEGGERE
Qual è la vostra reazione?
