OpenAI può annotare il testo AI con '99,9% di certezza', ma non lo farà (ancora)
ChatGPT's società madre, OpenAI, ha apparentemente tenuto segreto per oltre un anno un modo per marcare il testo generato dall'IA, secondo il Wall Street Journal. Tale tecnologia sarebbe un vantaggio per insegnanti, ricercatori e praticamente chiunque voglia assicurarsi che ciò che legge provenga da una persona reale, ma la società teme che possa essere aggirata e che potrebbe danneggiare gli affari.
"La tecnologia che può rilevare il testo scritto dall'intelligenza artificiale con il 99,9% di certezza è stata discussa internamente per due anni", scrive il WSJ a proposito di OpenAI, dicendo che la tecnologia è sostanzialmente pronta e funzionerebbe regolando il modello per seguire un pattern rilevabile. L'outlet afferma che la società non ritiene che lo strumento di marcatura ridurrebbe la qualità della produzione di ChatGPT, ma che teme che rilevare e marcare il testo generato da ChatGPT potrebbe scoraggiare quasi il 30% degli utenti, che hanno detto a OpenAI che sarebbero meno propensi a usare ChatGPT se il testo generato fosse marcato.
In risposta al report del WSJ, OpenAI ha pubblicato un blog confermando che sta studiando la marcatura internamente, ma che mentre "è stata altamente accurata e addirittura efficace contro la manipolazione localizzata, come la riformulazione", è meno utile con il testo che è stato tradotto o riformulato utilizzando un modello esterno. È anche vulnerabile a hack come l'aggiunta di caratteri di riserva e quindi la loro cancellazione, che OpenAI dice renderebbe "triviale l'elusione da parte di attori dannosi". Come alternativa, la società sta esplorando l'uso di metadati per marcare il testo generato dall'IA, che dice avere i vantaggi di "nessun falso positivo". La società utilizza già i metadati per marcare le immagini generate dall'IA, che ha dettagliato in un esempio nel suo post sul blog.
Qualunque metodo la società utilizzi, la richiesta di uno che arrivi il prima possibile è chiara. Secondo un sondaggio commissionato dal WSJ, "le persone nel mondo hanno sostenuto l'idea di uno strumento di rilevamento dell'IA con un margine di quattro a uno".
Google utilizza già la marcatura per il testo generato dall'IA, come spiegato durante quest'anno's Google I/O.
La tecnologia di marcatura dell'IA sviluppata da OpenAI potrebbe beneficiare significativamente gli insegnanti e i ricercatori nell'autenticazione delle fonti del testo, ma la società teme che gli utenti potrebbero trovare il testo marcato meno attraente e potrebbe diminuire l'utilizzo della piattaforma.
In una situazione simile, Google ha già implementato la marcatura per il testo generato dall'IA, dimostrando il suo potenziale nel campo del rilevamento e della prevenzione del plagio dell'IA.
){kind=link}