Verissimo, ed è una cosa che noto anche nel mio piccolo: quando ricevo una mail di lavoro scritta troppo bene, con zero refusi e un tono perfettamente neutro, ormai il primo pensiero è “questa l’ha scritta ChatGPT”. Paradossalmente un errore di battitura oggi mi tranquillizza più di un testo impeccabile.
Esatto Federico, è esattamente l’esempio che avevo in mente scrivendo l’articolo. Il bello è che diventa quasi un indicatore inverso: più un testo è “levigato”, più aumenta il sospetto. Chissà quanto durerà, visto che anche i modelli stanno imparando a simulare imperfezioni.
Io qualche mese fa sono cascata in pieno in un video deepfake che girava su TikTok, un personaggio pubblico che “annunciava” una cosa mai detta. L’ho creduto vero per almeno un giorno, finché non è uscita la smentita. Fa paura pensare quanto sia già difficile distinguere il vero dal falso anche per chi si ritiene “smaliziato”.
@Chiara è proprio il tipo di caso che rende il discorso dell’articolo tutt’altro che teorico. Nel video probabilmente non c’era nessun “errore” a tradirlo, mentre in un testo scritto un dettaglio fuori posto lo noti più facilmente. Coi video siamo messi peggio.
Bell’articolo, però non sono così ottimista sul fatto che l’errore resterà un parametro affidabile a lungo. Ho già visto prompt che chiedono esplicitamente al modello di inserire refusi “naturali” o un tono meno curato proprio per aggirare questo tipo di sospetto. Temo sia un vantaggio molto temporaneo.
Concordo Alessandro, e in effetti lo accenno anche nel finale: non credo sia una soluzione definitiva, più che altro l’ultima cartina di tornasole che abbiamo *oggi*. Sarà una corsa continua tra chi genera contenuti sempre più “umani” e chi cerca il prossimo segnale per smascherarli.
Verissimo, ed è una cosa che noto anche nel mio piccolo: quando ricevo una mail di lavoro scritta troppo bene, con zero refusi e un tono perfettamente neutro, ormai il primo pensiero è “questa l’ha scritta ChatGPT”. Paradossalmente un errore di battitura oggi mi tranquillizza più di un testo impeccabile.
Esatto Federico, è esattamente l’esempio che avevo in mente scrivendo l’articolo. Il bello è che diventa quasi un indicatore inverso: più un testo è “levigato”, più aumenta il sospetto. Chissà quanto durerà, visto che anche i modelli stanno imparando a simulare imperfezioni.
Io qualche mese fa sono cascata in pieno in un video deepfake che girava su TikTok, un personaggio pubblico che “annunciava” una cosa mai detta. L’ho creduto vero per almeno un giorno, finché non è uscita la smentita. Fa paura pensare quanto sia già difficile distinguere il vero dal falso anche per chi si ritiene “smaliziato”.
@Chiara è proprio il tipo di caso che rende il discorso dell’articolo tutt’altro che teorico. Nel video probabilmente non c’era nessun “errore” a tradirlo, mentre in un testo scritto un dettaglio fuori posto lo noti più facilmente. Coi video siamo messi peggio.
Bell’articolo, però non sono così ottimista sul fatto che l’errore resterà un parametro affidabile a lungo. Ho già visto prompt che chiedono esplicitamente al modello di inserire refusi “naturali” o un tono meno curato proprio per aggirare questo tipo di sospetto. Temo sia un vantaggio molto temporaneo.
Concordo Alessandro, e in effetti lo accenno anche nel finale: non credo sia una soluzione definitiva, più che altro l’ultima cartina di tornasole che abbiamo *oggi*. Sarà una corsa continua tra chi genera contenuti sempre più “umani” e chi cerca il prossimo segnale per smascherarli.