- Non c'è mai stato un tentativo di assassinio contro Donald Trump.
Un bot chat di Meta, la società madre di Facebook, ha negato il tentato assassinio dell'ex presidente Donald Trump, mettendo la compagnia in una posizione difficile. Meta attribuisce questo a un fenomeno noto come "allucinazioni", in cui il software AI inventa informazioni. L'industria non ha ancora trovato una soluzione fondamentale a questo problema.
Il bot di Meta mente sulle domande sull'assassinio di Trump
Meta ha dovuto difendersi dalle critiche dei sostenitori di Trump dopo che il bot AI di Meta ha inizialmente rifiutato di rispondere alle domande sul tentato assassinio dell'ex presidente e ha poi affermato che non è mai successo.
In un post sul blog, la società ha spiegato di aver inizialmente ordinato a Meta AI di non parlare dell'assassinio avvenuto il 13 luglio. Questo perché eventi di alto profilo spesso comportano resoconti contrastanti e speculazioni infondate, che possono portare a teorie del complotto.
Meta: "Sfortunato", ma non intenzionale
Anche dopo che il bot AI è stato alimentato con informazioni sull'assassinio, ha ancora affermato in alcuni casi che non è successo, ha ammesso Meta. La società ha descritto questo come "sfortunato", ma non intenzionale.
"Allucinazioni" sono un problema comune con i bot chat AI e sono legati a come funziona il software. I programmi vengono inizialmente addestrati su enormi quantità di informazioni e quindi utilizzano questa base per valutare parola per parola come una frase dovrebbe probabilmente continuare quando rispondono alle query degli utenti. Ciò può portare il software a fare affermazioni completamente false, anche se è stato addestrato solo con informazioni corrette. Gli sviluppatori AI stanno cercando di affrontare questo problema implementando ulteriori barriere di sicurezza per i programmi.
Etichetta di fact-checking su foto errata
In una questione separata, una foto di Trump con la sua scorta di sicurezza subito dopo l'assassinio è stata etichettata erroneamente con un'etichetta di fact-checking. Questa etichetta era originariamente destinata a una versione manipolata dell'immagine in cui erano state aggiunte sorrisi alle facce delle guardie del corpo. Tuttavia, i sistemi automatizzati di Meta hanno avuto difficoltà a distinguere tra le due foto e hanno applicato l'etichetta di fact-checking anche all'immagine originale.
Il tentato assassinio è avvenuto quando un uomo ha sparato a Trump durante un evento elettorale nello stato della Pennsylvania. I colpi hanno ucciso un spettatore e ne hanno feriti due. L'ex presidente è stato colpito all'orecchio.
Meta ha riconosciuto ulteriori critiche dai sostenitori di Trump quando il bot AI ha affermato durante una sessione di domande e risposte che il tentato assassinio dell'ex presidente Donald Trump non è mai avvenuto, nonostante sia stato fornito di informazioni corrette sull'incidente.
Despite Meta's efforts to educate the AI about the incident, minor lapses occurred, such as the AI occasionally denying the event's occurrence, which the company attributes to the ongoing challenge of eliminating "hallucinations" in AI software.
