Nonostante un anno di progressi tecnologici nel settore dell'Intelligenza Artificiale generativa, i modelli di IA commettono errori in misura quasi doppia rispetto al passato in uno dei compiti più basilari: distinguere i fatti dalle falsità.
Da un'analisi di NewsGuard, risulta che nell'agosto 2025 i 10 principali sistemi di IA hanno ripetuto informazioni false su argomenti legati all'attualità più di un terzo delle volte, nel 35% dei casi, contro il 18% dell'agosto 2024. Questo risultato mostra che, almeno sul fronte dell'affidabilità quando si parla di eventi in corso, le promesse di strumenti più sicuri e precisi non hanno ancora trovato un riscontro concreto.
I chatbot non sono più soltanto vittime collaterali della diffusione di disinformazione, ma sono diventati veri e propri obiettivi per i disinformatori, che inondano deliberatamente i motori di ricerca e i web crawler di contenuti falsi in modo che quelle falsità finiscano nelle risposte dei modelli di IA.
Inoltre, mentre in precedenza i chatbot si rifiutavano di rispondere alle richieste quando non disponevano di dati aggiornati su un argomento, con l'introduzione delle ricerche in tempo reale hanno smesso di farlo: ciò significa che oggi i modelli sono portati a rispondere sempre, anche quando per farlo devono attingere a un ecosistema informativo confuso, inquinato da disinformazione e fonti inaffidabili. Questo fa crescere la probabilità di riportare informazioni false, trattando fonti poco affidabili come se fossero attendibili.
La strategia iniziale del "non fare danno", che consisteva nel rifiutarsi di rispondere piuttosto che rischiare di ripetere una falsità, creava un'illusione di sicurezza ma lasciava gli utenti disorientati e senza informazioni. L'approccio attuale, che prevede di fornire sempre una risposta, anche quando proviene da fonti inaffidabili, crea una falsa sensazione di sicurezza, perché offre risposte che però ripetono informazioni false. Entrambi gli approcci lasciano irrisolto il problema centrale: la mancanza di accuratezza nelle risposte.
Come possono gli utenti tutelarsi da questi rischi? E cosa potrebbero fare le aziende tecnologiche per evitare che i bot diffondano informazioni false nelle loro risposte?