In un panorama tecnologico in cui l’intelligenza artificiale sta plasmando sempre di più il nostro modo di accedere alle informazioni, la fiducia riposta in strumenti come ChatGPT, sviluppato da OpenAI, rimane discutibile. Un test condotto nel 2025 sulla versione gratuita di questa IA conversazionale ha rivelato che questa affermava erroneamente che François Bayrou non è mai stato Primo Ministro: un’affermazione palesemente errata. Questo equivoco solleva importanti interrogativi sull’affidabilità dei dati forniti da questi sistemi, nonostante giganti della tecnologia come Google DeepMind, Microsoft Azure AI, IBM Watson e Meta AI continuino a impegnarsi per migliorare l’accuratezza e la tempestività delle risposte generate dai loro algoritmi.
I limiti dei dati di addestramento e l’impatto sull’affidabilità di ChatGPT
Quando a ChatGPT viene chiesto della carriera politica di François Bayrou, l’IA è categorica: “François Bayrou non è mai stato Primo Ministro”. Tuttavia, quest’ultimo ha mantenuto questa posizione per quasi nove mesi prima di essere sostituito a settembre 2024. Questo errore illustra uno dei principali punti deboli dell’intelligenza artificiale basata sui modelli linguistici: la sua dipendenza dai dati di addestramento, che nel caso di ChatGPT si interrompe a giugno 2024.
Questo intervallo di tempo è uno dei motivi principali per cui l’intelligenza artificiale a volte non riesce a riflettere le notizie recenti o i recenti cambiamenti politici. Microsoft Azure AI e AI21 Labs stanno lavorando, tra le altre cose, per ridurre al minimo queste latenze collegando i loro modelli a fonti di informazioni aggiornate in tempo reale, come la versione di ChatGPT collegata al motore di ricerca Bing.
Quando l’IA non verifica le sue fonti, gli errori si accumulano.
La versione gratuita di ChatGPT non dispone di una connessione Internet diretta, il che limita la sua capacità di verificare le informazioni con fonti affidabili e aggiornate. Di conseguenza, alcune informazioni, anche quelle relativamente semplici come l’identità dell’attuale Primo Ministro o dell’attuale Papa, possono essere errate. Ad esempio, ChatGPT inizialmente ha confermato che Papa Francesco era ancora in carica, sebbene sia morto lo scorso aprile. Solo dopo ripetute insistenze l’IA ha riconosciuto il successore, Leone XIV.
Questa situazione deriva anche dalla politica di “opt-out” dei siti di notizie, protetta dalla direttiva sul copyright DAMUN, che limita l’accesso dei bot dell’IA ai contenuti recenti. In risposta, attori come Anthropic, Mistral AI e Hugging Face stanno sostenendo un migliore equilibrio tra la protezione dei contenuti e l’accesso dell’IA ai dati necessari per fornire informazioni affidabili e aggiornate.
Esempi concreti che illustrano i limiti dell’IA nella diffusione di informazioni politiche
Franceinfo ha tentato più volte di correggere la situazione con ChatGPT, riformulando le domande e richiedendo ulteriori conferme sul ruolo politico di François Bayrou. Solo dopo numerose richieste l’IA ha ammesso il suo errore, riconoscendo infine che Bayrou aveva ricoperto la carica di Primo Ministro.
Incidenti simili hanno interessato altri ambiti, come la morte di personaggi famosi: l’IA ha inizialmente negato la morte di Thierry Ardisson prima di integrare questi dati. Questa incoerenza rivela che, nonostante i progressi compiuti da piattaforme come BlaBlaCar AI o IBM Watson, i modelli rimangono vulnerabili ad “allucinazioni” e campagne di disinformazione.
Le sfide per il futuro dell’intelligenza artificiale conversazionale
Queste limitazioni mettono in discussione il ruolo dell’IA nei nostri sistemi informativi e nella società in generale, in particolare in termini di giurisdizione e regolamentazione. Nel 2025, l’entrata in vigore dell'”Artificial Intelligence Act” in Europa impone un quadro normativo rigoroso per disciplinare l’uso e i rischi associati a queste tecnologie, incoraggiando la responsabilità degli sviluppatori e un maggiore controllo sulla validità dei dati.
Mentre Meta AI, Google DeepMind e Mistral AI stanno investendo massicciamente nella ricerca per migliorare la veridicità e la contestualizzazione delle risposte, il pubblico rimane esortato a esercitare una vigilanza attiva. Si raccomanda di incrociare le informazioni provenienti dall’intelligenza artificiale con quelle provenienti da fonti ufficiali, in particolare per le questioni politiche in cui le questioni civiche sono importanti.