I ett teknologiskt landskap där artificiell intelligens i allt högre grad formar hur vi får tillgång till information, är förtroendet för verktyg som ChatGPT, utvecklat av OpenAI, fortfarande tveksamt. Ett test som genomfördes 2025 på gratisversionen av denna konversations-AI visade att den felaktigt påstod att François Bayrou aldrig var premiärminister – ett uppenbart felaktigt påstående. Denna missuppfattning väcker viktiga frågor om tillförlitligheten hos de data som tillhandahålls av dessa system, även om teknikjättar som Google DeepMind, Microsoft Azure AI, IBM Watson och Meta AI fortsätter sina ansträngningar för att förbättra noggrannheten och aktualiteten hos de svar som genereras av deras algoritmer.
Begränsningarna av träningsdata och inverkan på ChatGPT:s tillförlitlighet
När ChatGPT tillfrågas om François Bayrous politiska karriär är AI:n kategorisk: “François Bayrou har aldrig varit premiärminister.” Ändå innehade den senare denna position i nästan nio månader innan han ersattes i september 2024. Detta fel illustrerar en av de största svagheterna hos artificiell intelligens baserad på språkmodeller: dess beroende av träningsdata, vilket i fallet med ChatGPT upphör i juni 2024.
Ta reda på hur ChatGPT gjorde fel genom att lämna felaktig information om François Bayrou. Analys av felet, förklaringar och tips för att verifiera riktigheten i AI-genererade svar.
När AI inte kontrollerar sina källor ackumuleras fel.
Gratisversionen av ChatGPT har ingen direkt internetanslutning, vilket begränsar dess förmåga att verifiera information mot tillförlitliga och aktuella källor. Som ett resultat kan viss information, även relativt enkel sådan som den nuvarande premiärministerns eller den nuvarande påvens identitet, vara felaktig. Till exempel bekräftade ChatGPT initialt att påven Franciskus fortfarande var i tjänst, trots att han dog i april förra året. Det var först efter upprepade påståenden som AI erkände efterträdaren, Leo XIV.
Denna situation härrör också från nyhetssajternas “opt-out”-policy, skyddad av DAMUN-upphovsrättsdirektivet, som begränsar AI-botars åtkomst till aktuellt innehåll. Som svar förespråkar aktörer som Anthropic, Mistral AI och Hugging Face en bättre balans mellan innehållsskydd och AI:s tillgång till de data som behövs för att tillhandahålla tillförlitlig och aktuell information.
Konkreta exempel som illustrerar AI:s begränsningar i spridningen av politisk information
Franceinfo gjorde ett flertal försök att korrigera situationen med ChatGPT, omformulerade frågorna och begärde ytterligare bekräftelse av François Bayrous politiska roll. Det var först efter flera förfrågningar som AI erkände sitt fel och slutligen erkände att Bayrou hade innehaft posten som premiärminister.
Liknande missöden har drabbat andra områden, såsom kända personers död: AI förnekade inledningsvis Thierry Ardissons död innan den integrerade dessa data. Denna inkonsekvens visar att trots de framsteg som gjorts av plattformar som BlaBlaCar AI eller IBM Watson, är modellerna fortfarande sårbara för “hallucinationer” och desinformationskampanjer.