Hallucinationer: Varför AI ibland "hittar på" saker

Lästid: ca 5 min

Vi har nu gått igenom hur AI-modeller arbetar, hur tokens fungerar, betydelsen av context-fönstret, och hur temperatur påverkar kreativitet. Nu ska vi ta oss an ett av de viktigaste - och ibland mest frustrerande - fenomenen när man arbetar med generativ AI: hallucinationer. Detta är när AI-modellen genererar svar som verkar korrekta och trovärdiga, men som i själva verket är felaktiga, påhittade eller helt enkelt nonsens. Att förstå varför detta sker och hur du hanterar det är avgörande för att använda AI ansvarsfullt i klassrummet.

1. Vad är en hallucination i AI-sammanhang?

En hallucination uppstår när en AI-modell genererar text eller information som:

• Saknar grund i verkliga fakta eller data.
• Är direkt felaktig, även om den presenteras med stor säkerhet.
• Hittar på referenser, källor eller personer som inte existerar.
• Verkar vara sammanhängande och logisk på ytan, men vid granskning visar sig vara nonsens.

Det är viktigt att betona att en hallucination inte är en medveten lögn från AI:ns sida. Modellen "förstår" inte sanning i mänsklig mening. Istället är det en direkt konsekvens av dess underliggande sannolikhetsberäkningar. Modellen genererar helt enkelt det mest sannolika nästa ordet/token, baserat på den enorma mängd data den tränats på, även om det sannolika ordet leder till ett faktamässigt inkorrekt uttalande i ett givet sammanhang.

2. Konkreta exempel på hallucinationer

Hallucinationer kan se ut på många sätt, från små felaktigheter till helt påhittade scenarion:

Exempel 1: Felaktiga fakta

• Prompt: "Berätta om Göteborgs grundare och det exakta årtalet staden anlades."
• Modellens svar (potentiell hallucination): "Göteborg grundades av kung Gustav III år 1641."
• Faktum: Staden grundades av Karl IX år 1603. Här har modellen blandat ihop kungar och årtal, men presenterar det som fakta.

Exempel 2: Påhittade källor

• Prompt: "Ge mig en lista på tre vetenskapliga artiklar som stödjer hypotesen om att AI förbättrar elevers kreativitet i språkundervisningen."
• Modellens svar (potentiell hallucination): "Absolut, här är tre artiklar:
  • 'AI and Creative Writing: A Longitudinal Study' av Dr. Elin Svärd, publicerad i Journal of Educational Technology and Research, vol. 15, nr. 2, 2023.
  • 'The Impact of Generative AI on Student Narrative Development' av Professor Karl Lindberg, International Journal of Modern Education, 2022.
  • 'Leveraging AI for Enhanced Linguistic Expression in Swedish Classrooms' av Andersson et al., Nordic Journal of Pedagogy, 2024."
• Faktum: Dessa artiklar, författare och tidskrifter kan vara helt påhittade och existerar inte i verkligheten. Modellen har genererat trovärdiga titlar och namn men utan verklig grund.

3. Vanliga orsaker till hallucinationer

Hallucinationer är ett komplext problem, men de uppstår ofta på grund av en kombination av faktorer:

• Otillräcklig eller motstridig träningsdata: Om modellen har tränats på data som innehåller felaktigheter, inkonsekvenser eller bias, kan den replikera dessa fel.
• Överskridet context-fönster: Som vi diskuterade i Moment 3, om viktig kontext eller instruktion faller ut ur modellens minne, kan den börja "fylla i luckor" med osann information för att ändå generera ett sammanhängande svar.
• Hög temperatur: En högre temperaturinställning (se Moment 7) ökar modellens kreativitet, men också risken för att den väljer mindre sannolika - och därmed ibland felaktiga - ordsekvenser.
• Komplexa eller tvetydiga prompts: Om din prompt är otydlig, för bred eller ställer en fråga som saknar ett tydligt svar i träningsdatan, kan modellen "gissa" sig fram till ett svar.
• Brist på "jorda" fakta: AI-modeller är inte sökdatabaser. De genererar text, inte fakta. Om de inte "jordas" i pålitliga informationskällor, ökar risken för fel.

4. Strategier för att hantera och minimera hallucinationer

Även om hallucinationer inte helt kan elimineras, finns det flera strategier för att minimera dem:

• Sänk temperaturen: För uppgifter som kräver hög faktabaserad precision, sätt temperaturen så lågt som möjligt (0.0 till 0.2). Detta tvingar modellen att välja de statistiskt mest sannolika och ofta mest korrekta orden.

• Inkludera källförfrågningar i prompten: Be modellen att explicit ange källor eller referenser för den information den genererar. Även om AI:n kan "hallucinera" källor, är det en bra övning för att göra modellen mer medveten om att du förväntar dig faktabaserade svar.

  • Exempel: "Generera en översikt av Sveriges riksdag. Inkludera minst tre källor i ditt svar."

• "RAG-upplägg" (Retrieval Augmented Generation): Detta är en kraftfull teknik där du först låter AI:n hämta relevant information från en pålitlig, verifierad datakälla (t.ex. en databas, en specifik PDF, Skolverkets hemsida) och sedan använder denna hämtade information som grund för AI:ns svar. Modellen "jordas" i fakta du har kontroll över.

  • Exempel: Du laddar upp en text från Skolverket om digitalisering i skolan och ber sedan AI:n att svara på frågor baserade enbart på den texten.

• Aktiv verifiering i prompten: Be AI:n att aktivt ifrågasätta och verifiera information innan den presenterar den som fakta.

  • Exempel: "Innan du svarar, fundera på om denna information kan verifieras. Om du är osäker, säg det tydligt."

• Stegvis reasoning: Be AI:n att tänka högt och förklara sitt resonemang steg för steg, vilket gör det lättare att upptäcka hallucinationer.

  • Exempel: "Förklara steg för steg hur du kom fram till ditt svar och vilka källor du skulle rekommendera för att verifiera informationen."

• Efterbearbetning och faktakontroll: Se alltid AI-genererad text som ett första utkast. En manuell eller automatisk faktakontroll är nödvändig, särskilt för information som ska användas i undervisning eller som grund för elevers arbete.

5. Viktiga tips för lärare i klassrummet

Hantera AI-hallucinationer är inte bara en teknisk fråga, utan en pedagogisk möjlighet:

• Dubbelkolla ALLTID: Utgå aldrig från att AI-genererad fakta är korrekt. Kontrollera alltid AI-genererad information mot pålitliga och verifierade källor (läroböcker, NE.se, Skolverket.se, etablerade nyhetsbyråer, vetenskapliga databaser). Detta är den enskilt viktigaste regeln.

• Lär elever källkritik: AI-hallucinationer ger en perfekt möjlighet att undervisa i källkritik. Visa eleverna exempel på när AI "hittat på" saker och diskutera varför det är så viktigt att ifrågasätta och verifiera information från alla källor, inklusive AI.

• Bygg faktakontroll-övningar: Utforma lektionsuppgifter där eleverna aktivt ska identifiera och korrigera hallucinationer i AI-genererade texter. Detta tränar både deras källkritiska förmåga och ämneskunskaper.

• Transparens: Var tydlig med eleverna om att AI kan göra fel och att deras eget kritiska tänkande är oersättligt.

6. Reflektionsövning

För att få en praktisk förståelse för hallucinationer och hur de hanteras:

• Experimentera med temperatur: Ge AI-modellen en faktabaserad uppgift (t.ex. "Beskriv de viktigaste orsakerna till första världskriget"). Generera ett svar med låg temperatur (0.0-0.2) och ett annat med hög temperatur (0.8-1.0). Jämför svaren noga. Hittar du några skillnader i precision eller eventuella hallucinationer?

• Testa "jordning" med RAG-principen: Välj en kort, faktaspäckad text (t.ex. en Wikipedia-sida om ett visst djur eller en historisk händelse). Be AI:n att svara på några frågor om ämnet, men instruera den att endast använda informationen från den specifika texten du klistrar in. Jämför sedan med om du hade ställt samma frågor utan att ge den texten. Minskar hallucinationerna?

• Diskutera i kollegiet: Hur kan ni integrera rutiner för faktakontroll och källkritik i era lektioner när eleverna använder AI? Vilka specifika ämnesområden är mest utsatta för AI-hallucinationer, och hur kan ni arbeta proaktivt med detta?

Nästa moment: Från prompt till praktik: Utforma AI-stödda uppgifter - Nu när du har en solid grund i hur AI-modeller fungerar, hur du kommunicerar med dem och hur du hanterar deras begränsningar, är det dags att sammanföra allt du lärt dig till konkreta och pedagogiskt genomtänkta lektionsaktiviteter och uppgifter för dina elever.