Bedrägliga "sanningar" från språkmodellerna

 

Vi kan inte nog ofta prata med våra elever om AI-språkmodellernas häpnadsväckande förmåga att ljuga -eller som AI-folket kallar "hallucinera."

Svaret man får låter så tillitsfullt! Jag själv svalde en av ChatGPT:s lögner med hull och hår i eufuri då jag trodde att jag nu äntligen hittat svaret på en länge eftersökt fråga.

För många år sedan läste jag en roman av Paul Auster där det beskrivs en scen där huvudpersonen står och samtalar med en okänd man vid ett övergångsställe. De båda kommer väldigt väl överens tills plötsligt mannen drar fram en pistol och visar upp en helt annan karaktärsida än den inre bild som huvudpersonen skapat sig av honom. Kontrasten blir total.

Jag har i många år försökt utröna vilken roman från vilken denna scen är hämtad ifrån. Eftersom AI-språkmodellerna nu basunerats ut vara ett strå vassare än tidigare, och även kunna utföra framgångsrika sökuppdrag, gav jag uppdraget till GPT-4o. 

Det självklara svaret var Timbuktu. Jag rusade till bibblan och kastade mig över boken. Bläddrat fram och tillbaka, tillbaka och framåt och fram och tillbaka ..... utan att hitta den här scenen.

Skam den som ger sig! Vad säger då Copilot? Copilot svarade med att självsäkert konstatera Baumgartner

"Scenen du beskriver är hämtad från **Paul Austers** roman **“Baumgartner”**. 

Nästa språkmodell på tur blir Perplexity. Svaret där blir: Den scenen du beskriver förekommer i Paul Austers roman "The Locked Room" från den så kallade New York-trilogin.

Nu har jag lusläst The Locked Room .... och än en gång blivit besviken.

Idag gjorde jag ett nytt försök med GPT-4o och svaret blev lite mer ödmjukt den här gången:

GPT-4o svarade idag:

Den scen du beskriver låter som den kan vara från Paul Austers roman "Leviathan", som publicerades 1992. I "Leviathan" finns en minnesvärd scen där en av huvudpersonerna, Peter Aaron, träffar en okänd man som visar sig ha en mörkare sida än vad som först framgår. Boken utforskar teman som identitet, vänskap och den oförutsägbara naturen hos människor, vilket stämmer överens med den situation du beskriver.

För att vara säker på att det är rätt bok, skulle jag rekommendera att du tittar närmare på "Leviathan" och ser om handlingen och karaktärerna känns igen.

Copilot svarade med att självsäkert konstatera Baumgartner - en bok som kom ut på svenska i år!

Fallgroparna med skeva och falska sanningar förtäckta med ärlighetens ljus finns numera runt omkring. Lätta att falla i både för elever och för oss själva.