Bildgeneratorernas baksidor

I ett tidigare inlägg har jag utforskat tekniken och de kreativa möjligheterna med ChatGPT:s uppdaterade bildgenerator. Men avancerad teknik som skapar mycket realistiska bilder medför också stora utmaningar och risker. Därför behöver den användas med stor omsorg och ansvar. Carlo Iacono pekar på flera allvarliga risker med den nya generationens bildgeneratorer. Utöver ekonomiska farhågor finns ytterligare en samhällsrisk – att förtroendet för digital information urholkas ytterligare. 

Desinformation blir enklare att skapa

Den verklighetstrogna kvaliteten och förmågan att återge korrekt text gör dessa verktyg till kraftfulla verktyg för att skapa och sedan sprida desinformation. Det har blivit enkelt att skapa:

- Falska men trovärdiga skärmdumpar från sociala medier

- Fejkade nyhetsrubriker

- Förfalskade dokument

- Deepfake-bilder av offentliga personer i komprometterande situationer 

Allvarligare hot

Carlo varnar i sin reflektion för att detta ökar risken för: 

- Avancerade bedrägerier

- Riktade trakasserier

- Skapande av syntetisk pornografi utan samtycke 

Dessa hot växer i takt med att tekniken blir mer kraftfull och allmänt tillgänglig. Dessutom aktualiseras frågor om upphovsrätt och konstnärligt ägande ytterligare när AI kan efterlikna stilar och skapa högupplösta verk baserade på träningsdata som kan vara upphovsrättsskyddade. 

Digital kompetens blir avgörande

Iacono pekar på ett brådskande behov av en grundläggande uppgradering av den digitala kompetensen:  Färdigheter som går långt utöver grundläggande datoranvändning. Iacono fortsätter (översatt med Microsoft översättning):

• Medvetenhet är ett minikrav: Alla måste förstå att mycket realistiska syntetiska medier existerar och är lätta att skapa.
• Text är inte bevis: AI-verktyg som GPT-4o kan återge text från bilder med hög precision, vilket innebär att text i en bild inte längre kan ses som ett säkert bevis på äkthet.
• Härkomst framför pixlar: Verifieringen måste övergå till att kritiskt granska källan, sammanhanget, delarens historik och korsreferera information från flera tillförlitliga källor. Omvända bildsökningar och kontextuell analys blir avgörande.
• Emotionell skepticism: Innehåll som är utformat för att provocera fram starka, omedelbara känslomässiga reaktioner bör behandlas med extrem försiktighet, eftersom detta är en vanlig taktik i desinformationskampanjer.
• Förstå avsikt: Att inse att bilder kan genereras på begäran för att passa en berättelse kräver kritiskt tänkande om motivet bakom bildens skapande och spridning.

Vad betyder detta för undervisningen i skolan?

Som skolbibliotekarier och lärare har vi ett särskilt ansvar att: 

- Undervisa elever i kritiskt tänkande och källkritik anpassad för AI-genererat innehåll

- Diskutera etiska aspekter av AI-genererade bilder i klassrummet

- Utveckla tydliga riktlinjer för användning av bildgeneratorer i skolarbeten

- Hjälpa elever förstå både möjligheter och risker med dessa verktyg

Dessa utmaningar innebär inte att vi ska undvika teknologin, utan snarare att vi måste lära oss att navigera i denna nya verklighet med öppna ögon och ett kritiskt förhållningssätt.

Vad tänker du? Hur kan vi bäst förbereda elever för en värld där det blir allt svårare att skilja mellan äkta och genererat innehåll? Lämna gärna en kommentar!

AI-bild från Lexica.art

.....

Iacono, C. (2025, March 27). Reality Remixed. Substack.com; Hybrid Horizons: Exploring Human-AI Collaboration. https://hybridhorizons.substack.com/p/reality-remixed?%20r=1be033&utm_campaign=post&utm_medium=web&triedRedirect=true

Bjurström, E. (2025). LinkedIn. https://www.linkedin.com/posts/erik-bjurstr%C3%B6m-05b2ba14b_alltid-angel%C3%A4get-att-prata-om-k%C3%A4llkritik-activity-7310980695319883776-EdvR/?utm_source=share&utm_medium=member_desktop&rcm=ACoAAAdRnQ4BOg98eA43sHWWp48fOskpHqxN2BI

‌