Chatbotarna befäster fördomar

Fördomarna frodas i chatbotarnas värld! Gömmer sig och försåtligt smyger på oss användare - många gånger utan att vi märker det. AI-modellerna har inga egna åsikter men de har tränats på en hiskelig massa data där det finns ett flertal fördomar och vinklade beskrivningar om ras, kön, etnicitet, språk, kultur m m. Fördomar som vävs in i texterna som de olika språkmodellerna levererar - och därmed sprider och befäster.

Se exempel på detta i artikeln av Vidisha Vijay i VentureBeat : Mitigating AI bias with prompt engineering — putting GPT to the test | VentureBeat

Spana också in hur chatboten blev inbjuden av SVT att plocka fram några fördomar om oss skåningar, göteborgare, norrlänningar och stockholmare.....Den sista gruppens stöddighet förklarad med att stockholmarna har ju större anledning till att vara stöddiga eftersom de bor i "Sveriges ekonomiska och kulturella centrum." 

:-)

___________

SVT Nyheter. (2023, March 18). Här är fördomarna AI har om svenskar från olika håll i landet. SVT Nyheter. https://www.svt.se/nyheter/inrikes/har-ar-fordomarna-ai-har-om-svenskar-fran-olika-hall-i-landet

‌

Vijay, V. (2024, July 7). Mitigating AI bias with prompt engineering — putting GPT to the test. VentureBeat.https://venturebeat.com/ai/mitigating-ai-bias-with-prompt-engineering-putting-gpt-to-the-test/?fbclid=IwY2xjawEoIz5leHRuA2FlbQIxMAABHXAF_MHoYAflQbBpjeOonwFksM7fkT2p9FQG2y15DncafPH6S8f_VHTk3A_aem_Z7XUe80gH_rM_NinfqGwgw

‌