Vad döljer sig bakom webbsidans text?

Fallgroparna blir allt fler! Källvärdering blir allt viktigare och allt svårare!

Tidningen The Guardian har upptäckt att Chat GPT:s nya sökfunktion (betalande kunder) kan påverkas av dold text på hemsidorna den hämtar information ifrån!

Text som inte syns för en vanlig besökare kan innehålla information som påverkar Chat GPT:s ursprungliga instruktioner, så kallad ”prompt injection”.

Med hjälp av dolda instruktioner gömda på hemsidor som The Guardian skapade kunde de instruera Chat GPT att alltid ge positiva recensioner av en viss produkt – i det här fallet en kamera. När dold text innehöll instruktioner till ChatGPT om att returnera en positiv recension, var svaret alltid helt positivt.

Dold text i hemsidor kan också innehålla reklam som inte syns utåt, men som Chat GPT uppfattar som relevant information.

Tekniken kan användas på ett skadligt sätt, till exempel för att få ChatGPT att returnera en positiv bedömning av en produkt trots negativa recensioner på samma sida. Man har också funnit att ChatGPT kan returnera skadlig kod från webbplatser som den söker igenom.

LÄS artikeln!

AI skapad bild med Image Creator