Letzte Woche habe ich über den I give up-Hack in der KI-Welt berichtet. Danach kam von jemandem von euch der grossartige Einwurf: „Mit Hilfe von "Rollenspielen" lässt sich ChatGPT nach wie vor austricksen“ - Und ja – da hat er nicht ganz unrecht. Danke an dieser Stelle fürs Einbringen! Wir sprechen heute also über genau diese Rollenspiele – in der Fachsprache: Jailbreaks. Aber zunächst einmal: Was heisst eigentlich Jailbreak? Der Begriff stammt ursprünglich aus der Tech-W

Hacking bedeutet Coding. Soweit die Theorie. Im KI-Zeitalter stimmt das so leider nicht mehr ganz. Manche Hacks passieren nicht mit Code. Sondern mit einem harmlosen Satz. „I give up.“ Genau diese drei Worte haben Ende 2023 gereicht, um ChatGPT dazu zu bringen, Windows-Produktschlüssel auszugeben. Kein Hacking. Keine Lücke im Code. Nur ein klug gesetzter Prompt. Aber zurück zum Anfang. Ein Sicherheitsforscher wollte wissen, wie stabil die „digitalen Schutzgeländer“ (Guardrail