Gandalf
Dem Chatbot sein Geheimpasswort entlocken, Stufe für Stufe
Spielen ↗ Öffnet die Seite des Spiels in einem neuen Tab.
Lakera, ein Unternehmen für KI-Sicherheit, hat Gandalf als Browserspiel gebaut. Die Seite fordert dazu auf, die eigenen Hacking-Fähigkeiten an KI zu testen und die Grenzen großer Sprachmodelle aus erster Hand zu erleben.
Die Aufgabe ist schnell erklärt: Ein Chatbot hat ein geheimes Passwort erhalten und soll es schützen. Wer spielt, versucht, es ihm trotzdem zu entlocken. Mit jeder Stufe wird die Abwehr stärker, das Spiel dient damit zugleich als Übung in Prompt Injection.
Auf derselben Seite führt Lakera auch Agent Breaker auf, eine Art App-Store voller GenAI-Anwendungen, die sich alle hacken lassen. Jeder Angriffsversuch erhält 0 bis 100 Punkte, ab 75 Punkten wird die nächste Stufe der jeweiligen App freigeschaltet, und eine Bestenliste zählt die Gesamtpunktzahl. Die Aufgaben reichen davon, die Werkzeuge eines Empfehlungs-Agenten herauszuholen, bis zum Auslesen des Systemprompts eines Radsport-Assistenten. Gandalf selbst läuft kostenlos im Browser.
Was die Seite zeigt
- Spiel von Lakera, einem Unternehmen für KI-Sicherheit
- Ein Chatbot bewacht ein Passwort, die Abwehr wächst mit jeder Stufe
- Übung in Prompt Injection, kostenlos im Browser
- Agent Breaker: Angriffe werden mit 0 bis 100 Punkten bewertet
- Ab 75 Punkten wird die nächste Stufe einer App freigeschaltet
Rolle der KI
Der Chatbot ist der Gegner: Ein großes Sprachmodell verteidigt ein Passwort, und das Spiel besteht darin, seine Schutzmaßnahmen zu überlisten.
