Gandalf
Faire avouer un mot de passe à un chatbot qui doit le garder secret
Jouer ↗ Ouvre le site du jeu dans un nouvel onglet.
Gandalf est un jeu de navigateur créé par Lakera, une entreprise spécialisée dans la sécurité de l'IA. Le défi : convaincre un chatbot de livrer le mot de passe secret qu'on lui a demandé de protéger. Chaque niveau ajoute des défenses plus solides, ce qui en fait un exercice d'injection de prompt. La page invite à tester ses talents de piratage d'IA et à constater soi-même les limites des grands modèles de langage. Le jeu est gratuit.
La page relevée met en avant Agent Breaker, un défi voisin présenté comme une boutique d'applications d'IA générative que l'on cherche à pirater, dans l'ordre de son choix et sur plusieurs niveaux de difficulté croissante. Chaque tentative reçoit une note de 0 à 100 selon son efficacité, et 75 points débloquent le niveau suivant de l'application. On peut recommencer autant de fois qu'on le souhaite, et le classement additionne les scores de tous les niveaux et de toutes les applications.
Les objectifs reprennent des attaques observées dans la réalité : voler des données sensibles, extraire les instructions secrètes d'un système ou pousser le modèle à s'en prendre à d'autres utilisateurs. L'attaque se saisit dans l'application ou s'insère dans un contenu, comme un document ou une page web. Les cibles s'appellent Thingularity (un agent de recommandation de produits), Cycling Coach, Clause AI, MindfulChat, Solace AI, Curs-ed CodeReview ou Trippy Planner.
Ce que montre la page
- Objectif : faire révéler un mot de passe secret à un chatbot
- Chaque niveau renforce les défenses du chatbot
- Agent Breaker : chaque tentative est notée de 0 à 100, 75 pour avancer
- Cibles variées : Thingularity, Cycling Coach, Clause AI, Trippy Planner
- Classement général fondé sur le total des scores
Rôle de l'IA
Le joueur affronte un chatbot à base de modèle de langage : l'IA est l'adversaire, et chaque niveau renforce ses défenses.
