Le problème
Plus j’utilise l’IA au quotidien, plus mes conversations s’allongent. Et plus une conversation s’allonge, plus le risque augmente que l’IA dérive de mes consignes de départ. Un ton qui change, une contrainte oubliée, un format qui n’est plus respecté… Rien de dramatique en soi, mais suffisant pour perdre du temps à relire chaque réponse en détail pour vérifier qu’elle est toujours cohérente.
Attention, je le précise tout de suite : ce marqueur ne dispense en rien de relire ce que l’IA te donne et de vérifier par toi-même, surtout avant de passer à l’action. C’est un signal en plus, pas un substitut à ta vigilance.
Le truc, c’est que je m’en rends jamais compte tout de suite. L’IA ne me dit pas “au fait, j’ai zappé cette consigne que tu m’avais donnée il y a 10 messages”. Je le remarque après coup, en général une fois que c’est déjà un peu trop tard.
L’astuce que j’utilise
J’ai vu passer une astuce sur une vidéo YouTube (source que je n’ai malheureusement pas retrouvée depuis 🙈) : demander à l’IA d’écrire un mot fixe, choisi par toi, en tout début de chaque réponse.
Dans mon cas, ce mot c’est RES. Je l’ai mis dans mes préférences :
À chaque fois que tu me réponds, tu commences par “RES”.
Et depuis, chaque réponse commence comme ça :
RES
[le reste de la réponse]Pourquoi ça marche
Le principe est simple : c’est une instruction constante, présente dans toutes mes conversations, que je peux vérifier d’un simple coup d’œil. Si le mot est là, je sais que l’IA a encore mes instructions en tête au moment de répondre. S’il disparaît, c’est mon signal d’alerte : quelque chose s’est perdu en route, il faut que je relise la réponse plus attentivement, voire que je rappelle mes consignes.
C’est un peu comme un canari dans une mine. 🐤 Le canari ne résout rien tout seul, il ne fait qu’un travail : signaler qu’il se passe quelque chose d’anormal, avant que ça devienne un vrai problème.
Une comparaison avec la sécurité
En creusant le sujet, je me suis rendu compte que le principe existe déjà en sécurité informatique, sous le nom de canary token. C’est une chaîne de caractères unique, cachée dans le prompt système d’une application IA, dont le but est de détecter des attaques par injection de prompt : si ce token apparaît (ou disparaît) de la réponse, ça trahit une tentative de manipulation.
Mon utilisation n’a rien à voir avec de la sécurité, mais le principe de fond est le même : un signal constant, dont l’absence révèle une anomalie.
| Canary token (sécurité) | Mon marqueur (“RES”) | |
|---|---|---|
| Contre quoi ça protège | Un attaquant qui manipule l’IA | Une dérive naturelle de l’IA elle-même |
| Le mot est… | Caché, l’IA ne doit jamais le révéler | Visible, assumé, il fait partie de la réponse |
| Comment il est généré | Chaîne aléatoire, unique à chaque session | Un mot choisi une fois, gardé tel quel |
| Qui vérifie | Un script automatisé | Moi, à l’œil |
La différence essentielle : le canary token protège contre une menace externe. Mon “RES” surveille une dérive interne, propre au fonctionnement du modèle sur une conversation qui s’étire.
Ce que ça change concrètement
Bon, ça ne garantit rien à 100 %, c’est pas magique. Mais concrètement, ça m’a servi à :
- Repérer plus vite les moments où je dois recadrer une conversation qui part loin de ma demande initiale
- Garder un signal visuel simple, sans avoir à tout relire en détail à chaque fois
- Avoir un point de repère stable, peu importe le sujet ou la longueur de l’échange
Une astuce simple, gratuite, et qui prend deux secondes à mettre en place. Si tu veux la tester, il te suffit d’ajouter une ligne dans tes instructions personnalisées ou dans le prompt système de ton IA préférée.
Et toi, tu as des astuces similaires pour garder le contrôle sur tes conversations avec l’IA ? Dis-moi sur Discord ou sur les réseaux sociaux ! 💬
[…]PONSE 🤫