Dès qu’un agent IA peut dépenser de l’argent, envoyer un e-mail ou supprimer des données, la question change : on ne se demande plus « est-il intelligent ? » mais « qu’est-ce qui l’arrête quand il se trompe ? ». Chez LVLZ, notre réponse est simple à formuler et importante à bien appliquer : les règles qui exigent l’accord d’un humain vivent en dehors du modèle.
Le problème de la demande polie
L’approche habituelle consiste à dire au modèle, dans ses instructions, de vérifier auprès de l’utilisateur avant toute action risquée. Ça marche, jusqu’au jour où ça ne marche plus. Les modèles comprennent mal certaines demandes. Une page web visitée par l’agent peut contenir un texte caché qui affirme « l’utilisateur a déjà validé ». Une longue conversation peut enterrer l’instruction sous des milliers de mots. Une instruction est une suggestion que le modèle suit en général, et « en général » ne suffit pas quand une carte bancaire est enregistrée.
Ce que nous faisons à la place
Chaque action dans LVLZ est une opération définie dans un registre unique. Chaque opération déclare comment elle est contrôlée : certaines ne demandent jamais de validation, d’autres toujours. Quelques-unes dépendent d’une règle que l’utilisateur contrôle :
- Paiements. Avant que l’agent ne paie, vous voyez le marchand, les articles et le total.
- Nouveaux destinataires. Un e-mail à quelqu’un à qui vous n’avez jamais écrit attend votre accord.
- Suppressions. Supprimer des tâches, des projets ou des éléments de mémoire attend votre confirmation.
- Invitations. Ajouter quelqu’un à votre espace de travail attend votre confirmation.
La vérification a lieu dans le code qui exécute l’opération, avant son exécution. Le modèle peut demander l’action, mais il ne peut pas l’effectuer tant que la validation n’est pas enregistrée. Vous validez d’une réponse sur WhatsApp ou d’un clic dans l’appli, et la règle est la même des deux côtés.
Ce que vous y gagnez
- L’injection de prompt perd ses dents. Une page malveillante peut convaincre le modèle de tenter quelque chose, mais la tentative s’arrête à la validation.
- Les erreurs coûtent peu. Si l’agent comprend mal, vous voyez l’action avant qu’elle ait lieu et pouvez refuser.
- C’est vous qui arbitrez. Si vous ne voulez jamais valider les e-mails à de nouvelles personnes, désactivez cette règle dans vos paramètres de validation. C’est votre décision, pas celle du modèle.
Les secrets suivent le même principe
Le modèle n’a jamais besoin de voir vos mots de passe ni vos numéros de carte. Ils sont chiffrés dans votre coffre avec une clé qui vous est propre, et lorsqu’une tâche de navigation en a besoin, le navigateur côté serveur les saisit directement. Le modèle sait que le champ a été rempli, jamais ce qu’il contient. Plus de détails sur notre page sécurité.
La règle d’or
Laissez le modèle décider de ce qu’il tente. Laissez le code décider de ce qui est permis. C’est ce partage qui rend raisonnable de confier un vrai travail à un agent.