Academy
5. Que faire face à un badge orange ou rouge
Appliquer des stratégies pratiques — demander à l'IA de citer ses sources, reformuler la demande ou s'appuyer sur un document — lorsqu'un badge signale un avertissement ou un problème grave.
Un badge orange signifie qu'au moins un des cinq contrôles de TrustLayer a déclenché un avertissement — par exemple, une affirmation de la réponse n'a pas été retrouvée dans les sources jointes, ou une contrainte que vous aviez définie dans votre prompt n'a pas été entièrement respectée. Un badge rouge est plus sérieux : il signale des problèmes tels que l'IA affirmant avoir effectué une action (envoyé un e-mail, enregistré un fichier) qui ne s'est jamais réellement produite, ou du code généré contenant des schémas dangereux. Dans les deux cas, le badge est une invitation à s'arrêter et à vérifier avant d'utiliser ou de partager la réponse. Ne transmettez jamais une réponse portant un badge rouge sans l'avoir vérifiée au préalable.
Lorsque vous voyez un badge orange ou rouge, votre premier réflexe doit être de cliquer dessus. Cela ouvre un détail montrant le résultat de chaque contrôle. Pour l'ancrage des sources en particulier, vous verrez exactement quelles affirmations ont été rattachées à une source et lesquelles ne l'ont pas été. Cela vous indique où se trouvent les points faibles afin que vous puissiez concentrer votre effort de vérification au lieu de relire l'intégralité de la réponse.
Demandez à l'IA de citer ses sources. Une simple relance comme « Quel document ou passage appuie cette affirmation ? » oblige le modèle à faire apparaître ses références. S'il ne peut en désigner aucune, c'est un signal fort que l'affirmation nécessite une vérification indépendante.
Reformulez votre demande. Un avertissement orange sur la fidélité au prompt signifie souvent que l'IA s'est écartée de vos contraintes ou a manqué une partie de votre question. Découpez un prompt complexe en étapes plus petites et plus claires, puis soumettez-le à nouveau : la nouvelle réponse sera vérifiée à nouveau par TrustLayer.
La correction la plus efficace consiste à ancrer la réponse. Les réponses basées sur vos propres documents ou bases de connaissances peuvent bénéficier d'un ancrage aux sources : TrustLayer peut vérifier chaque affirmation par rapport à un contenu réel. Les réponses non ancrées (une génération pure sans matériel de référence) ne peuvent pas bénéficier de ce contrôle, ce qui maintient le score plus bas. Le fait de téléverser un document pertinent ou de connecter une base de connaissances avant de poser votre question donne à TrustLayer un élément solide auquel se comparer, ce qui augmente généralement le score de confiance.
Rendez-vous dans vos bases de connaissances, choisissez-en une ou créez-en une avec un document en qui vous avez confiance. Ouvrez ensuite une discussion, joignez cette base de connaissances et posez une question à laquelle le document peut répondre. Comparez la couleur du badge et le score à ceux obtenus pour la même question posée sans la base de connaissances.
N'oubliez pas : même un badge vert ne garantit pas la vérité — il signifie que la réponse est cohérente avec les sources visibles, votre demande et les outils utilisés. Un fait faux dans la réalité mais correspondant à votre document peut tout de même passer. Votre jugement sur les décisions importantes reste essentiel.
Lorsqu'un badge devient orange ou rouge : (1) cliquez dessus pour voir quel contrôle a signalé le problème, (2) demandez à l'IA de citer ses sources, (3) reformulez votre prompt pour le rendre plus clair ou plus précis, et (4) ancrez la conversation avec un document ou une base de connaissances fiable pour permettre l'ancrage aux sources. Ces étapes ne se contentent pas de vous aider à vérifier — elles améliorent activement la qualité et la fiabilité de la prochaine réponse de l'IA. Et n'oubliez jamais : le badge est une aide à la lecture, pas un certificat de vérité.