Votre IA peut-elle prouver comment elle y est arrivée ?

L'écart entre ce qu'un système d'IA peut dire à une organisation et ce que l'organisation peut établir sur la manière dont cette conclusion a été atteinte. Il s'ouvre lorsque les sources ne peuvent pas être identifiées, lorsque les transformations disparaissent dans un workflow, lorsque des définitions importantes restent implicites, lorsque les affirmations générées se détachent des calculs qui les soutiennent, et lorsque la présentation finale survit mais pas le travail qui la fonde.

Les citations et l'historique de conversation ne règlent-ils pas déjà la question ?

Une citation montre qu'un document a été récupéré ; elle n'établit pas le rôle qu'il a joué dans le résultat. Une conversation conserve l'interaction, pas les requêtes, les enregistrements renvoyés, la logique de calcul, les définitions métier, les résultats intermédiaires ni les hypothèses appliquées. L'analyse d'entreprise ne devrait pas dépendre de la reconstruction d'un processus à partir de la conversation finale.

En quoi l'auditabilité diffère-t-elle de l'explicabilité ?

L'explicabilité demande si un résultat peut être décrit. L'auditabilité demande si la preuve derrière le résultat peut être inspectée. Un modèle de langage sait expliquer une réponse avec fluidité après coup, et la fluidité n'est pas une preuve. Ce qui compte est le processus analytique observable, et non la chaîne de raisonnement interne d'un modèle.

Tout journaliser ne suffit-il pas ?

L'auditabilité n'est pas un concours de rétention de données. La journalisation enregistre des événements ; la lineage préserve les relations qui ont du sens entre eux : cette requête a produit cette métrique, cette méthodologie a défini ce calcul, ce calcul soutient cette affirmation, ce relecteur a modifié cette conclusion. Un auditeur n'a pas besoin de quatre millions d'événements système, mais de la chaîne qui compte.