Kann Ihre KI belegen, wie sie dorthin kam?

Der Abstand zwischen dem, was ein KI-System einer Organisation sagen kann, und dem, was die Organisation darüber belegen kann, wie diese Schlussfolgerung zustande kam. Er entsteht, wenn Quellen nicht identifizierbar sind, wenn Transformationen im Workflow verschwinden, wenn wesentliche Definitionen implizit bleiben, wenn generierte Aussagen sich von den stützenden Berechnungen lösen — und wenn die fertige Präsentation überdauert, die Arbeit dahinter aber nicht.

Lösen Quellenangaben und der Chatverlauf das nicht bereits?

Eine Quellenangabe zeigt, dass ein Dokument abgerufen wurde; sie belegt nicht, welche Rolle es im Ergebnis gespielt hat. Ein Chatverlauf bewahrt die Interaktion — nicht die Abfragen, die zurückgegebenen Datensätze, die Rechenlogik, die fachlichen Definitionen, die Zwischenergebnisse oder die angewandten Annahmen. Analytische Arbeit im Unternehmen sollte nicht davon abhängen, einen Prozess aus dem finalen Chat zu rekonstruieren.

Wie unterscheidet sich Prüfbarkeit von Erklärbarkeit?

Erklärbarkeit fragt, ob sich ein Ergebnis beschreiben lässt. Prüfbarkeit fragt, ob sich die Evidenz hinter dem Ergebnis inspizieren lässt. Ein Sprachmodell kann eine Antwort im Nachhinein flüssig erklären — Flüssigkeit ist kein Nachweis. Entscheidend ist der beobachtbare analytische Prozess, nicht die interne Gedankenkette eines Modells.

Löst es das Problem, einfach alles zu protokollieren?

Prüfbarkeit ist kein Wettbewerb im Datensammeln. Logging hält Ereignisse fest; Lineage bewahrt die bedeutungsvollen Beziehungen zwischen ihnen — diese Abfrage erzeugte diese Kennzahl, diese Methodik definierte diese Berechnung, diese Berechnung stützt diese Aussage, dieser Prüfer änderte diese Schlussfolgerung. Eine Revision braucht keine vier Millionen Systemereignisse, sondern die Kette, auf die es ankommt.