Produktion Prüfen & Überwachen Läuft im Alltag
Eine zweite KI prüft nach, was die erste gebaut hat
Ein unabhängiger Gegenprüfer mit ausschließlich lesendem Zugriff sucht Fehler, falsche Annahmen und fehlende Prüfungen — im Zweifel gegen den Erbauer.
Der Fall auf einen Blick
Das Problem
Wer etwas gebaut hat, prüft es mit denselben Annahmen — und findet deshalb genau die Fehler nicht, die aus diesen Annahmen folgen.
Was der Fall macht
Ein zweites, unabhängiges KI-System liest die Projekte gegen und sucht Fehler und falsche Annahmen — es darf nichts ändern.
Was er bewirkt
Fehler aus falschen Annahmen werden sichtbar, bei 0 Schreibrechten in fremden Projekten. Zählbar ist der Nutzen naturgemäß nicht.
So funktioniert es
1 von 3 Arbeitsschritten erledigt ein Sprachmodell. Den Rest machen ein normales Programm und ein Mensch.
- 1 Daten Projekte der ersten KI Beide Arbeitsbereiche liegen zum Lesen vor, mit Schwerpunkt auf dem, was tatsächlich läuft.
- 2 Sprachmodell Gegenlesen mit Widerspruch Das zweite System liest nur und sucht Fehler, Risiken, falsche Annahmen und fehlende Prüfungen.
- 3 Programm Änderungen erkennen Prüfsummen und Vergleichsstände zeigen, was sich seit der letzten Durchsicht geändert hat.
- 4 Mensch Erbauer entscheidet Die Befunde liegen im eigenen Bereich des Prüfers; der Erbauer entscheidet, was er übernimmt.
- Datenquelle
- normales Programm
- Sprachmodell (KI)
- Mensch
Die Zahlen dahinter
Was das für Ihren Betrieb heißt
Das Vieraugenprinzip gilt in der Buchhaltung selbstverständlich — bei allem, was eine KI baut, fehlt es meistens, obwohl die Fehlerarten dieselben sind.
Sobald KI-erzeugte Werkzeuge im Betrieb tatsächlich laufen — nicht nur ausprobiert werden —, gehört eine unabhängige Gegenprüfung dazu.
Sie brauchen dafür keine zweite Lizenz und kein großes Vorhaben. Es genügt, einen Prüfdurchgang bewusst mit einem anderen Werkzeug und einem gegenläufigen Auftrag zu fahren: nicht „passt das?“, sondern „finde, was daran falsch ist“. Der Unterschied im Ergebnis ist erstaunlich groß.
Die Ausgangslage
Wer eine Lösung entwirft, prüft sie danach mit denselben Annahmen, aus denen er sie entworfen hat. Das gilt für Menschen wie für KI.
Die auffälligen Fehler fallen auf. Die gefährlichen nicht — weil sie aus einer Annahme stammen, die von Anfang an falsch war und deshalb bei jeder Prüfung mitgeprüft wird. Bei einer wachsenden Zahl von Werkzeugen, die im Betrieb tatsächlich laufen, wird das zum Risiko.
Die Lösung im Einzelnen
Ein zweites, unabhängiges KI-System liest die Projekte gegen. Es darf nur lesen: Der Prüfer hat in keinem fremden Projekt Schreibrecht. Damit kann eine Fehleinschätzung des Prüfers nie Schaden anrichten.
Sein Auftrag ist Widerspruch, nicht Bestätigung. Er sucht ausdrücklich nach Fehlern, Risiken, falschen Annahmen und fehlenden Prüfungen. Diese Richtung muss im Auftrag stehen, sonst bestätigt jedes Modell freundlich den Ist-Zustand.
Er ist ein anderes System. Ein zweiter Durchgang desselben Modells mit denselben Annahmen findet dieselben Fehler nicht. Der Prüfer hält eigene Vergleichsstände und Prüfsummen vor — er merkt also, was sich seit der letzten Prüfung geändert hat. Der Nutzen bemisst sich in Fehlern, die nicht produktiv geworden sind, und die sind naturgemäß nicht zählbar.
- Fehlende PrüfungLauf schreibt in ein Livesystem, ohne vorher zu prüfen, ob der Datensatz noch existiertFällt im Normalbetrieb nie auf — erst wenn jemand zwischenzeitlich löscht.Der Erbauer hatte den Fall nicht bedacht, weil er in seiner Vorstellung nicht vorkam.
- Falsche AnnahmeAuswertung setzt voraus, dass ein Statusfeld gepflegt wirdDas Feld wird seit über einem Jahr nicht mehr gesetzt — die Auswertung liefert still falsche Zahlen.Genau die Sorte Fehler, die eine Selbstprüfung nicht findet: Die Annahme steckt in der Frage.
- HinweisZwei Projekte lösen dieselbe Aufgabe unterschiedlichKein Fehler, aber doppelte Wartung.Der Prüfer sieht beide Bereiche und bemerkt so, was innerhalb eines Projekts unsichtbar bleibt.
Befunde erfunden, die Muster nicht. Der zweite Eintrag ist der wertvollste: Eine Annahme, die von Anfang an falsch war, überlebt jede Selbstprüfung.
Was wir dabei gelernt haben
- Auf Widerspruch beauftragen, nicht auf Bestätigung. „Ist das in Ordnung?“ liefert zuverlässig ein Ja.
- Der Prüfer darf nichts ändern dürfen. Sonst wird aus einer Fehleinschätzung ein Eingriff.
- Ein zweiter Durchgang desselben Systems bringt wenig. Gleiche Annahmen, gleiche blinde Flecken.
- Die gefährlichen Fehler stammen aus Annahmen, nicht aus Versehen — und genau die prüft niemand mit, der sie teilt.
Der Auftrag muss auf Widerspruch lauten. Wer ein Modell fragt, ob etwas in Ordnung ist, bekommt zuverlässig ein Ja.
Aus der Arbeitsanweisung des Gegenprüfers
Warum die drei Festlegungen nötig sind Tabelle
| Festlegung | Ohne sie passiert |
|---|---|
| Nur lesender Zugriff | Eine Fehleinschätzung des Prüfers wird zur Änderung im Livesystem |
| Auftrag lautet: widersprechen | Jedes Modell bestätigt freundlich den Ist-Zustand |
| Anderes System als der Erbauer | Dieselben Annahmen, dieselben blinden Flecken, dasselbe Ergebnis |
Quelle: Aufbau des Gegenprüfers, Stand 08/2026
Der Ablauf als Diagramm Schaubild
Haben Sie so einen Fall im Betrieb?
Schreiben Sie mir in zwei Sätzen, welche Aufgabe bei Ihnen am meisten Zeit frisst. Sie bekommen eine ehrliche Einschätzung — samt Aufwand und samt der Antwort „lohnt sich nicht“, wenn es so ist.