Der Grund, warum die Mathematik einem KI-Beweis überhaupt zugehört hat, steht selten in den Schlagzeilen: Das Ergebnis wurde von einer Maschine nachgerechnet. Formale Verifikation ist die einzige bekannte Methode, ein KI-Ergebnis mit Sicherheit statt mit Vertrauen zu prüfen – und sie funktioniert genau dort, wo die Bedingungen stimmen. Hier steht, wie das geht, wo es hilft und wo eben nicht. Stand: 10. September 2026.
Das Grundproblem
Sprachmodelle erzeugen den wahrscheinlichsten nächsten Text, nicht die geprüfte Wahrheit. Ein falsches Ergebnis sieht deshalb genauso überzeugend aus wie ein richtiges – das ist der Kern des Halluzinationsproblems.
Die üblichen Gegenmittel mildern das, lösen es aber nicht. Man kann Quellen verlangen, Stichproben ziehen, eine zweite Meinung einholen. Alle drei erhöhen die Wahrscheinlichkeit, dass ein Fehler auffällt. Keines gibt Gewissheit.
Formale Verifikation macht etwas grundsätzlich anderes: Sie prüft nicht, ob eine Aussage plausibel klingt, sondern ob sie aus den Voraussetzungen folgt – Schritt für Schritt, maschinell, ohne Ermessensspielraum.
Wie ein Beweisassistent arbeitet
Werkzeuge wie Lean sind Programmiersprachen für Beweise. Man schreibt eine Behauptung und die Schritte, die zu ihr führen. Der Assistent akzeptiert jeden Schritt nur, wenn er aus dem bereits Gesicherten folgt. Ein Beweis, der durchläuft, ist korrekt – nicht wahrscheinlich korrekt.
Für KI ist das aus einem bestimmten Grund interessant: Es entsteht eine maschinelle Erfolgsprüfung. Ein Modell kann tausend Beweisversuche erzeugen, und der Assistent sortiert alle aus, die nicht halten. Niemand muss sie lesen. Genau dieses Zusammenspiel steckte hinter dem Navier-Stokes-Ergebnis vom September – nachzulesen im Guide Das Millennium-Problem und die KI.
Die Rechnung ist absichtlich schlicht: 1.000 Versuche mal fünf Minuten sind 5.000 Minuten, also gut 83 Stunden – zwei Arbeitswochen für einen Menschen. Sortiert eine Maschine vorher 99 Prozent aus, bleiben zehn Versuche und knapp eine Stunde übrig. Die Ausbeute ist in beiden Fällen dieselbe.
Daran hängt die ganze Frage, ob sich ein Schwarm lohnt. Erzeugen ist billig geworden; Lesen ist es nicht. Ohne Prüfinstanz verschiebt ein Modell die Arbeit bloß vom Schreiben zum Lesen – und Lesen lässt sich nicht parallelisieren, weil am Ende ein Mensch sitzt. Mit Prüfinstanz wird aus derselben Menge Material ein Bruchteil, der sich tatsächlich anschauen lässt. Das ist der eigentliche Grund, warum der Navier-Stokes-Lauf funktionieren konnte und warum sich dieselbe Methode auf die meisten Bürotätigkeiten eben nicht übertragen lässt.
Ein durchgelaufener Beweis heißt: Die Schritte folgen auseinander. Er heißt nicht, dass die Behauptung interessant ist, dass die Voraussetzungen zur Wirklichkeit passen oder dass jemand den Beweis versteht. Bei Navier-Stokes hat genau diese Lücke für Diskussionen gesorgt: formal geprüft ja, inhaltlich durchgearbeitet noch nicht. Wer „verifiziert“ mit „anerkannt“ verwechselt, überspringt den schwierigeren Teil.
Was davon außerhalb der Mathematik funktioniert
Das Prinzip lässt sich übertragen, sobald es eine maschinelle Prüfinstanz gibt. Der entscheidende Unterschied verläuft nicht zwischen Fachgebieten, sondern zwischen prüfbaren und nicht prüfbaren Ergebnissen.
| Ergebnis | Maschinell prüfbar? | Womit |
|---|---|---|
| Mathematischer Beweis | vollständig | Beweisassistent |
| Programmcode | weitgehend | Testsuite, Typprüfung, statische Analyse |
| Datenauswertung, Berechnung | teilweise | Gegenrechnung, Plausibilitätsgrenzen |
| Strukturierte Extraktion aus Dokumenten | teilweise | Abgleich mit dem Originaldokument, Schema-Prüfung |
| Sachtext mit Quellenangaben | eingeschränkt | Existenz der Quelle prüfbar, Aussage nicht |
| Einschätzung, Empfehlung, Tonfall | nein | bleibt menschliche Beurteilung |
Die zweite Zeile ist die praktisch wichtigste: Bei Programmcode gibt es seit Jahrzehnten eine Prüfinstanz, die niemand für KI erfunden hat – Tests. Deshalb funktionieren KI-Agenten beim Programmieren besser als fast überall sonst; sie bekommen unmittelbar gesagt, ob es geklappt hat. Was das für Agenten bedeutet, steht im Guide Agentische KI.
Der praktische Schluss für den Betrieb
Man muss keinen Beweisassistenten einführen, um von der Idee zu profitieren. Die übertragbare Frage lautet: Woran erkennt eine Maschine, ob dieses Ergebnis brauchbar ist?
Gibt es eine Antwort, automatisiere großzügig. Dann kann ein Modell viele Varianten erzeugen, und die Prüfung sortiert aus. Genau dafür sind Agenten gebaut.
Gibt es keine, bleibt der Mensch im Ablauf. Und zwar nicht als Formalie am Ende, sondern als benannte Instanz mit Zeit und Kompetenz für die Prüfung.
Oft lässt sich eine Prüfinstanz nachrüsten. Ein Schema, gegen das eine Extraktion laufen muss. Eine Summe, die stimmen muss. Eine Liste erlaubter Werte. Das sind kleine Eingriffe mit großer Wirkung – sie verwandeln „klingt richtig“ in „ist prüfbar“.
„Woran würde eine Maschine merken, dass dieses Ergebnis falsch ist?“
Die Frage, die vor jeder Automatisierung steht. Gibt es keine Antwort, ist die Aufgabe nicht automatisierbar – unabhängig davon, wie gut das Modell ist.Häufige Fragen
Was ist formale Verifikation?
Ein Verfahren, bei dem eine Maschine prüft, ob jeder Schritt einer Argumentation aus den Voraussetzungen folgt. Anders als Stichproben oder Plausibilitätsprüfungen liefert sie Gewissheit über die logische Korrektheit, nicht nur eine höhere Wahrscheinlichkeit.
Was ist Lean?
Ein Beweisassistent, also eine Programmiersprache für mathematische Beweise. Ein Beweis wird darin so formuliert, dass die Maschine jeden Schritt nachrechnet und nur akzeptiert, was aus bereits Gesichertem folgt.
Heißt formal verifiziert, dass ein Ergebnis richtig ist?
Es heißt, dass die Schritte logisch auseinander folgen. Ob die Behauptung bedeutsam ist, ob die Voraussetzungen zur Wirklichkeit passen und ob jemand den Beweis versteht, sind davon unabhängige Fragen.
Kann man KI-Texte formal verifizieren?
Nein. Formale Verifikation braucht eine eindeutige Sprache mit festen Ableitungsregeln. Bei Sachtexten lässt sich allenfalls prüfen, ob genannte Quellen existieren – nicht, ob die Aussagen stimmen.
Was bedeutet das für Unternehmen?
Die übertragbare Frage lautet: Woran erkennt eine Maschine, ob ein Ergebnis brauchbar ist? Wo es eine solche Prüfung gibt, kann man großzügig automatisieren. Wo nicht, gehört ein Mensch mit Zeit und Kompetenz in den Ablauf.
Warum funktioniert KI beim Programmieren besser als anderswo?
Weil es dort seit Langem eine maschinelle Prüfinstanz gibt: Tests, Typprüfungen und statische Analyse. Das Modell bekommt sofort gesagt, ob ein Versuch funktioniert hat – genau diese Rückmeldung fehlt bei Texten und Einschätzungen.
Prüfbarkeit in die eigenen Abläufe bauen
Welche Aufgaben sich automatisieren lassen, entscheidet sich an der Prüfbarkeit des Ergebnisses – nicht an der Stärke des Modells. Genau diese Unterscheidung üben wir in unserer geförderten Weiterbildung an echten Abläufen. Ob eine Förderung in Betracht kommt, klären wir im kostenlosen Erstgespräch; entschieden wird sie von der Agentur für Arbeit.
Kostenloses Erstgespräch sichern
Paul Niebler – Gründer der Scaly Academy. Über zehn Jahre IT-Consulting mit Schwerpunkt KI, unter anderem bei IBM und mit seinem zweiten Unternehmen Pexon Consulting. Er setzt die hier beschriebenen Werkzeuge selbst täglich ein und schreibt auf, was davon im Betrieb trägt – und was nicht. Einschätzung, keine Rechtsberatung. Paul auf LinkedIn
