Agentische KI: Was Agenten können und was sie dürfen sollten

Inhaltsverzeichnis

Zehntausend KI-Agenten, 88 Stunden Rechenzeit, ein mathematisches Jahrhundertproblem: Was OpenAI Anfang September vorgeführt hat, war der bislang sichtbarste Einsatz eines Agenten-Schwarms. Hinter dem Schlagwort steckt ein einfaches Prinzip – und eine Reihe sehr praktischer Fragen, die sich jedem stellen, der so etwas im eigenen Betrieb einsetzen will. Stand: 10. September 2026.

Infografik: Assistent schlägt vor und du entscheidest, Agent handelt selbst mit Werkzeugen, Schwarm arbeitet mit vielen Agenten parallel unter einem Koordinator - mehr Nutzen und mehr Schaden auf einmal. Vor jedem Schwarm: Obergrenze und Abbruchkriterium im Code, 40 $ oder 1.200 $ entscheiden zwei Zeilen.
Assistent, Agent, Schwarm. Jede Stufe multipliziert Nutzen und Schaden – deshalb gehören Obergrenze und Abbruchkriterium in den Code.

Chatbot, Agent, Schwarm – drei verschiedene Dinge

Wer entscheidetTypische AufgabeWas schiefgehen kann
Assistent im Chatdu, bei jedem SchrittText, Analyse, Frageneine falsche Antwort, die du siehst
Einzelner Agentdas Modell, innerhalb deiner Vorgabenmehrstufige Aufgabe mit Werkzeugeneine falsche Handlung, die du erst danach siehst
Agenten-Schwarmviele Instanzen parallel, koordiniertbreite Suche, viele Variantenviele falsche Handlungen gleichzeitig

Der Sprung vom Assistenten zum Agenten ist der entscheidende: Ein Assistent schlägt vor, ein Agent tut. Er ruft Werkzeuge auf, liest Dateien, schreibt Dateien, schickt Anfragen. Der Sprung vom Agenten zum Schwarm ist dagegen vor allem eine Frage der Menge – und genau deshalb multipliziert er beides, den Nutzen und den Schaden.

Wie ein Schwarm arbeitet

Das Grundmuster ist einfach: Viele gleichartige Arbeiter arbeiten parallel, eine koordinierende Instanz verteilt Aufgaben und sammelt Ergebnisse ein. Im Fall des Navier-Stokes-Beweises hieß das: Tausende Instanzen probierten Varianten eines Lösungswegs durch, und was durchfiel, wurde verworfen.

Damit das funktioniert, braucht es drei Dinge, die in Demos gern übersehen werden:

Eine klare Erfolgsprüfung. Der Schwarm muss maschinell erkennen können, ob ein Versuch gelungen ist. Bei einem Beweis leistet das ein Beweisassistent, der jeden logischen Schritt maschinell nachrechnet; beim Programmieren leisten es Tests. Ohne so einen Prüfstein erzeugt ein Schwarm nur sehr viel Material, das jemand lesen muss.

Eine Aufgabe, die sich zerlegen lässt. Parallelität hilft nur, wenn viele Wege gleichzeitig gegangen werden können. Aufgaben, bei denen Schritt zwei zwingend auf Schritt eins wartet, gewinnen dadurch nichts.

Eine Vorarbeit, die die Richtung vorgibt. Auch der größte Schwarm sucht nicht ins Blaue. Beim Millennium-Problem stammte die Suchstrategie von Menschen – nachzulesen im Guide Das Millennium-Problem und die KI.

Was davon im normalen Betrieb ankommt

Die ehrliche Antwort: weniger, als die Schlagzeilen nahelegen – aber mehr als null. Sinnvolle Fälle haben ein gemeinsames Merkmal: Es gibt viele gleichartige Vorgänge und eine überprüfbare Erfolgsbedingung.

Aufgabe im BetriebEignungPrüfstein
Hunderte Dokumente nach denselben Kriterien auswertengutStichprobe gegen manuelle Auswertung
Viele Varianten eines Textes erzeugen und filterngutfeste Kriterienliste, dann menschliche Auswahl
Code gegen eine Testsuite reparieren lassengutdie Tests selbst
Kundenanfragen eigenständig beantworten lassenheikelfehlt meist – hier haftet der Betrieb
Bestellungen oder Zahlungen auslösenneinirreversibel, gehört nicht in einen Schwarm
Modellrechnung · 500 Dokumente, Preise eines Spitzenmodells
Wie aus 40 Dollar 1.200 werden
40 $
einmal durch: je 4.000 Token hinein, 800 heraus
120 $
als Schwarm mit drei Varianten je Dokument
1.200 $
zehn Runden, weil kein Abbruchkriterium gesetzt war
zwei Zeilen
Obergrenze im Code, die genau das verhindert hätte

Die Rechnung im Einzelnen, mit 10 US-Dollar je Million Token Eingabe und 50 für die Ausgabe: 500 Dokumente mal 4.000 Token sind 2 Millionen Token hinein, also 20 US-Dollar. 500 mal 800 Token heraus sind 400.000 Token, also noch einmal 20. Ein Durchlauf kostet damit 40 US-Dollar – für einen Betrieb ein guter Preis, wenn ein Mensch dafür zwei Tage bräuchte.

Der Faktor kommt erst danach. Ein Schwarm probiert mehrere Wege je Vorgang; bei drei Varianten sind es 120 US-Dollar. Und wenn niemand festgelegt hat, wann Schluss ist, läuft er weiter, solange die Erfolgsprüfung nicht anschlägt. Zehn Runden sind dann 1.200 US-Dollar für eine Auswertung, die im günstigen Fall 40 gekostet hätte. Genau das ist der Unterschied zwischen einem Experiment und einem Unfall – und er liegt nicht im Modell, sondern in zwei Zeilen Konfiguration.

Die Kostenfalle

Ein Schwarm multipliziert den Tokenverbrauch. Was als Einzelanfrage Cent kostet, wird tausendfach parallel zu den Beträgen oben – und bei ergebnisloser Suche zahlst du trotzdem. Vor jedem Schwarm-Experiment gehören deshalb eine Obergrenze und ein Abbruchkriterium festgelegt, technisch und nicht als Vorsatz. 88 Stunden Rechenzeit sind kein Zufallswert, sondern eine Budgetentscheidung.

Vier Regeln, bevor ein Agent etwas darf

  1. Getrennte Rechte, nicht deine. Ein Agent bekommt ein eigenes Konto mit genau den Rechten, die er braucht. Wer ihm seine eigenen Zugänge gibt, kann hinterher nicht mehr unterscheiden, wer was getan hat.
  2. Nur umkehrbare Handlungen ohne Rückfrage. Lesen, entwerfen, vorschlagen: frei. Senden, löschen, bezahlen, veröffentlichen: nur mit menschlicher Freigabe. Diese Linie ist wichtiger als jede Modellwahl.
  3. Ein Protokoll, das jemand liest. Was der Agent getan hat, muss nachvollziehbar sein – und zwar bevor etwas schiefgeht, nicht erst danach.
  4. Ein Not-Aus, den jemand kennt. Wer stoppt den Vorgang um drei Uhr nachts, und wie? Wenn diese Frage keine Antwort hat, ist das System nicht bereit für den Produktivbetrieb.

Rechtlich ist die Lage klar, auch wenn die Aufsicht noch nachzieht: Verantwortlich ist, wer das System einsetzt. Ein Verweis auf die Selbstständigkeit des Agenten entlastet niemanden. Wie der europäische Rahmen aussieht, ordnet der Guide AI Act ein.

Häufige Fragen

Was ist agentische KI?

Ein KI-System, das nicht nur antwortet, sondern innerhalb vorgegebener Grenzen selbst handelt: Werkzeuge aufruft, Dateien liest und schreibt, mehrstufige Aufgaben abarbeitet. Der Unterschied zum Assistenten ist, dass es tut statt vorschlägt.

Was ist ein Multi-Agenten-System oder Agenten-Schwarm?

Viele Agenten-Instanzen, die parallel an Teilaufgaben arbeiten und von einer koordinierenden Instanz gesteuert werden. Sinnvoll bei Aufgaben, die sich zerlegen lassen und bei denen sich maschinell prüfen lässt, ob ein Versuch gelungen ist.

Wofür eignen sich Agenten im Betrieb?

Für viele gleichartige Vorgänge mit überprüfbarem Ergebnis: Dokumente nach festen Kriterien auswerten, Varianten erzeugen und filtern, Code gegen eine Testsuite reparieren. Ungeeignet sind irreversible Handlungen wie Bestellungen oder Zahlungen.

Was kostet ein Agenten-Schwarm?

Deutlich mehr als eine Einzelanfrage, weil der Tokenverbrauch mit der Zahl der Instanzen multipliziert wird – und auch eine ergebnislose Suche wird abgerechnet. Vor dem Start gehören eine technische Obergrenze und ein Abbruchkriterium festgelegt.

Wer haftet, wenn ein Agent Schaden anrichtet?

Wer das System einsetzt. Die Selbstständigkeit des Agenten entlastet nicht. Praktisch folgt daraus: eigene Zugangsrechte für den Agenten, menschliche Freigabe für alles Unumkehrbare, ein lesbares Protokoll und ein bekannter Not-Aus.

Brauche ich dafür ein bestimmtes Modell?

Weniger, als oft angenommen. Entscheidender als die Modellwahl sind eine zerlegbare Aufgabe, eine maschinelle Erfolgsprüfung und klare Grenzen für das, was der Agent tun darf.

Agenten einsetzen, ohne die Kontrolle abzugeben

Wo Automatisierung Arbeit abnimmt und wo sie Risiken schafft, ist eine Frage der Aufgabengestaltung – nicht der Technik. Genau das üben wir in unserer geförderten Weiterbildung an echten Abläufen. Ob eine Förderung in Betracht kommt, klären wir im kostenlosen Erstgespräch; entschieden wird sie von der Agentur für Arbeit.

Kostenloses Erstgespräch sichern
Paul Niebler, Gründer der Scaly Academy

Paul Niebler – Gründer der Scaly Academy. Über zehn Jahre IT-Consulting mit Schwerpunkt KI, unter anderem bei IBM und mit seinem zweiten Unternehmen Pexon Consulting. Er setzt die hier beschriebenen Werkzeuge selbst täglich ein und schreibt auf, was davon im Betrieb trägt – und was nicht. Einschätzung, keine Rechtsberatung. Paul auf LinkedIn

Diesen Artikel Teilen:

Über den Autor

Bild von Paul Niebler

Paul Niebler

Paul Niebler ist Gründer der Scaly Academy und bringt über 10 Jahre Erfahrung im IT-Consulting mit Schwerpunkt auf KI-Technologien mit, unter anderem bei IBM und seinem weiteren Unternehmen Pexon Consulting. Er unterstützt Unternehmen dabei, KI praktisch und strategisch zu nutzen und vermittelt diese Kenntnisse praxisnah in seinen Kursen. Paul kombiniert technisches Wissen mit der Fähigkeit, Unternehmen bei der Digitalisierung und Automatisierung zu begleiten. So macht er Mitarbeiter zu Innovationstreibern und fördert nachhaltige KI-Anwendungen im Geschäftsalltag.

Diese Artikel könnten Sie auch interessieren

Qwen 3.8: Alibabas Open-Source-Offensive – und was sie für dich bedeutet

AI Act seit August 2026: Was jetzt wirklich gilt – und was verschoben wurde

Open-Source-KI 2026: Welches offene Modell wofür?