KI-Governance beantwortet drei Fragen: Wer entscheidet, welche KI im Betrieb eingesetzt wird? Wer prüft, ob sie tut, was sie soll? Und wer hält fest, was entschieden wurde? Für einen Betrieb mit 20 bis 500 Beschäftigten braucht es dafür kein Gremium mit Geschäftsordnung, sondern drei benannte Rollen, eine Liste aller KI-Systeme und einen Freigabeweg, der in eine Woche passt. Der Rest folgt daraus, auch die KI-Compliance: Ob für ein Werkzeug Pflichten aus der KI-Verordnung oder der DSGVO gelten, lässt sich erst sagen, wenn es in der Liste steht. Hier bekommst du die Rollen mit Aufgaben, ein KI-Inventar als Tabellenvorlage mit Beispielzeilen, den Freigabeprozess in sechs Schritten und die Betreiberpflichten nach aktuellem Stand der Verordnung. Stand: November 2026, Einschätzung aus der Praxis, keine Rechtsberatung.
Governance, Compliance, Richtlinie: drei Begriffe, eine Reihenfolge
Die drei Wörter werden oft gleichgesetzt. Sie bauen aufeinander auf. KI-Governance ist die Organisation: Zuständigkeiten, Entscheidungswege, Dokumentation. KI-Compliance ist ein Ergebnis davon, nämlich der Nachweis, dass ihr die Regeln einhaltet, die für eure Systeme gelten. Und die KI-Richtlinie ist das, was die Beschäftigten davon zu sehen bekommen: welche Werkzeuge, welche Daten, wer prüft. Eine Mustergliederung mit Datenklassen-Ampel steht im Artikel zur KI-Richtlinie; dieser Artikel beschreibt die Organisation dahinter und wiederholt die Regeln für Beschäftigte nicht.
Warum das jetzt drängt, zeigt eine Bitkom-Befragung von 603 Unternehmen ab 20 Beschäftigten aus dem Sommer 2026. 57 % setzen KI ein. Auf die Frage, ob sie von der KI-Verordnung betroffen sind, fällt die Antwort deutlich unsicherer aus:
Fehlende Prozent: keine Angabe. Vorjahreswert „betroffen“: 23 %. Gut vier von zehn Unternehmen können die Frage nicht beantworten. Quelle: Bitkom, 14.09.2026.
Wer „prüfen wir gerade“ antwortet, hat in der Regel kein Rechtsproblem, sondern ein Listenproblem: Niemand weiß vollständig, welche KI im Haus läuft. In derselben Befragung nennen Unternehmen mit KI-Einsatz als größte Hemmnisse Anforderungen an den Datenschutz (66 %) und rechtliche Verunsicherung (56 %). Beides wird kleiner, sobald drei Namen feststehen und eine Tabelle gefüllt ist.
Drei Rollen: entscheiden, prüfen, dokumentieren
Einen gesetzlichen „KI-Beauftragten“ kennt die KI-Verordnung nicht. Was der Betrieb braucht, sind drei Aufgaben, die jeweils einer Person gehören. In kleinen Betrieben dürfen zwei davon zusammenfallen, aber nie alle drei: Wer ein Werkzeug freigibt, sollte es nicht allein geprüft haben.
| Rolle | Aufgaben | Bei 20 bis 50 Beschäftigten | Bei 50 bis 500 Beschäftigten |
|---|---|---|---|
| Entscheiden | Gibt Werkzeuge und Einsatzzwecke frei oder lehnt sie ab; legt fest, wofür KI im Betrieb nicht eingesetzt wird; trägt das Budget; entscheidet im Streitfall | Geschäftsführung | Geschäftsführung oder ein Mitglied der Leitung; bei mehreren Standorten eine Runde aus Leitung, IT und Personal, die einmal im Monat tagt |
| Prüfen | Bewertet vor der Freigabe Zweck, Daten, Vertrag und Risikoklasse; holt Datenschutz und IT-Sicherheit dazu; prüft Stichproben im laufenden Betrieb; nimmt Meldungen entgegen | KI-Verantwortliche Person aus dem Fachbereich, mit externer Datenschutzbeauftragter und IT-Dienstleister | KI-Verantwortliche Person mit festem Zeitanteil; Datenschutzbeauftragte, Informationssicherheit und, wo vorhanden, Betriebsrat fest eingebunden |
| Dokumentieren | Führt das KI-Inventar, hält Freigaben mit Datum und Begründung fest, pflegt Einweisungsnachweise, erinnert an Prüftermine | Dieselbe Person wie „Prüfen“ oder die Assistenz der Geschäftsführung | Eigene Zuständigkeit, oft im Qualitäts- oder Compliance-Bereich, damit Prüfung und Protokoll getrennt sind |
Zwei Hinweise aus der Praxis. Die KI-Verantwortliche Person kommt besser aus dem Fachbereich als aus der IT, weil die schwierigen Fragen selten technisch sind: Darf dieses Angebot mit Kundendaten in das Werkzeug? Reicht eine Stichprobe oder muss jede Ausgabe gegengelesen werden? Und die Rolle braucht Zeit im Stellenprofil. Als grober Anhaltspunkt, nicht als Norm: einen halben Tag pro Woche in der Aufbauphase, danach deutlich weniger. Wo ein Betriebsrat besteht, gehört er früh an den Tisch; welche Rechte er hat und wie eine Rahmenvereinbarung aussieht, steht im Artikel zu Betriebsrat und KI.
Die Rolle „Prüfen“ ist noch nicht besetzt?
Über das Qualifizierungschancengesetz kann die Agentur für Arbeit die KI-Weiterbildung eurer Mitarbeiter fördern – in Betrieben unter 50 Beschäftigten bis zu 100 % der Lehrgangskosten plus Zuschuss zum Gehalt. Was für euch gilt, zeigt der QCG-Förderrechner oder das kostenlose Erstgespräch. Ob gefördert wird, entscheidet die Agentur.
Kostenloses Erstgespräch buchenDas KI-Inventar: eine Tabelle als Vorlage
Das Inventar ist das wichtigste Dokument der Governance. Es ist eine Tabelle mit einer Zeile je KI-System oder KI-Funktion, und es enthält auch das, was niemand als „KI-Projekt“ gestartet hat: die Assistenzfunktion im Office-Paket, die Vorsortierung im Bewerberportal, die Transkription im Videotool. Für die erste Fassung hilft eine anonyme Umfrage im Team, denn ein Teil der Nutzung läuft über private Konten. Einen Fragebogen dafür findest du im Artikel zu Schatten-KI.
Die folgende Vorlage hat sieben Pflichtspalten. Die Zeilen sind erfundene Beispiele für einen Dienstleistungsbetrieb mit etwa 80 Beschäftigten; die Einstufungen zeigen das Prinzip und ersetzen keine Prüfung des einzelnen Systems.
| System | Zweck | Daten | Risikoklasse nach KI-VO | Unsere Rolle | Verantwortlich | Nächste Prüfung |
|---|---|---|---|---|---|---|
| Chat-Assistent im Firmen-Tarif | Entwürfe für Mails, Angebote, Protokolle; Recherche | intern und vertraulich nach Datenklassen-Ampel; keine Gesundheits- und Personalaktendaten | kein Hochrisiko; keine besonderen Pflichten, solange keine Deepfakes oder ungeprüften Texte zu öffentlichen Angelegenheiten veröffentlicht werden (Art. 50 Abs. 4) | Betreiber | Leitung Innendienst | Mai 2027, früher bei Tarif- oder Modellwechsel |
| Chatbot auf der Website (zugekauft) | Erste Auskunft zu Leistungen und Terminen | Namen, Kontaktdaten, Anliegen von Interessenten | Transparenz: Nutzer müssen erkennen, dass sie mit einer KI sprechen (Art. 50 Abs. 1, Pflicht des Anbieters; wir kontrollieren, ob der Hinweis erscheint) | Betreiber | Leitung Marketing | Februar 2027; Testdialog nach jedem Update |
| Bewerberportal mit KI-Vorsortierung | Rangfolge eingehender Bewerbungen | Bewerbungsunterlagen, Lebensläufe | Hochrisiko nach Art. 6 Abs. 2 und Anhang III Nr. 4 (Auswahl von Bewerbern); Betreiberpflichten nach Art. 26 ab 2. Dezember 2027 | Betreiber | Leitung Personal | Januar 2027: Funktion bis zur Klärung abgeschaltet lassen oder Fahrplan des Anbieters einholen |
| Rechnungs-Workflow mit KI-Schritt | Eingangsrechnungen auslesen und vorkontieren | Lieferantendaten, Beträge; kaum personenbezogene Daten | kein Hochrisiko, keine Transparenzpflicht | Betreiber | Leitung Buchhaltung | Quartalsweise Stichprobe von 20 Belegen |
| Transkription von Kundengesprächen | Gesprächsnotizen, Zusammenfassung | Stimme, Inhalte der Gespräche, teils vertraulich | kein Hochrisiko, solange keine Emotionserkennung aktiv ist; datenschutzrechtlich prüfen (Einwilligung, Folgenabschätzung) | Betreiber | Leitung Vertrieb | Vor Inbetriebnahme: Datenschutzprüfung |
Sinnvolle Zusatzspalten, sobald die Tabelle steht: Anbieter und Tarif, Vertrag zur Auftragsverarbeitung (ja oder nein, Datum), Verweis auf den Eintrag im Verzeichnis der Verarbeitungstätigkeiten, Datum der Freigabe und Datum der letzten Einweisung der Nutzer. Mehr als zwölf Spalten pflegt niemand.
So füllst du die Spalte Risikoklasse. Die KI-Verordnung kennt vier Stufen, und für jede Zeile stellst du dieselben vier Fragen in dieser Reihenfolge:
| Frage | Grundlage | Folge für die Zeile |
|---|---|---|
| Fällt der Einsatz unter eine verbotene Praxis, etwa Emotionserkennung am Arbeitsplatz oder Bewertung von Menschen nach ihrem Sozialverhalten? | Art. 5 KI-VO, gilt seit 2. Februar 2025 | Nicht einsetzen. Eintrag bleibt als Ablehnung mit Datum in der Liste |
| Fällt er in einen Bereich aus Anhang III, etwa Auswahl und Bewertung von Beschäftigten oder Bewerbern, Zugang zu Bildung, Kreditwürdigkeit? | Art. 6 Abs. 2 mit Anhang III; Ausnahmen in Art. 6 Abs. 3 | Hochrisiko: Betreiberpflichten nach Art. 26, anwendbar ab 2. Dezember 2027. Bis dahin Entscheidung treffen und Anbieter befragen |
| Spricht das System direkt mit Menschen, erzeugt es täuschend echte Bilder, Stimmen oder Videos, erkennt es Emotionen? | Art. 50 KI-VO, gilt seit 2. August 2026 | Transparenz: Hinweis oder Kennzeichnung sicherstellen |
| Nichts davon? | – | Keine besonderen Pflichten aus der KI-VO. Es bleiben Art. 4, die DSGVO und eure eigenen Regeln |
Die Spalte „Unsere Rolle“ ist keine Formalie. Wer ein fremdes Hochrisiko-System unter eigenem Namen anbietet, es wesentlich verändert oder ein gewöhnliches System für einen Hochrisiko-Zweck umwidmet, gilt nach Art. 25 KI-VO selbst als Anbieter und übernimmt dessen Pflichten. Der typische Fall im Mittelstand: Ein allgemeiner Chat-Assistent wird per eigener Konfiguration zum Bewerber-Ranking. Solche Umwidmungen gehören vor dem Start auf den Tisch der Rolle „Entscheiden“.
Der Freigabeprozess: sechs Schritte, eine Woche
Ohne Freigabeweg entsteht Governance rückwärts: Das Werkzeug ist längst im Einsatz, wenn jemand nach dem Vertrag fragt. Ein Weg, der länger als eine Woche dauert, wird allerdings umgangen. Die folgenden sechs Schritte passen auf ein einseitiges Formular.
- Antrag aus dem Fachbereich. Wer ein neues Werkzeug oder einen neuen Einsatzzweck will, beschreibt in fünf Zeilen: welches Werkzeug, wofür, welche Daten, wie viele Nutzer, was es ersetzt. Auch neue KI-Funktionen in vorhandener Software zählen als Antrag, selbst wenn sie per Update kamen.
- Einstufung nach den vier Fragen. Die Rolle „Prüfen“ ordnet Risikoklasse und eigene Rolle zu. Bei „verboten“ endet der Vorgang, bei Hochrisiko geht er an die Geschäftsführung, bevor weitere Arbeit hineinfließt.
- Daten- und Vertragsprüfung. Welche Datenklassen fließen hinein? Gibt es einen Vertrag zur Auftragsverarbeitung, ist das Training auf euren Daten ausgeschlossen, wo werden die Daten verarbeitet? Braucht es eine Datenschutz-Folgenabschätzung? Details zu diesen Punkten stehen im Guide zu KI und Datenschutz.
- Testlauf mit echten Fällen. Zwei bis drei Nutzer arbeiten eine Woche mit zehn bis zwanzig echten, unkritischen Vorgängen. Festgehalten wird, wie oft das Ergebnis korrigiert werden musste und woran es lag.
- Entscheidung mit Auflagen. Die Rolle „Entscheiden“ gibt frei, lehnt ab oder gibt mit Auflagen frei, etwa „nur mit Firmenkonto“, „keine personenbezogenen Daten“, „jede Ausgabe wird vor Versand gegengelesen“. Datum und Begründung kommen ins Inventar.
- Einweisung, Eintrag, Prüftermin. Die Nutzer werden eingewiesen und die Teilnahme wird festgehalten. Das Werkzeug kommt auf die Positivliste der Richtlinie, die Zeile im Inventar bekommt einen Prüftermin, spätestens nach zwölf Monaten.
Dazu drei Auslöser für eine außerplanmäßige Prüfung: Der Anbieter wechselt das zugrunde liegende Modell oder die Vertragsbedingungen, der Einsatzzweck weitet sich aus, oder es gab einen Vorfall, etwa falsche Daten im Werkzeug oder ein fehlerhaftes Ergebnis beim Kunden.
Betreiberpflichten nach der KI-Verordnung: was seit wann gilt
Die Verordnung (EU) 2024/1689 wurde im Juli 2026 durch die Verordnung (EU) 2026/1744 geändert, die sogenannte Digital-Omnibus-Verordnung zur KI (Amtsblatt vom 24. Juli 2026, in Kraft seit 27. Juli 2026). Sie hat Art. 4 neu gefasst und die Hochrisiko-Pflichten verschoben. Für Betreiber, also Betriebe, die KI-Systeme in eigener Verantwortung beruflich einsetzen, ergibt sich daraus dieser Stand:
| Norm | Was sie vom Betreiber verlangt | Anwendbar | Wie die Governance es abdeckt |
|---|---|---|---|
| Art. 4 KI-Kompetenz, in der Fassung der VO (EU) 2026/1744 | Anbieter und Betreiber „ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals“ und anderer in ihrem Auftrag tätiger Personen zu unterstützen. Sie sind ausdrücklich nicht verpflichtet, „ein bestimmtes Niveau an KI-Kompetenz zu garantieren“ | seit 2. Februar 2025, neue Fassung seit 27. Juli 2026 | Einweisung bei Freigabe, Nachweis im Inventar, Vertiefung für die Rollen |
| Art. 5 Verbotene Praktiken | Bestimmte Einsätze sind untersagt, unter anderem Emotionserkennung am Arbeitsplatz. Zwei neue Verbote zu sexualisierten Deepfakes und Missbrauchsdarstellungen gelten ab 2. Dezember 2026 | seit 2. Februar 2025 | Erste der vier Fragen bei jeder Einstufung |
| Art. 50 Abs. 3 und 4 Transparenz | Betreiber informieren Betroffene über Emotionserkennung oder biometrische Kategorisierung und legen Deepfakes offen; ebenso KI-Texte zu Angelegenheiten von öffentlichem Interesse, wenn sie ohne menschliche Prüfung und redaktionelle Verantwortung veröffentlicht werden | seit 2. August 2026 | Spalte Risikoklasse; Regel zur Kennzeichnung in der Richtlinie |
| Art. 26 Betreiber von Hochrisiko-Systemen | Nutzung nach Betriebsanleitung; menschliche Aufsicht durch kompetente, befugte Personen; passende Eingabedaten; Überwachung und Meldung an den Anbieter; Protokolle mindestens sechs Monate aufbewahren; Arbeitnehmervertretung und Beschäftigte vor dem Einsatz am Arbeitsplatz informieren; betroffene Personen informieren | ab 2. Dezember 2027 für Systeme nach Anhang III, ab 2. August 2028 für Systeme nach Anhang I | Eigene Zeile im Inventar, benannte Aufsichtsperson, Entscheidung der Geschäftsführung |
Zur Einordnung der Sanktionen: Art. 99 Abs. 4 nennt für Verstöße gegen die Betreiberpflichten aus Art. 26 und die Transparenzpflichten aus Art. 50 einen Rahmen von bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes; für kleine und mittlere Unternehmen gilt der jeweils niedrigere Betrag (Art. 99 Abs. 6). Das sind Obergrenzen. Marktüberwachungsbehörde, Anlauf- und Beschwerdestelle ist in Deutschland seit dem 29. Juli 2026 die Bundesnetzagentur; ihr KI-Service Desk bietet ein Online-Werkzeug zur ersten Einschätzung der Risikoklasse. Den vollständigen Zeitplan mit allen Stichtagen findest du im Überblick zum AI Act 2026.
Was die Tabelle auch zeigt: Für einen Betrieb, der Chat-Assistenten, Workflows und Standardsoftware nutzt, sind die Pflichten aus der KI-Verordnung heute schmal. Die Governance lohnt sich trotzdem, aus zwei Gründen. Sie ist der einzige Weg, die eine Zeile zu finden, die doch unter Anhang III fällt. Und der größere Teil der Pflichten für solche Betriebe steht nicht in der KI-Verordnung, sondern in der DSGVO.
Wo die DSGVO andockt: Verzeichnis und Folgenabschätzung
Art. 30 DSGVO: Verzeichnis der Verarbeitungstätigkeiten. Sobald ein KI-System personenbezogene Daten verarbeitet, gehört die Verarbeitung ins Verzeichnis, mit Zweck, Kategorien von Personen und Daten, Empfängern, Drittlandübermittlungen, Löschfristen und einer Beschreibung der Schutzmaßnahmen. Die Ausnahme für Betriebe mit weniger als 250 Beschäftigten (Art. 30 Abs. 5) hilft kaum: Sie entfällt, wenn die Verarbeitung „nicht nur gelegentlich“ erfolgt oder besondere Datenkategorien betrifft. Praktisch heißt das: Inventar und Verzeichnis sind zwei Sichten auf dieselben Systeme. Führt sie nicht doppelt, sondern verweist in jeder Inventarzeile auf den Eintrag im Verzeichnis. Dann fällt auf, wenn eine der beiden Listen eine Lücke hat.
Art. 35 DSGVO: Datenschutz-Folgenabschätzung. Sie ist vorab nötig, wenn eine Verarbeitung, „insbesondere bei Verwendung neuer Technologien“, voraussichtlich ein hohes Risiko für die Rechte der Betroffenen hat. Die deutschen Aufsichtsbehörden führen in ihrer Liste nach Art. 35 Abs. 4 einen eigenen Eintrag: den „Einsatz von künstlicher Intelligenz zur Verarbeitung personenbezogener Daten zur Steuerung der Interaktion mit den Betroffenen oder zur Bewertung persönlicher Aspekte“, mit dem Beispiel eines Systems, das Kunden im Gespräch berät (Datenschutzkonferenz, Liste Version 1.1, Nr. 11). Ein Website-Chatbot, der Kundendaten verarbeitet, oder eine automatische Auswertung von Gesprächen ist damit ein Fall für die Datenschutzbeauftragte, bevor er startet. Zwei Verbindungen zur KI-Verordnung: Betreiber von Hochrisiko-Systemen nutzen für die Folgenabschätzung die Informationen, die der Anbieter mitliefern muss (Art. 26 Abs. 9 KI-VO). Und wer Verarbeitungen betreibt, die einer Folgenabschätzung unterliegen, muss unabhängig von der Betriebsgröße eine Datenschutzbeauftragte oder einen Datenschutzbeauftragten benennen (§ 38 Abs. 1 Satz 2 BDSG).
Im Freigabeprozess ist das Schritt 3. Wer ihn überspringt, hat am Ende ein freigegebenes Werkzeug ohne Rechtsgrundlage für die Daten darin.
ISO/IEC 42001: brauchbare Checkliste, kein Muss
ISO/IEC 42001 ist die internationale Norm für KI-Managementsysteme, veröffentlicht im Dezember 2023. Sie legt Anforderungen fest, um ein solches Managementsystem in einer Organisation aufzubauen, umzusetzen, aufrechtzuerhalten und fortlaufend zu verbessern, und richtet sich an Organisationen jeder Größe, die KI-Systeme entwickeln, bereitstellen oder nutzen. Im Aufbau folgt sie anderen Managementsystemnormen wie ISO 9001 oder ISO/IEC 27001: Kontext, Führung, Planung, Unterstützung, Betrieb, Bewertung, Verbesserung. Dazu gehören eine KI-Politik, festgelegte Rollen und Verantwortlichkeiten, eine Risikobeurteilung, eine Folgenabschätzung für KI-Systeme, interne Audits und eine Managementbewertung.
Drei Dinge solltest du über die Norm wissen, bevor ein Berater sie dir verkauft:
Sie ist freiwillig. Die KI-Verordnung verlangt von Betreibern kein zertifiziertes Managementsystem, und ein Zertifikat nach ISO/IEC 42001 ersetzt keine einzelne Pflicht aus der Verordnung oder der DSGVO. Ob ein Zertifikat für euch einen Wert hat, entscheidet der Markt: Verlangen Kunden oder Ausschreibungen es, lohnt die Prüfung, sonst selten.
Sie beschreibt das Was, nicht das Wie. Die Norm fordert, dass Rollen festgelegt, Risiken bewertet und Systeme dokumentiert sind. Wie viele Seiten das braucht, lässt sie offen. Die drei Rollen, das Inventar und der Freigabeprozess aus diesem Artikel sind eine kleine Umsetzung genau dieser Forderungen. Wer später zertifizieren will, baut darauf auf.
Sie passt zu dem, was ihr schon habt. Betriebe mit einem Qualitätsmanagement nach ISO 9001 oder einem Informationssicherheits-Management kennen Struktur und Vokabular. Dort ist es am einfachsten, KI als zusätzliches Thema in vorhandene Audits, Managementbewertung und Dokumentenlenkung aufzunehmen, statt ein zweites System daneben zu stellen.
Was nach dem Aufbau bleibt: der Jahresrhythmus
Governance scheitert selten am Aufbau und meist am zweiten Jahr. Vier Termine halten sie am Leben, und alle vier passen in den Kalender eines Betriebs ohne Stabsstelle:
Monatlich, 30 Minuten: offene Anträge entscheiden, Vorfälle besprechen. Fällt aus, wenn nichts anliegt.
Quartalsweise: Stichproben in den Systemen mit Außenwirkung, Abgleich von Inventar und Lizenzliste. Was bezahlt wird und nicht im Inventar steht, ist eine Lücke; was im Inventar steht und nicht mehr genutzt wird, wird gestrichen.
Halbjährlich: Rechtsstand prüfen. Bis Dezember 2027 ändern sich Stichtage und Leitlinien noch mehrfach; ein fester Termin verhindert, dass ihr es aus Newslettern erfahrt.
Jährlich: Bericht an die Geschäftsführung auf einer Seite: Anzahl Systeme je Risikoklasse, Freigaben und Ablehnungen, Vorfälle, Stand der Einweisungen, Vorhaben für das nächste Jahr. Dieser Bericht ist zugleich die Brücke zur KI-Strategie, in der Regeln und Risiken ein eigener Baustein sind. Wo euer Betrieb insgesamt steht, zeigt der Reifegrad-Selbstcheck im Überblick zu KI im Mittelstand; ein gepflegtes Inventar mit Verantwortlichen ist dort das Merkmal der höchsten Stufe.
Die Rollen brauchen Wissen – und dafür gibt es Förderung
Alle drei Rollen setzen voraus, dass jemand KI-Systeme einschätzen kann: was ein Sprachmodell zuverlässig leistet, wo es Fehler macht, was ein Vertrag zur Auftragsverarbeitung abdeckt und wann ein Einsatz unter Anhang III fällt. Bitkom zufolge schätzen 66 % der Unternehmen die KI-Kompetenz ihrer Beschäftigten als gering ein (Sommer 2026). Für die Einweisung aller Nutzer reicht ein internes Format. Für die Person in der Rolle „Prüfen“ lohnt eine gründliche Weiterbildung.
Über das Qualifizierungschancengesetz (§ 82 SGB III) kann die Agentur für Arbeit eine solche Weiterbildung fördern: in Betrieben unter 50 Beschäftigten bis zu 100 % der Lehrgangskosten und bis zu 75 % Zuschuss zum Arbeitsentgelt, bei 50 bis 499 Beschäftigten bis zu 50 % der Lehrgangskosten und bis zu 50 % Entgeltzuschuss. Voraussetzungen sind unter anderem mehr als 120 Stunden, ein nach AZAV zugelassener Träger mit zugelassener Maßnahme und ein Antrag vor Beginn. Ob und in welcher Höhe gefördert wird, entscheidet die Agentur im Einzelfall.
Bei Scaly sind das die Weiterbildungen KI-Spezialist im Unternehmen (3 Monate Vollzeit) und KI-Experte im Unternehmen (6 Monate Vollzeit), online mit Live-Unterricht und Scaly-Zertifikat. AI Act, DSGVO und unternehmensinterne KI-Richtlinien sind dort ein eigenes Modul, beim KI-Experten kommt ein Modul zur Entwicklung von Richtlinien und Governance-Strukturen dazu. Ehrlich eingeordnet: Das ist keine juristische Ausbildung und keine Auditoren-Schulung für ISO/IEC 42001, und es ersetzt weder die Datenschutzbeauftragte noch den Anwalt. Es befähigt die Person, die bei euch prüft, die richtigen Fragen zu stellen und die Antworten zu verstehen.
Häufige Fragen
Was ist KI-Governance?
KI-Governance ist der organisatorische Rahmen für den Einsatz von KI in einem Unternehmen: Wer entscheidet über Werkzeuge und Einsatzzwecke, wer prüft Risiken und Ergebnisse, wer dokumentiert. Dazu gehören ein Verzeichnis aller KI-Systeme (KI-Inventar), ein Freigabeprozess für neue Werkzeuge und feste Prüftermine. Die KI-Richtlinie für Beschäftigte ist ein Ergebnis dieser Governance, nicht dasselbe.
Was ist der Unterschied zwischen KI-Governance und KI-Compliance?
Governance ist die Organisation, Compliance das Ergebnis. KI-Compliance heißt, nachweisen zu können, dass die geltenden Regeln eingehalten werden, vor allem KI-Verordnung, DSGVO und Mitbestimmungsrecht. Ohne Governance fehlt dafür die Grundlage: Erst wenn alle KI-Systeme in einem Inventar stehen und eingestuft sind, lässt sich sagen, welche Pflichten für welches System gelten.
Braucht ein Unternehmen einen KI-Beauftragten?
Gesetzlich vorgeschrieben ist er nicht; die KI-Verordnung kennt keine solche Funktion. Sinnvoll ist eine benannte KI-Verantwortliche Person trotzdem, weil sonst niemand neue Werkzeuge prüft und das Inventar pflegt. Anders beim Datenschutz: Eine Datenschutzbeauftragte oder ein Datenschutzbeauftragter ist unter den Voraussetzungen des § 38 BDSG zu benennen, etwa wenn Verarbeitungen einer Datenschutz-Folgenabschätzung unterliegen.
Was gehört in ein KI-Inventar?
Je KI-System oder KI-Funktion eine Zeile mit mindestens sieben Angaben: System, Zweck, verarbeitete Daten, Risikoklasse nach KI-Verordnung, eigene Rolle (Betreiber oder Anbieter), verantwortliche Person und nächster Prüftermin. Sinnvoll sind zusätzlich Anbieter und Tarif, Vertrag zur Auftragsverarbeitung, Verweis auf das Verzeichnis nach Art. 30 DSGVO und das Datum der Freigabe. Auch KI-Funktionen in vorhandener Software gehören hinein.
Welche Pflichten haben Betreiber nach der KI-Verordnung?
Für alle Betreiber gilt Art. 4: Maßnahmen, die die Entwicklung der KI-Kompetenz des Personals unterstützen. Seit 2. August 2026 gelten Transparenzpflichten nach Art. 50, etwa die Offenlegung von Deepfakes. Wer Hochrisiko-Systeme nach Anhang III einsetzt, zum Beispiel zur Bewerberauswahl, muss ab 2. Dezember 2027 die Pflichten aus Art. 26 erfüllen, darunter menschliche Aufsicht, Aufbewahrung von Protokollen und Information der Beschäftigten.
Ist eine Zertifizierung nach ISO/IEC 42001 Pflicht?
Nein. ISO/IEC 42001 ist eine freiwillige internationale Norm für KI-Managementsysteme aus dem Dezember 2023. Die KI-Verordnung verlangt von Betreibern kein zertifiziertes Managementsystem, und ein Zertifikat ersetzt keine Pflicht aus Verordnung oder DSGVO. Als Orientierung für den Aufbau der Governance ist die Norm brauchbar; eine Zertifizierung lohnt vor allem, wenn Kunden oder Ausschreibungen sie verlangen.
Wer bei euch prüft, muss KI verstehen – förderfähig über das Qualifizierungschancengesetz
Im kostenlosen Erstgespräch klären wir, welche Weiterbildung zu der Person passt, die bei euch die KI-Verantwortung trägt, und ob und in welcher Höhe eine QCG-Förderung möglich ist. Beim Antrag beim Arbeitgeber-Service unterstützen wir euch. Vorab rechnen könnt ihr mit dem QCG-Förderrechner, alle Wege stehen unter Förderung für Unternehmen.
Kostenloses Erstgespräch buchenQuellen: abgerufen am 11. November 2026
- EUR-Lex: Verordnung (EU) 2026/1744, Digital-Omnibus-Verordnung zur KI (ABl. 24.07.2026)
- EUR-Lex: Verordnung (EU) 2024/1689, KI-Verordnung (Art. 4, 5, 25, 26, 50, 99, 113)
- Datenschutzkonferenz: Liste der Verarbeitungstätigkeiten mit Folgenabschätzung, Version 1.1
- ISO: ISO/IEC 42001:2023, Managementsystem für künstliche Intelligenz
- Bundesnetzagentur: Zuständigkeit für die KI-Verordnung und KI-Service Desk (29.07.2026)
Benedikt Backhaus – schreibt bei Scaly über KI-Tools, neue Modelle und aktuelle Entwicklungen rund um künstliche Intelligenz. Er beobachtet die KI-Szene laufend und ordnet ein, was neue Releases praktisch bedeuten – ehrlich und ohne Hype. Einschätzung, keine Rechtsberatung. Benedikt auf LinkedIn