Open-Source-KI 2026: Welches offene Modell wofür?

Inhaltsverzeichnis

Ja, es gibt Open-Source-KI – und zwar so viel wie nie: DeepSeek, Alibabas Qwen, Kimi, GLM, Googles Gemma, Metas Muse Glimmer, Mistral und OpenAIs gpt-oss stellen Sprachmodelle zum Herunterladen bereit, die du ohne Lizenzgebühr auf eigener Hardware betreiben kannst. Zwei Dinge stehen allerdings selten in der Schlagzeile: „Offen“ heißt fast nie Open Source im strengen Sinn und nicht immer frei nutzbar, denn mehrere der stärksten Modelle tragen eigene Lizenzen mit Umsatzgrenzen. Und die Spitzenmodelle brauchen ein Rechenzentrum, auf dem Laptop läuft die kleine Klasse. Hier steht, welche offenen Modelle es gibt, was ihre Lizenzen erlauben, was auf Laptop, Workstation und Server realistisch läuft und warum Selbstbetrieb beim Datenschutz etwas ganz anderes ist als die App eines chinesischen Anbieters. Stand: 13. Oktober 2026.

Neu seit August

DeepSeek V4.1-Flash (10. September, MIT-Lizenz) liest jetzt auch Bilder, V4.1-Pro ist angekündigt. Kimi K3 (Gewichte seit 27. Juli) und GLM-5.3 (Ende August) sind offen, stehen aber unter eigenen Lizenzen. Mistral Large 4 läuft seit 6. Oktober als Vorschau, die Gewichte sind für Ende Oktober angekündigt, die Lizenz ist noch offen. Metas neues Spitzenmodell Muse Wonder (12. Oktober) ist nicht offen, Metas offenes Modell bleibt Muse Glimmer.

Gibt es eine Open-Source-KI – und ist sie kostenlos?

Ja. Offene KI-Modelle, im Fachjargon Open Weights, sind fertig trainierte Sprachmodelle, deren Gewichte du herunterladen und selbst betreiben kannst. Die wichtigsten Familien im Oktober 2026 kommen aus China (DeepSeek, Qwen, Kimi, GLM), aus den USA (Gemma, Muse Glimmer, gpt-oss) und aus Europa (Mistral, dazu Forschungsmodelle wie EuroLLM und das Schweizer Apertus). Welches wofür taugt, zeigt die Übersicht weiter unten.

Kostenlos sind die Gewichte, nicht der Betrieb. Für die normale Nutzung verlangt keiner der genannten Hersteller eine Lizenzgebühr, Ausnahmen für sehr große Firmen und bestimmte Geschäftsmodelle stehen im Lizenz-Abschnitt. Bezahlt wird mit Hardware, Strom und der Zeit, die jemand in Einrichtung und Pflege steckt. Zum Ausprobieren brauchst du weder Konto noch Abo: Programme wie LM Studio oder Ollama laden ein kleines offenes Modell auf deinen Rechner, danach läuft es auch ohne Internet. Wie das in einer Viertelstunde klappt, zeigt unser Guide KI lokal nutzen. Die kostenlose App eines Modellanbieters ist etwas anderes: Dort läuft das Modell auf dessen Servern, und deine Eingaben wandern mit (mehr dazu im Abschnitt Datenschutz).

Warum das Thema über Technik-Fans hinaus zählt, vier Gründe aus Beratungsgesprächen mit Unternehmen:

Kostenkontrolle. Keine Gebühr pro Anfrage, stattdessen Hardware plus Betrieb. Bei hohem, planbarem Volumen kann das günstiger sein, bei gelegentlicher Nutzung ist es fast immer teurer.

Datenschutz. Ein selbst betriebenes Modell schickt Kundendaten, Personalakten oder Verträge an keinen Modellanbieter.

Kein Vendor-Lock-in. Ein API-Anbieter kann Preise erhöhen, Modelle abschalten oder Bedingungen ändern, ein heruntergeladenes Modell bleibt, wie es ist.

Souveränität. Mit Mistral sitzt ein Anbieter offener Modelle in Europa (Überblick: Mistral AI), EuroLLM-22B deckt alle Amtssprachen der EU ab, und Apertus legt sogar seine Trainingsdaten offen. Aber Vorsicht: Auch bei Mistral steht längst nicht jedes Modell unter einer freien Lizenz, dazu gleich mehr.

Offen ist nicht gleich frei nutzbar: die Lizenzen im Vergleich

„Open Source“ steht im KI-Marketing für sehr Verschiedenes. Drei Stufen musst du auseinanderhalten:

1. Echte Open-Source-KI. Nach der Definition der Open Source Initiative (OSAID 1.0, Oktober 2024) gehören dazu die Gewichte, der komplette Trainingscode und hinreichend genaue Angaben zu den Trainingsdaten. Das erfüllen fast nur Forschungsmodelle wie OLMo vom Allen Institute for AI oder Apertus 1.5 aus der Schweiz, das nach eigener Aussage nur offen verfügbare Trainingsdaten nutzt und sein komplettes Rezept veröffentlicht. Relevant, wenn du Nachvollziehbarkeit brauchst, etwa in Verwaltung und regulierten Branchen.

2. Offene Gewichte mit freier Lizenz. Apache 2.0 und MIT erlauben nach ihrem Wortlaut kommerzielle Nutzung, Veränderung und Weitergabe ohne Nutzer- oder Umsatzgrenzen. Verlangt wird im Kern, den Lizenz- und Urhebervermerk mitzugeben. In diese Gruppe fallen Stand Oktober 2026 DeepSeek V4 und V4.1-Flash (MIT), GLM-5.3-Flash (MIT), Qwen3.8-27B, Gemma 4, Muse Glimmer, gpt-oss sowie Mistral Large 3, Small 4 und Ministral 3 (alle Apache 2.0). Google hat Gemma mit Version 4 auf Apache 2.0 umgestellt, die Vorgänger liefen unter eigenen Nutzungsbedingungen. Wie das Modell trainiert wurde, erfährst du aber auch hier nicht.

3. Offene Gewichte mit eigenen Bedingungen. Hier wird es heikel, und genau in dieser Gruppe sind 2026 einige der stärksten Modelle gelandet. Die meisten Klauseln greifen erst ab Schwellen, die ein Mittelständler nie erreicht. Eine trifft aber auch mittelgroße Firmen:

LizenzModelleWas die Lizenzdatei verlangtBetrifft das deinen Betrieb?
Mistral „Modified MIT“Mistral Medium 3.5, Devstral 2Keine Rechte aus der Lizenz, wenn der weltweite Konzernumsatz deiner Firma (oder deines Arbeitgebers) im Vormonat über 20 Mio. US-Dollar lag. Dann nur mit kommerzieller Lizenz von Mistral oder über Mistrals eigene Dienste.Ja, grob ab 240 Mio. US-Dollar Jahresumsatz, auch bei rein interner Nutzung
Kimi-K3-LizenzKimi K3Wer das Modell als Dienst für Dritte anbietet („Model as a Service“) und über 20 Mio. US-Dollar Umsatz in zwölf Monaten macht, braucht einen Vertrag mit Moonshot. Ab 100 Mio. Monatsnutzern oder 20 Mio. US-Dollar Monatsumsatz muss „Kimi K3“ sichtbar im Produkt stehen. Interne Nutzung ist ausgenommen.Selten
GLM-5.3-LizenzGLM-5.3 (nicht GLM-5.3-Flash, das steht unter MIT)Anbieter von Model as a Service mit über 10 Mrd. US-Dollar Umsatz in zwölf Monaten müssen vor kommerzieller Nutzung eine Sicherheitsprüfung durch Z.ai bestehen.Nein, zielt auf Hyperscaler
Qwen3.8-Max-LizenzQwen3.8-2.4T-A95BNamensnennung ab 100 Mio. Monatsnutzern oder 20 Mio. US-Dollar Monatsumsatz. Wer Model as a Service oder einen KI-Arbeitsassistenten für Coding oder Büro anbietet und über 50 Mio. US-Dollar in zwölf Monaten umsetzt, braucht eine Sonderlizenz. Für rein interne Nutzung gilt diese Pflicht nicht.Selten
Qwen Community License 1.0Qwen3.8-Flash-NextWie die Max-Lizenz, nur gilt die Sonderlizenz-Pflicht für Model as a Service und KI-Arbeitsassistenten ohne Umsatzschwelle.Ja, wenn du daraus eine KI-Schnittstelle oder einen Coding- bzw. Büro-Assistenten für Kunden machst; intern nein
Llama-4-Community-LizenzLlama 4 Scout, Maverick„Built with Llama“-Hinweis, Sonderlizenz ab 700 Mio. Monatsnutzern. Laut Nutzungsrichtlinie keine Rechte an den multimodalen Llama-4-Modellen für Personen und Firmen mit Sitz in der EU; Endnutzer fertiger Produkte sind ausgenommen.Ja: Da alle Llama-4-Modelle multimodal sind, scheiden sie für EU-Firmen praktisch aus

Was das praktisch heißt: Wer ein offenes Modell intern nutzt, also Dokumente auswertet oder einen Chatbot für die eigene Belegschaft betreibt, ist mit Apache 2.0 und MIT auf der sicheren Seite, bei Kimi K3, GLM-5.3 und den Qwen-Sonderlizenzen in aller Regel auch. Aufpassen musst du in zwei Fällen: wenn du auf dem Modell ein Produkt baust, das Kunden nutzen, denn dann zählen die Definitionen von „Model as a Service“ und „KI-Arbeitsassistent“ im Lizenztext. Und bei Mistral Medium 3.5, sobald dein Unternehmen mehr als 20 Mio. US-Dollar im Monat umsetzt. Zwei Modelle derselben Familie können dabei völlig verschieden lizenziert sein: Qwen3.8-27B steht unter Apache 2.0, Qwen3.8-Flash-Next nicht; GLM-5.3-Flash steht unter MIT, GLM-5.3 nicht. „Gratis herunterladbar“ heißt also nicht „frei nutzbar“.

Wichtig

Prüfe vor dem produktiven Einsatz die Lizenzdatei (LICENSE) im offiziellen Repository, nicht die Überschrift der Pressemitteilung, und prüf sie bei jedem Versionswechsel erneut. Für Mistral Large 4 ist die Lizenz noch nicht veröffentlicht. Das hier ist eine Einordnung aus der Praxis, keine Rechtsberatung. Bei geschäftskritischem Einsatz gehört der Lizenztext in die juristische Prüfung.

Die Landschaft im Überblick: welches Modell wofür

Symbolbild: offene KI-Modelle als Container mit offenen Schlössern

Die Kurzantwort: Für lokale Praxis-Aufgaben wie Dokumente, internen Chatbot oder Coding-Hilfe ist die Klasse bis rund 30 Milliarden Parameter die erste Wahl, also Qwen3.8-27B, Muse Glimmer, Gemma 4 oder gpt-oss-20b, auf kleineren Rechnern Gemma 4 E4B oder Ministral 3. Die großen Modelle wie DeepSeek V4, Kimi K3, GLM-5.3 oder Mistral Large 3 spielen in der Liga der Bezahl-APIs, brauchen aber Rechenzentrums-Hardware und sind für die meisten Betriebe nur über einen Hoster interessant. Die Übersicht, Stand 13. Oktober 2026, bewusst ohne Benchmark-Tabellen, die veralten schneller als jeder Artikel:

FamilieAktuelle offene ModelleLizenzStärkenHardware
DeepSeek (China)V4-Pro (1,6 Bio. Parameter, 49 Mrd. aktiv, finale Fassung 13.08.), V4.1-Flash (552 Mrd., 10.09., liest auch Bilder)MITReasoning, Agenten- und Coding-Aufgaben, 1 Mio. Token KontextRechenzentrum
Qwen (Alibaba, China)Qwen3.8-27B, Qwen3.8-Flash-Next (125 Mrd., 6 Mrd. aktiv), Qwen3.8-2.4T-A95B (nur Text), alle August 202627B: Apache 2.0; Flash-Next: Qwen Community License; 2.4T: Qwen3.8-Max-Lizenz27B: lokaler Allrounder, liest Bilder und Video27B: Workstation; die anderen Server bis Rechenzentrum
Kimi (Moonshot AI, China)Kimi K3 (2,8 Bio., 104 Mrd. aktiv, Gewichte seit 27.07.)Kimi-K3-LizenzLange Coding- und Agenten-Aufgaben, Text und Bild, 1 Mio. Token KontextRechenzentrum
GLM (Z.ai, China)GLM-5.3 (rund 750 Mrd., nur Text), GLM-5.3-Flash (320 Mrd., 18 Mrd. aktiv, multimodal), beide Ende AugustGLM-5.3: eigene Lizenz; Flash: MITCoding, Agenten, IT-SicherheitServer bis Rechenzentrum
Gemma (Google, USA)Gemma 4: E2B, E4B, 12B, 26B A4B, 31B (seit April 2026)Apache 2.0Staffel vom Smartphone bis zur Workstation, liest Bilder, kleinere Varianten auch AudioLaptop bis Workstation
Meta (USA)Muse Glimmer 30B (10.08.); Llama 4 Scout und Maverick (2025)Glimmer: Apache 2.0; Llama 4: Community-LizenzGlimmer: lokale Agenten- und Coding-Aufgaben, liest BilderGlimmer: eine 24-GB-Grafikkarte
Mistral (Frankreich)Large 3 (675 Mrd.), Small 4 (119 Mrd.), Ministral 3 (3, 8, 14 Mrd.), Medium 3.5 (128 Mrd.); Large 4 angekündigtLarge 3, Small 4, Ministral 3: Apache 2.0; Medium 3.5: modifizierte MIT mit Umsatzgrenze; Large 4: offenEuropäischer Anbieter, Staffel vom Laptop bis zum ServerLaptop bis Rechenzentrum
OpenAI gpt-oss (USA)gpt-oss-20b, gpt-oss-120b (August 2025)Apache 2.0Reasoning, genügsame 20B-Variante20b: ab 16 GB Speicher; 120b: eine 80-GB-GPU
Europäische ForschungEuroLLM-22B, Apertus 1.5 (8 und 70 Mrd.)Apache 2.0, Apertus mit offenen TrainingsdatenAlle EU-Amtssprachen, NachvollziehbarkeitWorkstation bis Server

Was nicht offen ist: Metas neues Spitzenmodell Muse Wonder läuft nur bei Meta, mehr im Artikel zu Meta Muse Wonder. Offene Gewichte für Muse Spark hat Meta angekündigt, bei Hugging Face liegt bis heute aber nur Glimmer. Auch Qwen3.8-Max, das Spitzenmodell hinter Alibabas Schnittstelle, ist proprietär, offen ist nur die abgespeckte Textvariante (Details im Porträt Qwen 3.8). Mistral Large 4 gibt es vorerst nur als Vorschau über Mistrals Schnittstelle.

Was läuft wo? Laptop, Workstation und Server im Realitätscheck

Die Faustregel: Die Gewichte müssen komplett in den Speicher passen, bei Windows- und Linux-Rechnern in den Grafikspeicher (VRAM), bei Macs mit Apple-Chip in den gemeinsamen Arbeitsspeicher, plus Reserve für den Gesprächsverlauf. Komprimierte 4-Bit-Fassungen („Q4“) schrumpfen ein Modell auf etwa ein Viertel bis ein Drittel der vollen Größe und kosten dabei etwas Qualität. Die Größen in der Tabelle sind die Dateigrößen der Downloads bei Hugging Face bzw. die Angaben der Hersteller:

AusstattungOffene Modelle, die passenSpeicherbedarf der Gewichte
Laptop oder Mac mit 16 GB ArbeitsspeicherGemma 4 E4B und 12B, Ministral 3 (3, 8 und 14 Mrd.)2,1 bis 8,2 GB (4-Bit)
PC mit 24-GB-Grafikkarte oder Mac ab 32 GBQwen3.8-27B, Muse Glimmer, Gemma 4 26B A4B und 31B, gpt-oss-20b14,4 bis 17,7 GB (4-Bit); gpt-oss-20b kommt laut OpenAI mit 16 GB aus
Server mit einer 80-GB-Rechenzentrumskartegpt-oss-120b, Muse Glimmer ungekürztlaut OpenAI eine 80-GB-GPU; Glimmer laut Meta 64 GB
GPU-Server mit mehreren KartenMistral Small 4, Mistral Medium 3.5, GLM-5.3-Flash, Qwen3.8-Flash-Next242 bis 360 GB (veröffentlichte Fassung)
RechenzentrumMistral Large 3, DeepSeek V4.1-Flash und V4-Pro, GLM-5.3, Kimi K3, Qwen3.8-2.4T-A95B360 GB bis 2,5 TB, siehe Grafik
Speicherbedarf allein für die Gewichte · Hugging Face bzw. Herstellerangaben
Warum die großen offenen Modelle nicht ins Büro passen
Qwen3.8-27B4-Bit, Workstation-Klasse 16,8 GB
Eine RechenzentrumskarteGrafikspeicher einer 80-GB-GPU 80 GB
Mistral Large 34-Bit, laut Mistral 360 GB
DeepSeek V4.1-FlashMIT-Lizenz 510 GB
GLM-5.3eigene Lizenz 756 GB
DeepSeek V4-ProMIT-Lizenz 893 GB
Kimi K3eigene Lizenz 1.561 GB
Qwen3.8-2.4T-A95B8-Bit, eigene Lizenz 2.496 GB

DeepSeek V4-Pro braucht rechnerisch mindestens zwölf Karten mit 80 GB, nur um die Gewichte zu laden (893 ÷ 80 = 11,2), Kimi K3 zwanzig (1.561 ÷ 80 = 19,5). Dazu kommt Speicher für den Kontext. Größen der offiziellen Gewichte bei Hugging Face, Mistral Large 3 laut Mistrals Modellseite, abgerufen am 13.10.2026.

Wie schnell ist das lokal? Meta hat Muse Glimmer in der 17-GB-Fassung selbst gemessen: rund 75 Token pro Sekunde auf einer Nvidia RTX 5090 und 24 bis 27 auf einem MacBook mit M4 Max bzw. M5 Max. Mit dem mitgelieferten Beschleuniger für spekulatives Dekodieren nennt Meta 38 bis 233 Token pro Sekunde. Schon 25 Token pro Sekunde sind schneller, als du liest. Auf schwächeren Rechnern oder wenn das Modell nicht ganz in den Speicher passt, sinkt das Tempo deutlich. Wie du die passende Größe für deinen Rechner findest, steht Schritt für Schritt im Guide KI lokal nutzen.

Datenschutz: Selbstbetrieb ist nicht dasselbe wie die App aus China

Bei offenen Modellen aus China wird oft zweierlei vermischt: das Modell und der Dienst des Herstellers. Lädst du die Gewichte herunter und betreibst sie selbst oder bei einem Hoster deiner Wahl, gehen deine Eingaben an keinen Modellanbieter, egal ob das Modell aus Hangzhou, Peking oder Paris stammt. Nutzt du dagegen App oder Schnittstelle des Herstellers, gelten dessen Bedingungen:

WegWo deine Eingaben verarbeitet werdenWas laut Bedingungen damit passiert
DeepSeek-App und -SchnittstelleVolksrepublik China (Datenschutzerklärung, Stand 10.02.2026)Training der Modelle ist als Zweck genannt, mit Widerspruchsrecht
Kimi-Plattform (Moonshot AI)Singapur, Vertragspartner Moonshot AI Pte. Ltd.Nutzerinhalte dienen laut Datenschutzerklärung auch dazu, die Modelle zu optimieren
Z.ai (GLM)in der Regel SingapurWeitergabe an Konzerngesellschaften und Dienstleister im Ausland möglich
Alibaba Cloud Model Studio (Qwen)wählbare Region, darunter Frankfurt, wo sich die Verarbeitung auf die EU begrenzen lässtWelche Qwen-Modelle in Frankfurt laufen, unterscheidet sich je Region, vorher prüfen
Selbstbetrieb oder Hoster deiner Wahl in der EUeigener Server bzw. Rechenzentrum, das du auswählstKeine Übermittlung an den Modellhersteller; deine DSGVO-Pflichten bleiben

Warum das für Betriebe in Deutschland zählt: Weder China noch Singapur haben einen Angemessenheitsbeschluss der EU-Kommission. Wer personenbezogene Daten dorthin übermittelt, braucht eine zusätzliche Absicherung nach Artikel 46 DSGVO, etwa Standardvertragsklauseln, und muss prüfen, ob sie im Zielland tatsächlich tragen. Bei DeepSeek hat die Berliner Datenschutzbeauftragte 2025 genau daran gezweifelt und die App bei Apple und Google gemeldet, Details im Artikel DeepSeek. Für Kunden-, Personal- oder Mandantendaten scheiden die Hersteller-Apps damit in aller Regel aus, die selbst betriebenen Gewichte desselben Modells nicht.

Was der Selbstbetrieb nicht löst: Rechtsgrundlage, Zugriffskonzept, Löschfristen und gegebenenfalls eine Datenschutz-Folgenabschätzung bleiben deine Aufgabe, lokal ist kein Freifahrtschein. Und was ein Modell im Training gelernt hat, nimmt es mit auf deinen Server: Für DeepSeeks Dienste ist dokumentiert, dass sie bei politisch sensiblen China-Themen ausweichen; wie stark das in den Gewichten selbst steckt, zeigt nur ein eigener Test. Für Recherche zu solchen Themen ist ein chinesisches Modell deshalb die falsche Wahl, für Rechnungen, Handbücher und Code spielt es selten eine Rolle. Wie Unternehmen KI insgesamt datenschutzkonform aufsetzen, steht im Überblick KI und Datenschutz. Einschätzung, keine Rechtsberatung.

Was im Betrieb realistisch funktioniert

Drei Einsatzmuster laufen mit heutigen offenen Modellen in kleinen und mittleren Unternehmen tatsächlich, jenseits der Hochglanz-Demos:

Interner Chatbot mit Firmenwissen. Ein Modell der 27-bis-31-Milliarden-Klasse auf einer Workstation oder einem GPU-Server, davor eine Suche über die eigenen Dokumente (RAG): Handbücher, QM-Dokumentation, Intranet. Mitarbeiter fragen in normaler Sprache, kein Dokument verlässt das Haus. Ein typisches Erstprojekt, wie es der Fahrplan KI im Unternehmen einführen beschreibt.

Dokumenten-Auswertung im Stapel. Posteingang sortieren, Daten aus Rechnungen ziehen, Verträge zusammenfassen. Hier zählt das Kostenargument: Bei tausenden Dokumenten im Monat fällt keine Gebühr pro Seite an, und Modelle, die Bilder lesen, wie Qwen3.8-27B oder Gemma 4, verarbeiten auch Scans.

Coding-Unterstützung ohne Cloud-Zwang. Muse Glimmer ist laut Meta eigens für Agenten-Aufgaben auf normaler Hardware gebaut, und auch für Qwen3.8-27B und Gemma 4 nennen die Hersteller Coding ausdrücklich als Einsatzfeld. Interessant für Firmen, deren Quellcode nicht zu externen Anbietern darf.

Durchgespielt: Kanzlei sucht ihren Weg

Eine Anwaltskanzlei mit zwölf Mitarbeitern will Schriftsätze und Verträge per KI zusammenfassen und durchsuchbar machen. Cloud-APIs scheiden früh aus, denn die berufliche Verschwiegenheit (§ 203 StGB) macht jede Übermittlung von Mandatsdaten an Dritte zur heiklen Einzelfallprüfung. Der realistische Weg: eine Workstation mit einer 24-GB-Grafikkarte im Serverschrank, darauf Qwen3.8-27B oder Gemma 4 31B, beide unter Apache 2.0 und beide lesen auch eingescannte Altakten, davor eine RAG-Suche über die Aktenablage. Entschieden wird erst nach einem Test mit 20 echten Dokumenten: Reicht die Qualität, bleibt das Modell, reicht sie nicht, hat der Versuch wenig gekostet. Hätte die Kanzlei niemanden für den Serverbetrieb, wäre die ehrliche Empfehlung eine andere: ein europäischer API-Anbieter mit Auftragsverarbeitungsvertrag statt Eigenbetrieb.

Wann Open Source die falsche Wahl ist: Wenn niemand im Haus einen Server verantworten kann. Wenn KI nur sporadisch genutzt wird, denn dann ist jede API günstiger als eine ungenutzte Grafikkarte. Wenn die Aufgaben regelmäßig an der Leistungsgrenze liegen, etwa bei komplexem Reasoning oder schwieriger Recherche. Und wenn es schnell gehen muss: Ein API-Konto steht in Minuten, ein sauberer Eigenbetrieb braucht Wochen. Offene Modelle lohnen sich für definierte, wiederkehrende Aufgaben mit sensiblen Daten oder hohem Volumen, nicht als Ersatz für alles.

Die ehrliche Rechnung: was Open Source kostet

Betrieb ist Arbeit. Jemand muss das Modell aufsetzen, aktualisieren, überwachen und die Hardware auslasten. „Kostenlos herunterladen“ heißt: Du übernimmst den Job, den sonst der API-Anbieter macht. Ohne eine Person, die das verantwortet, wird aus dem Projekt ein vergessener Server.

Qualität hängt an der Konfiguration. Ein Beispiel aus einem frühen Praxistest: Qwen3.8-27B produzierte in der Standardeinstellung so ausufernde „Denkprozesse“, dass eine triviale Aufgabe über 20 Minuten dauerte, richtig eingestellt gut zwei Minuten. Offene Modelle kommen nicht fertig justiert aus der Schachtel.

Der Qualitätsabstand ist aufgabenabhängig. Für Klassifikation, Extraktion und Fragen zu eigenen Dokumenten reicht die Klasse um 30 Milliarden Parameter meist aus. Bei den schwierigsten Reasoning- und Rechercheaufgaben liegen die großen Bezahl-Modelle weiter vorn. Pro Aufgabe testen statt pauschal entscheiden, das erspart beide Enttäuschungen.

Sicherheit und Compliance wandern zu dir. Zugriffskontrolle, Schutz vor Prompt Injection, Protokollierung: Beim Selbstbetrieb erledigt das kein Anbieter für dich. Und die EU-KI-Verordnung fragt nicht, ob ein Modell offen ist. Wer ein lokales Modell im Betrieb einsetzt, ist Betreiber, und Artikel 4 verlangt in der Fassung der Verordnung (EU) 2026/1744, dass Betreiber Maßnahmen zur KI-Kompetenz ihres Personals ergreifen, ohne ein bestimmtes Niveau vorzuschreiben. Was seit August 2026 sonst gilt, fasst der Überblick AI Act 2026 zusammen.

Open-Source-Skills: die unterschätzte Berufsperspektive

Wer offene Modelle betreiben kann, verbindet zwei selten gepaarte Kompetenzen: KI-Verständnis und Betriebspraxis. Der Einstieg ist niedrigschwellig, LM Studio oder Ollama starten Gemma 4, Ministral 3 oder gpt-oss-20b in Minuten auf einem normalen Rechner. Darauf bauen die gefragten Fertigkeiten auf: RAG-Pipelines, Server-Betrieb, saubere Tests mit echten Aufgaben und die Fähigkeit, eine Modelllizenz zu lesen. Den strukturierten Einstieg beschreibt der Guide KI lernen.

Du willst KI im Job sicher einsetzen, statt jedem Release hinterherzulaufen?

Im kostenlosen Erstgespräch klären wir, welche KI-Weiterbildung passt und ob sie gefördert werden kann – über den Bildungsgutschein, wenn du arbeitsuchend bist, oder über das Qualifizierungschancengesetz, wenn dein Arbeitgeber mitzieht. Ob gefördert wird, entscheidet die Agentur für Arbeit.

Kostenloses Erstgespräch buchen

Häufige Fragen

Gibt es eine Open-Source-KI?

Ja, sogar viele. Modelle mit offenen Gewichten gibt es von DeepSeek, Alibaba (Qwen), Moonshot (Kimi), Z.ai (GLM), Google (Gemma), Meta (Muse Glimmer), Mistral und OpenAI (gpt-oss). Du kannst sie herunterladen und auf eigener Hardware betreiben. Vollständig offen samt Trainingsdaten sind dagegen nur wenige Forschungsmodelle wie OLMo oder Apertus.

Ist Open-Source-KI kostenlos?

Die Gewichte ja, Lizenzgebühren fallen bei normaler Nutzung nicht an. Bezahlt wird mit Hardware, Strom und Betriebsaufwand. Zum Ausprobieren reicht ein normaler Rechner mit LM Studio oder Ollama, ganz ohne Konto. Für ein Unternehmen gilt: Bei hohem, planbarem Volumen kann der Eigenbetrieb günstiger sein als eine API, bei gelegentlicher Nutzung ist er meist teurer.

Was ist der Unterschied zwischen Open-Source-KI und Open Weights?

Open Weights heißt: Du kannst das fertig trainierte Modell herunterladen und ausführen. Echte Open-Source-KI umfasst nach der Definition der Open Source Initiative zusätzlich den Trainingscode und Angaben zu den Trainingsdaten. Fast alle als „Open Source“ vermarkteten Modelle sind genau genommen Open Weights, und deren Lizenzen reichen von völlig frei bis zu Umsatzgrenzen.

Welche Open-Source-KI läuft auf einem normalen Laptop?

Mit 16 GB Arbeitsspeicher laufen kleine Modelle wie Gemma 4 E4B oder Ministral 3 mit 8 Milliarden Parametern, als 4-Bit-Datei je rund 5 GB. gpt-oss-20b kommt laut OpenAI mit 16 GB aus. Ab einer 24-GB-Grafikkarte oder einem Mac mit 32 GB gehen Qwen3.8-27B, Muse Glimmer oder Gemma 4 31B. Große Modelle wie DeepSeek V4 oder Kimi K3 brauchen ein Rechenzentrum.

Darf man offene KI-Modelle kommerziell nutzen?

Bei Apache 2.0 und MIT ja, ohne Umsatz- oder Nutzergrenzen, etwa bei Qwen3.8-27B, Gemma 4, Muse Glimmer, gpt-oss und DeepSeek. Kimi K3, GLM-5.3, Qwen3.8-Flash-Next, Mistral Medium 3.5 und Llama 4 haben eigene Bedingungen. Mistral Medium 3.5 etwa ist für Firmen mit mehr als 20 Mio. US-Dollar Monatsumsatz ohne Zusatzlizenz tabu. Entscheidend ist die Lizenzdatei im Repository.

Sind offene KI-Modelle aus China ein Datenschutzrisiko?

Beim Selbstbetrieb gehen deine Eingaben an keinen Hersteller, es bleiben die normalen DSGVO-Pflichten. Anders bei Apps und Schnittstellen der Anbieter: DeepSeek verarbeitet Daten laut Datenschutzerklärung in China, Moonshot (Kimi) und Z.ai (GLM) in Singapur. Für beide Länder gibt es keinen Angemessenheitsbeschluss der EU. Einschätzung, keine Rechtsberatung.

Offene Modelle einordnen, statt jedem Release hinterherzulaufen

Alle paar Wochen erscheint ein neues offenes Modell, und jedes bringt eine andere Lizenz mit – wer beruflich mit KI arbeitet, braucht deshalb eine Methode statt Modell-Hopping: Aufgaben sauber stellen, Ergebnisse prüfen, Daten und Lizenzen richtig einordnen. Genau das üben wir in unserer KI-Weiterbildung (KI-Spezialist 3 Monate, KI-Experte 6 Monate, Vollzeit, online mit Live-Unterricht), förderfähig über den Bildungsgutschein oder, wenn dein Arbeitgeber mitzieht, über das Qualifizierungschancengesetz. Ob das bei dir in Frage kommt, klären wir im kostenlosen Erstgespräch – ob gefördert wird, entscheidet die Agentur für Arbeit.

Kostenloses Erstgespräch buchen

Quellen: Hugging Face: DeepSeek-V4.1-Flash, 10.09.2026 · Hugging Face: DeepSeek-V4-Pro-0813 · DeepSeek API-Doku: Release V4.1-Flash, 10.09.2026 · Hugging Face: Kimi K3 und Kimi-K3-Lizenz · Hugging Face: GLM-5.3-Lizenz · Hugging Face: GLM-5.3-Flash · Hugging Face: Qwen3.8-27B · Hugging Face: Qwen Community License 1.0 (Qwen3.8-Flash-Next) · Hugging Face: Qwen3.8-Max-Lizenz · Hugging Face: Gemma 4 · Hugging Face: Muse Glimmer 30B · Meta: Llama 4 Acceptable Use Policy · Hugging Face: Mistral Medium 3.5, Modified MIT License · Mistral-Dokumentation: Mistral Large 3 · Mistral: Mistral Large 4, 06.10.2026 · Hugging Face: gpt-oss · Hugging Face: Apertus 1.5 · Hugging Face: EuroLLM-22B · Open Source Initiative: OSAID 1.0 · DeepSeek: Datenschutzerklärung, Stand 10.02.2026 · Kimi Open Platform: Datenschutzerklärung · Z.ai: Datenschutzerklärung · Alibaba Cloud Model Studio: Regionen · EU-Kommission: Angemessenheitsbeschlüsse. Abgerufen am 13.10.2026.

Benedikt Backhaus, schreibt bei Scaly über KI-Tools und neue Modelle

Benedikt Backhaus – schreibt bei Scaly über KI-Tools, neue Modelle und aktuelle Entwicklungen rund um künstliche Intelligenz. Er beobachtet die KI-Szene laufend und ordnet ein, was neue Releases praktisch bedeuten – ehrlich und ohne Hype. Einschätzung, keine Rechtsberatung. Benedikt auf LinkedIn

Diesen Artikel Teilen:

Über den Autor

Bild von Benedikt Backhaus

Benedikt Backhaus

Benedikt Backhaus schreibt bei Scaly über KI-Tools, neue Modelle und aktuelle Entwicklungen rund um künstliche Intelligenz. Er verfolgt die KI-Szene laufend und ordnet ein, was neue Releases praktisch bedeuten — für Lernende, Arbeitsuchende und Unternehmen. Ehrlich, mit Quellen und ohne Hype.

Diese Artikel könnten Sie auch interessieren

Qwen 3.8: Alibabas Open-Source-Offensive – und was sie für dich bedeutet

Qwen 3.8: Alibabas Open-Source-Offensive – und was sie für dich bedeutet

AI Act seit August 2026: Was jetzt wirklich gilt – und was verschoben wurde

AI Act seit August 2026: Was jetzt wirklich gilt – und was verschoben wurde

Die großen KI-Modelle im Oktober 2026: GPT-6, Claude, Gemini & Co.

Die großen KI-Modelle im Oktober 2026: GPT-6, Claude, Gemini & Co.