--- title: "Open-Source- und Open-Weight-Modell: Definition und Beispiel – Carl-Uwe Würfel" description: "Open Source LLM erklärt: Open Source und Open Weights im Unterschied, Lizenzen wie Apache 2.0 und Llama, AI Act, Eigenbetrieb, Kosten und was zu prüfen ist." url: https://carl-wuerfel.de/glossar/open-source-llm author: Carl-Uwe Würfel --- 1. [Start](https://carl-wuerfel.de/) 2. [Wissen](https://carl-wuerfel.de/wissen) 3. [Glossar](https://carl-wuerfel.de/glossar) 4. Open-Source- und Open-Weight-Modell # Open-Source- und Open-Weight-Modell Ein Open-Source-LLM ist ein Sprachmodell, dessen Gewichte, Code und Angaben zu den Trainingsdaten unter freier Lizenz offenliegen; sind nur die Gewichte frei, ist es ein Open-Weight-Modell. ## Auf dieser Seite 1. Open Source, Open Weights und proprietär 2. Die Lizenz entscheidet über den Einsatz 3. Was der AI Act für offene Modelle vorsieht 4. So läuft ein offenes Modell im Betrieb 5. Was es kostet und wovon das abhängt 6. Typische Missverständnisse 7. Die Grenze des Begriffs 8. Häufige Fragen 9. Quellen Der Zugriff auf die Gewichte entscheidet, ob Daten das Haus verlassen müssen. _Abbildung: Schaubild am Beispiel einer Steuerkanzlei, die Mandantenunterlagen zusammenfassen lassen will, ohne sie an einen externen Dienst zu geben. Sie wählt ein Open-Weight-Modell unter der Lizenz Apache 2.0, betreibt es auf einem eigenen Server und verbindet es über RAG mit der Dokumentenablage. Vor dem Start vergleicht sie es an echten Fällen mit einem proprietären Modell. Die Zusammenfassungen reichen für den Arbeitsalltag, die fachliche Bewertung bleibt bei den Steuerberatern._ **Beispiel** Eine Steuerkanzlei will Mandantenunterlagen zusammenfassen lassen, ohne sie an einen externen Dienst zu geben. Sie wählt ein Open-Weight-Modell unter Apache 2.0, betreibt es auf einem eigenen Server und verbindet es über [RAG](https://carl-wuerfel.de/glossar/rag) mit der Dokumentenablage. Vor dem Start vergleicht sie es an echten Fällen mit einem proprietären Modell. Die Zusammenfassungen reichen für den Arbeitsalltag, die fachliche Bewertung bleibt bei den Steuerberatern. Im Alltag heißt fast jedes Sprachmodell Open Source, dessen Gewichte sich herunterladen lassen. Gewichte sind die im Training gelernten Zahlenwerte, also das eigentliche Modell. Wer sie hat, kann das Modell auf eigener Hardware oder bei einem Hoster betreiben, statt es nur über die Schnittstelle eines Herstellers aufzurufen. Fachlich ist das aber zunächst ein Open-Weight-Modell. Was Open Source bei KI bedeutet, hat die Open Source Initiative (OSI) im Oktober 2024 in der Open Source AI Definition 1.0 festgelegt. Die OSI pflegt seit 1998 auch die maßgebliche Definition für Open-Source-Software. Ein offenes KI-System muss danach vier Freiheiten gewähren: es für jeden Zweck nutzen, untersuchen, verändern und weitergeben. Dazu gehören neben den Gewichten der vollständige Code für Training und Betrieb und so genaue Informationen über die Trainingsdaten, dass Fachleute ein im Wesentlichen gleichwertiges System bauen könnten. Viele bekannte offene Modelle erfüllen das nicht. Für Unternehmen ist die Unterscheidung keine Wortklauberei. Die Lizenz entscheidet, ob ein Modell kommerziell genutzt, verändert und in eigene Produkte eingebaut werden darf. Der Zugriff auf die Gewichte entscheidet, ob Daten das Haus verlassen müssen und wie stark die Bindung an einen Anbieter ist. Und wer das Modell betreibt, trägt Kosten und Aufwand. ## Open Source, Open Weights und proprietär. Bei Sprachmodellen lassen sich drei Stufen der Offenheit unterscheiden. Proprietäre Modelle sind nur über die Schnittstelle oder die Anwendung des Herstellers nutzbar. Die Gewichte bleiben beim Anbieter, so bei den Modellen hinter ChatGPT, Claude oder Gemini. Open-Weight-Modelle stellen ihre Gewichte zum Herunterladen bereit, meist mit einer Modellkarte zu Fähigkeiten und Grenzen. Trainingsdaten und Trainingscode bleiben dagegen meist unter Verschluss. In diese Gruppe gehören die meisten Modelle, die als offen gelten, etwa aus den Familien Llama, Gemma, Mistral, Qwen und DeepSeek sowie gpt-oss von OpenAI (Stand November 2026). Was mit den Gewichten erlaubt ist, regelt die Lizenz, und die reicht von sehr frei bis zu deutlichen Auflagen. Open Source im Sinne der OSI verlangt mehr. Ein Beispiel ist OLMo vom Allen Institute for AI: Zur ersten Fassung von 2024 gehörten Gewichte, Trainingscode, Trainingsdaten und Zwischenstände des Trainings. Die OSI-Definition verlangt nicht in jedem Fall die Daten selbst, wohl aber eine Beschreibung, mit der sich das Training nachvollziehen lässt. Das Etikett auf einer Modellseite ist deshalb kein Beleg. Maßgeblich ist, was tatsächlich veröffentlicht wurde und was die Lizenz erlaubt. ## Die Lizenz entscheidet über den Einsatz. Für den Betrieb im Unternehmen zählt die Lizenz mehr als jedes Etikett. Die Apache-Lizenz 2.0 erlaubt Nutzung, Veränderung und Weitergabe, auch kommerziell, und enthält eine ausdrückliche Patentlizenz. Pflichten sind überschaubar: Lizenztext und Hinweise beifügen und Änderungen kenntlich machen. OpenAI hat gpt-oss 2025 unter dieser Lizenz veröffentlicht. Ähnlich frei ist die sehr kurze MIT-Lizenz. Herstellerlizenzen setzen eigene Bedingungen. Die Llama 4 Community License vom April 2025 erlaubt kommerzielle Nutzung, verlangt aber eine eigene Lizenz von Meta, wenn die Produkte des Lizenznehmers beim Erscheinen der Version mehr als 700 Millionen monatlich aktive Nutzer hatten. Wer Llama weitergibt, muss den Hinweis „Built with Llama“ zeigen, und der Name abgeleiteter Modelle muss mit „Llama“ beginnen. Teil der Lizenz ist eine Nutzungsrichtlinie mit verbotenen Verwendungen. Für die multimodalen Modelle von Llama 4 gewährt sie Unternehmen mit Hauptsitz in der EU die Rechte aus der Lizenz nicht; Endnutzer von Produkten, die solche Modelle enthalten, sind davon ausgenommen. Die OSI hat schon 2023 erklärt, dass die Llama-Lizenz nicht Open Source ist, weil sie Nutzergruppen und Einsatzfelder beschränkt. Lizenzen ändern sich von Version zu Version. Vor dem Einsatz gehört der Lizenztext der konkreten Version geprüft, bei jedem Versionswechsel erneut. ## Was der AI Act für offene Modelle vorsieht. Die KI-Verordnung der EU kennt Erleichterungen für freie und quelloffene Lizenzen, aber eng gefasst. Nach Artikel 2 Absatz 12 gilt sie nicht für KI-Systeme unter solchen Lizenzen. Ausgenommen davon sind Hochrisiko-Systeme, verbotene Praktiken nach Artikel 5 und Systeme mit Transparenzpflichten nach Artikel 50. Für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck entfallen nach Artikel 53 Absatz 2 zwei Pflichten: die technische Dokumentation für Behörden und die Informationen für nachgelagerte Anbieter. Voraussetzung ist eine Lizenz, die Zugang, Nutzung, Änderung und Verbreitung erlaubt, und die Veröffentlichung der Parameter einschließlich Gewichten, der Angaben zur Architektur und zur Nutzung. Strategie zum Urheberrecht und Zusammenfassung der Trainingsinhalte bleiben Pflicht, und für Modelle mit systemischem Risiko gilt die Ausnahme nicht. Nach Erwägungsgrund 103 fällt ein Modell aus der Ausnahme heraus, wenn es gegen Entgelt bereitgestellt oder anderweitig monetarisiert wird. Für Unternehmen, die ein offenes Modell einsetzen, ändert das wenig. Sie bleiben Betreiber mit den Pflichten aus der Verordnung, etwa zur KI-Kompetenz der Beschäftigten, zur Transparenz und gegebenenfalls zu Hochrisiko-Anwendungen. Die Erleichterungen gelten vor allem für die Hersteller der Modelle, kaum für ihre Nutzer. ## So läuft ein offenes Modell im Betrieb. Ein Open-Weight-Modell läuft, sobald seine Gewichte in eine Laufzeitumgebung geladen sind. Die Dateien liegen meist auf Plattformen wie Hugging Face. Für einen einzelnen Rechner sind Werkzeuge wie Ollama oder llama.cpp verbreitet, für Server mit vielen gleichzeitigen Anfragen Inferenz-Server wie vLLM. Diese Werkzeuge sind selbst Open-Source-Software, aber keine Modelle. Den Speicherbedarf bestimmen Parameterzahl und Quantisierung, also die Genauigkeit, mit der die Gewichte gespeichert sind. Bei Mixture-of-Experts-Modellen rechnet je [Token](https://carl-wuerfel.de/glossar/token) nur ein Teil des Netzes, im Speicher liegen muss trotzdem das ganze Modell. Laut Modellkarte hat gpt-oss-20b 21 Milliarden Parameter, davon 3,6 Milliarden je Token aktiv, und kommt mit 16 Gigabyte Speicher aus. Drei Betriebsformen stehen zur Wahl. Eigene Hardware gibt die meiste Kontrolle über Daten und Versionen, verlangt aber eigenes Personal für Betrieb und Sicherheit. Ein Hoster oder Cloud-Anbieter betreibt das offene Modell für das Unternehmen; dann stellen sich dieselben Fragen wie bei jedem Dienstleister, etwa zu Verarbeitungsort, Speicherung und Auftragsverarbeitung nach DSGVO. Die dritte Form ist die Schnittstelle eines proprietären Anbieters. Offen sind bei den ersten beiden Wegen nur die Gewichte, nicht der Betrieb. ## Was es kostet und wovon das abhängt. Eine offene Lizenz spart die Lizenzgebühr, nicht die Betriebskosten. Wer ein Modell selbst betreibt, bezahlt Grafikprozessoren oder deren Miete, Strom, Einrichtung, Anbindung an bestehende Systeme, Sicherheitsupdates, Überwachung und die Menschen, die das alles betreuen. Dazu kommt der Aufwand, neue Modellversionen zu testen und einzuspielen. Diese Kosten fallen weitgehend fest an, unabhängig davon, wie viele Anfragen das Modell beantwortet. Eine Schnittstelle rechnet dagegen je Token ab und kostet bei geringer Nutzung wenig. Der Eigenbetrieb lohnt sich deshalb eher bei hohem, gleichmäßigem Volumen, bei Daten, die das Haus nicht verlassen sollen, oder wenn eine Modellversion über Jahre unverändert bleiben muss. Bei wenig oder stark schwankender Last ist eine Schnittstelle meist günstiger. Ein Hoster mit offenen Modellen ist ein Mittelweg. Für die Entscheidung taugt keine Pauschale. Belastbar ist ein Vergleich der Kosten je erledigter Aufgabe für jeden der drei Wege, gerechnet mit dem echten Volumen und mit der Qualität, die die Aufgabe verlangt. Dafür müssen die Kosten jedes Aufrufs erfasst werden. ## Typische Missverständnisse. Offen heißt kostenlos: Die Gewichte kosten nichts, der Betrieb schon. Für viele Unternehmen ist ein selbst betriebenes Modell teurer als eine Schnittstelle. Offen heißt datenschutzkonform: Eigenbetrieb kann die Datenhoheit verbessern, ersetzt aber weder Rechtsgrundlage noch Löschkonzept, Zugriffsrechte oder Protokollierung. Läuft das offene Modell bei einem Hoster, ist es datenschutzrechtlich ein Dienstleister wie jeder andere. Offen heißt schlechter: Ob ein offenes oder ein proprietäres Modell eine Aufgabe besser löst, hängt von Aufgabe, Sprache und Modellversion ab. Allgemeine Aussagen veralten mit jeder Modellgeneration. Verlässlich ist nur ein Vergleich an eigenen Fällen, auch auf Deutsch. Offen heißt durchschaubar: Wer die Gewichte hat, weiß noch nicht, warum das Modell so antwortet. Ohne Angaben zu den Trainingsdaten bleibt offen, was es gelernt hat und wo es Verzerrungen mitbringt. Einmal geladen, fertig: Auch offene Modelle brauchen Updates, Schutz vor Angriffen wie [Prompt Injection](https://carl-wuerfel.de/glossar/prompt-injection) und eine Prüfung der Ergebnisse. Wer ein offenes Modell betreibt, übernimmt die Aufgaben, die sonst der Anbieter erledigt. ## Die Grenze des Begriffs Open Source und Open Weight beschreiben, unter welchen Bedingungen ein Modell weitergegeben wird, nicht seine Qualität, Sicherheit oder die Rechtmäßigkeit seines Einsatzes. Abzugrenzen sind Open-Source-Werkzeuge rund um Modelle, etwa Laufzeitumgebungen, die selbst keine Modelle sind, und offene Datensätze. Eigenbetrieb ist ebenfalls etwas anderes: Auch proprietäre Modelle werden teils für den Betrieb beim Kunden lizenziert, und offene Modelle laufen oft beim Hoster. ## Häufige Fragen Was ist ein Open-Source-LLM? Ein Open-Source-LLM ist ein großes Sprachmodell, das unter einer freien Lizenz mit Gewichten, Code und Angaben zu den Trainingsdaten veröffentlicht wird. So lässt es sich für jeden Zweck nutzen, untersuchen, verändern und weitergeben. Im Alltag heißen oft auch Modelle so, von denen nur die Gewichte frei sind. Was ist der Unterschied zwischen Open Source und Open Weight? Bei einem Open-Weight-Modell sind die Gewichte herunterladbar, Trainingsdaten und Trainingscode aber nicht offengelegt, und die Lizenz kann Auflagen enthalten. Open Source nach der Definition der OSI verlangt zusätzlich den Code und ausreichende Informationen über die Trainingsdaten, dazu eine Lizenz ohne Einschränkung von Zweck oder Nutzergruppe. Welche Open-Source-LLMs sind für kommerzielle Nutzung erlaubt? Modelle unter Apache 2.0 oder MIT dürfen kommerziell genutzt werden, etwa gpt-oss von OpenAI. Herstellerlizenzen wie die von Llama erlauben kommerzielle Nutzung unter Bedingungen. Maßgeblich ist immer der Lizenztext der konkreten Modellversion. Welches Open-Source-LLM ist das beste? Ein bestes Modell für alle Zwecke gibt es nicht. Welches passt, hängt von Aufgabe, Sprache, Hardware und Lizenz ab, und Ranglisten veralten mit jeder Modellgeneration. Verlässlich ist ein Vergleich mehrerer Kandidaten an eigenen, echten Fällen. Kann man ein Open-Source-LLM selbst betreiben? Ja. Mit Werkzeugen wie Ollama, llama.cpp oder vLLM läuft ein Open-Weight-Modell auf eigener Hardware, sofern Speicher und Grafikprozessor zur Modellgröße passen. Kleine, quantisierte Modelle laufen schon auf Arbeitsplatzrechnern, große brauchen Server-GPUs. Was kostet es, ein Open-Source-LLM selbst zu hosten? Eine Pauschale gibt es nicht. Es fallen Kosten für Hardware oder Miete, Strom, Einrichtung, Pflege und Personal an, weitgehend unabhängig von der Zahl der Anfragen. Ob das günstiger ist als eine Schnittstelle, zeigt nur ein Vergleich der Kosten je Aufgabe beim eigenen Volumen. Ist Llama Open Source? Nach Auffassung der Open Source Initiative nicht. Die Llama-Lizenz erlaubt kommerzielle Nutzung, schränkt aber Nutzergruppen und Einsatzfelder ein, etwa ab 700 Millionen monatlich aktiven Nutzern oder durch eine Nutzungsrichtlinie. Llama ist ein Open-Weight-Modell. Gelten für offene Modelle Erleichterungen im AI Act? Ja, für die Anbieter der Modelle. Bei freier und quelloffener Lizenz mit veröffentlichten Gewichten entfallen nach Artikel 53 Absatz 2 Teile der Dokumentationspflichten, außer bei Modellen mit systemischem Risiko. Unternehmen, die ein offenes Modell einsetzen, behalten ihre Pflichten als Betreiber. ## Weiter * [**KI-Glossar**](https://carl-wuerfel.de/glossar) * [**KI kaufen oder selbst bauen: Billiger wurde nur der Bau**](https://carl-wuerfel.de/notizen/ki-systeme-kaufen-oder-bauen) * [**AI Act**](https://carl-wuerfel.de/ai-act) * [**Build vs. Buy**](https://carl-wuerfel.de/glossar/build-vs-buy) * [**LLM: Large Language Model**](https://carl-wuerfel.de/glossar/llm) * [**Fine-Tuning** Begriff](https://carl-wuerfel.de/glossar/fine-tuning) * [**Foundation Model (Basismodell)** Begriff](https://carl-wuerfel.de/glossar/foundation-model) * [**Small Language Model (SLM)** Begriff](https://carl-wuerfel.de/glossar/small-language-model) ## Quellen 1. [Open Source Initiative: The Open Source AI Definition 1.0, 2024 (englisch)](https://opensource.org/ai/open-source-ai-definition) 2. [Open Source Initiative: Meta’s LLaMa license is not Open Source, 2023 (englisch)](https://opensource.org/blog/metas-llama-2-license-is-not-open-source) 3. [Meta: Llama 4 Community License Agreement, 2025 (englisch)](https://dev.meta.ai/llama/llama4/license/) 4. [Meta: Llama 4 Acceptable Use Policy, 2025 (englisch)](https://github.com/meta-llama/llama-models/blob/main/models/llama4/USE_POLICY.md) 5. [Apache Software Foundation: Apache License, Version 2.0, 2004 (englisch)](https://www.apache.org/licenses/LICENSE-2.0) 6. [Dirk Groeneveld u. a. (Allen Institute for AI): OLMo, Accelerating the Science of Language Models, 2024](https://arxiv.org/abs/2402.00838) 7. [OpenAI: Modellkarte gpt-oss-20b auf Hugging Face, 2025 (englisch)](https://huggingface.co/openai/gpt-oss-20b) 8. [Europäisches Parlament und Rat: Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 2 Abs. 12, Art. 53 Abs. 2 und Erwägungsgründe 102 bis 104, 2024](https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689)