Open Source vs. Closed Source KI bezeichnet die Unterscheidung zwischen KI-Modellen, deren Gewichte und gegebenenfalls Code und Daten frei zugänglich sind (etwa Llama oder Stable Diffusion), und solchen, die als proprietäre Dienste betrieben werden (etwa die Modelle hinter ChatGPT, Gemini oder Claude).
Rubrik: GenAI & Content Creation · Unterrubrik: KI-Ethik & Gesellschaft · Niveau: Einsteiger Synonyme / Auch bekannt als: Open-Source-KI, proprietäre KI, Open Weights AI, Foundation Models, Offene KI
Was ist der Unterschied zwischen Open und Closed Source KI?
In der klassischen Softwareentwicklung unterscheidet Open Source (z. B. Linux, Firefox) frei zugänglichen Quellcode von proprietärer Software (Windows, Photoshop). Bei KI-Modellen ist die Unterscheidung komplexer: Ein Modell ist erst dann umfassend offen, wenn Architektur, Gewichte, Trainingscode und Informationen zu den Trainingsdaten frei verfügbar sind. Die Open Source Initiative hat dafür 2024 eine eigene Definition für Open-Source-KI vorgelegt. In der Praxis gibt es ein Spektrum: von sehr offenen Forschungsmodellen, die auch Trainingsdaten und Code veröffentlichen (etwa OLMo des Allen Institute for AI), über Modelle mit offenen Gewichten, aber unveröffentlichten Trainingsdaten und eigener Lizenz (etwa Metas Llama-Modelle), bis zu proprietären Modellen, die nur per App oder API nutzbar sind.
Erklärung
Wichtige offene Modellfamilien
Meta Llama: Metas Sprachmodelle werden mit offenen Gewichten veröffentlicht und können lokal ausgeführt und feinabgestimmt werden. Die Trainingsdaten sind nicht veröffentlicht, und die eigene Lizenz enthält Bedingungen, unter anderem für sehr große Plattformen. Ob solche Modelle „Open Source“ heißen dürfen, ist deshalb umstritten.
Stable Diffusion (Stability AI, seit 2022): Das bekannteste offene Bildgenerierungsmodell. Die Gewichte sind herunterladbar und lokal ausführbar; neuere Versionen stehen unter Lizenzen mit Bedingungen für die kommerzielle Nutzung. Die Offenheit ermöglicht Community-Weiterentwicklung, aber auch missbräuchliche Nutzung.
Mistral AI (Paris): Das 2023 gegründete europäische Unternehmen veröffentlicht einen Teil seiner Modelle mit offenen Gewichten, etwa Mistral 7B und Mixtral 8x7B unter der Apache-2.0-Lizenz, bietet daneben aber auch proprietäre Modelle an.
Offene Forschungsmodelle: Projekte wie OLMo veröffentlichen neben den Gewichten auch Trainingsdaten und Trainingscode und gelten damit als besonders transparent.
Proprietäre Modelle
OpenAI: Die Modelle hinter ChatGPT sind überwiegend nur über die App oder eine kostenpflichtige API nutzbar; Gewichte und Trainingsdetails sind nicht öffentlich. OpenAI begründet die Zurückhaltung mit Wettbewerb und Sicherheit.
Google Gemini: Ebenfalls proprietär, verfügbar über Google-Produkte und Entwicklerplattformen; technische Details sind nur teilweise öffentlich.
Anthropic Claude: Anthropic begründet die Zurückhaltung der Modellgewichte vor allem mit Sicherheitserwägungen. Zugang über API und claude.ai.
Argumente für offene Modelle
Demokratisierung und Zugang: Offene Modelle ermöglichen Forschenden, kleinen Unternehmen und Entwickler/innen weltweit Zugang zu leistungsstarker KI, ohne laufende API-Gebühren.
Transparenz und Auditierbarkeit: Sind Modellgewichte offen, können Sicherheitsforscher/innen, Bias-Tester/innen und Behörden das Modell unabhängig prüfen. Bei proprietären Modellen ist man auf Angaben der Anbieter angewiesen.
Innovation durch Community: Rund um Stable Diffusion entstanden zahllose Feinabstimmungen (LoRAs, DreamBooth), Werkzeuge und Anwendungen.
Daten-Souveränität: Organisationen mit sensiblen Daten (Krankenhäuser, Behörden, Redaktionen) können offene Modelle lokal betreiben, ohne Daten an externe Server zu senden.
Sicherheitsargument: Manche Sicherheitsforscher/innen argumentieren, dass Schwachstellen in offenen Modellen schneller gefunden und geschlossen werden, wie bei Open-Source-Software allgemein.
Argumente für proprietäre Modelle
Missbrauchsverhinderung: Offene Modelle können auch für Desinformation, sexualisierte Deepfakes oder Schadsoftware genutzt werden, ohne dass Anbieter eingreifen können; Sicherheitsmechanismen lassen sich durch Fine-Tuning entfernen.
Durchsetzung von Richtlinien: Anbieter proprietärer Dienste können Nutzungsrichtlinien und Sicherheitsmechanismen zuverlässiger durchsetzen.
Investitionsschutz: Das Training großer Modelle kostet sehr viel Geld. Proprietäre Modelle schützen diese Investitionen.
- Zugang ohne laufende API-Gebühren
- unabhängig prüfbar durch Forschung und Behörden
- Community-Innovation wie LoRAs und DreamBooth
- lokaler Betrieb ohne Datenweitergabe
- Missbrauch lässt sich eher verhindern
- Nutzungsrichtlinien zuverlässiger durchsetzbar
- Schutz hoher Trainingsinvestitionen
EU AI Act und Open Source
Der EU AI Act enthält Erleichterungen für freie und quelloffene KI: KI-Systeme unter freien und offenen Lizenzen sind grundsätzlich ausgenommen, außer sie sind Hochrisiko-Systeme, fallen unter die Verbote (Art. 5) oder die Transparenzpflichten (Art. 50) (Art. 2 Abs. 12). Anbieter von GPAI-Modellen, die unter einer freien und offenen Lizenz mit öffentlich zugänglichen Gewichten veröffentlicht werden, sind von einem Teil der Dokumentationspflichten befreit, nicht aber von der Urheberrechtsstrategie und der Zusammenfassung der Trainingsinhalte; für Modelle mit systemischem Risiko gilt die Ausnahme nicht (Art. 53 Abs. 2).
Beispiele
- Llama-Gewichte und Sicherheitstraining (2023): Die Gewichte des ersten Llama-Modells gelangten im März 2023 kurz nach der Vorstellung ins Netz. Forschende zeigten danach, dass sich das Sicherheitstraining offener Modelle mit vergleichsweise geringem Aufwand per Fine-Tuning entfernen lässt.
- Stable Diffusion und sexualisierte Deepfakes: Die Offenheit von Stable Diffusion führte auch zu Angeboten, die das Modell für nicht einvernehmliche intime Bilder nutzen, ein Problem, das Plattformen und Strafverfolgung bis heute beschäftigt.
- Mistral AI als europäischer Anbieter: Mistral AI sammelte kurz nach der Gründung 2023 hohe Finanzierungsrunden ein und positioniert sich mit teils offenen Modellen als europäische Alternative.
- AI Alliance (Dezember 2023): IBM und Meta gründeten mit über 50 Unternehmen und Forschungseinrichtungen die AI Alliance zur Förderung offener KI-Entwicklung.
- Open Source AI Definition (2024): Die Open Source Initiative veröffentlichte eine Definition, nach der ein Open-Source-KI-System die freie Nutzung, Untersuchung, Veränderung und Weitergabe ermöglichen und dafür ausreichende Informationen zu den Trainingsdaten bereitstellen muss.
In der Praxis
Für Kreativschaffende: Offene Modelle (etwa Stable Diffusion mit Oberflächen wie ComfyUI) bieten Flexibilität und Datenschutz: Bilder werden lokal generiert, ohne Upload an externe Server. Das erfordert aber technisches Grundverständnis und passende Hardware. Proprietäre Dienste wie Midjourney oder Adobe Firefly sind benutzerfreundlicher, aber weniger kontrollierbar.
Für Unternehmen: Abwägung zwischen Kontrolle und Komfort. Für sensible Branchen (Recht, Medizin, Behörden) sind lokal betriebene offene Modelle oft die bessere Wahl. Für Kreativagenturen sind Cloud-Dienste oft ausreichend und effizienter.
Für Regulierungsbehörden: Der EU AI Act privilegiert offene Modelle, ohne sie vollständig von Verantwortung zu befreien. Das Gleichgewicht zwischen Innovation und Sicherheit bleibt eine zentrale politische Frage.
Vergleich & Abgrenzung
Open Weights vs. umfassend offen: „Open Weights“ (wie bei Llama) bedeutet, dass die Modellgewichte herunterladbar sind, Trainingsdaten und Details aber nicht offengelegt werden. Umfassend offene Modelle (wie OLMo) veröffentlichen auch Daten und Code.
Open Source vs. offene API: Ein proprietäres Modell mit offener API ist zugänglich, aber weder transparent noch lokal ausführbar. Eine offene API ist kein Open Source.
Häufige Fragen
Ist Open-Source-KI sicherer als Closed Source? Es gibt keine einfache Antwort. Offene Modelle sind transparenter und unabhängig prüfbar; sie ermöglichen aber auch, Sicherheitsmechanismen zu entfernen. Sicherheit hängt stark von Implementierung und Nutzungskontext ab.
Warum veröffentlicht Meta seine Modelle mit offenen Gewichten? Beobachter/innen nennen mehrere Gründe: Ein großes Ökosystem um die eigenen Modelle stärkt Metas Position gegenüber Wettbewerbern, und Offenheit hilft, Forschende und Entwickler/innen zu gewinnen. Meta selbst betont Innovation und Sicherheit durch Transparenz.
Was verlangt der AI Act von offenen KI-Modellen? Auch offene GPAI-Modelle brauchen eine Urheberrechtsstrategie und eine öffentliche Zusammenfassung der Trainingsinhalte; von weiteren Dokumentationspflichten sind sie befreit, sofern kein systemisches Risiko vorliegt (Art. 53 Abs. 2).
Verwandte Einträge
Weiterführend
- Widder, D. G. et al. (2023): Open (For Business): Big Tech, Concentrated Power, and the Political Economy of Open AI. SSRN
- Open Source Initiative (2024): The Open Source AI Definition 1.0. opensource.org/ai
- Verordnung (EU) 2024/1689 (AI Act), Art. 2 Abs. 12 und Art. 53 Abs. 2. eur-lex.europa.eu
