Kann man grosse KI-Modelle nutzen, ohne Daten in die Cloud zu geben?
Ja. Leistungsfähige Open-Weight-Modelle lassen sich auf eigener Hardware betreiben – im eigenen Rechenzentrum, bei einem Dienstleister im gewünschten Land oder komplett offline. Die Daten verlassen dann nie die kontrollierte Umgebung; der Preis dafür sind GPU-Infrastruktur und Betriebsaufwand.
Das Dilemma
Die fähigsten KI-Modelle laufen heute bei wenigen Anbietern in der Cloud, meist im Ausland. Wer sie nutzt, um vertrauliche Dokumente zu verarbeiten oder zu prüfen, gibt genau diese Dokumente aus der Hand – und unterstellt sie unter Umständen fremdem Recht.
Open-Weight-Modelle
Bei Open-Weight-Modellen sind die Modellgewichte frei verfügbar. Sie laufen auf beliebiger, ausreichend starker Hardware – ohne Verbindung zum Hersteller. Die grössten dieser Modelle liegen in vielen Aufgaben inzwischen nahe an den Frontier-Modellen der Cloud-Anbieter.
Drei Betriebsmodelle
- Beim Kunden: auf eigener Infrastruktur, on-premise oder in der Private Cloud.
- Bei einem Dienstleister: auf dedizierter Hardware in einem gewählten Land – etwa Liechtenstein, der Schweiz oder Deutschland.
- Air-gapped: vollständig vom Internet getrennt, für klassifizierte oder besonders sensible Daten.
Was man abwägen muss
Grosse Modelle brauchen leistungsfähige GPUs mit viel Speicher. Dazu kommen Betrieb, Überwachung und Updates. Ob sich eigene Hardware lohnt oder ein souveräner Dienstleister besser passt, hängt vor allem vom Dokumentvolumen und den Anforderungen an die Datenhaltung ab.