KI im Unternehmen: AWS, Azure oder eigener Server?
Ayham AlkhalilSobald personenbezogene Daten, Betriebsgeheimnisse oder regulierte Prozesse im Spiel sind, verschiebt sich die Frage. Nicht „welches Modell ist das beste“, sondern: Wo läuft es, wer kommt an die Daten, und was steht im Vertrag. Drei Wege stehen zur Wahl, und keiner ist grundsätzlich richtig.
Die Hyperscaler: AWS Bedrock und Azure OpenAI
Beide großen Anbieter stellen Sprachmodelle als verwalteten Dienst bereit — AWS über Bedrock, Microsoft über Azure OpenAI Service. Der entscheidende Unterschied zur direkten Nutzung eines Anbieter-Zugangs: Man kann die Region festlegen, in der die Verarbeitung stattfindet, und bekommt einen Auftragsverarbeitungsvertrag, der zu einem europäischen Betrieb passt.
Was dafür spricht: Die Anbindung an bestehende Systeme ist meist schon da. Wer ohnehin Microsoft 365 oder eine AWS-Landschaft betreibt, hat Identitäten, Rechte und Netzwerkgrenzen bereits geregelt — und genau daran scheitern Projekte sonst.
Was dagegen spricht: Die Abhängigkeit ist real. Preise, Modellauswahl und Bedingungen legt der Anbieter fest, und ein Wechsel ist Arbeit. Wer das vermeiden will, sollte die Anwendung von Anfang an so bauen, dass das Modell austauschbar bleibt.
Der eigene Server: offene Modelle im Haus
Offene Modelle lassen sich auf eigener Hardware betreiben. Damit verlassen die Daten das Haus nicht — das stärkste Argument in Bereichen, in denen das schlicht Voraussetzung ist: Gesundheitswesen, Verteidigung, Teile der öffentlichen Verwaltung.
Der Preis dafür ist Betrieb. Grafikkarten, Überwachung, Aktualisierungen, jemand, der nachts erreichbar ist. Diese Kosten fallen an, ob das System genutzt wird oder nicht, während man beim Hyperscaler nach Verbrauch zahlt.
Die ehrliche Faustregel: Eigener Betrieb lohnt sich, wenn die Nutzung hoch und gleichmäßig ist — oder wenn eine Vorschrift keine Wahl lässt. Für den ersten Anwendungsfall ist er fast immer der teurere Weg.
Was tatsächlich entscheidet
Die Wahl fällt selten am Modell, sondern an vier nüchternen Fragen:
- Welche Daten gehen hinein — und dürfen die das überhaupt verlassen?
- Gibt es einen Auftragsverarbeitungsvertrag, der zum eigenen Datenschutzkonzept passt?
- Wie ist die Last verteilt: Dauerbetrieb oder ein paar Anfragen am Tag?
- Wer betreibt das in zwei Jahren — und mit welchem Wissen im Haus?
Der pragmatische Weg
In den meisten Betrieben führt der Weg über einen verwalteten Dienst in europäischer Region, mit sauber gezogenen Grenzen: welche Daten hineindürfen, welche nicht, und einer Anwendungsschicht dazwischen, die den Anbieter austauschbar hält.
Der eigene Server kommt dann später, wenn die Nutzung es rechtfertigt oder eine Vorschrift es verlangt. Diese Reihenfolge kostet weniger und macht früher etwas nutzbar — und sie verbaut nichts.
Die Infrastrukturfrage ist keine Geschmacksfrage, sondern eine Rechenaufgabe mit vier Größen: Daten, Vertrag, Last und wer es später betreibt.
Häufige Fragen
Wann lohnt sich ein eigener Server für KI-Modelle?
Wenn die Nutzung hoch und gleichmäßig ist, oder wenn eine Vorschrift keine Wahl lässt — etwa im Gesundheitswesen, in der Verteidigung oder in Teilen der öffentlichen Verwaltung. Der Preis dafür ist Betrieb: Grafikkarten, Überwachung, Aktualisierungen und jemand, der nachts erreichbar ist. Diese Kosten fallen an, ob das System genutzt wird oder nicht. Für den ersten Anwendungsfall ist der eigene Server fast immer der teurere Weg.
Was spricht für AWS Bedrock oder Azure OpenAI Service?
Zwei Dinge. Erstens lässt sich die Region festlegen, in der die Verarbeitung stattfindet, und es gibt einen Auftragsverarbeitungsvertrag, der zu einem europäischen Betrieb passt. Zweitens ist die Anbindung an bestehende Systeme meist schon da: Wer Microsoft 365 oder eine AWS-Landschaft betreibt, hat Identitäten, Rechte und Netzwerkgrenzen bereits geregelt — und genau daran scheitern Projekte sonst.
Wie bleibt das Modell bei einem verwalteten Dienst austauschbar?
Über eine eigene Anwendungsschicht zwischen Fachanwendung und Anbieter. Preise, Modellauswahl und Bedingungen legt der Anbieter fest, und ein Wechsel ist Arbeit. Wer die Anwendung von Anfang an so baut, dass das Modell dahinter tauschbar bleibt, hält die Abhängigkeit klein, ohne auf die fertige Umgebung zu verzichten.
Geschrieben von
Geschäftsführer & Entwickler
Zehn Jahre Konzernerfahrung und sieben Jahre Praxiserfahrung in der Entwicklung von Software- und KI-Lösungen für Unternehmen und Großkonzerne. Schreibt hier über das, was in echten Projekten passiert: welche Automatisierung sich gerechnet hat, welche Architekturentscheidung sich als falsch herausgestellt hat, und was ein KI-System im Betrieb tatsächlich kostet. Führt KITech Software aus Hannover.