Die Phase der Cloud-first-KI ist vorbei

79 Prozent haben bereits verlagert

Laut der Enterprise AI Infrastructure Survey 2026 haben 79 Prozent der befragten Unternehmen KI-Workloads von der Public Cloud auf eigene Infrastruktur verlagert. Nimmt man jene hinzu, die diesen Schritt gerade vollziehen oder planen, liegt der Wert bei 93 Prozent. Befragt wurden im Februar 2026 über die Rechercheplattform Centiment 203 Entscheider mit Budgetverantwortung für KI, zwei Drittel davon mit KI-Anwendungen im Produktivbetrieb. Auftraggeber der Studie ist der US-Speicherhersteller Cloudian, der selbst On-Premises-Speicher verkauft.

Die Studie ist eine Momentaufnahme und misst kein Tempo. Sie erlaubt auch keine Aussage über einzelne Länder, weil ihr der regionale Zuschnitt fehlt. Über die Richtung der Bewegung sagt sie trotzdem genug. Von den drei Gründen, die sie nennt, steht Datensouveränität an erster Stelle; die beiden anderen sind unvorhersehbare Kosten und Anforderungen an die Echtzeit-Performance. 91 Prozent der Befragten würden bei sensiblen Unternehmensdaten On-Premises, Private Cloud oder Hybrid der Public Cloud vorziehen.

Die nützlichsten Daten sind die sensibelsten

Wer KI mit eigenen Unternehmensdaten betreibt, stellt das früh fest. Verträge, Patientendaten, Konstruktionszeichnungen, interne Kommunikation. Genau dieser Datenbestand landete bisher oft auf Servern amerikanischer Hyperscaler, mit unvorhersehbaren Nutzungskosten und ohne verlässliche Aussage über Latenz.

Die Studie beziffert, was das praktisch kostet: 58 Prozent der Befragten geben an, dass Bedenken zum Datenstandort KI-Vorhaben bereits verzögert oder zurückgestutzt haben. 74 Prozent halten Shadow AI für ein ernstes Sicherheitsproblem, also die Nutzung von Cloud-KI-Werkzeugen durch Mitarbeiter an der IT vorbei.

In Europa kommt die Rechtslage dazu

Für deutsche und europäische Unternehmen wirkt ein Faktor, den die Studie nicht erfasst. Die Rechtslage trifft dabei nicht alle Cloud-Konstellationen gleich, und die einzelnen Regelwerke greifen an unterschiedlichen Stellen.

Am härtesten wirkt die DSGVO. Wer personenbezogene Daten an einen US-Anbieter gibt, bewegt sich in Kapitel V (Art. 44 ff.) und muss den Transfer rechtfertigen. Hinzu kommt der US CLOUD Act (18 U.S.C. § 2713) zusammen mit FISA 702: US-Behörden können Daten bei US-Unternehmen weltweit anfordern, unabhängig vom Serverstandort. Ein europäisches Rechenzentrum eines US-Konzerns löst das nicht.

Das BSI-Gesetz, mit dem Deutschland NIS2 seit dem 6. Dezember 2025 umsetzt, arbeitet über einen anderen Hebel. § 30 verlangt Risikomanagementmaßnahmen nach dem Stand der Technik, ausdrücklich einschließlich der Sicherheit der Lieferkette. Eine KI-Abhängigkeit von einem einzelnen US-Anbieter wird damit zu einem Risiko, das dokumentiert und begründet werden muss. Einen Datenstandort schreibt das Gesetz nicht vor.

Beim EU AI Act haben sich in diesem Sommer die Fristen bewegt. Die Digital-Omnibus-Verordnung (EU) 2026/1744 vom 27. Juli 2026 verlegt die Pflichten für eigenständige Hochrisiko-Systeme nach Anhang III auf den 2. Dezember 2027 und für produkteingebettete Systeme nach Anhang I auf den 2. August 2028. Die Transparenzpflicht bei direkter Interaktion mit einem KI-System nach Art. 50 gilt seit dem 2. August 2026 unverändert. Standortvorgaben enthält die Verordnung ohnehin nicht. Wer die Fristverschiebung als Entwarnung liest, verwechselt Dokumentationspflichten mit Datenschutz; am Umgang mit personenbezogenen Daten ändert der Digital Omnibus nichts.

Dazu kommen branchenspezifische Vorgaben. DORA bindet Finanzdienstleister an Anforderungen für IKT-Drittdienstleister. Krankenhäuser sind über § 391 SGB V größenunabhängig auf IT-Sicherheit nach dem Stand der Technik verpflichtet, auch unterhalb der NIS2-Schwelle.

Ein Pharmaunternehmen, das Forschungsdaten per RAG zugänglich macht, kann das nicht über einen US-amerikanischen LLM-Dienst tun, ohne sich juristisch zu exponieren. Ein Krankenhaus, das Patientenakten für KI-gestützte Diagnostik nutzt, erst recht nicht. In diesen Kontexten ist On-Premises die Voraussetzung dafür, dass das Projekt überhaupt genehmigungsfähig wird.

Lokale KI stellt eigene Anforderungen an den Speicher

Lokale KI braucht lokalen Speicher, der dafür ausgelegt ist. KI-Workloads, insbesondere Retrieval-Augmented Generation (RAG), erfordern schnellen Zugriff auf große, heterogene Datenpools und Sicherheitsmechanismen, die verhindern, dass der Datenbestand selbst zum Angriffsziel wird.

Wer seinen KI-Speicher ohne Trennung und ohne Schutz vor Manipulation am selben Netz betreibt wie seine übrige Unternehmens-IT, schafft neue Angriffsflächen. Ein RAG-Index bündelt Wissen aus vielen Quellen an einer Stelle und ist damit ein attraktiveres Ziel als jede einzelne Quelle. Die Antwort liegt in der Architektur. Der Speicher unter der lokalen KI muss den Datenbestand isolieren und unveränderlich halten.

So arbeitet Silent AI

FAST LTA hat mit Silent AI eine lokale KI-Appliance mit KI-Assistenten für Workplace-Anwendungen entwickelt, die Unternehmenswissen durchsuchbar macht, ohne Cloud und mit vollständiger Durchsetzung der bestehenden Zugriffsrechte. Kein Mitarbeiter erhält KI-Antworten auf Basis von Inhalten, auf die er kein Leserecht hat. Entwickelt in München, gefertigt in Deutschland.

Silent AI basiert auf einer RAG-Architektur auf internen Daten. Die Inferenz läuft lokal auf dedizierter GPU-Hardware, kein Prompt und kein Token verlässt das Netzwerk. Das Sprachmodell ist von der Datenarchitektur entkoppelt und austauschbar, aktuell Mistral, alternativ Qwen oder Gemma. Damit hängt die Lösung an keinem einzelnen Modellanbieter. Die Vektor-Datenbank ist im Lieferumfang enthalten und läuft auf eigener Storage-Hardware.

Die Rechte kommen aus dem bestehenden Identity Provider – LDAP/AD, Entra ID, Okta, OIDC/SSO oder hybride Umgebungen – und werden mit dem jeweiligen Quellsystem automatisch synchronisiert. Das unterscheidet Silent AI von Microsoft Copilot, der Berechtigungsstrukturen weitgehend ignoriert und Mitarbeitern damit Inhalte zugänglich machen kann, für die sie kein Leserecht haben. Konnektoren gibt es unter anderem für Microsoft 365, SharePoint, Exchange, Confluence, Nextcloud, Fileserver, SQL-Datenbanken und Webseiten, insgesamt mehr als 15.

Fertige Einstiegsszenarien gibt es für sechs Anwendungsbereiche: Forschung und Entwicklung, Service und Support, Vertrags- und Rechtsrecherche, Compliance und Revision, Behörden und Verwaltung sowie Unternehmenswissen.

Silent AI ersetzt Cloud-KI nicht vollständig. Für Übersetzungen, allgemeine Zusammenfassungen oder Bild- und Audioaufgaben auf unkritischen Daten liefern die großen Cloud-Modelle in der Regel bessere Ergebnisse. Die Grenze verläuft bei der Vertraulichkeit der Daten: Was unter Geheimnisschutz oder DSGVO fällt, bleibt im Haus.

86 Prozent planen mit höheren KI-Budgets

86 Prozent der Befragten erwarten für 2026 steigende KI-Budgets, 40 Prozent rechnen mit einem Plus von 25 Prozent oder mehr. 73 Prozent wollen in den kommenden zwei Jahren weiter in Richtung On-Premises oder Hybrid verschieben.

Wer dieses Budget in eigene Infrastruktur investiert, sollte prüfen, ob die KI-Lösung von Anfang an für den lokalen Betrieb entworfen wurde oder ob der lokale Modus später an ein Cloud-Produkt angebaut wurde. Der Unterschied zeigt sich selten im Datenblatt und fast immer beim Rechtemanagement.

Unternehmensdaten gehören ins Unternehmen. Für die KI, die auf diesen Daten arbeitet, gilt dasselbe.

Gehören Sie zu den 79 Prozent oder zu den 21, die noch warten?

Vereinbaren Sie ein Gespräch mit unserem Team. Wir zeigen Ihnen, wie eine On-Premises-KI-Infrastruktur in Ihrer Umgebung konkret aussieht: ohne Cloud-Abhängigkeit, ohne Datenschutzkompromiss, ohne Umbau Ihrer bestehenden Systeme.