KI-Architektur, in der MCP-Server und LLM-Calls innerhalb der Cloud-Boundary des Kunden bleiben — etwa über Amazon Bedrock oder Azure OpenAI.
Laufende KI-Umgebung im eigenen Cloud-Konto: Modellaufrufe über Bedrock in Frankfurt, MCP-Server mit Zugriff auf CRM, ERP und Zeiterfassung, Protokoll je Aufruf und ein Auftragsverarbeitungsvertrag, der die Kette abdeckt.
Self-hosted LLM-Architektur verlegt Modellaufrufe und MCP-Server in die Cloud-Umgebung des Kunden. Claude läuft dabei über AWS Bedrock in Frankfurt mit europäischer Inferenz, alternativ Azure OpenAI in einer EU-Region. Anwendungsdaten verlassen das Konto nicht, weder zu kapio noch zu einem Modellanbieter außerhalb der gewählten Region.
Wo laufen die Modelle?
Die Modellwahl folgt der Cloud, die im Haus bereits im Einsatz ist. Bei AWS läuft Claude über Bedrock, wobei nicht die Region allein zählt, sondern das EU Inference Profile: Es begrenzt die Verarbeitung auf eine feste Liste von sechs EU-Regionen, darunter Frankfurt, Irland und Paris. Bei Microsoft übernimmt das die EU Data Zone von Azure OpenAI, die die Verarbeitung innerhalb der EU Data Boundary hält.
Für Claude ist dieser Weg nicht eine Option unter mehreren, sondern die einzige mit garantierter EU-Datenresidenz. Anthropic betreibt keine eigene europäische Cloud; weder claude.ai noch die Anthropic-API bieten sie an. Damit entsteht eine Unterauftragskette: Der Vertrag läuft über den Cloud-Anbieter, nicht direkt mit dem Modellanbieter. Abgerechnet wird über das bestehende Cloud-Konto.
Wie kommt die KI an die eigenen Systeme?
Über MCP, das Model Context Protocol, eine Stecker-Norm zwischen Modell und Anwendungen. Der MCP-Server läuft im selben Konto wie der Modellaufruf und hält die Zugangsdaten zu CRM, ERP, Zeiterfassung und Datenbanken. Das Modell bekommt eine Liste von Werkzeugen, keinen Datenbank-Abzug. Es fragt gezielt ab, was eine Aufgabe braucht, und schreibt nur dorthin, wo der Server das erlaubt.
Der öffentliche MCP-Marktplatz deckt Slack, Notion und Microsoft 365 ab. Für Pipedrive, SAP B1, DATEV oder Lexware existiert kein fertiger Server, diese Brücke wird gebaut.
Was heißt DSGVO-konform an dieser Stelle?
Drei Dinge, die getrennt zu prüfen sind. Erstens der Ort: Modellaufruf und Datenhaltung bleiben in der gewählten EU-Region, nachweisbar über die Konfiguration des Kontos. Zweitens der Vertrag: Auftragsverarbeitungsverträge mit EU-Standardvertragsklauseln sind bei den großen Anbietern Standard und kein Sonderfall mehr. Drittens die Nachvollziehbarkeit: Jeder Aufruf wird protokolliert, damit später belegbar ist, welches System welche Daten gesehen hat.
Was fällt beim EU AI Act an?
Zwei Regelwerke mit verschiedenen Fristen. Artikel 4 gilt bereits seit dem 2. Februar 2025 und verlangt von jedem Unternehmen, das KI einsetzt, ein angemessenes Maß an KI-Kompetenz beim Personal. Eine Stundenzahl oder Zertifizierung schreibt die Verordnung nicht vor, die Dokumentation der Maßnahmen schon. Artikel 50 mit den Transparenzpflichten wird am 2. August 2026 anwendbar.
Artikel 50 trifft rein interne Anwendungen in der Regel nicht. Er adressiert Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, Deepfakes sowie veröffentlichte Texte zu Themen öffentlichen Interesses. Eine allgemeine Kennzeichnungspflicht für alles, was ein Modell erzeugt, gibt es nicht: Ein Modell als Schreibhilfe für interne Dokumente fällt nicht darunter. Sobald ein Chatbot mit Kunden spricht, greift die Hinweispflicht.
Die Konformitätsbewertung, die für Hochrisiko-Systeme vorgeschrieben ist, fällt bei internen Anwendungen mit begrenztem oder minimalem Risiko nicht an.
Wer betreibt die Umgebung?
Der Aufbau dauert einige Wochen und umfasst Konto-Einrichtung, MCP-Server, Anbindung der Systeme und die Protokollierung. Danach ist es Betrieb: Modell-Versionen wechseln, APIs ändern sich, Zugangsdaten laufen ab, Aufrufe brauchen Überwachung. Beides übernimmt kapio.
Dieselbe Architektur gibt es auch als betriebenen Service zur festen Monatsmiete, ohne eigenes Cloud-Konto und ohne eigene Verträge mit einem Modellanbieter, beschrieben unter KI-Plattform.
stack
Häufige Fragen
Läuft die KI auf europäischen Servern?
Ja, über das EU Inference Profile von AWS Bedrock. Es begrenzt die Verarbeitung auf sechs EU-Regionen, darunter Frankfurt. Für Claude ist das der einzige Weg zu garantierter EU-Datenresidenz: Weder claude.ai noch die Anthropic-API bieten sie, weil Anthropic keine europäische Cloud betreibt.
Verlassen Unternehmensdaten das eigene Cloud-Konto?
Nein. MCP-Server und Modellaufruf liegen im Konto des Kunden, der Datenverkehr bleibt darin. Es fließen keine Daten zu kapio und keine an einen Modellanbieter außerhalb der gewählten Region. Zugangsdaten zu CRM, ERP und Zeiterfassung liegen im Secret-Store desselben Kontos.
Müssen KI-Ergebnisse nach dem EU AI Act gekennzeichnet werden?
Nicht pauschal. Artikel 50 wird am 2. August 2026 anwendbar und trifft Systeme mit direkter Interaktion mit Menschen, Deepfakes und veröffentlichte Texte zu Themen öffentlichen Interesses. Ein Modell als Schreibhilfe für interne Dokumente fällt nicht darunter. Ein Chatbot mit Kundenkontakt braucht dagegen den Hinweis, dass er eine KI ist.
Welche Cloud wird dafür gebraucht?
AWS, Azure oder Google Cloud, jeweils das Konto, das im Haus schon läuft. Die Modellwahl folgt der Cloud: Bedrock bei AWS, Azure OpenAI bei Microsoft. Ein zweiter Anbieter wird nicht gebraucht, ein eigener Server im Keller ebenso wenig.