← Alle Baupläne
KI mit eigenen Dokumenten ohne Drittland betreiben
Kanzlei, Verwaltung, Personalbereich. Aufbereitung und Suche selbst betrieben, Modell bei einem EU-Anbieter. Das trägt rund 50.000 Dokumente.
Variante von Fragen an eigene Dokumente · Maximal souverän
So sieht der Bauplan aus
Wie empfohlen · Klick auf einen Anbieter zeigt seinen Steckbrief.
Souveräne KI mit eigenen Dokumenten
ScalewayEigener Server · Cloud-Server
DockerAusliefern · Docker / Container
Mistral AIKI & Inferenz · Modell-API aus der EU
Qdrant CloudDatenbank · Suche & Vektoren
Scaleway Object StorageDateien & Uploads · Objektspeicher (S3)
Ory NetworkAuth & Rollen · Managed Auth aus der EU
OpenBaoSecrets & Schlüssel · Secret-Manager
Grafana + Loki + PrometheusBetrieb · Logs & Metriken
Restic + S3Betrieb · Backups
Plan A: Wie empfohlen
| Baustein | Bauart | Empfehlung | Alternative |
|---|---|---|---|
| Eigener Server | Cloud-ServerFlexible Infrastruktur, die du genauer einstellen kannst. | ScalewayEU | Hetzner CloudDE |
| Ausliefern | Docker / ContainerReproduzierbare App-Umgebungen. | Dockerselbst | Podmanselbst |
| KI & Inferenz | Modell-API aus der EUFertige Modelle über eine Schnittstelle, Vertrag im EWR. | Mistral AIEU | IONOS AI Model HubDE |
| Datenbank | Suche & VektorenVolltextsuche, Filter, Embeddings. Gehört nicht in die Hauptdatenbank. | Qdrant CloudDE | pgvectorselbst |
| Dateien & Uploads | Objektspeicher (S3)S3-kompatibler Speicher für Bilder, PDFs und Archive. | Scaleway Object StorageEU | Impossible CloudDE |
| Auth & Rollen | Managed Auth aus der EULogin als Dienst, aber mit EU-Vertrag – meist auf Keycloak-Basis. | Ory NetworkDE | ZITADEL |
| Secrets & Schlüssel | Secret-ManagerSecret-Manager | OpenBaoselbst | HashiCorp Vaultselbst |
| Betrieb | Logs & MetrikenNicht nur „ist es an“, sondern „warum war es langsam“. | Grafana + Loki | STACKIT ObservabilityDE |
| Betrieb | BackupsDer Index lässt sich neu bauen, die Akten nicht | Restic + S3selbst | Hetzner Storage BoxDE |
Zielkonflikt
Nur EU ↔ Wir betreiben KI-Modelle. Der konsequenteste Weg ist „Eigenes Modell auf eigener GPU“: offene Gewichte auf eigener Grafikkarte.
Plan B: Nichts verlässt das Haus
Wenn schon die Textabschnitte aus den Akten nicht an eine fremde Schnittstelle gehen dürfen.
| Baustein | Statt | Nimm |
|---|---|---|
| KI & Inferenz | Modell-API für alles | Einbettungen lokal, Modell-API nur für die Antwort |
| Suche & Vektoren | Qdrant Cloud | Qdrant im eigenen Container |
Was das kostet: Die Einbettungen rechnest du selbst, das Modell antwortet schwächer. Dafür bleibt der Inhalt auf deiner Maschine.
Lass die KI den Rest erklären
# KI mit eigenen Dokumenten ohne Drittland betreiben Bauplan: Souveräne KI mit eigenen Dokumenten Gedacht für: Kanzlei, Verwaltung, Personalbereich. Gebaut mit: Aufbereitung und Suche selbst betrieben, Modell bei einem EU-Anbieter. ## Bausteine, Bauarten und Anbieter ### Eigener Server - Bauart: Cloud-Server - Anbieter: Scaleway - Standort: EU - Preis: verbrauchsabhängig - Einordnung: Europäische Cloud mit französischen Regionen. ### Ausliefern - Bauart: Docker / Container - Anbieter: Docker - Standort: Auf deinem Server - Preis: Gratis / Open Source - Einordnung: Standardwerkzeug für Container und Compose. ### KI & Inferenz - Bauart: Modell-API aus der EU - Anbieter: Mistral AI - Standort: Frankreich / EU - Preis: verbrauchsabhängig - Einordnung: Modell-API aus der EU · Frankreich / EU ### Datenbank - Bauart: Suche & Vektoren - Anbieter: Qdrant Cloud - Standort: Deutschland / EU - Preis: Gratis-Stufe / ab ca. 25 € - Einordnung: Suche & Vektoren · Deutschland / EU ### Dateien & Uploads - Bauart: Objektspeicher (S3) - Anbieter: Scaleway Object Storage - Standort: EU - Preis: Gratis-Stufe / verbrauchsabhängig - Einordnung: Französischer Objektspeicher mit Gratis-Kontingent. ### Auth & Rollen - Bauart: Managed Auth aus der EU - Anbieter: Ory Network - Standort: Deutschland - Preis: Gratis / ab ca. 29 € - Einordnung: Managed Auth aus der EU · Deutschland ### Secrets & Schlüssel - Bauart: Secret-Manager - Anbieter: OpenBao - Standort: Auf deinem Server - Preis: Gratis / Open Source - Einordnung: Secret-Manager · Auf deinem Server ### Betrieb - Bauart: Logs & Metriken - Anbieter: Grafana + Loki + Prometheus - Standort: Auf deinem Server - Preis: Serverkosten - Einordnung: Mächtiger Stack für Teams, die den Betrieb selbst übernehmen. ### Betrieb - Bauart: Backups - Anbieter: Restic + S3 - Standort: Wählbar - Preis: Storagekosten - Einordnung: Verschlüsselte Backups mit vielen Zielen. ## Rahmen - Richtwert: rund 24,58 € im Monat - Reicht für: rund 50.000 Dokumente - Aufwand im Betrieb: regelmäßig - Rechtsraum: Alle empfohlenen Anbieter mit Sitz in der EU - Sollbruchstelle: Die Modellwahl. Europäische Modelle sind gut genug für Zusammenfassungen, aber schwächer bei komplexen Aufgaben. ## Aufgabe für die KI 1. Erkläre, wie diese Teile zusammenhängen und welche Daten wohin fließen. 2. Prüfe die Kostenrechnung und nenne die drei Posten, die zuerst unerwartet steigen. 3. Gib eine Installationsanleitung in der richtigen Reihenfolge, je Anbieter konkret. 4. Sag mir, was ich mit diesem Aufbau nicht machen sollte. Antworte auf Deutsch, duze mich, erkläre jeden Fachbegriff bei der ersten Nennung in einem Halbsatz.