← Alle Baupläne

KI mit eigenen Dokumenten ohne Drittland betreiben

Kanzlei, Verwaltung, Personalbereich. Aufbereitung und Suche selbst betrieben, Modell bei einem EU-Anbieter. Das trägt rund 50.000 Dokumente.

Variante von Fragen an eigene Dokumente · Maximal souverän

So sieht der Bauplan aus

Wie empfohlen · Klick auf einen Anbieter zeigt seinen Steckbrief.

Souveräne KI mit eigenen Dokumenten
ScalewayEigener Server · Cloud-Server
DockerAusliefern · Docker / Container
Mistral AIKI & Inferenz · Modell-API aus der EU
Qdrant CloudDatenbank · Suche & Vektoren
Scaleway Object StorageDateien & Uploads · Objektspeicher (S3)
Ory NetworkAuth & Rollen · Managed Auth aus der EU
OpenBaoSecrets & Schlüssel · Secret-Manager
Grafana + Loki + PrometheusBetrieb · Logs & Metriken
Restic + S3Betrieb · Backups

Plan A: Wie empfohlen

BausteinBauartEmpfehlungAlternative
Eigener ServerCloud-ServerFlexible Infrastruktur, die du genauer einstellen kannst.ScalewayEUHetzner CloudDE
AusliefernDocker / ContainerReproduzierbare App-Umgebungen.DockerselbstPodmanselbst
KI & InferenzModell-API aus der EUFertige Modelle über eine Schnittstelle, Vertrag im EWR.Mistral AIEUIONOS AI Model HubDE
DatenbankSuche & VektorenVolltextsuche, Filter, Embeddings. Gehört nicht in die Hauptdatenbank.Qdrant CloudDEpgvectorselbst
Dateien & UploadsObjektspeicher (S3)S3-kompatibler Speicher für Bilder, PDFs und Archive.Scaleway Object StorageEUImpossible CloudDE
Auth & RollenManaged Auth aus der EULogin als Dienst, aber mit EU-Vertrag – meist auf Keycloak-Basis.Ory NetworkDEZITADEL
Secrets & SchlüsselSecret-ManagerSecret-ManagerOpenBaoselbstHashiCorp Vaultselbst
BetriebLogs & MetrikenNicht nur „ist es an“, sondern „warum war es langsam“.Grafana + LokiSTACKIT ObservabilityDE
BetriebBackupsDer Index lässt sich neu bauen, die Akten nichtRestic + S3selbstHetzner Storage BoxDE
Zielkonflikt

Nur EU ↔ Wir betreiben KI-Modelle. Der konsequenteste Weg ist „Eigenes Modell auf eigener GPU“: offene Gewichte auf eigener Grafikkarte.

Plan B: Nichts verlässt das Haus

Wenn schon die Textabschnitte aus den Akten nicht an eine fremde Schnittstelle gehen dürfen.

BausteinStattNimm
KI & InferenzModell-API für allesEinbettungen lokal, Modell-API nur für die Antwort
Suche & VektorenQdrant CloudQdrant im eigenen Container

Was das kostet: Die Einbettungen rechnest du selbst, das Modell antwortet schwächer. Dafür bleibt der Inhalt auf deiner Maschine.

Lass die KI den Rest erklären

# KI mit eigenen Dokumenten ohne Drittland betreiben

Bauplan: Souveräne KI mit eigenen Dokumenten
Gedacht für: Kanzlei, Verwaltung, Personalbereich.
Gebaut mit: Aufbereitung und Suche selbst betrieben, Modell bei einem EU-Anbieter.

## Bausteine, Bauarten und Anbieter

### Eigener Server
- Bauart: Cloud-Server
- Anbieter: Scaleway
- Standort: EU
- Preis: verbrauchsabhängig
- Einordnung: Europäische Cloud mit französischen Regionen.

### Ausliefern
- Bauart: Docker / Container
- Anbieter: Docker
- Standort: Auf deinem Server
- Preis: Gratis / Open Source
- Einordnung: Standardwerkzeug für Container und Compose.

### KI & Inferenz
- Bauart: Modell-API aus der EU
- Anbieter: Mistral AI
- Standort: Frankreich / EU
- Preis: verbrauchsabhängig
- Einordnung: Modell-API aus der EU · Frankreich / EU

### Datenbank
- Bauart: Suche & Vektoren
- Anbieter: Qdrant Cloud
- Standort: Deutschland / EU
- Preis: Gratis-Stufe / ab ca. 25 €
- Einordnung: Suche & Vektoren · Deutschland / EU

### Dateien & Uploads
- Bauart: Objektspeicher (S3)
- Anbieter: Scaleway Object Storage
- Standort: EU
- Preis: Gratis-Stufe / verbrauchsabhängig
- Einordnung: Französischer Objektspeicher mit Gratis-Kontingent.

### Auth & Rollen
- Bauart: Managed Auth aus der EU
- Anbieter: Ory Network
- Standort: Deutschland
- Preis: Gratis / ab ca. 29 €
- Einordnung: Managed Auth aus der EU · Deutschland

### Secrets & Schlüssel
- Bauart: Secret-Manager
- Anbieter: OpenBao
- Standort: Auf deinem Server
- Preis: Gratis / Open Source
- Einordnung: Secret-Manager · Auf deinem Server

### Betrieb
- Bauart: Logs & Metriken
- Anbieter: Grafana + Loki + Prometheus
- Standort: Auf deinem Server
- Preis: Serverkosten
- Einordnung: Mächtiger Stack für Teams, die den Betrieb selbst übernehmen.

### Betrieb
- Bauart: Backups
- Anbieter: Restic + S3
- Standort: Wählbar
- Preis: Storagekosten
- Einordnung: Verschlüsselte Backups mit vielen Zielen.

## Rahmen

- Richtwert: rund 24,58 € im Monat
- Reicht für: rund 50.000 Dokumente
- Aufwand im Betrieb: regelmäßig
- Rechtsraum: Alle empfohlenen Anbieter mit Sitz in der EU
- Sollbruchstelle: Die Modellwahl. Europäische Modelle sind gut genug für Zusammenfassungen, aber schwächer bei komplexen Aufgaben.

## Aufgabe für die KI

1. Erkläre, wie diese Teile zusammenhängen und welche Daten wohin fließen.
2. Prüfe die Kostenrechnung und nenne die drei Posten, die zuerst unerwartet steigen.
3. Gib eine Installationsanleitung in der richtigen Reihenfolge, je Anbieter konkret.
4. Sag mir, was ich mit diesem Aufbau nicht machen sollte.

Antworte auf Deutsch, duze mich, erkläre jeden Fachbegriff bei der ersten Nennung in einem Halbsatz.