← Alle Baupläne

KI-Suche über eigene Dokumente selbst hosten

Handbücher, Verträge, Protokolle, Wissen im Team. Unterlagen aufbereiten, durchsuchbar ablegen, beim Fragen zusammen mit dem Modell benutzen. Das trägt rund 50.000 Dokumente.

So sieht der Bauplan aus

Wie empfohlen · Klick auf einen Anbieter zeigt seinen Steckbrief.

Fragen an eigene Dokumente
Hetzner CloudEigener Server · Cloud-Server
DockerAusliefern · Docker / Container
IONOS AI Model HubKI & Inferenz · Modell-API aus der EU
Qdrant CloudDatenbank · Suche & Vektoren
Hetzner Object StorageDateien & Uploads · Objektspeicher (S3)
Ory NetworkAuth & Rollen · Managed Auth aus der EU
SOPS + ageSecrets & Schlüssel · Secret-Manager
Grafana + Loki + PrometheusBetrieb · Logs & Metriken
Hetzner Storage BoxBetrieb · Backups

Plan A: Wie empfohlen

BausteinBauartEmpfehlungAlternative
Eigener ServerCloud-ServerFlexible Infrastruktur, die du genauer einstellen kannst.Hetzner CloudDEScalewayEU
AusliefernDocker / ContainerReproduzierbare App-Umgebungen.DockerselbstPodmanselbst
KI & InferenzModell-API aus der EUFertige Modelle über eine Schnittstelle, Vertrag im EWR.IONOS AI Model HubDEScaleway Generative APIsEU
DatenbankSuche & VektorenVolltextsuche, Filter, Embeddings. Gehört nicht in die Hauptdatenbank.Qdrant CloudDEpgvectorselbst
Dateien & UploadsObjektspeicher (S3)S3-kompatibler Speicher für Bilder, PDFs und Archive.Hetzner Object StorageDEImpossible CloudDE
Auth & RollenManaged Auth aus der EULogin als Dienst, aber mit EU-Vertrag – meist auf Keycloak-Basis.Ory NetworkDEZITADEL
Secrets & SchlüsselSecret-ManagerSecret-ManagerSOPS + ageselbstInfisicalDrittland
BetriebLogs & MetrikenNicht nur „ist es an“, sondern „warum war es langsam“.Grafana + LokiSTACKIT ObservabilityDE
BetriebBackupsDie Originaldokumente sind der Wert, nicht der IndexHetzner Storage BoxDERestic + S3selbst

Plan B: Ohne eigene Vektordatenbank

Bis etwa hunderttausend Textabschnitte. Postgres kann Vektoren, und du hast ihn ohnehin.

BausteinStattNimm
Suche & VektorenQdrant CloudPostgreSQL mit pgvector
AnmeldungOry NetworkBetter Auth, solange es ein internes Team ist

Was das kostet: Ein Dienst und rund 25 € weniger. Bei sehr großen Beständen oder Spezialsuche wechselst du zurück.

Lass die KI den Rest erklären

# KI-Suche über eigene Dokumente selbst hosten

Bauplan: Fragen an eigene Dokumente
Gedacht für: Handbücher, Verträge, Protokolle, Wissen im Team.
Gebaut mit: Unterlagen aufbereiten, durchsuchbar ablegen, beim Fragen zusammen mit dem Modell benutzen.

## Bausteine, Bauarten und Anbieter

### Eigener Server
- Bauart: Cloud-Server
- Anbieter: Hetzner Cloud
- Standort: Deutschland / EU
- Preis: ab ca. 4,50 €
- Einordnung: Einfache Cloud-Server in Deutschland und Finnland.

### Ausliefern
- Bauart: Docker / Container
- Anbieter: Docker
- Standort: Auf deinem Server
- Preis: Gratis / Open Source
- Einordnung: Standardwerkzeug für Container und Compose.

### KI & Inferenz
- Bauart: Modell-API aus der EU
- Anbieter: IONOS AI Model Hub
- Standort: Deutschland / EU
- Preis: verbrauchsabhängig
- Einordnung: Modell-API aus der EU · Deutschland / EU

### Datenbank
- Bauart: Suche & Vektoren
- Anbieter: Qdrant Cloud
- Standort: Deutschland / EU
- Preis: Gratis-Stufe / ab ca. 25 €
- Einordnung: Suche & Vektoren · Deutschland / EU

### Dateien & Uploads
- Bauart: Objektspeicher (S3)
- Anbieter: Hetzner Object Storage
- Standort: Deutschland / EU
- Preis: ab ca. 6 €
- Einordnung: S3-kompatibel, Rechenzentren in Deutschland und Finnland.

### Auth & Rollen
- Bauart: Managed Auth aus der EU
- Anbieter: Ory Network
- Standort: Deutschland
- Preis: Gratis / ab ca. 29 €
- Einordnung: Managed Auth aus der EU · Deutschland

### Secrets & Schlüssel
- Bauart: Secret-Manager
- Anbieter: SOPS + age
- Standort: Im Repo, verschlüsselt
- Preis: Gratis / Open Source
- Einordnung: Verschlüsselte Secret-Dateien im Repo – ohne Rotation und Protokoll.

### Betrieb
- Bauart: Logs & Metriken
- Anbieter: Grafana + Loki + Prometheus
- Standort: Auf deinem Server
- Preis: Serverkosten
- Einordnung: Mächtiger Stack für Teams, die den Betrieb selbst übernehmen.

### Betrieb
- Bauart: Backups
- Anbieter: Hetzner Storage Box
- Standort: Deutschland / EU
- Preis: ab ca. 4 €
- Einordnung: Externer Speicher für Backups.

## Rahmen

- Richtwert: rund 15,58 € im Monat
- Reicht für: rund 50.000 Dokumente
- Aufwand im Betrieb: Unterlagen aktuell halten
- Rechtsraum: Alle empfohlenen Anbieter mit Sitz in der EU
- Sollbruchstelle: Die Rechtevererbung. Wer ein Dokument nicht sehen darf, darf auch die Antwort daraus nicht bekommen – das vergisst fast jeder Aufbau.

## Aufgabe für die KI

1. Erkläre, wie diese Teile zusammenhängen und welche Daten wohin fließen.
2. Prüfe die Kostenrechnung und nenne die drei Posten, die zuerst unerwartet steigen.
3. Gib eine Installationsanleitung in der richtigen Reihenfolge, je Anbieter konkret.
4. Sag mir, was ich mit diesem Aufbau nicht machen sollte.

Antworte auf Deutsch, duze mich, erkläre jeden Fachbegriff bei der ersten Nennung in einem Halbsatz.