Mitarbeiterinnen und Mitarbeiter in Kommunalverwaltungen nutzen zunehmend KI-Assistenten zur Entwurfserstellung, Zusammenfassung komplexer Dokumente oder zur Unterstützung bei Recherchen. Die Nutzung von kommerziellen Cloud-Diensten birgt jedoch erhebliche Risiken hinsichtlich des Datenschutzes (DSGVO), der Informationssicherheit und des Vendor-Lock-ins.

Hier setzt LibreChat an: Eine quelloffene, hochgradig anpassbare Web-Oberfläche, die als zentraler Hub für KI-Modelle im kommunalen Netz dient.

LibreChat kann vollständig on-premise im eigenen kommunalen Rechenzentrum oder bei einem zertifizierten deutschen Cloud-Provider (z. B. im Verbund kommunaler IT-Dienstleister) gehostet werden. Es werden keine Nutzerdaten oder Prompts an Dritte weitergegeben, sofern lokale Modelle eingebunden sind.

Verwaltungen müssen sich nicht auf einen einzigen Anbieter festlegen. LibreChat vereint Schnittstellen zu zahlreichen Anbietern und Systemen unter einer einheitlichen Oberfläche:

  • Lokale Open-Source-Modelle: Anbindung via Ollama, vLLM oder LocalAI (z. B. Llama 3, Mistral, Aleph Alpha).
  • Kommerzielle API-Anbieter: Optionale Integration von OpenAI (GPT-4o), Anthropic (Claude), Google (Gemini) oder Azure OpenAI über datenschutzkonforme Enterprise-Verträge.

LibreChat wurde nicht nur für Einzelnutzer entwickelt, sondern bringt Funktionen mit, die für den Einsatz in Behörden essenziell sind:

  • Benutzer- und Rechteverwaltung: Integration in bestehende Identitäts-Systeme via OAuth2, OpenID Connect, SAML oder LDAP/Active Directory.
  • RAG (Retrieval-Augmented Generation): Sicheres Hochladen von Dokumenten (PDFs, Word-Dateien, Beschlussvorlagen), damit die KI gezielt Antworten auf Basis eigener Fachinformationen generieren kann.
  • Custom Endpoints & Agents: Erstellung spezialisierter Assistenten für bestimmte Fachämter (z. B. Bauamt, Personalamt, Bürgerservice).
  • Nutzungs- & Kostenkontrolle: Multi-User-Mandantenfähigkeit mit detaillierten Zugriffsrechten und Token-Budgets.

Die Entscheidung für LibreChat unterstützt direkt die Strategie vieler Kommunen zur Stärkung der **digitalen Souveränität**. Da der Quellcode unter der MIT-Lizenz frei zugänglich ist, entstehen keine teuren Lizenzgebühren pro Arbeitsplatz. Kommunen behalten die vollständige Kontrolle über die Softwareentwicklung, Audits und Weiterentwicklung.

Möchten Sie LibreChat in Ihrer kommunalen IT-Infrastruktur testen oder aufbauen? Hier finden Sie den offiziellen Quellcode sowie die Dokumentation zur Installation via Docker:


Zu LibreChat auf GitHub (Download & Doku) →