AnythingLLM: DSGVO-konformer Dokumenten-Chat und RAG für die Kommunalverwaltung
Dieser Artikel wurde bereits 123x gelesen...
Mit eigenen Daten sprechen, anstatt sich auf das allgemeine Trainingswissen öffentlicher KI-Modelle zu verlassen: Das ist der Kernansatz von AnythingLLM. Die Anwendung bietet eine intuitive Retrieval-Augmented Generation (RAG)-Oberfläche, mit der Verwaltungen, Fachbereiche und kleine Teams Handbücher, Satzungen und Akten in private Wissensdatenbanken verwandeln können.
Durch sogenannte „Workspaces“ lassen sich Dokumente und Unterhaltungen sauber nach Fachämtern, Teams oder Projekten trennen. Ob im Einzelbenutzer-Betrieb auf einem lokalen Dienst-PC oder als zentral gehostete Multi-User-Instanz via Docker auf dem kommunalen Server: AnythingLLM ermöglicht die flexible Anbindung lokaler oder gehosteter LLMs, Embedding-Modelle und Vektordatenbanken.
Ideal geeignet für:
- Interne Referenzbibliotheken: Schneller Zugriff auf Bauordnungen, Verwaltungsrichtlinien und Dienstanweisungen.
- Handbücher & IT-Dokumentation: Wissensdatenbanken für die interne EDV oder den First-Level-Support.
- Projektbezogene Arbeitsbereiche: Abgrenzung vertraulicher Unterlagen innerhalb einzelner Fachbereiche durch dedizierte Workspaces.
- Privaten KI-Assistenten: DSGVO-konformer Betrieb vor Ort (On-Premises oder auf einem NAS/Server).
Übersicht der Lizenz- und Betriebskosten:
- AnythingLLM Community Edition (Desktop & Docker): 100 % Open Source und kostenlos (MIT-Lizenz). Es fallen keine Lizenzgebühren an.
- Betriebskosten bei lokalem Betrieb: Beim Einsatz lokaler Modelle (z. B. via Ollama oder LM Studio) entstehen lediglich die Kosten für die eigene Hardware-Infrastruktur.
- Betriebskosten bei API-Anbindung: Werden externe KI-Provider (wie OpenAI, Anthropic oder AWS Bedrock) eingebunden, fallen nutzungsabhängige API-Gebühren der jeweiligen Anbieter an.
- AnythingLLM Cloud (SaaS-Option): Optional bietet der Entwickler Mintplex Labs kostenpflichtige Cloud-Abonnements ab ca. 20 USD/Monat an, falls kein eigener Server betrieben werden soll.
Laden Sie die passende Version für Windows, macOS, Linux oder als Docker-Container direkt beim Entwickler herunter:
0 Kommentare