Das von der Entwicklungsagentur Rheinland-Pfalz initiierte Modellprojekt zum Einsatz von KI-Sprachmodellen in der Kommunalverwaltung stieß mit 26 Bewerbungen auf unerwartet hohe Resonanz. Ausgewählt wurden vier Kommunen mit völlig unterschiedlichen Ausgangslagen. Im Fokus des Projekts stehen die gezielte Vernetzung sowie die Erstellung eines umfassenden Erfahrungsberichts, der die gewonnenen Erkenntnisse für alle Verwaltungen im Land nutzbar macht. Die vier Modellkommunen haben am 2. Oktober 2026 in Bingen bereits erste Zwischenergebnisse ihrer Projekte präsentiert. Die Abschlussveranstaltung des Förderprojekts für Anfang 2027 angesetzt. Im folgenden sind die wichtigsten Erkenntnisse aus den Zwischenberichten der Modellkommunen zusammengefasst.
Systematischer Kompetenzaufbau in der Verbandsgemeinde Jockrim
In der Verbandsgemeinde Jockrim steht der Wissensaufbau der Belegschaft im Mittelpunkt. Anstatt unvorbereitet zu starten, geht die Verwaltung systematisch und schrittweise vor. In Zusammenarbeit mit einer Hochschule wurde eine einstündige Basisschulung entwickelt. Parallel dazu lieferte ein Testlauf mit dem System NeleAI und 17 Beschäftigten wertvolle Erkenntnisse für die Praxis. Derzeit wird eine vorläufige Dienstanweisung erarbeitet. Danach wird die KI für die Erstellung öffentlicher Dokumente freigegeben, wobei der behördenweite Start für den Monat Oktober geplant ist. Eine große Herausforderung für die Verwaltung bleibt die hohe Marktdynamik, die den Vergleich der Vor- und Nachteile verschiedener Anbieter erschwert. Um das Wissen der Mitarbeitenden zu vertiefen und aktuell zu halten, ist ein aufgabenorientierter Kurs für die effektive Formulierung von Arbeitsanweisungen an die Software geplant. Zudem wird ein regelmäßiger Erfahrungsaustausch im Vier-Wochen-Takt etabliert.
Kooperationen und Automatisierung in der Verbandsgemeinde Montabaur
Die Verbandsgemeinde Montabaur hat bereits eine verbindliche Dienstvereinbarung mit dem Personalrat beschlossen und setzt ebenfalls NeleAI als Assistenzsystem ein. Durch einen Zusammenschluss mit anderen Verbandsgemeinden sollen künftig günstigere Lizenzkosten erreicht werden. Geplant ist zudem der Einsatz von Text- und Sprachassistenten, die auf einer gemeinsamen Datenbasis arbeiten, um redundante Parallelsysteme zu vermeiden. Die Verwaltung konzentriert sich vorerst auf öffentlich zugängliche Systeme innerhalb enger datenschutzrechtlicher Grenzen. Für das Jahr 2030 ist ein eigenes System mit einer internen Wissensdatenbank das erklärte Wunschziel. Auch Software zur Prozessautomatisierung kommt zum Einsatz, insbesondere in Verbindung mit der Prozessmanagement-Software Picture. Ein landesweiter Rahmenvertrag für alle Kommunen in Rheinland-Pfalz über den Gemeinde- und Städtebund RLP wurde angeregt und könnte nach äußerst positiver Resonanz auf das IKZ-Projekt Optikom bald angekündigt werden.

Datenschutz und quelloffene Software in der Verbandsgemeinde Otterbach-Otterberg
Die Verbandsgemeinde Otterbach-Otterberg fokussiert sich auf die Eigenentwicklung quelloffener Lösungen und strenge Datensicherheit. Nach ersten Versuchen mit dem Schadensmelder behebes über ein kommerzielles KI-Modell in der Cloud wurde schnell klar, dass dieser Weg für personenbezogene Daten ungeeignet ist. Die Verwaltung mietete daraufhin einen eigenen Server mit einem entsprechenden Auftragsverarbeitungsvertrag an. Als derzeit effizienteste Lösung für on premises KI-Lösungen hat sich das Modell Gemma 4 von Google erwiesen. Tests zeigten, dass Modelle mit 26 Milliarden Parametern fast fehlerfrei arbeiten und eine Genauigkeit von 96 Prozent bei Testaufgaben erreichen. Eine menschliche Kontrolle bleibt dennoch zwingend erforderlich. Ein zentraler Baustein des Systems ist die strikte Zugriffsverwaltung. Über die Benutzeroberfläche OpenWebUI wird sichergestellt, dass beispielsweise nur Mitarbeitende der Personalabteilung Zugriff auf Personaldatenbanken über eine gesondert vektorisierte Wissensdatenbank bzw. RAG haben, auf Satzungen jedoch alle Mitarbeitenden zugriff haben. Jeder Fachbereich erhält so ein virtuelles Modell entsprechend seiner Berechtigungen. Die Entwicklungen sollen anderen Kommunen über die Plattform Github zur Verfügung gestellt werden. Ein Betrieb auf Servern mit einer 16-Gigabyte-Grafikkarte ist für textbasierte Aufgaben derzeit ausreichend, die monatlichen Kosten belaufen sich auf rund 230 Euro. Die Verbandsgemeinde Otterbach-Otterberg stellt den vollständigen Zwischenbericht als Markdown-Datei ebenfalls auf Github zur Verfügung.
Technologischer Direkteinstieg in der Verbandsgemeinde Thalfang
Die Verbandsgemeinde Thalfang am Erbeskopf zeigt, wie auch kleinere Verwaltungen den Einstieg schaffen. Mit 7.100 Einwohnenden, 75 Beschäftigten und nur einer Fachkraft in der IT-Abteilung sind die Ressourcen stark begrenzt. Der Fokus liegt hier auf dem Friedhofswesen, der Bescheiderstellung und der Fördermittelprüfung. Die geplante KI-Software dient als Assistenz zur Erkennung fehlender oder widersprüchlicher Angaben, wobei die finale Entscheidung immer beim Menschen verbleibt. Die Umsetzung erfolgt auf Basis des bestehenden Civento Fachverfahrens und mit externer Unterstützung. Die Verwaltung überspringt dabei bewusst klassische Entwicklungsschritte der Digitalisierung und startet direkt mit der neuen Technologie. Ziel ist es, die Bearbeitungszeiten drastisch zu senken, Medienbrüche zu reduzieren und die Belegschaft in den Fachbereichen spürbar zu entlasten.
Fazit
Die vier Pilotkommunen belegen eindrucksvoll, dass der Einsatz von Sprachmodellen in der Verwaltung auf sehr unterschiedlichen Wegen gelingen kann. Ob durch gezielte Schulungskonzepte, weitreichende Automatisierung, eigene Serverlösungen oder den mutigen Direkteinstieg.
Titelbild KI-generiert
