Stadtverwaltung startet Testphase für KI-Chatbot

Die Stadt Mörfelden-Walldorf hat im Januar die Testphase für einen internen KI-gestützten Chatbot gestartet. Der Chatbot soll die Mitarbeitenden bei Routineaufgaben unterstützen und Arbeitsabläufe effizienter gestalten. „Unser Ziel ist es, die Chancen von Künstlicher Intelligenz im Verwaltungsalltag praktisch und kritisch zu erproben – verantwortungsvoll, datenschutzkonform und immer unter fachlicher Kontrolle“, sagt Bürgermeister Karsten Groß.

Der Chatbot wird ausschließlich intern genutzt und wurde von einem deutschen Unternehmen entwickelt. Zwar kann der Chatbot auch auf bekannte KI-Modelle – wie etwa ChatGPT – zurückgreifen, die Daten werden aber nicht auf Servern der KI-Modelle gespeichert und unmittelbar nach der Nutzung wieder gelöscht. Sämtliche Daten werden auf Servern in Deutschland verarbeitet.

„Die Beschäftigten können die künstliche Intelligenz vor allem für Entwürfe von Texten, Zusammenfassungen, die Strukturierung von Inhalten sowie für neutrale Übersetzungen einsetzen“, führt Sarah Nasr von der Stabsstelle Digitalisierung aus. So sollen Anschreiben, Briefe und Textdokumente schneller vorbereitet, Informationen verständlicher formuliert und interne Abläufe vereinfacht werden. „Wir möchten eine moderne Verwaltung sein, die mit der Zeit geht und den Menschen in unserer Stadt noch besseren Service bietet. Künstliche Intelligenz kann uns helfen, bestimmte Arbeiten zu beschleunigen – aber die Entscheidungen treffen weiterhin unsere Mitarbeiterinnen und Mitarbeiter“, sagt Bürgermeister Groß.

Der Chatbot wird ausschließlich als Arbeitshilfe eingesetzt. Alle mit künstlicher Intelligenz erstellten Inhalte müssen immer sorgfältig geprüft werden. Rechtsverbindliche Bescheide, hoheitliche Entscheidungen oder Bewertungen von Personen werden nicht durch die KI getroffen, und die KI darf in diese Arbeitsabläufe auch nicht eingebunden werden.

Wichtig ist auch: Es werden keine sensiblen oder personenbezogenen Daten in die KI eingegeben. Namen, Adressen, Aktenzeichen, Gesundheits- oder Sozialdaten sowie nicht-öffentliche Informationen aus der Verwaltung sind für den Chatbot tabu. Er arbeitet ausschließlich mit allgemein und anonym formulierten Inhalten. Zur Sicherheit ist zusätzlich ein Pseudonymisierungs-Filter eingestellt, der persönliche Daten grundsätzlich schwärzt.

„Als Verwaltung legen wir höchsten Wert auf Datenschutz und Datensicherheit“, betont Karsten Groß. In Anlehnung an die strengen Vorgaben der KI-Verordnung der Europäischen Union ist ein klares Regelwerk für die Nutzung definiert. Das oberste Grundprinzip lautet: Es dürfen keinerlei personenbezogenen oder sensiblen Daten in das System eingegeben werden.

Die Testphase wird von der Stabsstelle Digitalisierung durchgeführt, in enger Abstimmung mit der Datenschutzbeauftragten. Während der Testphase arbeiten rund 20 Mitarbeitende mit dem Chatbot und sammeln Erfahrungen. „Auch in dieser Phase gilt, dass Ergebnisse immer kritisch geprüft werden und Entscheidungen immer selbst getroffen werden müssen“, so die Digitalisierungsbeauftragte Sarah Nasr.

Am Ende der Testphase werden die Erfahrungen der Mitarbeitenden ausgewertet. Auf dieser Basis entscheidet die Stadtverwaltung, ob und in welchem Umfang der Chatbot dauerhaft eingesetzt oder weiterentwickelt wird. „Unser Ziel ist, dass wir im ersten Quartal soweit sind, dass der Chatbot in der gesamten Verwaltung zum Einsatz kommt“, sagt Bürgermeister Karsten Groß. Parallel zur Testphase erfolgen bereits Schulungen der Verwaltung zum Thema Künstliche Intelligenz.

„Eine KI darf helfen. Denken, Entscheiden und Verantworten bleibt bei uns. Wenn wir mit dieser Technologie sinnvoll und verantwortungsvoll umgehen, gewinnen wir mehr Zeit für das, was im Austausch mit Einwohnerinnen und Einwohnern wirklich zählt: persönliche Beratung und gute Lösungen“, erklärt der Rathauschef abschließend.