Fachkräftemangel, demografischer Wandel und überfälliger Bürokratieabbau: Der Druck auf die Verwaltung hat einen neuen Höhepunkt erreicht. Kein Wunder also, dass der Einsatz Künstlicher Intelligenz schnell als Hoffnungsträger in den Umlauf kam. Genauso schnell wurde aber auch deutlich: Ganz so einfach kommen KI und Verwaltung dann doch nicht zusammen. Zu viele schützenswerte Daten und Informationen, zu wenig bedarfsgerechte Lösungen für verwaltungsspezifische Herausforderungen. Zurückblieb das Gefühl, KI könnte der Schnellzug aus der Zwickmühle sein, auf den es die Verwaltung am Ende doch nicht schafft, aufzuspringen.
In unserer Rolle als Innovationstreiber und Forschungseinrichtung beschäftigen wir uns schon länger mit dem Potenzial von Künstlicher Intelligenz. Dabei sind im Austausch mit Verwaltungsmitarbeitenden vor allem zwei Lösungen entstanden, die die Arbeit im Verwaltungsalltag enorm erleichtern können: Das KI-Tool Parla und der KI-Assistent BärGPT. Wobei diese beiden Anwendungen durch Künstliche Intelligenz unterstützen, warum die Verwaltung maßgeschneiderte KI-Lösungen braucht und was wir bei der Entwicklung gelernt haben, darüber berichten wir hier.
Wenn die Routine übermenschlich groß wird
Auf der einen Seite tausend ähnliche Anfragen zu einem Bürgerdienst, auf der anderen undurchsichtige Gesetzestexte: Routineaufgaben dominieren den Arbeitsalltag von vielen Verwaltungsmitarbeitenden. Gerade hier wünschen sich viele Beschäftigte Entlastung, wie unsere Nutzerforschung zeigt: “Genannt wurden vor allem das Schreiben, Formulieren und Kürzen von Texten, die Übersetzung in verschiedene Sprachen – inklusive leichter Sprache – sowie die Nutzung als Recherchetool, etwa am Beispiel von Parla für die Beantwortung schriftlicher Anfragen”, weiß Ingo Hinterding, der das Prototyping-Team des CityLAB leitet. Bei der Entwicklung von Prototypen arbeitet sein Team Hand in Hand mit der Verwaltung und stellt so sicher, dass die jeweiligen Funktionen auf einen konkreten Bedarf reagieren. Anna Mehrländer, Teil des Teams und Product Ownerin des KI-Assistenten BärGPT, erinnert aus den umfangreichen User Testings, dass Mitarbeitende vor allem bei der Kommunikation und der Dokumentation von Wissen Unterstützung benötigen: “Ganz konkret wurden Potenziale für KI in mehreren Bereichen benannt: ein intelligentes Postfach, automatisierte Dokumentenprüfung, die Nutzung von Textbausteinen, eine effiziente Rechts- und Normenrecherche sowie die automatisierte Verarbeitung von Daten, beispielsweise für Kostenabschätzungen oder Geodaten.” Neben der effizienteren Bearbeitung von Routinearbeiten ist es manchmal aber auch einfach die Rolle des Ratgebers oder der Entscheidungshilfe, bei der Verwaltungsmitarbeitende sich Hilfe von einer KI versprechen.
Prototyping mit der Verwaltung: Parla und BärGPT als lernende Praxisbeispiele
Um auf die Flut an Dokumenten, Daten und Vorgaben sowie auf das oftmals fehlende digitale Wissensmanagement in der Verwaltung zu reagieren, haben wir Anfang 2024 das KI-Tool Parla veröffentlicht. Der Prototyp liest mithilfe von Künstlicher Intelligenz sämtliche Antworten auf Schriftliche Anfragen sowie Hauptausschussvorgänge (sogenannte „Rote Nummern“) aus. Stellt man Parla eine Frage, formuliert das System auf dieser Textgrundlage einen Antwortvorschlag und zeigt die dafür genutzten Dokumente an. “Bei Parla hat uns besonders überrascht, wie stark das Tool den Arbeitsalltag erleichtert: Die Recherche in über 15.000 Schriftlichen Anfragen der aktuellen Wahlperiode wird deutlich einfacher, und viele haben uns zurückgespiegelt, dass Parla hilft, knappe personelle Ressourcen zu entlasten. Dafür gab es viel Dank – aber auch konstruktive Kritik”, berichtet Ingo vom User Testing zu Parla.
Das Tool hat im Praxistest schnell konkrete Potenziale von KI für die Verwaltung offenbart, sodass die Idee aufkam, weitere Quellen in die Suche einzubinden. Da der KI-Assistent allerdings für diesen Anwendungsfall schon sehr gut funktioniert, haben wir uns dazu entschieden, für erweiterte Bedarfe andere Lösungen zu explorieren – wie am Beispiel von BärGPT.
Wie wäre es, wenn Mitarbeitende der Berliner Verwaltung KI-gestützt häufig gestellte Anfragen beantworten sowie Texte korrigieren und zusammenfassen lassen könnten – in einer datenschutzkonformen sicheren Arbeitsumgebung? Wie müsste ein solcher KI-Assistent technisch aufgesetzt und in der Nutzendenführung gestaltet sein, damit er maßgeschneidert für verwaltungsinterne Anwendungsfälle funktioniert? Genau diese Fragen erkunden wir mit BärGPT.
„BärGPT ist als allgemeiner KI-Assistent breiter angelegt als Parla. Hier stand im Feedback vor allem die Usability im Vordergrund: Wir konnten viele Anregungen zur Nutzendenführung direkt umsetzen und nehmen Feature-Wünsche kontinuierlich in die Weiterentwicklung auf. So haben bereits zahlreiche Ideen aus der Verwaltung ihren Weg in das Produkt gefunden – wofür wir den Kolleg:innen sehr dankbar sind.“ Ingo Hinterding, Teamleitung Prototyping & Forschungsprojekte
BärGPT wird derzeit mit einer begrenzten Anzahl von Verwaltungsmitarbeitenden getestet und so stetig weiterentwickelt. Dass das Interesse und der Bedarf an dem Tool groß ist, haben wir bereits durch die stetig wachsende Warteliste festgestellt. Besonders beliebt ist die Möglichkeit, direkt mit Verwaltungsdokumenten zu arbeiten und eigene Dokumente hochladen zu können. Weitere Features umfassen die transparente Quellenangabe sowie die Exportfunktion als Word oder PDF. “Außerdem haben wir das Basiswissen Verwaltung geschaffen, stetig erweitert und besser kuratiert, damit die Antworten stärker auf die spezifischen Bedarfe der Verwaltung passen”, so Anna. Beim Thema Basiswissen verbirgt sich ein wichtiges Learning: Ein solcher KI-Assistent funktioniert nur dann zuverlässig, wenn er zu jeder Zeit auf dasselbe Wissen zurückgreifen kann wie seine Nutzenden – und damit im Verwaltungskontext auf Wissen, das nicht immer öffentlich zugänglich ist. Deshalb haben wir BärGPT ganz gezielt mit Verwaltungsdokumenten trainiert und die Möglichkeit eingebaut, dass Mitarbeitende eigene Dokumente direkt im Chat hochladen können, die dieses Wissen zusätzlich erweitern.
Da wir nicht nur Bedarfe analysieren sondern unsere Prototypen auch selbst entwickeln, bietet die Auseinandersetzung von KI-Potenzialen für die Verwaltung auch technisch eine enorm werthaltige Lernkurve für uns. Und weil wir all unsere Prototypen ab einem definierten Zeitpunkt als Open Source anbieten, stehen unsere Erkenntnisse allen als Grundlage zur Verfügung, die ähnliche KI-gestützte Anwendungen erproben.
Lösungen “von der Stange” versus digitale Souveränität
Da stellt sich zwangsläufig die Frage: Braucht der Berliner Bär wiedermal seine eigene KI-Lösung? Dass es im Verwaltungskontext schon diverse Chatbot- und LLM-Projekte gibt, ist uns bei der Recherche natürlich nicht entgangen. Warum also einen eigenen Prototypen testen, statt auf eine bestehende Lösung zurückzugreifen? Beim Scannen von verfügbaren Anwendungen haben wir gemeinsam mit Verwaltungsmitarbeitenden festgestellt, dass die Funktionalität nicht ganz dem dokumentierten Bedarf entsprach. “Der größte Vorteil bei der Eigenentwicklung ist aber, dass wir wirklich volle Kontrolle über den Tech Stack und die einzelnen Features haben, die wir nach und nach in enger Rückkopplung mit Kolleg:innen aus der Berliner Verwaltung entwickeln und erproben. Durch die In-House-Entwicklung sind wir nicht abhängig von Dienstleistern und können neue Ideen sehr schnell erproben und auch umsetzen”, so CityLAB-Direktor Dr. Benjamin Seibel.
„Zügig auf neue Entwicklungen reagieren zu können, die Kontrolle über die Technologie und die Daten zu behalten und ein Produkt zu entwickeln, das wirklich unseren Vorstellungen bzw. den Vorstellungen der Mitarbeiter:innen entspricht – das ist für uns auch ein wichtiges Merkmal der vieldiskutierten “digitalen Souveränität”.“ Dr. Benjamin Seibel, Direktor CityLAB Berlin
Zur digitalen Souveränität gehört für uns auch, dass sich die Verwaltung selbst das nötige Wissen aneignen kann, um die Einbettung von KI in den Verwaltungsalltag sinnvoll und selbstbestimmt zu ermöglichen. Deshalb haben wir begleitend zu BärGPT eine Hilfeseite erstellt, die erste Schritte, zielführendes Prompten und zentrale Funktionen erklärt. “Viele Mitarbeitende sind unsicher, welche Anwendungen datenschutzkonform genutzt werden dürfen – zumal zahlreiche Angebote nicht DSGVO-konform sind und die Verarbeitung personenbezogener Daten unklar bleibt. BärGPT bietet hier eine sichere Alternative, ergänzt um ein eigenes Hilfecenter mit Schulungsmaterial speziell für den Verwaltungskontext.”, erklärt Ingo zur Notwendigkeit eines verwaltungsspezifischen KI-Tools. Anna ergänzt:
“Die Eigenentwicklung ermöglicht es uns zudem, die Systemprompt-Qualität gezielt zu steuern. Durch strengere und angepasste Systemprompt-Einstellungen sind die Antworten präziser, abrufgestützt und weniger anfällig für Halluzinationen.”
Anna Mehrländer, Product Managerin BärGPT
KI kann viel, aber nicht alles
Wer sich mit den Chancen Künstlicher Intelligenz auseinandersetzt, muss sich auch mit ihren Grenzen beschäftigen. Dabei war es für uns wichtig zu verstehen, dass KI selbst nicht die Lösung ist, sondern eine Funktionalität, die bei unterschiedlichen Vorgängen integriert werden kann. Einen gesamten Prozess an eine KI zu übergeben, ist daher nicht zielführend. Vielmehr sind es viele kleine Abläufe, bei denen KI angedockt werden kann, um punktuell zu unterstützen. Daher kann es aus unserer Sicht nicht “die eine Lösung” für alle Herausforderungen geben, die sich derzeit in der Verwaltung stellen. Vielmehr braucht es eine Vielfalt spezialisierter Angebote, die mithilfe von KI passgenaue Lösungen entwickeln.
Und: Ohne menschliche Führung geht es sowieso nicht, resümiert unser Prototyping-Lead Ingo: “
„Künstliche Intelligenz ersetzt weder Verwaltungsmitarbeitende noch den gesunden Menschenverstand. Ergebnisse – ob Texte oder Bilder – müssen immer geprüft und eingeordnet werden. KI kann Kommunikation verständlicher, zugänglicher und teilweise auch persönlicher machen. Den menschlichen Kontakt oder die individuelle Einschätzung kann sie allerdings nicht ersetzen.”
Ingo Hinterding, Teamleitung Prototyping & Forschungsprojekte
Wir werden aktuelle Entwicklungen im Bereich Künstliche Intelligenz eng weiterverfolgen und sind gespannt, wie sich unsere KI-Prototypen für die Verwaltung weiterentwickeln werden. Wenn Ihr auf dem Laufenden zu Tools wie Parla oder BärGPT bleiben möchtet, schaut gerne regelmäßig auf unserem Blog vorbei oder abonniert direkt unseren Newsletter.
