BärGPT: Der neue KI-Assistent für die Berliner Verwaltung

Von Ingo Hinterding – 25. November 2025

Mit BärGPT startet am 25. November 2025 ein neuer KI-Assistent für die Berliner Landesverwaltung – entwickelt vom CityLAB Berlin in enger Zusammenarbeit mit der Senatskanzlei. Das Ziel: Verwaltungsmitarbeitende bei ihrer täglichen Arbeit mit smarten KI-Funktionen unterstützen und Routineaufgaben effizienter gestalten. 

Die Herausforderung ist bekannt: Bis 2030 gehen voraussichtlich rund 30 Prozent der Beschäftigten in der Berliner Verwaltung in den Ruhestand. Der resultierende Fachkräftemangel erhöht den Druck auf bestehende Strukturen erheblich. Gleichzeitig zeigen Studien, dass bis zu 85 Prozent der routinemäßigen Verwaltungsaufgaben durch Künstliche Intelligenz effizienter gestaltet werden können. 

KI hat längst den Weg in den Arbeitsalltag gefunden – das zeigt auch eine Umfrage, die wir im Rahmen unserer Workshops mit der Berliner Verwaltung durchgeführt haben. Auf die (nicht repräsentative) Frage „Wie nutzen Sie KI am Arbeitsplatz: Ganz heimlich, ganz offiziell, oder ganz und gar nicht?“ lag die Antwort „ganz heimlich“ weit vorne. Das Interesse und der Bedarf sind also da, nur fehlte bislang eine offizielle, datenschutzkonforme Lösung. Genau hier setzt BärGPT an: Als DSGVO-konformes Angebot, das Verwaltungsmitarbeitende ganz offiziell nutzen können – ohne rechtliche Grauzonen und zusätzliche Kosten. 

Ein KI-Assistent, entwickelt mit und für die Berliner Verwaltung 

Im Frühjahr 2024 rief die Berliner Senatskanzlei eine ressortübergreifende Taskforce ins Leben, um Einsatzpotenziale für die verantwortungsvolle Nutzung von KI in der Verwaltung auszuloten. In regelmäßigen Workshops mit dem CityLAB Berlin wurden Bedarfe erfasst und Ideenskizzen entwickelt. Das zentrale Ergebnis: Die Berliner Verwaltung braucht eine souveräne und nutzerfreundliche Umgebung, um den KI-Einsatz sicher und alltagsnah zu erproben. Aus dieser Erkenntnis heraus entstand BärGPT – eine Eigenentwicklung des CityLAB Berlin statt eines zugekauften Standardprodukts. Die Gründe für diesen Weg sind vielfältig: Durch die eigenständige Entwicklung konnten die spezifischen Bedarfe der Berliner Verwaltung berücksichtigt und zugleich eigene KI-Kompetenzen aufgebaut werden. In einem agilen Entwicklungsprozess wurden gemeinsam mit Beschäftigten der Verwaltung erste Prototypen erstellt, getestet und kontinuierlich weiterentwickelt. So entstand ein System, das nicht nur technisch funktioniert, sondern auch tatsächlich im Alltag hilft. 

Ein beispielhaftes Alleinstellungsmerkmal ist das sogenannte „Verwaltungswissen“: eine kuratierte Sammlung der relevantesten Dokumente der Berliner Verwaltung, etwa die Gemeinsame Geschäftsordnung (GGO1). Diese häufig benötigten Dokumente stehen allen Beschäftigten direkt im Chat zur Verfügung und müssen nicht erst individuell hochgeladen werden. Diese Funktion wurde gezielt auf Basis der User Tests entwickelt und macht BärGPT zu einem echten Verwaltungswerkzeug, nicht nur zu einem generischen Chatbot. 

Was kann BärGPT? 

BärGPT lässt sich als KI-Assistent in viele Phasen des Arbeitsalltags integrieren. Es unterstützt dabei, Informationen zu strukturieren, Texte zu erstellen und zu optimieren sowie Dokumente zu analysieren und zusammenzufassen. Dabei bleibt die Verantwortung für den Inhalt immer bei den Beschäftigten des Landes Berlin. BärGPT unterstützt bei der Arbeit, kann fachliche Erfahrung und Expertise aber nicht ersetzen. 

Die Entwicklung von BärGPT wurde von umfangreichen Nutzendentests begleitet. BärGPT konzentriert sich auf die Funktionen, die in den Tests am höchsten bewertet wurden. Im Zentrum steht der freie Chat, ähnlich wie man ihn von kommerziellen Angeboten wie ChatGPT oder Claude kennt. Nutzer:innen können eigene Prompts formulieren – je nach Aufgabe und Bedarf. Die wichtigsten Anwendungsfälle sind: 

  • Texte schreiben, korrigieren, übersetzen und zusammenfassen 
  • Nutzung als Recherchetool und zur Beantwortung allgemeiner Fragen 
  • Schnellzugriff auf frühere Unterhaltungen über eine Chat-History 

Richtig leistungsstark wird BärGPT in Kombination mit seiner Dokumentenverwaltung. Mit wenigen Klicks lassen sich Dokumente hochladen, automatisch analysieren und für eine KI-gestützte Suche aufbereiten – mittels eines Embedding-Modells. Die sogenannte RAG-Suche (Retrieval-Augmented Generation) ermöglicht es, gleichzeitig mehrere Dokumente oder ganze Ordner zu durchsuchen. Antworten des Sprachmodells werden dabei mit Quellenhinweisen versehen, sodass Nachvollziehbarkeit gewährleistet bleibt. 

Ein weiteres praktisches Feature: BärGPT unterstützt den Import und Export der wichtigsten Dateiformate – Text, PDF, Word (.docx) und Excel. Insbesondere der Export in das Word-Format ist ein Alleinstellungsmerkmal gegenüber vielen vergleichbaren Angeboten und wurde auf expliziten Wunsch der Testnutzer:innen integriert.

Datensouveränität und Open Source 

Das CityLAB Berlin arbeitet nach dem Motto „Public Money, Public Code“. Entsprechend ist auch BärGPT Open Source und auf GitHub verfügbar. Dies erfolgt nicht nur aus Gründen der Transparenz, sondern auch, weil wir die Erfahrung gemacht haben, dass Produkte durch öffentliches Feedback besser werden. Die Open-Source-Entwicklung macht BärGPT zudem leichter nachnutzbar für andere Verwaltungen und Institutionen. 

Die Datenbank-Infrastruktur von BärGPT wird auf einem BSI-zertifizierten Cloud-Anbieter mit Serverstandorten in Deutschland betrieben und erfüllt höchste Ansprüche an Datenschutz und DSGVO-Konformität. Als Sprachmodell kommt Mistral 3.2 Small zum Einsatz – ein leistungsstarkes Modell, das uns vom französischen KI-Unternehmens Mistral AI zur Verfügung gestellt wird. Die Entscheidung gegen ein lokal gehostetes Modell fiel bewusst: Die Entwicklung der Modelle verläuft rasant, und das lokale Betreiben eigener Hardware wäre nicht nur kostspielig, sondern auch deutlich weniger performant als der Bezug des Modells per API. Wichtig dabei: Es werden keinerlei Daten zu Trainingszwecken verwendet. 

Die Möglichkeit eines Betriebs von BärGPT auf landeseigener Infrastruktur wurde im Rahmen der Entwicklung intensiv geprüft, erwies sich jedoch aus primär technischen Gründen als (noch) nicht möglich. Ein modernes KI-System wie BärGPT benötigt eine zeitgemäße Cloud-Infrastruktur, die unserem Entwicklerteam automatisierte Deployments, CI/CD-Pipelines oder Schnittstellen zu externen Services erlaubt. Diese Rahmenbedingungen sind im Berliner Landesnetz aktuell nicht gegeben. Mit der neuen Cloud-Strategie des Landes Berlin entsteht hier jedoch eine klare Perspektive, die wir weiterverfolgen werden. Dazu befinden wir uns auch mit den Kolleg:innen des ITDZ in einem konstruktiven Austausch.

Datenschutz: Wo stehen wir, wo geht es hin? 

Personenbezogene Daten sind für die Nutzung von BärGPT grundsätzlich unproblematisch, da keinerlei Daten zu Trainingszwecken an das Sprachmodell weitergegeben werden. Gleichzeitig werden die Rahmenbedingungen geschaffen, um einen rechtssicheren Einsatz von Künstlicher Intelligenz in der Berliner Verwaltung zu ermöglichen: Dafür wird in das Berliner E-Government-Gesetz eine Rechtsgrundlage für die Verarbeitung personenbezogener Daten in KI-Systemen aufgenommen. Die Regelung tritt voraussichtlich Anfang 2026 in Kraft. 

Wie geht es weiter? 

BärGPT ist ein lebendes Produkt. Das bedeutet: Es wird kontinuierlich weiterentwickelt, auf Basis der Bedarfe und des Feedbacks der Nutzenden. Bereits in Planung oder prototypischer Erprobung sind: 

  • Anbindung von MCP-Servern, etwa zur Nutzung von Informationen aus dem Open Data Portal oder Schriftlichen Anfragen von Parla 
  • Online-Websuche für aktuelle Informationen 
  • Speicherung und Verwaltung von Favoriten-Prompts 
  • Gruppenverwaltung von gemeinsam genutzten Dokumenten 

Wir freuen uns darauf, BärGPT gemeinsam mit der Berliner Verwaltung weiterzuentwickeln und sind gespannt auf Rückmeldungen aus der Praxis. Feedback ist jederzeit willkommen – denn nur so entsteht ein Werkzeug, das wirklich hilft. 

Ab dem 25. November 2025 kann BärGPT kostenlos von allen Mitarbeitenden der Berliner Verwaltung genutzt werden. Die Registrierung erfolgt einfach unter www.baergpt.berlin. Weitere Hilfe und Tutorials gibt es im Hilfecenter

Weiterführende Artikel: 

Wer sich für die technischen Details und Hintergründe der Entwicklung interessiert, findet hier einen vertiefenden technischen Artikel aus unserem Entwicklungsteam.