Der folgende Artikel erscheint mit freundlicher Genehmigung vom Tagesspiegel Background und wurde dort am 22. Februar 2022 veröffentlicht.
Einer der schönsten Aspekte an meinem Job ist es, mich regelmäßig mit Menschen auszutauschen, die sehr viel klüger sind als ich. Letzten Monat hatten wir zum Beispiel den berühmten Risikoforscher Gerd Gigerenzer für ein Gespräch zu Gast (eine Aufzeichnung findet sich hier). Gigerenzer hat sich als Psychologe ein ganzes Forscherleben lang damit beschäftigt, wie wir Menschen mit Risiken umgehen und nach welchen Kriterien wir „riskante“ Entscheidungen treffen. Also solche, bei denen wir nicht mit Sicherheit sagen können, welche Auswirkungen sie haben.
In seinem neuen Buch befasst sich Gigerenzer mit Künstlicher Intelligenz. Er zeigt anhand zahlreicher Beispiele, dass Maschinen in einigen Fällen tatsächlich bessere Entscheidungen als Menschen treffen, dass sie mitunter aber auch haarsträubende Fehler machen, die uns in dieser Form nie unterlaufen würden. Zum Beispiel reicht eine Abweichung von wenigen Pixeln in einem Bild aus, damit ein selbstfahrendes Auto einen Schulbus fälschlicherweise als einen sehr schnell rennenden Vogelstrauß erkennt.
Regelbasierte Systeme brauchen ein stabiles Umfeld
Vielleicht ist es meine déformation professionelle, aber ich musste bei Gigerenzers Ausführungen über die Absonderlichkeiten maschineller Entscheidungen unweigerlich an unsere preußische Verwaltungsbürokratie denken. Diese funktioniert ihrem Selbstverständnis nach ja auch wie eine Maschine: Entscheidungen werden nicht nach Gutdünken getroffen, sondern objektiv und regelbasiert. Verwaltungen prüfen einen Sachverhalt und wenden bestehende Gesetze und Vorschriften darauf an. Und manchmal kommen dabei Entscheidungen heraus, bei denen man sich an den Kopf fassen muss.
Gigerenzer erläuterte im Gespräch sehr anschaulich, dass diese Art des regelbasierten Entscheidens immer dort gut funktioniert, wo man es mit einer stabilen Umwelt zu tun hat, die auch tatsächlich regelkonform funktioniert. Was Maschinen (oder Verwaltungen) hingegen nicht sehr gut können, ist mit Ungewissheit umgehen, also mit überraschenden Ereignissen, die nicht ins Raster passen. Das wurde im Krisenmanagement der Pandemie deutlich, es trifft aber ebenso auf Digitalisierung zu.
Wenn sich Ängste und Befindlichkeiten frei entfalten
Im CityLAB Berlin führen wir viele Innovations- und Digitalisierungsprojekte mit Verwaltungen durch. Dabei begeben wir uns sehr häufig in unkartiertes Territorium, wir betreten Neuland. Wir tun Dinge, die so noch nicht gemacht wurden und sind dabei mit einem hohen Maß an Unsicherheit konfrontiert: In den seltensten Fällen können wir vorhersagen, ob alles so funktioniert, wie gedacht (wieso ein solches Vorgehen trotzdem ungemein produktiv ist, habe ich in einer vorherigen Kolumne beschrieben).
Nun gibt es die landläufige Vorstellung, dass Verwaltungen bei der Digitalisierung nur langsam vorankommen, weil ihnen allerlei Gesetze und Vorschriften im Weg stehen. Nach meiner Erfahrung stimmt das zwar manchmal, aber meistens nicht. Viel schlimmer als eine einschränkende Vorschrift ist: die Abwesenheit von Vorschriften. Im digitalen Neuland ist vieles weder verboten noch ausdrücklich erlaubt, sondern eben einfach neu. Es gibt noch keine klaren Regeln und kaum Erfahrungswerte, wie etwas richtig gemacht werden soll.
Dieser Zustand ist für regelbasierte Systeme sehr ungünstig. Mit einer eindeutigen Aussage wie „wir können X nicht machen, weil Vorschrift Y es verbietet“ kann man ja immer irgendwie umgehen. Dann überlegt man sich einen alternativen Weg. Heißt es hingegen „wir wissen nicht genau, ob wir X machen können“, dann kann ganz schnell ein schrecklich lähmendes Verantwortungsvakuum entstehen, in dem niemand mehr irgendetwas entscheiden will.
In diesem Vakuum geht es plötzlich nicht mehr objektiv und regelbasiert zu, stattdessen können sich Ängste und Befindlichkeiten frei entfalten. Es ist der Ort, an dem die berüchtigten „Bedenkenträger“ aufblühen. Sie fragen gerne: „Was ist das hypothetisch Allerschlimmste, das passieren könnte, wenn wir X machen?“ Wir hatten zum Beispiel mal einen Fall, wo ein Sachbearbeiter sich weigerte, einen Datensatz mit Adressen und Öffnungszeiten öffentlicher Einrichtungen zu publizieren, aus Angst, dass ein böser Brandstifter mit dieser Liste losgehen und alle Gebäude abfackeln könnte. Die Haltung war: Klar ist das unwahrscheinlich, aber hundertprozentig ausschließen können wir es nicht. Also lassen wir es lieber.
Verwaltung muss auch unter Ungewissheit funktionieren
Welche Risiken wir bereit sind zu akzeptieren, hängt sehr stark von unseren Gewohnheiten und Traditionen ab. Man stelle sich eine Verkehrsplanerin vor, die sich weigert, eine Straße zu bauen, aus Angst, ein Bankräuber könne sie als Fluchtweg nutzen. Auch dort gilt ja: Hundertprozentig ausschließen können wir es nicht. Aber wir haben eben schon viele Straßen gebaut, über einige sind sogar Bankräuber gefahren, und trotzdem ist die Welt davon nicht untergegangen.
Dieser schulterzuckende Pragmatismus (der keinesfalls mit Leichtsinn verwechselt werden sollte) aus der analogen Welt fehlt uns mitunter im Digitalen. Aber ich bin überzeugt: Verwaltungen müssen lernen, auch unter Ungewissheit handlungs- und entscheidungsfähig zu sein. Weil langfristig das viel größere Risiko darin liegt, lieber erstmal nichts zu tun. Bei der Digitalisierung, beim Klimawandel und bei vielen anderen Herausforderungen, denen wir heute gegenüberstehen.
Auch Professor Gigerenzer plädierte übrigens dafür, unsere regelbasierten Entscheidungssysteme wieder stärker an menschlichem Verhalten auszurichten. Denn würden wir jedes Mal, bevor wir zu einem Spaziergang aufbrechen, erst einmal gründlich alles reflektieren, was theoretisch schiefgehen könnte (herunterstürzende Dachziegel! Tollwütige Hunde! Wahnsinnige Wutbürger!), dann würden wir vermutlich nie vor die Tür treten. Stattdessen gehen wir einfach los und verlassen uns dabei auf eine Eigenschaft, die Maschinen und Bürokratien leider manchmal abgeht: den gesunden Menschenverstand.
Das Gespräch mit Prof. Dr. Gerd Gigerenzer gibt es jetzt auch als Video und als Podcast zum Nachhören.
