Weiße Roboterhand augestreckt und geöffnet

18 Juni 2020

ÖFIT legt in Politik wie Verwaltung Weichen für eine lebenswerte, digitale Zukunft.

Den Anfang machte der Haustierfindedienst „FindeFiffi”: Um entlaufene Fiffis und andere vierbeinige Freunde ausfindig zu machen, werden Sensor-, Verwaltungs- und Social-Media-Daten gesammelt und auf Basis verhaltenswissenschaftlicher Erkenntnisse intelligent ausgewertet. Damit können die verlorenen Haustiere wiedergefunden werden. Finanziert wird die freiwillige Leistung aus der Hundesteuer. „Die Anwendung begeistert die Bevölkerung“, meint Basanta Thapa, wissenschaftlicher Mitarbeiter im Kompetenzzentrum Öffentliche IT Fraunhofer-Institut für Offene Kommunikationssysteme FOKUS (ÖFIT). Dadurch seien Bürger bereit, den Einsatz von Künstlicher Intelligenz auch in anderen Bereichen der öffentlichen Verwaltung zu akzeptieren. Die Sache hat nur einen Haken: FindeFiffi existiert bloß in der Szenarien-Studie „Exekutive KI 2030“, die Thapa mitverfasst hat. Die „fabelhafte Welt der KI“ ist eine von vier Antwortmöglichkeiten auf die Frage: Wie verändert der Einsatz von Künstlicher Intelligenz in der öffentlichen Verwaltung Staat und Gesellschaft bis zum Jahr 2030?

Ob Künstliche Intelligenz in der öffentlichen Verwaltung unsere Welt künftig so „fabelhaft“ erleichtert oder aufgrund technischer, rechtlicher oder infrastruktureller Voraussetzungen gar nicht flächendeckend zum Einsatz kommt, wie es ein anderes Szenario der Studie vermuten lässt, ist irrelevant. „Das Ziel solcher Zukunftsszenarien ist, Denkhorizonte zu öffnen und Vorstellungsräume aufzubrechen“, erklärt Thapa im ÖFIT-Podcast. Sie zeigen, welche Rahmenbedingungen zu welchem Szenario führt und helfen dadurch „politische Stellschrauben zu identifizieren.“

Basanta Thapa © ÖFIT

Aus dem akademischen Luftschloss direkt zum politischen Entscheider

Genau das ist Aufgabe des ÖFIT, das 2013 als neutrale Denkwerkstatt vom Bundesministerium des Innern, für Bau und Heimat gegründet wurde. „Wir greifen Themen auf, bei denen wir über die Trendbeobachtung feststellen, dass sie an Relevanz gewinnen“, beschreibt ÖFIT-Leiter Prof. Dr. Peter Parycek die Arbeit des Kompetenzzentrums, „wenn die Relevanz für den öffentlichen Sektor besonders hoch ist, dann erstellen wir umfangreichere Papiere, die als Grundlage für Entscheidungen im öffentlichen Sektor – primär der Verwaltung – und in der Politik dienen.“ Die Papiere enthalten Empfehlungen und seien so ausgerichtet, dass sie Entscheidungsträger im öffentlichen Sektor direkt verwerten können. „Wir bauen kein akademisches Luftschloss, sondern haben den Anspruch, Themen in den politischen und in den Verwaltungsdiskurs zu bringen“, betont der Rechtsinformatiker, der seit 20 Jahren zur Digitalisierung forscht, „und zwar so, dass sie Politiker und Verwalter verstehen.“ Spätestens seit zweieinhalb Jahren zählt Künstliche Intelligenz in der öffentlichen Verwaltung zu einem dieser Schwerpunktthemen, das auch in der KI-Strategie „AI made in Germany“ der Bundesregierung als eigenes Handlungsfeld definiert ist.

Prof. Dr. Peter Parycek © ÖFIT

KI – eine Frage der Definition

Die Komplexität des Themas beginnt bereits bei der Definition: Am Anfang der Forschung stand die regelbasierte KI, bei der mit Hilfe hochqualitativer Datensätze die Wirklichkeit präzise beschrieben und Regeln abgebildet wurden. „Damit sind wir bei einer der großen Schwächen Deutschlands“, weiß Peter Parycek, „aufgrund der Größe und Datenschutz-Diskurse der letzten Jahrzehnte gibt es wenig deutschlandweite Register, die die Annäherung an die Wahrheit darstellen.“ Die fehlenden Daten machen Vergleiche mit kleineren Ländern wie Österreich oder Estland, in denen Anträge auf Familiengeld oder die Steuererklärung automatisiert ablaufen, sinnlos. Heute ist allerdings bei KI weniger von Automatisierung die Rede. „Derzeit meinen wir damit technisch vor allem Maschinelles Lernen, also Algorithmen, die aus bestehenden Daten Entscheidungsmuster lernen, die sie auf weitere Fälle anwenden können“, erklärt der wissenschaftliche Mitarbeiter Basanta Thapa, „in der deutschen Verwaltung gibt es dazu nur Pilotprojekte.“ Die Gesichtserkennung am Bahnhof Berliner Südkreuz etwa, bei der mittels Überwachungskameras gesuchte Verbrecher identifiziert werden können. Mit „Bobbi“ ist in Berlin auch ein browserbasierter Chatbot im Einsatz: Statt beim Bürgeramt vorsprechen zu müssen, können sich Bürger mit Fragen ans Programm wenden. Es half sogar bei Anliegen zu SARS-CoV2 und COVID-19 weiter. Steckt „Bobbi“ noch in den Kinderschuhen, wurden in China während der Pandemie bereits 80 Prozent aller Anfragen von einem Chatbot erledigt. „Um so große Systeme wie in China, aber auch Indien zu verwalten, braucht es den enormen Einsatz von Daten und Algorithmen“, ist für Peter Parycek dieser Vorsprung bei KI-Anwendungen leicht erklärbar, „wir leben in Deutschland in anderen Dimensionen. Wir sind nicht Estland, aber im Vergleich zu China sind unsere Städte Dörfer.“

Angst vor dem Überwachungsstaat

Die Anwendung von Maschinellem Lernen scheitert nicht zwangsläufig an der Technik. Vielmehr ist es eine Frage der (politischen) Notwendigkeit und des gesellschaftlichen Auftrags. Wenn hochpräzise Gesichtserkennungssysteme diejenigen ausfindig machen, die ohne Mundschutz unterwegs sind, gehört das in China zum Corona-Alltag. In Deutschland stieße ein solcher Einsatz kaum auf Zuspruch: Zwar wird akzeptiert, dass Amazons Alexa unseren Alltag steuert oder Apple bei der neuesten iPhone-Generation auf Gesichtserkennung zur Entsperrung des Smartphones setzt. „Im öffentlichen Sektor hingegen wird Künstliche Intelligenz hochemotional diskutiert“, kennt Prof. Dr. Parycek eine der Herausforderungen in diesem Segment, „hier geht es um das sensible Verhältnis von Gesellschaft zu Staat.” Wie sensibel dieses ist, zeigen Umfragen des ÖFIT: Zwar sehen die Deutschen viel Potenzial in einer digitalen öffentlichen Verwaltung und attestieren den Behörden regelmäßig hohe Zufriedenheit sowie ausgeprägtes Vertrauen in ihre Arbeit. Wenn es aber um den Umgang mit digitalen Daten geht, ist es damit schnell vorbei: Nur ein Viertel der Bevölkerung vertraut dabei dem öffentlichen Sektor. „Plattformen wie Facebook lagen weit vor der Verwaltung“, war der ÖFIT-Leiter überrascht. 79 Prozent fühlen sich bei ungerechten Entscheidungen wehrlos; über die Hälfte der Befragten zweifelt außerdem an der Einhaltung von Datenschutz und IT-Sicherheitsvorschriften. „In Deutschland herrscht großes Unbehagen darüber, dass die Verwaltung mithilft, zum Überwachungsstaat zu werden“, nennt Parycek den Hauptgrund für das Misstrauen, „diese Angst ist in Deutschland aufgrund der jüngeren Geschichte mit der DDR noch stärker vorhanden.“ Intensiviert wird das mulmige Gefühl, wenn es um den Einsatz von Künstlicher Intelligenz geht: Während 46 Prozent der Bürger KI als mögliche Bereicherung sehen, nimmt sie knapp ein Viertel insgesamt eher als Bedrohung wahr. 86 Prozent ist es laut einer weiteren Umfrage nicht egal, ob ein Mensch oder eine Maschine Entscheidungen trifft. Ist Letzteres der Fall, fühlen sich neun von zehn Personen fremdbestimmt; Acht von Zehn verloren. Angesichts dieser Ergebnisse ist es wenig überraschend, dass knapp zwei Drittel der Befragten (65 Prozent) denken, KI solle in der Verwaltung nur unterstützend eingesetzt werden.

Potenzial nachvollziehbarer Entscheidungshilfe

Wie eine solche Entscheidungsunterstützung in der Praxis aussehen kann, zeigt sich im Landesverwaltungsamt Berlin. Dort werden eingereichte Rechnungen für Beihilfeleistungen heute schon mit einer intelligente Software des US-Konzerns IBM gescannt. Kommt es zu Auffälligkeiten, schlägt das System Alarm. „Die KI analysiert Daten, auf deren Basis dann schneller Verwaltungs- oder politische Entscheidungen getroffen werden können“, erklärt Peter Parycek, der seit 2017 das ÖFIT leitet, „diese Prozesse sieht man oft nicht, weil sie im Hintergrund laufen.“ Für ihn liegt in dieser Entscheidungsunterstützung das größte Potenzial des Maschinellen Lernens im öffentlichen Sektor. Auch bei Bau- oder Wohngeldanträgen könnte die KI Sachbearbeitern helfen, zu einer besseren Beurteilung zu gelangen. Dafür sei es aber notwendig, Mitarbeiter für diese Kontrollfunktion zu befähigen. „Nicht jeder muss als Data Scientist geschult sein“, beschwichtigt der Experte. Doch der Mitarbeiter müsse nachvollziehen können, welche Daten die Maschine heranziehe und wo möglicherweise eine Verzerrung zu einer Fehlentscheidung führe. Gerade in der öffentlichen Verwaltung seien die Anforderungen an KI-Systeme hoch: Während die Wirtschaft etwa nicht alle Kunden gleich behandeln müsse, sondern eine Segmentierung vornehmen und sich auf die 80 Prozent mit der höchsten Profitmarge konzentrieren könne, dürfe sich der Staat das nicht erlauben. Um eine Bias bestmöglich zu verhindern, sei die Gestaltung des Arbeitssystems und der Erfolgsmessung im öffentlichen Bereich zu hinterfragen. „Wenn der Sachbearbeiter nicht nach Fallzahl pro Tag gemessen wird, sondern nach der Qualität der Entscheidungen, die über Einsprüche messbar ist, dann kommen wir zu einem guten Mensch-Maschinen-Zusammenspiel“, ist er überzeugt.

Gestaltungsaufgabe der Politik

Wenn der Einsatz Künstlicher Intelligenz nachvollziehbar erfolgt, könnte sich das auch positiv auf die Akzeptanz bei den Bürgern auswirken. „Bei KI, die aus Daten lernt, ist die sogenannte ‚Explainable Artificial Intelligence‘ eine Herausforderung“, gibt Basanta Thapa zu, „wir brauchen sie aber im Verwaltungskontext.“ Statt einer vollständigen Nachvollziehbarkeit wäre es auch möglich, den Antragstellern bei einer Ablehnung zu zeigen, was für eine Genehmigung notwendig wäre. Denkbar sei es außerdem, den Bürger zwischen KI und Mensch entscheiden zu lassen: Sofortige, vielleicht günstigere Entscheidung durch die Maschine oder drei Monate warten, bis ein Sachbearbeiter sich darum kümmern kann. „Meine These lautet: Wenn der Bürger einen Vorteil für sich sieht, beispielsweise es komfortabler ist und er keinen 40-seitigen Antrag stellen muss, sondern die Daten automatisch ausgewertet werden, dann ist er weniger kritisch“, meint der ÖFIT-Wissenschaftler und sieht darin eine der Gestaltungsaufgaben der Politik: „Erste Anwendungen sollten das Leben der Menschen besser und komfortabler machen. Überwachungskameras, die Falschparker erfassen, sind keine Anwendungen, mit denen man Herzen und Köpfe der Menschen gewinnt.“ Einem Haustierfindedienst á la FindeFifi-App gelingt Letzteres hingegen mühelos.

Um unsere Webseite für Sie optimal zu gestalten und fortlaufend verbessern zu können, verwenden wir Cookies. Durch die weitere Nutzung der Webseite stimmen Sie der Verwendung von Cookies zu. Weitere Infomationen zu Cookies erhalten Sie in unserer Datenschutzerklärung.