ÖFIT legt in Politik wie Verwaltung Weichen für eine lebenswerte, digitale Zukunft.

^{Prof. Dr. Peter Parycek © ÖFIT}

KI – eine Frage der Definition

Die Komplexität des Themas beginnt bereits bei der Definition: Am Anfang der Forschung stand die regelbasierte KI, bei der mit Hilfe hochqualitativer Datensätze die Wirklichkeit präzise beschrieben und Regeln abgebildet wurden. „Damit sind wir bei einer der großen Schwächen Deutschlands“, weiß Peter Parycek, „aufgrund der Größe und Datenschutz-Diskurse der letzten Jahrzehnte gibt es wenig deutschlandweite Register, die die Annäherung an die Wahrheit darstellen.“ Die fehlenden Daten machen Vergleiche mit kleineren Ländern wie Österreich oder Estland, in denen Anträge auf Familiengeld oder die Steuererklärung automatisiert ablaufen, sinnlos. Heute ist allerdings bei KI weniger von Automatisierung die Rede. „Derzeit meinen wir damit technisch vor allem Maschinelles Lernen, also Algorithmen, die aus bestehenden Daten Entscheidungsmuster lernen, die sie auf weitere Fälle anwenden können“, erklärt der wissenschaftliche Mitarbeiter Basanta Thapa, „in der deutschen Verwaltung gibt es dazu nur Pilotprojekte.“ Die Gesichtserkennung am Bahnhof Berliner Südkreuz etwa, bei der mittels Überwachungskameras gesuchte Verbrecher identifiziert werden können. Mit „Bobbi“ ist in Berlin auch ein browserbasierter Chatbot im Einsatz: Statt beim Bürgeramt vorsprechen zu müssen, können sich Bürger mit Fragen ans Programm wenden. Es half sogar bei Anliegen zu SARS-CoV2 und COVID-19 weiter. Steckt „Bobbi“ noch in den Kinderschuhen, wurden in China während der Pandemie bereits 80 Prozent aller Anfragen von einem Chatbot erledigt. „Um so große Systeme wie in China, aber auch Indien zu verwalten, braucht es den enormen Einsatz von Daten und Algorithmen“, ist für Peter Parycek dieser Vorsprung bei KI-Anwendungen leicht erklärbar, „wir leben in Deutschland in anderen Dimensionen. Wir sind nicht Estland, aber im Vergleich zu China sind unsere Städte Dörfer.“

Angst vor dem Überwachungsstaat

Die Anwendung von Maschinellem Lernen scheitert nicht zwangsläufig an der Technik. Vielmehr ist es eine Frage der (politischen) Notwendigkeit und des gesellschaftlichen Auftrags. Wenn hochpräzise Gesichtserkennungssysteme diejenigen ausfindig machen, die ohne Mundschutz unterwegs sind, gehört das in China zum Corona-Alltag. In Deutschland stieße ein solcher Einsatz kaum auf Zuspruch: Zwar wird akzeptiert, dass Amazons Alexa unseren Alltag steuert oder Apple bei der neuesten iPhone-Generation auf Gesichtserkennung zur Entsperrung des Smartphones setzt. „Im öffentlichen Sektor hingegen wird Künstliche Intelligenz hochemotional diskutiert“, kennt Prof. Dr. Parycek eine der Herausforderungen in diesem Segment, „hier geht es um das sensible Verhältnis von Gesellschaft zu Staat.” Wie sensibel dieses ist, zeigen Umfragen des ÖFIT: Zwar sehen die Deutschen viel Potenzial in einer digitalen öffentlichen Verwaltung und attestieren den Behörden regelmäßig hohe Zufriedenheit sowie ausgeprägtes Vertrauen in ihre Arbeit. Wenn es aber um den Umgang mit digitalen Daten geht, ist es damit schnell vorbei: Nur ein Viertel der Bevölkerung vertraut dabei dem öffentlichen Sektor. „Plattformen wie Facebook lagen weit vor der Verwaltung“, war der ÖFIT-Leiter überrascht. 79 Prozent fühlen sich bei ungerechten Entscheidungen wehrlos; über die Hälfte der Befragten zweifelt außerdem an der Einhaltung von Datenschutz und IT-Sicherheitsvorschriften. „In Deutschland herrscht großes Unbehagen darüber, dass die Verwaltung mithilft, zum Überwachungsstaat zu werden“, nennt Parycek den Hauptgrund für das Misstrauen, „diese Angst ist in Deutschland aufgrund der jüngeren Geschichte mit der DDR noch stärker vorhanden.“ Intensiviert wird das mulmige Gefühl, wenn es um den Einsatz von Künstlicher Intelligenz geht: Während 46 Prozent der Bürger KI als mögliche Bereicherung sehen, nimmt sie knapp ein Viertel insgesamt eher als Bedrohung wahr. 86 Prozent ist es laut einer weiteren Umfrage nicht egal, ob ein Mensch oder eine Maschine Entscheidungen trifft. Ist Letzteres der Fall, fühlen sich neun von zehn Personen fremdbestimmt; Acht von Zehn verloren. Angesichts dieser Ergebnisse ist es wenig überraschend, dass knapp zwei Drittel der Befragten (65 Prozent) denken, KI solle in der Verwaltung nur unterstützend eingesetzt werden.

Potenzial nachvollziehbarer Entscheidungshilfe

Wie eine solche Entscheidungsunterstützung in der Praxis aussehen kann, zeigt sich im Landesverwaltungsamt Berlin. Dort werden eingereichte Rechnungen für Beihilfeleistungen heute schon mit einer intelligente Software des US-Konzerns IBM gescannt. Kommt es zu Auffälligkeiten, schlägt das System Alarm. „Die KI analysiert Daten, auf deren Basis dann schneller Verwaltungs- oder politische Entscheidungen getroffen werden können“, erklärt Peter Parycek, der seit 2017 das ÖFIT leitet, „diese Prozesse sieht man oft nicht, weil sie im Hintergrund laufen.“ Für ihn liegt in dieser Entscheidungsunterstützung das größte Potenzial des Maschinellen Lernens im öffentlichen Sektor. Auch bei Bau- oder Wohngeldanträgen könnte die KI Sachbearbeitern helfen, zu einer besseren Beurteilung zu gelangen. Dafür sei es aber notwendig, Mitarbeiter für diese Kontrollfunktion zu befähigen. „Nicht jeder muss als Data Scientist geschult sein“, beschwichtigt der Experte. Doch der Mitarbeiter müsse nachvollziehen können, welche Daten die Maschine heranziehe und wo möglicherweise eine Verzerrung zu einer Fehlentscheidung führe. Gerade in der öffentlichen Verwaltung seien die Anforderungen an KI-Systeme hoch: Während die Wirtschaft etwa nicht alle Kunden gleich behandeln müsse, sondern eine Segmentierung vornehmen und sich auf die 80 Prozent mit der höchsten Profitmarge konzentrieren könne, dürfe sich der Staat das nicht erlauben. Um eine Bias bestmöglich zu verhindern, sei die Gestaltung des Arbeitssystems und der Erfolgsmessung im öffentlichen Bereich zu hinterfragen. „Wenn der Sachbearbeiter nicht nach Fallzahl pro Tag gemessen wird, sondern nach der Qualität der Entscheidungen, die über Einsprüche messbar ist, dann kommen wir zu einem guten Mensch-Maschinen-Zusammenspiel“, ist er überzeugt.

Gestaltungsaufgabe der Politik

Wenn der Einsatz Künstlicher Intelligenz nachvollziehbar erfolgt, könnte sich das auch positiv auf die Akzeptanz bei den Bürgern auswirken. „Bei KI, die aus Daten lernt, ist die sogenannte ‚Explainable Artificial Intelligence‘ eine Herausforderung“, gibt Basanta Thapa zu, „wir brauchen sie aber im Verwaltungskontext.“ Statt einer vollständigen Nachvollziehbarkeit wäre es auch möglich, den Antragstellern bei einer Ablehnung zu zeigen, was für eine Genehmigung notwendig wäre. Denkbar sei es außerdem, den Bürger zwischen KI und Mensch entscheiden zu lassen: Sofortige, vielleicht günstigere Entscheidung durch die Maschine oder drei Monate warten, bis ein Sachbearbeiter sich darum kümmern kann. „Meine These lautet: Wenn der Bürger einen Vorteil für sich sieht, beispielsweise es komfortabler ist und er keinen 40-seitigen Antrag stellen muss, sondern die Daten automatisch ausgewertet werden, dann ist er weniger kritisch“, meint der ÖFIT-Wissenschaftler und sieht darin eine der Gestaltungsaufgaben der Politik: „Erste Anwendungen sollten das Leben der Menschen besser und komfortabler machen. Überwachungskameras, die Falschparker erfassen, sind keine Anwendungen, mit denen man Herzen und Köpfe der Menschen gewinnt.“ Einem Haustierfindedienst á la FindeFifi-App gelingt Letzteres hingegen mühelos.