Stempel auf die Baugenehmigung? Schon bald könnte die KI darüber entscheiden, nicht wie bislang ein Beamter. © Wolfgang Filser
München – „Servus, ich bin der Muckl“, sagt das runde Manschgerl auf der Internetseite der Stadt München. Muckl ist ein sogenannter Chatbot, ein Assistent, der Münchnern bei Verwaltungsangelegenheiten helfen soll. Fragt man ihn zum Beispiel: „Was brauche ich für einen Bauantrag?“, dann spuckt Muckl prompt eine Liste mit den benötigten Unterlagen aus. Aber schon die erste Nachfrage bringt ihn an seine Grenzen: „Was, wenn ich den Abstand zum Nachbarn nicht einhalten kann?“ Muckls Antwort: „Ich konnte hierzu leider keine Informationen finden.“ Dann muss doch der Beamte ran.
Die Künstliche Intelligenz hat längst Einzug gehalten in der öffentlichen Bürokratie. Damit weniger Personal gebraucht wird und Abläufe schneller werden. So wird zum Beispiel KI genutzt, um Adressen für den Einzug des Rundfunkbeitrags abzugleichen oder Standardfragen zu beantworten. Der Freistaat setzt in der Steuerverwaltung KI zur Auswertung von Massendaten ein. Laut dem Bayerischen Landkreistag wird KI in vielen Kommunen für unterstützende Aufgaben genutzt, etwa zum Zusammenfassen von Texten oder für Sitzungsprotokolle. Doch geht es nach der Staatsregierung, bekommt die KI künftig deutlich mehr Macht – sie soll nämlich an der Stelle von Beamten Entscheidungen treffen.
Der rechtliche Hintergrund ist kompliziert. Zentral ist das sogenannte Ermessen der Beamten, das laut dem Fachportal „Legal Tribune Online“ zu den Grundelementen des deutschen Verwaltungsrechts gehört. Das Prinzip: Der Gesetzgeber nehme sich mit seinen Vorgaben zurück und überlasse der Exekutive bewusst einen Entscheidungsspielraum. So sollen die Beamten die Besonderheiten des Einzelfalls berücksichtigen können. Doch genau das soll nicht mehr zwangsläufig so sein: Die geplante Neuregelung sieht vor, dass ein Verwaltungsakt „vollständig durch automatische Einrichtungen erlassen werden“ kann. Der Gesetzentwurf ist vom Kabinett seit gestern beschlossen, im Herbst soll der Landtag darüber entscheiden.
Die Opposition ist skeptisch. Der Münchner Abgeordnete Benjamin Adjei ist Digitalisierungsexperte der Grünen im Landtag, und er sagt: „Es ist sinnvoll, die KI zur Unterstützung einzusetzen – aber sie ist kein Ersatz für menschliches Ermessen.“ Den Ermessensspielraum gebe es ja extra dafür, um besser auf Einzelfälle eingehen zu können, um den Kontext zu berücksichtigen. „Das soll jetzt wegrationalisiert werden“, kritisiert Adjei. Er weist darauf hin, dass die KI keine bewussten Entscheidungen treffen kann, auch wenn das im Dialog etwa mit ChatGPT manchmal so wirke – vielmehr wird auf Grundlage von Wahrscheinlichkeiten eine Antwort gegeben.
Dass das ein Problem sein kann, weiß jeder, der ChatGPT schon mal um Rat gebeten hat. Mal kommen falsche Antworten, mal mehrere Optionen. Adjei weist auf ein Negativ-Beispiel aus Österreich hin: In der Berufsberatung wurde ein KI-Chatbot eingeführt, der Bürger über Berufsbilder informieren soll. Allerdings stellte sich heraus, dass die KI stark von Stereotypen beeinflusst wurde. Frauen wurden vermeintliche Frauenberufe vorgeschlagen, Männern entsprechend Männerberufe – und das bei gleicher Qualifikation. Nach heftiger Sexismus-Kritik wurde der Chatbot überarbeitet.
Es gibt also Risiken, wenn die KI Ermessensentscheidungen treffen soll. Das sieht auch der Landkreistag so: „KI kann Verzerrungen aus den Daten übernehmen oder vorhandene Fehler fortschreiben“, teilt ein Sprecher mit. Damit Bürger und Verwaltung einen Vorteil durch die KI hätten, müsse „die Technik rechtssicher, transparent und gut kontrolliert eingesetzt“ werden.
Der Kurs der Staatsregierung ist klar, das interpretiert man auch beim Landkreistag so: Die geplante Änderung sei ein deutliches Signal, „dass der Einsatz von KI in Verwaltungsverfahren grundsätzlich gewollt ist“, heißt es. Staatskanzleichef Florian Herrmann klingt regelrecht euphorisch: „Ja, das ist Neuland, das ist Rechtsgeschichte“, sagt der CSU-Politiker zu den Plänen. Zum Einsatz kommen könnte die KI mit der neuen Befugnis beim Zulassen von Märkten und bei Baugenehmigungen im Innenbereich. Auch Kfz-Zulassungen und den Bereich des Sozialrechts nannte der Jurist schon mal.
Ministerpräsident Markus Söder scheint die Idee jedenfalls zu gefallen. Bei einem Empfang vor Wirtschaftsvertretern spöttelte er diese Woche: „Wenn Sie nachmittags um vier bei einer Behörde anrufen oder die KI fragen – von wem bekommen Sie dann eine freundlichere Antwort, von der KI oder vom Beamten?“CARINA ZIMNIOK