Contents

I. Einleitung

Die sogenannte „Künstliche Intelligenz“ (KI) ist das neue große Schlagwort in Wirtschaft und Verwaltung. Neben vollmundigen Versprechungen und schillernden Zukunftsfantasien löst die Entwicklung aber auch Verunsicherung und Ängste aus: undurchsichtige Prozesse führen zu scheinbar objektiven, schwer zu widerlegenden Ergebnissen, Verantwortlichkeiten und Anfechtungsmöglichkeiten bleiben unklar, offensichtliche Fehler bleiben unbemerkt, und nicht zuletzt kommen KI-Systeme mit einem schier unersättlichen Datenhunger daher. Dem gegenüber stehen enorme Effizienzgewinne, schnellere und einheitlichere Prozesse und passgenaue Ergebnisse, die sich Entwickler*innen und Anwender*innen von fortschrittlichen Systemen versprechen. Naturgemäß werden potenzielle Anwendungsmöglichkeiten auch im öffentlichen Sektor, namentlich in Verwaltung und Rechtsprechung, ausgelotet.¹ Angesichts der zunehmenden Herausforderung öffentlicher Institutionen durch wachsende Aufgabenkreise, begrenzte Mittel und steigende Erwartungen der Bürger*innen an den Staat sind die versprochenen Effizienzgewinne durchaus attraktiv. Jedoch müssen staatliche Institutionen mehr noch als private Vorsicht walten lassen, der Effizienz keine ungebührlichen Opfer zu bringen – insbesondere nicht die Grundrechte zu schleifen. Der Rechtswissenschaft fällt dabei auch die Aufgabe zu, derartige Entwicklungen kritisch zu betrachten und immer wieder zu fragen: welche Grenzen müssen wir dem technisch Möglichen durch das normativ Gebotene aufzeigen?

Die Frage nach der rechtlichen Bewertung einer Vollautomatisierung von Verwaltungsaufgaben war bisher eine rein theoretische. Die bisher üblichen deterministischen Algorithmen sind auf die Verarbeitung von im Voraus festgelegten – also vorhersehbaren und kalkulierbaren – Datenpunkten beschränkt. Daher war eine Automatisierung bislang nur von einfacheren, gesetzlich vollständig determinierten Fällen möglich. Dieser Stand der Technik spiegelt sich etwa in § 35a VwVfG wider, der eine Vollautomatisierung von Verwaltungsentscheidungen auf Fälle ohne Ermessens- oder Beurteilungsspielraum begrenzt.² Insbesondere durch die kürzlich erfolgten Durchbrüche in der Entwicklung großer Sprachmodelle (Large Language Models – LLMs) scheint es nunmehr jedoch durchaus möglich, auch komplexere, kommunikative Verfahrensschritte wie etwa Anhörungen und Begründungen vollständig zu automatisieren. Auch komplexe oder ungewöhnliche Sachverhalte können nun etwa über einen Chatbot oder ein Freitextfeld in einem Onlineformular in das System eingespeist und von diesem verarbeitet werden. Obwohl die Technik noch fehleranfällig und ausbaubedürftig ist, zeichnen sich hier doch erhebliche neue Horizonte für die Automatisierung von Verwaltungsaufgaben ab. Fraglich bleibt dabei, ob eine höherrangige Grenze für die Automatisierung solcher kommunikativer Verfahrensschritte bestehen bleibt. Namentlich die Menschenwürdegarantie könnte diese Wirkung entfalten, gebietet sie doch im Kern, dass der Mensch in seiner Subjektqualität anerkannt und nicht zum bloßen Objekt staatlichen Handelns degradiert wird. Wie genau sich diese menschenrechtliche Dimension des Verwaltungsverfahrens darstellt und ob sie eine unüberwindbare Grenze für eine Vollautomatisierung mithilfe von LLMs darstellt, ist derzeit offen. Dieser Umstand ist sicherlich auch der Tatsache geschuldet, dass die Frage bis dato keiner differenzierten Klärung bedurfte: es konnte schlicht auf die technischen Grenzen der Automatisierung abgestellt werden und eine eingehende Befassung mit ihren normativen Grenzen daher unterbleiben. Mit fortschreitender Technologie wird eine intensive Auseinandersetzung mit dieser Frage jedoch nunmehr notwendig.

Neben Verfahrensfragen wirft die Automatisierung von Verwaltungsverfahren auch grundsätzliche materielle Fragen der Menschenwürde auf, da hierbei die Gefahr besteht, dass der Mensch nicht als Individuum, sondern lediglich als Sammlung von Datenpunkten behandelt und damit zum bloßen Objekt degradiert wird.³ In der Rechtsordnung der Europäischen Union wurde dieses Problem bereits erkannt und durch die Einführung von Art. 22 DSGVO angegangen, der – allerdings mit weitreichenden Ausnahmen – ein grundsätzliches Abwehrrecht gegen vollautomatisierte Entscheidungen mit Rechtswirkung gegenüber Individuen einräumt,⁴ sowie durch Verbote und Vorsichtsmaßnahmen hinsichtlich bestimmter Hochrisiko-Anwendungen von fortschrittlichen Methoden insbesondere des maschinellen Lernens in der KI-Verordnung der EU.⁵ Entsprechend hat sich in der internationalen rechtswissenschaftlichen Literatur ein lebhafter Diskurs um ein mögliches Recht auf eine menschliche Entscheidung entsponnen – in Verwaltungs- wie auch in Strafverfahren.⁶ Jenseits des materiellen Problems der eigentlichen Entscheidung wirft die Verfahrensautomatisierung aber auch formelle Fragen hinsichtlich des Prozesses der Entscheidungsvorbereitung, Entscheidungsfindung, Aufbereitung und Mitteilung an den oder die Betroffene*n auf, die bisher wenig Beachtung gefunden haben. Der vorliegende Beitrag widmet sich daher den formellen Aspekten der Automatisierung des Verwaltungsverfahrens im Lichte der Menschenwürde.

Hieraus ergibt sich die zentrale Forschungsfrage, die im Folgenden untersucht werden soll: Welche menschenrechtlichen Dimensionen hat das Verwaltungsverfahrensrecht, insbesondere hinsichtlich der Achtung der Menschenwürde durch Anhörungs- und Begründungspflichten, und kann diesen Dimensionen hinreichend Rechnung getragen werden, wenn Verwaltungsverfahren mittels LLMs vollständig automatisiert werden?

Der Beitrag beginnt mit einer Untersuchung des Menschenwürdeprinzips im Verwaltungsverfahren. Er geht dabei nicht streng dogmatisch vor, sondern nähert sich dem Menschenwürdebegriff auf einer Metaebene unter Rückgriff auf Kategorien sowohl des Verfassungs- als auch des Unionsrechts sowie auf rechtsphilosophische Betrachtungen, um die Breite des Menschenwürdebegriffs zu erfassen. Es folgt eine Untersuchung einzelner Verfahrensschritte auf menschenrechtlich relevante Dimensionen, insbesondere hinsichtlich der Menschenwürde. Eine solche Dimension könnte sich ergeben aus (1) Reziprozität (Subordination nur unter eine Gewalt, die das volle Ausmaß der Gewaltausübung wegen grundsätzlicher Rollenaustauschbarkeit nachvollziehen kann); (2) Fähigkeit zur Empathie (Verständnis für bestimmte Situationen sowie Bedeutung und Tragweite der Verwaltungsentscheidung); (3) Argumentation (ebenbürtiger Austausch unterschiedlicher Rechtsansichten als demokratisch und rechtsstaatlich unverzichtbares Element). Anhand der erarbeiteten Konzeption geht der Beitrag sodann der Frage nach, ob dieser Dimension auch dann Genüge getan werden kann, wenn das Verwaltungsverfahren vollständig automatisiert wird, insbesondere wenn Anhörungen und Begründungen durch LLMs durchgeführt werden.

II. Die Menschenwürde als fundamentales Rechtsprinzip des Verwaltungsverfahrens

1. Der Menschenwürdebegriff auf nationaler und völkerrechtlicher Ebene

Die Menschenwürde als Rechtsprinzip zeichnet sich durch eine gewisse Paradoxität aus: einerseits ist sie als Grundlage der Menschenrechte insbesondere im deutschen Verfassungsrecht, aber auch auf völkerrechtlicher und unionsrechtlicher Ebene einhellig anerkannt, andererseits entzieht sie sich trotz dieser herausragenden Bedeutung einer konsensfähigen, positiven Definition. Im Folgenden werden die Definitionen und Begriffe der verschiedenen Ebenen einer Gesamtbetrachtung unterzogen, um dem hier verfolgten Ansatz einer rechtsphilosophischen Meta-Perspektive gerecht zu werden. Es sei jedoch darauf hingewiesen, dass im konkreten Anwendungsfall genau zu prüfen ist, welcher Definitionsansatz der Menschenwürde und welche Begrifflichkeiten zu ihrer Konkretisierung heranzuziehen sind.⁷

In der nationalen Rechtsprechung wird auf einen negativen Definitionsansatz zurückgegriffen, der die Menschenwürde von ihrer Verletzung her betrachtet und dogmatisch umgrenzt.⁸ Das Bundesverfassungsgericht (BVerfG) bedient sich dabei zumeist der bekannten Objektformel: die Menschenwürde erfordert, dass der Mensch nicht zum bloßen Objekt staatlichen Handelns gemacht wird.⁹ Wo genau die Grenze der Objektifizierung verläuft, lässt sich jedoch selten genau festlegen und bleibt oft abhängig von den Umständen des jeweiligen Einzelfalles. Meist wird sie ins Verhältnis zur freien Selbstbestimmung und Autonomie des Menschen gesetzt, wobei eine Objektifizierung dann vorliegt, „wenn dem Menschen die Freiheit zum selbstbestimmten Handeln genommen und er unter Zwang in völliger Abhängigkeit den Interessen anderer Menschen unterworfen wird.“¹⁰ Zur Konkretisierung des Menschenwürdegehalts dienen sodann die im Grundgesetz nachfolgenden Grundrechte, welche in ihrer Gesamtheit Ausdruck der Menschenwürdeachtung des Grundgesetzes sind. Jedem Grundrecht wohnt damit ein Kern der Menschenwürde inne, der der Abwägung gegen andere Belange nicht zugänglich ist.¹¹

Wie das Grundgesetz stellt auch die Grundrechtecharta der EU¹² (GrCh) die Menschenwürde als unantastbare Voraussetzung und Begründung eines grundrechtlich gebundenen Rechtssystems an den Beginn eines Katalogs an Freiheits- und Gleichheitsrechten. Sie wird ebenfalls nicht genauer umschrieben, dient jedoch als Kern und zentrale Voraussetzung der nachfolgenden Rechte.

In der Europäischen Menschenrechtskonvention¹³ (EMRK) wird die Menschenwürde nicht ausdrücklich erwähnt; sie ist aber nach einhelliger Meinung Voraussetzung, Fundament und Kernidee der in der Konvention verbrieften Rechte. Demnach kommt der Menschenwürde, obwohl sie in der EMRK nicht ausdrücklich als eigenständiges Menschenrecht genannt ist, ein eigenständiger Schutzbereich zu, der von den Mitgliedstaaten zu achten und zu schützen ist.¹⁴ Zur Menschenwürde als Grundprinzip im innerstaatlichen Verwaltungsverfahren schweigt die EMRK. Zwar schreibt sie in Art. 6 EMRK ein Recht auf ein faires Verfahren fest; dieses bezieht sich jedoch ausdrücklich nur auf das gerichtliche Verfahren in Zivil- und Strafsachen und ist auch nicht analog auf das Verwaltungsverfahren anwendbar.¹⁵

In der Rechtsphilosophie ist das Prinzip der Menschenwürde ähnlich universell anerkannt, aber umstritten in seinem konkreten Aussagehalt.¹⁶ Zum einen wird sie als auf Reziprozität gegründeter, allgemeiner Achtungsanspruch bezeichnet, der allen Menschen allein aufgrund ihres Menschseins innewohnt.¹⁷ Die Reziprozität gründet sich dabei in Gleichursprünglichkeit: dem Gedanken, „dass die Existenz zweier Entitäten so miteinander verknüpft ist, dass die eine nur existieren kann, wenn auch die andere existiert, und umgekehrt.“¹⁸ Demnach stützt und bedingt die Würde des einen Menschen zugleich die Würde des nächsten, sodass die Menschenwürde zum „Eckpfeiler eines ethischen und rechtsstaatlichen Systems“¹⁹ wird. Daraus folgt ein Gegenseitigkeitsprinzip, welches sich in verfahrensrechtlichen Beteiligungsrechten als kommunikatives Mittel von Mensch zu Mensch niederschlägt.²⁰ Zum anderen wird der Aspekt der Selbstbestimmung über eigenen Interessen betont: „Die innere, unveränderliche Eigenschaft der großen Menschenwürde ist die Eigenschaft der tatsächlichen oder wenigstens potentiellen Selbstbestimmung über die eigenen Belange, das heißt die Bestimmung der eigenen Belange primärer bzw. niederer Stufe durch die Wünsche und Ziele zweiter bzw. höherer Stufe. Ein wesentlicher Teil unseres Selbstverständnisses beruht auf dieser Selbstbestimmung über unsere eigenen Belange.“²¹

Als zentrale Eckpfeiler der Menschenwürde lassen sich somit individuelle Selbstbestimmung und Reziprozität festhalten.

2. Die Menschenwürde im Verwaltungsverfahren

Entsprechend nimmt die Menschenwürde auch im Verwaltungsverfahren eine wichtige, aber oft unscharfe Rolle ein. Die konkreten Vorgaben der Menschenwürdegarantie für das Verwaltungsverfahren sind wenig ausgeformt, wohl weil sie bisher in rechtsdogmatischen Untersuchungen und Argumentationen eine unterstützende Rolle für greifbarere, praktische Erwägungen wie die oben ausgeführten einnahm. In der Rechtsprechung des BVerfG wird auf sie verwiesen, um die Bedeutung etwa des Anhörungserfordernisses herauszustreichen, ohne dass jedoch die konkreten Konturen der Menschenwürde selbst hervortreten.²² Auch die Objektformel des BVerfG ist in der rechtswissenschaftlichen Analyse wenig trennscharf – schließlich beinhaltet jede staatliche Einwirkung auf den oder die Bürger*in eine Subordinationserwartung, die der oder die Betroffene als Objektifizierung wahrnehmen könnte. Auch in der Literatur wird etwa das Anhörungserfordernis als zentrale Forderung eines menschenwürdigen Verwaltungsverfahrens anerkannt, ohne dass dessen Voraussetzungen und Gestaltung näher beleuchtet werden.²³

Im Lichte der obigen Ausführungen kann jedoch konkretisiert werden, dass auch im Verwaltungsverfahren ein Minimum erstens an Reziprozität und Ebenbürtigkeit und zweitens an Selbstbestimmung notwendig ist, um der Menschenwürde gerecht zu werden. Freilich kann diesen Belangen nicht unumschränkt Genüge getan werden, ohne die Funktion des Verwaltungsverfahrens als Interessenausgleich zwischen Individualinteressen und Gemeinwohlbelangen gänzlich aufzugeben. Jedoch gebietet die Menschenwürde zumindest, dass dem betroffenen Individuum argumentativ auf Augenhöhe begegnet wird, dass ihm die Möglichkeit eingeräumt wird, auf den Ausgang des Verfahrens Einfluss zu nehmen, seine Interessen hinreichend darzustellen und argumentativ zu verteidigen.²⁴ Aber auch in der Bestimmung der Gemeinwohlbelange übt die Menschenwürde als Determinante und Voraussetzung eines rechtsstaatlichen Systems indirekten Einfluss aus, müssen diese doch durch das Zusammenspiel aller selbstbestimmten Bürger*innen ausgehandelt und weiterentwickelt werden.

III. Anhörungs- und Begründungserfordernisse im Einzelnen

Zentraler Ausdruck dieses kommunikativen, reziproken Ansatzes der Menschenwürde im Verwaltungsverfahren sind vor allem Anhörungs- und Begründungspflichten. Diese dienen dazu, der Objektifizierung des oder der Einzelnen durch staatliches Handeln auf unterschiedlichen Ebenen entgegenzuwirken. Sie werden daher im Folgenden eingehender untersucht.

1. Rechtlicher Rahmen

Der rechtliche Rahmen für Anhörungs- und Begründungspflichten im Verwaltungsverfahren wird im nationalen Recht durch § 28 Abs. 2 Nr. 4 Alt. 3 VwVfG (Anhörung) bzw. § 39 Abs. 2 Nr. 3 Alt. 2 VwVfG (Begründung) sowie die entsprechenden landesrechtlichen Vorschriften, auf Unionsebene insbesondere durch Art. 41 Abs. 2 lit. a (Anhörung) und c (Begründung) GRCh abgesteckt. Hinsichtlich der Automatisierung kommen zudem spezielle unionsrechtliche Vorgaben zum Tragen, insbesondere Art. 22 DSGVO und die Vorgaben der KI-Verordnung.

Die Voraussetzungen beider Tatbestände im VwVfG laufen weitgehend parallel: demnach kann unter anderem sowohl von einer Anhörung als auch von einer Begründung abgesehen werden, wenn die Behörde einen Verwaltungsakt mithilfe automatischer Einrichtungen erlassen will und es der Anhörung bzw. Begründung nach den Umständen des Einzelfalles nicht bedarf. Hier ist zu unterstreichen, dass bei Vollautomatisierung komplexerer Fälle nicht davon ausgegangen werden kann, dass Anhörung und Begründung nach den Umständen des Einzelfalles nicht geboten seien. Die Formulierung dieser Ausnahmetatbestände geht auf eine Zeit zurück, in der der Erlass von Verwaltungsakten mit automatischen Einrichtungen nach dem Stand der Technik nur für einfachere, rechtlich vollständig determinierte Fälle denkbar war – man denke etwa an Steuerbescheide. Solche Fälle dürften in der Tat häufig keiner Anhörung oder Begründung bedürfen. Hinsichtlich der Anhörung kann in derartigen Fällen regelmäßig ausgeschlossen werden, dass eine Anhörung die zu treffende Entscheidung in irgendeiner Weise beeinflussen kann, da letztere bereits vollständig durch das Gesetz determiniert ist. Die Gründe für die Entscheidung ergeben sich aus dem Gesetz; mangels Beurteilungs- oder Ermessensspielraum sind genauere Ausführungen etwa zu Abwägungsprozessen nicht notwendig. Sollten künftig jedoch auch komplexere Fälle in eine automatisierte Bearbeitung überführt werden, können diese Überlegungen nicht mehr standhalten. Sowohl in sachlicher Hinsicht zur Sachverhaltsaufklärung (Anhörung) und zur Nachvollziehbarkeit und Anfechtbarkeit (Begründung) als auch durch die Menschenwürde dürften Anhörung und Begründung unerlässlich sein.²⁵

2. Die Anhörung

Die Anhörung erfüllt im Verwaltungsverfahren zunächst eine praktische Funktion: die der Aufklärung des Sachverhalts. Der oder die betroffene Bürger*in ist zumeist am besten aufgestellt, relevante Informationen zu sammeln und der Behörde mitzuteilen. Die Anhörung trägt damit erheblich dazu bei, dass die zu treffende Entscheidung der Behörde auf einer fehlerfreien Tatsachenbasis beruht, und dient damit einer zentralen Vorgabe des Rechtsstaatsprinzips.

Neben der Einholung objektiver Fakten bietet die Anhörung jedoch auch Gelegenheit, die Rechtsansicht des oder der Bürger*in darzustellen und damit nicht nur auf Tatsachen-, sondern auch auf Rechtsfolgenebene Einfluss auf die behördliche Entscheidung zu nehmen – wenngleich dieser Einfluss oft weniger erheblich ausfallen dürfte, als es sich der oder die betroffene Bürger*in erhofft. Dennoch ist dies eine zentrale Stellschraube, um der Behandlung des oder der Einzelnen als Objekt entgegenzuwirken. Die Möglichkeit zur Mitwirkung und zur Beeinflussung des Verwaltungsverfahrens im eigenen Sinne impliziert, dass der oder die Betroffene als eigenständiges Subjekt mit eigenen Moralvorstellungen und Rechtsansichten wahrgenommen und anerkannt wird, und wirkt damit dem Subordinationsverhältnis zwischen Bürger*in und Staat zumindest teilweise entgegen. Der oder die Bürger*in erhält dadurch Selbstwirksamkeit: die Fähigkeit zur Einflussnahme auf das eigene Schicksal. Diese Bedeutung unterstreicht auch das BVerfG regelmäßig.²⁶ Insoweit ist das Anhörungserfordernis auch Ausdruck des Reziprozitätsgedankens – der gegenseitigen Anerkennung und des Respekts gegenüber dem oder der Bürger*in als ebenbürtiger, selbstbestimmter Mensch. Obwohl notwendigerweise ein strukturelles Ungleichgewicht zwischen Bürger*in und Verwaltungsmitarbeiter*in besteht, indem Letztere*r kraft seines oder ihres Amtes mit der Entscheidung über einen Lebensbereich der oder des Ersteren betraut ist, signalisiert die Anhörung die Anerkennung des eigenständigen, rational denkenden Gegenübers. Für den oder die Bürger*in dient die Anhörung dazu, die eigene Position verständlich zu machen und an menschliche Instinkte zu appellieren, um Verständnis und Mitgefühl zu generieren – das erhöht umgekehrt auch das Verständnis von Bürger*innen für menschliche Fehler in der Behörde, welches bei algorithmischen Entscheidungen deutlich geringer ausgeprägt ist.²⁷ Insoweit hat die Anhörung auch eine empathische Dimension, indem die Vorstellungen, Ziele und Werte des Gegenübers mit den eigenen abgeglichen und auf ihre Nachvollziehbarkeit hin überprüft werden können.²⁸

3. Die Begründung

Die Begründungspflicht für Verwaltungsentscheidungen erfüllt zunächst mehrere praktische Funktionen. Sie dient zunächst als Selbstkontrolle der Verwaltung, indem sie den oder die Sachbearbeiter*in zur kritischen Reflexion der Entscheidung zwingt.²⁹ Weiterhin macht sie die Tatsachengrundlage, Beweggründe und Abwägungsvorgänge sichtbar und nachvollziehbar: einerseits für den oder die Betroffene*n der Entscheidung selbst, andererseits für Widerspruchsinstanz und Verwaltungsgerichtsbarkeit, wenn die Entscheidung angefochten wird.³⁰ Nur so können Bürger*in und Überprüfungsinstanzen sicherstellen, auf welche Tatsachen- und Rechtsgrundlage die Verwaltung ihre Entscheidung gestützt hat, wie unterschiedliche Belange und Interessen gewichtet wurden und wie Abwägungsergebnisse erreicht wurden. Diese Informationen sind zunächst für die rechtliche Bewertung der Entscheidung unerlässlich. Daneben hat die Begründung auch eine psychologische Funktion: der Mensch akzeptiert eine für ihn ungünstige Entscheidung eher, wenn die Gründe für diese Entscheidung dargelegt werden.³¹ Darüber hinaus ist die Begründungspflicht auch Ausdruck der Menschenwürdeachtung, indem sie wiederum den oder die Bürger*in als ebenbürtiges Subjekt anerkennt, das nicht blind zum Objekt staatlicher Machteinwirkung gemacht werden darf. So gebietet es die Selbstbestimmung und Autonomie, dass im Falle staatlicher Zwangseinwirkung immerhin die Gründe für die aufgezwungene Einschränkung der freien Selbstbestimmung dargelegt werden. Bestenfalls führt dies bei dem oder der Betroffenen zu der Einsicht, dass die Einschränkung seiner oder ihrer Freiheit nach demokratischen Maßstäben für nachvollziehbare Belange des Gemeinwohls notwendig ist. Zumindest aber ist es Ausdruck der Anerkennung als ebenbürtiges, selbstbestimmtes Subjekt, das sein Handeln rational nach begründeten Handlungsrahmen auszurichten vermag.³² Zudem demonstriert die Begründung die Verantwortlichkeit und Rechenschaft des oder der Entscheider*in: den Willen, für die Entscheidung einzustehen und sie als richtig zu verteidigen. Die Begründung ist damit in gewisser Weise Fortsatz und Abschluss des mit der Anhörung begonnenen kommunikativ-argumentativen Aushandlungsprozesses.

4. Zwischenfazit: Anhörungs- und Begründungspflichten als Ausdruck der Menschenwürde im Verwaltungsverfahren

Zusammenfassend lässt sich festhalten, dass Anhörungs- und Begründungspflichten im Verwaltungsverfahren sowohl praktischen als auch immateriellen Bedürfnissen dienen. Beide Ansätze sind neben ihren sachlichen Funktionen auch Ausdruck der Subjektqualität des oder der Bürger*in, der oder die zwar eventuell nachteilige Verwaltungsentscheidungen – und damit staatliche Zwangseinwirkung – hinnehmen muss, aber auch in dieser Situation ein Mindestmaß an Beteiligung und Rücksichtnahme einfordern kann. Anhörungs- und Begründungspflichten sind damit auch Ausdruck der Ebenbürtigkeit und Reziprozität zwischen Menschen – der Staat soll dem oder der Bürger*in nicht als gesichtsloser Apparat gegenüberstehen, sondern als fairer Wächter über das Gemeinwohl, welches durch die Gesamtheit an selbstbestimmten Individuen determiniert ist. Die Achtung des oder der Bürger*in als selbstbestimmtes, autonomes Subjekt gebietet daher, ihm oder ihr ein Mindestmaß an Einfluss auf sein oder ihr eigenes Schicksal zu gewähren, indem ihm oder ihr Gelegenheit zur Stellungnahme gewährt und die Gründe der Entscheidung dargetan werden. Hierbei zeigt sich auch, dass das Rechtsstaatsprinzip seinen primären Fokus nicht auf Effizienz legt: Anhörungen und Begründungen erfordern Zeit und Aufwand von Verwaltungsmitarbeitenden, stellen aber dennoch einen unverzichtbaren Bestandteil eines fairen Verfahrens dar. Gleichwohl sind Anhörung und Begründung nicht in jedem Falle unverzichtbar. Die vorhandenen Ausnahmetatbestände zeigen, dass diese Vorgaben durchaus einer Abwägung gegen andere Belange wie Effizienz, zügige Verfahrensdurchführung oder Eilbedürftigkeit zugänglich sind. In den rechtlichen Kategorien des Grundgesetzes führt dies zu dem Schluss, dass Anhörung und Begründung im Verwaltungsverfahren zwar Ausdruck der Menschenwürde sind, aber nicht zu deren abwägungsfestem Kern gehören.³³

IV. Anhörung und Begründung durch LLMs

Mit der fortschreitenden technologischen Entwicklung stellen sich nun einige Fragen mit neuer Relevanz. Bislang konnten die immateriellen Funktionen von Anhörungs- und Begründungspflichten oft dahinstehen, da bei einer Verletzung der entsprechenden Vorschriften schon die handfesteren praktischen Funktionen unerfüllt blieben: wurde etwa eine Anhörung rechtswidrig unterlassen, fehlte dem oder der Betroffenen die Gelegenheit zur Darstellung wichtiger Tatsachen. Dass die Unterlassung gleichzeitig den aus der Menschenwürde erwachsenden Anspruch auf Beteiligung am Verfahren verletzt, war lediglich eine argumentative Verstärkung dieser Tatsache.³⁴ Wenn sprachverarbeitende Algorithmen jedoch in der Lage sind, in natürlicher Sprache mit Bürger*innen zu kommunizieren, stellt sich die Frage: ist dies ausreichend für eine rechtmäßige Anhörung und Begründung im Verwaltungsverfahren, oder bedarf es dafür einer menschlichen Instanz?

1. Erfüllung der Sachebene

In sachlicher Hinsicht erwecken fortschrittliche Sprachmodelle zumindest den äußeren Anschein, kommunikative Aufgaben wie eine Anhörung oder eine Begründung durchführen zu können. Sie können ein flüssiges Gespräch führen, auf Fragen und Hinweise des oder der Gesprächspartner*in eingehen, Antworten geben oder selbst Informationen sammeln und – wenn sie vorher entsprechende Anweisungen bekommen haben – eine Position argumentativ vertreten. Allerdings handelt es sich dabei stets nur um einen äußeren Anschein: um eine mathematisch gestützte Simulation eines Gesprächs und keine tatsächliche Unterhaltung. Algorithmische Sprachmodelle haben kein eigenes Verständnis von abstrakten Rechtsbegriffen wie „geboten“, „angemessen“ oder „Verhältnismäßigkeit“. Sie errechnen Wahrscheinlichkeiten des Auftretens bestimmter Wörter oder Wortgruppen in unterschiedlichen Kontexten und fabrizieren daraus auf Anfrage einen Text, der zwar (im Idealfall) so klingt wie die Erwiderung eines menschlichen Gegenübers, aber tatsächlich nicht durch ein konzeptionelles Verständnis gedeckt ist. Daraus folgt, dass algorithmisch generierte Texte mit einer gewissen Vorsicht zu genießen sind: nicht nur enthalten sie oft faktische Fehler, sie sind auch mangels eines konzeptionellen Wertverständnisses oft leicht manipulierbar. Dabei laufen sie auch bei sorgfältiger Programmierung Gefahr, von einem vorgegebenen Skript abzuweichen, wenn nämlich die wahrscheinlichste Antwort auf einen von dem oder der Nutzer*in gestellten Prompt nicht dem einprogrammierten Skript entspricht.³⁵ Hinzu kommt, dass eine gewisse Gefälligkeit in die aktuell am weitesten verbreiteten Sprachmodelle einprogrammiert ist. Diese LLMs sind zuvorderst auf Wohlwollen und Zufriedenheit der Endnutzer*innen angewiesen, um sich im Konkurrenzkampf mehrerer Softwarefirmen durchzusetzen. Daher werden Antworten bewusst so gestaltet, dass sie den oder die Endnutzer*in positiv gestimmt zurücklassen. Dies führt dazu, dass Sprachmodelle dazu neigen, sich allzu leicht von dem oder der Nutzer*in zu für letztere*n günstigen Ergebnissen überreden zu lassen.³⁶ All dies lässt LLMs zwar beispielsweise eine Anhörung im Verwaltungsverfahren überzeugend simulieren, jedoch bleibt fraglich, wie nützlich die erwartbaren Ergebnisse für Verwaltung und Bürger*in sind. Lässt sich der LLM allzu leicht von der Rechtsansicht des oder der Bürger*in überzeugen, mag dies zwar den oder die Bürger*in zunächst zufrieden stimmen – jedoch nur für kurze Dauer, wenn die Entscheidung letztlich doch anders ausfällt, etwa weil das von dem oder der Bürger*in erstrebte Ergebnis rechtlich schlicht nicht haltbar ist oder widerstreitende Interessen anderer Beteiligter unzureichend berücksichtigt wurden. Im Ergebnis muss daher bereits im Entwicklungsprozess dafür Sorge getragen werden, dass im Verwaltungsverfahren genutzte LLMs nicht zuvorderst auf Gefälligkeit und Wohlwollen des oder der Nutzer*in ausgerichtet sind, sondern auf Rechtssicherheit und klare Konformität mit den einschlägigen gesetzlichen Grundlagen.

Hierbei präsentiert sich die nächste Herausforderung: insbesondere Sprachmodelle sind oft zu komplex, um ihren Output abschließend erklären zu können, was es auch erheblich erschwert, gezielt Einfluss auf ihre Ergebnisse zu nehmen. So sind die wahren Auswirkungen einzelner Interaktionen auf die künftigen Verhaltensweisen von Chatbots häufig gering bis nicht existent, da sie nicht auf vergangene Chatprotokolle mit demselben Gegenüber zurückgreifen. Dies zeigt sich darin, dass sie in experimentellen Unterhaltungen etwa dazu manipuliert werden konnten, sich für fiktives vergangenes Fehlverhalten zu entschuldigen.³⁷ Während es sich dabei noch um ein unterhaltsames Anschauungsbeispiel für aktuelle technologische Unzulänglichkeiten handeln mag, deuten diese Muster jedoch auf ein strukturelles Problem hin: LLMs mögen nach außen sehr erfolgreich den Anschein menschlichen Verhaltens erwecken,³⁸ bleiben jedoch im Kern Simulationskünstler. Ihre schillernden Fassaden menschlichen Kommunikationsvermögens sind umso gefährlicher, da sie über die tatsächlichen Vorgänge im Innern hinwegtäuschen. Es bleibt daher fraglich, ob beispielsweise die im Rahmen einer Anhörung gewonnenen Informationen und Rechtsansichten auch tatsächlich im weiteren Verlauf der Entscheidungsfindung berücksichtigt werden, oder ob eine algorithmisch generierte Begründung die tatsächlich entscheidungserheblichen Gründe darstellt oder nur den höchsten statistischen Wert auf ihre Wortabfolge lieferte.³⁹ Hierbei ist auch die als Universallösung für Transparenzdefizite angepriesene “explainable AI” („erklärbare KI“ – selbstlernende Algorithmen, die in der Lage sind, ihre Arbeitsprozesse visuell oder sprachlich aufzubereiten und dem oder der Nutzer*in zu präsentieren) keine Hilfe. Insbesondere liefern diese Ansätze zumeist die falsche Art von Erklärung: im Verwaltungsrecht bedarf es nicht einer kausalen, generellen Erklärung der Datenverarbeitung, sondern einer juristischen, individuellen Begründung.⁴⁰ Sie muss sich auf die Rechts- und Tatsachenlage stützen und diese aufgreifen können, was ein gewisses konzeptionelles Verständnis von abstrakten Begriffen und Urteilsvermögen über Lebenssachverhalte erfordert. Derartige Begründungsansätze sind derzeit auch unter dem Ansatz der erklärbaren KI schwierig zu realisieren.⁴¹ Insbesondere bedarf es hier intensiverer Zusammenarbeit von Entwickler*innen und Verwaltungsjurist*innen, um Bedürfnisse, Möglichkeiten und Grenzen wechselseitig auszuloten und praxisgerechte Lösungen zu finden.

In der Gesamtschau ist die Erfüllung der sachlichen Funktionen von Anhörungs- und Begründungspflichten im Verwaltungsverfahren durch algorithmische Sprachmodelle bereits zweifelhaft, aber technologisch wohl künftig realisierbar. Dogmatisch problematischer bleibt hingegen die Frage, ob ein mittels LLMs vollautomatisiertes Verwaltungsverfahren auch mit den Vorgaben der Menschenwürde vereinbar wäre.

2. Erfüllung der Menschenwürde-Ebene

Wie oben herausgearbeitet, lässt sich die Menschenwürdegarantie im Verwaltungsverfahren vor allem auf ein Bedürfnis nach Selbstbestimmung und Einflussnahme auf das eigene Schicksal, aber auch nach Reziprozität, gegenseitigem Respekt und Empathie konkretisieren. Sie ist dabei jedoch nicht in ihrem abwägungsresistenten Kern betroffen: Erwägungen der Effizienz, Eilbedürftigkeit oder Eingriffsintensität können sie im Einzelfall überwiegen. Wie im vorherigen Abschnitt erörtert, lassen LLM-gestützte Verwaltungsverfahren durchaus zumindest den Anschein von Selbstbestimmung und Einflussnahme bei dem oder der Bürger*in entstehen. Ein Vorgaukeln kann hier aber nicht ausreichend sein. Vielmehr muss gewährleistet sein, dass die etwa im Rahmen einer automatisierten Anhörung gemachten Angaben tatsächlich in die endgültige Entscheidung einfließen – wenn sie sie auch im Einzelfall nicht unbedingt zugunsten des oder der Bürger*in zu kippen vermögen. In Hinblick auf den Aspekt der Gegenseitigkeit lässt sich hingegen mit gutem Grund bezweifeln, ob ein LLM-gestützter Chatbot diese Bedürfnisse erfüllen kann. Zwar können sprachverarbeitende Systeme gegebenenfalls eine überzeugende Simulation einer ebenbürtigen Argumentation auf Augenhöhe sowie eines empathischen Verständnisses für die Situation des oder der Bürger*in darbieten – wiederum vermag jedoch diese Simulation eine tatsächliche menschliche Auseinandersetzung nicht zu ersetzen. Je nach Konfiguration des LLM kann es sich sehr schnell oder aber gar nicht von einer rechtlichen Argumentation des menschlichen Gegenübers „überzeugen“⁴² lassen. Eine tatsächliche Auseinandersetzung auf Augenhöhe findet dabei nicht statt, da die Parteien bereits im Ansatz von grundverschiedenen Positionen starten. Da das LLM in seiner Reaktion fremdbestimmt, namentlich von seiner Programmierung abhängig ist, während das menschliche Gegenüber aus seiner eigenen Moral- und Wertüberzeugung argumentiert, mangelt es bereits im Ausgangspunkt an Ebenbürtigkeit. Auch Empathie kann von einem LLM zwar mustergültig vorgespielt werden,⁴³ liegt aber mangels eigener menschlicher Lebenserfahrung und geteiltem Erleben von Menschlichkeit nicht vor und kann auch nie vorliegen.

Nun bleibt fraglich, welche Schlüsse hieraus für die mögliche Praxis einer Verwaltungsverfahrensautomatisierung mittels LLMs zu ziehen sind. Dabei sind zwei Ebenen zu unterscheiden: die individuelle und die systematische Ebene. Auf individueller Ebene geht es um die Situation im Einzelfall, in der sich ein oder eine Bürger*in in einem automatisierten Verwaltungsverfahren befindet. Da die Menschenwürde im Verwaltungsverfahren nicht in ihrem abwägungsresistenten Kern betroffen ist, kommt eine Neukalibrierung der Abwägung verschiedener Belange und Interessen durchaus in Betracht. Wie oben bereits ausgeführt, sind die bisher gesetzlich verankerten Ausnahmen von Anhörungs- und Begründungspflichten unzureichend, um die Komplexität der Verfahrensautomatisierung mit LLMs abzubilden. Insbesondere durch die von der Automatisierung versprochene erhebliche Effizienzsteigerung verschiebt sich möglicherweise die bisher gültige Abwägung zwischen Effizienz und Partizipation, sodass die unterschiedlichen Interessen und Belange neu gewertet und ausbalanciert werden müssen. Möglich erscheint hier vor allem eine stärkere Berücksichtigung der Eigeninteressen und Vorlieben der Bürger*innen etwa durch ein Wahlrecht zwischen menschlicher und algorithmischer Bearbeitung ihrer Anliegen. Freilich wird es Fallkonstellationen geben, in denen es dem oder der Bürger*in weniger auf eine argumentative Auseinandersetzung auf Augenhöhe und mehr auf eine schnelle, rechtssichere Entscheidung ankommt. Nicht zuletzt ist auch das Recht auf ein zügiges Verfahren Ausfluss des Rechtsstaatsprinzips, welches ebenfalls auf der Menschenwürde gründet.⁴⁴ In dem dadurch eröffneten Widerstreit zwischen zwei durch die Menschenwürde determinierten Belangen – Verfahrensbeschleunigung vs. reziproke Kommunikation – erscheint es einleuchtend, die Auflösung des Konflikts dem jeweils betroffenen Menschen selbst zu überlassen. Entscheidend wird dabei sein, dass die Bürger*innen hinreichend über Vorteile und Risiken eines vollautomatisierten Verfahrens aufgeklärt sind, um eine informierte Entscheidung treffen zu können. Durch ein solches Wahlrecht kann die Menschenwürdegarantie im Verwaltungsverfahren in Bezug auf das jeweils betroffene Individuum gewahrt werden.⁴⁵

Weitet man jedoch den Blick auf eine systematische Betrachtung, werden Herausforderungen jenseits der individuellen Disposition eigener Interessen bzw. der selbstbestimmten Abwägung zwischen eigenen Belangen sichtbar. Es mag manchem Menschen verlockend erscheinen, die Verwaltung vollständig zu automatisieren, um Entscheidungen auf Knopfdruck herbeiführen zu können und damit die Effizienz der Verwaltung aufs Äußerste zu steigern. Dabei muss jedoch in Erinnerung gerufen werden, dass die Verwaltung nicht zuvorderst der Effizienz, sondern dem Gemeinwohl verpflichtet ist. Obwohl freilich der Ressourcenschonung und dem möglichst effektiven Einsatz öffentlicher Mittel eine hohe Bedeutung zukommt, darf diesem Prinzip letztlich nicht das Gemeinwohl geopfert werden.⁴⁶ Verfahrensschritte wie Anhörungen und Begründungen erfordern zwar Zeit und Aufwand von Verwaltungsmitarbeiter*innen, dienen aber einem in einer demokratischen Gesellschaft unabdingbaren Zweck: der Selbstbestimmung und Autonomie der Bürger*innen sowie ihrer Partizipation an gesellschaftlichen Aushandlungsprozessen. Dieser systematische Aspekt kollektiver Kommunikation und Partizipation droht durch Automatisierung zu verkümmern, indem jede*r Bürger*in in einer digitalen Echokammer gefangen bleibt, anstatt mit Ebenbürtigen über verschiedene Wertvorstellungen im Sinne eines demokratischen Austauschs zu verhandeln. Hierbei ist vor allem relevant, dass LLMs kein konzeptionelles Verständnis von „Gemeinwohl“ und anderen abstrakten Grundkonzepten demokratischen Zusammenlebens haben. Allenfalls kann ihnen eine mathematische Berechnungsformel einprogrammiert werden, mit dem sie im utilitaristischen Stil eine Maximierung mathematischer Annäherungswerte an das abstrakte Konzept von Gemeinwohl anstreben können.⁴⁷ Dabei muss jedoch auch bedacht werden, wer diese Programmierung vornähme: mangels eigener Kapazitäten und Kompetenzen dürfte diese Aufgabe in aller Regel von privaten Firmen übernommen werden, die von Verwaltungsbehörden mit der Entwicklung entsprechender Softwareprogramme beauftragt werden. Hierdurch wird die ständige Aushandlung gesellschaftlicher Werte und Prioritäten durch eine kleine Gruppe von Programmierer*innen ersetzt und damit dem gesamtgesellschaftlichen Kollektiv entzogen.⁴⁸ Indem so die Interessen und Werte der Gemeinschaft aus dem System herausgehalten werden, könnte die Schwelle zur Objektifizierung erreicht sein. In systematischer Hinsicht erscheint die Automatisierung von Verwaltungsverfahren damit durchaus problematisch. Zwar mag das systematische Argument im Einzelfall absurd anmuten, wenn man alltäglichen, rechtlich unkomplizierten Verwaltungsvorgängen demokratische Grundbedeutung anhaften möchte – jedoch summieren sich all die kleinen, alltäglichen Vorgänge letztlich zu einem System auf, welches durch die Summe kleiner Entscheidungen eine Gesamtprägung durch die Werte aller individuellen Beteiligten erhält. Hier findet sich auch das rechtsphilosophisch begründete Prinzip der Gegenseitigkeit wieder: indem alle Bürger*innen als gleichberechtigte Subjekte an der Aushandlung und Weiterentwicklung des Rechtssystems teilnehmen können, ist das resultierende System Ausdruck ihrer Autonomie und Selbstbestimmung. Ob und wie eine technische Lösung gefunden werden kann, um eine ebenbürtige Beteiligung an systematischen, wertegebundenen Aushandlungsprozessen zu ermöglichen, ist derzeit offen. Ebendiese dürfte aber Voraussetzung eines menschenwürdigen, vollautomatisierten Verwaltungsverfahrens sein.

V. Fazit

In der Gesamtschau zeigt sich, dass der Automatisierung der Verwaltung klare Grenzen zu setzen sind. Zwar sind die Effizienzgewinne, die durch Verfahrensautomatisierung locken, nicht von der Hand zu weisen, zumal diese angesichts der weitreichenden Kasuistik der höchsten Gerichte zur Verfahrensdauer ebenfalls eine grundrechtliche Dimension aufweisen. Zu beachten bleibt dabei aber, dass LLMs eine empathische Kommunikation auf Augenhöhe nur vorspiegeln können, mangels eigenen menschlichen Erlebens aber nicht aus wahrer Reziprozität heraus mit ihrem menschlichen Gegenüber kommunizieren können. Des Weiteren fehlt ihnen ein konzeptionelles Verständnis von abstrakten Begrifflichkeiten: sie können lediglich aus verschiedenen, zufällig gewählten Quellen eine Abfolge von Worten generieren, die einer Interpretation eines abstrakten Konzepts entspricht. Eine mehrheitliche Tragfähigkeit dieser Interpretation ist dabei nicht gewährleistet.

Auf individueller Ebene erscheint es denkbar, dass dem jeweils betroffenen Individuum ein Wahlrecht überlassen wird: er oder sie kann für sich abwägen, ob im konkreten Einzelfall das Interesse an schneller Bearbeitung oder an Empathie und ebenbürtiger Kommunikation mit einem Menschen überwiegt. Auf systematischer Ebene stellt eine weitgehende Verfahrensautomatisierung die Verwaltung jedoch vor größere Herausforderungen, da insbesondere gesellschaftliche Wertvorstellungen und Aushandlungsprozesse abgeschnitten werden können. Hier gebietet die Menschenwürde eine breit aufgestellte Beteiligung an der Kodierung kollektiver Werte in automatisierten Systemen, um der Autonomie und Selbstbestimmung der Bürger*innen Rechnung zu tragen.

Vita

Die Verfasserin ist Doktorandin und wissenschaftliche Mitarbeiterin am Lehrstuhl für Europarecht, Völkerrecht und Öffentliches Recht an der Universität Leipzig. Ihre Forschung zu verlässlicher, vertrauenswürdiger und rechtssicherer Künstlicher Intelligenz sowie digitaler Transformation im Rechtsstaat wird unterstützt durch das Bundesministerium für Forschung, Technologie und Raumfahrt im Rahmen des DAAD-Projekts 57616814 (School of Embedded Composite AI – SECAI).