🍻 Selber Bier Brauen

On Thursday, 23 July 2026, the (at that time) six candidates “running” for the position of United Nations Secretary-General (UNSG) came forward in the General Assembly Hall in New York to publicly present their visions for the organization’s future and answer questions, as part of the “UN Town Hall.” Several of the candidates are current and former senior officials of the UN and related agencies. Michelle Bachelet previously served as the UN High Commissioner for Human Rights (2018-2022) and executive director of UN Women (2010-2013). Two other candidates, Rafael Mariano Grossi and Rebeca Grynspan Mayufis, currently hold senior posts, serving as the Director General of the International Atomic Energy Agency (IAEA) and the Secretary-General of the United Nations Conference on Trade and Development (UNCTAD), respectively. Accordingly, they are campaigning for the top job while serving the organization – or, in Grossi’s case, the wider institutional family – they hope to lead.

The nomination of current and former senior officials reflects an emerging pattern: during the 2006 selection, one current and one former Under-Secretary-General were nominated (out of seven candidates total), and in 2016, five out of ten candidates had either served or were actively serving at the Assistant Secretary-General level or above. Only once has a serving UN official been selected as UNSG, when Kofi Annan was elected in 1996. At present, the likelihood of this repeating in the upcoming election seems to be high.

Drawing on these developments, this post will explore the nature and procedure of the UNSG appointment, the challenges that arise when senior officials “run” for the highest office, and propose recommendations to mitigate these concerns.

The UNSG Appointment Procedure

Article 97 of the United Nations Charter sets out the basic procedure for the appointment of the UNSG. Accordingly, the General Assembly appoints the UNSG upon the recommendation of the Security Council.  Over the years, however, the details of this process have been outlined in General Assembly resolutions, most recently A/Res/79/237 (2025).

The appointment process takes approximately a year, beginning with a joint letter by the Presidents of the General Assembly and the Security Council to the Member States announcing the commencement of the process and inviting states to present their candidates (para 42(a)). States then nominate candidates. They can do so individually or as a group, but are only permitted to support one candidate, unlike other UN election processes (para 42(d)). States may withdraw their candidate at any time (para 42(f)), as the Maldives recently did to the candidacy of Virginia Gamba – who until recently was also a senior UN official.

In line with the principles of transparency emphasized by the resolution, information about the candidates is made publicly available on the UN website. They, in turn, are asked to provide a “campaign financing disclosure,” a vision statement, and curriculum vitae (paras. 42(g), 42(h) and 42(j)).

Additionally, the resolution explicitly states that to provide the “opportunity to present her or his vision,” the President of the General Assembly will convene “webcast interactive dialogues” with the candidates (para 42(g)) and has also been tasked with convening other “informal […] meetings” (see para 42 of resolution A/Res/69/327). The manner in which these should be conducted is at the discretion of the President, though they are understood to need to take place before the Security Council deliberations. Accordingly, these have included individual “webcast interactive dialogues,” which took place in April and June, as well as the “Town Hall,” a form of public debate among all the candidates. The Security Council has also raised the option to hold “informal dialogue” with the candidates, as per its previous practice.

Traditionally, the Security Council only recommends one candidate to the General Assembly. The recommendation is transferred through the incumbent UNSG, with the numbered results. The General Assembly then votes by secret ballot in a public meeting. This entire process must be done by the last quarter of the year, before the newly designated UNSG assumes office, to allow for preparation (para 42(l)). Accordingly, as António Guterres’s term will end on 31 December 2026, the Security Council took its first straw poll on 30 July 2026, and the appointment must be made by December 2026.

Appointment or Election?

Article 97 and subsequent resolutions refer to the process as an “appointment”, rather than an “election”. This was not an obvious choice: while the Dumbarton Oaks Proposals suggested the term ‘elected’ be used, the San Francisco Conference chose the term ‘appointed’ to emphasize the role’s administrative character. However, as commentators have noted, “[t]hese terminological issues masked the intensely political nature of the appointment process, a process in the end dominated by the permanent members of the [Security Council].” These “masks” have since been slowly linguistically removed. The language in the resolution expressly states candidates’ “campaigns” (paras 42(j) and 42(i)), and the “appointment” wording has sometimes been softened to “selection.”

This question stems from an underlying question relating to the UNSG’s roles and required qualifications. The Preparatory Commission has grouped the functions into six: “general administrative and executive functions, technical functions, financial functions, the organization and administration of the International Secretariat, political functions and representational functions.” Accordingly, Article 97 defines the UNSG as “the chief administrative officer of the organization.” He or she is part of the Secretariat, but also carries broader responsibilities. On the other hand, the UNSG also has political functions, which stem from the “other functions” (Article 98) and the discretion to determine a threat to peace and security (Article 99). This includes representation of the institution and, it has been argued, “norm entrepreneurship.”

While there are no formal required qualifications, there have been some calls for criteria in General Assembly resolutions. Some emphasized the need for a “commitment to the purposes and principles of the Charter of the United Nations, extensive leadership, and administrative and diplomatic experience,” others “the highest standards of efficiency, competence and integrity,” (that is, that candidates for the Secretary-Generalship must be measured against the same basic criteria laid down for Secretariat staff in article 103), and “proven leadership and managerial abilities, extensive experience in international relations and strong diplomatic, communication and multilingual skills.” Recently, calls for regional and gender representation have been made by the General Assembly.

The Complexities of Running from Within

Importantly, the resolution clearly states that “[c]andidates holding positions in the United Nations system should consider suspending their work in the United Nations system during the campaign, with a view to avoiding any conflict of interest that may arise from their functions and adjacent advantages” (para 42(i)). Similar rules apply, with varying degrees of strictness, in many domestic political systems, and are intended to maintain the political neutrality of the civil service. Such rules are often accompanied by restrictions on public expression, as is the case for United Nations staff members, who are expected not to publicly support or oppose candidates for the UNSG position.

The steps contained in para 42 of the resolution 79/327 reflect a wider attempt to democratize the selection of the UNSG and to introduce safeguards to protect the integrity of the organization during leadership transitions. However, the guidance contained in para 42 of the resolution is imperfect and raises several challenges. First, for certain roles, including those held by the current candidates, it is simply not realistic, and may even be undesirable, for some candidates to suspend their current work. It is one thing for a staff member, up to and including a director-level role, to take temporary leave; it is another altogether for an Under-Secretary-General or Assistant Secretary-General, or the head of a related organization, to do so. Officials appointed by the Secretary-General to these roles (and indeed, those elected to their positions by States) depend on repeat engagement with States and other stakeholders to effectively fulfill their mandate, meaning their roles have dual political and administrative functions. Additionally, the leadership of an organization has an important impact on its culture and agenda, and its absence may negatively affect the work.

Second, candidates occupying senior roles find themselves in a complex position, as they must maintain the impartiality and independence demanded of international civil servants (which, although required, is not always practiced) even as they navigate the political nature of State endorsements for the UNSG position. They also need to communicate their vision for the future of the organization, extending beyond their current portfolios. They are incentivized to publicize the work of their organizations: although this is a logical campaign strategy in the abstract, doing so runs the risk of politically exposing their organizations. They may also be incentivized to downplay shortcomings and possibly to be defensive toward constructive criticism that is instrumental in ensuring improvement of any work. These complexities are heightened if candidates are unsuccessful in securing the UNSG role, but their tenure in their current position continues during the appointed UNSG’s term.

A Path Forward

The guidance contained in para 42 of resolution does not sit comfortably with the nature of most senior roles. It is unrealistic for people in these roles to withdraw from their duties, and they are required to navigate a particularly dense web of competing interests during the pre-selection process. The abovementioned challenges are side effects of a partially democratized system that imports elements of electoral due process without fully committing to a liberal democratic model, or indeed to an “election” proper. They reflect an increased public and international interest in the Secretary-Generalship, which has re-shaped the balance between its political and administrative nature. As the guidance mostly does not consist of strict rules, this raises the question of how these challenges ought to be navigated.

In our view, the following expectations are realistic for senior officials to commit to as part of the appointment process:

First, while it is understandable that senior candidates cannot be expected to suspend their work, they should ensure that their professional impartiality and the independence of their agency or organization are not influenced by the selection process.

Second, such candidates should not use their positions as a tool in the selection process and, insofar as possible, keep their roles separate from their candidacy. Their current roles and their candidacy must not become a means of securing State support for either. They must demonstrate an overarching commitment to preserving the political neutrality and impartiality of the UN and its related organizations.

Third, candidates holding senior leadership roles within the United Nations must be particularly careful in communicating their personal views, including on the organization’s current state and future trajectory. They should take particular care to demonstrate their fidelity to the United Nations and to the incumbent UNSG.

Fourth, candidates holding senior leadership roles should, if they are unsuccessful in securing the UNSG appointment, engage directly and in good faith with the UNSG elect in order to determine whether continuing in their current role is tenable.

In our view, these simple steps would help safeguard the political neutrality of the international civil service. They will contribute to ensuring that the campaigns of senior officials are conducted in a manner that preserves the required independence and impartiality of the United Nations and related organizations. They strike a balance between enabling international civil servants to be considered for the top leadership role and reducing the risks of taking undue advantage of their present position. The General Assembly and Security Council could, for future selection processes, give these or similar expectations a more authoritative form.

Of course, none of this suggests that a candidate “from within” should be expected to undermine their own viability. They, like every other candidate, are free to campaign – but their position requires particular care in doing so. This is true today and will remain true if and when the UNSG process becomes more fully democratized. Member States should remain engaged in refining the selection process and continue their efforts to develop guidelines and rules for candidates that preserve the integrity of the United Nations itself.

The post Campaigning From Within appeared first on Verfassungsblog.

Seit dem „ChatGPT-Moment“ im Herbst 2022 ist an Hochschulen eine lebendige Debatte entfacht. Es geht dabei um zeitgemäßes Lehren und Prüfen, aber ebenso um den Wert menschlicher Leistungen sowie die Zukunft der (Hochschul-)Bildung.

Während es inzwischen erste Leitlinien für den KI-Einsatz in wissenschaftlichen Publikationen (z.B. durch die DFG) gibt, fehlen weiterhin Standards für den Umgang mit KI in Hochschulprüfungen. Bayern wagt mit dem „KI-Verbot-Verbot“ nun einen ersten regulatorischen Schritt und formuliert in Art. 84 Abs. 3 S. 1 Nr. 9 BayHIG-E einen Gestaltungsauftrag an die Hochschulen. Diese haben in ihren Prüfungsordnungen „die wesentlichen Fragen im Hinblick auf Prüfungsanforderungen und Prüfungsverfahren“ zu regeln, wonach nunmehr auch „die Zulässigkeit der Nutzung von KI-Systemen als Hilfsmittel“ zählen soll. Hierbei soll – so der Gesetzentwurf der Staatsregierung – die Nutzung bei nicht beaufsichtigten schriftlichen Prüfungen nicht ausgeschlossen werden.

Dieser regulatorische Vorstoß kommt bei Elmentaler und Hof nicht gut weg, sie halten ihn für mit der Lehrfreiheit (Art. 5 Abs. 3 GG) „unvereinbar und mithin verfassungswidrig.“ Zudem sehen sie darin den „Ausdruck einer gesetzgeberischen Überschätzung von KI […] und einer Abwertung der Hochschullehre […].“ Auf dem Weg zu diesen Schlussfolgerungen entgehen ihnen jedoch gewichtige Argumente, die für die Verhältnismäßigkeit und damit Verfassungsmäßigkeit der bayerischen Regelung sprechen – eine Replik:

Verboten wird nur, was ohnehin rechtswidrig wäre

Die von den Autor*innen betonte Reichweite und Bedeutung der Lehrfreiheit als Teil der Wissenschaftsfreiheit (Art. 5 Abs. 3 GG) steht hier nicht zur Diskussion. Dass Art. 84 Abs. 3 S. 1 Nr. 9 BayHIG-E in die Lehrfreiheit eingreift, ist unbestritten und wird auch durch die Ausführungen in der Entwurfsbegründung entsprechend berücksichtigt. Indes verkennen Elmentaler/Hof einen gewichtigen Punkt: „Verboten“ sollen nur solche Prüfungen werden, die aufgrund eines Verstoßes gegen die Chancengleichheit der Studierenden ohnehin rechtswidrig wären. Dies sind solche Prüfungen, bei denen das Nutzen von KI durch die Prüfenden zwar verboten wird, von ihnen jedoch nicht nachgewiesen und damit nicht sanktioniert werden kann. Ein solches – grundsätzlich nicht durchsetzbares – Verbot begegnet grundlegenden rechtsstaatlichen Bedenken. Auch bei unklareren Vorgaben zum KI-Einsatz, etwa durch ein bloßes Dulden, kommt es zu einer entsprechenden Ungleichbehandlung. Jeweils werden wesentlich Ungleiche (Prüfungsteilnehmende, die KI zur Prüfungsbearbeitung nutzen, und Prüfungsteilnehmende, die dies nicht tun) ungerechtfertigt gleichbehandelt, nämlich anhand derselben Bewertungsmaßstäbe beurteilt. Unbeaufsichtigte schriftliche Prüfungen zeichnen sich dabei dadurch aus, dass eine eigenständige schriftliche Leistung erbracht werden soll, d.h. irgendeine Art von Textproduktion gefordert ist, die mit verschieden gewichtigen Schritten, wie Literaturrecherche, Strukturierung und Schwerpunktsetzung, Berücksichtigung formeller Vorgaben sowie der korrekten Verwendung von Orthografie und Grammatik, verbunden ist. All diese Aspekte lassen sich, je nach Fach und Aufgabe, mehr oder weniger gut durch KI-Anwendungen erfüllen. Dadurch unterscheidet sich das Hilfsmittel KI in seiner Qualität entscheidend von bisherigen technischen Hilfsmitteln wie Suchmaschinen oder Datenbanken. Die Prüfungsumgebung (Ort und Zeit der Bearbeitung, genutzte Infrastruktur und Hilfsmittel) liegt bei unbeaufsichtigten Prüfungen dabei gerade nicht im Einflussbereich der Hochschulen.

Wenn ein KI-Einsatz nicht bereits während der Bearbeitung ausgeschlossen werden kann, verbleibt nur die Möglichkeit eines an die Bearbeitung anschließenden Nachweises. Doch genau das ist in der Regel unmöglich. Anders als bei einem Plagiat gibt es, abgesehen von Einzelfällen, in denen Studierende die KI-Nutzung zugeben (z.B. VG Kassel, Urt. v. 25.2.2026 – 7 K 2515/25), oder einer sehr dilettantischen Nutzung, (bisher) keinen Weg, von der schriftlichen Ausarbeitung auf den Einsatz von KI zu schließen. Sog. KI-Detektoren arbeiten auf der Basis von Wahrscheinlichkeiten und können allenfalls ein Indiz liefern. Zahlreiche Beispiele belegen ihre Fehleranfälligkeit und das ihnen innewohnende Potential für weitere Ungleichbehandlung (etwa, wenn Texte von Nicht-Muttersprachlern häufiger als KI-generiert bewertet werden). Auch die Gerichte sind sich bisher nicht einig, welche Merkmale eines Textes denn nun für einen KI-Einsatz sprechen sollen. Während das VG München auf die besonders hohe Qualität, Inhaltsdichte, Stringenz und Fehlerfreiheit des Textes abstellte, sah das LG Darmstadt (Beschl. v. 10.11.2025 – 19 O 527/16) gerade in einem besonders schlechten Stil (u.a. einfache und sich wiederholende Satzstrukturen, sprachliche Brüche sowie generische Zusammenfassungen) den Beleg für KI. Das VG Berlin kam hingegen nach sprachlicher Analyse eines Prüfungstextes aufgrund von Unterschieden in der Qualität einzelner Abschnitte innerhalb einer Arbeit zu der Überzeugung, dass KI genutzt worden war (Urt. v. 20.05.2026 – VG 12 K 305/24). Dass entsprechend ebenso wenig die Grundsätze des Anscheinsbeweises herangezogen werden können, hat die rechtswissenschaftliche Literatur vielfach dargelegt.¹⁾

Im Ergebnis ist ein Verbot der KI-Nutzung in unbeaufsichtigten schriftlichen Prüfungen rechtlich nicht haltbar.

Warum dann eine gesetzliche Regelung treffen?

Bei diesem klaren Befund könnte man daher allenfalls fragen: Warum dann eine gesetzliche Regelung treffen?

Die Antwort liefert die Praxis. Die konkreten Zahlen unterscheiden sich zwar je nach Umfrage, doch der Befund ist klar: Der Großteil der Studierenden nutzt KI regelmäßig, wohl auch in Prüfungen (s. etwa hier und hier). Bei der Frage, ob ein KI-Einsatz in Prüfungen zulässig sein sollte, gehen die Meinungen indes auseinander, gewünscht und gefordert werden jedoch klare Vorgaben sowie die Vermittlung von KI-Kompetenz. Doch das vermag die Hochschulpraxis bisher nicht zu leisten.

In der Konsequenz gehen Unsicherheiten derzeit vielfach zu Lasten der Prüfungsteilnehmenden, erbrachte Leistungen werden unter „KI-Verdacht“ gestellt und das Vertrauensverhältnis zwischen Lehrenden und Studierenden gerät unter Druck (zu diesen Entwicklungen etwa Heckmann und Sigmund). Der bayerische Vorstoß ist daher kein Ausdruck von Misstrauen gegenüber den Hochschulen und Lehrenden, sondern kann vielmehr als das Gegenteil verstanden werden: als konkreter Gestaltungsauftrag unter Aufzeigen (grund-)rechtlicher Leitplanken. In der aktuellen Ausgestaltung („soll“ statt „muss“) berücksichtigt die Entwurfsfassung sogar die (wohl eher theoretische) Möglichkeit abweichender Einzelfälle, also unbeaufsichtigter schriftlicher Prüfungen, bei denen sich doch aufgrund der spezifischen Umstände ein KI-Hilfsmittel-Verbot durchsetzen lassen würde. Selbstverständlich ist auch eine Soll-Vorschrift – anders als es die Autor*innen behaupten – rechtsverbindlich. „Sollen“ bedeutet auch nach ständiger Rechtsprechung des Bundesverwaltungsgerichts „Müssen“ mit einer (gerichtlich überprüfbaren) Ausnahme in atypischen Fällen (BVerwG, Beschl. v. 10.03.2009 – OVG 9a D 149/06.G, Rn. 2).

Somit lässt sich auch der mit dem KI-Verbot-Verbot verbundene Eingriff in die Lehrfreiheit rechtfertigen: Art. 84 Abs. 3 S. 1 Nr. 9 BayHIG-E zielt auf die Gewährleistung chancengerechter Hochschulprüfungen unter den durch KI veränderten Bedingungen ab. Die Regelung ist geeignet, da durch sie solche Prüfungen unterbunden werden sollen, die nicht entsprechend dem sich aus Art. 3 Abs. 1 iVm Art. 12 Abs. 1 GG²⁾ ergebenden Maßstab ausgestaltet werden können. Ein gleich geeignetes milderes Mittel steht nicht zur Wahl. Denn bisher ist es Hochschulen und Lehrenden ohne eine entsprechende Regulierung nicht gelungen, die KI-bedingten Rechtsunsicherheiten abzubauen. Es ist vertretbar zu erwarten, dass Art. 84 Abs. 3 S. 1 Nr. 9 BayHIG-E zu einem Mehr an Chancengerechtigkeit führt und so die Verwirklichung der Grundrechte der Studierenden positiv beeinflusst. Die Eingriffsintensität wird durch die Verwendung des Modalverbs „soll“ zudem bereits abgemildert und lässt Raum für Abweichungen im Einzelfall. Auch auf Ebene der Angemessenheit stehen dem „KI-Verbot-Verbot“ keine Bedenken entgegen. Die Lehrfreiheit wird nur hinsichtlich unbeaufsichtigter schriftlicher Prüfungen punktuell eingeschränkt. Der Gestaltungsauftrag liegt bei den Hochschulen. Den Lehrenden verbleibt es darüber hinaus unbenommen, ihren Unterricht und auch ihre Prüfungen „KI-frei“ zu gestalten und etwa auf andere Prüfungsformate zu wechseln.

Was bleibt nun von der Kritik am „KI-Verbot-Verbot“?

Der mit dem Aufkommen von KI einsetzende Paradigmenwechsel im Hochschulwesen wurde in Bayern erkannt und mit Art. 84 Abs. 3 S. 1 Nr. 9 BayHIG-E stellt die Staatsregierung einen konkreten Vorschlag für den Umgang mit KI in Hochschulprüfungen zur Diskussion. Dabei kann man überlegen, ob man das Framing als „Verbot-Verbot“ für überzeugend hält und der Begriff „Künstliche Intelligenz“ einer stärkeren begrifflichen Einordnung bedarf, oder ob sich umgekehrt der konkrete rechtliche Auftrag für die Normadressaten (Hochschulen) hier ausreichend aus dem Kontext ergibt.

Angesichts der aufgezeigten Schwierigkeiten, einen KI-Einsatz nachzuweisen, stellt sich außerdem die berechtigte – von Elmentaler/Hof indes nicht aufgeworfene – Frage, wie es dann um die „Vorgaben zu Umfang und Art einer Dokumentation der Nutzung“ steht, die die Hochschulen vorsehen sollen. Auch diese ließen sich praktisch nicht überprüfen, ggf. ebenso mit KI erzeugen und dienten daher eher als Reflexions- und Fleißaufgabe sowie der Transparenz aus Gründen der wissenschaftlichen Redlichkeit.

Soll die KI-Nutzung perspektivisch nicht nur nicht verboten, sondern vielmehr Bestandteil von Prüfungsleistungen werden, so müssen dann konsequenterweise die auf die Prüfung vorbereitende Lehre sowie die Bewertungskriterien angepasst werden. Dies umfasst neben der Vermittlung von KI-Kompetenzen auch die Bereitstellung eines rechtskonform nutzbaren, insbesondere den datenschutzrechtlichen Vorgaben entsprechenden, KI-Tools durch die Hochschulen.³⁾. Hierzu sind im BayHIG noch keine Vorgaben angelegt, diese Entwicklung wird durch den Entwurf allenfalls mittelbar gefördert.

Im Ergebnis besteht die Leistung des gesetzgeberischen Vorstoßes somit darin, einen grundrechtswidrigen Zustand nicht einfach zu akzeptieren, sondern Leitplanken aufzuzeigen und einen konkreten Gestaltungsauftrag an die Hochschulen zu formulieren. Während man über die Ausgestaltung des „KI-Verbot-Verbots“ im Detail durchaus diskutieren kann, ergeben sich hierbei jedoch keine durchgreifenden verfassungsrechtlichen Bedenken.

The post Warum ein „KI-Verbot-Verbot“ nicht verfassungswidrig ist appeared first on Verfassungsblog.

Darf bald eine KI mitentscheiden, wer in Deutschland bleiben darf? Am 29. Juli 2026 verabschiedete das Bundeskabinett den Entwurf des neuen KI-Migrationsverwaltungsgesetzes (KIMVG). Der Entwurf sieht vor, das BAMF, die kommunalen Ausländerbehörden und das Auswärtige Amt mit der Befugnis auszustatten, erhobene Antragsdaten sowie personenbezogene Daten vergangener Verfahren für die Entwicklung neuer, KI-basierter Modelle zu nutzen. Technologie rückt damit weiter aus der Rolle des bloßen Regulierungsobjekts in die eines eigenständigen Regulierungsinstruments. Diese Entwicklung ist nicht risikolos – dem Entwurf mangelt es unter anderem an einem tragfähigen Konzept rechtsstaatlicher Kontrolle für die neuen Befugnisse. Das KIMVG zieht in seinen Ansätzen dennoch konsequente Schlüsse aus einer Rechtspraxis, die sich nicht mehr in ein vortechnisches Zeitalter zurückführen lässt.

Dreifache Automatisierung

Konkret schafft der Entwurf drei neue Instrumente, die künftig die Vorschriften des Asyl- und des Aufenthaltsgesetzes ergänzen sollen: eine Verarbeitungsbefugnis zum Trainieren, Validieren und Testen von KI-Systemen und anderen automatisierten Anwendungen, ein automatisiertes Verfahrensmonitoring zur Auswertung abgeschlossener Verfahren und bisheriger Entscheidungsmuster sowie einen automatisierten Abgleich entscheidungserheblicher Angaben mit öffentlich zugänglichen Internetdaten bei begründeten Zweifeln an deren Richtigkeit. Die Bundesregierung erhofft sich dadurch, Verwaltungsverfahren „effizienter, einheitlicher, qualitativ hochwertiger und sicherer“ zu gestalten. Unterschiedliche Verbände, darunter Pro Asyl, Caritas und AlgorithmWatch, warnen hingegen vor Diskriminierungsrisiken und mangelnden Rechtsschutzmöglichkeiten der Betroffenen. Sie fordern eine Ablehnung oder zumindest grundlegende Überarbeitung des Entwurfs im Parlament.

Hintergrund der Kritik dürften dabei eher abschreckende Beispiele aus Ländern sein, die KI-Anwendungen schon in der Migrationsverwaltung aktiv nutzen: in den USA etwa das Programm „Catch and Revoke“, das Social-Media-Aktivitäten von Visainhaber:innen mittels KI auf unerwünschte politische Positionen durchsucht, oder der vielfach kritisierte Versuch des Vereinigten Königreichs, das Alter unbegleiteter minderjähriger Asylsuchender per KI-gestützter Gesichtsanalyse zu schätzen. Der deutsche Entwurf schließt zwar die Verarbeitung biometrischer Daten für bestimmte Anwendungen aus (§ 7a Abs. 1 S. 3, § 7b Abs. 1 S. 2 AsylG; § 90d Abs. 1 S. 3, § 90e Abs. 1 S. 2 AufenthG). Gerade für die Entwicklung und das Training neuer Modelle gilt dieser Ausschluss jedoch nicht (§ 7 Abs. 2a AsylG; § 86 Abs. 2 AufenthG) – die Vagheit der Befugnis lässt hier durchaus Spielraum.

Die Diskussion um den Einsatz von Technologie im Recht folgt damit bereits gut bekannten Argumentationslinien: Aufseiten des Staates liebäugelt ein überlasteter Verwaltungsapparat mit den Verheißungen technischer Innovation, während aufseiten der Zivilgesellschaft die Sorge um deren rechtsstaatliche Kontrolle weiter wächst.

Bisherige Automationsbestrebungen im Überblick

Es handelt sich bei dem aktuellen Entwurf keinesfalls um den ersten Versuch, sogenannte „lernende“ oder „intelligente“ Systeme zur Ausübung von Hoheitsgewalt einzusetzen. Ähnlich wie im Ausland blickt man auch in Deutschland auf eine bisher wenig erfolgreiche Historie der Verwaltungsautomation im Bereich Flucht und Migration zurück. So steht die vom BAMF seit 2017 eingesetzte automatisierte Sprach- und Dialekterkennungssoftware zur Herkunftsverifizierung von Asylsuchenden („DIAS“) wegen erheblicher wissenschaftlicher Zweifel an ihrer Zuverlässigkeit seit Jahren in der medialen Kritik. Laut einem Bericht von AlgorithmWatch betreffen diese Zweifel insbesondere die Erkennung von Farsi, Dari, Pashto sowie mehrere arabische Dialekte – ausgerechnet jene Sprachen, die für einen Großteil der Asylbegehren relevant sein dürften. Auch das groß angekündigte EU-Projekt iBorderCtrl, das ab 2016 eine Art KI-gestützten „Lügendetektor“ zur Einreisekontrolle testete, geriet früh unter Druck. Schon während der Testphase bezweifelten Wissenschaftler:innen, dass sich Täuschungsabsichten der Einreisenden anhand der Auswertung sogenannter Mikrogesten – unwillkürlicher, oft nur Sekundenbruchteile andauernder Gesichtsbewegungen – zuverlässig erkennen ließen. Die Forschungsförderung der EU lief 2019 aus, ohne dass es zu einem regulären Einsatz kam. Für viele Entscheidungen setzt das BAMF hingegen auch „deterministische“, also nach festen Regeln arbeitende Systeme ein, deren Ergebnis bei gleicher Eingabe stets identisch ausfällt. So zum Beispiel bei der Erstverteilung von Geflüchteten im Bundesgebiet. Seit 1993 kommt hier das System EASY (damals noch Erstaufnahme Asyl) zum Einsatz. Es setzt weitestgehend die Verteilungsquoten des Königsteiner Schlüssels um und optimiert dabei organisatorische Zielgrößen: kurze Reisewege, geringe Reisekosten und eine gleichmäßige Auslastung der Aufnahmeeinrichtungen.

Dass das BAMF gerade an dieser Stelle noch nicht nachgebessert hat, verwundert. Mehrere Staaten erproben schon lernende, genauer gesagt probabilistische Matching-Verfahren zur Verteilung von Zuwandernden. Die Schweiz, die Niederlande und Kanada pilotieren hierfür den von der ETH Zürich und der Stanford University entwickelten Algorithmus GeoMatch. Er verarbeitet Merkmale wie Bildungsabschlüsse, Sprachkenntnisse oder regionale Arbeitsmarktbedarfe auf Basis historischer Daten. Die kapazitätsgerechte Zuweisung lässt sich so für ein beliebiges Zielmerkmal – etwa die Wahrscheinlichkeit erfolgreicher Arbeitsmarktintegration – optimieren. Nach Angaben des Forschungsteams konnte in den ersten Tests die Wahrscheinlichkeit, dass Geflüchtete eine Beschäftigung finden, fast verdoppelt werden – ein Faktor mit entscheidender rechtlicher und sozialer Bedeutung für einen langfristigen Verbleib im aufnehmenden Land. In Deutschland existiert mit dem an den Universitäten Hildesheim und Erlangen-Nürnberg entwickelten Projekt Match’In zwar ein vergleichbares Testprojekt; dieses weist jedoch einen entscheidenden Unterschied auf: Die Zuweisungskriterien werden qualitativ erarbeitet und nicht datengetrieben entwickelt.

Der Mensch als Feigenblatt der Maschine

Ermöglicht die Bundesregierung nun verschiedenen Behörden der Migrationsverwaltung den Einsatz von „KI-Systemen“ zur Auswertung sensibler Daten, ohne festzulegen, welche Systeme in welchem Rahmen vorgesehen sind, bleiben Regelungsgegenstand und Reichweite des Vorhabens zunächst unklar: Unter dem Label der „Künstlichen Intelligenz“ versammelt sich mittlerweile eine äußerst heterogene Modelllandschaft, die der europäische Gesetzgeber nur lose über die Fähigkeit verbindet, zu lernen und in gewissen Grenzen autonom zu agieren (vgl. dazu Art. 3 Nr. 1 KI-VO). „KI-Systeme“ reichen damit von vergleichsweise einfachen statistischen Analysen, die etwa auffällige Muster in Antragsdaten markieren, bis hin zu generativen Sprachmodellen, die selbstständig Falleinschätzungen vorschlagen können. Mag dem Gesetzgeber diese Pauschalisierung angesichts der kaum zu prognostizierenden Entwicklung lernender Systeme noch nachzusehen sein – das Fehlen elementarer Vorkehrungen für eine kontinuierliche Entscheidungskontrolle ist es nicht. Dabei geht es nicht bloß um die Überprüfung der Funktionsfähigkeit der eingesetzten Modelle per se, sondern darum, ob und wie die Entscheidungsergebnisse für die Betroffenen im Einzelfall kontrolliert werden können. Gerade für lernende Algorithmen stellt die Möglichkeit der Einzelfallkontrolle jedoch eine nicht zu unterschätzende Hürde dar: Moderne Informations- und Kommunikationssysteme interagieren in nicht-linearen Abläufen und erzeugen durch Rückkopplungsschleifen (feedback loops) emergente Eigenschaften, die sich weder vollständig verstehen noch auf spezifische kausale Faktoren zurückführen lassen. Diese Eigenschaft – auch als methodische Opazität bezeichnet – erschwert im Verwaltungsverfahren vor allem die Begründung automatisierter Entscheidungen.

Der Gesetzgeber ist sich zumindest eines Teils des Risikos bewusst. Um rechtliche Kontrolle zu stärken, hebt die Gesetzesbegründung den Menschen als letztinstanzlichen Entscheider hervor – eine arbeitsteilige Konstruktion, die auch als Human in the Loop bekannt ist. Der „Mensch in der Schleife“ wirkt auf den ersten Blick wie eine Art Menschenvorbehalt für automatisierte Entscheidungen. Die rechtliche Attraktivität dieser Konstruktion liegt auf der Hand: Sie erlaubt es, die Effizienzgewinne der Automatisierung mitzunehmen, ohne die etablierten Kategorien von Zurechnung, Haftung und gerichtlicher Kontrolle antasten zu müssen. Dass allein die Anwesenheit eines Menschen bereits menschliche agency garantiert, greift jedoch zu kurz – und zwar in zweifacher Hinsicht:

Zunächst zeigen experimentelle Befunde, dass Menschen von algorithmischen Prognosen derart beeinflusst werden können, dass sie von der automatisierten Empfehlung faktisch kaum abweichen. Dieses in den Verhaltenswissenschaften als automation bias bekannte Phänomen lässt sich auch in rechtlichen Entscheidungsszenarien nachweisen. Der Mensch ist hier zwar formal beteiligt, übt seinen Entscheidungsspielraum aber faktisch nicht aus. Rechtlich kann es darüber hinaus Fälle geben, in denen bereits die Automatisierung einzelner Normenteile das Handeln so weit determiniert, dass zwar formal eine menschliche Kontrolle stattfindet, die tatsächliche Entscheidungsfreiheit aber auf ein Minimum reduziert ist. In diesen Fällen bleibt dem Menschen die Ausübung seiner Kontrollfunktion verwehrt, auch wenn er sie wahrnehmen wollte.

In Anbetracht des vielschichtigen Zusammenwirkens von Mensch und Maschine hat die Datenethikkommission bereits in einem Gutachten aus dem Jahr 2019 darauf hingewiesen, dass für die Bewertung menschlicher Autonomie nicht allein bestimmend sein sollte, ob ein Mensch an der Entscheidung beteiligt ist, sondern vor allem in welchem Maße seine Beteiligung noch Einfluss auf das Entscheidungsergebnis hat. Andernfalls droht dem Menschen die Rolle eines bloßen liability sponge – eines Zurechnungsadressaten für eine Entscheidung, die algorithmisch längst determiniert ist. Die Anforderungen an die menschliche Überprüfung aus dem KIMVG greifen diese Differenzierung nicht auf. Sie sehen lediglich punktuell Personalschulungen für den Umgang mit den Systemen vor (so bspw. § 7a Abs. 5 S. 1 AsylG und § 90d Abs. 5 S. 1 AufenthG). Wie allerdings darüber hinaus eine menschliche Aufsicht ausgestaltet werden soll, die tatsächlich fehlerhafte oder potenziell diskriminierende Entscheidungen erkennen und korrigieren kann, bleibt offen.

Warum Umkehr keine Lösung ist

Die potentiellen Rechtsschutzdefizite des KIMVG sind gravierend; sie rechtfertigen aber keinen Rückzug von der Automatisierung als solcher. Dies hat nicht nur, aber auch etwas mit verfahrensökonomischen Erwägungen zu tun. Denn gerade der Verwaltungsapparat steht angesichts wachsender Staatsaufgaben unter erheblichem Produktivitätsdruck. Der dbb beamtenbund und tarifunion bezifferte die Personallücke im öffentlichen Dienst 2025 auf über 600.000 fehlende Beschäftigte – besonders betroffen seien Schulen, Pflegeeinrichtungen und die Justiz; dbb-Chef Volker Geyer warnt vor einem drohenden Staatsversagen. Im Sinne der Rechtsmaxime justice delayed is justice denied trifft dies die Migrationsverwaltung besonders schwer: Asylsuchende verbleiben, solange ihr Verfahren andauert, in einem rechtlichen Schwebezustand, der ihnen den Zugang zum Arbeitsmarkt und zu Integrationsleistungen verwehrt oder zumindest erheblich erschwert.

Wer nun schnellere Verfahren fordert, trifft in der Verwaltungsrechtswissenschaft selten auf Widerspruch. Die eigentliche Frage ist, inwieweit das Effizienzstreben das Risiko birgt, zulasten der Rechte des Einzelnen zu gehen. Gerade bei Entscheidungen, die Minderheiten betreffen, wird zu Recht vor den Diskriminierungsrisiken „undurchsichtiger“ Algorithmen gewarnt. Allerdings sind weder Diskriminierung noch Undurchsichtigkeit Eigenschaften, die exklusiv der Maschine vorbehalten wären. Die größtenteils automationsfreie Geschichte der Menschheit ist selbst eine Geschichte erheblicher Diskriminierung von Menschen gegen Menschen. Allein die Möglichkeit, diskriminierende Entscheidungen zu treffen, kann demnach nicht das ausschlaggebende Argument gegen den Einsatz lernender Systeme im Recht sein. Ähnlich verhält es sich auch mit der Opazität der eingesetzten Modelle: Eine undurchsichtige Herstellung der Entscheidung ist für die Rechtsordnung nicht unbedingt neu. Das menschliche Gehirn ist für die Kognitionsforschung bis heute in weiten Teilen eine Black-Box – womöglich eine weitaus hartnäckigere als das neuronale Netz für die Informatik. Trotzdem hat es das Recht geschafft, menschliche Entscheidungen rechtlicher Kontrolle zu unterwerfen. Warum sollte dies nicht auch im Falle der Maschine gelingen?

Hier stellen sich zweifelsohne neue Herausforderungen: In bestimmten Konstellationen mag es technisch unmöglich, normativ unzulässig oder verhaltenswissenschaftlich wenig ratsam sein, rechtliche Entscheidungen an Maschinen zu delegieren. Gleichwohl lässt sich das Entscheidungsverhalten von Algorithmen im Vergleich zum Menschen weitaus besser testen und prognostizieren. Dabei dürften lernende Systeme dennoch eine deutlich engmaschigere Begründungs- und Kontrollarchitektur erfordern, als sie menschliche Entscheidungen je gebraucht haben. Allein die Skalierbarkeit algorithmischer Entscheidungen birgt das Risiko, dass sich etwaige Fehler oder Verzerrungen in kurzer Zeit auf tausende Fälle auswirken. Die Informatik bietet bereits tragfähige Konzepte zur „Erklärbarkeit“ der eingesetzten Modelle, die eine schnelle Identifikation solcher Fehler und Verzerrungen ermöglichen und so das Skalierungsrisiko eindämmen können. Sie beantworten das Warum einer Entscheidung, ohne dem computerwissenschaftlichen Laien vertieftes Wissen über die Grundlagen maschinellen Lernens abzuverlangen. Treten sie als zusätzliche Rechtfertigungsinstrumente neben traditionelle Mechanismen der Entscheidungskontrolle hinzu, kann womöglich die Lücke zwischen System- und Einzelfallkontrolle weiter geschlossen werden. Erste experimentelle Befunde belegen zumindest, dass bestimmte algorithmische Erklärungsmodelle in rechtlichen Entscheidungskontexten (u.a. in der Erstverteilung von Geflüchteten) von ihren Adressaten als gleichwertiger Ersatz zur menschlichen Entscheidung wahrgenommen werden. Überträgt man diese Befunde auf den Einsatz in Massenverfahren der Migrationsverwaltung, bleiben wenig gute Gründe, lernende Systeme kategorisch auszuschließen.

Ein (Aus-)Blick in den Spiegel

Deutschland könnte dabei von bestehenden Erfahrungen anderer Länder profitieren. Dies gilt im Positiven wie im Negativen. Zunächst sollte von dem Einsatz „evidenzloser KI-Forschung“ (AlgorithmWatch) für die Ausübung von Hoheitsgewalt ausnahmslos abgesehen werden. Bezweifeln führende Wissenschaftler:innen einstimmig die Validität bestimmter algorithmischer Vorhersagen oder Klassifizierungen – und lässt sich dies womöglich sogar empirisch belegen –, gibt es keinen Anwendungsfall für die Übernahme staatlicher Steuerung, ganz gleich, wie ressourcenschonend diese auch sein mag. Umgekehrt kann der internationale Vergleich vielleicht auch dazu anregen, die Stellen zu identifizieren, an denen sich die Vorteile der Automatisierung besonders fruchtbar machen lassen. Dies betrifft zum Beispiel wiederkehrende Selektions- und Allokationsprobleme der öffentlichen Hand. Diese verfügen meist über einen belastbaren statistischen Hintergrund, der ein Training der Modelle überhaupt erst ermöglicht.

Das KIMVG markiert dabei den nächsten Schritt auf einer gesetzgeberischen Linie, die darauf abzielt, die rechtliche Entscheidung methodisch stärker zu öffnen. Diese Öffnung verlangt einen rechtlichen Rahmen, der die Standards rechtsstaatlicher Rechtfertigung und demokratischer Transparenz angemessen in eine algorithmische Entscheidungswelt übertragen kann. Hier hat der Entwurf ernstzunehmenden Nachbesserungsbedarf – gerade weil die Entscheidungen in Asylverfahren besonders vulnerable Gruppen betreffen. Doch sollten die aufgezeigten Probleme nicht vorschnell als Pathologie des Einsatzes algorithmischer Systeme gedeutet werden. Das Spannungsverhältnis von Recht und Technik lässt sich nicht durch Abschottung auflösen – es bedarf vielmehr einer Abwägung im Umgang mit den neuen Möglichkeiten, Recht zu gestalten. Diese Perspektive wirkt reziprok: Die Konfrontation mit der maschinellen Rationalität zwingt dazu, auch das eigene, menschliche Urteilen und Entscheiden neu zu hinterfragen. Der Blick in die Maschine wird so zum Spiegel.

The post Computer Says No appeared first on Verfassungsblog.