AUGMANITAIAndreas Ehstand

Andreas Ehstand · unabhängiger Forscher, Autor des bei der IETF eingereichten Internet-Entwurfs draft-ehstand-oversight-acts

Ein Klick auf „Freigeben“ alleinzeigt nicht, was ein Mensch getan hat.

Ein konstruiertes Beispiel: Ein KI-Agent überweist Geld. Im Protokoll steht: „freigegeben“.Hat ein Mensch geprüft? Nur hingesehen? Bewusst erlaubt?Das Protokoll sagt es nicht.Vier Wörter machen den Unterschied sichtbar: Beobachtung, Prüfung, Entscheidung, Freigabe.Vorgeschlagen von Andreas Ehstand in einem Internet-Draft, eingereicht bei der IETF, dem Gremium für Internet-Standards.

Diese Seite ist eine Lesehilfe für Berichte und Gespräche. Sie ersetzt keine Norm, keinen Vertrag, kein Fachurteil und keine Bewertung eines konkreten Systems. Internet-Entwürfe sind Arbeitsdokumente; sie sind keine IETF-Standards und können sich ändern.

Die vier BegriffeDrei Protokollzeilen zum Ausprobieren

Ein Beispiel, eine Minute

Drei Zeilen aus einem Protokoll. Was hält jede fest?

Das Protokoll ist konstruiert. Frau K. und den Zahllauf gibt es nicht. Wählen Sie zu jeder Zeile eine Antwort; darunter erscheint eine kurze Erklärung in den Begriffen des Entwurfs.

  1. Zeile 1 · konstruiert

    09:12  Frau K. hat jede IBAN in Zahllauf 12 mit der IBAN in der Lieferantenliste verglichen und festgehalten, dass alle übereinstimmen.

    Welche Art von Handlung hält diese Zeile fest?

    In den Begriffen des Entwurfs hält die Zeile eine Prüfung fest, so wie das Protokoll sie angibt: Eine Eigenschaft wurde verglichen und ein Ergebnis festgehalten. Das Ergebnis betrifft nur diese Eigenschaft und sagt zum Beispiel nichts über die Beträge (Abschnitt 2.5, Anmerkung 2). Ob die Eigenschaft vorher festgelegt war und ob die Aufzeichnung echt ist, ist eine eigene Frage (Abschnitte 2.4, 3 und 5).

  2. Zeile 2 · konstruiert

    09:14  Frau K. hat auf „Freigeben“ geklickt.

    Welche Art von Handlung hält diese Zeile fest?

    Keine der vier Arten lässt sich aus dieser Zeile erkennen. Der Entwurf nennt eine solche Aufzeichnung „undifferentiated approval“: Ohne weitere Angaben zeigt sie nur, dass eine Interaktion aufgezeichnet wurde (Abschnitt 2.11, Anmerkung 2). Eine Schaltfläche mit der Aufschrift „Approve“, so das Beispiel des Entwurfs, kann jede der vier Arten festhalten, mehrere zugleich oder keine (Abschnitt 2.1, Anmerkung 2). Das gilt ebenso für eine Schaltfläche „Freigeben“. Ob eine Freigabe im Sinne des Entwurfs vorliegt, hängt unter anderem davon ab, ob Frau K. im Rahmen einer bestehenden Befugnis gehandelt hat; dazu sagt die Zeile nichts.

  3. Zeile 3 · konstruiert

    09:20  Frau K. hat Zahllauf 12 am Bildschirm geöffnet.

    Welche Art von Handlung hält diese Zeile fest?

    In den Begriffen des Entwurfs belegt die Zeile höchstens eine Beobachtung. Sie zeigt höchstens, dass der Zahllauf Frau K. vorgelegt wurde. Sie zeigt nicht, was sie bemerkt hat (Abschnitt 2.3, Anmerkung 2).

Zusammen gelesen besagen die drei Zeilen, dass eine Eigenschaft verglichen und als übereinstimmend festgehalten wurde, dass eine Schaltfläche gedrückt wurde und dass der Zahllauf am Bildschirm gezeigt wurde.

Sie sagen nicht, ob die Zahlung erlaubt wurde, von wem und im Rahmen welcher Befugnis, und sie sagen nichts über die Beträge. In den Begriffen des Entwurfs belegt der Klick für sich genommen keine Prüfung.

Die vier Begriffe

Vier Arten menschlicher Aufsichtshandlung

Der Entwurf unterscheidet, was die Person tut: Sie bekommt etwas nur vorgelegt (Beobachtung), sie untersucht eine bestimmte Eigenschaft (Prüfung) oder sie wählt, wie es weitergeht (Entscheidung). Eine Freigabe ist eine Entscheidung, mit der jemand im Rahmen seiner Befugnis etwas erlaubt. In den Definitionen heißt die handelnde Person „aufsichtführende Person“ und das, worum es geht, „Gegenstand“.

Der Entwurf ist englisch. Die deutschen Definitionen sind eigene Übersetzungen dieser Seite; maßgeblich ist der englische Wortlaut der Fassung 00, der sich jeweils unter „Englischer Wortlaut“ aufklappen lässt. Die Alltagsbeispiele sind für diese Seite konstruiert und beschreiben keine realen Personen oder Organisationen.

Abschnitt 2.3

Beobachtung

Konstruiertes Beispiel
Eine Sachbearbeiterin hat den Antwortentwurf des Agenten an einen Kunden am Bildschirm geöffnet und unternimmt weiter nichts damit.
Was eine Aufzeichnung darüber nicht belegt
Sie belegt weder, dass etwas zutrifft, noch, dass etwas erlaubt wurde. Sie zeigt höchstens, dass der Gegenstand der Person vorgelegt wurde, nicht, was sie bemerkt hat (Abschnitt 2.3, Anmerkung 2; Abschnitt 3).

„Eine Aufsichtshandlung, bei der der aufsichtführenden Person der Gegenstand vorgelegt wird und sie dazu weder eine Prüfung noch eine Entscheidung noch eine Freigabe vornimmt.“

Eigene Übersetzung der Definition in draft-ehstand-oversight-acts-00, Abschnitt 2.3

Englischer Wortlaut
Original: “An oversight act in which the overseer is presented with the object and makes no check, decision, or release concerning it.”

Abschnitt 2.5

Prüfung

Konstruiertes Beispiel
Bevor eine Bestellung hinausgeht, vergleicht ein Sachbearbeiter die Lieferadresse im Entwurf des Agenten mit der Adresse in der Anfrage des Kunden und hält fest, dass beide übereinstimmen.
Was eine Aufzeichnung darüber nicht belegt
Das Ergebnis betrifft nur die geprüfte Eigenschaft. Es sagt nichts über andere Eigenschaften desselben Gegenstands, hier etwa die Preise, und nichts darüber, ob eine Aktion erlaubt wurde (Abschnitt 2.5, Anmerkung 2; Abschnitt 3).

„Eine Aufsichtshandlung, bei der die aufsichtführende Person den Gegenstand untersucht, um festzustellen, ob eine benannte Eigenschaft auf ihn zutrifft.“

Eigene Übersetzung der Definition in draft-ehstand-oversight-acts-00, Abschnitt 2.5. Eine benannte Eigenschaft („named property“) wird festgelegt, bevor das Ergebnis bekannt ist, und so genau, dass eine andere Person als die aufsichtführende erkennen kann, was ihre Feststellung belegt und was nicht (Abschnitt 2.4).

Englischer Wortlaut
Original: “An oversight act in which the overseer examines the object in order to determine whether a named property holds for it.”

Abschnitt 2.7

Entscheidung

Konstruiertes Beispiel
Ein Teammitglied liest die vom Agenten vorgeschlagene Antwort auf eine Beschwerde und entscheidet, sie an eine Kollegin weiterzugeben, statt sie abzusenden oder zu verwerfen.
Was eine Aufzeichnung darüber nicht belegt
Sie zeigt, welches Vorgehen gewählt wurde und von wem. Für sich genommen belegt sie nicht, dass die Wahl richtig war, und, sofern sie keine Freigabe ist, auch nicht, dass sie erlaubt war. Eine Entscheidung kann ohne jede Prüfung getroffen werden (Abschnitt 2.7, Anmerkung 2; Abschnitt 3).

„Eine Aufsichtshandlung, bei der die aufsichtführende Person aus den zu diesem Zeitpunkt verfügbaren Alternativen auswählt, wie mit dem Gegenstand weiter verfahren wird.“

Eigene Übersetzung der Definition in draft-ehstand-oversight-acts-00, Abschnitt 2.7

Englischer Wortlaut
Original: “An oversight act in which the overseer selects, from the alternatives available at that point, the course of action to be taken with respect to the object.”

Abschnitt 2.8

Freigabe

Konstruiertes Beispiel
Eine Abteilungsleiterin, die Bestellungen bis zu einem festgelegten Betrag zeichnen darf, erlaubt dem Agenten, eine bestimmte Bestellung unterhalb dieses Betrags auszulösen. Für diese Seite konstruiert, angelehnt an das Beispiel in Abschnitt 2.8 des Entwurfs.
Was eine Aufzeichnung darüber nicht belegt
Sie zeigt, dass eine Aktion erlaubt wurde. Sie zeigt nicht, dass die Aktion, ihre Eingaben oder ihre Wirkungen richtig sind. Dass die Erlaubnis von der Befugnis der Person gedeckt war, zeigt sie nur so weit, wie die Aufzeichnung diese Befugnis benennt (Abschnitt 2.8, Anmerkung 3; Abschnitt 3).

„Eine Entscheidung, bei der die aufsichtführende Person im Rahmen einer bestehenden Befugnis, die sie innehat, erlaubt, dass eine festgelegte Aktion oder Klasse von Aktionen ausgeführt wird.“

Eigene Übersetzung der Definition in draft-ehstand-oversight-acts-00, Abschnitt 2.8. Die bestehende Befugnis („standing authority“) ist die Befugnis, Aktionen einer Klasse zu erlauben, die die Person schon vor der Handlung innehat und die ihr von einer anderen Quelle als dieser Handlung verliehen wurde, zum Beispiel durch eine Funktion im Arbeitsverhältnis oder eine dokumentierte Delegation (Abschnitt 2.9).

Englischer Wortlaut
Original: “A decision in which the overseer, acting within standing authority they hold, permits a specified action or class of actions to be carried out.”

Hält eine Aufzeichnung nicht fest, welche Art von Handlung vorlag, nennt der Entwurf das eine undifferenzierte Zustimmung. Sie belegt nur, dass etwas aufgezeichnet wurde (Abschnitte 2.11 und 3).

Tabelle 1: Wofür eine Aufzeichnung jeder Art von Handlung ein Beleg istEigene Übersetzung der Tabelle 1 im Entwurf, Abschnitt 3 (Arbeitsstand). Maßgeblich ist das englische Original im Entwurf.
Art der HandlungÜber eine Eigenschaft des GegenstandsDass eine Aktion erlaubt wurdeFür das gewählte Vorgehen
BeobachtungNeinNeinNein
PrüfungJa, nur für die geprüfte EigenschaftNeinNein
EntscheidungNeinNeinJa
FreigabeNeinJa, soweit die bestehende Befugnis benannt istJa

Für Berichte und Artikel

Vier Sätze zum Zitieren

Für Gremien, Juristinnen und Juristen, Prüferinnen und Prüfer sowie Redaktionen, die genau sagen müssen, was ein Mensch getan hat, bevor ein Agent gehandelt hat.

Alle vier stammen aus der Fassung 00 des Entwurfs. Die deutschen Fassungen sind eigene Übersetzungen dieser Seite; maßgeblich ist das englische Original, das jeweils darunter steht. Der Entwurf weist selbst darauf hin, dass Internet-Entwürfe als Arbeitsstand („work in progress“) zitiert werden; eine spätere Fassung kann anders formulieren.

„Welche Art von Handlung vorliegt, hängt davon ab, was die aufsichtführende Person getan hat, nicht von dem Bedienelement, mit dem sie festgehalten wurde.“
draft-ehstand-oversight-acts-00 (Arbeitsstand), 26. September 2026, Abschnitt 2.1, Anmerkung 2. Eigene Übersetzung.Original: “The kind of an act depends on what the overseer did, not on the interface element used to record it.”

„Eine Freigabe belegt, dass eine Aktion erlaubt wurde. Sie belegt nicht, dass die Aktion, ihre Eingaben oder ihre Wirkungen richtig sind.“
draft-ehstand-oversight-acts-00 (Arbeitsstand), 26. September 2026, Abschnitt 2.8, Anmerkung 3. Eigene Übersetzung.Original: “A release establishes that an action was permitted. It does not establish that the action, its inputs, or its effects are correct.”

„Die Art der Handlung festzuhalten verhindert das Durchwinken nicht; es verhindert, dass ein bloßes Abzeichnen als Prüfung gelesen wird.“
draft-ehstand-oversight-acts-00 (Arbeitsstand), 26. September 2026, Abschnitt 5. Eigene Übersetzung.Original: “Recording the kind of act does not prevent rubber-stamping; it prevents a rubber stamp from being read as a check.”

„Wer sich auf Aufzeichnungen stützt und wissen muss, dass eine Aktion erlaubt wurde und dass ihr Gegenstand eine bestimmte Eigenschaft hatte, braucht zwei Aufzeichnungen: eine Freigabe und eine Prüfung.“
draft-ehstand-oversight-acts-00 (Arbeitsstand), 26. September 2026, Abschnitt 3. Eigene Übersetzung.Original: “A consumer who needs to know both that an action was permitted and that its object had a certain property needs two records: a release and a check.”

Angabe für den Entwurf als Ganzes: Ehstand, A., „Terminology for Human Oversight Acts in Automated and Agentic Systems“, Work in Progress, Internet-Draft, draft-ehstand-oversight-acts-00, 26. September 2026, https://datatracker.ietf.org/doc/draft-ehstand-oversight-acts/.

Öffentlich nachlesbar

Wo darüber gesprochen wurde

Die Liste ist kurz und nicht vollständig. Jeder Eintrag wurde am 14. November 2026 aufgerufen und gelesen. Die Beschreibungen sagen, was in der Quelle steht, und nicht mehr.

Von anderen

  • An Audit Record Format for AI Agent Authorization DecisionsSankalp Gilda, Internet-Entwurf als Einzeleinreichung, draft-gilda-audit-agent-audit-record-03, 29. Oktober 2026, ebenfalls ein Arbeitsdokument, englisch. Abschnitt 5.5 nennt die vier Arten von Handlungen und verweist dafür auf die Abschnitte 2.3 bis 2.9 des Entwurfs zu Aufsichtshandlungen, den er unter den informativen Quellen aufführt. Laut Danksagung geht das Feld für die Art der Handlung auf einen Vorschlag von Andreas Ehstand zurück.
  • An Agent’s Human Approval Is Not Evidence of a Human CheckBTW Media, 27. September 2026, englisch. Artikel von Daniel Kade über die Fassung 00 des Entwurfs und seine vier Handlungen.

Beiträge von Andreas Ehstand

Grenzen

Was der Entwurf nicht leistet und was diese Seite nicht ist

Was der Entwurf nicht leistet

Nach seinem eigenen Abschnitt 1.2 legt der Entwurf ausschließlich Begriffe fest. Der Entwurf

  • legt kein Protokoll, keine Nachricht und kein Datenformat fest;
  • sagt nicht, wann menschliche Aufsicht nötig ist oder welche Art von Handlung eine Situation verlangt;
  • legt nicht fest, wie Prüfungen vorzunehmen sind, wie die Erkennbarkeit von Fehlern („error detectability“) zu bestimmen ist oder wie Tests von Prüfschritten („check tests“) zu gestalten sind, und nennt keine Werte, Schwellen oder Referenzdaten;
  • legt kein Gesetz, keine Verordnung und kein Rahmenwerk aus.

Er ist eine Einzeleinreichung und ein Arbeitsstand. Er ist kein IETF-Standard. Keine IETF-Arbeitsgruppe hat ihn übernommen; er gibt keine Position der IETF wieder.

Was diese Seite nicht ist

Diese Seite gibt wieder, was ein Internet-Entwurf vorschlägt, in den Worten der Fassung 00 und in eigener Übersetzung. Sie ist keine Rechtsberatung und bewertet oder zertifiziert kein System. Wo Seite und Entwurf voneinander abweichen, gilt der aktuelle Text im IETF Datatracker.

Die Protokollzeilen und Alltagsbeispiele sind konstruiert. Ein verwandter konstruierter Fall, in dem sich ein Satz zwischen drei Agenten verändert, ist das 20-Sekunden-Beispiel. Vorträge stehen auf der Vortragsseite.

Diese Seite beschreibt die Fassung draft-ehstand-oversight-acts-00 vom 26. September 2026: „Terminology for Human Oversight Acts in Automated and Agentic Systems“ (Begriffe für menschliche Aufsichtshandlungen in automatisierten und agentischen Systemen), eine Einzeleinreichung mit dem vorgesehenen Status „Informational“; sie läuft am 30. März 2027 ab. Im IETF Datatracker nachgesehen am 14. November 2026; eine neuere Fassung war an diesem Tag nicht verzeichnet. Volltext der Fassung 00 (englisch).

Gespräch beginnen

Fragen zum Entwurf und Anfragen aus Redaktionen sind willkommen. Ein paar Zeilen genügen für den Anfang.