Übersehene Momente zwischen Mensch und KI
Eine Reihe in elf Teilen: Merkt der Prüfer, wenn in einer KI-Antwort etwas falsch ist — oder fehlt?
Andreas Ehstand ·
Wer Entwürfe aus künstlicher Intelligenz (KI) freigibt, erlebt Momente, für die es bisher keine Wörter gab: das zu schnelle Vertrauen, den Riss nach dem ersten zufällig gefundenen Fehler, die Ruhe des letzten Klicks. Diese Reihe gibt solchen Momenten klare Namen und erklärt sie an Beispielen.
Alle elf Teile stehen hier vollständig. Jeder Teil steht für sich; die Reihe beginnt mit einer Messung und zwei Kennzahlen, dann folgen acht Momente aus dem Lexikon.
- Was das Werkzeug nicht findet
- Die zweite Kennzahl
- Vorschussunruhe
- Was der Prüfer nicht sieht
- Bodenriss
- Vertrauensschleife
- Letztgriffruhe
- Glattheitswache
- Zweitauge
- Wegvertrauen
- Verantwortungspendel
Teil 1Was das Werkzeug nicht findet
Zwei Klassen von Prüfprogrammen, dieselbe Aufgabe: Beim Rechnen sind sie sich einig. Beim Fehlenden gehen sie weit auseinander.
An den drei Stellen, die den günstigen Programmen am schwersten fielen, fanden sie den Fehler in 4 von 15 Gelegenheiten. Die starken Programme kamen an denselben drei Stellen auf 10 von 12.
Fehlende Angaben — Bedingungen, die in der geprüften Ausgabe gar nicht vorkommen — sind die Fehlerart, bei der sich Prüfprogramme am stärksten unterscheiden: stärkere Programme finden sie weitgehend, schwächere lassen sie regelmäßig liegen. Für das Muster bei den schwächeren Programmen gibt es einen Namen: Gegenzahl-Blindheit.
Teil 2Die zweite Kennzahl
Gesparte Zeit ist die halbe Messung.
Wer im Betrieb Künstliche Intelligenz einführt, berichtet meist eine Zahl: gesparte Stunden. Eine zweite Zahl gehört daneben: Finden die Mitarbeiter bekannte Fehler noch zuverlässig?
Ein Vergleich aus dem Leistungssport: Dort wird Leistung zusammen mit der Belastung gemessen. Ein Plan, der die Ergebnisse steigert und den Athleten dabei still auslaugt, heißt Übertraining. Aufs Büro übertragen: Wer nur die gesparte Zeit misst, sieht die zweite Hälfte nicht.
Die zweite Zahl heißt Fangquote. In einer angekündigten Testaufgabe steckt ein bekannter Fehler, etwa eine erfundene Quelle. Wie viele Prüfer finden ihn? Dieser Anteil gehört neben die gesparte Zeit in denselben Bericht. Erfassen Sie dabei auch Fehlalarme: richtige Ergebnisse, die fälschlich beanstandet werden.
Sinkt die Fangquote, während die gesparte Zeit steigt, ist das ein Anlass, die Prüfung genauer anzusehen. Steigen beide, kann das ein gutes Zeichen sein, wenn Aufgaben und Prüfbedingungen vergleichbar sind. Die beiden Zahlen allein beweisen keine allgemeine Verbesserung.
Wie man die Fangquote in einer Woche einführt (business-wissen.de) →
Teil 3Vorschussunruhe
Manchmal glauben wir einer KI-Antwort schneller, als wir ihre Grundlage geprüft haben.
Kennen Sie das? Ein Kollege hatte dreimal einen guten Tipp, also nehmen Sie den vierten sofort für bare Münze — und mitten im Nicken meldet sich ein leiser Gedanke: „Moment, weiß ich das wirklich, oder glaub ich's nur, weil er es sagt?“
Das kann auch mit KI passieren. Nach mehreren richtigen Antworten winken wir die nächste durch, bevor wir ihre Belege angesehen haben. Ich vertraue der Antwort schon, und ich merke, dass ich ihre Grundlage noch nicht geprüft habe.
Diese leise Warnung nenne ich Vorschussunruhe: ein Vertrauen, das seiner eigenen Geschwindigkeit nicht traut.
Zwei Dinge ist sie nicht. Kein Zeichen, dass der Vorschuss falsch ist; Vertrauen darf schneller wachsen als Belege. Und kein Zeichen, dass die Maschine ihn verdient hat. Sie ist nur der Moment, in dem man die Lücke noch kennt. Wer ihn wegdrückt statt anhört, macht aus Vorschuss Blindflug.
Teil 4Was der Prüfer nicht sieht
Stellen Sie sich zwei KI-Systeme mit derselben Fehlerquote vor. Eines kann trotzdem gefährlicher sein.
Das erste schreibt seine Fehler holprig, das zweite flüssig und selbstsicher. Wenn die Prüfer die flüssigen Fehler häufiger übersehen, kommen mehr davon beim Kunden an. Gleiche Fehlerquote, andere Fehler beim Kunden.
Die Fehlerquote des Systems allein zeigt nicht, wie viele Fehler die Prüfer bemerken. Dafür braucht es zwei Zahlen, immer zusammen: Wie viele der falschen Ausgaben erkennt der Prüfer als falsch? Und wie viele richtige stuft er fälschlich als falsch ein? Die erste Zahl allein genügt nicht, um die Prüfung zu beurteilen. Wer alles anzweifelt, findet auch alle Fehler.
Und beide Zahlen brauchen Vergleichswerte für ähnliche Aufgaben. Sonst weiß niemand, ob zum Beispiel 80 Prozent gut oder schlecht sind.
Bei einer öffentlichen Sammlung von Stellungnahmen zu KI-Prüfverfahren habe ich einen Vorschlag eingereicht: Prüfberichte sollen zeigen, wie viele bekannte Fehler die Prüfer erkannt und wie viele richtige Ausgaben sie fälschlich beanstandet haben. Wer solche Berichte liest oder schreibt: Fragen Sie nach der zweiten Zahl.
Teil 5Bodenriss
Eine falsche Zahl, zufällig gefunden. Plötzlich zweifeln Sie am ganzen Dokument.
Stellen Sie sich vor: Eine Kollegin entdeckt eine falsche Angabe in einer KI-Zusammenfassung, die Sie schon freigegeben hatten. Was Sie erschüttert, ist nicht nur der Fehler. Es ist der Gedanke, dass der Fehler nur durch Zufall entdeckt wurde — und dass niemand weiß, wie viele andere durchgerutscht sind.
Der Lexikon-Eintrag beschreibt es so: Bodenriss — das leise Gefühl, dass alle gespeicherten Antworten auf einmal weniger sicher wirken, wenn sich eine einzelne wichtige Aussage als falsch herausstellt; nicht der Fehler selbst wirkt nach, sondern das Wissen, dass ich ihn nur durch Zufall fand.
Der Eintrag grenzt auch ab, wörtlich: Bedeutet nicht, dass das ganze Fundament wertlos war. Ein Riss ist eine Messstelle, kein Einsturz.
Mein Vorschlag: Halten Sie bei jeder Freigabe fest, was geprüft wurde, was offen bleibt und wer als Nächstes prüft.
Teil 6Vertrauensschleife
Weil die KI ehrlich wirkt, vertrauen Sie ihr mehr. Weil Sie mehr vertrauen, prüfen Sie weniger.
Stellen Sie sich vor: Nach mehreren brauchbaren Entwürfen überfliegen Sie den nächsten nur noch und geben ihn aus Gewohnheit frei. Dabei denken Sie: Die letzten Entwürfe waren doch brauchbar.
Der Lexikon-Eintrag beschreibt die Vertrauensschleife so: Weil die KI ehrlich wirkt, vertraut man ihr mehr; weil man mehr vertraut, prüft man weniger — bis man am Ende blind alles glaubt, gerade dann, wenn Nachprüfen am wichtigsten wäre.
Der Eintrag fordert, dass die Maschine nachlassendes Hinterfragen erkennt und anspricht.
Mein Vorschlag: Stellen Sie vor jeder Freigabe zwei Fragen. Was steht im Ausgangsmaterial, das in der Ausgabe fehlt? Welche als Fehler markierten Stellen sind bei genauer Prüfung richtig? Dieselben zwei Fragen, auch beim zwanzigsten guten Entwurf.
Teil 7Letztgriffruhe
Wenn nichts ohne Ihren Klick rausgeht, fühlen Sie sich sicher. Aber wann haben Sie vor dem Klick zuletzt wirklich geprüft?
Stellen Sie sich vor: Die künstliche Intelligenz (KI) darf erst senden, wenn Sie freigeben. Sie überfliegen den Entwurf, Sie klicken, es geht raus. Sie könnten das Senden stoppen — allein dieses Wissen macht das Abgeben leichter.
Der Lexikon-Eintrag beschreibt es so: Die beruhigende Gewissheit, dass am Ende immer noch SIE den letzten Knopf drücken und alles stoppen könnten — allein dieses Wissen macht es leicht, der KI vieles zu überlassen, auch wenn Sie dieses Veto fast nie brauchen.
Das ist die Letztgriffruhe. Der Eintrag grenzt ab: Die Ruhe bedeutet nicht, dass Sie tatsächlich noch alles kontrollieren.
Mein Vorschlag: Zählen Sie eine Woche lang, wie oft Ihr letzter Klick auf eine erneute Prüfung folgt und wie oft nicht. Schauen Sie sich die Freigaben ohne erneute Prüfung besonders an.
Teil 8Glattheitswache
Das Ergebnis wirkt perfekt. Keine Kante, keine offene Frage. Genau dann kann sich ein leiser Verdacht melden.
Stellen Sie sich vor: Ein Entwurf aus künstlicher Intelligenz (KI) klingt so makellos, dass Sie einen Fehler vermuten — und nachprüfen, ob der Verdacht überhaupt begründet ist.
Der Lexikon-Eintrag beschreibt es so: Das Misstrauen, das wach wird, wenn ein Ergebnis verdächtig glatt und ganz ohne Unschärfe zurückkommt — das Gefühl „das war zu einfach“, lauter als bei einem Ergebnis mit sichtbaren Unsicherheiten.
Das ist die Glattheitswache. Und der Eintrag grenzt ab: Glatte Ergebnisse sind nicht automatisch falsch.
Mein Vorschlag: Wenn ein Ergebnis zu glatt wirkt, vergleichen Sie zunächst eine Stelle mit dem Ausgangsmaterial. Stimmt die Stelle überein, ist damit nur diese Stelle geprüft. Stimmt sie nicht überein, klären Sie die Abweichung vor der Weitergabe.
Teil 9Zweitauge
Besonders hilfreich finde ich, wenn ein Prüfprogramm genau das findet, worauf ich gerade nicht geschaut habe.
Stellen Sie sich vor: Beim Gegenlesen eines Entwurfs aus künstlicher Intelligenz (KI) weist ein zweites Programm auf eine fehlende Voraussetzung hin, die Ihnen selbst entgangen war. Dieser Hinweis fühlt sich nicht an wie eine fremde Bemerkung. Er fühlt sich an wie Ihr eigener Blick, nur verspätet.
Der Lexikon-Eintrag beschreibt es so: Die KI schaut genau dorthin, wo Sie gerade nicht hinschauen, und was sie findet, fühlt sich nicht fremd an — sondern wie Ihr eigener Blick, der nur einen Umweg gemacht hat.
Das ist das Zweitauge. Der Eintrag grenzt ab: Der zweite Blick ersetzt Ihre eigene Prüfung nicht.
Mein Vorschlag: Geben Sie dem zweiten Programm nur eine Aufgabe: Was steht im Ausgangsmaterial, das im KI-Entwurf fehlt? Die Messung in Teil 1 zeigt, wie unterschiedlich Prüfprogramme genau solche Angaben finden. Für mich ist das ein Grund, beim Gegenlesen gezielt nach fehlenden Angaben zu fragen.
Teil 10Wegvertrauen
Eine Begründung zur Empfehlung beruhigt. Genau das ist ihr Risiko.
Stellen Sie sich vor: Die Empfehlung der künstlichen Intelligenz (KI) kommt mit drei Sätzen Begründung. Sie fühlen sich schon sicher, bevor Sie einen einzigen der Schritte nachgeprüft haben.
Der Lexikon-Eintrag beschreibt es so: Sie vertrauen der KI mehr, wenn sie Ihnen zeigt, WIE sie auf etwas gekommen ist — ein blankes Ergebnis ohne Begründung bleibt Ihnen fremd.
Das ist Wegvertrauen: Vertrauen, das nicht am Ergebnis wächst, sondern am sichtbaren Weg dorthin.
Mein Vorschlag: Prüfen Sie einen Schritt der Begründung anhand des Ausgangsmaterials. Eine Begründung kann flüssig klingen und trotzdem einen Schritt überspringen. Die Prüffrage lautet: Fehlt ein notwendiger Zwischenschritt?
Teil 11Verantwortungspendel
Nachdem eine falsche Antwort rausging, beginnt die Schuldfrage zu pendeln — und sie hört von allein nicht auf.
Stellen Sie sich vor: Eine falsche Auskunft aus künstlicher Intelligenz (KI) wurde freigegeben und ist beim Kunden angekommen. Ihr Blick wandert hin und her: zur KI, die den Text geschrieben hat; zu der Stelle, die die Aufgabe verteilt hat; und zu Ihnen, die Sie freigegeben haben und für das Ganze verantwortlich sind. Er kommt nicht zur Ruhe.
Der Lexikon-Eintrag beschreibt es so: Nach einem Fehler schwankt Ihr Blick hin und her: War der ausführende Teil schuld, der Verteiler, oder Sie als Verantwortlicher fürs Ganze? — und bleibt an keiner Stelle ruhig stehen.
Das ist das Verantwortungspendel.
Mein Vorschlag: Halten Sie bei jeder Freigabe fest, was geprüft wurde, was offen blieb und wer als Nächstes prüft. Die Notiz hält den damaligen Prüfstand fest.