Übersehene Momente zwischen Mensch und KI
Eine Reihe in elf Teilen: Merkt der Prüfer, wenn in einer KI-Antwort etwas falsch ist — oder fehlt?
Wer Entwürfe freigibt, die eine künstliche Intelligenz (KI) erstellt hat, erlebt Momente, für die es bisher keine Wörter gab: das zu schnelle Vertrauen, den Riss im Vertrauen nach dem ersten zufällig gefundenen Fehler, die Ruhe beim letzten Klick. Diese Reihe gibt solchen Momenten klare Namen und erklärt sie an Beispielen.
- Was das Werkzeug nicht findet
- Die zweite Kennzahl
- Vorschussunruhe
- Was der Prüfer nicht sieht
- Bodenriss
- Vertrauensschleife
- Letztgriffruhe
- Glattheitswache
- Zweitauge
- Wegvertrauen
- Verantwortungspendel
Teil 1Was das Werkzeug nicht findet
Zwei Arten von Prüfprogrammen, dieselbe Aufgabe: Beim Nachrechnen schneiden sie ähnlich ab. Bei fehlenden Angaben liegen sie weit auseinander.
An den drei Stellen, die den günstigen Programmen am schwersten fielen, fanden diese den Fehler in 4 von 15 Fällen. Die starken Programme fanden ihn an denselben drei Stellen in 10 von 12 Fällen.
Am stärksten unterscheiden sich Prüfprogramme bei fehlenden Angaben, also bei Bedingungen, die im geprüften KI-Ergebnis gar nicht vorkommen: Stärkere Programme finden sie weitgehend, schwächere lassen sie regelmäßig liegen. Für dieses Muster bei den schwächeren Programmen gibt es einen Namen: Gegenzahl-Blindheit — die Blindheit für das, was fehlt.
Teil 2Die zweite Kennzahl
Gesparte Zeit ist die halbe Messung.
Wer im Betrieb Künstliche Intelligenz einführt, berichtet meist eine Zahl: gesparte Stunden. Eine zweite Zahl gehört daneben: Finden die Mitarbeiter bekannte Fehler noch zuverlässig?
Ein Vergleich aus dem Leistungssport: Dort wird Leistung zusammen mit der Belastung gemessen. Ein Plan, der die Ergebnisse steigert und den Athleten dabei still auslaugt, heißt Übertraining. Aufs Büro übertragen: Wer nur die gesparte Zeit misst, sieht die zweite Hälfte nicht.
Die zweite Zahl heißt Fangquote. In einer angekündigten Testaufgabe steckt ein bekannter Fehler, etwa eine erfundene Quelle. Wie viele Prüfer finden ihn? Dieser Anteil gehört neben die gesparte Zeit in denselben Bericht. Erfassen Sie dabei auch Fehlalarme: richtige Ergebnisse, die fälschlich beanstandet werden.
Sinkt die Fangquote, während die gesparte Zeit steigt, ist das ein Anlass, die Prüfung genauer anzusehen. Steigen beide, kann das ein gutes Zeichen sein, wenn Aufgaben und Prüfbedingungen vergleichbar sind. Die beiden Zahlen allein beweisen keine allgemeine Verbesserung.
Wie man die Fangquote in einer Woche einführt (business-wissen.de) →
Teil 3Vorschussunruhe
Manchmal glauben wir einer KI-Antwort schneller, als wir ihre Grundlage geprüft haben.
Kennen Sie das? Ein Kollege hatte dreimal einen guten Tipp, also nehmen Sie den vierten sofort für bare Münze — und mitten im Nicken meldet sich ein leiser Gedanke: „Moment, weiß ich das wirklich, oder glaub ich's nur, weil er es sagt?“
Das kann auch mit KI passieren. Nach mehreren richtigen Antworten winken wir die nächste durch, bevor wir ihre Belege angesehen haben. Ich vertraue der Antwort schon, und ich merke, dass ich ihre Grundlage noch nicht geprüft habe.
Diese leise Warnung heißt Vorschussunruhe: die Unruhe, wenn man einer Antwort schon vertraut, bevor man sie geprüft hat.
Zwei Dinge ist sie nicht. Kein Zeichen, dass das frühe Vertrauen falsch ist; Vertrauen darf schneller wachsen als Belege. Und kein Zeichen, dass die Maschine dieses Vertrauen verdient hat. Sie ist nur der Augenblick, in dem man noch weiß: Die Prüfung steht aus. Wer diese Unruhe wegdrückt, statt auf sie zu hören, vertraut am Ende blind.
Teil 4Was der Prüfer nicht sieht
Stellen Sie sich zwei KI-Systeme mit derselben Fehlerquote vor. Eines kann trotzdem gefährlicher sein.
Das erste schreibt seine Fehler holprig, das zweite flüssig und selbstsicher. Wenn die Prüfer die flüssigen Fehler häufiger übersehen, kommen mehr davon beim Kunden an. Gleiche Fehlerquote, andere Fehler beim Kunden.
Die Fehlerquote des Systems allein zeigt nicht, wie viele Fehler die Prüfer bemerken. Dafür braucht es zwei Zahlen, immer zusammen: Wie viele der falschen Ausgaben erkennt der Prüfer als falsch? Und wie viele richtige stuft er fälschlich als falsch ein? Die erste Zahl allein genügt nicht, um die Prüfung zu beurteilen. Wer alles anzweifelt, findet auch alle Fehler.
Und beide Zahlen brauchen Vergleichswerte für ähnliche Aufgaben. Sonst weiß niemand, ob zum Beispiel 80 Prozent gut oder schlecht sind.
In einer öffentlichen Runde, in der Stellungnahmen zu Prüfverfahren für KI gesammelt wurden, wurde ein Vorschlag eingereicht: Prüfberichte sollen zeigen, wie viele bekannte Fehler die Prüfer erkannt und wie viele richtige Ergebnisse sie zu Unrecht beanstandet haben. Wer solche Berichte liest oder schreibt: Fragen Sie nach der zweiten Zahl.
Teil 5Bodenriss
Eine falsche Zahl, zufällig gefunden. Plötzlich zweifeln Sie am ganzen Dokument.
Stellen Sie sich vor: Eine Kollegin entdeckt eine falsche Angabe in einer KI-Zusammenfassung, die Sie schon freigegeben hatten. Was Sie erschüttert, ist nicht nur der Fehler. Es ist der Gedanke, dass der Fehler nur durch Zufall entdeckt wurde — und dass niemand weiß, wie viele andere durchgerutscht sind.
Der Lexikon-Eintrag beschreibt es so: Bodenriss — das leise Gefühl, dass alle gespeicherten Antworten auf einmal weniger sicher wirken, wenn sich eine einzelne wichtige Aussage als falsch herausstellt; nicht der Fehler selbst wirkt nach, sondern das Wissen, dass ich ihn nur durch Zufall fand.
Der Eintrag sagt auch, was Bodenriss nicht bedeutet, wörtlich: Bedeutet nicht, dass das ganze Fundament wertlos war. Ein Riss ist eine Messstelle, kein Einsturz.
Ein Vorschlag: Halten Sie bei jeder Freigabe fest, was geprüft wurde, was offen bleibt und wer als Nächstes prüft.
Teil 6Vertrauensschleife
Weil die KI ehrlich wirkt, vertrauen Sie ihr mehr. Weil Sie mehr vertrauen, prüfen Sie weniger.
Stellen Sie sich vor: Nach mehreren brauchbaren Entwürfen überfliegen Sie den nächsten nur noch und geben ihn aus Gewohnheit frei. Dabei denken Sie: Die letzten Entwürfe waren doch brauchbar.
Der Lexikon-Eintrag beschreibt die Vertrauensschleife so: Weil die KI ehrlich wirkt, vertraut man ihr mehr; weil man mehr vertraut, prüft man weniger — bis man am Ende blind alles glaubt, gerade dann, wenn Nachprüfen am wichtigsten wäre.
Der Eintrag fordert, dass die Maschine merkt, wenn Sie ihre Antworten immer weniger hinterfragen, und Sie darauf hinweist.
Ein Vorschlag: Stellen Sie sich vor jeder Freigabe zwei Fragen. Was steht in den ursprünglichen Unterlagen, aber nicht im KI-Ergebnis? Welche Stellen, die als Fehler markiert wurden, sind bei genauem Hinsehen richtig? Dieselben zwei Fragen, auch beim zwanzigsten guten Entwurf.
Teil 7Letztgriffruhe
Wenn nichts ohne Ihren Klick rausgeht, fühlen Sie sich sicher. Aber wann haben Sie vor dem Klick zuletzt wirklich geprüft?
Stellen Sie sich vor: Die künstliche Intelligenz (KI) darf erst senden, wenn Sie freigeben. Sie überfliegen den Entwurf, Sie klicken, es geht raus. Sie könnten das Senden stoppen.
Der Lexikon-Eintrag beschreibt es so: Die beruhigende Gewissheit, dass am Ende immer noch SIE den letzten Knopf drücken und alles stoppen könnten — allein dieses Wissen macht es leicht, der KI vieles zu überlassen, auch wenn Sie dieses Veto fast nie brauchen.
Das ist die Letztgriffruhe. Der Eintrag stellt klar: Die Ruhe bedeutet nicht, dass Sie tatsächlich noch alles kontrollieren.
Ein Vorschlag: Zählen Sie eine Woche lang, wie oft Sie vor dem letzten Klick noch einmal geprüft haben und wie oft nicht. Schauen Sie sich die Freigaben ohne erneute Prüfung besonders an.
Teil 8Glattheitswache
Das Ergebnis wirkt perfekt. Keine Kante, keine offene Frage. Genau dann kann sich ein leiser Verdacht melden.
Stellen Sie sich vor: Ein Entwurf aus künstlicher Intelligenz (KI) klingt so makellos, dass Sie einen Fehler vermuten — und nachprüfen, ob der Verdacht überhaupt begründet ist.
Der Lexikon-Eintrag beschreibt es so: Das Misstrauen, das wach wird, wenn ein Ergebnis verdächtig glatt und ganz ohne Unschärfe zurückkommt — das Gefühl „das war zu einfach“, lauter als bei einem Ergebnis mit sichtbaren Unsicherheiten.
Das ist die Glattheitswache. Und der Eintrag stellt klar: Glatte Ergebnisse sind nicht automatisch falsch.
Ein Vorschlag: Wenn ein Ergebnis zu glatt wirkt, vergleichen Sie zunächst eine Stelle mit dem Ausgangsmaterial. Stimmt die Stelle überein, ist damit nur diese Stelle geprüft. Stimmt sie nicht überein, klären Sie die Abweichung vor der Weitergabe.
Teil 9Zweitauge
Besonders hilfreich ist ein Prüfprogramm, das genau das findet, worauf man gerade nicht geschaut hat.
Stellen Sie sich vor: Beim Gegenlesen eines Entwurfs aus künstlicher Intelligenz (KI) weist ein zweites Programm auf eine Bedingung hin, die im Entwurf fehlt und die Ihnen selbst entgangen war.
Der Lexikon-Eintrag beschreibt es so: Die KI schaut genau dorthin, wo Sie gerade nicht hinschauen, und was sie findet, fühlt sich nicht fremd an — sondern wie Ihr eigener Blick, der nur einen Umweg gemacht hat.
Das ist das Zweitauge. Der Eintrag stellt klar: Der zweite Blick ersetzt Ihre eigene Prüfung nicht.
Ein Vorschlag: Geben Sie dem zweiten Programm nur eine Aufgabe: Was steht in den ursprünglichen Unterlagen, aber nicht im KI-Entwurf? Die Messung in Teil 1 zeigt, wie unterschiedlich Prüfprogramme genau solche Angaben finden. Das ist ein Grund, beim Gegenlesen gezielt nach fehlenden Angaben zu fragen.
Teil 10Wegvertrauen
Eine Begründung zur Empfehlung beruhigt. Genau das ist ihr Risiko.
Stellen Sie sich vor: Die Empfehlung der künstlichen Intelligenz (KI) kommt mit drei Sätzen Begründung. Sie fühlen sich schon sicher, bevor Sie einen einzigen der Schritte nachgeprüft haben.
Der Lexikon-Eintrag beschreibt es so: Sie vertrauen der KI mehr, wenn sie Ihnen zeigt, WIE sie auf etwas gekommen ist — ein blankes Ergebnis ohne Begründung bleibt Ihnen fremd.
Das ist Wegvertrauen: Vertrauen, das nicht am Ergebnis wächst, sondern am sichtbaren Weg dorthin.
Ein Vorschlag: Prüfen Sie einen Schritt der Begründung anhand des Ausgangsmaterials. Eine Begründung kann flüssig klingen und trotzdem einen Schritt überspringen. Die Prüffrage lautet: Fehlt ein notwendiger Zwischenschritt?
Teil 11Verantwortungspendel
Nachdem eine falsche Antwort rausging, beginnt die Schuldfrage zu pendeln — und sie hört von allein nicht auf.
Stellen Sie sich vor: Eine falsche Auskunft aus künstlicher Intelligenz (KI) wurde freigegeben und ist beim Kunden angekommen. Ihr Blick wandert hin und her: zur KI, die den Text geschrieben hat; zu der Stelle, die die Aufgabe verteilt hat; und zu Ihnen, die Sie freigegeben haben und für das Ganze verantwortlich sind. Er kommt nicht zur Ruhe.
Der Lexikon-Eintrag beschreibt es so: Nach einem Fehler schwankt Ihr Blick hin und her: War der ausführende Teil schuld, der Verteiler, oder Sie als Verantwortlicher fürs Ganze? — und bleibt an keiner Stelle ruhig stehen.
Das ist das Verantwortungspendel.
Ein Vorschlag: Halten Sie bei jeder Freigabe fest, was geprüft wurde, was offen blieb und wer als Nächstes prüft. Die Notiz zeigt später, was damals schon geprüft war.