Wie Du erkennst, wann Du KI-Ergebnissen vertrauen kannst

Dein KI-System hat einen Entwurf für eine Kundenmail geschrieben. Der Text liest sich gut, der Ton stimmt, die Informationen klingen plausibel. Du klickst auf Senden. Am nächsten Tag meldet sich der Kunde: Die Lieferzeit die in der Mail stand, gibt es bei Euch gar nicht. Das System hat sie erfunden. Nicht aus Bosheit, sondern weil es keinen Unterschied zwischen plausibel und wahr kennt.

Nicht alles braucht dieselbe Prüfung

Wenn Dein KI-System Ideen für einen Blogartikel sammelt und eine davon nicht ganz stimmt, ist das ärgerlich. Wenn es einem Kunden eine falsche Rechtsauskunft gibt, kann das existenzbedrohend sein. Die Intensität Deiner Prüfung muss zum Risiko passen.

Bei niedrigem Risiko reicht ein kurzer Blick. Ideen für einen Blogartikel, erste Textentwürfe, Zusammenfassungen für den internen Gebrauch. Wenn etwas nicht stimmt, fällt es spätestens beim Verwenden auf.

Bei mittlerem Risiko prüfst Du stichprobenartig. E-Mails an Kunden, Präsentationen, Angebote. Lies den Text einmal durch und prüfe: Stimmen die Fakten? Passt der Ton? Fehlt etwas Wichtiges?

Bei hohem Risiko prüfst Du vollständig. Rechtliche Dokumente, Finanzberechnungen, vertragliche Zusagen. Hier darf kein Fehler durchrutschen. Jede Zahl, jede Aussage, jede Zusicherung einzeln verifizieren.

Bei kritischem Risiko prüft zusätzlich ein Fachmann. Medizinische Informationen, Sicherheitshinweise, Aussagen die Leib und Leben betreffen. Hier reicht Dein eigenes Urteil nicht aus.

Drei Warnsignale die Deine Aufmerksamkeit verdienen

Überraschend präzise Zahlen. Das System nennt eine Studie mit exaktem Erscheinungsjahr, Autorennamen und Ergebnis. Klingt überzeugend. Ist aber häufig erfunden. Je präziser eine Faktenangabe klingt, desto gründlicher solltest Du sie prüfen. Frage nach: "Woher stammt diese Zahl?" Wenn das System keine nachprüfbare Quelle nennt, behandle die Angabe als unsicher.

Zu perfekte Antworten. Wenn ein Ergebnis genau das sagt, was Du hören wolltest, in genau der Struktur die Du Dir gewünscht hast, ohne jeden Widerspruch oder Einschränkung - dann ist Vorsicht geboten. Wirklichkeit hat Ecken und Kanten. Ein KI-Ergebnis das zu glatt ist, hat möglicherweise Komplexität weggelassen statt sie zu verstehen.

Widersprüche innerhalb der Antwort. In Absatz zwei steht etwas anderes als in Absatz fünf. Das passiert besonders bei langen Texten, weil das System jeden Absatz teilweise unabhängig vom Rest generiert. Lies den gesamten Text einmal mit der Frage: Widerspricht sich etwas?

Ein einfaches Prüfverfahren für den Alltag

Du brauchst kein aufwändiges System. Drei Fragen nach jedem KI-Ergebnis reichen:

Stimmt das sachlich? Enthält der Text Fakten, Zahlen oder Aussagen die Du mit Deinem eigenen Wissen bestätigen kannst? Wenn Du unsicher bist, prüfe die Kernaussage mit einer unabhängigen Quelle.

Fehlt etwas Wichtiges? KI-Systeme können beeindruckend vollständig klingen und trotzdem einen entscheidenden Aspekt auslassen. Was würdest Du einem Kollegen sagen, das in diesem Text nicht steht?

Würde ich das so unterschreiben? Wenn Du den Text mit Deinem Namen an einen Kunden schickst, trägst Du die Verantwortung. Stell Dir vor, der Kunde ruft an und fragt nach. Kannst Du alles erklären und belegen?

Verzerrungen erkennen

KI-Systeme können einseitige Perspektiven verstärken, ohne dass es auffällt. Wenn Du nach den Vorteilen einer Strategie fragst, bekommst Du Vorteile. Wenn Du nach Risiken fragst, bekommst Du Risiken. Was Du nicht gefragt hast, kommt nicht vor.

Eine einfache Gegenmaßnahme: Stelle die Gegenfrage. "Was spricht dagegen?" "Welche Risiken gibt es?" "Was könnte schiefgehen?" Wenn Du bewusst nach der anderen Seite fragst, bekommst Du ein vollständigeres Bild.

Der Mensch in der Prüfschleife ist kein Eingeständnis, dass das System nicht funktioniert. Es ist die Anerkennung, dass manche Entscheidungen menschliches Urteil brauchen. Die besten Ergebnisse entstehen, wenn Maschine und Mensch das tun, was sie jeweils am besten können: Die Maschine entwirft schnell und umfangreich. Der Mensch prüft, gewichtet und entscheidet.