Einblicke

KI - das neue Orakel

Wir behandeln KI wie die Griechen ihr Orakel. Das ist keine gute Idee.

KI - das neue Orakel

„Wenn du den Halys überschreitest, wirst du ein großes Reich zerstören." So lautete der Spruch des Orakels von Delphi für Krösus, den König von Lydien. Krösus vertraute dem Orakel. Er hatte zuvor sieben Orakel befragt, und nur Pythia, die Prophetin von Delphi, hatte zuverlässig die richtigen Antworten geliefert. Also überschritt er den Fluss, griff den Perserkönig Kyros an und zerstörte ein großes Reich: sein eigenes.

Aus der Gefangenschaft schickte er eine Beschwerde nach Delphi. Die Antwort des Orakels: Er hätte den Spruch richtig verstehen oder nachfragen können.

Das Orakel von Delphi war über tausend Jahre die wichtigste Institution des hellenischen Kulturkreises. Die Mächtigen kamen mit Fragen zu wichtigen Entscheidungen. Die Antworten aber hatten mehrere Lesarten und erschlossen sich oft erst im Rückblick. 

Das Orakel-Prinzip

In meinem Buch „Storytelling mit Daten" habe ich das Orakel-Prinzip als Grundmuster des Datenzeitalters beschrieben: Die Kunst besteht nicht nur darin, die richtigen Fragen zu stellen, sondern auch die Antworten richtig zu deuten. Der Quell der Weisheit ist heute nicht mehr Apollon, sondern es sind eben Daten. Zwischen der Weisheit und dem Fragenden stehen nicht mehr Propheten oder Priester, sondern Menschen, die es verstehen, aus Daten Erkenntnisse zu destillieren und Vorhersagen zu treffen. Ob daraus Öl, Gift oder Gold wird, haben wir in der Hand.

Das gilt für die Welt der Statistik, der Business Intelligence und der klassischen Datenanalyse. Es gilt umso mehr für KI. Was die Sprachmodelle liefern, ist keine Wahrheit, sondern Wahrscheinlichkeit. 

Die neue Delphi-Liga

In der Welt der Datenanalyse gibt es Intermediäre, die modernen Priester des Orakels: Analysten, Data Scientists, Statistiker. Sie übersetzen Ergebnisse, ordnen sie ein, warnen vor Fehlschlüssen.

Mit den großen Sprachmodellen hat sich das verändert. Der Prompt ist zum Volksinstrument geworden. Jeder fragt das Orakel direkt – ohne Experten, ohne Einordnung, ohne die Warnung, dass die Antwort mehrdeutig sein könnte. Man kann das Demokratisierung nennen. Oder Oligopol.

Denn es verschiebt die Deutungsmacht: Von den vielen Experten, die Ergebnisse einordnen konnten, zu den wenigen Anbietern, die entscheiden, wie das Modell antwortet. Welche Trainingsdaten einfließen. Welche Leitplanken gelten. Welche Antworten unterdrückt werden. Der Zugang ist breiter geworden, aber die Kontrolle über das, was das Orakel sagt, liegt bei einer Handvoll Unternehmen. Eine neue Delphi-Liga entscheidet darüber, welche Deutungsangebote es gibt.

Wir sind Krösus

Das ist die eine Seite. Die andere und meines Erachtens noch zu wenig beachtete: Das sind wir selbst. Unsere Haltung, unsere Wünsche und impliziten Annahmen bestimmen das Ergebnis. Ähnlich wie Krösus in Delphi suchen viele Fragende gar keine Antwort. Sie suchen Bestätigung. Und die Sprachmodelle sind sehr gut darin zu erkennen, welche Motive uns treiben. Sie bestätigen uns, schlagen weitere Fragen vor und locken uns in einen Dialog, der unsere Aufmerksamkeit absorbiert. Diese Stickiness ist Teil des Geschäftsmodells.

Die entscheidende Frage bei KI ist nicht: Was liefert sie? Sondern: Wer übernimmt die Deutung? In jeder Organisation, in die ich hineinblicken konnte, begegnet mir eine Lücke zwischen dem, was an Erkenntnissen vorliegt, und dem, was daraus folgt. Ich nenne diese Lücke Narrative Gap, ein Deutungsdefizit. KI vergrößert diese Lücke, gerade weil sie mehr Deutungsangebote produziert als je zuvor. Sie basieren auf dem Kontext, den wir ihr mitgeben.

Wenn wir diese Deutungslücke nicht selbst füllen, delegieren wir Verantwortung. Maschinen haben so viel Macht über uns, wie wir ihnen zu geben bereit sind. Wir tappen in dieselbe Falle wie Krösus: Wir nehmen die Deutungsangebote und interpretieren sie so, wie es für uns passt. Das wusste man schon in Delphi und hatte deshalb eine Inschrift angebracht: "Erkenne dich selbst". Sie gilt noch immer.

← Zurück zu Einblicke