Von KI und KI

Ich bin ja immer wieder verwundert, dass Menschen einer KI einfach glauben. Und das umfasst auch den Bereich „einer“, also einem singulären Tool. 

Denn KI an sich muss man schon immer stark hinterfragen, wenn man sich von ihr „helfen“ lässt. Man muss aber auch in Betracht ziehen, dass oftmals zwei KI zu zwei, vielleicht sogar 3 Ergebnissen kommen, wenn man ihnen die gleiche Frage stellt.

Aufgefallen ist mir das gerade erst wieder, als ich am Wochenende wissen wollte, ob KI’s auch historische IT richtig einordnen können. Hintergrund war, dass ich eine E-Mail-Adresse zur Zeiten von Mailboxen hatte und das zeitlich einordnen wollte. 

Ich habe also ChatGPT mal danach gefragt, dass mir sehr überzeugend erklärte, dass es im Zusammenhang mit Mailboxen dazu nix wüsste. 

Es könnte keine „öffentlich verfügbaren Informationen“ darüber finden.

Allerdings hatte es ein paar spannende Alternativen, die zwar nix mit meiner Frage zu tun hatten – aber wieder kaschieren sollten, dass ChatGPT hätte einfach sagen können und müssen: „Kenn ich nicht, weiß ich nicht.“ 

Aber KI will ja gefallen mit ihren Antworten. Also wird spekuliert. 

Das es keine öffentlichen Informationen gibt, stimmt natürlich nicht. Mit einer Suchmaschine findet man die recht schnell. Bei Ecosia passt zum Beispiel bei mir schon der vierte Treffer einer Suche, der einfach auf eine Liste von Mailboxen verweist. 

Perplexity stellt sich bei der gleichen Frage dann auch viel geschickter an. Offensichtlich ist es auch in der Lage die ebenfalls gefundene Liste historisch einzuordnen und liefert damit ein Ergebnis, dass zu weiteren Recherchen taugt.

Das bedeutet nicht, dass Perplexity besser ist, das bedeutet nur, dass es sich bei diesem Prompt als die bessere Alternative bewiesen hat. 

Es zeigt aber vor allem, wie unklug es ist, sich auf ein System zu verlassen. Vor allem angesichts der anhaltenden Unfähigkeit von KI-Systemen zu erkennen, was sie alles nicht wissen. Von daher scheinen sie perfekte Kandidaten zu sein, wenn man mal den Dunning-Kruger-Effekt erklären will 😉