Wieso vertrauen die Menschen KI?

Es gibt ja so Meldungen, die finde ich unglaublich. So wie neulich auf Heise:

Ein Trick hat KI-Browser dazu gebracht, sensible Daten wie Passwörter zu offenbaren. Man musste ihnen nur vorgaukeln, dass sie sich in einem Spiel befinden.

Und ich kann nur verwundert mit dem Kopf schütteln. 

Ich werde nie verstehen, wie Menschen KI Zugriff auf Ihre Daten geben können. Egal ob gespeicherte Dateien, Browser-Daten oder gar Finanzdaten.

Ernsthaft, wie kann man so bescheuert sein?

Oder mal anders ausgedrückt: 

Computer arbeiten nach dem Prinzip EVA, also Eingabe, Verarbeitung, Ausgabe. In der Verarbeitungsphase übernehmen Regeln („Software“) die Eingaben und transformieren sie zur Ausgabe. Wir schreiben die Regeln, wir wissen also welche Eingabe zu welcher Ausgabe führt. Das ganze ist berechenbar. 

Das ist bei KI grundsätzlich anders. Wir haben oft keine Ahnung, welche Eingabe zu welcher Ausgabe führt, weil wir in der Verarbeitung festgelegt haben, dass Mechanismen eingesetzt werden, die sich unserer Logik entziehen können.

Das wiederum führt dazu, dass man grundsätzlich KI nur soweit trauen darf, wie man ein Klavier werfen kann. Zumal viele Menschen immer wieder zu vergessen scheinen, dass insbesondere die Sprachmodelle (LLM) nur einen Sinn haben:

Die vom Nutzer mit der höchsten Wahrscheinlichkeit erwartete Antwort zu liefern. Sie wollen also gefallen, widersprechen ungern, sind sich ihrer eigenen Unfähigkeit absolut nicht bewusst und liefern auf Grund des Wesens von KI nie überragendes, sondern immer nur mittelmäßiges Wissen.

Solchen Systemen, deren Handlungen und Entscheidungen wir nur bedingt bis gar nicht folgen können, darf man grundsätzlich keine persönlichen Daten geben. Sie dürfen keinen Zugriff auf Eure Browser und Euer Suchverhalten haben. Eure Dateien. Eure Passwörter. Eure Banking-Apps oder Zugangsdaten. 

Wer sie dennoch darauf los lässt und glaubt, damit ein bequemeres Leben zu haben, muss akzeptieren bei Fällen von Passwortklau oder verlorenem Geld oder verratenen Geheimnissen von mir einfach nur ausgelacht zu werden. Denn Ihr müsst inzwischen allen wissen, dass KI eben nicht das Allheilmittel ist, das uns versprochen wurde.

Sondern eine höchst unzuverlässige und in vielen Fällen durch ihre nicht nachvollziehbaren Handlungen gefährliche Technik, die mit höchster Vorsicht eingesetzt werden muss. Und die ständig kontrolliert werden will. Oder in der Kurzfassung: 

HÖRT AUF, AUS FAULHEIT AUF KI ZU SETZEN!

Oder kommt mit den Folgen klar.