Bereits vor knapp einem Jahr konnte jeder, der es wissen wollte, über die Unzuverlässigkeit der KI nachlesen. Damals ging es „lediglich“ um aktuelle Nachrichten und die Hintergrundinformationen, die verschiedene Anbieter von KI dazu wussten. Das Ergebnis zeigte, dass die Antworten zum großen Teil enttäuschend, teils sogar niederschmetternd schlecht oder irreführend waren.

Im Klartext:

In 45 Prozent aller KI-Antworten war mindestens ein erheblicher Irrtum enthalten.

Bei 31 Prozent der Antworten gab es erhebliche Probleme mit den benutzten Quellen – teils waren sie falsch, teils irreführend.

In 20 Prozent der Fälle enthielten die Antworten, für die es gar keine Belege gab oder bei der die Belege veraltet waren. Im englischen Originaltext heißt es dazu: „Die KI halluzinierte“.

Wohl bemerkt – es handelte sich um Nachrichtenmaterial, das gründlich analysiert wurde und nicht um Wertfragen.

Die KI - im Größenwahn?

Generell sagt die verwendet Studie aus, dass die KI-Programme ein Problem damit haben, sich selbst zu überschätzen. Das ist ausgesprochen gefährlich für den gutgläubigen Anwender, der hinter der KI eine „objektive“ Stellungnahme vermutet. Um es nochmals zu sagen: Gefragt wurden nach überprüfbaren Fakten, auf die eine möglichst zutreffende Antwort erwartetet wurde. Selbstverständlichen hätte die KI eine Möglichkeit, sich zu weigern, bestimmte Fragen zu beantworten. Aber das geschieht immer seltener: Die Rate der nicht beantwortbaren Fragen fiel laut der erwähnten Studie zwischen August 2024 und 2025 von 31 auf null Prozent.

Konservativ, akademisch und selbstherrlich - wie kommen diese Elemente in die KI?

Abseits der Studie: Die KI (AI) wird offenbar von ihren Entwicklern mit teils konservativer, teils akademischer Selbstüberschätzung ausgestattet. Dazu gehört auch, bei Fragen, die nicht in das relativ simple Denkschema der KI passen, zurechtgewiesen zu werden. Man fühlt sich an Schüler erinnert, die wagten, eine unbequeme Frage an ihren Lehrer stellen. Dies alles wirft einen scharfen Lichtstrahl auf die elitären Strukturen, die offenkundig in manchen Programmen verankert wurden. „Selbstüberschätzung“ ist keiner Maschine und keinem Programm eigen. Also wird irgendwo im Programm ein winziger Code-Schnipsel lauern, der sagt: „Wenn dir der Fragesteller zu frech wird, dann erkläre ihn für unfähig, die richtigen Fragen zu stellen.“

Interessiert euch das Thema? Habt ihr ähnliche Erfahrungen gemacht oder vollkommen andere? Dann sagt es, schreibt es und verhindert dadurch, dass KI eingesetzt wird, um die Meinungsvielfalt einzuschränken. Verweist dabei bitte auf sehpferd, wenn ihr mögt.

Quelle: Ausführlich als PDF - BBC.

Wenn es im Internet genügend „seriöse“ Beiträge zu einem ethischen Thema gibt, bedient sich die KI dort – wo sonst?

Nehmen wir einmal an, du würdest etwas zu einem Thema suchen, bei dem es sowohl Tatsachen wie auch Meinungen gibt. Wie zu fast all diesen Themen, gibt es dazu auch „Erhebungen“ von Wissenschaftlern, die ganz auf der Linie der Meinungsmacher liegen.

Stellen wir einfach mal eine Frager (die KI-Quelle wird nicht genannt, und die Antworten wurden extrem vereinfacht).

Fragen an die KI - wie geht sie vor? .

Egal, welche Fragen ihr stellen werdet - wenn die KI keien Tatsachen findet, sollte sie auch keine Antworten ausgeben. Doch ist das in der Praxis auch so?

Häufig kommt dennoch eine Antwort, und sie besteht meistens aus diesen drei Teilen:

1. Die angefragte KI findet kleine Tatsachen, weil diese meist unveröffentlicht bleiben oder als „Erfahrungswissen“ für „ernsthafte“ Forscher nicht infrage kommen.
2. Andererseits scheuen sich ethische und religiöse Gruppen kaum, unter eigener oder fremder Flagge Meinungen zum Thema zu verbreiten. Diese Beiträge erscheinen in Massen im Internet – teils von echten Autoren lanciert, teils von anderen KI-Programmen.
3. Aus diesen Informationen erstellt „deine“ KI eine Struktur dazu. Das ist das, was du am Bildschirm siehst.

die Antwort passt nicht zur Frage, sondern wirkt belehrend.

Die Frage (vereinfacht):

Welche sexuellen Erfahrungen sollte eine Person bereits besitzen, wenn sie sich zum „Dating“ entschließt?

Erster Schritt

Die KI versucht, das im Grunde reichlich vorhandene Erfahrungswissen auszugrenzen. Das liest sich ungefähr so:

Das, was du gefragt hast, ist nicht relevant, um eine dauerhafte Beziehung einzugehen. .

Ethische oder psychologische „Ratschläge“ werden ausgegeben:

Wichtig ist vielmehr, in dein Inneres zu hören und deine Möglichkeiten und Grenzen zu erkennen.

die Botschaft endet mit einem wissenschaftlichen Orakel.

Manche Wissenschaftler haben herausgefunden, dass Menschen mit Vorerfahrungen für Beziehungen weniger geeignet sind, während andere behaupten, dass es gleichgültig ist, welche persönlichen Erfahrungen du zuvor hattest.

Fehler der KI, willkürlich eingearbeitet Moralvorstellungen oder Beeinflussung?

Nehmen wir an, das wäre der reine Zufall. Dann hätte niemand die KI beeinflusst, sondern sie wär einfach nicht geeignet, intime Fragen auf der Grundlage von Erfahrungen zu beantworten. Dann sollte sie uns dies aber auch mitteilen, nicht wahr?

Nun könnte ich ja auf die Idee kommen, die KI würde sich an „ausgesucht seriösen Seiten“ orientieren – dann hätten Ideologen ein Einfalltor. Sie müssten sich nicht einmal einen wissenschaftlichen Anstrich geben – ein paar bekannte Namen aus der Philosophie reichen durchaus. Die „ausgebende“ KI kann damit heute schon einen einmal erzeugten Text in vielen Varianten an die Öffentlichkeit bringen, ohne dass es die lesende KI merken würde.

die KI selbst kennt keine Verantwortung.

Und bevor ihr jetzt die KI verdammt – das alles war schon immer so. Jedenfalls, seit das Internet besteht. Je mehr eine an sich belanglose Information oder Ansicht verbreitet wird, umso mehr „Relevanz“ bekommt sie. Vorurteile sitzen tief, und wenn die dahinterstehenden Klischees immer wieder strapaziert werden, dann werden sie im Resultat zu Wahrheiten umgemünzt.

Der Unterschied besteht daran, dass es die KI viel schneller schafft. Und in der Hand der „Beeinflusser“ wird sie dann zur Waffe, die sich gegen die Meinungsvielfalt richtet.

Wann es so weit ist?

Jetzt. In diesem Moment schreibt irgendein konservativer Autor in einer Tageszeitung, in einem Blog oder einem sozialen Netzwerk einen Artikel, der in dies Muster passt. Da werden die alten Regeln wiederbelebt, von der Gesellschaftsordnung des neunzehnten Jahrhunderts bis hin zu jenen der Adenauer-Ära.

Und mich fröstelt es, wenn ich solche Beiträge lese.

Hinweis: Unser Autor ist sich bewusst, dass Teile dieses Artikels nicht ausreichend belegt sind. Aber er hofft, dass er andere Menschen zum Nachdenken bringen kann.

Etwas scheint nichts zu klappen. Die mitgelieferte Fernbedienung weigerte sich beharrlich, ihr Batteriefach freizugeben. Doch dies gelang schließlich durch die Magie eines geeigneten Daumens. Irgendwie drücken, irgendwie schieben. Dann funktioniert das Gerät, doch lassen sich wesentliche Werte für den Betrieb nicht verändern.

Einfaches Problem? Hersteller-Service anfragen? Na klar … die müssen ja wissen, was es sein könnte,

Das Gespräch begann … nun - in erster Linie damit, dass ich die Telefon-Nummer suchte. Viele Internetanbieter scheuen Telefonkontakte wie die Pest. Es gibt zwei hervorragende Wege, diese zu verschleiern: Entweder dadurch, dass man sie irgendwo versteckt oder aber, dass man diese Kontakte durch „KI“ erschwert. Oder beides.

Die KI meldet sich

Die KI meldet sich mit freundlicher weiblicher Stimme, sagt, wie sie sich nennt und fragt (selbstverständlich): „Wie kann ich Ihnen helfen?“ Das allerdings hat sie nicht gelernt – sie arbeitet Fragenkataloge ab. Dazu gehört, dass ich ihre hauseigene Bestellnummer wissen muss. Nur dann kann sie meine Anfrage beantworten. Da ich nur die Bestellnummer des Versandhauses habe, kann sie es nicht.

Schade eigentlich.

Doch ich versuche es weiter, schildere das Problem. Es wäre leicht zu lösen gewesen, wenn dich die Langtexte in der Bedienungsanleitung gelesen hätte. Hatte ich aber nicht. Es handelt sich um eine Statusmeldung – und sie war nur im Text zu finden.
Ich konnte das Problem später dadurch lösen, dass ich den Netzstecker zog und ihn nach einer Weile wieder einsteckte. (Alter IT-Trick aus einer Fernsehserie, mir auch als „norwegische Methode“ bekannt.

Die KI-Dame versteht Wörter, aber keine E-Mai-Adressen

Es ging noch eine weiter mit der KI-Madame. Sie wollte meine Handy-Nummer, weil „die Technik“ mich noch einmal anrufen würde. Die AI war also zu dumm um, mein Problem zu verstehen. Immerhin klappte es mit der Wiederholung der Telefonnummer – auf die allerdings mindestens innerhalb der nächsten zehn Stunden kein Anruf einging.

Größere Schwierigkeiten gab es mit der E-Mail-Adresse. Sie wurde auch beim dritten Versuch nicht verstanden, weder nach der Wort- noch nach der Buchstabenmethode.

Fazit: Eine künstliche Intelligenz gegenüber dem Kunden einzusetzen, ist risikoreich, vor allem, wenn sie schlecht programmiert ist. Ich nenne die betreffende Firma nicht, aber ich weiß, dass sogar einige IT-Unternehmen fragwürdige AI-Chatbots im Einsatz habe.

Appell

Liebe Firmen, die ihr etwas verkauft: Der Service macht den Unterschied, ob man ein Produkt oder eine Dienstleistung in Anspruch nimmt. Wartet also nicht, bis euer Umsatz in den Keller geht, sonder sorgt zeitig für einen vernünftigen Service.

Der Juni – ja, ich bin wieder da …

Politik

Nein, ich habe mich nicht aus dem Internet zurückgezogen. Obgleich es mir angesichts der politischen Entwicklungen in den USA, in Israel und einigen anderen Staaten dieser Erde zeitweilig die Sprache verschlagen hat. Liberale und gestandene Demokraten haben es eben schwer in dieser Zeit.

Suchmaschinen und KI

Das Thema „KI“ (AI) galoppiert den Politikern ohnehin davon. Naive Benutzer reden bereits davon, wie toll die KI in der Suchmaschine ist, möglichst noch sprachgesteuert.

Um es klar zu sagen: Die Suchmaschinen sind – mit oder ohne KI – alles andere als zuverlässig. Das mag noch gehen, wenn es um die Aufreihung von Sehenswürdigkeiten geht, aber kaum noch, wenn es darum geht, Hintergründe zu erforschen. Teils fehlen die Ressourcen im Internet, teils werden Mainstream-Seiten bevorzugt und drittens wäre da noch die Vermarktung der Suchinteressen. Momentan versuche ich Duckduckgo.

Neues zu KI bei Sehpferd

Auch ich benutze KI – zum Beispiel, um historische Fotos zu verbessern. Die Ergebnisse sind durchaus brauchbar, solange das Ausgangsfoto nicht zu klein ist und die Kamera bei der Aufnahme auf die richtige Entfernung eingestellt war. Wenn das erledigt ist, gehe ich an die Nachbearbeitung – KI kann nicht alles. Uneigennützig verrate ich, dass ich „Final2x“ benutzt habe. Die Technik dieses Produkts eignet sich vorzüglich, um normal oder reichlich belichtete Fotos, die ursprünglich mit Kleinbildkameras aufgenommen wurden, wirklich sinnvoll aufzupolieren. Tipp: Nach der KI versuchen, Schwarz-weiß-Bilder aufzuhellen – wenn du Glück hast, siehst du Details, die vorher nicht zu sehen waren.

Hinweis: Grundsätzlich werbe ich nicht für Produkte, um damit Geld zu verdienen. Die Tipps entsprechen meiner Erfahrung.

Die Liebe zu künstlichen Menschen wurde nicht erst gestern erfunden. Eine lange Spur von Erzählungen führt von Pygmalion bis zur Jetztzeit, in der sich Menschen in Kunstgestalten verlieben.

Untote als Verführer(innen)

In der Welt der bewegten Bilder sahen wir zunächst einige durchaus charmante männliche „Untote“, die sich zumeist Damen näherten, um sie ins Verderben zu führen. Nicht immer stand Vlad Dracul Pate für den verführerischen Blutsauger – auch die Gräfin Bathory wurde als Vorbild genommen, wie der Film „Les lèvres rouges“ zeigt.

Vom Untoten zum Maschinenmenschen – im Kino

Bald sahen wir die Verfilmung der „Frauen von Stepford“, bei denen biologische Frauen durch maschinelle Stellvertreterinnen ersetzt wurden. In „Westworld“ wurden sogar weibliche Roboter als Prostituierte gezeigt. In neuester Zeit entspringen diese Figuren in Filmen allerdings dem Internet. Zunächst ist die künstliche Geliebte sie nur als Stimme vorhanden, etwa in „Her“, ein Film, in dem sich ein Schriftsteller in die Stimme des Avatars „Samantha“ verliebt (2012). In anderen Produktionen, die ebenfalls von der KI und ihren Möglichkeiten beeinflusst wurden, treten sie tatsächlich in das „reale Leben“ hinein. Selbst im „Tatortreiniger“ gab es eine solche Folge (2020) mit dem weiblichen Roboter „Emma 206“.

Emotionale Bindungen mithilfe von KI

Und heute? Ich zitiere:

„KI-Begleiter, die darauf programmiert sind, emotionale Bindungen zu knüpfen, sind nicht mehr auf Filmdrehbücher beschränkt. Sie sind hier und agieren in einer Umgebung, die den Gesetzen des ‚Wilden Westens‘ entspricht.“

Möglicherweise beruhigt es dich, dass diese Gestalten nur virtuell existieren – sie kommen also nicht plötzlich in voller Lebensgröße aus dem Bildschirm heraus und fragen, wo dein Schlafzimmer ist.

Gefährliche Schnittstelle - Chat-Bots und naive Internetbenutzer(innen)

Und doch sind sie eine Gefahr. Denn im Internet ist es nicht unüblich, Beziehungen zunächst „online“ zu knüpfen. Kritische Internet-Benutzer wissen dies und lassen sich nicht auf „Online-Intimitäten“ mit Chat-Bots und Avataren ein. Andere Nutzer sind jedoch naiv. Sie glauben, auf einem Dating- oder Flirt-Portal ausschließlich auf Menschen zu treffen. Manche Benutzer(innen) fühlen sich sogar „unwohl“, wenn sie zu „zu direkt“ angesprochen werden oder die Gefühlslage der anderen Person von der eigenen abweicht. Nun kommt der Chat-Bot ins Spiel: Ob der Roboter einen „Er“ oder eine „Sie“ spielt, ist gleichgültig. Sein Programm erzeugt passende Emotionen. Und er gibt „positives Feedback“ bei den Gefühlen, die ein naiver User oder eine naive Userin mit „ihm“ teilen möchte.

Kunstmenschen zum Verlieben und für virtuelle Sexspiele

Inzwischen gibt es solche Bots überall – manche dienen nur dazu, die Userin oder der User immer wieder auf das entsprechende Portal zu locken. Um dort sinnliche Gefühle zu erleben. Andere versuchen, den Usern und Userinnen vertrauliche Daten zu entlocken. In jüngster Zeit wurden solche Bots sogar darauf programmiert, als sexuelle Verführerinnen zu agieren. Zwar verführen sie nur „virtuell“, aber die entsprechenden Dialoge können mit der Person verbunden und in Datenbanken gespeichert werden. Aus solchen Daten lassen sich jederzeit Persönlichkeitsprofil erstellen – und in gewissen Portalen eben auch mit allen sexuellen Bedürfnissen, die dort eingesammelt wurden.

Quellen: Soweit das Kino betroffen ist - "Immoral Tales - Sex and Horror Cinema", London 1995.
Weitere Quellen: Online Personal Watch, im Original bei Bloomberg und ausführlicher (alles in englischer Sprache) bei technologyreview. Weitere Medien, z.B. Liebeszeitung.