Bereits vor knapp einem Jahr konnte jeder, der es wissen wollte, über die Unzuverlässigkeit der KI nachlesen. Damals ging es „lediglich“ um aktuelle Nachrichten und die Hintergrundinformationen, die verschiedene Anbieter von KI dazu wussten. Das Ergebnis zeigte, dass die Antworten zum großen Teil enttäuschend, teils sogar niederschmetternd schlecht oder irreführend waren.

Im Klartext:

In 45 Prozent aller KI-Antworten war mindestens ein erheblicher Irrtum enthalten.

Bei 31 Prozent der Antworten gab es erhebliche Probleme mit den benutzten Quellen – teils waren sie falsch, teils irreführend.

In 20 Prozent der Fälle enthielten die Antworten, für die es gar keine Belege gab oder bei der die Belege veraltet waren. Im englischen Originaltext heißt es dazu: „Die KI halluzinierte“.

Wohl bemerkt – es handelte sich um Nachrichtenmaterial, das gründlich analysiert wurde und nicht um Wertfragen.

Die KI - im Größenwahn?

Generell sagt die verwendet Studie aus, dass die KI-Programme ein Problem damit haben, sich selbst zu überschätzen. Das ist ausgesprochen gefährlich für den gutgläubigen Anwender, der hinter der KI eine „objektive“ Stellungnahme vermutet. Um es nochmals zu sagen: Gefragt wurden nach überprüfbaren Fakten, auf die eine möglichst zutreffende Antwort erwartetet wurde. Selbstverständlichen hätte die KI eine Möglichkeit, sich zu weigern, bestimmte Fragen zu beantworten. Aber das geschieht immer seltener: Die Rate der nicht beantwortbaren Fragen fiel laut der erwähnten Studie zwischen August 2024 und 2025 von 31 auf null Prozent.

Konservativ, akademisch und selbstherrlich - wie kommen diese Elemente in die KI?

Abseits der Studie: Die KI (AI) wird offenbar von ihren Entwicklern mit teils konservativer, teils akademischer Selbstüberschätzung ausgestattet. Dazu gehört auch, bei Fragen, die nicht in das relativ simple Denkschema der KI passen, zurechtgewiesen zu werden. Man fühlt sich an Schüler erinnert, die wagten, eine unbequeme Frage an ihren Lehrer stellen. Dies alles wirft einen scharfen Lichtstrahl auf die elitären Strukturen, die offenkundig in manchen Programmen verankert wurden. „Selbstüberschätzung“ ist keiner Maschine und keinem Programm eigen. Also wird irgendwo im Programm ein winziger Code-Schnipsel lauern, der sagt: „Wenn dir der Fragesteller zu frech wird, dann erkläre ihn für unfähig, die richtigen Fragen zu stellen.“

Interessiert euch das Thema? Habt ihr ähnliche Erfahrungen gemacht oder vollkommen andere? Dann sagt es, schreibt es und verhindert dadurch, dass KI eingesetzt wird, um die Meinungsvielfalt einzuschränken. Verweist dabei bitte auf sehpferd, wenn ihr mögt.

Quelle: Ausführlich als PDF - BBC.

Wenn Menschen etwas nicht genau wissen und auch nicht über die nötigen Quellen verfügen, um es nachzusehen, dann behaupten sie einfach irgendetwas.

Auch intelligente Menschen nutzen Behauptungen

Das tun sogar intelligente Menschen. Haben sie mal etwas von Sigmund Freud, Carl Gustav Jung oder Wilhelm Reich gelesen, dann nehmen sie oft an, dass es sich dabei um allzeit gültige, wissenschaftlich fundierte Tatsachen handelt. Allein der Gedanke, dass es kühne Erfindungen sein könnten, wird selten geäußert.

KI behauptet und halluziniert

Was aber tun künstliche Intelligenzen, wenn sie eine Frage nicht eindeutig beantworten können und dies auch nicht „zugeben“ dürfen?

Sie erfinden Unsinn, mit einem neuen Begriff (jedenfalls für die KI), sie „halluzinieren“.

Der wahrscheinlichste Grund dafür: Die Antworten der KI beruhen auf Wahrscheinlichkeiten, und diese Wahrscheinlichkeiten werden unterschiedlichen, als „verlässlich“ bezeichneten Quellen entnommen. Wie die meisten Menschen auch, greift die KI also auf „Wahrscheinlichkeiten“ zurück, wenn keine Fakten zur Verfügung stehen. Und genau da fängt das Problem an: Der Wahrheitsgehalt schwindet, und das Ergebnis wird fragwürdig.

Ein ausgewiesener Fachmann sagt dazu:

(KI) ist darauf trainiert, das nächstwahrscheinliche Wort zu generieren, sodass der Text kohärent klingt.

Kohärent sein heißt: „In einem vernünftigen Zusammenhang stehend“. Doch die höchstwahrscheinliche Verbindung kann richtig, falsch oder absolut unsinnig sein.

Wann KI unzuverlässig wird

Dies wirft wieder ein Licht darauf, was KI wirklich tut: Sie arbeitet mit zahllosen Annahmen und Wahrscheinlichkeiten aus unterschiedlichen Wissensgebieten, in denen die Frage behandelt wird. Zudem seht sie in Verdacht, Mainstream-Meinungen zu bevorzugen, weil diese in Datenbanken häufiger vorkommen als abweichende Meinungen.

KI, Suchmaschinen, Formulierungen und bekannte IT-Gesetze

Übrigens finden wir daran eine weitere Parallele zu einem lebendigen Menschen, der hofft, die Antworten in konventionellen Suchmaschinen zu finden. Was ihm zuerst angeboten wird, sind die am häufigsten vertretenen Ansichten, die nicht selten als Fakten ausgegeben werden.

Ich erinnre mich an eines der ersten Gebote meiner eigenen IT-Karriere. „Wenn du etwas unklar oder ungenügend formulierst, kann der Programmierer es nicht vernünftig umsetzen“, oder drastischer: „Wenn du Mist vorgibst, kommt auch Mist heraus.“

Soweit heute zur KI, die uns einerseits so viel Nutzen bringt, während sie und andererseits verdummt – oder besser: uns zu einseitigem Denken verleitet.

Zitat: ERGO

Deutschland lebt gut unter zwei Bedingungen: Einigkeit und einem hohen wirtschaftlichen Standard. Die Einigkeit ist uns verloren gegangen - durch Schwätzer von rechts und links, und allen anderen Gruppen, die uns radikalisieren wollen. Ja, auch die FDP hat ihren Anteil daran, von den beiden anderen Regierungsparteien einmal abgesehen. Und wirklich - sie machen keinen guten Eindruck, weil sie am Volk vorbeireden.

Allerdings braucht jeder Deutsche (und damit Deutschland) eine Zukunftsperspektive. Und daran muss jeder von uns mitarbeiten - denn der Wohlstand kommt nicht durch 3-Tage-Woche, Bürgergeld oder andere Forderungen des linken Spektrums.

Und in sofern muss der Wohlstand wahrhaftig erst erarbeitet werden, bevor er verteilt werden kann - egal, wer das sagte und ob seine Absichten “lauter“ waren.

Deutschland ist in Gefahr, seine Zukunft an die Extremisten zu „verkaufen“. Wer von links, rechts oder weiteren extremen Richtungen laut genug blökt, wird eher gehört als derjenige, der die Freiheit als höchstes Gut schätzt.

Und was können wir tun?

Niemandem nachlaufen, der uns ein besseres oder gerechteres Leben verspricht - sondern uns dieses Leben schaffen. Und das geht nur, wenn wir uns einig sind.