Bereits vor knapp einem Jahr konnte jeder, der es wissen wollte, über die Unzuverlässigkeit der KI nachlesen. Damals ging es „lediglich“ um aktuelle Nachrichten und die Hintergrundinformationen, die verschiedene Anbieter von KI dazu wussten. Das Ergebnis zeigte, dass die Antworten zum großen Teil enttäuschend, teils sogar niederschmetternd schlecht oder irreführend waren.

Im Klartext:

In 45 Prozent aller KI-Antworten war mindestens ein erheblicher Irrtum enthalten.

Bei 31 Prozent der Antworten gab es erhebliche Probleme mit den benutzten Quellen – teils waren sie falsch, teils irreführend.

In 20 Prozent der Fälle enthielten die Antworten, für die es gar keine Belege gab oder bei der die Belege veraltet waren. Im englischen Originaltext heißt es dazu: „Die KI halluzinierte“.

Wohl bemerkt – es handelte sich um Nachrichtenmaterial, das gründlich analysiert wurde und nicht um Wertfragen.

Die KI - im Größenwahn?

Generell sagt die verwendet Studie aus, dass die KI-Programme ein Problem damit haben, sich selbst zu überschätzen. Das ist ausgesprochen gefährlich für den gutgläubigen Anwender, der hinter der KI eine „objektive“ Stellungnahme vermutet. Um es nochmals zu sagen: Gefragt wurden nach überprüfbaren Fakten, auf die eine möglichst zutreffende Antwort erwartetet wurde. Selbstverständlichen hätte die KI eine Möglichkeit, sich zu weigern, bestimmte Fragen zu beantworten. Aber das geschieht immer seltener: Die Rate der nicht beantwortbaren Fragen fiel laut der erwähnten Studie zwischen August 2024 und 2025 von 31 auf null Prozent.

Konservativ, akademisch und selbstherrlich - wie kommen diese Elemente in die KI?

Abseits der Studie: Die KI (AI) wird offenbar von ihren Entwicklern mit teils konservativer, teils akademischer Selbstüberschätzung ausgestattet. Dazu gehört auch, bei Fragen, die nicht in das relativ simple Denkschema der KI passen, zurechtgewiesen zu werden. Man fühlt sich an Schüler erinnert, die wagten, eine unbequeme Frage an ihren Lehrer stellen. Dies alles wirft einen scharfen Lichtstrahl auf die elitären Strukturen, die offenkundig in manchen Programmen verankert wurden. „Selbstüberschätzung“ ist keiner Maschine und keinem Programm eigen. Also wird irgendwo im Programm ein winziger Code-Schnipsel lauern, der sagt: „Wenn dir der Fragesteller zu frech wird, dann erkläre ihn für unfähig, die richtigen Fragen zu stellen.“

Interessiert euch das Thema? Habt ihr ähnliche Erfahrungen gemacht oder vollkommen andere? Dann sagt es, schreibt es und verhindert dadurch, dass KI eingesetzt wird, um die Meinungsvielfalt einzuschränken. Verweist dabei bitte auf sehpferd, wenn ihr mögt.

Quelle: Ausführlich als PDF - BBC.

Es gibt manche Gründe, nicht mit China zu kooperieren – und einige, es dennoch zu tun.

Ein Grund wäre die Entwicklung von KI, ein anderer die Computertechnologie schlechthin. Und letztlich ist es der Gedanke, dass die Hoheit über die Welt inzwischen zu einem großen Teil von den Regierungen an die Internet-Konzerne übergegangen ist.

Es kling zunächst eigenartig, dass sich ausgerechnet China dafür interessiert, diesen Machtzuwachs zu durchbrechen.

Ich zitierte:

In der Kombination von technologischen und ökonomischen Monopolen entstünden globale Wirtschaftsoligarchien, in denen „einige wenige große Technologieunternehmen immer größer werden und die Mehrheit zum Nachteil marginalisiert wird“.

Beherrschung durch IT-Konzerne

Das heißt in Klartext: Wer die Technologieunternehmen beherrscht, kann theoretisch über die Welt herrschen. Was letztlich bedeutet, dass alle anderen Unternehmen wie auch Privatleute beherrscht werden können. Denn wenn sie in Zukunft „mithalten“ wollen, müssen sich demnach der Diktatur dieser Unternehmen fügen.

Der Artikel der „Berliner Zeitung“ schließt mit einem Plädoyer für mehr Zusammenarbeit zwischen China und Deutschland. Sie beruft sich auf eine Idee von Professor Jiang Feng von der Universität Schanghai.

Ich werde allenthalben per E-Mail darauf hingewiesen, dass ich mein Geld ohne eigenes Zutun verdienen könnte, wenn ich mit „einer geringen Einstiegsinvestition“ beginnen“ würde. Dann nämlich würde sich mein „Dasein heute vollständig verändern“.

Wie schön für mich. Leider falle ich auf derartige Angebote nicht herein. Denn ein Satz gilt immer und überall:

Wenn es so leicht wäre, Geld zu scheffeln, warum versucht es der angebliche „Autor“ solcher E-Mail es nicht selbst?

Was neu daran ist: Das Wort „KI“, das in aller Munde ist. Oder mit anderen Worten:

„Das AI-Startup macht die KI-Revolution für ... Anleger zugänglich.“

Ach nee ... nun auch noch das ...

Ich finde es schrecklich merkwürdig, dass es bereits einige Dutzend sehr positive gehaltene Erläuterungen zur KI gibt - zur künstlichen Intelligenz. Einige sind dankenswerterweise so einfach gehalten, dass sie sogar jemand versteht, der nie ein Programm geschrieben hat. Die Autoren behaupten dabei stets, sie seien aufrichtige Berichterstatter - und erstaunlicherweise glauben sie das selbst.

KI verblüfft - künstliche Dummheit auch

Tatsächlich gibt es mehrere Möglichkeiten, mit KI zu verblüffen: einmal diejenige, das Wesentliche aus einer Fülle von Quellen auszufiltern und die Essenz dann zu präsentieren. Dazu benötigt man in erster Linie eine solide Basis von Kriterien, ausgezeichnete Programme und qualifiziert bestückte Datenbanken. Es gibt noch mehr Anwendungen, natürlich. Aber ich schreibe hier ja kein Buch.

Die andere Möglichkeit besteht darin, mit einem mager ausgestatteten Algorithmus große Datenbanken aller Art zu durchwühlen, um ihnen „Ähnlichkeiten“ festzustellen. Beliebt sind ähnliche Produkte, wie etwa Bücher, Tonträger oder technische Artikel. Irrtümer spielen dabei kaum eine Rolle – irgendwelche Treffer gibt es immer. Ähnlich ist es bei Menschen: Die beste Besetzung die ausgeschriebene Stelle wird mithilfe von Vergleichen ermittelt - hoffen wir mal, dass der Personalchef und seine IT-Berater die richtigen Kriterien fanden. Die geeignetsten Ehe-, Beziehungs- oder Liebespartner werden ebenfalls anhand von Ähnlichkeiten ermittelt - wobei ich mich Frage, woher man die Daten für solche Ähnlichkeiten bezieht. Wer nachfragt, wird abgewiesen: Firmengeheimnisse und ganz viel Psychologie – natürlich. Psychologie macht sich immer gut.

Das Geschäft mit angeblichen Ähnlichkeiten

Wenn du Laie, Kunde, User, Klient oder so etwas bist, wirst du meist nicht einmal argwöhnisch. Obwohl es sehr viel wahrscheinlicher ist, mit künstlicher Verblödung in Kontakt zu kommen als mit künstlicher Intelligenz. Das Geschäft mit den „Ähnlichkeiten “ beruht darauf, dass ziemlich simple Programme, die zudem noch mit fragwürdigen Inhalten ausgestattet sind, in großen Datenbanken wühlen, um die Ergebnisse einzufangen.

Ein paar Cent fallen bei Empfehlungen immer ab

Der „Nutzer“ oder die „Nutzerin“ kann an all das glauben, alles ignorieren oder auch nur einen winzigen Teil beachten - das spielt keine Rolle. Irgendein Gewinn fällt für den Anbieter früher oder später ab. Und gelegentlich sogar für die Nutzerin oder den Nutzer, denn wo „Empfehlungen“ geschickt und halbwegs glaubwürdig platziert werden, schlägt auch der Zufall dann und wann zu.

Oh, ihr seid überrascht?

Dann lass ich euch mal eure Verblüffung.

Dieser Tage fiel mir auf, dass die IT, manchmal auch deren Mitarbeiter, die vereinfachend oft als „Programmierer“ bezeichnet werden, als „Buhmänner“ herhalten müssen. Zuerst erfuhr ich dergleichen von einem Arzt, der den Zusammenbruch des Gesundheitswesens durch IT-Mitarbeiter befürchtete. Er bellte freilich den falschen Baum an, denn die Ideen, Verwaltungsprozesse zu digitalisieren, geht nicht vom IT-Personal aus.

In den letzten Tagen erfuhr ich mehr und mehr, wie die sogenannten „Querdenker“ und andere verwirrte Theoretiker die IT-Branche verfluchten. Darunter waren auch wieder Akademiker, die ihre durch Studium und langjährige Praxis erworbenen Fähigkeiten nun abgewertet sahen.

Sie alle sind offenbar der Überzeugung, dass die IT-Branche lediglich eine Ansammlung von Freaks ist. Menschen ohne „konkrete“ Ausbildung also, die kaum etwas anders können als zu „codieren“. Diese Tätigkeit ist leider auch durch Programmierer-Schnellkurse in Verruf geraten. Das sind jene Kurse, bei denen der Schüler am Ende glaubt, ihm stünde nun das „Arbeitsfeld IT“ offen.

Das ist nicht der Fall. Ein IT-Projekt beginnt so gut wie niemals mit „einem Programmierer“.

Da ist Kunde, der eine Vorstellung hat, was er mit einer IT-Umsetzung der bisherigen Arbeitsprozesse erreichen will. Meist ist dazu ein umfassender Dialog nötig, denn was am Ende herauskommen soll, muss nicht nur rein datentechnisch funktionieren, es muss auch für die Mitarbeiter verständlich sein. Ich will nicht „aus der Schule plaudern“. Aber man kann sich oft gar nicht vorstellen, wie schwierig es ist, die Möglichkeiten der IT mit den Vorstellungen des Kunden in Einklang zu bringen und dabei auch noch auf die Kosten zu achten.

Langer Rede kurzer Sinn: Projekte in der IT sind sehr komplex. Und die Menschen, die solche Projekte planen, ausgestalten oder leiten, haben in der Regel ein enormes Wissen und viel Erfahrung. Teilweise haben sie als ehemalige Schreiner, Disponenten, Verkaufsmitarbeiter oder Buchhalter auch noch die nötigen Fachkenntnisse in der Branche des Kunden.