Skip to content
Dem liberalen Geist eine Stimme geben - das ist sehpferd

Die Halluzinationen des Computers

Wenn Menschen etwas nicht genau wissen und auch nicht über die nötigen Quellen verfügen, um es nachzusehen, dann behaupten sie einfach irgendetwas.

Auch intelligente Menschen nutzen Behauptungen

Das tun sogar intelligente Menschen. Haben sie mal etwas von Sigmund Freud, Carl Gustav Jung oder Wilhelm Reich gelesen, dann nehmen sie oft an, dass es sich dabei um allzeit gültige, wissenschaftlich fundierte Tatsachen handelt. Allein der Gedanke, dass es kühne Erfindungen sein könnten, wird selten geäußert.

KI behauptet und halluziniert

Was aber tun künstliche Intelligenzen, wenn sie eine Frage nicht eindeutig beantworten können und dies auch nicht „zugeben“ dürfen?

Sie erfinden Unsinn, mit einem neuen Begriff (jedenfalls für die KI), sie „halluzinieren“.

Der wahrscheinlichste Grund dafür: Die Antworten der KI beruhen auf Wahrscheinlichkeiten, und diese Wahrscheinlichkeiten werden unterschiedlichen, als „verlässlich“ bezeichneten Quellen entnommen. Wie die meisten Menschen auch, greift die KI also auf „Wahrscheinlichkeiten“ zurück, wenn keine Fakten zur Verfügung stehen. Und genau da fängt das Problem an: Der Wahrheitsgehalt schwindet, und das Ergebnis wird fragwürdig.

Ein ausgewiesener Fachmann sagt dazu:

(KI) ist darauf trainiert, das nächstwahrscheinliche Wort zu generieren, sodass der Text kohärent klingt.

Kohärent sein heißt: „In einem vernünftigen Zusammenhang stehend“. Doch die höchstwahrscheinliche Verbindung kann richtig, falsch oder absolut unsinnig sein.

Wann KI unzuverlässig wird

Dies wirft wieder ein Licht darauf, was KI wirklich tut: Sie arbeitet mit zahllosen Annahmen und Wahrscheinlichkeiten aus unterschiedlichen Wissensgebieten, in denen die Frage behandelt wird. Zudem seht sie in Verdacht, Mainstream-Meinungen zu bevorzugen, weil diese in Datenbanken häufiger vorkommen als abweichende Meinungen.

KI, Suchmaschinen, Formulierungen und bekannte IT-Gesetze

Übrigens finden wir daran eine weitere Parallele zu einem lebendigen Menschen, der hofft, die Antworten in konventionellen Suchmaschinen zu finden. Was ihm zuerst angeboten wird, sind die am häufigsten vertretenen Ansichten, die nicht selten als Fakten ausgegeben werden.

Ich erinnre mich an eines der ersten Gebote meiner eigenen IT-Karriere. „Wenn du etwas unklar oder ungenügend formulierst, kann der Programmierer es nicht vernünftig umsetzen“, oder drastischer: „Wenn du Mist vorgibst, kommt auch Mist heraus.“

Soweit heute zur KI, die uns einerseits so viel Nutzen bringt, während sie und andererseits verdummt – oder besser: uns zu einseitigem Denken verleitet.

Zitat: ERGO

KI, China, Deutschland und die Macht der IT-Giganten

Es gibt manche Gründe, nicht mit China zu kooperieren – und einige, es dennoch zu tun.

Ein Grund wäre die Entwicklung von KI, ein anderer die Computertechnologie schlechthin. Und letztlich ist es der Gedanke, dass die Hoheit über die Welt inzwischen zu einem großen Teil von den Regierungen an die Internet-Konzerne übergegangen ist.

Es kling zunächst eigenartig, dass sich ausgerechnet China dafür interessiert, diesen Machtzuwachs zu durchbrechen.

Ich zitierte:

In der Kombination von technologischen und ökonomischen Monopolen entstünden globale Wirtschaftsoligarchien, in denen „einige wenige große Technologieunternehmen immer größer werden und die Mehrheit zum Nachteil marginalisiert wird“.

Beherrschung durch IT-Konzerne

Das heißt in Klartext: Wer die Technologieunternehmen beherrscht, kann theoretisch über die Welt herrschen. Was letztlich bedeutet, dass alle anderen Unternehmen wie auch Privatleute beherrscht werden können. Denn wenn sie in Zukunft „mithalten“ wollen, müssen sich demnach der Diktatur dieser Unternehmen fügen.

Der Artikel der „Berliner Zeitung“ schließt mit einem Plädoyer für mehr Zusammenarbeit zwischen China und Deutschland. Sie beruft sich auf eine Idee von Professor Jiang Feng von der Universität Schanghai.

Deutschland und KI – die Politik pennt

Noch zu Zeiten der Biden-Administration fiel folgender Satz in den USA:

Die Frage ist: Wird künstliche Intelligenz zu unseren Gunsten funktionieren oder wird sie eher gegen uns eingesetzt? … und der Unterschied zwischen „dafür“ und „dagegen“ ist die … (Frage), ob Amerika in Sachen KI weltweit führend ist oder ob wir dies China überlassen.

Darin schwingt ein wenig Polemik mit – denn wie KI eingesetzt wird, ist im Wesentlichen davon abhängig, wie Regierungen, Organisationen und Wirtschaftsunternehmen damit umgehen.

Deutschland verschläft die Bedeutung der KI


Deutschland fällt bei KI zurück - trotz der Absichtserklärungen

Unzweifelhaft hingegen ist: Deutschland spielt dabei bestenfalls eine Nebenrolle – wenn überhaupt. Wir haben das Feld der Politik längst emotionalen Themen, ideologischen Ausrichtungen und populistischen Aussagen überlassen.

Würde in Deutschland jemand den „Anschluss an die internationale Entwicklung der KI“ fordern oder diese fördern wollen, würde er/sie nicht einmal gehört – geschweige denn, gewählt. Natürlich wird die Politik widersprechen, aber es geht nicht um Absichtserklärungen, sondern um Fakten.

Halbherzige Umsetzung von Beschlüssen

Die deutschen Regierungen haben immer wieder behauptet, den Anschluss an den Wettbewerb (2) um die Technologie zu suchen. Doch was nur halbherzig und zögerlich umgesetzt wird, kann nun einmal keinen Bestand (3).

Ich persönlich sehe in diesem entscheidenden Punkt nicht einmal ernsthafte Bemühungen der Politik - geschweige denn eine Wende.

(1) ny1 .
(2) bmbf.
(3) tagesschau

Digitalisierung, KI und Wahl – das umständliche Thema

Das Wahlross schreibt hier über einige Kernthemen für Deutschlands Zukunft - diesmal über Digitalisierung, künstliche Intelligenz und etwas über die Medienkompetenz.

Digitalisierung


Eines der wichtigsten Zukunftsthemen das nicht verschoben werden kann und für Deutschland eine enorm große Bedeutung hat, ist die Digitalisierung. Mit ihr und dem Einsatz von KI sind Veränderungen für alle Menschen in diesem Land verbunden – egal, wen du wählst und was du dazu meinst. Ein Teil davon wirkt sich bereits aus – ein anderer Teil dümpelt vor sich hin.

Bürger(innen) wollen Pläne statt Ankündigungen

Das eigentliche Problem beider Themen ist nicht, was die Parteien darüber denken, sondern eher das, was dabei tatsächlich herauskommen könnte. Ein Teil der Aussagen über KI und Digitalisierung betrifft die Wirtschaft, ein anderer Teil jedoch die Möglichkeit der Bürger und Bürgerinnen, kurze Wege zu Ämtern, Behörden, Betrieben und Dienstleistern zu finden. In einem dritten Teil geht es darum, das Informationsrecht und die freie Meinungsäußerung zu garantieren und dennoch grobe Verfälschungen zu entlarven. Zumindest das letztgenannte Thema wird ausgesprochen kontrovers diskutiert.

Abseits von allen ideologischen Winkelzügen geht es hauptsächlich darum, was den Bürger(innen) im Endeffekt nützt. Nützlich ist am Ende allerdings überwiegend:

- Was Zeit und Aufwand spart.
- Was Handlungen vereinfacht.
- Was bürokratische Hürden überwindet.
- Was dem Wohlergehen im weitesten Sinne dient.
- Wie man vermeiden kann, dass Falschinformationen digital verbreitet werden.

Wer diese Sätze verinnerlicht, wir bald feststellen, dass es nicht darauf ankommt, was sich die Autoren von Parteiprogrammen ausgedacht haben. Wesentlich wichtiger als die Ankündigung ist die Ausführung. Was letztlich heißt: Wann, wie und mit welchen Mitteln wollte ihr als Partei dies erreichen?

Ihr werdet bald herausfinden, dass Worte billig sind, die Umsetzung hingegen Probleme bereitet. Es reicht eben nicht, zu behaupten, man würde die Digitalisierung „vorantreiben“, sondern die Frage ist, mit welchen Mitteln man welche Ziele bis wann erreichen will.

Unterschiede in der Wirkung - Digitalisierung und KI-Anwendungen

Die Themen „digital“, KI (AI) gehören ohne Zweifel zusammen. Allerdings solltet ihr wissen, dass „Digitalisierung“ ein einfaches, wirksames Werkzeug ist, um Zeit und Aufwand zu sparen. Natürlich ist es auch möglich, damit Unheil anzurichten – aber dagegen gibt es viele Mittel. Die KI (AI) hingegen kann Menschen in hohem Maße beeinflussen und tatsächlich auch missbraucht werden, um Menschen zu verleiten – ohne dass eine Person am „anderen Ende“ sitzt.

Reizthema Medienkompetenz

Das eigentliche Reizthema ist der Versuch, zutreffende Meinungen von unzutreffenden zu trennen. Das betrifft allerdings in gleichem Maße Zeitungsleser(innen) und alle Menschen, die Radio hören, fernsehen, soziale Medien nutzen oder in Suchmaschinen unterwegs sind. Der beste Schutz ist in diesem Fall Medienkompetenz – etwas, das heute in der Schule gelehrt wird, für viele Erwachsene aber neu ist.

Kurz: Das Thema Information- und Meinungsfreiheit gehört zwar auch in die Diskussion um digitale Medien – es ist aber außerhalb dieser Medien genauso präsent.

Informiere dich gründlich - bestehe auf Antworten

Und du? Erstens: Mach dich schlau. Dann frage deine Abgeordneten oder Kandidaten getrennt nach ihren Plänen zur Digitalisierung, zur KI und – zur Medienkompetenz.

Falls sie nur das Parteiprogramm herunterbeten, weißt du, dass sie nicht viel darüber wissen. Dann frag sie einfach, ob sie dir einen kompetenten Partner nennen können, der sich mit den Themen wirklich auskennt und verständliche Antworten geben kann.

Hinweis: "KI" und "AI" sind Begriffe identischen Inhalts.

.

Die neue Masche - angeblich leichtes Geld verdienen mit KI

Ich werde allenthalben per E-Mail darauf hingewiesen, dass ich mein Geld ohne eigenes Zutun verdienen könnte, wenn ich mit „einer geringen Einstiegsinvestition“ beginnen“ würde. Dann nämlich würde sich mein „Dasein heute vollständig verändern“.

Wie schön für mich. Leider falle ich auf derartige Angebote nicht herein. Denn ein Satz gilt immer und überall:

Wenn es so leicht wäre, Geld zu scheffeln, warum versucht es der angebliche „Autor“ solcher E-Mail es nicht selbst?

Was neu daran ist: Das Wort „KI“, das in aller Munde ist. Oder mit anderen Worten:

„Das AI-Startup macht die KI-Revolution für ... Anleger zugänglich.“

Ach nee ... nun auch noch das ...