Im Grunde liest sich der folgende Pressetext nicht so, als ob er sehr brisant wäre:

Der in … (den) … ehrlichen Antworten enthaltene hohe Anteil an Emotionen, kognitiven Prozessen, Bindungs- und Sexualmotiven verdeutlicht, dass es der AI innerhalb kürzester Zeit gelingen kann, das Vertrauen der Singles zu gewinnen.

Eine Maschine baut Vertrauen auf

Es ging also darum, im Experiment festzustellen, ob ein Chatbot (Kommunikationsroboter, der auf KI-Basis arbeitet) Vertrauen aufbauen kann.

Nachdem ich darüber erfuhr, dass dieses Experiment gelang, habe ich mich gefragt, was dies bedeuten kann.

Zunächst einmal sind viele Menschen im Internet unterwegs, die nicht die geringste Ahnung von Kommunikation haben – weder theoretisch noch praktisch. Hinzu kommt, dass ein enorm großer Teil der Internet-Benutzer auf scheinbar harmlose Fragen von Fremden antwortet. Auf diese Weise werden nicht nur Telefonnummern, sondern auch E-Mail-Adressen ausspioniert.

Auf den Spuren von Eliza, dem ersten Chat-Bot

Die Chat-Bots, die das tun, werden alle darauf programmiert, diese Informationen zu sammeln. Man kann jedoch auch einen anderen Weg gehen und auf den Spuren von Eliza wandeln. Wem der Name nicht geläufig ist: Das war das erste Computerprogramm, das angebliche „künstliche Intelligenz“ nutzte, um einen Gesprächspsychotherapeuten zu simulieren. Obgleich das Programm damals aus technischen Gründen unglaublich einfach aufgebaut war, verblüffte es die Benutzer. Sie glaubten wahrhaftig, dass der „Therapeut“ im grauen Kasten ihnen Klarheit über ihr Verhältnis zu sich selbst und zu anderen klären konnte.

Chat-Bots nutzen ähnliche Kommunikationsmethoden wie Berater

Das Prinzip spielt in der „normalen“ Kommunikation eine entscheidende Rolle. Es beruht darauf, das Mitteilungsbedürfnis durch eine Frage anzuregen, ihn aufrecht zu erhalten und möglichst zu vertiefen. Die Idee ist, dabei wesentlich mehr und tiefer gehende Antworten zu bekommen, als nach Art der Fragestellung zu erwarten war. Der Berater oder Therapeut nutzt dabei die vorhandenen Möglichkeiten der Klienten, ihre Probleme selber in den Griff zu bekommen.

Eine sogenannte „künstliche Intelligenz“ kann so programmiert werden, dass sie ganz ähnliche Erfolge hat, doch kann sie auch genutzt werden, um Menschen „auszufragen“.

Partnersuchende geben oft alles von sich preis

Dabei können wir getrost davon ausgehen, dass ein partnersuchender Mensch froh ist, wenn er einen Chatpartner oder eine Chatpartnerin findet, die auf ihn oder sie vertrauensvoll wirkt. Üblicherweise merken die Teilnehmer nicht sofort, dass am anderen Ende ein Programm abläuft – und manche merken es nie. Sie sind ja im festen Glauben, dass der Partner aus dem gleichen Grund im Chat ist wie sie selbst. Das bedeutet aber auch, dass sie ihn für einen Menschen halten. Und nicht nur das – da ist Menschen, der ihnen „zuhört“ und sie in dem bestätigt, was sie sagen.

Das Prinzip ist übrigens nicht ganz neu. Es wurde einst erfunden, um dem berufsbedingt unwissenden Beichtvater Frageketten zu ermöglichen, um zu den intimsten sexuellen Geheimnissen des beichtenden Schäfchens vorzudringen.

Gut – ganz vergleichbar ist das nicht. Aber es zeigt doch, welche Kräfte zusammenkommen, wenn der Glaube, eine angebliche Autorität (ob Beichtvater oder Chatbot) und eine naive Person zusammenkommen.

Singles - Vorsicht, wenn ihr ausgefragt werdet

Das Fazit all dessen: Vorsicht vor Chatbots – nicht, weil sie Fragen stellen. Sondern weil die Gefahr besteht, dass sie Antworten dokumentieren, archivieren und weitergeben können.

Quellen:
Eliza (und andere Vorfahren der Chatbots): Wikipedia.
Pressemeldung und Zitate aus "Presseportal".
Ausführliche Informationen bitte nachlesen auf: bsi.ag
Eine Kritik ähnlicher Art erschien bereits in der "Liebeszeitung".

Ich finde es schrecklich merkwürdig, dass es bereits einige Dutzend sehr positive gehaltene Erläuterungen zur KI gibt - zur künstlichen Intelligenz. Einige sind dankenswerterweise so einfach gehalten, dass sie sogar jemand versteht, der nie ein Programm geschrieben hat. Die Autoren behaupten dabei stets, sie seien aufrichtige Berichterstatter - und erstaunlicherweise glauben sie das selbst.

KI verblüfft - künstliche Dummheit auch

Tatsächlich gibt es mehrere Möglichkeiten, mit KI zu verblüffen: einmal diejenige, das Wesentliche aus einer Fülle von Quellen auszufiltern und die Essenz dann zu präsentieren. Dazu benötigt man in erster Linie eine solide Basis von Kriterien, ausgezeichnete Programme und qualifiziert bestückte Datenbanken. Es gibt noch mehr Anwendungen, natürlich. Aber ich schreibe hier ja kein Buch.

Die andere Möglichkeit besteht darin, mit einem mager ausgestatteten Algorithmus große Datenbanken aller Art zu durchwühlen, um ihnen „Ähnlichkeiten“ festzustellen. Beliebt sind ähnliche Produkte, wie etwa Bücher, Tonträger oder technische Artikel. Irrtümer spielen dabei kaum eine Rolle – irgendwelche Treffer gibt es immer. Ähnlich ist es bei Menschen: Die beste Besetzung die ausgeschriebene Stelle wird mithilfe von Vergleichen ermittelt - hoffen wir mal, dass der Personalchef und seine IT-Berater die richtigen Kriterien fanden. Die geeignetsten Ehe-, Beziehungs- oder Liebespartner werden ebenfalls anhand von Ähnlichkeiten ermittelt - wobei ich mich Frage, woher man die Daten für solche Ähnlichkeiten bezieht. Wer nachfragt, wird abgewiesen: Firmengeheimnisse und ganz viel Psychologie – natürlich. Psychologie macht sich immer gut.

Das Geschäft mit angeblichen Ähnlichkeiten

Wenn du Laie, Kunde, User, Klient oder so etwas bist, wirst du meist nicht einmal argwöhnisch. Obwohl es sehr viel wahrscheinlicher ist, mit künstlicher Verblödung in Kontakt zu kommen als mit künstlicher Intelligenz. Das Geschäft mit den „Ähnlichkeiten “ beruht darauf, dass ziemlich simple Programme, die zudem noch mit fragwürdigen Inhalten ausgestattet sind, in großen Datenbanken wühlen, um die Ergebnisse einzufangen.

Ein paar Cent fallen bei Empfehlungen immer ab

Der „Nutzer“ oder die „Nutzerin“ kann an all das glauben, alles ignorieren oder auch nur einen winzigen Teil beachten - das spielt keine Rolle. Irgendein Gewinn fällt für den Anbieter früher oder später ab. Und gelegentlich sogar für die Nutzerin oder den Nutzer, denn wo „Empfehlungen“ geschickt und halbwegs glaubwürdig platziert werden, schlägt auch der Zufall dann und wann zu.

Oh, ihr seid überrascht?

Dann lass ich euch mal eure Verblüffung.

Immer mehr Journalistinnen und Journalisten zweifeln an KI. Und manche nehmen nicht so einfach hin, was darüber behauptet wird. Sicher ist jedenfalls, dass es Firmen gibt, die damit das große Geld machen wollen.

Und nun zitiere ich mal (1,2):

Alle wissen, dass niemand weiß, worüber sie reden – weil KI ein kompliziertes Thema ist und für viele eine Blackbox.

Und je weniger alle wissen, umso mehr wird über KI geredet, ohne irgendetwas zu wissen. Das ist beinahe noch bedenklicher.

Was also ist KI wirklich? „Sehpferd“ ist verschiedenen Spuren nachgegangen und zu dem Schluss gekommen: Ja, es gibt künstliche Intelligenz - jedenfalls näherungsweise.

KI kann heute alles sein - hier ein paar Beispiele:

- Ein Begriff für Pseudo-Intelligenz, der nur aus wenigen Zeilen einfachsten Codes besteht.
- Ein Name für verschiedene Programme, deren einzige Intelligenz darin besteht, in einer Datenbank geeignete Datensätze auszusuchen und zu kombinieren.
- Ein Name für verschiedene Ansätze, aus mehreren Datenbanken, wissenschaftlichen Aufsätzen und anderen Quellen relevante Informationen abzugreifen und sie sinnreich zu kombinieren.
- Systeme, die versuchen, aus unterschiedlichen vorhandenen und neuen Informationen Schlüsse zu ziehen, sie zu überprüfen und anzuwenden.

Wenn ein absoluter Laie ein Programm benutzt, kann er zunächst nicht erkennen, welche dieser Methoden verwendet wurden. Zwar fallen heute nur noch wenige Menschen auf „Eliza“ herein, aber nahezu jeder „Chatbot“ arbeitet ähnlich. Chatbots werden zum Beispiel als Helfer bei Softwareproblemen oder als Lockvögel in Erotik-Portalen eingesetzt.

Fragt man echte Fachleute, so sagen sie überdeutlich, dass es „eigentlich“ noch keine künstliche Intelligenz gibt, die den Namen verdient.

Ich zitiere (3):

Tatsache ist, dass die meisten Technologien, die als „intelligent“ bezeichnet werden, nicht wirklich „klug“, sondern lediglich „gebildet“ sind. Der Unterschied besteht darin, dass Klugheit sowohl Intelligenz wie auch die Fähigkeit des Erkennens (Kognition) erfordert, wohingegen Bildung nur voraussetzt, die Informationen zu finden und sie zu nutzen.

Intelligenz erfordert mehr als Informationen sammeln zu können

Der Unterschied ist enorm, und ich kann euch allen versichern, dass der Journalist sich auch im Alltag „in die Sache hineindenken“ muss, wenn er einem klugen Artikel mit gesichertem Hintergrund schreiben will. Will er hingegen nur etwas „zusammenschustern“, so reicht sein Handwerkszeug: eine Suchmaschine, zwei Informationen zum Thema, und eine Tastatur.

Das Fazit für heute: KI ist nicht wirklich intelligent, aber durchaus lernfähig

Und ich? Mit meinen Themen wende ich mich an eine breite Öffentlichkeit, und das bedeutet: Ich kann nicht zu theoretisch schreiben. Und deshalb schreibe ich hier: Das meiste, was euch als „KI“ untergeschoben wird, sind Systeme, die in begrenztem Umfang lernfähig (oder anpassungsfähig) sind. Und manchmal sind sie wirklich primitiv.

(1) Zitiert nach einem Artikel in "Correctiv".
(2) Bei einer Blackbox ist bekannt, was an Daten hineingeht und herauskommt, aber nicht, wie das funktionieren könnte.
(3) Zitat aus Infoworld - einige Slangbegriffe wurden in Klartext übersetzt.

Brandeis Marshall ist eine US-amerikanische Informatikerin von bestem Ruf.

Sie schreibt unter anderem über „künstliche Intelligenz“:

Der Begriff „KI“ wird überbewertet. Ähnlich wie der Begriff „Data Science“ von vor fünf Jahren wird das Wort „KI“ überall von allen verwendet. Es ist zum Oberbegriff für alles geworden, was mit (Daten)-Technik zu tun hat oder mit der Technik in Zusammenhang steht. (…) Die Masseneinführung von „KI“ hat ihre angebliche Fehlerlosigkeit verwässert. Ich weiß nicht „wirklich“, was jemand meint, wenn er heute „KI“ sagt.

KI - Intelligenzbestie oder geistige Widerkäuerin?

Tatsächlich wirken viele Artikel, in denen KI genutzt wurde, wie ziemlich einfältige Abschriften von Fakten und Meinungen, die aus Suchmaschinen zusammengestückelt wurden. Dabei könnte es durchaus sein, dann die KI-gestützte Suchmaschine, die Fragen beantwortet, schneller ist als der Journalist, der sich die Informationen gezielt auswählt.

Was auf diese Weise entstehen wird? Vermutlich ein ständiges Widerkäuen derselben Informationen – aber sehr wahrscheinlich kaum etwas wirklich Innovatives. Oder das, was der „Künstlichen Intelligenz“ ohnehin am nächsten kommt: künstliche Verdummung.

Das Zitat (hier stark gekürzt) findet ihr auf Medium.

Nun sind sie alle aufgewacht – jene die sich gerne reden hören, wenn es um Moral, Ethik und sonstige Werte der Menschheit geht. Und sie stellen Fragen danach, wie „wir sicherstellen können, dass künstliche Intelligenz irgendwelchen ethischen, moralischen, manchmal auch religiösen oder positiv-ideologisch aufgefassten Lehren anderer Art folgt“.

Alle reden gerne mit, wenn es um Ethik und Moral geht ...

Mir kommt es so vor wie in der Küchenpsychologie: Endlich können mal alle mitreden. Eigentlich ist „mitreden wollen“ nicht einmal schlecht. Es zeigt zumindest, dass die Menschen sich für die Zukunft interessieren.

Na schön. Dazu müsste man halbwegs wissen, was Ethik ist, und ich liefere mal die Erklärung für Kinder – die ist wenigstens lesbar:

Die grundlegende ethische Fragestellung lautet: "Was soll ich tun?" Oder "Wie verhalte ich mich richtig?". Dabei geht es um Maßstäbe eines guten und gerechten Verhaltens und die Probleme und Konflikte, die sich aus den verschiedenen Interessen der einzelnen Menschen ergeben. Entscheidend sind dabei nicht nur die Taten des Menschen, sondern auch seine Absichten und die Gründe für sein Verhalten.

Die Diskussion um KI - warum sie möglicherweise Unsinn ist

Wer das gelesen hat, könnte sich eigentlich wieder hinlegen: Alle diese Fragen sind Entscheidungsfragen. Das „gute und gerechte Verhalten“ ist ja kein Magnet mit zwei Polen, sondern eine Skala, um allen „Gerechtigkeit“ zukommen zu lassen, wenn es denn möglich ist. Das wissen die Menschen recht gut. Und sie wissen auch, dass die eigene Sicht der Ethik dann und wann (und wahrscheinlich noch viel häufiger) von der Ethik des Mitmenschen abweicht.

In der Praxis muss man sich das so vorstellen: Du fährst einen Weg, den du kennst, und du weißt, dass jemand dringend auf ein Medikament wartet, das du bringst. Plötzlich kommst du an eine Stelle, in der Bäume quer über der Straße liegen. Du weißt, dass es eine Umfahrung gibt, allerdings führt sie über einen Feldweg, der nicht befahren werden darf. Was wirst du tun?

Ethik ist auch eine Frage der persönlichen Auffassung

Es muss nicht immer so dramatisch sein. Allerdings ist Ethik oft eine Auffassungsfrage. Darüber können Menschen diskutieren. Sie können auf hohe oder geringe Risiken setzen, unterschiedliche Ziele haben und dabei Wege gehen, die „gesellschaftskonform“ sind oder auch nicht.

Möglicherweise müssen sie sich rechtfertigen. Oder riskieren, verwarnt zu werden. Aber in jedem Fall waren sie frei, rationale oder auch emotionale Entscheidung zu fällen.

Und jetzt darfst du das mit einem Computerprogramm versuchen oder wenigsten sagen, wie es gemacht werden soll.

Viel Erfolg!

Zu den Begriffen: KI ist "künstliche Intelligenz" und zunächst nur die Nachbildung gewisser Aspekte der natürlichen Intelligenz auf dem Computer. "AI" ist das Gleiche, nur in englischer Sprache.

Hinweis: Eine Leserin sagte mir, dass ich bitte die richtige Definition von Ethik verwenden soll. Das ist nicht untypisch für Menschen, die stets die erste Definition annehmen, die ihnen Suchmaschinen anbieten. Ich kann nur davor warnen, dies zu tun.