Menschen statt Maschinen schulen

Ein Gastbeitrag von Mark Wernsdorfer

Die rasende Entwicklung von generativer KI macht es schwer, Schritt zu halten. Einerseits ist es praktisch unmöglich, bei den technologischen und wissenschaftlichen Entwicklungen auf dem aktuellen Stand zu bleiben. Andererseits muss sich auch unser Umgang mit Informationen immer wieder daran anpassen, dass es mittlerweile nur noch Centbeträge kostet und nur noch Minuten dauert, um hunderte Texte mit authentisch klingenden Fehlinformationen zu generieren.

Das führt zum selben Problem wie bei der klassischen Spam-Mail: Selbst wenn am Ende nur ein Bruchteil davon tatsächlich jemanden täuscht, so ist es doch sehr leicht und vor allem billig, einfach mehr zu generieren und damit die Wahrscheinlichkeit zu erhöhen, dass doch etwas durchsickert und z.B. Extremmeinungen als geläufig dargestellt oder strategisch Desinformation gesät werden.

Das Problem ist besonders relevant auf Infotainment-Plattformen mit Zielgruppen, die Schwierigkeiten haben, zwischen echten und KI-generierten Inhalten zu unterscheiden. Exemplarisch dafür ist YouTube mit seiner jugendlichen Nutzerinnengruppe. Personen mit Informationsbedürfnis können hier schnell auf eine Art beeinflusst werden, die ein Narrativ stärken oder anderen verdeckten Interessen dienen soll. Und allen ist klar: Wer es böse meint, wird sich nicht an die Spielregeln halten. Auch die beste Regulierung kann also allenfalls Symptome bekämpfen.

Ganz grundsätzlich kann dem Missbrauchspotenzial von KI entgegengewirkt werden, indem Menschen besser darin werden, KI-generierte Texte zu erkennen. Das gestaltet sich aber aus zwei Gründen schwierig:

1. KI-Technologie entwickelt sich so schnell, dass es nicht möglich ist, Menschen handfeste Hinweise zu geben. Die Ursache dafür liegt unter anderem auch im zweiten Grund.
2. Wenn klare und “exklusive” Eigenschaften menschengeschriebener Texte veröffentlicht werden, so lassen sich KI-Trainingsdaten um diese Informationen anreichern. Das führt wiederum dazu, dass KIs lernen, Texte zu generieren, die auch eben diese Eigenschaften aufweisen.

Mit dem „Spot The Bot“ Webapp-Spiel ziele ich darauf ab, insbesondere Kinder und Jugendliche im Umgang mit diesen Inhalten zu schulen. Die Spielerinnen werden dazu angeregt, YouTube-Kommentare zu analysieren und darunter diejenigen zu identifizieren, die möglicherweise von einer KI erstellt wurden. Dieses spielerische Vorgehen dient nicht nur der Sensibilisierung für die Merkmale KI-geschriebener Texte, sondern präsentiert sie auch direkt jeder Besucherin auf der Startseite von Spot the Bot.

Diese Daten sollen öffentlich sein, damit Menschen sie zur Erkennung von KI-Texten nutzen können. Die Herausforderung besteht darin, die Erhebung so zu gestalten, dass sie sich der vielschichtigen Landschaft von textgenerierenden KIs anpasst aber nicht gleichzeitig genutzt werden kann, um weitere KI-Systeme zu trainieren.

Grundlagen KI-geschriebener Texte

KI-Textgeneratoren wie die bekannten GPT-Modelle können Texte erstellen, die menschlichen Schreibweisen in Stil und Inhalt ähneln. Diese Fähigkeit ist besonders auf Infotainment-Plattformen relevant, die von Leuten besucht werden, die sich zu Themen weiterbilden wollen, in denen sie sich bislang selbst nicht als kompetent einstufen. Gerade sie sind gefährdet Opfer von Fehlinformation und Manipulation zu werden. Hier können Fehlinformationen besonderen Schaden anrichten, indem zum Beispiel Extremmeinungen als völlig normal und weit verbreitet dargestellt werden.

Die Qualität KI-generierter Texte variiert dabei stark: Einige sind leicht zu identifizieren, während andere täuschend echt wirken. Diese Variation macht die Erkennung schwierig, aber eine gute Medienkompetenz eben auch umso wichtiger. Merkmale anhand derer Texte mancher KI-Modelle erkannt werden können, sind unter anderem eine gewisse Unverbindlichkeit im Tonfall oder Nebeninformationen, die offensichtlich falsch sind (sog. „Halluzinationen“). Aber auch Wiederholungen bestimmter Phrasen, Inkonsistenzen in der Argumentation, oder bestimmte grammatische Konstrukte, insbesondere in nicht-englischer Sprache, können auf eine KI-Herkunft hinweisen. Diese Merkmale verändern sich aber leider sowohl über die Zeit, als auch von Modell zu Modell. Doch wer soll immer neue Bildungsmaterialien erstellen? Um sie erfassen zu können, braucht es einen dynamischen Ansatz, der mit Veränderungen automatisch Schritt halten kann.
Im Idealfall fühlt sich die Umsetzung nicht mal nach Arbeit an…

Ein Spiel zur Erkennung von KI-Texten

„Spot The Bot“ soll als praktisches Werkzeug dienen, insbesondere junge Nutzer auf spielerische Weise darin zu schulen, zwischen menschlichen und KI-generierten Kommentaren auf Plattformen wie YouTube zu unterscheiden. Jede Nutzerin kann in ihren eigenen Worten beschreiben, wieso sie an dieser oder jener Stelle im Text misstrauisch geworden ist. Erfolgreiche Beschreibungen bewähren sich und werden unter den Spielern “weitergereicht”. Wenn sich die Kriterien ändern, so spiegelt sich dies im Nutzerinnnenverhalten und somit in den frei eingegebenen Beschreibungen wider.

Das Spiel lädt Nutzerinnen dazu ein, YouTube-Kommentare zu analysieren. Ihre Aufgabe im Spiel ist es, Wörter oder Phrasen zu identifizieren, die darauf hindeuten, dass ein Kommentar von einer KI erstellt wurde. Diese Herausforderung fördert kritisches Lesen und schärft ein Bewusstsein für feine Unterschiede zwischen menschlichem und maschinellem Schreiben, die in der Diversität von Internet-Texten sonst leicht überlesen werden kann.

Antrieb und Motivation der Nutzerinnen von „Spot The Bot“ ist Gamification. Durch ein Punktesystem, die Möglichkeit Freunde einzuladen und ihren Fortschritt anhand des Gesichtsausdrucks persönlicher Avatare zu verfolgen, werden Spielerinnen motiviert, ihre Fähigkeiten im Erkennen von KI-Texten kontinuierlich zu verbessern. Spielerische Elemente machen das komplexe Thema der KI-Erkennung zugänglich und reizvoll. Während des Spielens werden kontinuierlich erfolgreiche Unterscheidungsmerkmale erfasst, statistisch verfolgt und auf der Startseite übersichtlich dargestellt.

Die Markierungen der Spielerinnen liefern wertvolle Daten, die Besucherinnen der Seite darüber informieren, wie sie KI-generierte Texte leichter erkennen können — egal ob sie selbst spielen oder nicht. „Spot The Bot“ soll damit eine Plattform bieten, um Fähigkeiten zur Erkennung KI-geschriebener Texten zu schärfen und gleichzeitig wertvolle Erkenntnisse bringen, ohne dabei die Entwicklung von KI-Textgeneratoren unbeabsichtigt voranzutreiben. Erhobene Daten passen sich durch die Spielerinnen automatisch an die Modelle an, die den für das Spiel generierten Textdaten zugrunde liegen. Unter den ermittelten Unterschieden werden automatisch diejenigen am höchsten eingestuft, die von der Nutzerinnengruppe am effektivsten beschrieben und verstanden werden können. So wird beim Spielen automatisch Wissen für andere generiert, und gleichzeitig können immer neue Merkmale erfasst werden, ohne dass sie in manueller und mühseliger Arbeit festgehalten werden müssen.

Menschliche Intuition bleibt essenziell

Es ist nicht zu übersehen: Die Fähigkeit, KI-geschriebene Texte zu erkennen, gehört zur modernen Medienkompetenz. Sie verlangt nach einem feinen Gespür für die Unterschiede in der Ausdrucksweise von Mensch und Maschine. Intuition ist dafür ein mächtiges Werkzeug. Sie ermöglicht es, Nuancen und emotionale Untertöne zu erfassen, die formale Systeme oft nicht wahrnehmen. Das Erkennen von Stilbrüchen und Ungereimtheiten, die auf eine Maschine hinweisen, ist ein Teil davon. Doch wie lässt sich diese Intuition von erfahreneren an unerfahrenere Menschen weitergeben?

„Spot The Bot“ ermöglicht seinen Nutzerinnen, Unterschiede in ihren eigenen Worten zu beschreiben. Das Spiel stellt sicher, dass nur Indikatoren weitergegeben werden, die von der Nutzerinnengruppe auch erfolgreich eingesetzt und verstanden werden können. Dabei bleibt menschliche Intuition von unschätzbarem Wert.

Künstliche Intelligenz ist ein dynamisches Feld. Mit jedem Fortschritt kommen auch neue Herausforderungen. Ethische Leitplanken und eine kontinuierliche Bewertung der Auswirkungen sind essentiell, um technologischen Fortschritt im Sinne des Gemeinwohls einsetzen zu können. Im Grunde ist das aber auch alles nichts Neues. So wie das Feuer gebändigt werden musste, um es nutzbar zu machen, so muss auch die KI in konstruktive Bahnen gelenkt werden, damit wir von ihr profitieren können, ohne dabei im Chaos zu versinken.

Mark Wernsdorfer hat Philosophie studiert, weil er neugierig war, wie Verstehen grundsätzlich funktioniert. Nach einer Promotion zu kognitiven Systemen berät und forscht er mittlerweile zu Fragen über Künstliche Intelligenz. Sein Antrieb ist es, Künstliche Intelligenz gesellschaftlich nutzbar zu machen. Sein Projekt “Spot The Bot” wird in der 14. Runde Prototype Fund gefördert.