SpotTheBot

Welche gesellschaftliche Herausforderung adressiert euer Prototyp?

Das Projekt befasst sich mit dem Problem der durch KI-Systeme generierten Falschinformationen und Desinformation. Die mangelnde Unterscheidbarkeit von echten und KI-generierten Informationen kann allgemeines Misstrauen gegenüber jeder Form von Berichterstattung schüren. Eine mögliche Folge ist die Erosion von Vertrauen in Institutionen, Expert*innen und Medien. Soziale und politische Polarisierung kann durch KI-generierte Falschinformationen verstärkt werden, da sie bestehende Gräben ausnutzen und Echokammern schaffen. Das Projekt zielt darauf ab, digitale Kompetenz, kritisches Denken und eine Öffentlichkeit zu fördern, die besser darauf vorbereitet ist, mit den Gefahren KI-generierter Inhalte umgehen zu können.

Wie geht ihr das Problem an?

Das Projekt basiert auf einem Ranglistensystem, das Spieler*innen nach ihrer Fähigkeit einstuft, KI-generierte Fehlinformationen zu erkennen. Spieler*innen, die erfolgreich gefälschte Inhalte identifizieren, beschreiben kurz, woran sie den Inhalt als KI-generiert erkannt haben. Anschließend können andere Spieler*innen diese Einschätzungen bewerten. Das zugehörige Backend interagiert mit KI-Sprachmodellen über API-Dienste, die von Unternehmen wie OpenAI bereitgestellt werden, um genau diejenigen Systeme zu nutzen, die auch häufig für die Generierung von Fehlinformationen verantwortlich sind. Die Benutzeroberfläche des Spiels wird mit einem Fokus auf die Nutzer*innenerfahrung entwickelt. Die Implementierung des Voting-Mechanismus für von Spieler*innen eingereichte Beschreibungen stellt sicher, dass Missbrauch (z.B. Spam) identifiziert und ggf. entfernt wird wird.

An wen richtet sich euer Tool?

Das Projekt richtet sich speziell an Personen, die häufig mit KI-generierten Fehlinformationen konfrontiert sind, wie z. B. Journalist*innen, Content-Moderator*innen, Social-Media-Manager*innen und Public-Relations-Expert*innen. Darüber hinaussollen Pädagog*innen, Studierende, politisch engagierte Personen und Mitglieder großer Online-Communities durch das Projekt für die Gefahr von Desinformationskampagnen sensibilisiert und befähigt werden, selbst KI-generierte Fehlinformationen zu erkennen.