Künstliche Intelligenz für das Gemeinwohl

17.04.2024, zuletzt aktualisiert am 03.05.2024

Künstliche Intelligenz – d. h. hauptsächlich Machine Learning – spielt in immer mehr Projekten, die der Prototype Fund fördert, eine Rolle. Während immer mehr Entwickler*innen sich bei der Arbeit durch Code-Assistenten unterstützen lassen, entwickeln andere mit Hilfe von Machine Learning Tools, die Muster in Dokumenten, Online-Videos und Bahnverbindungen aufzeigen. Und einige haben es sich zur Aufgabe gemacht, Risiken und Funktionsweisen von KI-Systemen aufzudecken oder diese für Entwickler*innen leichter nutzbar zu machen.

Erkenntnisse aus der Trendforschung

Egal ob man Künstliche Intelligenz als Trend, Hype oder Evolutionsschritt versteht, das Phänomen ist von Dauer. Seit Beginn des Prototype Fund beschäftigen auch wir uns deshalb mit diesem Thema und fassen hier zusammen, was wir dabei festgestellt haben.

Maschinen Lernen lassen: Technologien für die Zukunft

Im Zusammenhang mit dem Themenschwerpunkt der fünften Förderrunde haben wir uns 2018 mit Risiken und offenen Fragen rund um Machine Learning auseinandergesetzt. Zu den Risiken gehören:

die Konzentration großer Datensätze im Besitz weniger Unternehmen und Forschungseinrichtungen
intransparente Wirkmechanismen und damit verbunden Fehlinterpretationen der Ausgaben von Machine Learning sowie unklare Verantwortlichkeiten
unfaire Entscheidungen aufgrund systematisch verzerrter Daten
die Verschleierung von menschlicher Arbeit, die für den Einsatz von Machine Learning erforderlich ist

Daraus abgeleitet wurden fünf zentrale Fragen für die Nutzung von Machine Learning:

Welche Rolle kann die Entwicklung von Open-Source-Infrastruktur spielen?
Wie genau funktioniert Machine Learning bzw. Künstliche Intelligenz?
Wie lassen sich existierende Ungerechtigkeiten adressieren (und reduzieren) statt verstärken?
Welche gesellschaftlichen Themen können dadurch besser erschlossen und bearbeitet werden, und wie?
Was sind Gefahren, Mythen und Chancen?

Den vollständigen Bericht findet ihr hier.

Don‘t believe the Hype

In der Analyse verschiedenster technologischer Trends und Hypes haben wir in 2020 herausgearbeitet, was dafür spricht, gemeinwohlorientierte Softwareförderung technologisch offen zu gestalten und nicht auf bestimmte technische Methoden wie Machine Learning festzulegen: Softwareentwicklung sollte an den zu lösenden gesellschaftlichen Problemen ausgerichtet werden, nicht an den technischen Möglichkeiten. Denn nicht in allen Kontexten, in denen sich beispielsweise Künstliche Intelligenz einsetzen lässt, ist sie auch das effektivste bzw. effizienteste Mittel. Welche technische Methode für den jeweiligen Anwendungsfall geeignet ist, sollten Entwickler*innen demnach selbst ergebnisoffen ermitteln.

Den vollständigen Bericht findet ihr hier.

Generative KI in der Hand der Zivilgesellschaft

Vor dem Hintergrund der zunehmenden Verfügbarkeit und Qualität von generativer KI haben wir uns zuletzt die Frage gestellt, wie zivilgesellschaftliche Open-Source-Softwareprojekte davon profitieren können und welche Förderung sie dafür benötigen.

Dabei haben wir neben neuen, vielversprechenden Anwendungskontexten beispielsweise in Form von Code-Assistenten auch eine Reihe an Herausforderungen identifiziert:

die Notwendigkeit, neu zu verhandeln, unter welchen Bedingungen KI den Open-Source-Prinzipien genügt
die Frage, ob die möglichen Risiken von KI es rechtfertigen, die durch die Open-Source-Prinzipien geforderte freie Nutzung einzuschränken
die für die Entwicklung und den Einsatz von KI-Modellen und –Anwendungen erforderlichen finanziellen und natürlichen Ressourcen
zunehmende Abhängigkeiten von einer kleinen Zahl an Unternehmen, die große KI-Modelle entwickeln und die dafür notwendigen Ressourcen kontrollieren
Rechtsunsicherheiten und eine zunehmend komplexer werdende Regulierung von KI, u. a. durch Urheber-, Datenschutz- und KI-Recht.

Softwareförderprogramme können auf diese Herausforderungen beispielsweise durch folgende Maßnahmen reagieren:

eine kontinuierliche Überarbeitung von Bewerbungs- und Auswahlverfahren, in denen möglichst genau definiert ist, unter welchen Bedingungen Projekte, die generative KI entwickeln oder nutzen, förderfähig sind
zusätzliche Unterstützung durch Beratungsangebote und finanzielle Mittel z. B. für Hardware oder für die Nutzung von Cloud-Diensten

Den vollständigen Bericht findet ihr hier.

Projekte beim Prototype Fund zum Thema Künstliche Intelligenz

Diese Projekte haben sich beim Prototype Fund damit beschäftigt, wie man KI-Systeme transparenter und Risiken sichtbar machen kann:

KI für Entwickler*innen leichter nutzbar zu machen, ist das Ziel dieser vom Prototype Fund geförderten Projekte:

Zu den Projekten des Prototype Fund, die mithilfe von Machine Learning umgesetzt wurden, gehören unter anderem:

Weiterführende Infos

Mehr zum Thema Künstliche Intelligenz findet ihr außerdem auf unserem Blog und in unserer Knowledge Base:

Weitere Ressourcen zum Thema KI gibt es hier:

AI Intersections Database: Die Datenbank von Mozilla erfasst die Überschneidungen zwischen den dokumentierten Auswirkungen künstlicher Intelligenz und verschiedenen Bereichen sozialer Gerechtigkeit wie bspw. Geschlechtergleicheit.
AI & Society Lab: Das Forschungslabor am Alexander von Humboldt Institut für Internet und Gesellschaft untersucht gesellschaftliche Herausforderungen im Zusammenhang mit Künstlicher Intelligenz.
Algorithm Watch: Die Menschenrechtsorganisation setzt dafür ein, dass Algorithmen und Künstliche Intelligenz Gerechtigkeit, Demokratie und Nachhaltigkeit stärken.
Civic Coding: Die Initiative des Bundes fördert den Einsatz und die Nutzung von KI für das Gemeinwohl z. B. durch Vernetzungs-, Informations- und Förderangebote.