join the conversation

follow us:

Prototype Blog · 2d

3 KI-Events und 3 KI-Learnings und sagten wir schon, es geht um KI.

Unsere Jury hat heute die neuen Prototype Fund-Projekte der Runde „Maschinen lernen lassen“ ausgewählt, die wir euch bald schon an dieser Stelle präsentieren werden.

Wir haben uns deshalb, vor allem aber auch aus Grundinteresse, in den letzten Wochen viel mit dem Thema Künstliche Intelligenz (KI) und weiteren neuen Technologien beschäftigt, zahlreiche spannende Artikel dazu gelesen mit ebenso vieleb Komplettausfälle (siehe lesen & lernen) und zahlreiche Events besucht (in Hoch-Zeiten allein in einer Woche drei Veranstaltungen).
Dieser Blogpost von Adriana ist eine Zusammenfassung unserer Gedanken und Notizen.
Soviel vorweg:
Drei wiederkehrende Punkte haben sich festgesetzt – Vertrauen, Wettbewerbsfähigkeit und Zukunftsausrichtung. Und auch zwei wertvolle Grunderkenntnisse: Wir sollten nicht Technik (KI) mit den Antworten auf großen menschlichen Fragen beauftragen – gerade auch aus dem aktuellen technischen Stand heraus. Denn: IT Systeme können nicht entscheiden, sie können nur ausrechnen.

1. Vertrauen oder eher Vertrauenskrise?

Umfragen zeigen, dass es bereits eine generelle Vertrauenskrise in Institutionen und Medien gibt. Das Thema KI ist komplex und für die meisten wenig verständlich und hat als “Horizontaltechnologie”, die praktisch überall eingesetzt werden kann, das Potential die Vertrauenskrise zu verschärfen. Es ist das eine, wenn wir uns fragen, ob wir bei einer Suchanfrage wirklich die besten Produkte angeboten bekommen, das andere, wenn wir z. B. aufgrund unseres Geschlechts nur schlechtere Jobangebote zu sehen bekommen. Gegen solche algorithmisch legitimierte Diskriminierung und um Vertrauen in der Gesellschaft aufzubauen, müssen politisch kluge Regelungen und Rahmenbedingungen geschaffen werden. Immer wieder diskutiert wird z. B. die Idee des Algorithmen-TÜV. Der allerdings würde nur dann Sinn machen, wenn auch die Daten, als Abbildung von Realität, mit geprüft werden – und er dann noch eine Antwort darauf findet, wie man selbstlernende und sich weiterentwickelnde Systeme prüfen kann.

2. Wettbewerbsfähigkeit oder einfach China! USA!

In den USA sind die riesigen Tech-Unternehmen, die ihre Marktvorherrschaft halten wollen, bereit Risiken einzugehen und unglaubliche Summen zu investieren. In China investiert der Staat massiv und benutzt ohne Skrupel und ohne Einwilligung die Daten seiner mehr als einer Milliarde BürgerInnen, um KI-Anwendungen zu trainieren. In Europa hingegen sind die Datenschutzrichtlinien strenger, die Fördersummen niedriger, und die Entwicklungen deutlich langsamer. Wie kann sich im Fall eines aufkommenden “AI-Nationalismus” Europa mit dem Alleinstellungsmerkmal Datensouveränität positionieren? Die EU als ein Patchwork aus Nationalstaaten, die miteinander kooperieren und konkurrieren, ermöglicht z. B. die Entwicklung unterschiedlicher guter Ansätzen. Damit wird es schwerer, Monopole zu bilden, welche langfristig Innovation behindern würden. Die Idee eines TÜVs (Punkt 1) und der stärkere Fokus auf Datenschutz und Ethik (Punkt 3) kann außerdem sowohl Talente in der Technologieentwicklung als auch NutzerInnen überzeugen und ein Wettbewerbsvorteil sein.

3. Zukunftsausrichtung oder wohin wollen wir eigentlich?

Momentan scheint der Definitionsbereich von KI alles zu umfassen, was noch nicht Normalität geworden ist. KI als selbstlernende Prozesse, und nicht maschinelles Lernen, ist wohl auch deswegen Dauerthema, weil es ein schöner Marketingbegriff ist. Die öffentlichen Debatte dreht sich dabei oft um “starke KI”, als ein uns gegenüber stehendes System das ethisch und moralisch eingehegt werden muss. Besser wäre aber zunächst ein Fokus auf “schwache KI” und die Daten, die wir benutzen, zu legen. Um Ziele und Definitionen zu benennen muss die Perspektive umgedreht und nicht von der Technik, sondern vom Menschen her gedacht werden. Die Leitfrage sollte sein, welche Probleme haben wir und was kann KI, als eine Option von vielen, leisten? Da die Entwicklung von KI hauptsächlich marktwirtschaftlich vorangetrieben wird fehlt auch eine Vorstellung davon, was gemeinwohlorientierte Zwecke von KI sein könnten. Mit stärker geförderten Lehrstühle und Schnittstellen zwischen Informatik und Soziologie, Philosophie, Psychologie und Ethik, zusätzlich zu einer KI-Enquete, könnten diese Fragen und Probleme angegangen werden.

Vertrauen, Wettbewerbsfähigkeit und Zukunftsausrichtung hängen für uns zusammen. Und zeigen, dass es noch viele offene Fragen und viel Handlungsbedarf gibt. Wir versuchen mit unserer neuen Prototype Fund-Runde Projekte und Ideen zu unterstützen, die zu allen drei Aspekten und dem Technologiefeld generell positiv beitragen – stay tuned, wir freuen uns schon, euch “die Neuen” vorzustellen! <3

3 KI-Events und 3 KI-Learnings und sagten wir schon, es geht um KI.
Logo: Das Bundesministerium für Bildung und Forschung (BMBF)
Logo: Open Knowledge Foundation Deutschland