join the conversation

follow us:

Prototype Blog · 15.Aug 2018

Lesen&Lernen No.6

Rechnung, wem Rechnung gebührt

Pedius ist ein klassisches Civic-Tech-Tool, das eine gesellschaftliche Herausforderung lösen möchte: Nämlich, dass Gehörlose nicht oder nur mit Unterstützung durch Dritte bei Behörden, Krankenhäusern und anderen öffentlichen Einrichtungen anrufen können.
Die App, deren Entwicklerteam inzwischen von Gehörlosen beraten wird, ist eine typische Speech-to-Text- und Text-to-Speech-Anwendung über VoIP. Besonders ist das Geschäftsmodell, das dahinter steht, und das wir für exemplarisch für den Civic-Tech-Bereich halten: Gehörlose können für einen geringen Beitrag die App nutzen. Für den Service werden vor allem die öffentlichen Einrichtungen zur Kasse gebeten, deren Aufgabe es eigentlich ist, inklusiv und barrierearm zu sein, die dieses Ziel aber ständig verfehlen. Fair enough, finden wir.

https://www.brandeins.de/magazine/brand-eins-wirtschaftsmagazin/2018/geduld/das-geht-pedius

“Ghosts from the Past”- warum wir neue (Sprach)-Bilder für neue Technologien brauchen

Die Popkultur und ihre Bilderwelt sind oft die Abkürzung zu einer gemeinsam geformten Vorstellung von Zu- und Gegenständen und konstruieren dabei unrealistische Idealbilder. Für Künstliche Intelligenz sind die logische Herleitung offenbar Gehirnscans, Code und Cyborgs, wie eine kurze Bildersuche zeigt.
Diese halten im Anschluss als Analogien zur Beschreibung von hochkomplexen technischen Systemen her. Eine Problematik die Molly Wright Steenson auf Medium nachzeichnet. Oft stammen die Vorstellungen von Fähigkeiten von Technologien sogar aus einem ganz anderen Jahrzehnt als der aktuelle Forschungsstand.

Filme wie “Her” haben zwar technische Berater – trotzdem schaffen die Technologierepräsentationen in oder durch Hollywood fast nie, die Kapazitäten einer Technik korrekt abzubilden. Technologie kann so im Anschluss weder argumentativ scharf kritisiert werden kann, noch Ängste abgebaut werden vor nur imaginierten technischen Fähigkeiten.
Als drei der Gründe für diese willkürliche algorithmische Opazität durch Bilder und popkulturelle Zuschreibungen nennt Steenson:
-die (vermeintliche Notwendigkeit), Algorithmen zu schützen, die Staats- oder Unternehmensgeheimnisse sind; die Tatsache, dass die KI trainieren und verstehen immer noch Spezialistentätigkeit ist; und das “Missverhältnis” zwischen Mathematik und Aufbau der Algorithmen und der Art und Weise, wie Menschen denken.
Rein theoretisch würde das GDPR zwar ein Recht auf Erklärung auch bei Maschinenlernen-Prozessen begründen (does it??) – das ist in der Praxis aber beinahe unmöglich, auch mangels Vokabular für die sehr komplexen Abläufe in der “Black Box”. Ein Verlangen, dass bei Verwertern von KI Ängste hervorruft:
Money Quote:”focus of AI should be optimization, not explanation: make visible and clear to all through debate in public policy what trade-offs are being made, rather than potentially hobbling AI.“

Steenson plädiert deshalb dafür, Entwicklern von Künstlicher Intelligenz die Auflage mitzugeben, diese mit wirksameren Methoden zu erklären. Erste Ansätze dafür gibt es bereits, wie z.B. https://visxai.io zeigt.
“When we don’t understand AI, then we don’t understand the power differentials at play. We won’t learn to ask questions that could lead to better AI in the future—and better clichés today.”

https://medium.com/@maximolly/ai-needs-new-clichés-ed0d6adb8cbb

Richard Danzig: Technology Roulette – Managing Loss of Control as Many Militaries Pursue Technological Superiority

Ein beeindruckender Report, der Empfehlungen gegenüber der Verteidigungs- und Sicherheitspolitik der USA ausspricht. Darin erklärt Richard Danzig, wie das internationale Entwickeln von potentiell schädlichen Technologien einem Russischen Roulette gleicht, nur, dass die Bedrohungen in diesem Falle wesentlich komplexer, vielfältiger und unübersichtlicher sind. Menschen können kaum noch die Folgen von Informationstechnologien überblicken, die eigentlich der Verteidigung dienen sollen, jedoch eigentlich zu einem globalen Risiko beitragen. Zwar wird hier eine sehr amerikanische Sicht auf die Weltlage vermittelt, gleichzeitig eine gewisse Bescheidenheit ausgedrückt, die vermittelt, dass “Superiority” allein nicht zu mehr Sicherheit führt.

Money Quote: “[…] our greatest challenges are not in constructing our relationships to technologies, it is in constructing our relationships with each other”

https://www.cnas.org/publications/reports/technology-roulette

Logo: Das Bundesministerium für Bildung und Forschung (BMBF)
Logo: Open Knowledge Foundation Deutschland