join the conversation

follow us:

Prototype Blog · 15.Aug 2018

Lesen & Lernen No. 2

Was wir diese Woche gelesen haben:

Algorithmic Accountability – a primer
Robyn Caplan, Joan Donovan, Lauren Hanson, and Jeanna Matthews

In diesem kurzen Report erläutern ForscherInnen von Data & Society das Konzept von Algorithmic Accountability, also der Verantwortung für algorithmische Entscheidungsprozesse. Sie betonen entlang verschiedener Beispiele, dass biases kein Resultat von automatisierten Prozessen sind, sondern von sozialen Kontexten, den impliziten und expliziten Wertvorstellungen der DesignerInnen und der Art und Weise wie ein Algorithmus angewandt wird.
Um zu verhindern, dass Algorithmen zu einem Verstärker existierender sozialer Ungerechtigkeit werden, ist Transparenz und Offenheit – unter Berücksichtigung der Herausforderungen, die damit einhergehen – unabdingbar. Darüber hinaus müssten sie auch über die Zeit hinweg immer wieder angepasst werden, um nicht alte Vorstellungen und Regeln zu konservieren.
Der Report erklärt präzise und knapp die aktuellen Fragestellungen rund um Algorithmic Accountability und liefert ein paar hilfreiche Definitionen und Denkansätze.

Lieblingszitat: “Algorithms are products that involve human and machine learning.”

https://datasociety.net/output/algorithmic-accountability-a-primer/

 

Digital Media and the Case of the Missing Archives
Danielle Tcholakian

Die Digitalisierung der Medien hielt mit zwei Versprechen Einzug: Einerseits würden bestehende Begrenzungen (in Form von Sendezeit, Druckseiten etc.) aufgehoben, andererseits würden digitale Medienarchive auf kleine Datenträger statt in große Gebäude passen. Technisch ist das richtig, faktisch hat sich besonders die zweite Hoffnung nicht bewahrheitet.

Medien, die ausschließlich digital veröffentlichen, sind besonders bedroht: Tcholakian berichtet von gelöschten Archiven und Webseiten nach Verlagsaufkäufen, nach Änderungen an der Konzernspitze, nach Redesigns der Webseite oder einem Wechsel zu einem neuen CMS. Die Publikationen dutzender Autoren, die Arbeit vieler Jahre kann so mit einem Schlag verschwinden.

Das schadet nicht nur den Karrieren der Autor*innen und reißt Lücken in die Berichterstattung, es ermöglicht Medienhäusern auch, sich nicht mehr mit ihrer Vergangenheit auseinandersetzen zu müssen.

Money Quote: “… as the internet seems to increasingly be a haven for misinformation and journalism as an industry shows little to no sign of becoming sustainable, preserving records that were published in adherence with journalistic standards seems valuable — even just as a record of the fact that we once had journalistic standards.”

Digital Media and the Case of the Missing Archives

 

Predictive Policing: Polizei-Software verdächtigt zwei von drei Personen falsch
Timo Grossenbacher

Aus unserer beliebten Reihe “Künstliche Intelligenz gone wrong”: Die Schweizer Polizei baut eine inzwischen über 3.000 Personen starke Gefährderdatenbank auf. Die Einschätzung, wie gefährlich diese Gefährder*innen sind, wird mit unter anderem mit dem “Dynamischen Risiko-Analyse-System (Dyrias)” der deutschen Firma “Institut Psychologie und Bedrohungsmanagement getroffen. Auch hier ist die Software offensichtlich darauf optimiert, false negatives zu minimieren, um Zahlen zu erreichen, die das Produkt vermarktbar machen. Der Preis: 2 von 3 Personen, denen ein hohes Gewaltrisiko unterstellt wird, werden nicht gewalttätig. Trotzdem dürfen sie sich über eine erhöhte Aufmerksamkeit der Polizei freuen.

Neben einer schönen Simulation, die das Ungleichgewicht bei der Bewertung verdeutlicht, schildert der Artikel auch eindrucksvoll, dass sich Polizist*innen den Einschätzungen des Werkzeugs kaum entziehen können. Zu groß ist die Angst davor, in der eigenen Einschätzung falsch zu liegen.

https://www.srf.ch/news/schweiz/predictive-policing-polizei-software-verdaechtigt-zwei-von-drei-personen-falsch

 

How will the GDPR impact open source communities?

Ab dem 25. Mai wird die Datenschutzgrundverordnung EU-weit durchgesetzt. Ihr Ziel: Private Daten von Individuen innerhalb der EU schützen. Das bringt Veränderungen für alle mit sich, die personenbezogene Daten sammeln oder verarbeiten. Davon sind nicht nur Open-Source-Unternehmen betroffen, sondern auch Open-Source Communities. Der Artikel listet die wichtigsten Änderungen auf, die Open-Source-Communities betreffen.

https://opensource.com/article/18/4/gdpr-impact

 

Beware of Google’s Intentions
Susan Crawford

Viele Städte suchen nach Möglichkeiten, Kosten zu senken und gleichzeitig ihren Bürgern innovative Lösungen für dringende Probleme anzubieten. Wenn Unternehmen wie Google ihre Hilfe anbieten, ist die Versuchung also groß. Groß ist allerdings auch die Gefahr, dass bei solchen Deals die Interessen der Stadt und der Bürger erst ganz weit unten auf der Liste der Gründe auftauchen, warum solche Deals von vielen großen Unternehmen angestrebt werden

https://www.wired.com/story/sidewalk-labs-toronto-google-risks/

 

Doesn’t open data make data monopolies more powerful?
Jeni Tennison

Immer mehr Institutionen veröffentlichen ihre Daten und stellen sie frei zur Verfügung. Aber wer profitiert eigentlich davon? Macht Open Data am Ende die großen Unternehmen noch mächtiger, als sie es bereits sind? Der Artikel beleuchtet die Pro und Contra Argumente zu dieser Frage.

http://www.jenitennison.com/2018/01/14/data-monopolies.html

Logo: Das Bundesministerium für Bildung und Forschung (BMBF)
Logo: Open Knowledge Foundation Deutschland