Grundlage der Debatte war eine erste Sammlung von Qualitätsanforderungen an algorithmische Prozesse – von Fairness und Antidiskriminierung bis hin zu Nachhaltigkeit und Nachprüfbarkeit. Neben der Auseinandersetzung mit diesen konkreten Kriterien tauschten sich die Teilnehmer:innen lebhaft über grundlegende Fragen aus. Wer sind die Verantwortlichen für den Einsatz eines algorithmischen Prozesses? Wer die Adressat:innen des Gütekriterienkataloges? Wie gehen wir mit Wertekonflikten um? Wie mit der Vielfalt algorithmischer Systeme?
Im Laufe des Tages gaben die Expert:innen eine Reihe wichtiger Impulse: So wurden beispielsweise bessere Beschwerdemöglichkeiten bei fehlerhaften Entscheidungen gefordert. Auch wurden Sanktionierungen als mögliches Mittel bei Nichteinhaltung der Gütekriterien diskutiert. Einige Teilnehmer:innen plädierten für die deutlichere Kennzeichnung nicht-menschlicher Systeme, wie zum Beispiel Chat Bots. Besonders der Schutz gesellschaftlicher Güter war vielen ein Anliegen – so dürfen algorithmische Prozesse Vielfalt, Teilhabe oder Solidarität nicht gefährden, sondern sollen sie vielmehr stärken.
Der Workshop war der Startschuss für einen umfangreichen Prozess mit dem iRights.Lab. Ziel ist es, einen Gütekriterienkatalog für den deutschsprachigen Raum zu entwickeln, der das Potenzial zu breiter Anerkennung hat. Weitere Schritte auf dem Weg dorthin sind unter anderem ein groß angelegter Beteiligungsprozess, sowie ein Workshop zu Fragen der erfolgreichen Implementierung.
Die Mitglieder der Expert:innenrunde waren Rafael Capurro, Sabine Leutheusser-Schnarrenberger, Mario Martini, Carolin Möller, Nathalie Schlenzka, Katharina Simbeck und Stefan Ulrich.
Bertelsmann Stiftung / iRights.lab
1. Workshop zu Gütekriterien für Algorithmen
Sieben hochrangige Vertreter:innen aus Wissenschaft, Politik und Zivilgesellschaft trafen sich am Ende Mai in Berlin, um über die Gestaltung eines Gütekriterienkataloges für Algorithmen zu diskutieren. Die Veranstaltung war der Auftakt für einen groß angelegten Prozess, den der Think Tank iRights.Lab im Auftrag der Bertelsmann Stiftung organisiert.
