Projekte

Im Folgenden finden Sie eine Übersicht von Projekten, an denen die Forscherinnen und Forscher des Algorithm Accountability Lab teilgenommen haben. Nähere Informationen werden auf den entsprechenden Webseiten der Projekte zur Verfügung gestellt.

Laufende Projekte

TrADeMaS (Transparenz von Algorithmic Decision Making Systems)

Das Projekt TrADeMaS hat zum Ziel, die Transparenz- und Erklärbarkeitsansätze im Bereich der algorithmischen Entscheidungsfindung zu evaluieren. Dabei wird untersucht, ob diese Ansätze tatsächlich echte Transparenz bieten oder nur eine Illusion erzeugen. Die Bewertung erfolgt aus zwei Perspektiven: Zum einen wird die mathematische Robustheit der Ansätze überprüft, um festzustellen, ob sie Fehler im System erkennen können. Zum anderen wird die psychologische Effektivität der Ansätze analysiert, um zu ermitteln, wie gut sie die Entscheidungen des Systems für die betroffenen Personen verständlich machen. (mehr)

Abgeschlossene Projekte

Industrieprojekt: Begleitung bei der Einführung eines großen KI-Projekts im Bereich Human Ressources

In diesem Projekt begleiteten Mitglieder des Algorithm Accountability Lab die Vorbereitung und den Einsatz eines KI-Projektes bei einem großen Industrieunternehmen, durch dessen Einsatz HR-Prozesse vereinfacht und beschleunigt werden sollten.

ExamAI – KI Testing & Auditing

"Im Konsortialprojekt „ExamAI – KI Testing & Auditing“ unter Leitung der Gesellschaft für Informatik e.V. untersucht ein interdisziplinäres Team aus (Sozio-)Informatiker*innen, Software-Ingenieuren sowie Rechts- und Politikwissenschaftler*innen anhand von zwei konkreten Anwendungsbereichen - (1) Mensch-Maschine-Kooperation in der Industrieproduktion sowie (2) KI-Systeme im Personal- und Talentmanagement - wie sinnvolle Kontroll- und Testverfahren für KI-Systeme aussehen können." (mehr)

GOAL (Governance von und durch Algorithmen)

"GOAL (Governance von und durch Algorithmen) ist ein vom BMBF gefördertes interdisziplinäres Projekt im Bereich Algorithmen und KI". "Gegenstand des Projekts ist die Governance von und durch Algorithmen. Zum einen wird untersucht, wie die Governance von risikobehafteten Algorithmen gestaltet werden kann. Zum anderen wird erforscht, wie Algorithmen selbst Governancefunktionen ausüben und dadurch Bestandteil der Governance zur Risikominderung von Algorithmen werden können. Der Fokus ist daher auf Algorithmen, deren verhaltenssteuernde und regulative Wirkungen, ihre gesellschaftlichen Konsequenzen und Nebenwirkungen sowie auf diesbezügliche Handlungsbedarfe und -optionen zur Gestaltung von umfassenden Governancestrukturen gerichtet." (mehr)

Deciding about, by, and together with algorithmic decision making systems

Katharina Zweig war die Sprecherin des Projektes "Deciding about, by, and together with algorithmic decision making systems". Das Projekt "Entscheiden über, durch und zusammen mit algorithmischen Entscheidungssystemen" untersucht die Auswirkungen von algorithmischen Entscheidungssystemen (ADM) im Strafjustizsystem aus verschiedenen disziplinären Perspektiven. In diesem Projekt geht es darum, wie Menschen über die Entwicklung und Umsetzung solcher Systeme entscheiden, wie sie ADM-Systeme in Entscheidungsprozesse einbeziehen und wie Entscheidungen gemeinsam mit diesen Systemen getroffen werden. Das Ziel des Projektes ist es, die Kontextabhängigkeit von Entscheidungen hervorzuheben, die bei der Entwicklung von ADM-Systemen bisher oft vernachlässigt wurde. (mehr)

Fatal4Justice?

Dieses Projekt beschäftigt sich mit der Frage, ob algorithmic decision making systems (ADM-Systeme) in der Lage sind, Entscheidungen in Strafjustizsystemen zu übernehmen. (mehr)

Algorithms for Big Data

Das Ziel des Projekts ist es, durch die Kombination von Expertenwissen aus verschiedenen Bereichen neue Berechnungsmodelle zu entwickeln und algorithmische Herausforderungen im Umgang mit Big Data zu identifizieren. Dabei soll eine Toolbox aus verbesserten Algorithmen und Datenstrukturen für große Datensätze entstehen, die den gesamten Entwicklungszyklus der Algorithmentechnik abdeckt. (mehr)