(Anti)Diskriminierung im Zeitalter von KI

Ziele

Immer mehr Entscheidungen werden an technische Systeme auf Basis von KI übergeben. Dabei ist bekannt, dass Sprachmodelle wie ChatGPT halluzinieren, Gesichtserkennungssoftware häufig nur weiße Menschen erkennt und Bewerbungssoftware Charaktereigenschaften von Bewerber/-innen basierend auf
Merkmalen wie Kopftuch oder Brille identifiziert. Diese Ergebnisse erscheinen objektiv, da sie von einem technischen System erzeugt werden. Doch gibt es diese technische Objektivität überhaupt?

In diesem Seminar entwickeln Sie ein grundlegendes Verständnis für die Funktionsweise der Technologie, um KI-generierte Ergebnisse zu verstehen und zu bewerten. Wir diskutieren die gesellschaftliche Verantwortung bei der Nutzung von KI und lernen sowohl negative als auch positive Praxisbeispiele kennen.

Inhalte

• Funktionsweise von Künstlicher Intelligenz und damit verbundene Diskriminierungsrisiken
• Verzerrungen (Bias) in Trainingsdaten
• Blindes Vertrauen in Automatisierung (Automation Bias)
• Rechtliche Rahmenbedingungen
• Good Practices zu Antidiskriminierungsmaßnahmen aus der Arbeitswelt und der Öffentlichkeit

Methoden

Theorie-Input, Gruppenarbeiten, Austausch und Diskussion