Skip to main content
Alle HubsAllgemeinPforzheim

Digitalisierung und unconscious bias – Neutralität durch Maschinen?

By 8. Februar 2022Januar 18th, 2024No Comments

„Können Maschinen neutral sein?“

Mit dieser interessanten Frage führte Elke Müller von Compass International in den spannenden Themenbereich „unconscious bias“ ein. Übersetzt: unbewusste kognitive Verzerrungen, wie z.B. Stereotypen und Denkmuster, die tief verwurzelt sind.

„Das Problem ist die Effizienz unseres Gehirns“. Instinktiv und ohne willentliche Steuerung sind wir auf „Auto-Pilot“ unterwegs und schon stecken wir fest in kognitiven Verzerrungen – unconscious bias! Stereotype, starre Muster, erlernte Vorurteile aus Medien, Werbung und den Lebenswelten prägen in uns ein Wertesystem. „Schutz vor Diskriminierung – Bewusstheit der Diversität“ und damit ein aktives Auseinandersetzen mit den verschiedenen Lebenswelten fordert Elke Müller.

Die Idee: neutrale Algorithmen als Kompensation zu menschlichen Vorurteilen.

Aber, wer speist die Algorithmen?  Sie werden mit „WEIRD Samples“ gefüttert (Western, Educated, Industrialized, Rich and Democratic – gesammelte Daten aus der Vergangenheit). „Warum ist Pepper eigentlich weiß?“ eines, von weiteren deutlichen Beispielen, dass KI basierte Erkennung, Beurteilung, Wertung und Darstellung NOCH nicht neutral und frei von Diskriminierung ist.

Wie kann es gelingen mehr Diversität zu wagen – „Starten Sie die unlearning journey“ Elke Müller gab der Teilnehmergruppe wertvolle Tipps, wie das „Entlernen“ unserer Stereotypen und Vorurteile gelingen kann. Vom Akzeptieren der eigenen Biases bis hin zum aktiven Analysieren und Reduzieren. Eine rege Diskussionsrunde und die Forderung nach vermehrter Einspeisung diverser Daten bildeten den Schluss der Veranstaltung. Vielen Dank an Elke Müller für den spannenden und informativen Einblick.