Diskriminierungen und Bias (9/17)

In den 1990er Jahren gab es die Utopie, dass das Internet – mit dem freien Informationsaustausch und der vielfältigen Kommunikation – die Welt besser, demokratischer und friedlicher machen könnte. Dies hat sich als Trugschluss herausgestellt: Im Cyberspace gibt es die gleichen gesellschaftlichen Strukturen und Diskriminierungen wie in der Offline-Welt. Die Ausprägungen und Umsetzungen sind jedoch unterschiedlich. Das Gunda Werner Institut der Heinrich Böll Stiftung beschäftigt sich u.a. mit dem Thema „feministische Netzpolitik“. In dem etwas längeren Video (ca. 30 Min.) „Digitale Gewalt, ungerechte Algorithmen“ umfassen die beiden Netzexpertinnen Katharina Mosene und Francesca Schmidt die Bandbreite, wie sich gesellschaftliche Strukturen im IT-Kontext auswirken.

„Die Welt ist rassistisch, also sind auch Algorithmen rassistisch“ so bringt es Francesca Schmidt auf den Punkt. Denn die vermeintlich objektive Technik wird von Menschen entwickelt, programmiert und trainiert. Wie wir alle haben auch die Entwickler*innen vorgefertigte Wahrnehmungen, Stereotype und erlernte Verhaltensmuster verinnerlicht, die in die Algorithmen einfließen. Diese Beimischung oder Verzerrung wird „Bias“ genannt. In dem Vortrag „Bei gleicher Qualifikation werden Männer bevorzugt“ (ca. 30 Min.) zeigt die Informatikerin pascoda anhand des Einsatzes von Algorithmen im österreichischen Jobcenter, wie Bias entsteht und welche Auswirkungen dieser hat.

Bias entsteht also zunächst bei der Entwicklung von Anwendungen und Algorithmen. Sobald die Algorithmen zu selbstlernenden Systemen werden, kommt noch mehr Bias hinzu. Denn die Systeme werden mit Daten trainiert, die wiederrum Menschen mit bestimmten Weltbildern und Stereotypen zuvor kategorisiert haben. Dadurch können diese Stereotypen verstetigt und verstärkt werden. Wenn die künstliche Intelligenz z.B. oft genug einen Menschen mit einem langen Kleidungsstück als „Frau“ beschrieben bekommen hat, wird sie es als Muster erkennen und übernehmen, gleichgültig ob es sich bei dem Kleidungsstück um ein Kleid oder um einen Kaftan handelt.