„Es braucht mehr Frauen!“

SALTO: Frau Mur, wieso ist Künstliche Intelligenz (KI) keine neutrale Technologie?

Klaudia Mur: Keine Technologie ist neutral! Sie entspricht immer gesellschaftlichen Normen, das kann einmal mehr, einmal weniger der Fall sein. Wenn wir über KI sprechen, meinen wir meist generative KI, also ChatGpt oder andere Modelle für die Erstellung von Texten, Bildern und so weiter. Diese generative KI ist an Datensätzen trainiert worden, die unseren gesellschaftlichen Normen entsprechen, die zum Teil sexistisch sind und Verzerrungen in sich tragen. Damit widerspiegeln sie gesellschaftliche Ungleichheiten.

„Die Sachen passieren also schon!“

Wie sieht es bei der Entwicklung von KI aus?

Meistens arbeiten Männer aus einer bestimmten gesellschaftlichen Schicht an KI. Zudem müssen die Fragen gestellt werden, wer alles am Testprozess der KI beteiligt ist und wer sie am Ende nutzt.

Zur Person

Klaudia Mur ist 1991 in Brixen geboren und in Barbian aufgewachsen. Die 33-Jährige hat in München Physik und Philosophie studiert, anschließend das Masterprogramm „Complexe Adaptive Systems“ in Göteborg in Schweden. 2021 hat Mur gemeinsam mit ihrem heutigen Ehemann Faheem Shah das Beratungsunternehmen Jolint in Göteborg gegründet. Jolint arbeitet mit großen Unternehmen zusammen, die inklusiver werden wollen.

Wie kann KI geschlechtergerechter und inklusiver werden?

Gute Frage (lacht). Tech-Unternehmen müssen diverser und inklusiver werden, denn das hat auch Folgen auf die technologische Entwicklung. Es braucht dort mehr Frauen und unterrepräsentierte Menschen. Häufig werden KI-Technologien zu Black Boxes, man steckt was rein und es kommt was raus, aber man kennt den Prozess dahinter nicht genau. Das ist einerseits das Faszinierende daran, andererseits erschwert es eine bessere Kontrolle darüber.

„Wir können KI und andere Technologien aktiv nutzen, um unsere Gesellschaft besser und gerechter zu machen.“

Selbst Programmierer*innen wissen also nicht, wie die KI funktioniert?

Genau. Im Vergleich dazu sind Algorythmen, die in all unseren digitalen Technologien stecken, sehr deterministisch. Hier weiß man genau, wenn ich das reinschicke, kommt jenes raus. Bei der KI dienen künstliche neuronale Netzwerke als Grundlage, daran wurde bereits in den 80er Jahren geforscht. John Hopfield und Geoffrey Hinton haben für ihre Arbeit in diesem Bereich heuer den Nobelpreis für Physik erhalten. Viele Physiker*innen beschäftigen sich mit Grundlagenforschung zu KI und orientieren sich dabei an dem menschlichen Gehirn, das auch ein neuronales Netzwerk ist, auch wenn es nicht ganz genau gleich funktioniert wie KI.

Wie können Nutzer*innen von ChatGpt Inklusion mitdenken?

KI hat sicher ihre Probleme, ich sehe aber auch große Vorteile. Wir können KI und andere Technologien aktiv nutzen, um unsere Gesellschaft besser und gerechter zu machen. KI ermöglicht es uns, Sachen zu machen, die vorher vielleicht nicht möglich waren. Der Eintritt in eine Technologie wird so niederschwelliger, unter anderem für Frauen. Ich verwende ChatGpt oder andere Modelle zum Beispiel beim Programmieren.

Klaudia Mur und Faheem Shah: Das Ehepaar gründete vor drei Jahren das Beratungsunternehmen Jolint in Göteborg. Foto: privat

Kann KI auch Prozesse wie die Erstellung eines Dienstplans im Krankenhaus transparenter machen?

Ja, auf jeden Fall. Das ist ein gutes Beispiel, weil auch wir Menschen manchmal voreingenommen sind. Wenn es um Dienstpläne oder Bewerbungen geht, zeigt sich das, egal ob wir Menschen oder KI dafür verantwortlich sind. Ein Mensch schafft es zudem nicht immer, über alles einen Überblick zu halten und gerecht zu handeln. Eine Bekannte von mir hat deshalb in Schweden ein Start-up gegründet, das genau das macht: Es werden mit KI Dienstpläne in Krankenhäusern und Pflegeeinrichtungen erstellt, um gerade für Frauen bessere Arbeitsbedingungen zu schaffen. Die Sachen passieren also schon!

Wie sieht Ihre Arbeit bei Jolint aus?

Wir unterstützen Unternehmen darin, inklusiver zu werden. Es geht viel darum, wie ein Unternehmen sich als Arbeitgeber aufstellt und Mitarbeiter*innen langfristig halten kann. Unternehmer*innen müssen sich darauf einlassen, dass sie aktiv etwas dafür tun müssen. Hier sind viele Sachen wichtig, unter anderem gute Arbeitsbedingungen, Diversität und Inklusion. Auch die neue EU-Richtlinie zur Nachhaltigkeitsberichterstattung für Unternehmen richtet einen Fokus darauf, was ein Unternehmen dafür tut, die Welt besser oder zumindest nicht schlechter zu machen.

„Mitarbeiter*innen wollen etwas Positives bewirken und nicht nur am Ende des Monats einen Gehalt beziehen.“

Wie verändert KI das Arbeitsklima in Unternehmen?

Ich beobachte, dass der menschliche Kontakt für Mitarbeiter*innen zunehmend wichtiger wird. Beziehungen müssen gepflegt werden und wir sollten KI nicht dazu nutzen, uns mehr und mehr zu isolieren. Unternehmen stehen derzeit vor der Herausforderung, dass ihre Mitarbeiter*innen sich nicht immer zugehörig fühlen und das Unternehmen bald wieder verlassen. Das hat weniger mit dem Produkt oder der Mission auf der Homepage des Unternehmens zu tun, sondern eher mit den persönlichen Kontakten.

Kommt der menschliche Kontakt also auch nach den Beschränkungen während der Corona-Pandemie zu kurz?

Die Zeit während der Corona-Pandemie hat uns vor Augen geführt, dass es nicht nur darauf ankommt, was wir arbeiten, sondern auch mit wem und welche Kontaktmöglichkeiten wir haben. Es kommt auf den regelmäßigen Kontakt an und nicht so sehr auf den Standort des Arbeitsplatzes. Das Menschliche hat aber auch mit den Auswirkungen zu tun, die das Unternehmen auf den Planeten und die Gesellschaft hat. Mitarbeiter*innen wollen etwas Positives bewirken und nicht nur am Ende des Monats einen Gehalt beziehen. Das wird wichtiger und wichtiger, aber nicht alle Unternehmen springen darauf auf.

Impulstagung

Am Montag, 18. November, veranstaltet das Frauennetzwerk WNET im NOI Techpark in Bozen eine Tagung zu „KI ohne Bias? Wie erreichen wir eine inklusive Technologie“.

Antonella De Angeli, Professorin für Human- Computer Interaction an der Freien Universität Bozen, spricht über geschlechtergerechte Sprache und Klaudia Mur von Jolint über inklusive Unternehmenskultur.

Im interaktiven Teil geht es darum, wie wir durch gezielte Anweisungen an KI-Chatbots, wie ChatGPT oder Google Gemini, bessere Ergebnisse ohne Verzerrungen erzielen.

Die Veranstaltung findet am 18. November von 15 bis 18 Uhr statt, Aperitif im Anschluss. Um Anmeldung wird gebeten.