#bayernkreativPORTRAIT: Eva ist begeisterte Feministin, Wissenschaftlerin, Co-Founderin und bekannt mit ihrem Herzensthema feminist AI. Ihren feministischen Blick bringt sie ein in Beratung, Forschung und Vorträgen. Im Fokus steht dabei das Thema Macht – wie sie verteilt ist in Unternehmen, Politik und Gesellschaft und wie wir dieses Machtungleichgewicht verändern können. Als Doktorandin der Wirtschaftsinformatik an der Friedrich-Alexander-Universität Erlangen-Nürnberg im Promovierenden Kolleg Business and Human Rights forscht Eva daran, wie Künstliche Intelligenz feministischer gestaltet werden kann. Zum anderen ist Eva Co-Founderin von enableYou – eine junge Organisations- und IT-Beratung, die Organisationen zu mehr Liebe, Sinn und Wachstum enabelt mit dem Fokus auf Future Leadership, Future Organization und Future Skills. Im Interview erzählt Eva mehr über feminist AI (eine Bewegung und Marke von enableYou), ihre Arbeit und den Einfluss von Künstlicher Intelligenz auf die Kultur- und Kreativwirtschaft …

Feministische KI ist für mich die große Chance unsere Welt gerechter zu machen. 

Eva Gengler

Eva Gengler

Bildnachweis: Helena Henkel

Du hast den Think-Tank feminist AI zusammen mit Andreas Kraus bei enableYou ins Leben gerufen, um mit einer feministischen Perspektive auf KI die Diskussion in eine neue Richtung zu lenken. Was bedeutet „feministische KI“ für dich und warum ist dieser Blickwinkel so wichtig? 

Feministische KI ist für mich die große Chance unsere Welt gerechter zu machen. Aktuell reproduzieren die meisten KI-Systeme bestehende Machtstrukturen, Vorurteile und Stereotype. Wir können sogar sagen, dass KI unsere Welt aktuell noch ungerechter macht – und das können wir uns nicht leisten! Wir können KI aber auch anders entwickeln und einsetzen. Wir können das feministisch tun. Wichtig ist, dass ich mit Feminismus einen intersektionalen und inklusiven Feminismus meine, der Gerechtigkeit für alle marginalisierten Menschen anstrebt. Es geht also nicht nur um Frauen. Feminismus bedeutet kritisches Hinterfragen, Transformation und eine Veränderung von Macht. Damit können wir die Welt verändern: KI wird heute überall eingesetzt und Feminismus hat unsere Welt bereits entscheidend gerechter gemacht. Wenn wir das zusammenbringen, dann können wir Diversität, Gerechtigkeit und den Fokus auf marginalisierte Menschen durch KI priorisieren und automatisieren. Unsere Vision ist: Mit feministischer KI die Welt gerechter machen.  

Über die feminist AI Academy bietet ihr Workshops für Unternehmen an, die mehr Bewusstsein für einen ethischen Umgang mit KI schaffen sollen. Kannst du uns einen kleinen Einblick geben, wie so ein Workshop bei euch aussieht und was die Teilnehmenden erwartet?

Aktuell halten wir Workshops mit verschiedenen Schwerpunkten: 1) verantwortungsvolle und feministische Entwicklung und Einsatz von KI, 2) Fair AI Prompting sowie 3) die Entwicklung feministischer KI-Features. Unsere Workshops gliedern sich in der Regel in drei Bestandteile: 1) Wissen durch einen Impulsvortrag und Beispiele, 2) Diskussion und Reflektion eigener Use Cases sowie 3) Lösungsansätze und Best Practices für das eigene Unternehmen. Je nach Workshopschwerpunkt integrieren wir praktische Phasen wie beim Fair AI Prompting. Es geht im ersten Schritt darum Bewusstsein zu schaffen für die blinden Flecken und Stereotype, die wir alle haben, und um die Chancen und Risiken von KI. Deshalb starten wir in der Regel mit einem Impulsvortrag zu KI, deren Bezug zu Macht und Feminismus sowie mit einer Reihe von Beispielen für KI Use Cases und ungerechte KI. Diese sind ganz entscheidend, um auf die weitreichenden Risiken ungerechter KI aufmerksam zu machen. Dann folgen eine Frage- und Diskussionsrunde sowie eine Reflexionsphase. Es geht darum, dass die Teilnehmenden verstehen und reflektieren, wo KI in ihrem Unternehmen zum Einsatz kommt und welche Menschen davon (negativ) betroffen sein können. Dann wird es praktischer: Wir arbeiten gemeinsam mit den Teilnehmenden an ihren KI-Use Cases und beleuchten in welchen Fällen eine KI anfällig für Diskriminierung ist. Im letzten Teil sprechen wir über Lösungsansätze. Dabei ist die Erfahrung der Teilnehmenden zentral, denn kein Unternehmen und auch keine KI ist gleich. Wir sprechen darüber, wie wir die Risiken von KI minimieren können, und haben dafür Best Practices für einen feministischen Einsatz und eine Entwicklung von KI dabei.  

Vermeintlich objektive und neutrale KI-Systeme, die bereits im Umlauf sind und von Unternehmen und Behören genutzt werden, standen schon in der Kritik, dass sie gesellschaftliche Vorurteile und Stereotype reproduzieren würden. Wie genau ist so etwas möglich? Worauf sollten Unternehmen deiner Meinung nach achten, wenn sie auf KI-Systeme setzen, beispielsweise im Recruiting?

Es gibt leider eine ganze Reihe an Beispielen ungerechter KI vom Recruiting, über die Kreditvergabe und Pricing bis hin zur Überwachung und Gerichtsentscheidungen. Da KI bereits fast überall zum Einsatz kommt, beeinflusst sie bereits unzählige Aspekte unseres Lebens. KI reproduziert bestehende Machtstrukturen, weil sie von einem gewissen Kreis an Menschen entwickelt und eingesetzt wird; weil sie von Daten aus der Vergangenheit lernt und im Design vorherrschende Wertevorstellungen priorisiert werden. All das passiert meistens in einem kapitalistischen Kontext und mit dem Zweck bestehende Prozesse zu automatisieren. Leider sind weder die Menschen, die Entscheidungen zu KI treffen, noch die, die sie trainieren und entwickeln, in der Regel sehr divers. Meistens ist es eine recht männliche, recht weiße und recht privilegierte Gruppe. Dazu kommt, dass die Daten bestehende und vergangene Stereotype und Vorurteile beinhalten und häufig marginalisierte Gruppen unterrepräsentiert sind oder sogar fehlen (z. B. Gender Data Gap: Frauen sind stark unterrepräsentiert, non-binäre Menschen fehlen meist gänzlich). Im Design werden dann zusätzlich noch Prioritäten auf Features gelegt, die oft marginalisierte Menschen nicht mitdenken. KI ist Macht. Sie basiert auf Daten und produziert Daten. Sie kostet viel Geld und sie erschafft viel Geld. Diese Macht liegt oft in den Händen weniger privilegierter Menschen und Institutionen.  

Wir sollten nicht erst beim Einsatz von KI ansetzen, sondern auf jeden Fall schon in der Entwicklung. Ganz zentral ist sich ganz am Anfang des Prozesses die Frage zu stellen, WARUM KI eingesetzt werden soll. Was ist der Zweck? Meistens ist es keine gute Idee einfach bestehende Prozesse zu automatisieren, wenn es dabei um Menschen geht. Denn meistens waren sie in der Vergangenheit belastet von Vorurteilen und Machtungerechtigkeit. Wenn wir das unreflektiert automatisieren, dann kann es auch nicht besser werden. Wir müssen bei den Menschen ansetzen: Wir brauchen mehr Diversität, z. B. durch Einbezug eines Panels der Vielfalt. Wir müssen bei den Daten ansetzen und für eine ausgewogenere Repräsentanz sorgen. Und wir müssen das Design feministisch gestalten und die Features nicht auf die Privilegierten ausrichten. Wenn wir das tun, dann haben wir gute Chancen eine feministischere und gerechtere KI zu entwickeln und einzusetzen.  

KI wird in vielen Bereichen eingesetzt, darunter auch zunehmend in der Kultur- und Kreativwirtschaft (KKW). Welche Konsequenzen ergeben sich daraus für die KKW? 

Ich denke, dass gerade die generative KI einen großen Einfluss auf die KKW hat und haben wird. Allerdings hat KI schon länger einen Einfluss auf sie. Durch Plattformen wie Spotify, die unbegrenzte Datenbanken an Musik zur Verfügung stellen, hat sich das Verhalten der Nutzenden und die Macht der Musikindustrie geändert. Es geht nun darum in den richtigen Playlists zu erscheinen und von der KI vorgeschlagen zu werden. Dabei sind besonders die ersten Sekunden eines Stücks von Bedeutung, sonst klicken Nutzende gegebenenfalls gleich weiter. Stücke sind deshalb kürzer geworden, haben weniger Intros und müssen schon in den ersten Momenten überzeugen. Die Kunst hat sich verändert, um erfolgreich zu sein/bleiben. Wir sehen ähnliche Phänomene auch im visuellen Bereich. Es gibt heute eine Flut an Bildern und Videos und es wird immer schwieriger herauszustechen, weshalb Filter- und Personalisierungsalgorithmen immer mehr an Bedeutung gewinnen. Daher ist ein Punkt die Anpassung unseres kreativen Schaffensprozesses an die KI. Zum anderen kommt jetzt generative KI hinzu, die für Laien Logodesign, Fotografie/Bildgenerierung und Textproduktion massiv erleichtert. Sie eröffnet aber auch neue Möglichkeiten in Bezug auf Qualität und Geschwindigkeit für Fachleute. Ich denke, dass es den Fachkundigen, die nun Skills lernen, um KI in ihren Prozessen einzusetzen, einen Vorteil verschaffen wird. Sie wird die kreative Arbeit aber nicht ersetzen, sondern verändern. Das birgt viele Chancen, jedoch auch Risiken, wenn wir selbst KI als Ideengeberin nutzen, dann kann das auch dazu führen, dass Ergebnisse immer einheitlicher werden. Es hängt also wieder viel vom WARUM und vom WIE ab. 

Wie kann eine feministische Perspektive dazu beitragen, ethische Leitlinien für den verantwortungsbewussten Umgang mit KI, in der Kultur- und Kreativwirtschaft und darüber hinaus, zu entwickeln?   

Eine feministische Perspektive zieht die Bedürfnisse und Lebensrealitäten marginalisierter Menschen mit ein. Sie denkt inklusiv und intersektional und will nicht reproduzieren, was da ist, sondern transformieren. Ich denke, dass das ganz entscheidend ist für die Leitlinien, die wir für einen verantwortungsvollen Umgang mit KI setzen wollen. Wenn wir die Richtung nicht feministisch prägen, dann wird auch unsere Zukunft nicht feministisch sein. Was wir heute bauen, wird die nächsten Generationen mitbeeinflussen. Es ist also an der Zeit heute die Zukunft feministischer zu denken! Der Blick auf Benachteiligung, Machtstrukturen und Betroffene – und wie wir Ungerechtigkeit verändern können, sollte bei jeder Entscheidung mitgedacht werden – besonders wenn es um KI geht. Wenn wir das tun, dann haben wir die Chance auf eine gerechtere Zukunft.  

Es gibt immer mehr Stimmen, die sich mehr staatliche Regulierung in der Entwicklung und im Einsatz von KI-Systemen wünschen. Glaubst du, dass gesetzliche Regelungen ausreichend sind, um den Herausforderungen durch KI zu begegnen?   

Ich denke, dass gesetzliche Regelungen ein erster Schritt sein können und dass sie zentral sind, denn wir sehen, dass es ohne sie nicht geht. Ich denke aber auch, dass wir uns als Gesellschaft dafür einsetzen müssen, dass KI gerechter wird, denn wir sind alle von ihr betroffen. Wir müssen sowohl von der Politik als auch von der Wirtschaft einfordern, dass Trainingsdaten transparent sind, dass der Zweck von KI ersichtlich ist und dass sichergestellt wird, dass KI unsere Welt gerechter und nicht noch ungerechter macht. Wir haben ein Recht darauf, das KI uns allen nutzt, nicht nur den Privilegierten. Auch Unternehmen tragen eine wichtige Verantwortung. Sie sollten Gesetze und Menschenrechte nicht als zu erreichendes Maximum betrachten, sondern als akzeptables Minimum. Es sollte viel weniger darum gehen Schlupflöcher zu finden, als den Sinn der Unternehmen zu verfolgen. Es sollte ihnen darum gehen mit guten Produkten und Dienstleistungen einen großen Teil der Gesellschaft zu bereichern und nicht nur sich selbst.  

Zu guter Letzt: Welche Entwicklungen in dem Bereich erhoffst du dir für die Zukunft?   

Ich erhoffe mir, dass viel mehr KI zu feministischen Zwecken entwickelt und eingesetzt wird, denn dann können wir die Welt mit einer neuen Macht feministischer machen.  

Die bayerische Kultur- und Kreativwirtschaft ist vital, kooperativ, vielstimmig und zukunftsrelevant. Wir stellen dir bayerische Akteurinnen und Akteure vor. Wie gestaltet sich deren Geschäftsmodell? Was treibt sie an?

Du möchtest uns auch gerne ein paar Fragen beantworten und Teil unserer Kampagne „bayernkreativPORTRAIT“ sein? Dann schreibe uns gerne eine E-Mail an kontakt@bayern-kreativ.de mit dem Stichwort „bayernkreativPORTRAIT“.