Quelle: @fotostudiocharlottenburg
wDRIVE: Frau Schumacher, Sie forschen aktuell am DFKI zu den Themen Diversity, Gender Equality und Mensch-Maschine-Interaktion. An welchen Fragen arbeiten Sie genau?
Kinga Schumacher: Als Senior Researcherin am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) beschäftige ich mich vor allem mit der Mensch-Maschine-Interaktion unter Berücksichtigung von Aspekten der kognitiven Psychologie. Es geht dabei zum Beispiel um Konzepte für das Interaktionsdesign, die bei den Nutzenden eine möglichst geringe kognitive Last verursachen. Bei meiner Arbeit im Bereich der Diversität liegt der Fokus auf der Frage, wie wir faire und gerechte KI-Anwendungen gestalten können.
Sie beschäftigen sich mit nutzerzentrierter KI. Was bedeutet das eigentlich genau – und wie kam es zu Ihrem Interesse an diesem Thema?
Kinga Schumacher: Nutzerzentrierte KI stellt den Menschen ins Zentrum, nicht die Technologie. Es geht dabei nicht nur um eine gute User Experience (UX), sondern um die Berücksichtigung menschlicher Bedürfnisse, Werte und Ziele in allen Phasen der Entwicklung. Mich hat das Thema schon immer interessiert. Anfangs vor allem aus Sicht der UX und der Kognitionspsychologie, denn die Mensch-Maschine-Schnittstelle ist entscheidend für die Akzeptanz von KI-Anwendungen. Während meiner Promotion wurde mir noch klarer, wie wichtig es ist, technologische Innovationen, wie etwa das entwickelte neue Suchparadigma, so zu gestalten, dass sie für Menschen verständlich, nutzbar und gewinnbringend sind. Und genau hier kommt nutzerzentriertes Design ins Spiel: Nur durch iterative Prozesse mit den Nutzenden und weiteren Stakeholdern, etwa bei Pflegesoftware auch mit Pflegebedürftigen, nicht nur Pflegekräften, können Systeme entstehen, die echte Bedarfe adressieren und die Fähigkeiten, Werte und Ziele der Nutzenden berücksichtigen, anstatt an ihnen „vorbei zu entwickeln“.
Ihr zweiter Schwerpunkt ist Diversität. Wie kommen Nutzerzentriertheit und Diversität zusammen?
Kinga Schumacher: Wir sind unterschiedlich, in unserer Wahrnehmung, in unserem Denken, Handeln und in unseren Bedürfnissen. Nur wenn wir diese Vielfalt anerkennen und bei der technischen Entwicklung von Anfang an mitdenken, wird uns nutzerzentrierte KI wirklich gelingen. Nutzerzentriertes Design beinhaltet, die verschiedenen Perspektiven von Menschen aktiv einzubeziehen und zwar in allen Stufen des Design- und Entwicklungsprozesses. Das verbessert nicht nur die UX, sondern auch die Relevanz, Funktionalität und Gerechtigkeit des Systems.
Was bedeutet das im Kontext von KI und Mobilität?
Kinga Schumacher: Es gibt zahlreiche Diversitätsdimensionen, die im Bereich der Mobilität eine Rolle spielen. Viele Nutzende, etwa Frauen oder vulnerable Personen, bevorzugen sichere Verkehrsmittel und -wege, insbesondere in der Dunkelheit. Ältere Menschen benötigen möglicherweise Bedienkonzepte, die sich stark an vertrauter Symbolik und gewohnten Interaktionsparadigmen orientieren. Ein Beispiel für ein Symbol ist hier der grüne Kreis mit dem „S“ der S-Bahn, eines für ein Bedienkonzept der digitale Kippschalter für an/aus, der sich am Prinzip eines Lichtschalters orientiert. Solche vertrauten Muster erleichtern insbesondere technikfernen Personen die Nutzung. Es gibt vielfältige Gründe, warum Menschen zeitweise oder immer mehr Umsteigezeit benötigen als der Durchschnitt – etwa mit Kindern, schwerem Gepäck oder bei eingeschränkter Mobilität. Auch kulturelle Unterschiede spielen eine Rolle: In manchen Kulturen wird körperliche Nähe zwischen Geschlechtern als unangemessen empfunden, sodass überfüllte Verkehrsmittel für sie eine besondere Herausforderung darstellen.
„Wir sind unterschiedlich – in unserer Wahrnehmung, in unserem Denken, Handeln und in unseren Bedürfnissen. Nur wenn wir diese Vielfalt anerkennen und bei der technischen Entwicklung von Anfang an mitdenken, wird uns eine menschen- und nutzerzentrierte KI wirklich gelingen.“
Dr. Kinga Schumacher
Leiterin der Arbeitsgruppe Diversity und Gender Equality, DFKI
Wie werden Mobilitätsangebote bedarfsgerecht?
Kinga Schumacher: Das Konzept der bedarfsgerechten Mobilität baut auf Nutzerzentriertheit auf und berücksichtigt Diversität, denn im Mittelpunkt stehen die aktuellen individuellen Bedürfnisse und Rahmenbedingungen der Nutzenden. Dabei geht es nicht nur um reine Verfügbarkeit von Verkehrsmitteln. Ziel ist eine zugängliche, sichere, inklusive und situationsangepasste Mobilität – statt einheitlicher Standardlösungen nach dem Motto „One size fits all“.
Wie können Vielfalt und Diversität konkret in datenbasierte Mobilitätslösungen einfließen?
Kinga Schumacher: Die zwei zentralen Elemente sind eine ausgewogene Datenbasis und ein nutzerzentriertes Design. Wenn bestimmte Gruppen wie etwa junge Mütter in den Daten unterrepräsentiert sind, fließen ihre Bedürfnisse nicht ausreichend in die Systeme ein. Daher ist eine ausgewogene Datenbasis enorm wichtig. Eine Möglichkeit, diesem Problem zu begegnen, sind Tools, die Trainingsdaten und Machine Learning Modelle auf Datenverzerrungen wie Blind Spots oder Bias prüfen und helfen, diese zu beheben. Ein nutzerzentriertes Design kann hingegen erreicht werden, wenn in jeder Entwicklungsphase alle relevanten Nutzergruppen einbezogen werden – und das aktiv und gleichwertig.
Welche Risiken sehen Sie, wenn diese Aspekte vernachlässigt werden?
Kinga Schumacher: Es entsteht eine Bias-Kette: Fehlende Daten, sogenannte „Blind Spots“, führen zu unausgewogenen Angeboten, die für bestimmte Gruppen nicht passen. Diese Gruppen nutzen die Systeme weniger, und es entstehen noch weniger Daten. Der Blind Spot wächst, und damit verstärkt sich die Ungleichheit.
Wie kann KI helfen, solche blinden Flecken zu erkennen und letztlich auch zu vermeiden?
Kinga Schumacher: Es gibt inzwischen viele Tools zur Analyse von Bias in Daten und KI-Modellen. Sie zeigen auf, wo Datenverzerrungen existieren und geben Hinweise, wie diese reduziert werden können. Einen guten Überblick solcher Tools wird beispielsweise auf der Website „RBC Borealis“ zur Verfügung gestellt.
Welche methodischen Ansätze nutzen Sie in Ihrer Forschung, um Bedarfe unterschiedlicher Nutzergruppen zu erfassen und diese in technische Systeme zu übersetzen?
Kinga Schumacher: Wie bereits dargelegt setzen wir in der Forschung auf ein nutzerzentriertes Design. Hier gibt es eine breite Palette von Methoden, darunter Experteninterviews, Co-Design-Workshops, Usability -/UX-Tests oder Painpoint-Analysen. All diese Instrumente helfen uns dabei, menschenzentrierte und bedarfsgerechte KI-Anwendungen zu entwickeln.
Zudem analysieren wir erhobene und bestehende Daten, um Annahmen zu validieren, diese sind nämlich belastet von unseren eigenen Bias, und dann Schlüsselpunkte zu finden und hierdurch informierte Entscheidungen treffen zu können. Nicht zuletzt wird für eine ausgeglichene Datenbasis gesorgt, um Datenverzerrungen in datenbasierten KI-Systemen zu vermeiden.
Das Frauennetzwerk wDRIVE lädt alle Interessierten ein, mehr zu dem Thema zu erfahren. Wo? Bei der Online-Veranstaltung wDRIVE Impuls #2 des wDRIVE Frauennetzwerks. Das Thema: „Der Mensch im Mittelpunkt – Künstliche Intelligenz für bedarfsgerechte Mobilitätsangebote“. Wann? Am 23. September 2025. Die Veranstaltung beginnt mit einer Keynote von Dr. Kinga Schumacher mit dem Titel „Schlau, schnell, nutzerzentriert: Die neue Mobilität denkt mit“.
