Künstliche Intelligenz (KI) hat das Potenzial, unsere Arbeitswelt grundlegend zu verändern und zu verbessern. Doch während einige die Technologie als Wegbereiter*in für eine gerechtere Gesellschaft sehen, warnen andere vor einer Verschärfung bestehender Ungleichheiten. In dieser Debatte ist das Forschungsprojekt "Künstliche Intelligenz im Dienste der Diversität" (KIDD) ein Vorreiter für inklusive Technologieeinführung.
Gemeinsam mit acht Unternehmen und Partnerorganisationen setzt sich KIDD dafür ein, dass KI auf eine gerechte und inklusive Weise genutzt wird. Mit Unterstützung des Bundesministeriums für Arbeit und Soziales (BMAS) und im Rahmen der Initiative Neue Qualität der Arbeit (INQA) entwickelte das KIDD-Konsortium einen innovativen Prozess, der Unternehmen dabei hilft, KI in ihren Arbeitsabläufen auf eine sensibilisierte Weise zu integrieren. Das Ziel: den Übergang in eine digitalisierte Arbeitswelt fair zu gestalten und sicherzustellen, dass niemand zurückgelassen wird. Wir haben mit Katja Anclam von KIDD gesprochen, um mehr über den innovativen Prozess und die Herausforderungen bei der Entwicklung von KI im Dienst der Diversität zu erfahren. In unserem Interview zeigt Frau Anclam auf, wie KI dazu beitragen kann, unsere Arbeitswelt inklusiver und gerechter zu gestalten und welche Schritte notwendig sind, um eine inklusive Digitalisierung voranzutreiben.
Hallo Frau Anclam, vielen Dank dass Sie sich Zeit für unsere Fragen genommen haben. Stellen Sie sich bitte einmal vor:
Herzlichen Dank für die Einladung. Mein Name ist Katja Anclam. Ich bin Kommunikationswissenschaftlerin, TV Producerin und zusammen mit dem Informatiker Christoph Henseler Geschäftsführerin des difgl – des „Deutschen Instituts für Gutes Leben“. Dort verantworte ich den Bereich Wissenschaftskommunikation. 2019 habe ich mit der Diversity Expertin Annette von Wedel in Berlin den gemeinnützigen Verein female.vision e.V. gegründet. Die Vision: mehr Gleichberechtigung für alle Menschen. Mein Ziel dabei: Wege zu schaffen, diese Vision konkret umzusetzen. Dafür habe ich das BMAS-Forschungsprojekt „KIDD – Künstliche Intelligenz im Dienste der Diversität“ mitinitiiert.
Was kann man sich unter dem Projekt KIDD genauer vorstellen?
Das Forschungsprojekt „KIDD – Künstliche Intelligenz im Dienste der Diversität“ ist Ende 2020 gestartet und wird vom Bundesarbeitsministerium für Arbeit und Soziales unter dem Dach der Initiative Neue Qualität der Arbeit (INQA) gefördert.
In der dreijährigen Projektlaufzeit haben wir Qualitätskriterien, Schulungen und ein konkretes Verfahren, den sog. KIDD-Prozess, entwickelt. Der KIDD-Prozess orientiert sich mit seinen vier Abschnitten an einem klassischen Softwareentwicklungs-bzw. Einführungsprozess. Herzstück ist das sog. „Panel der Vielfalt“ (PdV) als innerbetriebliches Gremium des Unternehmen, das ein KI-System einführen will. Darin sollen möglichst alle relevanten Stakeholder:innen im Betrieb versammelt werden um Verzerrungen, die das System aufweisen könnte, durch ihre unterschiedlichen Perspektiven aufzudecken. Auf dieser Grundlage können Unternehmen dann im Rahmen eines Selbst-Audits algorithmische Entscheidungssysteme wie Künstliche Intelligenz transparent und diversitätssensibel einführen.
Wie kam es dazu, dass die Idee für das Projekt KIDD – KI im Dienste der Diversität entstanden ist, welches Problem wollten Sie damit lösen?
Die Idee entstand beim allerersten Summit von female.vision, im Workshop „Künstliche Intelligenz – ohne menschliche Vorurteile“ von KIDD-Mitinitiatorin Rosmarie Steininger. Dort wurde den Teilnehmenden schnell klar, dass bei einer KI, anders als bei herkömmlichen Produkten, nicht erst nach der Fertigstellung die Qualität des Endproduktes überprüft werden kann, da es dann zu spät ist. Denn dann sind ungewollte Verzerrungen und Diskriminierung bereits implementiert. Aus den daraus folgenden Überlegungen wie „vorprogrammierte“ Ungleichbehandlung und unbewusst verzerrende Algorithmen gerade in Unternehmen durch ein geeignetes Verfahren frühzeitig erkannt und verhindert werden könnten, entstand die Idee für den KIDD-Prozess und das Forschungsprojekt.
Wie äußert sich Diskriminierung durch KI konkret?
Diskriminierung durch KI kann prinzipiell alle treffen. Da die zugrundeliegenden Daten oft einseitig sind und bestimmte Gruppen benachteiligen, besteht die Gefahr, dass algorithmische Entscheidungssysteme wie KI diese Diskriminierungen reproduzieren oder sogar noch verstärken. Das kann in Unternehmen unerwünschte Folgen haben, beispielsweise bei Personalentscheidungen oder im Recruiting. Um weitere potentielle Diskriminierungsmuster aufzudecken haben unsere Partner:innen ganz unterschiedliche Ansatzpunkte für den Einsatz algorithmischer Entscheidungsprozesse mit ins Projekt gebracht. Dazu gehört der Einsatz im Personalmanagement, bei Sales Intelligence on Customers oder bei der automatisierten Bewertung von Dienstleistungen. Dabei haben wir festgestellt, dass die vier Abschnitte, die das Panel der Vielfalt im Rahmen des KIDD-Prozesses durchläuft, im Hinblick auf Diversität und Diskriminierungsfreiheit über die Anwendung hinaus sehr positive Impulse für die gesamte Unternehmenskultur liefern.
Das Projekt bringt ja eine große Anzahl an Projektpartner*innen zusammen. Wie funktioniert das bisher?
Die Arbeit am Projekt funktioniert hervorragend und ist extrem zielgerichtet, weil sie so praxisorientiert angelegt ist. Bundesweit ist ein Konsortium mit acht Partner:innen daran beteiligt. Das Berliner nexus Institut für Kooperationsmanagement und interdisziplinäre Forschung GmbH hat die Projektkoordination übernommen, die TU Berlin verantwortet die wissenschaftliche Evaluation und female.vision leitet die Bereiche Kommunikation und Nachhaltigkeit und bringt die relevanten Kompetenzen zu Datenethik und Diversität ein. Aus der Wirtschaft sind fünf Unternehmen beteiligt. Dazu gehört die Heraeus Medical GmbH, der Softwarehersteller msg systems AG, die Münchener CHEMISTREE GmbH zusammen mit Q_PERIOR AG, sowie das Hamburger Unternehmen epsum GmbH. Diese Unternehmen repräsentieren Firmen unterschiedlicher Größe und Branchen, KMU`s genauso wie international tätige Großkonzerne. Sie alle haben den KIDD-Prozess als Experimentierräume direkt in der Praxis erprobt, waren von Anfang an der Entwicklung beteiligt und leisten damit einen wertvollen Beitrag, die gemeinsamen Forschungsergebnisse am Ende der Projektlaufzeit in die Fläche zu bringen.
Wie wird das Projekt von Unternehmen angenommen und welche Erfolge haben sich seit dem Start im Herbst 2020 eingestellt?
Es gibt erfreulicherweise ein immer größer werdendes Interesse. Dies hängt zum einen mit der aktuellen Diskussion um Chat-GPT zusammen, bei der viele Unternehmen erkannt haben, wie nah KI-Anwendungen bereits am unternehmerischen Alltag sind. Parallel dazu zeichnet sich ab, dass die EU demnächst mit dem AI Act die gesetzlichen Rahmenbedingungen zur Anwendung von Künstlicher Intelligenz verbindlich festlegen wird. Davon betroffen sind sowohl die Anbieter als auch die Nutzer von KI-Systemen. Deutsche Unternehmen werden dann je nach Kritikalität der Anwendung verpflichtet sein, verbindliche Verfahren zur Einführung von menschenzentrierter KI einzuführen um unter Umständen hohe Strafzahlungen zu vermeiden. Ein solches Verfahren haben wir mit dem Selbst-Audit auf Grundlage des KIDD-Prozesses entwickelt und im Laufe der Projektlaufzeit erfolgreich in der Praxis getestet. Hochkarätige Mitglieder unseres Advisory Boards wie Lothar Schröder, Mitglied des Aufsichtsrats der Deutschen Telekom oder Kenza Ait Si Abbou von IBM, haben in ihren jüngsten Publikationen auf den KIDD Prozess als Lösungsansatz für Unternehmen hingewiesen, die ihrer digitalen Verantwortung gerecht werden wollen. Und auch das DIN Deutsche Institut für Normung e.V. hat den KIDD-Prozess in der aktuellen Ausgabe der Normungsroadmap Künstliche Intelligenz (KI) gleich mehrfach als Best Practise Beispiel erwähnt. Damit sind wir der aktuellen Entwicklung einen großen Schritt voraus.
Wie sehen Sie den Standort Berlin und das Ökosystem KI?
Der Standort Berlin ist für unser Forschungsprojekt ideal. Ohne das lebendige Ökosystem aus Wissenschaft und Forschung, zivilgesellschaftlichen Initiativen und Verbänden und einem breiten Unternehmensnetzwerk hätte sich unser Forschungsprojekt innerhalb der relativ kurzen Planungszeit so kaum umsetzen lassen. Während der gesamten Laufzeit konnten wir immer wieder von wichtigen Impulsen aus der Berliner KI-Landschaft profitieren. Die Ergebnisse unserer Forschungsarbeit konnten wir im Ludwig-Erhard-Haus an einem zentralen Punkt der Berliner Unternehmenslandschaft präsentieren und freuen uns jetzt auf die Wanderausstellung, die u.a. bei der IHK Berlin und der Berliner Digitalagentur Station macht. Da es im nächsten Schritt nun darum geht, die Forschungsergebnisse in die wirtschaftliche Praxis zu übersetzen, denken wir mit einigen unserer Partner:innen bereits über die Gründung einer KIDD-Academy und die Zertifizierung des Verfahrens nach. Dabei bin ich mir sicher, dass wir auch mit einem Start-Up zum Thema in Berlin genau richtig sind!
Herzlichen Dank, Frau Anclam, für die spannenden Einblicke in die Arbeit von KIDD und die Bedeutung einer inklusiven Digitalisierung.
Weitere Informationen zum Projekt unter: www.kidd-prozess.de
