Berlin hat sich zu einem wichtigen Hub für Innovationen im Bereich der Künstlichen Intelligenz (KI) entwickelt. Angesichts des schnellen Fortschritts in der KI-Technologie und der damit verbundenen ethischen Herausforderungen ist ein verantwortungsbewusster Ansatz von entscheidender Bedeutung. In diesem Zusammenhang spielt das BERLIN ETHICS LAB an der Technischen Universität Berlin eine zentrale Rolle. Das Berliner Ethik-Zer1fikat ist ein inter- und transdisziplinäres Zertifizierungsprogramm, das Studierenden die Möglichkeit bietet, während ihres Fachstudiums einen individuellen Schwerpunkt in den Bereichen Ethik und Reflexion von Technik und Wissenschaft zu setzen. Das Ziel des Labs ist es, gemeinsame Werte und Normen zu analysieren und zu verhandeln, um den Umgang mit neuen Technologien in der digitalen Gesellschafft zu bestimmen. Im Gespräch mit Prof. Dr. Sabine Ammon erfahren wir, wie KI und Ethik Hand in Hand gehen können.
Als Leiterin des Fachgebiets Wissensdynamik und Nachhaltigkeit in den Technikwissenschaften an der TU Berlin arbeiten Sie an der Schnittstelle von philosophischer Reflexion und technikwissenschaftlicher Praxis. Könnten Sie uns mehr über die Schwerpunkte Ihrer Forschung und Lehre in diesem Bereich berichten?
Unsere Arbeitsgruppe hat einen doppelten Auftrag. Einerseits bringen wir ethische Fragestellungen und wissenschaftsphilosophische Reflexion in die technischen Disziplinen ein und öffnen andererseits die technikwissenschaftliche Perspektive für die Geistes- und Sozialwissenschaften. Genau diesen integrierten Zugang braucht es, um gute Ansätze für den Umgang mit KI-Technologien zu entwickeln. Denn KI-Technologien stehen nicht nur für vielversprechende Neuerungen, sondern haben auch das Potenzial unsere Gesellschaft zu zersetzen. In unserer Forschung in den Bereichen der Robotik, KI und Medizintechnik sind wir direkt in das Entwicklungsteam eingebettet, um so von Anfang an die breitere gesellschaftliche Perspektive mitzudenken und gemeinsam eine Forschungsvision zu entwickeln, die ethische Werte einschließt. Dieses Prinzip tragen wir auch in unsere Lehrveranstaltungen an der TU Berlin. Wir sind überzeugt davon, dass wir für die Herausforderungen im Bereich neuer Technologien den Schulterschluss zwischen Technik-, Geistes- und Sozialwissenschaften sowie gesellschaftlichen Akteuren brauchen. Daher vermitteln wir in interdisziplinärer Projektarbeit, wie sich ethische Problemstellungen in Technologien aufdecken und ungewollte Folgen erkennen lassen, um frühzeitig Entwicklungsalternativen initiieren zu können.
Welche Rolle spielen Ihrer Meinung nach ethische Standards und Richtlinien bei der Regulierung des Einsatzes von KI-Technologien? Gibt es Bereiche, in denen eine stärkere Regulierung notwendig ist?
Ethische Standards und Richtlinien halte ich für zentral, um verantwortliche KI-Technologien zu entwickeln. Richtig eingesetzt, können sie zu Co-Designern der neuen Technologien werden, die sich am Wohl unserer Gesellschaft ausrichten. Allerdings sind KI-Technologien und Anwendungsfelder so unterschiedlich, dass es eine differenzierte Herangehensweise braucht. Der risikobasierte Ansatz der geplanten KI-Verordnung der Europäischen Union ist sicherlich ein sinnvoller Startpunkt. Wenn der Anwendungszweck inakzeptable Risiken mit sich bringt, sollen Verbote ausgesprochen werden, wie etwa bei Social-Scoring-Systemen oder der Verarbeitung biometrischer Daten in Echtzeit. Bei hohem oder begrenztem Risiko gilt eine Reihe von Auflagen. Das reicht aber nicht. In der Geschichte der Technikentwicklung gibt es viele Beispiele, bei denen Technologien anders, als ursprünglich beabsichtigt, eingesetzt wurden. Das zeigt auch die Debatte um Chat-GPT als sogenannte General Purpose AI, deren Zwecke im Entwicklungsprozess noch gar nicht bekannt sind. Neben der Nutzung können auch in der Herstellung ethische Probleme auftreten, wenn wir beispielsweise an die Herkunft und Aufbereitung der Daten denken. Ein größeres Problem stellen zudem die langen Zeiträume dar, bis gesetzliche Regelungen in Kraft treten und einer rasanten Technikentwicklung zwangsläufig hinterherhinken. Anstatt auf die Gesetzgebung zu warten, ist es entscheidend, ethische Überlegungen schon in der Frühphase von Forschung und Entwicklung zu integrieren, was unter anderem veränderte Ausbildungsstrukturen in den Computer- und Ingenieurwissenschaften verlangt. Dazu haben wir als Team vom BERLIN ETHICS LAB vor zwei Jahren das Berliner Ethik-Zer1fikat ins Leben gerufen.
Könnten Sie uns mehr über Ihr Ethik-Zertifikat erzählen?
Das Berliner Ethik-Zertifikat ist ein Vertiefungsangebot für alle Studierenden der Berlin University Alliance, das sie neben ihrem regulären Studium wahrnehmen können. Wir bieten ein Basis- und ein Ver1efungsprogramm mit unterschiedlichen Profilbereichen, wie Ethik der KI oder Technikethik und Technikfolgenabschätzung an. In den Veranstaltungen bereiten wir die Studierenden auf die interdisziplinäre Projektarbeit vor und vermitteln Grundlagen der angewandten Ethik. Wir sensibilisieren sie für den wechselseitigen Einfluss von Technik und Gesellschaft, die Wirkungsmächtigkeit von Visionen und Werten in der Technikentwicklung und zeigen ihnen, wie sie gemeinsam mit zivilgesellschaftlichen Akteuren frühzeitig ungewollte Technikfolgen erkennen können. Auf diese Weise erhalten die Studierenden einen Werkzeugkasten an Methoden, um ethische Fragestellungen und Reflexionsansätze in ihre spätere Berufspraxis mitnehmen zu können.
Kürzlich haben die ersten Absolvent*innen das Berliner Ethik-Zertifikat abgeschlossen. Welchen Nutzen wird das für sie haben und wohin könnte sich das noch entwickeln?
In diesem Sommersemester haben die ersten Studierenden das Ethik-Zertifikat erhalten. Darunter war beispielsweise ein Student aus dem Wirtschaftsingenieurwesen, der damit nicht nur seinen persönlichen Interessen gefolgt ist, sondern auch klar eine Zusatzqualifikaton vorweisen kann. Der Absolvent aus der Technikgeschichte kann wiederum damit punkten, sich mit historischen Bezügen von Gegenwartsfragen sehr praxisnah auseinandergesetzt zu haben. Beide gemeinsam konnten viel voneinander lernen und wissen, wie sie die unterschiedlichen Perspektiven in die Technikfolgenabschätzung einbringen können. Mit diesen Lernerfahrungen stechen die Absolventinnen und Absolventen des Ethik-Zertfikats nicht nur aus dem üblichen Bewerberfeld heraus. Als ein Netzwerk Gleichgesinnter können sie auch einen wichtige Beitrag dazu leisten, die Entwicklung neuer Technologien stärker an ethischen Gestaltungsprinzipien auszurichten.
Welche Chancen und Risiken ergeben sich aus der Nutzung von KI und wie kann ein angemessenes Gleichgewicht gefunden werden?
Um Chancen und Risiken von KI zu beurteilen, müssen wir aufhören, von „der“ KI zu sprechen, sondern sehr viel genauer ansehen, um welche KI-Technologie und welche Anwendung es sich handelt. Gerade in vielversprechenden Bereichen, wie beispielsweise bei Medizin- und Gesundheitsanwendungen, bei denen wir aufgrund der sensiblen Daten von einem erheblichen Risiko ausgehen, müssen von Anfang an ungewollte Folgen und ihre Vermeidung mitgedacht werden. Ich halte es für zentral, KI-Technologien und Ethik nicht als Gegensatz zu begreifen. Sobald ethische Standards integraler Bestandteil von Technikforschung und Entwicklung werden, können wir bereits innerhalb des Prozesses nachsteuern und ein angemessenes Gleichgewicht suchen. Dafür haben wir im BERLIN ETHICS LAB den Ansatz der integrierten Ethik entwickelt, der Entwicklerinnen und Entwickler in die Lage versetzt, ethische Aspekte mitzudenken. Die Integration muss iterativ geschehen: Ein technischer Entwicklungsprozess arbeitet zwangsläufig mit vielen Unbekannten; je weiter er fortgeschritten ist, desto besser lassen sich auch ungewollte Folgen erkennen. Wenn ethische Werte Bestandteil des Entwicklungsrahmens sind, kann das Produkt daran orientiert werden. Das setzt eine Selbstverpflichtung der Firmen voraus – und die Bereitschaft, im schlimmsten Fall die Reißleine zu ziehen.
Welche konkreten Schritte empfehlen Sie, um potenzielle Risiken und negative Auswirkungen von KI-Systemen auf Menschen und Gesellschaft zu minimieren?
Die überkommene Arbeitsteilung zwischen Entwicklern, die am technischen Produkt feilen und der Gesellschaft, die im Anschluss über Akzeptanz und ethische Verträglichkeit befindet, müssen wir schnellstmöglich hinter uns lassen. Ethische Werte und die Prüfung möglicher gesellschaftlicher Auswirkungen müssen von an Anfang an in die Entwicklungs- und Innovationsprozesse integriert werden und zu einem selbstverständlichen Bestandteil werden. Da sehe ich auch die Forschungs- und Innovationsforderung in der Pflicht, in ihren Maßnahmen deutlich stärker darauf zu achten. Zugleich müssen dringend die Ausbildungsstrukturen in den Computer- und Ingenieurwissenschaften geändert werden, damit alle Absolven1nnen und Absolventen die Hochschulen mit einem Basiswissen im Bereich der Technikethik und Technikfolgenabschätzung verlassen.
Wie entscheidend sind Transparenz und Erklärbarkeit? Zum Beispiel, bei unklarer Datengrundlage oder wenn fehlerhafte oder veraltete Daten zur Basis von Entscheidungen durch KI-Systeme werden?
Transparenz und Erklärbarkeit halte ich für einen entscheidenden Faktor, um einen souveränen Umgang der Nutzerinnen und Nutzer in vielen Bereichen von KI-Anwendungen zu ermöglichen. Um Manipulation zu vermeiden, bedarf es des transparenten Hinweises, dass hier ein KI-System am Werk ist, zusammen mit einem Verweis auf die Grenzen des Systems. Damit es nicht zu folgenschweren Entscheidungen in sensiblen Bereichen aufgrund unklarer Datengrundlage, fehlerhafter oder veralteter Daten kommt, sind klare Qualitätsstandards notwendig, um die algorithmische Wissensproduktion abzusichern. Ähnliches gilt für die Erklärbarkeit. Wichtig ist hier zu erkennen, dass sich eine Erklärung nicht allein aus der Antwort des technischen Systems speist. Sie entsteht immer im Wechselspiel zwischen System und Benutzer. Wenn das KI-System von der Ärztn im Diagnostikprozess eingesetzt wird und sie um die Stärken und Schwächen des KI-Systems weiß, kann sie das Ergebnis abwägen und als weiteren Puzzlestein in der Suche nach Ursachen einsetzen.
Wer ist in der Hauptverantwortung ethische Fragen im Zusammenhang mit KI-Technologien zu bearbeiten? Die öffentliche Forschung, der Privatsektor, die Zivilgesellschaft, Regulatoren?
Hier müssen wir die ethische Fachexpertise vom breiter angelegten ethischen Reflexionsprozess unterscheiden. Die Einbettung ethischer Fragen in die KI-Technologien lässt sich nur gemeinsam erreichen: die öffentliche Forschung, die durch Förderauflagen ethische Aspekte in die Anfänge der Technologieentwicklung einbettet, die Regulatoren, die die gesetzlichen Rahmenbedingungen schaffen, der Privatsektor, der Innovation an ethischen Werten ausrichtet und die Zivilgesellschaft, die ihre Wertebasis in die Technologieentwicklung einbringt. All diese Akteure an einen Tisch zu bringen und in einen gemeinsamen Diskursprozess, ist schon ein wesentlicher Baustein in der Bearbeitung ethischer Fragestellungen. Dass so etwas erfolgreich praktiziert werden kann, haben Ansätze wie Responsible Research and Innovation gezeigt. Hinzukommen muss aber die ethische Fachexpertise, die sich sinnvoll nur in enger Kopplung mit der technischen Fachexpertise entfalten kann. Hierzu ist wiederum der interdisziplinäre Schulterschluss entscheidend, der sowohl in der öffentlichen Forschung als auch im Privatsektor vollzogen werden muss, wenn wir KI-Technologien ernsthaft an ethischen Werten ausrichten wollen.
Mit Blick auf die dynamische Entwicklung des KI-Ökosystems in Berlin: Welche konkreten Veränderungen konnten Sie beobachten und welche Strategien verfolgt das BERLIN ETHICS LAB, um sich diesen Herausforderungen zu stellen?
Wir sehen in Berlin, wie wichtig es vielen Akteuren ist, neue KI-Technologien an ethischen Werten auszurichten – ohne allerdings zu wissen, wie das konkret gelingen könnte. Zentral ist hierfür die Einsicht, dass Ethik kein Innovationsbremser sein muss. Im BERLIN ETHICS LAB entwickeln wir derzeit einen Methodenkoffer, um Entwicklungsteams und Startups bei der Integration ethischer Fragestellungen in ihre Produkte zu unterstützen und zu beraten. Als BERLIN ETHICS LAB sehen wir die Gestaltung verantwortlicher KI-Zukünfte als Gemeinschaftsaufgabe mit zivilgesellschaftlichen Akteuren. Das KI-Ökosystem in Berlin bietet den Nährboden, um hier eine Vorreiterrolle zu übernehmen. Richtig eingesetzt, kann Ethik zum entscheidenden Innovator und Standortvorteil in der KI-Entwicklung werden – eine Aufgabe, der wir uns mit großem Nachdruck stellen!
Vielen Dank für Ihre Zeit, Frau Prof. Dr. Ammon!
