Generative AI ist eines der wegweisenden Trendthemen der Technologiebranche. Sie ermöglicht es Maschinen, eigenständig kreative Inhalte wie Texte, Bilder, Videos oder Musik zu erstellen, und revolutioniert damit Branchen von Kunst über Medizin bis hin zur Industrie.
Dr. Sven Schmeier leitet das Kompetenzzentrum Generative KI am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) und mit einem tiefen Verständnis für maschinelles Lernen, natürliche Sprachverarbeitung und innovative KI-Anwendungen hat er sich auf die Entwicklung und Erforschung generativer Technologien spezialisiert. Unter der Leitung von Dr. Schmeier treibt das Kompetenzzentrum jedoch nicht nur technologische Innovationen voran, sondern setzt sich auch mit den ethischen, rechtlichen und gesellschaftlichen Herausforderungen der generativen KI auseinander.
Wir haben mit ihm über die Arbeit des Kompetenzzentrums, einen sich verändernden Fokus im KI-Bereich und das Potenzial von Generativer KI gesprochen.
Herr Dr. Schmeier, können Sie uns einen Überblick über die Kernaufgaben und Forschungsziele des Kompetenzzentrums Generative KI am DFKI geben? Welche Schwerpunkte setzen Sie in Ihrer Arbeit?
Eine unserer wichtigsten Aufgaben ist die systematische Konsolidierung der Forschung und Forschungsergebnisse an zentraler Stelle. Dies ermöglicht uns nicht nur einen besseren Überblick über die laufenden Entwicklungen, sondern schafft auch eine solide Grundlage für zukünftige Forschungsvorhaben. Ein weiterer essentieller Aspekt unserer Arbeit ist die Förderung des Informationsaustauschs zwischen den verschiedenen Forschungsbereichen, von denen das DFKI mittlerweile 26 hat, verteilt auf 7+ Standorte. Durch die Möglichkeit einer engeren Verzahnung der unterschiedlichen Fachdisziplinen entstehen wertvolle Synergien, die unsere Forschung maßgeblich voranbringen.
Besonders wichtig ist uns/mir dabei die Umsetzung praxisnaher Projekte. Diese realisieren wir sowohl intern für verschiedene DFKI-Bereiche als auch extern mit unseren Partnern aus Wirtschaft und Wissenschaft. Dadurch stellen wir sicher, dass unsere Forschungsergebnisse nicht nur theoretisch fundiert sind, sondern auch praktischen Mehrwert schaffen.
Inwiefern ist die Arbeit des Kompetenzzentrums Generative KI mit den Projekten des DFKI Labs in Berlin verzahnt? Gibt es gemeinsame Forschungsthemen oder Projekte, die besonders hervorzuheben sind?
Das Kompetenzzentrum Generative KI am DFKI arbeitet eng mit dem DFKI-Labor in Berlin zusammen, um interdisziplinäre Ansätze in der Forschung zu generativer KI voranzutreiben. Diese Kooperation ermöglicht es uns, verschiedene Kompetenzen zu bündeln und innovative Anwendungen zu entwickeln, die sowohl wissenschaftlich als auch praktisch von großem Nutzen sind. Ein gemeinsames Projekt, das derzeit besondere Aufmerksamkeit erhält, ist die Evaluation von Systemen mit generativer KI, die in verschiedenen Anwendungen zum Einsatz kommen. Hier arbeiten wir daran, neue Methoden zur Leistungsbewertung und Sicherheit solcher Systeme zu entwickeln, um ihre Anwendbarkeit und Vertrauenswürdigkeit zu verbessern.
Die wesentlichen Projekte des DFKI und des DFKI-Labors in Berlin sind auf der offiziellen DFKI-Webseite detailliert beschrieben. Hier finden sich umfassende Informationen zu unseren aktuellen Forschungsvorhaben, Anwendungsfeldern und Partnern. Kollegen aus dem Kompetenzzentrum Generative KI sind in diesen Projekten aktiv vertreten und tragen maßgeblich zur Entwicklung und Umsetzung bei. Durch diese Zusammenarbeit sichern wir den interdisziplinären Austausch und die gezielte Weiterentwicklung von generativer KI in verschiedenen Anwendungsbereichen.
GenAI erfährt aktuell viel Aufmerksamkeit. Gleichzeitig werden Skeptiker, die den wirtschaftlichen Nutzen generativer KI anzweifeln, gerade wieder etwas lauter. Sie arbeiten eng mit der Wirtschaft zusammen, welche Effekte sehen Sie? Wird GenAI dem Hype gerecht?
Als Wissenschaftler in Deutschland sehe ich Generative KI als eine der zentralen Technologien, die tatsächlich das Potenzial haben, die Art und Weise, wie wir arbeiten und wirtschaften, grundlegend zu verändern. Der Hype um Generative KI ist natürlich groß, und ein gewisser Grad an Skepsis ist nicht unberechtigt. Die Frage ist jedoch nicht, ob die Technologie wirtschaftlich relevant ist, sondern wie wir sie gezielt nutzen können, um nachhaltige Vorteile zu schaffen.
Hier in Deutschland und Europa sind wir gut positioniert, um generative KI effektiv anzuwenden – aber dafür braucht es gezielte Bildung und den Willen zur wirtschaftlichen Transformation. Während die USA die technologische Entwicklung maßgeblich vorantreiben, liegt die Chance für Europa darin, die Technologie strategisch in den Arbeitsalltag zu integrieren und sie damit produktiv zu nutzen. Es geht weniger um die pure Innovationsgeschwindigkeit, sondern vielmehr darum, wie gut wir generative KI in unsere etablierten Systeme und Prozesse einbauen.
Aktuell sehen wir erste wirtschaftliche Effekte in Bereichen wie der Automatisierung und der Verbesserung der Entscheidungsfindung, insbesondere dort, wo große Datenmengen effizient analysiert und interpretiert werden können. Viele Unternehmen, mit denen ich in meiner Forschung und Beratung in Kontakt stehe, erkennen zunehmend, dass sie durch generative KI flexibler und agiler reagieren können. Aber um dem Hype wirklich gerecht zu werden, ist ein massives Umdenken in der Aus- und Weiterbildung nötig. Der Zugang zu diesen Technologien muss sich erweitern, damit nicht nur große Konzerne, sondern auch mittelständische Unternehmen und die öffentliche Verwaltung davon profitieren können.
Aus wissenschaftlicher Sicht sage ich: Ja, Generative KI wird diesem Hype gerecht – vorausgesetzt, wir setzen sie mit klaren Zielen und einem hohen Maß an Verantwortung ein.
Welche Herausforderungen und ethischen Fragestellungen sehen Sie bei der weiteren Entwicklung von Generativer KI, und wie adressiert das Kompetenzzentrum diese Aspekte in seiner Arbeit?
Die Herausforderungen und ethischen Fragestellungen rund um generative KI sind vielfältig und verlangen eine verantwortungsvolle und strategische Herangehensweise. Zunächst steht die Frage der Transparenz und Nachvollziehbarkeit im Raum. Generative KI-Modelle sind oft komplex und arbeiten als „Black Box“, was bedeutet, dass selbst Entwickler manchmal nicht genau wissen, wie ein bestimmtes Ergebnis zustande kommt. Hier ist es entscheidend, Modelle und Algorithmen so zu gestalten, dass ihre Entscheidungen zumindest teilweise nachvollziehbar sind – gerade wenn sie in sicherheitskritischen oder sensiblen Bereichen eingesetzt werden. Unser Kompetenzzentrum arbeitet intensiv an Forschung zu „Explainable AI“, also erklärbarer KI, um diese Transparenz voranzutreiben.
Ein weiteres wichtiges Thema ist die ethische Verantwortung in Bezug auf Inhalte. Generative KI kann leicht genutzt werden, um Falschinformationen, manipulierte Medien oder sogar gezielte Desinformationen zu erstellen. Diese Gefahr muss ernst genommen werden, und deshalb forschen wir auch an Mechanismen zur Erkennung von synthetischen Inhalten. Es geht darum, Technologien zu entwickeln, die nicht nur Inhalte erzeugen, sondern auch Verantwortung mitdenken, etwa durch Methoden zur Quellen- oder Wahrheitsprüfung.
Ein drittes, wesentliches Thema ist die Verantwortung für gesellschaftliche Folgen. Generative KI verändert die Arbeitswelt und kann in vielen Bereichen Aufgaben automatisieren, die bislang von Menschen ausgeführt wurden. Diese Entwicklung führt zu berechtigten Bedenken hinsichtlich Arbeitsplatzverlusten und der Notwendigkeit neuer Qualifikationen. Hier setzen wir im Kompetenzzentrum auf gezielte Schulungsprogramme, um Menschen die Fähigkeiten zu vermitteln, die sie brauchen, um in einer durch KI geprägten Arbeitswelt erfolgreich zu sein. Wir sehen es als unsere Aufgabe an, mit Unternehmen, Bildungsinstitutionen und der Politik zusammenzuarbeiten, um Weiterbildungsangebote zu schaffen und so eine „KI-Resilienz“ in der Gesellschaft aufzubauen.
Dies spiegelt sich auch darin wider, dass wir im Juni 2023 eine Ausgründung aus dem DFKI, das AI Transformation Institute in Berlin, gegründet haben, mit dem wir vertiefte Aus- und Weiterbildung im Bereich der generativen KI anbieten.
Zusammengefasst arbeiten wir daran, dass generative KI verantwortungsvoll, sicher und transparent eingesetzt wird. In der Zusammenarbeit mit Industriepartnern, aber auch durch die Förderung von Startups und Projekten, die auf ethische KI setzen, versucht das Kompetenzzentrum, nicht nur technologische Innovationen, sondern auch gesellschaftliche Akzeptanz und ethische Standards zu fördern.
Was bedeutet dieser Fokus auf Generative KI für den KI-Bereich im Allgemeinen? Sehen Sie darin auch eine Gefahr, dass andere wichtige KI-Technologien in den Hintergrund geraten könnten?
Oder in anderen Worten: GenAI is eating our lunch. Der aktuelle Hype um Generative KI hat zweifellos dazu geführt, dass sie im KI-Bereich stark im Fokus steht – das bringt sowohl Chancen als auch Risiken mit sich. Auf der positiven Seite hat der Hype das öffentliche und wirtschaftliche Interesse an KI insgesamt enorm gesteigert. Generative KI hat KI in einer Weise sichtbar gemacht, wie es vorher kaum eine Technologie geschafft hat. Das hilft uns Forschern und Entwicklern, mehr Ressourcen und Förderungen zu gewinnen, die letztlich dem gesamten KI-Bereich zugutekommen. Es wird mehr investiert, mehr geforscht, und mehr Talente werden auf diesen Sektor aufmerksam.
Gleichzeitig besteht jedoch die Gefahr, dass durch diesen starken Fokus auf generative KI andere wichtige KI-Technologien und Methoden zu wenig Beachtung finden. Klassische KI-Techniken wie regelbasierte Systeme, Entscheidungsbäume oder Optimierungsmethoden sind nach wie vor äußerst relevant und oft die bessere Wahl für spezifische industrielle Anwendungen, bei denen Genauigkeit, Robustheit und Effizienz entscheidend sind. Besonders in sicherheitskritischen Bereichen, etwa in der Industrie oder Medizin, setzen viele Unternehmen auf diese bewährten Methoden.
Insgesamt betrachte ich den Hype als zweischneidiges Schwert: Er beschleunigt die Entwicklung, birgt aber auch das Risiko, dass wir den Blick auf das große Ganze verlieren. Um eine nachhaltige Entwicklung im KI-Bereich zu gewährleisten, müssen wir ein ausgewogenes Verhältnis zwischen neuen und bewährten Technologien schaffen.
Wie sieht es mit Ihrer persönlichen Nutzung von GenAI aus? Für welche Use Cases hätten Sie sich die Quantensprünge in der Technologieentwicklung schon deutlich früher gewünscht?
Als jemand, der sich intensiv mit generativer KI beschäftigt, nutze ich diese Technologie natürlich regelmäßig – sowohl in meiner Forschung als auch im Alltag. Generative KI ist für mich ein wertvolles Werkzeug, um komplexe Texte zu analysieren, Inhalte zu erstellen und neue Ideen zu explorieren. Besonders im wissenschaftlichen Bereich sind Tools zur Textgenerierung und -analyse sehr hilfreich, da sie uns unterstützen, große Datenmengen effizient zu verarbeiten und neue Perspektiven auf unsere Forschungsfragen zu gewinnen. Außerdem macht es mir Spaß neue Anwendungsbereiche zu erkennen und Fortschritte zu verfolgen, die in Bereichen entstehen, die früher überwiegend ohne KI ausgekommen sind.
Es gibt einige Anwendungsbereiche, in denen ich mir die heutigen Fortschritte tatsächlich schon deutlich früher gewünscht hätte. Ein gutes Beispiel ist die Erstellung und Anpassung von Lernmaterialien. In der Wissenschaft, insbesondere im Lehrbereich, wäre es von großem Vorteil gewesen, schon vor Jahren auf flexible und automatisierte Tools zurückgreifen zu können, die Lehrinhalte für unterschiedliche Zielgruppen maßschneidern können. Diese Technologie ermöglicht es jetzt, auf einfache Weise Inhalte in verschiedenen Schwierigkeitsstufen oder mit unterschiedlichen Schwerpunkten zu gestalten, was für die Lehre und Weiterbildung enorm wertvoll ist. Ein weiterer Bereich ist die Unterstützung im kreativen Prozess. Früher hätte ich mir für wissenschaftliche Publikationen oft ein Tool gewünscht, das bei der Visualisierung von Daten und der Generierung kreativer, wissenschaftlicher Darstellungen hilft. Die heutigen Bildgenerierungs-Tools bieten genau das und ermöglichen es Forschern, schnell visuelle Inhalte zu erstellen, die auch Laien komplexe Konzepte verständlicher machen können. Das spart nicht nur Zeit, sondern verbessert auch die Kommunikation wissenschaftlicher Erkenntnisse.
Und es gibt noch viele weitere Bereiche, die mir jetzt gerade durch den Kopf gehen, die allerdings den Rahmen für dieses Interview sprengen würden.
In welchen Bereichen sehen Sie in Zukunft das größte Potenzial für Generative KI? Gibt es Branchen oder Anwendungsfelder, die Ihrer Meinung nach in den kommenden Jahren besonders von dieser Technologie profitieren werden?
Generative KI hat das Potenzial, nahezu jede Branche zu verändern, aber in einigen Bereichen sehe ich besonders großes Wachstumspotenzial. Ein offensichtliches Feld ist der Kreativsektor, also Bereiche wie Medien, Design und Unterhaltung. Generative KI kann hier nicht nur helfen, Inhalte wie Texte, Bilder und Videos effizient zu erstellen, sondern auch neue kreative Konzepte und Formate ermöglichen. Kreativagenturen, Verlage und Filmstudios experimentieren bereits mit generativer KI, und dieser Trend wird sich in den kommenden Jahren noch verstärken.
Ein weiterer Bereich ist das Gesundheitswesen. Hier kann Generative KI genutzt werden, um medizinische Bilder zu analysieren, personalisierte Behandlungspläne zu erstellen und sogar neue Medikamente zu entwickeln. Durch die Kombination mit bestehenden Diagnose- und Therapiesystemen könnte die Technologie dazu beitragen, präzisere und individuellere Gesundheitsdienstleistungen anzubieten, was die Patientenversorgung erheblich verbessern könnte. Die Forschung zu KI-generierten Medikamenten oder Therapieansätzen steht zwar noch am Anfang, zeigt aber bereits vielversprechende Ansätze.
Fertigung und Logistik sind ebenfalls Bereiche mit hohem Potenzial. Durch generative Modelle können Produktionsprozesse simuliert und optimiert werden. Zum Beispiel lassen sich mit KI ganze Produktionslinien und Lieferketten modellieren, um Engpässe vorherzusagen und Ressourcen effizienter zu verteilen. Diese Fähigkeiten werden insbesondere für Unternehmen von Vorteil sein, die auf komplexe, global verzweigte Lieferketten angewiesen sind. Auch im Bereich Bildung wird Generative KI eine wichtige Rolle spielen. Die Technologie ermöglicht es, personalisierte Lerninhalte zu erstellen, die sich an das individuelle Lernniveau und die Vorlieben der Nutzer anpassen. In einer globalisierten und digitalisierten Welt wird es entscheidend sein, Wissen gezielt und effizient zu vermitteln. Hier bietet generative KI die Chance, Bildungsressourcen zugänglicher und motivierender zu gestalten.
Ein weiteres zukunftsträchtiges Feld ist das Finanzwesen. Banken und Versicherungen nutzen KI bereits zur Betrugserkennung und Risikobewertung. Mit generativer KI könnten zudem präzisere Vorhersagemodelle entwickelt werden, um komplexe Marktentwicklungen vorherzusagen oder maßgeschneiderte Finanzprodukte zu erstellen. Diese Technologie bietet großes Potenzial, den Finanzsektor in puncto Automatisierung und Kundenzentrierung erheblich zu transformieren.
Zusammengefasst wird generative KI in den kommenden Jahren in verschiedenen Branchen Einzug halten, wobei die Gesundheitsbranche, das Kreativwesen, die Fertigungsindustrie, der Bildungssektor und das Finanzwesen voraussichtlich am stärksten profitieren werden. Die Herausforderung und Chance wird sein, die Technologie so einzusetzen, dass sie nicht nur wirtschaftlichen, sondern auch gesellschaftlichen Nutzen bringt.
Vielen Dank für das Gespräch.
