Desinformation und Deepfakes sind eine der größten Herausforderungen unseres gesellschaftlichen Zusammenlebens. Das junge Start-up Gretchen AI und sein Gründerteam, bestehend aus CEO und Senior AI-Experte Dr.-Ing. Tim Polzehl, Deepfake and DevOps-Experte Arnab Das sowie AI Agent / RAG-Experte Daniel Röder stellen sich dieser Aufgabe mit modernster KI-Technologie. Das Berliner Unternehmen wurde kürzlich mit dem Deepfake Detection Challenge Award von SPRIND ausgezeichnet und entwickelt intelligente Lösungen zur Verifizierung von Medieninhalten.
Im Interview mit CEO Tim Polzehl sprechen wir über die Bedeutung dieser Auszeichnung, die einzigartigen Technologien von Gretchen AI und wie ihre KI-Agenten helfen, Manipulationen in Sprache, Bildern und Videos zu erkennen. Zudem gibt er spannende Einblicke in die „Gretchen-Frage“, die Medienhäusern und Unternehmen dabei hilft, Faktenchecks effizienter und zugänglicher zu gestalten.
Wie unterscheidet sich Gretchen AI von anderen Lösungen? Wie wird sichergestellt, dass Ihre KI keine Fehlinformationen produziert? Und warum ist Berlin der ideale Standort für ein Unternehmen, das sich der Bekämpfung von Desinformation verschrieben hat? Diese und viele weitere Fragen beantwortet er im Gespräch mit #ai_berlin.
Gretchen AI wurde vor kurzem mit dem Deepfake Detection Challenge Award von SPRIND ausgezeichnet. Herzlichen Glückwunsch! Was bedeutet diese Anerkennung für Sie? Wie könnte sie Ihnen in der Zukunft helfen, Desinformation noch effektiver zu bekämpfen?
Die SPRIND-Auszeichnung ist für uns ein echter Meilenstein! Deepfakes und Desinformation sind aktuell ein riesiges Thema – gerade nach den letzten Wahlen. KI-gestützte Lösungen zur Erkennung und Bekämpfung dieser Manipulationen sind wichtiger denn je, und genau daran arbeiten wir mit voller Leidenschaft.
Dank SPRIND können wir unsere Technologie nicht nur weiterentwickeln und in ein echtes Produkt überführen, sondern profitieren auch vom starken Netzwerk. Der Austausch mit anderen Top-Innovator:innen gibt uns wertvolle Impulse und hilft uns, unsere Lösung noch schneller in die Praxis zu bringen. Unser Ziel: Mit unseren Gretchen AI-Agenten wollen wir nicht nur den journalistischen Bereich stärken, sondern auch Unternehmen darüber hinaus unterstützen. Ob Faktencheck, Verifizierung oder internes Wissensmanagement, unsere KI-gestützten Lösungen helfen dabei, verlässliche Informationen zu sichern und Desinformation effektiv entgegenzuwirken.
Können Sie uns erklären, wie Ihre KI dabei hilft, Manipulationen in Sprache, Bildern und Videos zu erkennen? Was können wir uns unter dieser Technologie konkret vorstellen?
Gretchen AI bringt den Kampf gegen Desinformation ins Zeitalter der KI-Agenten! Statt nur klassische Erkennungsmodelle einzusetzen, die oft einen Schritt hinter den neuesten Deepfake-Techniken her hinken, setzen wir zusätzlich auf Kontext. Denn nur wenn wir verstehen, woher ein Bild oder Video stammt und in welchem Zusammenhang es veröffentlicht wurde, können wir verlässliche Aussagen über seine Authentizität treffen.
Wie funktioniert das? Unsere KI-Agenten sind mit vertrauenswürdigen Datenquellen verknüpft und durchsuchen parallel das Web nach zusätzlichen Informationen zu einem Medium – darunter Herkunft, beteiligte Personen, Veröffentlichungsdatum und mehr. Gleichzeitig kommt unsere Digital Alteration Engine ins Spiel, die digitale Manipulationen und Deepfakes erkennt. So geben wir Nutzer:innen nicht nur ein Tool an die Hand, um Deepfakes zu entlarven, sondern auch, um Medieninhalte in ihrem vollständigen Kontext zu verstehen
Das Gründerteam von GretchenAI Dr.-Ing. Tim Polzehl (Senior AI Expert), Arnab Das (Deepfake and DevOps Exper) und Daniel Röder (AI Agent / RAG Expert) © Gretchen.AI
Wie hilft Ihre ‚Gretchen-Frage‘ den Nutzern, Informationsverifikation zu meistern? Könnten Sie ein konkretes Beispiel nennen, bei dem Unternehmen diese Technologie bereits erfolgreich eingesetzt haben?
Mit der Gretchen-Frage gehen wir direkt an den Kern des Problems! Statt nur eine einfache Klassifikation wie „wahr“ oder „falsch“ auszugeben, liefern wir den entscheidenden Kontext. Unser Desinformation Dashboard bereitet Inhalte visuell auf, sodass Nutzer:innen die volle Kontrolle behalten, während unsere Gretchen AI Agents eine interaktive Analyse der Daten ermöglichen.
Im Rahmen der SPRIND-Challenge arbeiten wir mit unserem Faktencheck, Vorbild und Referenzpartner dpa zusammen. Unser Dashboard erlaubt es den Faktencheckern, alle relevanten Informationen zu Bildern zu verifizieren – und mit nur einem Klick einen ready-to-publish Fact-Checking-Artikel vorzubereiten.
Warum das Ganze? Fact Checking sollte viel präsenter in unserem Alltag sein, doch der hohe manuelle Aufwand macht es oft schwierig. Unsere Lösung automatisiert aufwändige Such- und Vergleichsprozesse, spart Zeit, und bringt Faktenchecks dorthin, wo sie gebraucht werden.
Was unterscheidet Ihre Technologie von anderen Lösungen auf dem Markt, und wie sorgt Gretchen AI dafür, dass die Antworten wirklich relevant und vertrauenswürdig bleiben?
Unsere Technologie hebt sich durch die Kombination aus Deepfake-Analyse und KI-Agenten ab, die nicht nur Manipulationen erkennen, sondern auch den Kontext verifizieren. Anstatt nur auf klassische Erkennungsmethoden zu setzen, bieten wir ein ganzheitliches Framework, das Nutzer:innen interaktive und nachvollziehbare Faktenchecks ermöglicht.
Wie stellen wir sicher, dass die Informationen korrekt und vertrauenswürdig sind? Zum einen arbeiten wir mit unserem Referenzpartner dpa an einer Referenzdatenbank mit verifizierten Fakten. Zum anderen greifen unsere KI-Agenten auf bestehende Faktenchecks sowie zusätzliche Web-Ressourcen zu. Dabei behalten Nutzer:innen die Kontrolle: Sie können Quellen selbst überprüfen oder nur ausgewählte zulassen, um die Qualität der Daten weiter zu optimieren
Wie profitieren Medienhäuser und Journalisten konkret von der Nutzung Ihrer Plattform? Gibt es bestimmte Arbeitsabläufe, die durch Ihre Technologie deutlich vereinfacht werden?
Unser Desinformation Dashboard wurde speziell entwickelt, um Faktenchecks schneller und effizienter zu machen – sowohl für Journalist:innen als auch für Redaktionen. Während herkömmliche Verifikationsprozesse oft zeitaufwendig sind, automatisiert unsere Plattform viele dieser Schritte und liefert kontextbasierte Analysen in Echtzeit, die Journalisten leicht erfassen und bewerten können.
Doch unsere Technologie kann mehr: Gretchen AI Agents lassen sich flexibel in verschiedene redaktionelle Abläufe integrieren – von der Faktenverifizierung und Dekontextualisierung bis hin zur Content-Analyse und Content-Erstellung. Medienhäuser profitieren so von einem smarten Assistenten, der nicht nur bei der Aufdeckung von Desinformation hilft, sondern auch bei der schnellen und fundierten Erstellung hochwertiger Inhalte und Gegendarstellungen.
Wie gehen Sie mit der Herausforderung um, dass KI-Modelle manchmal falsche oder unzuverlässige Informationen liefern? Welche Maßnahmen treffen Sie, um sicherzustellen, dass Gretchen AI keine "Halluzinationen" produziert?
Unsere Lösung für das Problem der KI-„Halluzinationen“ ist ein smarter KI-Agent kombiniert mit transparenter Quellenangabe. Jedes Sprachmodell ist probabilistisch, und gerade im Journalismus reicht eine 98%ige Sicherheit nicht aus – es braucht nachvollziehbare Fakten.
Deshalb präsentiert Gretchen AI alle Informationen auf eine verständliche, überprüfbare Weise, immer mit direkten Quellenangaben. Unsere KI-Agents durchlaufen mehrere Validierungszyklen, um sicherzustellen, dass die gelieferten Daten intern verifiziert sind. So behalten Nutzer:innen die volle Kontrolle und können sich schnell selbst ein Bild von der Verlässlichkeit der Informationen machen.
Welche Vorteile sehen Sie am Standort Berlin für ein Unternehmen wie Gretchen AI? Und wie trägt die hiesige Forschungslandschaft zu Ihrer Arbeit bei?
Berlin ist der ideale Standort für Gretchen AI, denn hier treffen Spitzenforschung, Innovation und die Medienbranche aufeinander. Durch die enge Zusammenarbeit mit Forschungseinrichtungen wie dem DFKI und die starke KI-Startup-Szene haben wir direkten Zugang zu neuester Technologie und Expertenwissen. Gleichzeitig erleichtert die Nähe zu großen Medienhäusern die Entwicklung und Integration unserer Lösungen. Dieses dynamische Umfeld macht Berlin zum perfekten Hub für unsere Mission, Desinformation mit KI zu bekämpfen.
Danke für das Gespräch!
