Standard-KI-Tools eignen sich gut für die individuelle Produktivität – aber sie sind selten für die komplexen Arbeitsabläufe geeignet, auf die Unternehmen in regulierten Branchen angewiesen sind. Finanzinstitute, Behörden sowie Luft- und Raumfahrtunternehmen benötigen KI, die genau auf ihren Bereich abgestimmt, in ihre Daten integriert und unter ihrer vollständigen Kontrolle eingesetzt werden kann. Hier kommt deepset ins Spiel – mit einem Open-Source-Framework und einer Unternehmensplattform, die es Organisationen ermöglichen, maßgeschneiderte KI-Lösungen für geschäftskritische Prozesse zu orchestrieren.
Milos Rusic ist CEO und Mitgründer von deepset. Das 2018 in Berlin gegründete Unternehmen hat sich zu einer Plattform entwickelt, die von Tausenden von Organisationen weltweit genutzt wird. Das Herzstück bildet Haystack, ein Open-Source-Framework für die Entwicklung von agentenbasierten und RAG-Anwendungen, ergänzt durch eine Unternehmensinfrastruktur für Governance und Skalierung. Im Jahr 2025 wurde deepset zu einem der vielversprechendsten KI-Startups Deutschlands gekürt und als KI-Orchestrierungsschicht für die Deutschland-Stack-Initiative ausgewählt. Darüber hinaus war deepset einer der ersten Teilnehmer des KI-Showrooms im kürzlich gestarteten #ai_berlin hub.
In diesem Interview spricht Milos darüber, wie deepset „KI mit Zweck” für geschäftskritische Workflows ermöglicht, über den Zusammenhang zwischen Open Source und der Einführung in Unternehmen und über die Entwicklung Berlins zu einem KI-Hub. Er erklärt, warum Vertrauen und Kontrolle in sensiblen Bereichen unverzichtbar sind und wo er das größte Potenzial sieht, wenn Unternehmen von der Nutzung generischer KI zur Orchestrierung innerhalb ihrer eigenen Systeme übergehen.
Hallo Milos, deepset unterstützt Unternehmen dabei, maßgeschneiderte KI-Anwendungen für geschäftskritische Prozesse zu entwickeln. Wie sieht das in der Praxis aus? Kannst Du uns ein Beispiel dafür geben, wie ein Unternehmen eure Plattform nutzt und welchen konkreten Mehrwert sie im Vergleich zu handelsüblichen KI-Tools bietet?
Standard-KI-Tools eignen sich gut für die individuelle Produktivität, aber sie sind selten für die komplexen, funktionsübergreifenden Arbeitsabläufe und Entscheidungsprozesse geeignet, auf die Unternehmen angewiesen sind. Mit unserem Haystack-Framework und der deepset-Plattform können Unternehmen LLM-Lösungen orchestrieren, die genau auf ihre Branche, ihre Daten und ihre Compliance-Anforderungen abgestimmt sind. Beispielsweise nutzen Finanzinstitute wie die OakNorth Bank und credX deepset, um die Geschwindigkeit ihrer Kreditprüfungen zu verdoppeln; Luft- und Raumfahrtunternehmen wie Airbus bauen Entscheidungsintelligenzsysteme für die Bundeswehr, die die Sicherheit bei Verteidigungseinsätzen erhöhen; und Regierungsbehörden wie das BMFTR setzen unsere Technologie ein, um Informationen für Sachbearbeiter zugänglich zu machen, damit diese Förderanträge bewerten können. Lösungen wie diese erfordern Transparenz, Vertrauen und Souveränität, um die beabsichtigte Reichweite und Wirkung zu erzielen.
Euer Open-Source-Framework Haystack hat sich zu einem weit verbreiteten Standard für die Entwicklung von KI-Anwendungen entwickelt. Wie ist diese Open-Source-Grundlage mit eurer Unternehmensplattform verbunden – und was bedeutet diese Kombination für die Nutzer in der Praxis?
Haystack ist die Grundlage für die Entwicklung mit KI. Es ist modular und flexibel für Innovationen, aber dennoch stabil und zuverlässig für die Produktion. Entwickler in vielen tausend Organisationen weltweit nutzen es, um agentenbasierte, RAG- (Retrieval-Augmented Generation) und multimodale Anwendungen zu erstellen, die Text, Sprache, Audio und Bilder kombinieren. Nehmen wir zum Beispiel Telus, das gerade seinen Erfolg bei der Entwicklung branchenspezifischer Agenten in den Bereichen Landwirtschaft und Konsumgüter vorgestellt hat. Damit können sie schnell Prototypen erstellen, schnell iterieren und Lösungen für den Einsatz in der Praxis skalieren. Sie sind eine von Tausenden von Organisationen, zu denen die größten Namen aus den Bereichen Finanzen, Technologie, Gesundheitswesen, Regierung sowie kleine und mittlere Unternehmen gehören. Zusätzlich zum Open-Source-Framework nutzen diese Kunden unseren Support auf Unternehmensniveau über Haystack Enterprise und die Plattform von deepset, die es ihnen erleichtern, diese Lösungen in der Cloud oder vor Ort auszuführen, zu skalieren und zu sichern. Für die Nutzer bedeutet dies, dass sie sofort mit Open Source beginnen, bei ihrem Wachstum fachkundige Hilfe erhalten und von der Infrastruktur, Governance und den Tools profitieren können, die für die Verwaltung und kontinuierliche Verbesserung vieler Anwendungsfälle in großem Maßstab erforderlich sind.
In diesem Jahr wurde deepset als eines der „vielversprechendsten KI-Startups in Deutschland“ in der German AI Startup Landscape 2025 gelistet. Was sagt diese Auszeichnung über euren Werdegang als in Berlin gegründetes Unternehmen (2018 eingetragen) aus – und über die Fähigkeit Berlins, international relevante KI-Unternehmen zu fördern?
Die Auszeichnung als eines der vielversprechendsten KI-Startups Deutschlands ist eine große Anerkennung für den Fokus und das Talent unseres Teams sowie für unsere Mission, Kunden beim Aufbau einer „zweckorientierten KI” zu unterstützen, die komplexe Probleme löst und einen echten, transformativen Mehrwert schafft. Das zeigt mir, dass wir auf dem richtigen Weg sind, aber noch wichtiger ist: Der Aufbau einer echten Substanz in der KI und in jedem anderen Technologiebereich beginnt in der Regel, bevor der Mainstream davon begeistert ist. Berlin hat auf diesem Weg eine entscheidende Rolle gespielt. Im Jahr 2018 waren wir eines der wenigen Unternehmen in Berlin, das sich auf KI konzentrierte – aber in einer Stadt wie Berlin sind die Menschen immer neugierig, wollen lernen und beginnen, Perspektiven und Input zu liefern. In den ersten Jahren war dieser Zugang zu aufgeschlossenen „Early Adopters“ und einer lebendigen Tech-Community, in der sich Ideen schnell verbreiteten, entscheidend – auch weil wir hier unsere ersten Kunden gewonnen haben. Die nächste Chance für Berlin ist die Skalierung: Start-ups dabei zu helfen, sich zu global einflussreichen Unternehmen zu entwickeln. Ich glaube, dass wir dies nicht nur bei deepset beobachten können, sondern auch bei einer Welle von in Berlin ansässigen KI-Unternehmen, die internationale Bedeutung erlangen. Die Initiative #ai_berlin hub ist ein großartiger Schritt, um den Austausch zu fördern und ein Netzwerk aufzubauen, das das Wachstum beschleunigt.
deepset wurde 2018 in Berlin gegründet und ist mittlerweile auch in New York tätig. Welche Rolle spielte Berlin in den Anfangsjahren des Unternehmens, und wie siehst Du das Ökosystem der Stadt heute in Bezug auf die Unterstützung von KI-Scale-ups?
Die Expansion nach New York war ein logischer Schritt, als wir sahen, dass Haystack weltweit Anklang fand, insbesondere bei einigen der weltweit renommiertesten Unternehmen mit Sitz in den USA. Diese globale Zugkraft hat deepset auch innerhalb des Unternehmens zu einem wahren Schmelztiegel von Talenten aus Berlin, ganz Deutschland, der EU, Großbritannien und den USA gemacht – alle arbeiten an einer gemeinsamen Mission: „KI mit Sinn” zu liefern, wo immer Unternehmen mehr von KI erwarten. Berlin war für uns der perfekte Ort, um zunächst von null auf eins zu wachsen, ist aber auch das Zentrum unserer nächsten Wachstumsphase. Die Mischung aus technischem Talent, Kreativität und Offenheit macht die Stadt ideal für beide Phasen. Heute ist das Ökosystem gereift – es gibt mehr Kapital, mehr spezialisierte Talente, mehr Nachfrage aus etablierten Branchen und eine wachsende Zusammenarbeit zwischen öffentlichen und privaten Initiativen, die KI-Scale-ups unterstützen. Die Benennung als KI-Orchestrierungsschicht in der Deutschland-Stack-Initiative zeigt, dass Berlin und Deutschland die Grundlagen für eine souveräne, produktionsreife KI-Infrastruktur schaffen. Es ist ein Zeichen dafür, wie weit das Ökosystem gekommen ist – und wir sind stolz darauf, Berlin unser Zuhause zu nennen, während wir diese nächste Phase mitgestalten.
Vertrauen, Kontrolle und Zuverlässigkeit sind wiederkehrende Themen in eurer Positionierung. Aus einer breiteren Perspektive: Warum sind diese Qualitäten besonders wichtig für die KI-Einführung in sensiblen Bereichen wie Finanzen, Regierung oder Gesundheitswesen – und wie geht ihr damit um?
In Sektoren wie Finanzen, Regierung oder Gesundheitswesen sind Fehler nicht einfach nur unangenehm – sie können rechtliche, finanzielle oder sogar menschliche Konsequenzen haben. Deshalb sind Vertrauen, Kontrolle und Zuverlässigkeit für uns keine Schlagworte; sie sind Voraussetzungen. Wir geben Kunden volle Transparenz darüber, wie ihre KI funktioniert – Schritt für Schritt – einschließlich dessen, wie Antworten und Aktionen generiert werden und wie Daten und Modelle sicher verwaltet werden. Alles kann dort laufen, wo es nötig ist, ob in der Cloud oder vor Ort, und jede Komponente ist konfigurierbar. Das bedeutet, wenn sich die Bedürfnisse weiterentwickeln, kann die KI angepasst werden, ohne festgelegt zu sein. Dieses Maß an Transparenz und Flexibilität ist es, was Unternehmen das Vertrauen gibt, Haystack einzusetzen und mit deepset in ihren sensibelsten und geschäftskritischsten Arbeitsabläufen zu arbeiten. Das ist unsere Definition von „Souveränität" in der KI und wir sehen, dass alle Organisationen einer bestimmten Größe, egal ob staatlich oder im privaten Sektor, danach streben.
Mit Blick nach vorne: Wo siehst Du das größte Potenzial für Unternehmens-KI – sei es bei KI-Agenten, Unternehmenssuche oder intelligenter Dokumentenverarbeitung – und welche Entwicklungen sollten politische Entscheidungsträger, Unternehmen und die Gesellschaft im Auge behalten?
Wir stehen an einem Wendepunkt, an dem Unternehmen lernen, was nötig ist, um mit KI wirklich Ergebnisse zu erzielen. Der Wandel ist deutlich: Unternehmen nutzen KI nicht mehr einfach nur so, wie sie auf Internetdaten trainiert wurde, sondern orchestrieren sie mit ihren eigenen Daten, Arbeitsabläufen, Leitplanken und Zielen. Normalerweise klingt eine solche Anpassung nach viel Aufwand oder Komplexität – aber genau das macht deepset schnell, einfach und wiederholbar. Der eigentliche Wert entsteht, wenn diese KI-Architekturen für die spezifische Umgebung eines Unternehmens angepasst und kombiniert werden. Hier setzt unsere Plattform an und macht diese Kontrolle einfach zugänglich. Für politische Entscheidungsträger ist dies der Moment, den Sovereign AI Stack für Deutschland und unsere EU-Nachbarn zu unterstützen und zu verstärken. Unternehmen sollten groß denken und ihre wichtigsten Geschäftsziele in den Vordergrund stellen. Dabei gilt es, auf modulare KI-Plattformen und Praktiken zu setzen, um KI in die eigenen Kernabläufe zu integrieren. Für uns als Gesellschaft wird der eigentliche Fortschritt daraus entstehen, dass wir verstehen, wie KI in Unternehmensumgebungen als System funktioniert – nicht nur als Modell. So werden wir bei der Anwendung von „zielgerichteter KI“ führend sein können, um Arbeit, Entscheidungsfindung und Innovation zu transformieren.
Danke für das spannende Gespräch.
