
Mitarbeitende, die in der Projektförderung tätig sind, müssen komplexe Regeln beachten. Das 200-seitige Handbuch zur Projektförderung, verfügbar über ein Wiki im Intranet des BMBF, enthält alle nötigen Regelungen, doch die Suche darin gestaltete sich schwierig. Als das BMBF nach Möglichkeiten suchte, KI zur Arbeitserleichterung und Effizienzsteigerung einzusetzen, fiel die Wahl daher schnell auf einen niedrigschwelligen Zugang zum Handbuch.
In nur sechs Monaten hat das Team aus BMBF, deepset, HalloWelt, GovTech Campus und Fraunhofer-Institut einen Chatbot entwickelt, der in natürlicher Sprache Fragen zu den Regeln der Projektförderung beantworten kann. Er erfüllt hohe Anforderungen an Datenschutz und Usability, entspricht in allen Punkten den C5-Kriterien für Cloud-Sicherheit, und benötigt für die Beantwortung jeder Frage weniger als drei Sekunden.
Der Chatbot wurde als RAG-Architektur (“Retrieval Augmented Generation”) umgesetzt, einer weit verbreiteten Technik, die KI-Modelle dazu zwingt, sich an Fakten zu halten. Das Team entwickelte den Chatbot und die Benutzeroberfläche in enger Zusammenarbeit mit 20 Endnutzer*innen. "Weil wir die Nutzenden von Anfang an miteinbezogen und einen besonderen Fokus auf die UX gelegt haben, ist das Produkt so gut geworden und wird positiv angenommen", sagt Projektleiterin Josefine Theden-Schow.
Der Chatbot wird täglich genutzt, beantwortet 1.000 Anfragen pro Woche und verkürzt die Bearbeitungszeit. Jede Antwort ist mit Quellenangaben versehen, die bei Bedarf überprüft werden können.
Das Projekt hat Modellcharakter für alle Behörden, die komplexes Wissen intern oder der Öffentlichkeit zur Verfügung stellen, Bearbeitungszeiten verkürzen und Missverständnisse reduzieren wollen.
"Dank der Zusammenarbeit mit deepset konnten wir in nur sechs Monaten ein fertiges Produkt entwickeln, das die strengen Anforderungen unserer Behörde an die Sicherheit und Genauigkeit der Informationen erfüllt. Wir haben viel über die Entwicklung von Produkten mit künstlicher Intelligenz gelernt und uns für die Zukunft positioniert.”– Josefine Theden-Schow, Projektleiterin
deepset ist ein KI-Unternehmen made in Germany. Seit 2018 helfen wir Kunden wie BaFin, Barmenia, Zeit Online und Airbus, produktionsreife KI-Produkte zu bauen. Die deepset AI Platform nutzt unser populäres Open Source Framework Haystack zur KI-Orchestrierung und bündelt unsere langjährige Erfahrung, wie man am besten, schnellsten und sichersten genau das KI-Produkt baut, das der konkrete Anwendungsfall und die Branche erfordern.