Wissensmanagement mit KI: Ein Chatbot hat die Antworten

Veröffentlicht: 23.10.2025 / zuletzt bearbeitet: 08.06.2026

Projektziele & Projektergebnis

Projektziele:
Erstellung projekt in den Bereichen „Prozesse“ mit dem Ziel der Erhöhung/Steigerung/ Optimierung der Entscheidungsqualität, der Produkt- / Servicequalität, des Informationsflusses (Qualität, Verfügbarkeit, Transparenz) und von Prozessen.
Projektergebnis:
Im Projekt entwickelten wir ein Konzept für das KI-basierte interne Wissensmanagement mit Hilfe eines Chatbot. Der getestete RAG-Ansatz zeigt, wie Unternehmen Wissen sicher und einfach verfügbar machen können. Ziel: Schnellen Zugang zum Wissen für Mitarbeitende optimieren.

Gesamtprojekt

Personentage
6 Tage
2 Tage
Nicht ausgeführt
Nicht ausgeführt
3 Tage
0 Tage
Phase
Konzept
Prototyp
Entwicklung
Testen
Implementierung
Beteiligte
5
2
5
2
0
0
5
2
0
0
Kosten*
0 €
0 €
0 €
20 €
0 €
Projektphase ausgeführt
Projektphase nicht ausgeführt
interne Projektbeteiligte
externe Projektumsetzer

Top Erkenntnisse aus dem Projekt

  • Damit die KI präzise Antworten geben kann, müssen Dokumente vorab strukturiert und teilweise mit KI aufbereitet werden. Nur so können relevante Informationen später sicher gefunden und genutzt werden. In den Tests zeigt sich, dass sich die Antworten der getesteten LLMs („Chatbots“) trotz gleicher Wissensbasis stark voneinander unterscheiden. Zum Zeitpunkt des Workshops hatte das Apotheken-Team eine Präferenz hin zum Modell Mistral Large Latest. Diese Präferenz wurde durch das A/B-Testing bestätigt.
  • Der prototypisch im Rahmen des Projektes umgesetzte Chatbot konnte bereits im Workshop zahlreiche Fragen sehr gut beantworten, inkl. Angabe der Quellen. Feintuning bringt bessere Ergebnisse: Damit der Chatbot wirklich unternehmensspezifische Antworten liefert, ist Feinarbeit nötig; sowohl beim sogenannten Systemprompt (den Vorgaben an das Modell) als auch bei der Struktur der Wissensbasis. Eine hohe Antwortqualität des Chatbots wird dazu führen, dass die Arbeit in vielen Bereichen erleichtert wird, besonders indem Informationen konsistent, quellenbelegt und up-to-date bereitgestellt werden.
  • Der Einsatz eines KI-gestützten Chatbots kann DSGVO-Konform umgesetzt werden: z. B. durch die Nutzung eines Sprachmodells, das auf einem eigenen Server bzw. in Deutschland betrieben wird. Es gibt die Umsetzungsvarianten “make or buy”, d.h.: es kann eine Eigenlösung entwickelt werden oder aber erprobte Lösung eingekauft werden. Wenn bestehende Anwendungen keine passenden Schnittstellen (APIs) anbieten, müssen zusätzliche Verbindungen geschaffen werden – zum Beispiel über Konnektoren oder Webzugriffe.
  • Ausgangslage

    Es bestehen Optimierungspotenziale in den Bereichen Produktion, Service und Support
    Wissen lag für verschiedene Abteilungen an verschiedenen Orten, bzw. Tools. Insbesondere im direkten Kundengespräch oder bei wiederkehrender Suche nach gleichen Informationen ging Wissen verloren.
    Die Arbeitsweisen mussten überdacht werden in den Bereichen Produktion, Service und Support, Sicherheit
    Eine Vielzahl verschiedener Tools, die man auf der Suche nach Informationen durchsuchen musste.

    Zentrale Fragestellungen im Projekt

    • Im Unternehmen werden verschiedene Plattformen und Anwendungen genutzt. Ist eine Umsetzung des Chatbots trotzdem realisierbar? Wie wird die Wissensbasis dafür erzeugt, obwohl die Daten in den verschiedenen Systemen liegen?
    • Welche Sprachmodelle (LLMs) sind geeignet und bieten die beste Ergebnisqualität auf Basis der Anforderungen?
    • Kann der Chatbot datenschutzkonform – auch mit sensiblen Daten – genutzt werden?

    Projektdetails

    Zeitrahmen: 03.06.2025 - 30.09.2025

    Wissen ist heute einer der wichtigsten Rohstoffe moderner Unternehmen und entscheidend für deren Wettbewerbsfähigkeit. Doch besonders kleine und mittlere Unternehmen (KMU) stehen vor der Herausforderung, vorhandenes Wissen effizient zu strukturieren und für alle Mitarbeitenden zugänglich zu machen. Häufig ist Wissen über verschiedene Tools, Dateien und Köpfe verteilt. Dies führt zu zeitaufwendiger Informationssuche, Wissenssilos und Abhängigkeiten von Einzelpersonen.
    In diesem Digitalisierungsprojekt wurde die Medios Apotheke in Berlin dabei begleitet, ein Konzept für die Einführung eines KI-basierten Chatbot zum internen Wissensmanagement zu entwickeln. Obwohl das Unternehmen digital bereits gut aufgestellt war, z.B. ein digitales Qualitätsmanagementsystem und ein Intranet nutzt, zeigte sich, dass in der täglichen Arbeit viel Zeit für die Suche nach Informationen benötigt wird.

    Ziel des Projekts war es daher, ein grundsätzliches Verständnis für modernes Wissensmanagement mit KI zu schaffen und technische Lösungsansätze kennenzulernen, die den internen Wissenstransfer erleichtern. Mit einem Chatbot soll das gelingen. Dieser soll als zentrale Schnittstelle zwischen den Mitarbeitenden und der Wissensbasis dienen. Er soll Fragen in „natürlicher Sprache“ beantworten und dazu die vorhandenen digitalen Informationen (die „Wissensbasis“) des Unternehmens nutzen, um präzise Antworten zu liefern. Typische Anwendungsfälle sind unter anderem Fragen zu internen Prozessen, zu Merkblättern, Arbeitsanweisungen, zu Qualitätsmanagement-Themen oder zur Einarbeitung neuer Mitarbeitender.

    Um das Unternehmenswissen KI-gestützt nutzbar zu machen, wurde der sogenannte RAG-Ansatz (Retrieval Augmented Generation) verwendet. Dabei werden der KI nur vorab definierte Informationen (unternehmensinterne Wissensbasis) und die dazugehörigen Quellen für die Antwortgenerierung bereitgestellt. Konkret wurden bestehende Daten aus einem zentralen Tool des Unternehmens exportiert und so aufbereitet und strukturiert, dass sie von großen Sprachmodellen (Large Language Models, LLMs) verarbeitet werden können. Dazu wurden die Dokumente in sogenannte Chunks (kleine, logisch zusammenhängende Informationsschnipsel) zerlegt. Jeder Chunk bildet eine abgeschlossene Informationseinheit ab und ermöglicht dadurch eine gezielte, kontextbezogene Verarbeitung durch die KI. Die aufbereiteten Dokumente wurden anschließend in eine zentrale Wissensbasis integriert.

    In einer LLM-Testumgebung wurden verschiedene Sprachmodelle unter gleichen Bedingungen anonym („blind“) bei einem A7B-Test getestet. Bewertet wurden insbesondere:
    –    Qualität und Präzision der generierten Antworten
    –    Sprachstil und Verständlichkeit der Formulierungen
    –    Nutzung und Integration der bereitgestellten Wissensbasis

    Die Auswertung der Testergebnisse zeigte deutliche Unterschiede zwischen den getesteten Modellen. Das LLM-Modell Mistral Large Latest konnte von den Teilnehmenden als Favorit identifiziert werden aufgrund von guter Struktur, Übersichtlichkeit, Vollständigkeit und kurzen relevanten Informationen.
    Abschließend erhielt das Unternehmen einen praxisorientierten Handlungsleitfaden, der die nächsten Schritte zu eigenen Umsetzung beschreibt – von der technischen Einrichtung über Integration und Betrieb bis hin zu Change-Management-Maßnahmen.

    Ergebnisse der einzelnen Projektphasen

    Problem-Statements zum Thema Wissensmanagement
    Insbesondere im Wissensmanagement geht viel Zeit verloren, weil Zugang zu Wissen fehlt oder an verschiedenen Orten abgelegt ist.
    Einsatzfelder von Chatbots im Wissensmanagement
    Chatbots können vielseitig im Unternehmen eingesetzt werden, sowohl intern als auch extern.
    Wissen in Unternehmen
    Wissen in einer der wichtigsten Rohstoffe in Unternehmen und Künstliche Intelligenz eines der Werkzeuge, um dieses Wissen besser zu strukturieren.
    Problem-Statements zum Thema Wissensmanagement
    Insbesondere im Wissensmanagement geht viel Zeit verloren, weil Zugang zu Wissen fehlt oder an verschiedenen Orten abgelegt ist.
    Einsatzfelder von Chatbots im Wissensmanagement
    Chatbots können vielseitig im Unternehmen eingesetzt werden, sowohl intern als auch extern.
    Wissen in Unternehmen
    Wissen in einer der wichtigsten Rohstoffe in Unternehmen und Künstliche Intelligenz eines der Werkzeuge, um dieses Wissen besser zu strukturieren.
    {acf_prototypenphase_bilder_prototypenphase_titel}
    {acf_prototypenphase_bilder_prototypenphase_beschreibung}
    {acf_testingphase_bilder_testingphase_titel}
    {acf_testingphase_bilder_testingphase_beschreibung}
    {acf_testingphase_bilder_testingphase_titel}
    {acf_testingphase_bilder_testingphase_beschreibung}
    {acf_testingphase_bilder_testingphase_titel}
    {acf_testingphase_bilder_testingphase_beschreibung}
    {acf_testingphase_bilder_testingphase_titel}
    {acf_testingphase_bilder_testingphase_beschreibung}

    Mögliche Hard- und Software-Lösungen

    Software: LLMs (Large Language Models): ChatGPT, Llama 70B, Llama 80B, Mistral Large, Gemini 1.5 Flash)
    :

    Unternehmensbeschreibung

    Name
    MediosApotheke Anike Oleski e. Kfr.
    Anschrift
    Friedrichstraße 113a, 10117 Berlin
    Umsatz pro Jahr
    über 50 Mio. €
    Branche
    Gesundheitswesen, Pflege, Sozialwesen
    Gründungszeitraum
    Vor 10 - 49 Jahren
    Beschäftigtenzahl
    50 - 249
    IT-Investition pro Jahr
    50.001 - 250.000 €
    Unternehmensangebot
    Produkte, Dienstleistung
    Unternehmer*innen Zitat zum Projekt
    Es war insgesamt super, so viel Expertise zur Verfügung gestellt zu bekommen und der Workshop war großartig. Wir haben diesen Wissenschatz bekommen, der genau auf unseren Use Case zugeschnitten ist und konnten danach direkt ins Tun kommen. Wir konnten mit einem Teilbereich unseres Qualitätsmanagements verschiedene LLMs testen. Wie ist die Sprachqualität, wie sind die Antworten? Wir haben sehr viel mitgenommen und durch diese Vorstrukturierung fallen uns, glaube ich, die nächsten Schritte leichter.
    Aileen Manzel
    Projektmanagerin
    Projektbewertung aus Unternehmenssicht
    Das Projekt hat dazu beigetragen das unser Unternehmen für die Zukunft gerüstet ist.
    Mit dem Projektergebnis sind Sie zufrieden.
    Unsere Erwartungen an das Projekt wurden erfüllt.
    Sie würden die Projektumsetzer weiterempfehlen.

    Projektunterstützung

    Projektumsetzer
    Institut für Innovations- und Informationsmanagement GmbH
    Ifii
    projekte@digitalzentrum.berlin
    Zentrum
    Mittelstand-Digital Zentrum Berlin
    MDZ Berlin
    info@digitalzentrum.berlin

    Weitere Kooperationspartner

    Projektumsetzer
    Institut für Innovations- und Informationsmanagement GmbH
    Zentrum
    Mittelstand-Digital Zentrum Berlin
    Sie haben Fragen zu diesem Projekt? Sprechen Sie uns gerne an!
    Jetzt Kontakt aufnehmen

    Ähnliche Themen

    Arbeitsumgebung, Automatisierung, Prozessoptimierung, Weitergabe von Wissen

    Dieses Projekt teilen