Lernt die KI aus unseren Daten dazu?

Nicht im Sinne eines Trainings. Der Assistent sucht bei jeder Frage passende Textstellen aus Ihren freigegebenen Dokumenten und formuliert daraus eine Antwort. Das Sprachmodell selbst wird dabei nicht verändert. Prüfen Sie zusätzlich vertraglich, dass der KI-Anbieter Ihre Daten nicht zum Training seiner Modelle verwendet.

Können wir festlegen, wer welche Dokumente sieht?

Ja, und das sollten Sie. Ein gut eingerichteter Assistent übernimmt die Zugriffsrechte Ihrer Ablage. Wer einen Ordner nicht öffnen darf, bekommt auch keine Antworten daraus. So bleiben etwa Verträge, Personalunterlagen oder Gehaltsdaten geschützt, während allgemeine Handbücher für alle Mitarbeiter durchsuchbar sind.

Funktioniert das mit SharePoint oder Google Drive?

Ja. Beide bieten offizielle Schnittstellen, über die Dokumente samt Berechtigungen ausgelesen werden können. Auch Netzlaufwerke, Wikis oder ein CRM lassen sich anbinden. Wenn Sie bereits Microsoft 365 nutzen, ist Microsoft 365 Copilot eine Alternative. Ein eigener Assistent lohnt sich, wenn Wissen in mehreren Systemen liegt.

Wie verhindern wir falsche Antworten?

Ganz ausschließen lässt sich das nicht, aber deutlich reduzieren: Der Assistent antwortet nur aus freigegebenen Dokumenten, nennt immer die Quelle und sagt offen, wenn er nichts findet. Wichtig sind außerdem aktuelle Unterlagen, ein Testlauf mit echten Fragen und die Regel, wichtige Antworten an der Quelle zu prüfen.

KI-Assistent für Firmenwissen: Antworten aus Ihren Daten

Eine neue Mitarbeiterin fragt zum dritten Mal am Tag denselben erfahrenen Kollegen: Wo finde ich die aktuelle Preisliste? Wie war das bei der Gewährleistung für dieses Produkt? Haben wir für diesen Kunden schon einmal ein ähnliches Angebot gemacht? Die Antworten gibt es. Sie stehen in Handbüchern, Angeboten, Verträgen, Protokollen und alten E-Mails. Nur findet sie niemand schnell.

Ein KI-Assistent für Firmenwissen setzt genau hier an. Dieser Artikel erklärt, was ein solcher Assistent kann und was nicht, wie er nur aus Ihren eigenen Dokumenten antwortet, was mit Datenschutz und Zugriffsrechten passiert und welche Anwendungsfälle sich für den Einstieg eignen.

Wenn Wissen in Köpfen und Ordnern steckt

In vielen kleinen und mittleren Unternehmen hängt das Wissen an wenigen Personen. Das ist so lange kein Problem, bis diese Personen im Urlaub sind, krank werden oder in Pension gehen. Typische Anzeichen:

Einarbeitung dauert lange, weil neue Mitarbeiter vieles nur durch Fragen lernen.
Erfahrene Kollegen werden ständig unterbrochen, oft mit denselben Fragen.
Dokumente sind da, aber verstreut: auf Netzlaufwerken, in SharePoint, in Google Drive, in E-Mail-Postfächern.
Die Suche findet Dateinamen, nicht Antworten. Wer nicht weiß, wie das Dokument heißt, findet es nicht.

Ein interner KI-Assistent verändert die Art der Suche: Statt nach Dateien zu suchen, stellen Mitarbeiter eine Frage in normaler Sprache und bekommen eine Antwort mit Verweis auf das passende Dokument.

Was ein interner KI-Assistent kann und was nicht

Ein KI-Assistent für Firmenwissen ist ein Chat-Programm, das Fragen Ihrer Mitarbeiter auf Basis Ihrer eigenen, freigegebenen Dokumente beantwortet. Er kann:

Fragen in normaler Sprache verstehen, auch wenn die Begriffe im Dokument anders lauten
passende Stellen in vielen Dokumenten finden und zusammenfassen
die Quelle nennen, damit man nachlesen kann
auf Deutsch und Englisch antworten, auch wenn das Dokument in der jeweils anderen Sprache ist

Was er nicht kann oder nicht tun sollte:

Wissen erfinden, das in keinem Dokument steht. Ein gut eingerichteter Assistent sagt dann ehrlich, dass er keine Antwort gefunden hat.
Verbindliche Entscheidungen treffen, etwa über Kulanz, Preise oder rechtliche Fragen
veraltete Dokumente von aktuellen unterscheiden, wenn niemand sie pflegt. Die Qualität der Antworten hängt direkt an der Qualität der Unterlagen.

Wie die KI nur aus Ihren Dokumenten antwortet

Die Technik dahinter heißt in der Fachsprache RAG (Retrieval-Augmented Generation). Einfach erklärt läuft das so ab:

Vorbereitung: Ihre freigegebenen Dokumente werden in kleine Abschnitte zerlegt und so aufbereitet, dass die KI inhaltlich passende Stellen schnell findet.
Frage: Eine Mitarbeiterin stellt eine Frage, zum Beispiel "Welche Wartungsintervalle gelten für Anlage X?".
Suche: Das System sucht die Abschnitte, die zur Frage passen, und zwar nur in den Dokumenten, die diese Person sehen darf.
Antwort: Das Sprachmodell formuliert aus diesen Abschnitten eine Antwort und nennt die Quelle, etwa "Wartungshandbuch, Kapitel 4".

Der wichtige Punkt: Die KI wird dabei nicht mit Ihren Daten "trainiert". Sie bekommt bei jeder Frage nur die passenden Textstellen als Grundlage. Ändern Sie ein Dokument, gilt ab der nächsten Aufbereitung die neue Fassung.

Datenschutz, Zugriffsrechte und Speicherort

Firmenwissen ist oft vertraulich. Deshalb gehören diese Fragen an den Anfang jedes Projekts:

Zugriffsrechte: Der Assistent sollte dieselben Rechte respektieren wie Ihre Ablage. Wer einen Ordner nicht öffnen darf, bekommt auch keine Antworten daraus. Verträge, Personalunterlagen oder Gehaltsdaten bleiben so geschützt.
Speicherort: Die aufbereiteten Dokumente können bei einem Cloud-Anbieter in der EU oder auf eigenen Servern liegen. Für besonders sensible Daten ist auch ein Sprachmodell auf eigener Hardware möglich.
Auftragsverarbeitung: Enthalten die Dokumente personenbezogene Daten und nutzen Sie einen externen KI-Dienst, brauchen Sie einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO.
Kein Training fremder Modelle: Prüfen Sie in den Vertragsbedingungen, dass Ihre Daten nicht zum Training der Modelle des Anbieters verwendet werden. Bei geschäftlichen Angeboten lässt sich das in der Regel ausschließen.

Zum EU AI Act: Seit 2. Februar 2025 gilt Artikel 4, nach dem Unternehmen Maßnahmen zur KI-Kompetenz ihrer Mitarbeiter treffen müssen. Für einen internen Assistenten heißt das vor allem: Mitarbeiter sollten wissen, wie er funktioniert, wo seine Grenzen liegen und dass sie Antworten bei wichtigen Entscheidungen an der Quelle prüfen. Mehr dazu auf unserer Seite zum EU-KI-Gesetz.

Gute erste Anwendungsfälle

Am besten eignen sich Bereiche, in denen dieselben Fragen immer wieder gestellt werden und das Suchen länger dauert als das Antworten:

Technische Handbücher und Wartungsunterlagen in Industrie, Technik und Handwerk
Interne Richtlinien, etwa zu Reisekosten, Urlaub oder IT-Nutzung
Produkt- und Preiswissen für Vertrieb und Kundendienst
Frühere Angebote und Projektberichte, um ähnliche Fälle schneller zu kalkulieren
Einarbeitung neuer Mitarbeiter, die Fragen stellen können, ohne jemanden zu unterbrechen

Beispiel: Ein Technikbetrieb mit mehreren hundert Seiten Herstellerdokumentation macht diese für seine Servicetechniker per Handy durchsuchbar. Der Techniker fragt vor Ort nach einem Fehlercode und bekommt die passende Stelle samt Seitenangabe, statt im Büro anzurufen.

Wenn Sie bereits Microsoft 365 nutzen, kann auch Microsoft 365 Copilot ein Weg sein, der auf Ihre Dokumente in SharePoint und OneDrive zugreift. Ein eigener Assistent lohnt sich eher, wenn Ihr Wissen in mehreren Systemen verteilt ist, Sie volle Kontrolle über Speicherort und Modell wollen oder ihn in eigene Anwendungen einbauen möchten.

So starten Sie: ein Pilot in vier Schritten

Ein Assistent für das ganze Unternehmen ist kein guter erster Schritt. Besser ist ein kleiner Pilot, der schnell zeigt, ob der Nutzen eintritt.

Bereich und Fragen sammeln: Wählen Sie einen Bereich, etwa den Kundendienst, und lassen Sie das Team zwei Wochen lang notieren, welche Fragen es intern stellt. Diese Liste ist Ihr Prüfstein.
Dokumente aufräumen: Sortieren Sie veraltete Fassungen aus und legen Sie fest, welche Dokumente gelten. Hier entsteht oft schon ein Nutzen, unabhängig von der KI.
Testbetrieb mit wenigen Nutzern: Eine kleine Gruppe nutzt den Assistenten im Alltag und bewertet die Antworten. Falsche oder fehlende Antworten zeigen, wo Dokumente fehlen oder unklar sind.
Bewerten und ausweiten: Beantwortet der Assistent die gesammelten Fragen zuverlässig und spart er spürbar Zeit, kommen weitere Bereiche und Nutzer dazu.

Legen Sie vorab fest, woran Sie den Erfolg messen, etwa wie viele der gesammelten Fragen richtig und mit Quelle beantwortet werden. So entscheiden Sie auf Basis Ihrer eigenen Zahlen, nicht nach Gefühl.

Kosten, Förderung und Einstieg

Ein sinnvoller Einstieg ist ein klar abgegrenzter Bereich mit einer überschaubaren Dokumentmenge und einer Gruppe von Testnutzern. Bei EA Digital Solutions beginnt die KI-Integration ab 2.500 Euro. Werden mehrere Ablagen wie SharePoint, Google Drive und ein CRM angebunden, kommt Systemintegration ab 4.500 Euro dazu (Stand Oktober 2026). Laufende Kosten für das Sprachmodell hängen von der Nutzung ab.

Wenn Sie noch nicht wissen, welcher Bereich sich am besten eignet, hilft eine KI-Potenzialanalyse für 890 Euro. Dabei prüfen wir gemeinsam, welche Dokumente und Fragen sich für einen Assistenten eignen und welcher Nutzen realistisch ist. Mehr dazu auf der Seite KI-Beratung in Graz. Förderungen für KI-Projekte, etwa von der aws, laufen über zeitlich begrenzte Ausschreibungen; einen Überblick finden Sie unter KI-Förderung in Österreich.

Ihr nächster Schritt

Im kostenlosen Erstgespräch sprechen wir über Ihre Dokumente und die Fragen, die in Ihrem Team am häufigsten gestellt werden. Danach wissen Sie, ob sich ein Assistent lohnt und wie ein erster Schritt aussehen kann. Bringen Sie gerne eine kurze Liste der typischen Fragen mit und sagen Sie uns, wo Ihre Dokumente heute liegen. Unser Büro ist in Graz, die Zusammenarbeit funktioniert genauso remote.