Bare Bones Terminology meets KI – im Gespräch mit Klaus Fleischmann von Kaleidoscope

Gerade für zeitintensive Aufgaben wie die Kundenbetreuung und das Erstellen von Produkttexten wirkt die Unterstützung durch KI wie der heilige Gral. Verständlich, denn die natürliche Sprache von vielen Sprachmodellen sorgt für Begeisterung. Beispiele für beliebte KI-Anwendungen in Unternehmen sind Support-Chatbots für die Kundenkommunikation oder die Textgeneration für Produktmarketing und Technische Dokumentation.

Während Unternehmen verstärkt ihre Hoffnung auf KI-Anwendungen setzen, stoßen sie oft auf ein Problem: Die KI liefert nicht, was sie soll, benötigt viel manuelle Nacharbeit und bietet letztendlich keine echte Effizienzsteigerung. Gemäß unserem Ansatz Bare Bones Terminology fragen wir uns: Wie lässt sich dieses Kommunikationsproblem einfach lösen? Darüber haben wir mit Klaus Fleischmann von Kaleidoscope gesprochen, der bei Kaleidoscope den Ansatz „TAG“ (Terminology Augmented Generation) entwickelt hat.

Warum KI-Projekte scheitern – und was es braucht

Lena: Viele Unternehmen stehen ernüchtert vor den Ergebnissen ihrer KI-Projekte. Was sind aus deiner Sicht die Ursachen dafür?

Klaus: Die Hauptproblematik liegt darin, dass Sprachmodelle wie GPT und Claude weder das spezifische Wissen des Unternehmens, noch die notwendige Sprache dafür haben. Sie sind auf Daten trainiert, die frei im Internet verfügbar sind, und nicht auf spezifische Unternehmensinhalte. LLMs formulieren daher, wie es der Durchschnitt der Menschheit formulieren würde, aber kennen nicht die Terminologie des Unternehmens.

Lena: Kannst du einen konkreten Anwendungsfall für TAG nennen, der erfolgreich umgesetzt wurde?

Klaus: Ein schönes Beispiel ist das Szenario eines Kunden, der Medikamente für Tiere herstellt. Der Kunde hat einen Chatbot im Einsatz, den Tierbesitzer oder Veterinäre fragen können: „Mein Tier hat folgende Symptome, was könnte das sein?“ Es gibt unzählige Möglichkeiten, wie man Symptome beschreibt. In der Terminologiedatenbank sind diese verschiedenen Beschreibungsmöglichkeiten hinterlegt, sodass der Chatbot unklare Anfragen dennoch korrekt verarbeiten und mit dem internen Wissenssystem korrekt verbinden kann. Sowohl der Tierbesitzer als Laie als auch Veterinäre als Fachpersonen können so an die gewünschte Information kommen.

Lena: Es gibt ja bereits verschiedene Ansätze wie Prompt Engineering oder RAG. Warum reichen diese nicht aus?

Klaus: Prompt Engineering hat ein natürliches Limit, wie viele Daten mitgegeben werden können. Wenn zu viele Informationen vorgegeben werden, ist das Sprachmodell sogar verwirrt und die Ergebnisse werden schlechter.
RAG (Retrieval Augmented Generation) hat den großen Nachteil, dass es total schwer steuerbar ist und man nicht genauer filtern kann. Wenn man reine Glossarlisten mitgibt, fehlen Metadaten – da steht kein Kontext, kein Verwendungsbeispiel, keine Definition. Genau solche strukturierten Metadaten braucht es aber für KI.

Wie „Terminology Augmented Generation“ funktioniert

Lena: Hier kommt euer TAG-Ansatz ins Spiel. Wie funktioniert das genau?

Klaus: TAG steht für „Terminology Augmented Generation“. Wir binden Terminologiedatenbanken in die Sprachmodelle ein. Grundideen für die TAG-Lösung sind:

1. Terminologiedatenbanken sind strukturierte Daten. Das KI-Modell kann dadurch die richtigen Schreibweisen, Bedeutungen und die Kontextverwendung anwenden, ohne dass ein aufwendiges Training notwendig ist.
2. Der Output ist sehr gut für spezifische Einsatzszenarien steuerbar, weil wir anhand der Metadaten aus der Termbank einschränken können.

Ich kann einen Marketing-Text erstellen lassen zum Thema „Barverkaufssperre“ und dabei überhaupt einmal die genaue Definition dieses Wortes bei uns im Unternehmen einfließen lassen. Und zum anderen automatisch die Marketing-Terminologie und den passenden Stil verwenden lassen – z. B. in Abgrenzung zu den Benennungen aus der Technischen Dokumentation. Das Ganze ist auch noch in mehreren Sprachen möglich. Wie das live ausschaut, zeigen wir ja in unserem gemeinsamen Webinar.

Custom GPT mit definierten Marketing-Prompts. Im Hintergrund arbeitet die integrierte Terminologiedatenbank Kalcium Quickterm.

Lena: Wie wird das technisch umgesetzt?

Klaus: Wir gehen nicht den Weg, dass Daten ins LLM hochgeladen werden wie bei RAG, sondern wir binden die Terminologiedatenbank in Echtzeit ein und verwenden alle Suchfunktionen. Als Standard hat sich MCP (Model Control Protocol) herauskristallisiert, der sich sehr leicht umsetzen lässt. Für Anfragen wie „Was bedeutet ‚Bremssattel‘?“ schaut das LLM dann erst mal in der Terminologiedatenbank nach.

Lena: Reduziert TAG das Problem der Halluzination bei KI-Systemen?

Klaus: Ja. Man kann verhindern, dass das LLM sich etwas ausdenkt, weil es die Antwort nicht weiß, zum Beispiel indem hinterlegt ist: „Wenn du ‚Bremssattel‘ in der Terminologiedatenbank nicht findest, gib bitte zurück: Ich weiß es nicht.“

Fazit: Terminologie hat jeder – nutzen wir sie!

Häufig beobachten wir in der Praxis, dass Terminologieprojekte ambitioniert angefangen werden, dann aber schnell scheitern. Der Hauptgrund: Es wird nur definiert, welche Ziele Terminologiemanagement langfristig erreichen soll, aber nicht, welche aktuellen Probleme dadurch messbar gelöst werden.

Auf die Frage des Chefs „Was sparen wir uns damit?“ gibt es häufig zu vage Aussagen über diffuse Qualitätsverbesserung. Sprachliche Qualität und konsistentes Wording sind den meisten Personen im Unternehmen allerdings komplett egal. Mit unserem Ansatz Bare Bones Terminology identifizieren wir die konkreten Probleme – etwa unzufriedenstellende Antworten vom Chatbot – und finden effiziente Lösungen, wie das Einbinden der Terminologie.

95 % der Unternehmen wissen, sie müssen im Bereich KI investieren. Für dieses Ziel brauchen KI-Teams Daten. Als Terminolog:innen haben wir Daten, die strukturiert, mehrsprachig und zuverlässig sind, und zu besserem KI-Output führen. Wer noch keine Terminologie im Unternehmen aufgesetzt hat, steigt jetzt zum geeigneten Zeitpunkt ein. Terminologie hat ja jeder – die Frage ist nur, ob sie strukturiert und nutzbar ist.