Einführung
Seit dem ChatGPT-Boom werden Large Language Models (LLMs) zunehmend im Alltag genutzt – etwa um Rezepte zu finden, sich auf Vorstellungsgespräche vorzubereiten, Texte automatisch zu generieren und vieles mehr.
Doch LLMs sind nicht nur für Privatpersonen hilfreich, sondern auch für Unternehmen. KNOWRON kombiniert die enorme Leistungsfähigkeit moderner Transformer-Modelle mit firmenspezifischen Daten. Das lässt sich vergleichen mit Iron Man, der J.A.R.V.I.S. mitten im Kampf nach den Spezifikationen seines Anzugs fragt – und in Sekunden eine präzise, verständliche Antwort erhält, inklusive der Schwächen seines Gegners.
In diesem Artikel schauen wir uns an, was Knowledge Graphs sind, warum ihre Kombination mit LLMs so leistungsfähig ist, und wie Microsofts GraphRAG funktioniert. Wer sich zuerst über den klassischen RAG-Ansatz informieren möchte, findet dazu einen separaten Beitrag in unserem Blog.
Knowledge Graphs sind eine strukturierte Form der Informationsspeicherung
Knowledge Graphs (KGs) bestehen aus Knoten und Kanten.
- Knoten (Entities): repräsentieren Objekte wie Personen, Unternehmen oder Länder.
- Kanten (Relationships): beschreiben die Beziehungen zwischen diesen Objekten.
Beispiel:
Knowron (Entity 1) → ist verortet in (Relationship) → München (Entity 2).
So werden Informationen modular, logisch verknüpft und strukturiert gespeichert.
Der Begriff „Knowledge Graph“ ist übrigens nicht neu – er existiert seit über 40 Jahren und wird schon lange in NLP-Aufgaben genutzt. Google setzt Knowledge Graphs beispielsweise in seiner Suche ein. Neu ist jedoch, dass Knowledge Graphs heute als faktische Referenz für LLMs eingesetzt werden. Studien zeigen: LLMs, die mit KGs unterstützt werden, liefern bei komplexen Zusammenfassungen deutlich klarere und spezifischere Ergebnisse.
GraphRAG
Retrievel Augmented Generation (RAG), unterstützt durch Knowledge Graphs, ist ein spannendes Forschungsfeld.
- Die Struktur und Logik von KGs ermöglichen es LLMs, Themen auf einer höheren Ebene zu verstehen.
- Sie helfen dabei, mehrere Dokumente zusammenzufassen, Fakten zu verbinden und übergreifende Insights zu gewinnen.
Ein anschauliches Beispiel: Du hast stapelweise Uni-Notizen und nur wenige Tage bis zur Prüfung. Dein KI-Assistent soll dir die wichtigsten Themen und Konzepte destillieren, damit du effizient lernst, ohne jedes Detail zu wiederholen. Knowledge Graphs ermöglichen genau das – sie abstrahieren Inhalte, ohne das große Ganze aus den Augen zu verlieren.
Wie funktioniert GraphRAG?
GraphRAG ist eine RAG-Lösung, die auf Knowledge Graphs basiert. Der Prozess besteht im Wesentlichen aus zwei Schritten:
- Indexierung
- Abfrage
Indexierung
Die Indexierung erstellt aus unstrukturiertem Text einen Knowledge Graph.
- Text in Chunks teilen: Kürzere Abschnitte verhindern, dass das LLM Informationen vergisst.
- Extraktion von Entities und Relationships: Das LLM identifiziert Objekte (z. B. Länder, Namen, Maschinenteile) und Beziehungen. Daraus entstehen kleine Graphen, die zusammengeführt werden.
- Claims Extraction: Positive Faktenaussagen und Metadaten werden extrahiert.
- Graph-Augmentation: Mit Clustering-Methoden wie Leiden werden „Communities“ von ähnlichen Entitäten gebildet, um Daten semantisch zu strukturieren.
- Community Summarization: LLMs erzeugen Kurzbeschreibungen dieser Communities.
- Dokumenten-Tracking: Eine Tabelle hält fest, aus welchen Quellen die Textabschnitte stammen.
Für bessere Ergebnisse empfiehlt sich ein domänenspezifisch angepasster Knowledge Graph. Microsoft stellt zwar ein automatisiertes Prompt-Tuning bereit, dennoch ist es sinnvoll, die Prompts individuell zu prüfen und für den eigenen Anwendungsfall anzupassen.
Abfrage
GraphRAG unterstützt zwei Arten von Suchmethoden:
- Lokale Suche
- Findet Entitäten, die eng mit der Anfrage des Nutzers verknüpft sind.
- Nutzt diese Knoten als Einstiegspunkt in den Graphen.
- Besonders geeignet, wenn es um konkrete Informationen geht (z. B. „Welche Temperatur wird für das Hotbed empfohlen?“).
- Globale Suche
- Durchsucht alle Community-Reports.
- Da Communities Zusammenfassungen enthalten, können LLMs hier generalisiert antworten.
- Ideal, um ein umfassendes, domänenweites Verständnis aufzubauen.
Fazit
GraphRAG ist eine faszinierende neue Technologie mit großem Potenzial. Sie eröffnet LLMs ein hohes Abstraktionsniveau und damit die Möglichkeit, noch breitere Geschäftsfälle und komplexe Aufgaben zu automatisieren.
Wir sind gespannt, welche weiteren Use Cases sich in der Praxis daraus entwickeln.
.png)
