Mehr als Prompts: Wie du mit Context Engineering die KI optimal nutzt
Warum liefern KI-Modelle mal brillante und mal enttäuschende Ergebnisse? Entscheidend ist neben dem richtigen Prompt vor allem der Kontext. Erfahre, was Context Engineering ist, wie es funktioniert und warum es über den Erfolg deiner KI-Anwendungen entscheidet.
Das Wichtigste in Kürze
- Context Engineering beschreibt die gezielte Gestaltung des Informationskontexts, den ein KI-Modell für die Bearbeitung einer Aufgabe erhält.
- Data Retrieval und Retrieval Augmented Generation (RAG) sorgen dafür, dass KI-Modelle gezielt auf passende externe Informationen zugreifen können.
- Erfolgreiches Context Engineering erfordert saubere Daten, eine durchdachte Kontextstruktur, geeignete Tools und technisches Verständnis.
Du betrittst morgens auf dem Weg ins Büro dein Lieblingscafé. Der Barista nickt dir freundlich zu und stellt kurz darauf einen Cappuccino auf den Tresen, genauso, wie du ihn magst: Mit Hafermilch, einem Schuss Caramel und Kakaopulver. Zufall? Nein, Kontext – der Barista hat sich gemerkt, dass du immer dieselbe Bestellung aufgibst. Damit dein KI-Tool dir später im Büro ebenfalls genau das Ergebnis liefert, dass du dir wünschst, braucht auch dieses Kontext. Und du brauchst dafür Context Engineering.
Was ist Context Engineering und warum ist es wichtig?
Definition von Context Engineering
Context Engineering ist die Technik, einer Künstliche Intelligenz (KI, englisch Artificial Intelligence) zur richtigen Zeit genau die Informationen zu geben, die sie zur bestmöglichen Lösung deiner Aufgabe benötigt. So wie du zum Beispiel von deiner Chefin ein Briefing erhältst, in dem sie dir die relevanten Informationen sorgfältig zusammengetragen hat – anstatt dir einfach alle Firmendokumente auf den Schreibtisch zu legen.
Für moderne KI-Modelle und speziell die Large Language Models (LLMs) wie ChatGPT, Claude und Co ist das besonders wichtig, weil sie nur eine begrenzte Menge an Daten auf einmal verarbeiten können. Du kannst in das Kontextfenster (der Arbeitsspeicher des LLM) eben nicht beliebig viel Text tippen und beliebig viele Dokumente anhängen. Mit Context Enginnering gestaltest du mit den relevanten Informationen die Umgebung für das KI-Modell, in der sie deine Anweisungen ausführen soll. Das umfasst die Architektur und Orchestrierung der Informationen und konkret:
- Daten
- Schemata
- zusätzliche Tools
- Einschränkungen
- Richtlinien
Vier Säulen des Context Engineering
Context Enginneering nutzt vier Kernstrategien, um zu steuern, welche Informationen in das Kontextfenster gelangen und wie dies geschieht:
- Write/Schreiben: Basis ist ein System-Prompt, mit dem du dem KI-Modell feste Rollen, Verhaltensregeln, Einschränkungen und die Ausgabeformate vorgibst.
- Select/Auswählen: In das Kontextfenster werden nur wirklich relevante Informationen geladen.
- Compress/Komprimieren: Die Daten müssen verdichtet werden, weil die Kontextfenster begrenzt sind.
- Isolate/Isolieren: Komplexe Aufgaben werden aufgeteilt. Nicht ein KI-Agent erhält alle Daten, sondern es arbeiten einzelne Sub-Agenten in einer Kette hintereinandergeschaltet.
Was ist der Unterschied zwischen Context Engineering und Prompt Engineering?
Context Engineering und Prompt Engineering bewegen sich auf unterschiedlichen Abstraktionsebenen. Context Enginnering umfasst das gesamte Informationsfeld, das du dem KI-Modell zur Verfügung stellst. Du bestimmst damit, was das Kontextfenster des KI-Modells füllt. Mit Prompt Engineering optimierst du hingegen einzelne Anweisungen für eine ganz konkrete Aufgabe innerhalb dieses kuratierten Fensters. Prompt Engineering ist ein Teilbereich des Context Engineerings.
Wie beeinflusst Data Retrieval das Context Engineering?
Data Retrival (Datenabruf) meint den Prozess, bei dem gezielt auf Informationen in einer Datenquelle zugegriffen wird und diese herausgezogen werden. Gerade im Hinblick auf die riesigen Datenmengen, die uns heute zur Verfügung stehen – jeden Tag werden mehr als 400 Millionen Terrabyte an Daten erzeugt – ist die Beschaffung und Strukturierung von Daten eine der grössten Herausforderung. Damit ist Data Retrival ein wesentlicher Baustein des Context Engineering: Es bestimmt, welche Informationen in das Kontextfenster gelangen und beschafft diese. Mit Data Retrieval erreichst du also ein Höchstmass an Präzision, weil nur passende Informationen geladen werden.
Eine der wichtigsten Techniken, um Data Retrieval für LLMs zu nutzen, ist Retrieval Augmented Generation (RAG). Damit lassen sich die grossen Sprachmodelle mit externen Datenbanken verbinden und eben mehr Daten nutzen als die Trainingsdaten des KI-Modells.
Wie gelingt Context Engineering am besten?
Tipps für die Praxis
Damit du mit Context Engineering ein gutes Fundament für deine Arbeit mit LLMs baust, gilt es folgende Schritte zu beachten.
- Kontext sauber halten: Füttere das KI-Modell nicht mit ungefilterten und ungeprüften Daten.
- Kontext schichten: Teile die Informationen in verschiedene Ebenen auf – eine schlanke Core-Ebene, eine Projekt-Ebene mit spezifischen Anforderungen und eine On-Demand-Ebene mit spezialisierten Skills und Zusatzdaten.
- Aufgabe zerlegen: Teile grosse Anweisungen in kleinere Arbeitspakete. Jedes Paket erhält einen eigenen Kontext. So vermeidest du Kontextverwirrung.
Bewährt hat sich, mit einem grundlegenden RAG-Setup zu beginnen und modulare Werkzeuge zu nutzen, die einen einfachen Austausch ermöglichen. Betrachte Context Engineering als iterativen Prozess, sprich: Miss die Wirksamkeit deiner Techniken und optimiere deine Anweisungen und deinen Kontext beständig.
Tools für Context Engineering
Es gibt verschiedene Frameworks und Tools für Conetext Engineering, hier eine Auswahl:
- LangSmith: Beobachtet, bewertet und implementiert KI-Agenten und bietet vollständige Transparenz darüber, wie Kontext erstellt, abgerufen und genutzt wird.
- OvalEdge: Führt strukturierte und unstrukturierte Unternehmensdaten in einem einheitlichen Kontext zusammen.
- Atlan: Bereitet Daten, Semantik und Geschäftslogik für KI-Agenten und LLMs maschinenlesbar auf.
- DataHub: Verwaltet Metadaten, Datenherkunft, Verantwortlichkeiten und Qualitätsindikatoren mithilfe eines Open-Source-Kontextgraphen und eignet sich als zentraler Metadaten-Katalog.
Diese Skills brauchst du als Context Engineer
Um Context Engineering erfolgreich zu betreiben, brauchst du eine Mischung aus konzeptionellem Verständnis, Architektur-Wissen und praktischen Techniken. Du musst zunächst verstehen, wie gross die Kontextfenster von KI- und LLM-Modellen sind und wo die Grenzen der Modelle liegen. Du solltest wissen, wie sich Kontext schichten lässt, um zu vermeiden, dass Kontextfenster volllaufen oder «Kontext-Müll» entsteht. Du musst Kontextfehler erkennen können, also unglaubwürdige Daten herausfiltern und Relevantes von Irrelevantem trennen. Notwendig ist auch, deine Programmierkenntnisse zu vertiefen, um Frameworks zu entwickeln beziehungsweise zu nutzen und dich mit Retrieval-Technologien vertraut zu machen.