Das Ultimative KI-Architektur-Dashboard

Vom simplen stochastischen Zufall (Markov) über neuronale Repräsentationen bis hin zu autonomen agentischen Systemen der Gegenwart.

Der stochastische Ursprung

Eine klassische Markov-Kette speichert feste Zustandsübergänge. Die Wahrscheinlichkeit des Folgezustands basiert ausschließlich auf der Gegenwart:

P(X_{t+1} \mid X_t, X_{t-1}, \dots) = P(X_{t+1} \mid X_t)

Bei Sprache führt dies ohne tiefen Kontext ("Gedächtnislosigkeit") sofort zu Kauderwelsch, da höhere Ordnungen im Speicher exponentiell explodieren.

Zustandsübergänge (1. Ordnung)

Ich bin müde

Die simulierte Kette

Ein Transformer-Netzwerk nutzt mathematische Matrizen-Multiplikation (Attention), um unbegrenzten Kontext zeitgleich zu gewichten:

ext{Attention}(Q,K,V) = ext{softmax}\left( rac{QK^T}{\sqrt{d_k}} ight)V

Obwohl die Berechnung dynamisch verläuft, ist die Textgenerierung am Ende autoregressiv: Das generierte Token wird sofort an den Kontext angehängt. Es verhält sich makroskopisch exakt wie eine Kette stetig wachsender Zustände.

Autoregressiver Aufmerksamkeits-Loop

Der Himmel ist Self-Attention Schicht -> blau (85%)

Das biologische Vorbild

Künstliche Neuronen verarbeiten Daten über Schichten hinweg. Ein Fehler wird am Ende über eine Loss-Funktion berechnet und mittels Backpropagation (Kettenregel) rückwärts durch das Netz geschleust, um Gewichte anzupassen.

y = f\left(\sum x_i w_i + b ight)

Das Netz lernt dadurch ohne menschliche Vorgabe eigenständig Abstraktionen (Kanten -> Formen -> Objekte).

Deep Layer Repräsentation

Semantik wird Geometrie

Ein Vektor-Embedding übersetzt Wörter oder Sätze in hochdimensionale Zahlenkolonnen (z.B. 1536 Dimensionen).

Der Clou: Bedeutungsnähe wird zu geometrischer Nähe im Raum. Rechner bestimmen Verwandtschaften blitzschnell via Kosinus-Ähnlichkeit:

ext{Similarity} = rac{A \cdot B}{\|A\| \|B\|}

So weiß das System ohne Wörterbuch-Definition, dass "König" und "Königin" nahezu denselben Vektorraum-Cluster besetzen.

Semantischer Vektorraum (reduziert auf 2D)

König Königin Apfel Banane

Das Open-Book-Verfahren

Ein LLM halluziniert und hat einen festen Wissens-Cutoff. RAG bricht diese Isolation auf, indem dem Prompt dynamisch Fakten aus einer externen Datenbank injiziert werden.

  1. Query: Nutzer stellt eine Frage.
  2. Retrieval: Suche nach passenden Dokumenten-Embeddings in einer Vektordatenbank.
  3. Augmentation & Generation: Fakten werden in den Prompt integriert, das LLM formuliert fehlerfrei.

RAG Pipeline-Architektur

1. User Prompt 2. Vector Search Vektordatenbank 3. LLM Generation

Vollwertige Autonomie

Agentic AI verwandelt ein reaktives LLM in ein zielgerichtetes System, das eigenständig Handlungspläne entwirft, externe Tools steuert und Fehler korrigiert.

  • Planning: Aufgaben in Teilschritte zerlegen.
  • Memory: Kontext- & Langzeitgedächtnis nutzen.
  • Tools: APIs aufrufen, Code ausführen, Web-Search.
  • Reflection: Fehler im Output autonom nachbessern.

Der autonome Agenten-Loop

LLM Core Planning Memory Tools (APIs) Reflection