Kapitel 14
RAG & Wissensspeicher
In diesem Kapitel geht es darum, wie NOVA Wissen nutzen kann, ohne jedes Detail in Modellgewichte trainieren zu mßssen. Dabei klären wir auch die wichtige Rollenverteilung: NOVA ist ein KI-System. MiniNovaLM ist ihr eigenes trainierbares Modell. RAG ist ihr Wissenszugriff. Ollama ist ein optionaler lokaler Sprachgenerator, den NOVA verwenden kann.
Labor-Erklärung
Von der Theorie zur PrĂźfung am System
Im Labor wird das Kapitel praktisch. Dort kannst du Fragen stellen, Quellen prĂźfen und vergleichen, wie unterschiedliche Antwortmodi mit demselben Wissen umgehen.
Der wichtigste Lernpunkt ist nicht, ob eine Antwort schĂśn klingt. Der wichtigste Lernpunkt ist, ob die Antwort aus den richtigen Quellen entsteht.
In diesem Kapitel
- ⢠RAG-Grundidee verstehen
- ⢠Chunking und Retrieval einordnen
- ⢠Ollama richtig einordnen
- ⢠NOVA als KI-System verstehen
- ⢠Fehlerquellen erkennen
Im Labor
- ⢠Fragen stellen
- ⢠Quellen vergleichen
- ⢠Antwortmodi prßfen
- ⢠RAG-Fehler sichtbar machen
- ⢠Systemverhalten beobachten
Checkpoint
Das Labor prĂźft die ganze Kette: Findet NOVA die richtigen Quellen, baut sie den passenden Kontext, und nutzt der Generator diesen Kontext sauber?
NOVA Energie-Log
RTX-Verbrauch
NOVA schätzt hier, wie viel GPU-Energie deine Bildanalyse- und CUDA-Läufe bisher ungefähr verbraucht haben.
Lade Energie-Daten...