Kapitel 14
RAG & Wissensspeicher
In diesem Kapitel geht es darum, wie NOVA Wissen nutzen kann, ohne jedes Detail in Modellgewichte trainieren zu mßssen. Dabei klären wir auch die wichtige Rollenverteilung: NOVA ist ein KI-System. MiniNovaLM ist ihr eigenes trainierbares Modell. RAG ist ihr Wissenszugriff. Ollama ist ein optionaler lokaler Sprachgenerator, den NOVA verwenden kann.
Keyword-Retrieval
Die erste Form der Suche: WĂśrter vergleichen
Keyword-Retrieval sucht nach Begriffen. Die Frage wird in wichtige WĂśrter zerlegt, und diese WĂśrter werden mit den gespeicherten Chunks verglichen.
Ein Treffer im Titel kann wichtiger sein als ein Treffer irgendwo im FlieĂtext. Ein Treffer in Tags oder Quellnamen kann ebenfalls hĂśher gewichtet werden. Daraus entsteht ein Score, also eine Relevanzbewertung.
Vereinfachtes Scoring
Je besser ein Chunk zur Frage passt, desto hĂśher landet er in der Trefferliste.
Stärken
- ⢠leicht verständlich
- ⢠schnell
- ⢠gut debugbar
- ⢠funktioniert gut bei klaren Begriffen
Grenzen
- ⢠versteht Synonyme nur begrenzt
- ⢠findet Bedeutung nicht direkt
- ⢠hängt stark von Wortwahl ab
- ⢠kann passende Stellen ßbersehen
Checkpoint
Keyword-Retrieval ist didaktisch wichtig, weil man sehen kann, warum ein Treffer gefunden wurde.
NOVA Energie-Log
RTX-Verbrauch
NOVA schätzt hier, wie viel GPU-Energie deine Bildanalyse- und CUDA-Läufe bisher ungefähr verbraucht haben.
Lade Energie-Daten...