Kapitel 14
RAG & Wissensspeicher
In diesem Kapitel geht es darum, wie NOVA Wissen nutzen kann, ohne jedes Detail in Modellgewichte trainieren zu mßssen. Dabei klären wir auch die wichtige Rollenverteilung: NOVA ist ein KI-System. MiniNovaLM ist ihr eigenes trainierbares Modell. RAG ist ihr Wissenszugriff. Ollama ist ein optionaler lokaler Sprachgenerator, den NOVA verwenden kann.
Vektor-Similarity
Wie ähnliche Bedeutungen gefunden werden
Wenn Frage und Chunks als Vektoren vorliegen, braucht das System ein MaĂ fĂźr Ăhnlichkeit. Häufig wird verglichen, ob zwei Vektoren in eine ähnliche Richtung zeigen.
Ăhnlichkeit
Je ähnlicher die Bedeutung, desto eher sollte der Chunk zur Frage passen.
Damit kann NOVA später nicht nur gleiche WÜrter finden, sondern inhaltlich passende Abschnitte. Das ist besonders bei offenen Fragen oder unterschiedlichen Formulierungen hilfreich.
Keyword-Suche
- ⢠vergleicht WÜrter
- ⢠einfach und transparent
- ⢠gut fßr genaue Begriffe
Vektorsuche
- ⢠vergleicht Bedeutung
- ⢠findet ähnliche Formulierungen
- ⢠besser fßr offene Fragen
Checkpoint
Vektorsuche ist der Schritt von Worttreffern zu Bedeutungstreffern.
NOVA Energie-Log
RTX-Verbrauch
NOVA schätzt hier, wie viel GPU-Energie deine Bildanalyse- und CUDA-Läufe bisher ungefähr verbraucht haben.
Lade Energie-Daten...