RAG & Wissensspeicher

In diesem Kapitel geht es darum, wie NOVA Wissen nutzen kann, ohne jedes Detail in Modellgewichte trainieren zu müssen. Dabei klären wir auch die wichtige Rollenverteilung: NOVA ist ein KI-System. MiniNovaLM ist ihr eigenes trainierbares Modell. RAG ist ihr Wissenszugriff. Ollama ist ein optionaler lokaler Sprachgenerator, den NOVA verwenden kann.

Abschnitt 5 von 1414.5

Embeddings

Bedeutung als Vektor darstellen

Keyword-Suche vergleicht Wörter. Embeddings gehen einen Schritt weiter: Sie übersetzen Text in Zahlenvektoren. Diese Vektoren sollen die Bedeutung eines Textes darstellen.

Dadurch können zwei Texte ähnlich sein, auch wenn sie unterschiedliche Wörter benutzen. Das ist wichtig, weil Menschen dieselbe Sache oft verschieden formulieren.

Embedding

Text → Vektor im Bedeutungsraum

Ein Textabschnitt wird mathematisch so dargestellt, dass ähnliche Bedeutungen nahe beieinanderliegen können.

Warum das hilfreich ist

Frage: Wie merkt sich NOVA Wissen?

Passende Quelle: NOVA speichert Informationen in einer Knowledge Base.

Keyword-Suche findet vielleicht nur direkte Wortüberschneidungen.

Embedding-Suche erkennt eher den Bedeutungszusammenhang.

Checkpoint

Embeddings verbessern die Suche, weil sie Bedeutung vergleichbar machen.

NOVA wird geladen...

NOVA Energie-Log

RTX-Verbrauch

NOVA schätzt hier, wie viel GPU-Energie deine Bildanalyse- und CUDA-Läufe bisher ungefähr verbraucht haben.

Lade Energie-Daten...