RAG & Wissensspeicher

In diesem Kapitel geht es darum, wie NOVA Wissen nutzen kann, ohne jedes Detail in Modellgewichte trainieren zu müssen. Dabei klären wir auch die wichtige Rollenverteilung: NOVA ist ein KI-System. MiniNovaLM ist ihr eigenes trainierbares Modell. RAG ist ihr Wissenszugriff. Ollama ist ein optionaler lokaler Sprachgenerator, den NOVA verwenden kann.

Abschnitt 8 von 1414.8

User-Wissen

Gemeinsames Wissen und persönliches Wissen

NOVA kann verschiedene Wissensbereiche haben. Gemeinsames Wissen gilt für alle User, zum Beispiel Kurskapitel oder allgemeine Projektinformationen. Persönliches Wissen gehört zu einem bestimmten User, zum Beispiel Uploads, private Notizen oder eigene URLs.

Diese Trennung ist wichtig. Eine persönliche Datei soll nicht automatisch für andere sichtbar oder auffindbar sein. Gleichzeitig soll gemeinsames Kurswissen allen zur Verfügung stehen.

Suchraum pro User

Suchraum = gemeinsames Wissen + persönliches Wissen des Users

NOVA sucht nur in Quellen, die für den aktuellen User passend freigegeben sind.

Praktisches Beispiel

Alle User können gemeinsames Kurswissen nutzen.

Deine eigenen Uploads werden deinem User-Kontext zugeordnet.

Bei einer Frage kombiniert NOVA beide Bereiche.

Die Antwort bleibt dadurch persönlich, aber sauber getrennt.

Checkpoint

User-scoped RAG macht NOVA persönlicher, ohne private und gemeinsame Quellen zu vermischen.

NOVA wird geladen...

NOVA Energie-Log

RTX-Verbrauch

NOVA schätzt hier, wie viel GPU-Energie deine Bildanalyse- und CUDA-Läufe bisher ungefähr verbraucht haben.

Lade Energie-Daten...