Kapitel 14
RAG & Wissensspeicher
In diesem Kapitel geht es darum, wie NOVA Wissen nutzen kann, ohne jedes Detail in Modellgewichte trainieren zu mßssen. Dabei klären wir auch die wichtige Rollenverteilung: NOVA ist ein KI-System. MiniNovaLM ist ihr eigenes trainierbares Modell. RAG ist ihr Wissenszugriff. Ollama ist ein optionaler lokaler Sprachgenerator, den NOVA verwenden kann.
NOVA Architektur
NOVA ist ein KI-System aus mehreren Schichten
NOVA ist nicht nur ein einzelnes Modell und nicht nur ein Chatfenster. NOVA ist eine Architektur aus mehreren Schichten: Zustand, Tokenisierung, Daten, Training, MiniNovaLM, Safety, RAG, Wissensspeicher und optionalen Generatoren wie Ollama.
Diese Trennung ist wichtig. Wenn die Suche verbessert wird, muss nicht automatisch das Modell verändert werden. Wenn ein anderer Generator genutzt wird, bleibt der Wissensspeicher derselbe. Wenn MiniNovaLM weiter trainiert wird, bleibt RAG trotzdem als Wissenszugriff erhalten.
NOVA Core
Hält Oberfläche, Zustand, Lernstand, Missionslogik und Systemsteuerung zusammen.
MiniNovaLM
NOVAs eigenes kleines trainierbares Sprachmodell mit Tokenizer, Dataset, Training und Checkpoints.
RAG
Sucht gemeinsames und persĂśnliches Wissen und baut daraus Kontext fĂźr Antworten.
Ollama
Optionaler lokaler Generator, der aus NOVAs Kontext natĂźrlichere Antworten formulieren kann.
Ablauf einer RAG-Frage
Checkpoint
NOVA ist die KI-Architektur. MiniNovaLM ist ihr eigenes lernendes Modell. RAG ist ihr Wissenszugriff. Ollama ist ein optionaler lokaler Generator.
NOVA Energie-Log
RTX-Verbrauch
NOVA schätzt hier, wie viel GPU-Energie deine Bildanalyse- und CUDA-Läufe bisher ungefähr verbraucht haben.
Lade Energie-Daten...