Masterclass ¡ Kapitel 20
Training from Scratch
Loss, Backpropagation, Optimizer und CUDA
Du verstehst den tatsächlichen Lernprozess: Forward Pass, Fehler, Gradienten, Gewichtsanpassung und warum GPU-Training dafßr sinnvoll ist.
Diese Masterclass verbindet Theorie, Mathematik und echten NOVA-Code. Sie zeigt nicht nur, was ein Konzept bedeutet, sondern wo es in unserer Vision-Forge-Pipeline auftaucht.
Abschnitt 4 von 5Kapitel 20
20.4 Backpropagation und Optimizer
Backpropagation und Optimizer
Backpropagation berechnet, welche Gewichte wie stark zum Fehler beigetragen haben.
Der Optimizer benutzt diese Gradienten, um die Gewichte minimal zu verändern.
Viele kleine Korrekturen Ăźber viele Batches ergeben den gelernten Checkpoint.
Mathematischer Kern
âθ Loss = Gradient des Fehlers nach den Gewichten
θ_neu = θ_alt - learning_rate ¡ âθ Loss
Trainingsschritt
optimizer.zero_grad(set_to_none=True)
scaler.scale(loss).backward()
scaler.step(optimizer)
scaler.update()NOVA wird geladen...
NOVA Energie-Log
RTX-Verbrauch
NOVA schätzt hier, wie viel GPU-Energie deine Bildanalyse- und CUDA-Läufe bisher ungefähr verbraucht haben.
Lade Energie-Daten...