Wie falsch ist falsch? (Loss)
Bevor ein Modell besser werden kann, muss „schlecht“ eine Zahl sein: Ziehe eine Gerade durch die Punktwolke, sieh jeden Fehler als Balken — und drücke den Loss unter 5.
👋 HerrKI hier — heute machen wir aus „irgendwie daneben“ eine Zahl
🧭 Einfach gesagt: Jede Abweichung zwischen Vorhersage und echtem Wert wird quadriert und gemittelt — so wird „daneben“ zu einer einzigen Zahl.
In „Was ist ein Neuronales Netz?“ hast du gesehen, WORAUS ein Netz besteht. Aber woher weiß das Netz, ob seine Antworten gut sind? Ganz einfach: gar nicht — solange niemand den Fehler misst. Genau das lernst du jetzt. Und du wirst danach jede „Loss-Kurve“ in diesem Kurs lesen können wie ein Profi.
- ✅ Warum ein Modell ohne Loss gar nicht wissen kann, ob es gut ist
- ✅ Wie aus vielen Einzelfehlern eine einzige Zahl wird
- ✅ Warum Fehler quadriert oder als Betrag genommen werden — sonst heben sie sich auf
- ✅ Den Unterschied zwischen MSE und MAE — und was ein Ausreißer damit anstellt
- ✅ Wie derselbe Weg als Tensor-Operation aussieht: subtrahieren, quadrieren, mitteln
Ein Beispiel aus dem Alltag
Eine Pflanze wächst umso mehr, je mehr Wasser sie bekommt (kennst du aus Kapitel „Lineare Regression“ — falls nicht: kommt gleich danach!). Du hast 12 Messungen und legst eine Gerade als „Modell“ hindurch: Wachstum = Steigung × Wasser + Start. Aber welche Gerade ist die beste? Dafür brauchen wir eine Fehler-Zahl: den Loss.
📏 Zieh die Gerade — und drück den Loss unter 5,0
Fass die beiden blauen Griffe an (Maus oder Finger) und verschiebe die Gerade. Jeder rote Balken ist der Fehler eines Punktes. Oben läuft das Loss-Thermometer mit.
Was du gerade berechnet hast
1Für jeden Punkt: Fehler = Vorhersage − echter Wert (der rote Balken)
2Fehler dürfen sich nicht gegenseitig aufheben (+3 und −3 sind BEIDE schlecht) → quadrieren (MSE) oder Betrag nehmen (MAE)
3Mittelwert über alle Punkte → EINE Zahl: der Loss
MSE oder MAE — und der Ausreißer
Im Diagramm gibt es einen orangenen Sonderpunkt: den kannst du senkrecht verschieben. Zieh ihn mal weit nach oben und schalte zwischen MSE und MAE um:
🔬 Runter zum Tensor
Für den Computer sind deine 12 Messungen natürlich Tensoren (Kapitel „Excel/CSV → Tensoren“). Rechnen wir den Loss einmal von Hand — zum Mitrechnen auf 4 der 12 Messungen verkleinert, mit der Geraden Wachstum = 0,45 × Wasser + 9:
Und jetzt der orange Ausreißer aus dem Diagramm dazu — gleiche Gerade, eine Messung mehr:
So heißt derselbe Weg in TensorFlow.js („Tensor-Operationen“) — nur eben mit allen 12 Werten: aus [12] Vorhersagen werden [12] Differenzen, [12] Quadrate, und ganz am Ende eine einzige Zahl ohne jede Achse:
Mehr steckt hinter dem geheimnisvollen „Loss“ nicht: subtrahieren, quadrieren, mitteln.
Zurück zur Anwendung
Wenn du im nächsten Kapitel model.fit() aufrufst, tut TensorFlow genau das, was du eben von
Hand gemacht hast: Es berechnet diese eine Zahl — und verschiebt die Gerade dann Schritt für Schritt so,
dass die Zahl kleiner wird. WIE es die richtige Richtung findet, ohne zu raten? Das ist
der geniale Trick im nächsten Kapitel. 🏔️
📚 Zum Weiterlesen
- Wenn MSE nicht passt: Michael Nielsen, Neural Networks and Deep Learning, Kapitel 3 — neuralnetworksanddeeplearning.com/chap3.html — zeigt, warum es neben dem quadrierten Fehler noch die Cross-Entropy gibt und wann sie besser lernt.
- Kurz und praktisch: Google Machine Learning Crash Course, Loss — developers.google.com/machine-learning/crash-course — dieselbe Rechnung noch einmal in zehn Minuten, mit MSE und MAE nebeneinander.
- Das Lehrbuch dazu: Goodfellow, Bengio, Courville, Deep Learning, Kapitel 5 „Machine Learning Basics“ — deeplearningbook.org/contents/ml.html — ordnet den Loss in den großen Rahmen ein: Kostenfunktion, Schätzer, Verallgemeinerung.
- Auf HerrKI: 118 — Gradient Descent zum Anfassen
(was mit dieser Zahl passiert) und 060 — Tensor-Operationen
(
sub,square,meanim Detail)
🧠 Kurzer Check — hast du es?
✅ Das nimmst du mit
- Ohne Loss kann kein Modell besser werden. Erst wenn „schlecht“ eine Zahl ist, gibt es überhaupt eine Richtung für „besser“.
- Fehler dürfen sich nicht gegenseitig aufheben. +3 und −3 ergäben im Schnitt 0 — deshalb quadrieren (MSE) oder den Betrag nehmen (MAE).
- Aus vielen Einzelfehlern wird EINE Zahl. Subtrahieren, quadrieren, mitteln — als Tensor-Kette
sub()→square()→mean(). - MSE bestraft Ausreißer überproportional. Aus „9 daneben“ werden 81 Strafpunkte: ein einziger Punkt zieht die ganze Gerade zu sich herüber.
- Die Fehlerformel ist eine Design-Entscheidung. Verrauschte Daten mit Ausreißern → eher MAE. Keine Naturkonstante, sondern deine Wahl.
📎 So zitierst du dieses Kapitel
HerrKI: Wie falsch ist falsch? (Loss). herrki.de/115_fehler_messen, ein privates Hobbyprojekt von Terragon.de, abgerufen am 4. November 2026.
Lizenz: CC BY 4.0 — frei nutzen, teilen, anpassen. Nennung: „HerrKI (herrki.de), ein privates Hobbyprojekt von Terragon.de“.
