HerrKI mit seinem RoboterHerrKI KI verstehen · nachbauen · anwenden ⭐ 0 XP

Exponentielle Regression

Tiefe Netze approximieren komplexe exponentielle Zusammenhänge.

👋 HerrKI hier — heute stapeln wir: dein erstes Deep Neural Network!

Stell dir vor, du entdeckst 10 Blattläuse an deiner Tomatenpflanze. „Ach, nur zehn“, denkst du. Drei Tage später sind es 80. Nach einer Woche über tausend. 🐛 Willkommen beim exponentiellen Wachstum — derselben Mathematik, die auch virale Posts und Zinseszins explodieren lässt. Und die ist für ein flaches Netz richtig schwer. Heute baust du deshalb zum ersten Mal mehrere Hidden Layers übereinander: ein echtes Deep Neural Network. 🏗️

🎯 Das nimmst du mit:
  • Wie man mehrere Hidden Layers stapelt — und warum „Deep“ genau das heißt
  • Warum tiefe Netze komplexere Muster lernen können (Feature-Hierarchie: einfach → abstrakt)
  • Wie du eine Architektur wählst (wie viele Layer? wie viele Neuronen?)
  • Wie viele trainierbare Zahlen so ein Netz wirklich hat (gleich zählen wir nach!)

📊 Die mathematische Beziehung:

Schädlinge(t) = Startanzahl × Vermehrungsrate^Tage

Beispiel: 10 Blattläuse × 2,0³ = 80 Blattläuse nach 3 Tagen — keine Gerade, keine sanfte Kurve, sondern eine Explosion. Genau daran scheitern einfache Modelle.

🎓 Dein Werkzeugkasten bis hierher — alles kommt heute zusammen

Dieses Kapitel erfindet fast nichts neu — es kombiniert alles, was du schon kannst, zu einem größeren Netz. Kurzer Blick in den Rucksack:

📦

Neuronale Netze

Du kannst schon:

  • Tensoren sind Zahlenpakete
  • Neuronen transformieren sie
  • Formel: y = x × w + b
🔄 Heute:
[3] Input → mehrere Layer → [1] Output
📈

Lineare Regression

Du kannst schon:

  • Ein Neuron lernt eine Gerade
  • Training = raten, messen, nachjustieren
🔄 Heute:
Exponentiell — mit einer Geraden chancenlos!
⚙️

Multiple Regression

Du kannst schon:

  • Mehrere Eingaben gleichzeitig
  • Lernrate = Schrittgröße
  • Adam = cleverer Optimizer
🔄 Heute:
3 Inputs — und wir drehen an den Hyperparametern!
🧠

Polynomiale Regression

Du kannst schon:

  • Hidden Layer + ReLU = Kurven lernen
  • Training vs. Inferenz
🔄 Heute:
Nicht EIN Hidden Layer — ZWEI übereinander!

🎯 Was ist heute wirklich neu?

  • 📊 3 Inputs statt 1: Startanzahl, Vermehrungsrate, Tage → [3]
  • 🧠 2 Hidden Layers: 64 und 32 Neuronen für verschachtelte Muster
  • 📈 Exponentielle Funktion: y = a × b^c — die härteste Kurve bisher
  • 🎲 Mehr Trainingsdaten: 500 simulierte Befalls-Experimente

🏗️ Netzwerk-Architektur für exponentielles Lernen

Verfolge den Weg der Zahlen — vom Blattlaus-Tensor bis zur Vorhersage. Das ist der rote Faden bis ganz nach unten: Jede Station ist nur „Tensor rein, Tensor raus“.

Tensor-Fluss durch das Netzwerk

📦
Input Layer
[3]
3 Features:
• Startanzahl
• Vermehrungsrate
• Tage
🧠
🧠
Hidden Layer 1
[64]
64 Neuronen (ReLU)
erkennt einfache Muster
🧠
🧠
Hidden Layer 2
[32]
32 Neuronen (ReLU)
kombiniert zu abstrakten Mustern
📦
Output Layer
[1]
Anzahl Schädlinge
nach x Tagen

📦 Tensor-Transformationen, Schritt für Schritt:

  1. Input: [3][10, 2.0, 5] (Startanzahl, Rate, Tage)
  2. Hidden Layer 1: [3][64] via 192 Gewichte
  3. ReLU: Negative Werte → 0 (die Nicht-Linearität!)
  4. Hidden Layer 2: [64][32] via 2.048 Gewichte
  5. ReLU: noch einmal nicht-linear verbiegen
  6. Output Layer: [32][1] via 32 Gewichte
  7. Ergebnis: ≈ 320 Schädlinge — die Explosion ist vorhergesagt!

Gesamt (mit Bias-Werten): 192 + 64 + 2.048 + 32 + 32 + 1 = 2.369 trainierbare Zahlen — und JEDE einzelne wird beim Training per „raten, messen, nachjustieren“ eingestellt.

🧪 Experimentier-Bereich: Hyperparameter anpassen

Jetzt bist du die Architektin: Wie tief, wie breit, wie schnell? Dreh an den Reglern und beobachte, was mit dem Lernerfolg passiert:

Trainingsdaten-Parameter:

Mehr Beispiele = stabileres Lernen

Netzwerk-Hyperparameter:

startet mit Zufalls-Gewichten
wie oft durch alle Daten?
0.0010 Schrittgröße beim Nachjustieren
💡 Forschungsaufträge (probier sie wirklich aus!):
  • 🐛 Teste: 10 Blattläuse, Vermehrungsrate 2,0 — wie viele nach 5 Tagen? (Kopfrechnung: 10 × 2⁵ = 320. Trifft dein Netz das?)
  • ⚙️ Architektur-Duell: 16 vs. 128 Neuronen in Layer 1 — lohnt sich „größer“ immer?
  • 📈 Lernraten-Extreme: 0,0001 (Schneckentempo) vs. 0,01 (Vollgas) — was geht schief?
  • 🔄 50 vs. 300 Epochen — ab wann wird das Modell kaum noch besser?
0%

🧠 Kurzer Check — hast du es?

1. Kopfrechnen wie im Kapitel: 10 Blattläuse, Verdopplung pro Tag — wie viele nach 5 Tagen?
2. Warum braucht exponentielles Wachstum ein tieferes Netz als die Parabel aus dem letzten Kapitel?
3. Trainiert wurde mit Tag 1–15. Jemand fragt nach Tag 100 — wie gut ist die Vorhersage?

Stark! 🎉 Du kannst jetzt Zahlen vorhersagen — sogar explodierende.

Als Nächstes lernt dein Netz etwas ganz anderes: Entscheidungen treffenweiter zur binären Klassifikation.