Statistische Inferenz¶
Statistische Inferenz bedeutet, von einer Stichprobe auf eine Grundgesamtheit zu schließen und dabei die damit verbundene Unsicherheit ehrlich anzugeben. Die deskriptive Statistik fasst die vorliegenden Daten zusammen; die Inferenz fragt, was diese Daten über sich selbst hinaus aussagen.
Dieser Teil konzentriert sich auf den klassischen, frequentistischen Ansatz: Parameter sind feste, aber unbekannte Konstanten, und Wahrscheinlichkeitsaussagen beziehen sich darauf, was bei wiederholter Stichprobenziehung geschehen würde. Er beginnt bei Zufallsvariablen und endet mit der linearen und der logistischen Regression, den beiden Modellen, die direkt zum Machine Learning überleiten.
Inhalt¶
- Grundlagen: Zufallsvariablen, Erwartungswert und Varianz, wichtige Verteilungen, Stichproben und der zentrale Grenzwertsatz.
- Schätzen: Punktschätzer und ihre Eigenschaften, Konfidenzintervalle, Maximum-Likelihood.
- Hypothesentests: Null- und Alternativhypothese, p-Werte, Fehler 1. und 2. Art, gängige Tests, multiples Testen.
- Lineare Regression: das lineare Modell, Kleinste-Quadrate-Schätzung, Annahmen und Interpretation.
- Logistische Regression: Modellierung binärer Ergebnisse, Odds Ratios und Maximum-Likelihood-Schätzung.
Und die Bayes-Statistik?
Im bayesianischen Ansatz werden Parameter als Zufallsgrößen behandelt. Vorwissen in Form einer Wahrscheinlichkeitsverteilung (Prior) wird mit dem Satz von Bayes anhand der Daten zu einer A-posteriori-Verteilung aktualisiert. Dieses Wiki behandelt derzeit nur den frequentistischen Ansatz; ein Abschnitt zur Bayes-Statistik kann folgen.
Notation in diesem Teil
\(X\) bezeichnet eine Zufallsvariable, \(x\) einen beobachteten Wert. Griechische Buchstaben (\(\mu, \sigma, \theta, \beta\)) stehen für Parameter der Grundgesamtheit, ein Dach kennzeichnet einen Schätzwert (\(\hat\theta\)). Der Buchstabe \(\sigma\) bezeichnet eine Standardabweichung, außer in \(\sigma(\cdot)\), womit die logistische Funktion (Sigmoid) gemeint ist.
Wie es weitergeht¶
Mit der logistischen Regression endet dieser Teil. Das Machine Learning verwendet viele derselben Modelle, verschiebt aber das Ziel: von der Erklärung von Effekten zur Vorhersage neuer Beobachtungen.