Mathématiques 2: Statistiques:
Statistiques à deux variables
Regression
Méthode des moindres carrés

Méthode des moindres carrés

La méthode des moindres carrés est très utilisée pour trouver la courbe la plus représentative s'une série statistique, qui est la courbe de régression.

Cette méthode repose sur le fait suivant:

 La somme des carrés des résidus est minimale.

Le résidu est l'écart ou la distance entre un point du nuage et  sa  projection verticale parallèlement à l'axe oy, sur la courbe de régression.

Les valeurs du nuages sont les valeurs observées ou calculées (xi, yi).

Les valeurs sur la droite sont les valeurs calculées ou prédites (x, y).

$$\color{blue}{\bf\text{Cette droite passe toujours par le point} \text{ }\\ \text{moyen M(}\bar{x}, \bar {y}) \text{de la série.}} \text{ }\\ \text{ }\\ \Large\color{blue}{\bar{x} = \frac {\sum_{i=1}^n x_i}{n}} \text{ }\\\text{ }\\ \Large\color{blue}{\bar{y} = \frac {\sum_{i=1}^n y_i}{n}}$$
n est le nombre de points du nuage de la série ordonnée selon les xi.

Notons S cette somme des carrées des résidus. Nous avons:
$$\color{purple}{\large\bf{ S = \sum_{i=1}^n (yi - y)^2}}$$
L'expression fonctionnelle de y est l'équation de la courbe de régression. Elle dépend des valeurs xi, qui sont les abscisses des points du nuage de points, et des paramètres aj à calculer y = f(xi, aj)

On doit donc minimiser S relativement aux paramètres aj cherchés.

$$\begin{cases}\color{maroon}{\bf\large {\frac{\partial S}{\partial aj} = 0 }} \end{cases} \text { } \\ $$
Une fois les paramètres aj sont calculés, il reste juste à les insérer dans l'équation de la courbe y = f(x,aj).

Cette équation est l'équation de la courbe de régression.