15 mars 2023

Repose sur la prédiction

Un programme apprend de l’expérience E par rapport à une Tache T et mesurée par des performances P

Apprentissages supervisés et non supervisé disponibles la grande majorité est supervisée. On donne des entrées x (Features) et de sortie y (Target).

on cherche donc $Y=f(X)$

→ Usage de la classification et régression

Machine learning et big data sont interdépendants

Droite de régression (linéaire) → modèle de régression fonction quadratique (polynomiale de degré 2) (non linéaire) → modèle de régression polynomiale

Clustering: Séparer une population en groupe Association: Découvrir les relations intéressantes entre =/= variables

💡 On veut choisir a et b tant que $f(x)$ est proche de $y$ pour tous les exemples $(x,y)$ $J(a,b)=\frac{1}{2m}{\sum }_{i=1}^m(f(x^i)-y^i){)}^2$

On utilise le Gradient Descent qui est une fonction qui converge vers le minimum.

💡Dans le cas de dérive sur $b$, vu que $b$ est la constante on a pas le $x^i$

Le gradient:

$$\frac{\delta J(\theta )}{\delta \theta }=\left[\begin{array}{c}\frac{\delta J}{\delta a}\\ \frac{\delta J}{\delta b}\end{array}\right]:Vecteur((n+1)\ast 1)$$

Soit $X\theta$ le modèle

$$\frac{\delta J(\theta )}{\delta \theta }=\frac{1}{m}{X}^t(X\theta -Y)$$

Ce qui peut être traduit par:

$$\frac{1}{m}\left[\begin{array}{cccc}{x}_1& x_2& ...& x_m\\ 1& 1& ...& 1\end{array}\right](\left[\begin{array}{c}xa+b\\ ..\\ xa+b\end{array}\right]-\left[\begin{array}{c}{y}_1\\ ...\\ y_m\end{array}\right])=\left[\begin{array}{c}\frac{1}{m}{\sum }^{i}x((x^{i}a+b)-y^i)\\ \frac{1}{m}{\sum }^i((x^{i}a+b)-y^i)\end{array}\right]$$

On a donc le gradient Descendant: $\theta :=\theta -\alpha \frac{\delta J(\theta )}{\delta J(\theta )}$