Definición

Vista previa del material en texto

Definición
La regresión logística es un modelo estadístico para estudiar las relaciones entre un conjunto de variables cualitativas Xi y una variable cualitativa Y. Se trata de un modelo lineal generalizado que utiliza una función logística como función de enlace.
Un modelo de regresión logística también permite predecir la probabilidad de que ocurra un evento (valor de 1) o no (valor de 0) a partir de la optimización de los coeficientes de regresión. Este resultado siempre varía entre 0 y 1. Cuando el valor predicho supera un umbral, es probable que ocurra el evento, mientras que cuando ese valor está por debajo del mismo umbral, no es así.
Considérons une entrée  X= x1 x2 x3 …  xn , la régression logistique a pour objectif de trouver une fonction h telle que nous puissions calculer :
y= {1   si   hX≥ seuil ,  0   si   hX< seuil}  
Por tanto, entendemos que se espera que nuestra función h sea ​​una probabilidad entre 0 y 1, parametrada por = 1 2 3 n para optimizar, y que el umbral que definimos corresponda a nuestro criterio de clasificación, por lo general se toma como igual a 0,5.
La función que mejor cumple estas condiciones es la función sigmoide, definida en R con valores en [0,1]. Se escribe de la siguiente manera :
Gráficamente, esto corresponde a una curva en forma de S cuyos límites son 0 y 1 cuando x tiende respectivamente a – y + ∞ pasando por y = 0,5 en x = 0.
Función sigmoide
La función h que define la regresión logística se escribe entonces :
Todo el problema de la clasificación por regresión logística aparece entonces como un simple problema de optimización en el que, a partir de los datos, tratamos de obtener el mejor conjunto de parámetros Θ lo que permite que nuestra curva sigmoide se adhiera lo mejor posible a los datos. Aquí es donde entra el Machine Learning.
Solo queda, una vez definido el umbral, clasificar los puntos según sus posiciones en relación con la regresión y ya tenemos nuestra clasificación hecha.