R-carré ajusté

Le R-carré ajusté évalue l’ajustement d’un modèle de régression, en tenant compte du nombre de prédicteurs pour éviter le surapprentissage. Contrairement au R-carré, il n’augmente que lorsque des prédicteurs significatifs sont ajoutés. Essentiel dans l’analyse de régression, il aide à la sélection et à l’évaluation des modèles dans des domaines comme la finance.

Le R-carré ajusté est une mesure statistique utilisée pour évaluer la qualité d’ajustement d’un modèle de régression. Il s’agit d’une version modifiée du R-carré (ou coefficient de détermination) qui prend en compte le nombre de prédicteurs du modèle. Contrairement au R-carré, qui peut augmenter artificiellement avec l’ajout de variables indépendantes, le R-carré ajusté s’ajuste pour le nombre de prédicteurs, offrant une mesure plus précise du pouvoir explicatif d’un modèle. Il n’augmente que si le nouveau prédicteur améliore le pouvoir prédictif du modèle plus que ce qui est attendu par hasard, et diminue lorsqu’un prédicteur n’apporte pas de valeur significative.

Comprendre le concept

R-carré vs. R-carré ajusté

• R-carré : Représente la proportion de la variance de la variable dépendante qui est prévisible à partir des variables indépendantes. Il est calculé comme le rapport de la variance expliquée sur la variance totale et varie de 0 à 1, où 1 indique que le modèle explique toute la variabilité des données de réponse autour de leur moyenne.
• R-carré ajusté : Cette mesure ajuste la valeur du R-carré en fonction du nombre de prédicteurs du modèle. L’ajustement permet de tenir compte du risque de surapprentissage qui peut survenir lorsque trop de prédicteurs sont inclus. Le R-carré ajusté est toujours inférieur ou égal au R-carré et peut être négatif, indiquant que le modèle est moins bon qu’une droite horizontale passant par la moyenne de la variable dépendante.

Formule mathématique

La formule du R-carré ajusté est :

[ \text{R}^2 \text{ ajusté} = 1 – \left( \frac{1-R^2}{n-k-1} \right) \times (n-1) ]

Où :

• ( R^2 ) est le R-carré,
• ( n ) est le nombre d’observations,
• ( k ) est le nombre de variables indépendantes (prédicteurs).

Importance dans l’analyse de régression

Le R-carré ajusté est crucial dans l’analyse de régression, en particulier lors de l’utilisation de modèles de régression multiple, où plusieurs variables indépendantes sont incluses. Il permet de déterminer quelles variables apportent une information significative et lesquelles ne le font pas. Cela devient particulièrement important dans des domaines comme la finance, l’économie et la science des données, où la modélisation prédictive est essentielle.

Surapprentissage et complexité du modèle

L’un des principaux avantages du R-carré ajusté est sa capacité à pénaliser l’ajout de prédicteurs non significatifs. Ajouter plus de variables à un modèle de régression augmente généralement le R-carré, car il est probable que du bruit aléatoire soit capturé. Cependant, le R-carré ajusté n’augmente que si la variable ajoutée améliore le pouvoir prédictif du modèle, évitant ainsi le surapprentissage.

Cas d’usage et exemples

Utilisation en apprentissage automatique

En apprentissage automatique, le R-carré ajusté est utilisé pour évaluer les performances des modèles de régression. Il est particulièrement utile lors de la sélection des variables, étape clé de l’optimisation du modèle. Grâce au R-carré ajusté, les data scientists peuvent s’assurer que seules les caractéristiques apportant réellement à la précision du modèle sont incluses.

Application en finance

En finance, le R-carré ajusté est souvent utilisé pour comparer la performance de portefeuilles d’investissement par rapport à un indice de référence. En tenant compte du nombre de variables, les investisseurs peuvent mieux comprendre dans quelle mesure le rendement d’un portefeuille s’explique par divers facteurs économiques.

Exemple simple

Considérons un modèle prédisant les prix de l’immobilier en fonction de la surface et du nombre de chambres. Initialement, le modèle présente une valeur de R-carré élevée, suggérant un bon ajustement. Cependant, si l’on ajoute des variables sans rapport, comme la couleur de la porte d’entrée, le R-carré peut rester élevé. Dans ce cas, le R-carré ajusté diminuerait, indiquant que les nouvelles variables n’améliorent pas le pouvoir prédictif du modèle.

Exemple détaillé

Selon un guide de la Corporate Finance Institute, considérons deux modèles de régression pour prédire le prix d’une pizza. Le premier modèle utilise uniquement le prix de la pâte comme variable d’entrée, donnant un R-carré de 0,9557 et un R-carré ajusté de 0,9493. Un second modèle ajoute la température comme deuxième variable d’entrée, obtenant un R-carré de 0,9573 mais un R-carré ajusté inférieur de 0,9431. Le R-carré ajusté indique correctement que la température n’améliore pas le pouvoir prédictif du modèle, guidant les analystes à préférer le premier modèle.

Comparaison avec d’autres mesures

Bien que le R-carré et le R-carré ajusté servent tous deux à mesurer la qualité d’ajustement d’un modèle, ils ne sont pas interchangeables et ont des objectifs différents. Le R-carré peut être plus approprié pour une régression linéaire simple avec une seule variable indépendante, tandis que le R-carré ajusté convient mieux aux modèles de régression multiple avec plusieurs prédicteurs.