Optimiser les hyperparamètres du modèle

Cet article décrit comment utiliser le composant Optimiser les hyperparamètres du modèle dans le concepteur Azure Machine Learning. L’objectif est de déterminer les hyperparamètres optimaux pour un modèle Machine Learning. Le composant génère et teste plusieurs modèles avec différentes combinaisons de paramètres. Il compare les métriques à tous les modèles pour obtenir les combinaisons de paramètres.

Les termes paramètre et hyperparamètre peuvent prêter à confusion. Les paramètres du modèle sont ce que vous définissez dans le volet de droite du composant. Ce composant effectue essentiellement un balayage de paramètres sur les réglages de paramètres spécifiés. Il apprend un ensemble optimal d’hyperparamètres, qui peut être différent pour chaque arbre de décision, jeu de données ou méthode de régression. Le processus de recherche de la configuration optimale est parfois appelé optimisation.

Le composant prend en charge la méthode suivante pour rechercher les paramètres optimaux d’un modèle : entraînement et optimisation intégrés. Dans cette méthode, vous configurez un ensemble de paramètres à utiliser. Vous faites ensuite itérer le composant sur plusieurs combinaisons. Le composant mesure la justesse jusqu’à ce qu’il trouve un modèle « optimal ». Avec la plupart des composants d’apprentissage, vous pouvez choisir les paramètres à changer au cours du processus d’entraînement et ceux qui doivent rester tels quels.

Selon la durée d’exécution souhaitée du processus d’optimisation, vous pouvez décider de tester de façon exhaustive toutes les combinaisons. Vous pouvez aussi raccourcir le processus en établissant une grille de combinaisons de paramètres et en testant un sous-ensemble aléatoire de la grille de paramètres.

Cette méthode génère un modèle entraîné que vous pouvez enregistrer pour le réutiliser.

Comment configurer le module Optimiser les hyperparamètres du modèle

L’apprentissage des hyperparamètres optimaux pour un modèle Machine Learning nécessite une utilisation intensive de pipelines.

Entraîner un modèle à l’aide d’un balayage de paramètres

Cette section décrit comment effectuer un balayage de paramètres de base, qui effectue l’apprentissage d’un modèle à l’aide du composant Optimiser les hyperparamètres du modèle.

1. Ajoutez le composant Optimiser les hyperparamètres du modèle à votre pipeline dans le concepteur.

2. Connectez un modèle non entraîné à l’entrée la plus à gauche.

   Notes

   Le composant Tune Model Hyperparameters peut uniquement être connecté aux composants d’algorithme d’apprentissage automatique intégrés. Il ne peut pas prendre en charge un modèle personnalisé intégré au composant Create Python Model (Créer un modèle Python).

3. Ajoutez le jeu de données que vous souhaitez utiliser pour l’entraînement et connectez-le à l’entrée du milieu du module Optimiser les hyperparamètres du modèle.

   Éventuellement, si vous avez un jeu de données étiqueté, vous pouvez le connecter au port d’entrée le plus à droite (Jeu de données de validation facultatif). Cela vous permet de mesurer la justesse pendant l’entraînement et l’optimisation.

4. Dans le volet droit du module Optimiser les hyperparamètres du modèle, choisissez une valeur pour Mode de balayage de paramètres. Cette option contrôle la manière dont les paramètres sont sélectionnés.

   • Grille entière : quand vous sélectionnez cette option, le composant effectue une boucle sur une grille prédéfinie par le système, pour essayer différentes combinaisons et identifier le meilleur apprenant. Cette option est utile quand vous ne savez pas quels sont les meilleurs réglages de paramètres et que vous souhaitez essayer toutes les combinaisons de valeurs possibles.

   • Balayage aléatoire : quand vous sélectionnez cette option, le composant sélectionne de façon aléatoire des valeurs de paramètre sur une plage définie par le système. Vous devez spécifier le nombre maximal d’exécutions que le composant doit exécuter. Cette option est utile quand vous souhaitez augmenter les performances du modèle à l’aide des métriques de votre choix, tout en économisant les ressources de calcul.

5. Pour Label column (Colonne d’étiquette), ouvrez le sélecteur de colonne pour choisir une colonne d’étiquette unique.

6. Choisissez le nombre d’exécutions :

   • Nombre maximal d’exécutions lors d’un balayage aléatoire : Si vous choisissez un balayage aléatoire, vous pouvez spécifier le nombre de fois que le modèle doit être entraîné, en utilisant une combinaison aléatoire de valeurs de paramètre.

7. Pour Classement, choisissez une métrique unique à utiliser lors du classement des modèles.

   Quand vous exécutez un balayage de paramètres, le composant calcule toutes les métriques applicables pour le type de modèle et les retourne dans le rapport Résultats de balayage. Le composant utilise des métriques distinctes pour les modèles de régression et de classification.

   Toutefois, la métrique que vous choisissez détermine la façon dont les modèles sont classés. Seul le premier modèle, tel que classé par la métrique choisie, est généré en tant que modèle entraîné à utiliser pour le scoring.

8. Pour la valeur de départ aléatoire, entrez un nombre entier comme pseudo état du générateur de nombres aléatoires utilisé pour la sélection aléatoire des valeurs de paramètre sur une plage prédéfinie. Ce paramètre est effectif uniquement si le mode Balayage des paramètres est Balayage aléatoire.

9. Envoyez le pipeline.

Résultats de l’optimisation des hyperparamètres

Quand l’entraînement est terminé :

• Pour afficher les résultats du balayage, vous pouvez soit cliquer avec le bouton droit sur le composant, puis sélectionner Visualiser, soit cliquer avec le bouton droit sur le port de sortie gauche du composant à visualiser.

  Les Résultats du balayage incluent toutes les métriques d’exactitude et de balayage des paramètres qui s’appliquent au type de modèle. La métrique sélectionnée pour le classement détermine le modèle considéré comme « optimal ».

• Pour enregistrer un instantané du modèle entraîné, sélectionnez l’onglet Sorties + journaux dans le panneau droit du composant Effectuer l’apprentissage du modèle. Sélectionnez l’icône Inscrire le jeu de données pour enregistrer le modèle en tant que composant réutilisable.

Notes techniques

Cette section contient des informations et des conseils d’implémentation.

Fonctionnement du balayage de paramètres

Lorsque vous configurez un balayage de paramètres, vous définissez l’étendue de votre recherche. La recherche peut utiliser un nombre fini de paramètres sélectionnés de façon aléatoire. Elle peut représenter également une recherche exhaustive sur un espace de paramètre que vous définissez.

• Balayage aléatoire : Cette option entraîne un modèle en utilisant un nombre défini d’itérations.

  Vous spécifiez une plage de valeurs à itérer, puis le composant utilise un sous-ensemble de ces valeurs choisi de façon aléatoire. Les valeurs sont choisies avec remplacement ; les nombres précédemment choisis au hasard ne sont pas supprimés du pool de nombres disponibles. Ainsi, la probabilité qu’une valeur soit sélectionnée reste la même pour toutes les passes.

• Grille entière : L’option consistant à utiliser la totalité de la grille signifie que chaque combinaison est testée. Cette option est la plus complète, mais elle nécessite le plus de temps.

Contrôle de la longueur et de la complexité de l’entraînement

L’itération sur plusieurs combinaisons de paramètres pouvant prendre du temps, le composant fournit plusieurs façons de limiter le processus :

• Limitez le nombre d’itérations utilisées pour tester un modèle.
• Limitez l’espace de paramètre.
• Limitez le nombre d’itérations et l’espace de paramètre.

Nous vous recommandons de définir les paramètres sous forme de pipeline pour déterminer la méthode d’entraînement la plus efficace sur un jeu de données et un modèle particuliers.

Choix d’une métrique d’évaluation

À la fin des tests, le modèle présente un rapport contenant la justesse de chaque modèle afin que vous puissiez passer en revue les résultats des métriques :

• Un ensemble uniforme de métriques est utilisé pour tous les modèles de classification binaires.
• La justesse est utilisée pour tous les modèles de classification à plusieurs classes.
• Un ensemble différent de métriques est utilisé pour les modèles de régression.

Toutefois, pendant l’entraînement, vous devez choisir une seule métrique à utiliser pour classer par ordre de priorité les modèles qui sont générés pendant le processus d’optimisation. Vous constaterez peut-être que la meilleure métrique varie en fonction du problème métier, ainsi que du coût des faux positifs et des faux négatifs.

Métriques utilisées pour la classification binaire

• Justesse : proportion des résultats réels parmi tous les cas.

• Précision : proportion des résultats réels parmi les résultats positifs.

• Rappel : fraction de tous les résultats corrects par rapport à tous les résultats.

• Score F : mesure qui équilibre la précision et le rappel.

• AUC : valeur représentant la zone sous la courbe quand les faux positifs figurent sur l’axe X et que les vrais positifs figurent sur l’axe Y.

• Perte logarithmique moyenne : différence entre deux distributions des probabilités : la réelle et celle du modèle.

Métriques utilisées pour la régression

• Erreur absolue moyenne : moyenne de toutes les erreurs dans le modèle, l’erreur correspondant à la distance de la valeur prédite à la valeur réelle. Elle est souvent abrégée en MAE.

• Racine de l’erreur quadratique moyenne Mesure la moyenne des carrés des erreurs, puis prend la racine de cette valeur. Elle est souvent abrégée en RMSE.

• Erreur absolue relative Représente l’erreur sous la forme d’un pourcentage de la valeur réelle.

• Erreur quadratique relative : normalise l’erreur quadratique totale en la divisant par l’erreur quadratique totale des valeurs prédites.

• Coefficient de détermination : nombre unique qui indique la conformité des données à un modèle. La valeur 1 signifie que le modèle correspond exactement aux données. La valeur 0 signifie que les données sont aléatoires ou qu’elles ne peuvent pas être représentées par le modèle. Il est souvent appelé r² , R² ou R carré.

Composants qui ne prennent pas en charge un balayage de paramètres

Presque tous les apprenants dans Azure Machine Learning prennent en charge la validation croisée avec un balayage de paramètres intégré, ce qui vous permet de choisir les paramètres à définir sous forme de pipeline. Si l’apprenant ne prend pas en charge la définition d’une plage de valeurs, vous pouvez toujours l’utiliser dans la validation croisée. Dans ce cas, une plage de valeurs autorisées est sélectionnée pour le balayage.

Étapes suivantes

Consultez les composants disponibles pour Azure Machine Learning.