Lors de l'ajustement d'un modèle d'ensemble basé sur des arbres avec l'AUC comme objectif, quelle visualisation aide à décider comment ajuster une plage d'hyperparamètres (par exemple, la profondeur maximale de l'arbre) pour réduire le temps et le coût d'entraînement ?

La visualisation d'un nuage de points montrant la relation entre la profondeur maximale de l'arbre et la métrique objectif (AUC dans ce cas) est la plus pertinente. Elle permet d'identifier visuellement la plage optimale de profondeurs d'arbre où l'AUC est maximisée ou atteint un plateau, et au-delà de laquelle les gains sont minimes ou inexistants. Cela aide à ajuster les hyperparamètres pour éviter un entraînement inutilement long et coûteux avec des profondeurs d'arbre excessives qui n'améliorent pas significativement les performances. Un histogramme de distribution gaussienne est utile pour l'ingénierie des caractéristiques, mais pas pour l'optimisation des hyperparamètres d'un modèle d'ensemble. Un nuage de points t-SNE est pour la visualisation de données de haute dimension, pas pour l'optimisation d'hyperparamètres. Un nuage de points de la métrique objectif à travers les itérations d'entraînement est utile pour surveiller la convergence, mais pas pour comprendre l'impact d'un hyperparamètre spécifique sur la performance finale.