La classification prédit une catégorie
Exemple : reconnaître une pomme, une banane ou une tomate.
Exemple illustratif : la prédiction de ventes 3 mois en avance.
LightGBM est un algorithme d’apprentissage automatique fondé sur des arbres de décision. Il apprend à relier des informations connues à une réponse, puis combine de nombreux arbres de décision pour améliorer progressivement cette réponse.
Un arbre de décision pose une suite de questions simples. Selon la cible choisie, LightGBM peut retrouver une catégorie ou estimer une valeur numérique.
Exemple : reconnaître une pomme, une banane ou une tomate.
Exemple : estimer le prix d’un logement.
Le choix de l’architecture et la façon de construire les arbres ont un impact direct sur les performances finales.
Cliquez sur un arbre pour comprendre ce que son niveau de détail change.
Chaque nouvel arbre corrige une partie de l’erreur laissée par les précédents.
Cliquez sur le bouton pour voir l’estimation se rapprocher de la valeur réelle.
LightGBM estime 418 000 €. Arbre après arbre, la prédiction s’est rapprochée de la valeur réelle de 420 000 €.
Un arbre de décision seul apporte une première réponse. Ensemble, les arbres corrigent progressivement leurs erreurs.
Nous disposons de plusieurs années de ventes mensuelles. À partir de cet historique, nous voulons estimer les ventes d’un seul mois : celui situé trois mois après aujourd’hui.
60 mois de ventes déjà observées.
Les ventes du mois situé trois mois dans le futur.
Pour comprendre comment un LightGBM s’entraîne à prédire le futur, revenons au 31 décembre 2024. Le modèle utilise uniquement les informations disponibles ce jour-là et essaie de prédire les ventes de mars 2025. Nous connaissons aujourd’hui cette réponse, mais nous la lui cachons pendant l’exercice.
Les 12 derniers mois de ventes
Janvier à mars 2025
Ces indicateurs, appelés « features », résument les données historiques en informations que le modèle peut utiliser, analyser et comparer pour prédire le futur. Exemples de features : la moyenne des ventes, la tendance, la saisonnalité ou la régularité des ventes.
Avant d’entraîner un modèle, il faut choisir ce qu’il va prédire. Selon le projet, le modèle peut apprendre plus facilement une cible transformée qu’une quantité brute.
Les tendances sont difficiles à comparer car les échelles ne sont pas les mêmes.
Chaque série est ramenée autour de 1 : 1 représente son niveau habituel.
Il existe plusieurs façons de normaliser. Pour ce guide, nous comparons la quantité future au niveau habituel des ventes.
Un résultat de 1,30 signifie que les ventes futures seront 30 % au-dessus du niveau habituel.
Le modèle doit apprendre l’écart entre 130 et le niveau habituel de 100.
Pour chaque article et chaque date historique, on recalcule les features disponibles ce jour-là, puis on ajoute la valeur réellement observée trois mois plus tard. Le modèle reçoit ainsi des milliers d’exemples complets.
Pour vérifier qu’il saura vraiment prédire demain, on l’entraîne sur une période ancienne, puis on le teste sur les mois qui viennent juste après. On recommence plusieurs fois en avançant dans le temps.
Imaginez un contrôle à l’école. L’élève révise les chapitres déjà étudiés, puis répond à des questions nouvelles. Si on lui donnait les réponses avant le contrôle, sa note ne voudrait plus rien dire. Pour LightGBM, c’est exactement pareil.
On calcule exactement les mêmes features avec les données disponibles aujourd’hui. LightGBM renvoie un ratio, puis on le reconvertit en unités.
Avant de faire confiance aux prédictions d’un LightGBM, cinq contrôles sont indispensables. Les deux premiers évitent les erreurs les plus trompeuses.
À chaque date historique, toutes les features doivent être calculées uniquement avec les informations qui existaient déjà ce jour-là. Sinon, le modèle utilise sans le savoir un indice venu du futur : son score paraît excellent, mais il devient impossible à reproduire en production.
Le modèle doit toujours apprendre sur une période ancienne, puis être évalué sur une période plus récente. Une mauvaise séparation surestime ses performances et crée une mauvaise surprise en production. La cross-validation temporelle simule honnêtement ce qui se serait réellement passé.
Une méthode simple peut parfois faire aussi bien qu’un modèle plus complexe.
On surveille les changements de marché et les dérives des features.
On vérifie quels indicateurs influencent le plus les prédictions et si les raisons obtenues restent cohérentes avec le métier.
Le modèle s’entraîne sur des situations historiques sans jamais utiliser une information venue du futur.
Le Data Scientist transforme les données passées en indicateurs pertinents, disponibles au bon moment et adaptés au besoin métier.
Selon le besoin métier, le modèle peut prédire une valeur brute ou une cible transformée plus facile à apprendre.
Des essais permettent de trouver le réglage qui prédit bien sans apprendre les exemples par cœur.
Une validation temporelle honnête permet de vérifier que les performances observées pourront réellement se reproduire demain.