TargetEncoder natif : encodage par la cible sans fuite
Le TargetEncoder de scikit-learn applique un cross-fitting interne pendant fit_transform : chaque ligne est encodée par des moyennes calculées sans elle, ce qui neutralise la fuite de cible.
Cas d'usage
Catégorielles à très forte cardinalité où le one-hot est impraticable (milliers de modalités).
Prérequis
scikit-learn 1.3+
Python
from sklearn.preprocessing import TargetEncoder
from sklearn.pipeline import Pipeline
from sklearn.ensemble import HistGradientBoostingClassifier
from sklearn.compose import ColumnTransformer
prep = ColumnTransformer([
("target_enc", TargetEncoder(cv=5, smooth="auto"), ["ville", "code_naf"]),
], remainder="passthrough")
pipe = Pipeline([
("prep", prep),
("clf", HistGradientBoostingClassifier(random_state=42)),
])
# fit_transform utilise le cross-fitting ; transform (en test) utilise
# l'encodage appris sur tout le train -> aucune fuite.
pipe.fit(X_train, y_train)Résultat
Pipeline(steps=[('prep',
ColumnTransformer(remainder='passthrough',
transformers=[('target_enc',
TargetEncoder(cv=5,
smooth='auto'),
['ville', 'code_naf'])])),
('clf', HistGradientBoostingClassifier(random_state=42))])TargetEncoderFuite de donnéesCardinalitéEncodage