Les k plus proches voisins prédisent à partir des k exemples d'entraînement les plus proches : vote majoritaire en classification, moyenne en régression. Le modèle ne construit rien à l'entraînement et est sensible à l'échelle des variables, qui doivent donc être standardisées. Un k petit surapprend, un k grand lisse trop.
Exemple
KNeighborsClassifier(n_neighbors=5).fit(X_train_s, y_train)