La méthode des plus proches voisins n'apprend rien : elle regarde qui se trouve autour du point à classer et fait voter. Le nombre de votants change la réponse, et c'est tout l'enjeu du réglage.
Les points connus
| Point | Classe |
|---|---|
| (1 ; 1) | A |
| (1 ; 3) | A |
| (2 ; 1) | A |
| (2 ; 4) | A |
| (5 ; 5) | B |
| (6 ; 4) | B |
| (5 ; 2) | B |
Le point à classer est (3,5 ; 2).
Objectif
Donner la distance au plus proche voisin, la classe prédite pour deux valeurs de k, et le nombre de voisins de classe A parmi les trois plus proches.
Utiliser la distance euclidienne ordinaire, et donner la distance à trois décimales.
Pièges
Avec un seul voisin, la réponse est celle du point le plus proche, qui se trouve être isolé de son groupe. Avec trois voisins, les deux suivants renversent le vote. Un k trop petit suit le bruit, un k trop grand efface les frontières.