Para solucionar este tipo de problemas surgen los clasificadores de máximo margen (Maximum Margin Classifier), nombre que recibe aquel clasificador capaz de separar dos grupos de valores (supongámoslos linealmente separables) mediante un hiperplano que diste la máxima distancia posible al punto más próximo de ambos grupos de valores.
En el ejemplo anterior sería el hiperplano mostrado en la siguiente imagen:
Este clasificador parece mucho más estable que el primero que nos propusimos al existir cierto margen alrededor de la frontera de decisión que permitiría clasificar correctamente muestras aun cuando éstas se encontrasen a cierta distancia de su grupo natural. Por ejemplo, la nueva muestra que habíamos visto:
se clasificaría ahora como perteneciente al clúster de muestras verdes.