Otra clasificación que podrás ver en la literatura es aquella que diferencia entre el aprendizaje basado en instancias y el basado en modelo.
Aprendizaje basado en instancias
Este tipo de algoritmos "memoriza" las instancias o muestras del conjunto de entrenamiento, utilizando esta información a la hora de realizar una predicción. El mejor ejemplo de esto es el algoritmo k-Nearest Neighbors que clasifica una nueva muestra a partir de la clasificación que tengan las muestras de entrenamiento más próximas.
Aprendizaje basado en modelo
Por el contrario, en el aprendizaje basado en modelo el objetivo es la creación de un modelo a partir de los datos de entrenamiento, modelo que servirá para realizar predicciones posteriormente. En este enfoque, una vez creado el modelo, los datos de entrenamiento son descartados. Un ejemplo de esto es una regresión lineal: a partir de los datos de entrenamiento se crea el modelo (por ejemplo, una recta de regresión con la forma ax + b), y será esta recta (y no los datos de entrenamiento) la que se utilizará para predecir las etiquetas de las nuevas muestras.
