Descartado el enfoque estocástico, y una vez que hemos sido capaces de expresar el error cometido en función de los parámetros de la red (pesos y bias) nuestro objetivo es encontrar los valores de dichos parámetros que minimizan la función error para nuestro dataset de entrenamiento (pues, lógicamente, queremos que el comportamiento de la red sea el mejor posible).