En 1960, apenas dos años después de la publicación por parte de Frank Rosenblatt de su trabajo, Bernard Widrow y su doctorando Tedd Hoff publicaron un artículo científico en el que se proponía una mejora de la neurona de Rosenblatt, la llamada Adaptative Linear Neuron o Adaline.
La mayor diferencia entre la Adaline y el Perceptrón es que, en este último, la función de activación Φ es una función escalón, como ya sabemos, mientras que en la Adaline esta función era la función identidad: Φ(wtx) = wtx.
En todo caso, como el resultado final de esta función podía ser cualquier número real, se seguía utilizando una función escalón para devolver un 0 o un 1. Es decir, el esquema de la Adaline era el siguiente:
Ahora, el incremento a aplicar a los pesos no se calcula a partir de la diferencia entre la etiqueta de una muestra y y la salida de la neurona ŷ, sino a partir de la diferencia entre la etiqueta y y Φ(z). En el siguiente esquema se compara el comportamiento del Perceptrón y de la Adaline:
