En 1949, Donald Hebb (1904-1985), psicólogo canadiense, revolucionó la forma en la que se entendían las neuronas artificiales.
Donald Hebb
En su libro "The Organization of Behavior", publicado dicho año, propuso la que hoy día se conoce como Regla de Hebb que puede resumirse del siguiente modo:
"Supongamos que la persistencia de una actividad repetitiva (o "señal") tiende a inducir cambios celulares duraderos que promueven su estabilidad... Cuando el axón de una célula A está lo suficientemente cerca como para excitar a una célula B y repetidamente toma parte en la activación, ocurren procesos de crecimiento o cambios metabólicos en una o ambas células de manera que tanto la eficiencia de la célula A, como la capacidad de excitación de la célula B son aumentadas"
Es decir, cuando una neurona tiende a activar otra, el "peso" o la importancia de esa conexión entre ambas neuronas aumenta, propuesta que provee el algoritmo básico de aprendizaje mediante redes neuronales artificiales. Esta regla suele resumirse con la frase "neuronas que se activan juntas, permanecen juntas", aunque Hebb insistió en la idea de que la primera neurona debía activarse antes que la segunda o, dicho con otras palabras, debía existir una relación de causalidad para que dicha conexión sufriese el cambio mencionado.
Esto supuso que, si se deseaba que la neurona de McCulloch-Pitts fuese capaz de soportar esta propuesta, los enlaces que llegan a una neurona deberían tener asociado un peso que debería poder cambiar para adaptarse adecuadamente a la relación entre ambas neuronas. Este enfoque es el llamado aprendizaje de Hebb.