Ya en los años 50 -en la época en la que Frank Rosenblatt desarrollaba su Perceptrón- los investigadores llegaron a la conclusión de que la combinación de varias neuronas artificiales podía aumentar considerablemente la capacidad de cálculo del conjunto. Es por ello que, en la práctica, una red neuronal está formada, no por una única neurona ni, en general, por un conjunto de neuronas artificiales situadas en línea, sino por múltiples capas de neuronas situadas unas a continuación de otras.
La disposición de estas capas y cómo estén conectadas las neuronas entre sí determinan la arquitectura de la red neuronal.