Este tipo de redes neuronales en las que los datos entran por la capa de entrada y se transmiten en una única dirección hacia la capa de salida -sin formar bucles, por ejemplo- son las que hemos llamado Redes Neuronales Prealimentadas o Feedforward Neural Networks en inglés. Un ejemplo de este tipo de redes es el esquema ya visto:
Sin embargo, compárese esta arquitectura con la siguiente:
...en la que las neuronas de la capa oculta se retroalimentan y están conectadas entre sí. Este segundo esquema es el correspondiente a las llamadas Redes Neuronales Recurrentes o Recurrent Neural Networks.
Además de estas dos arquitecturas, hay otras muchas, cada una apropiada en un escenario distinto. Veremos más adelante algunas de estas arquitecturas.