Dinámica caótica en redes neuronales aleatorias
Chaotic dynamics in random neural networks
Ver/ Abrir
Identificadores
URI: https://hdl.handle.net/10902/30069Registro completo
Mostrar el registro completo DCAutoría
Campo González, Elena delFecha
2023-06Director/es
Derechos
Attribution-NonCommercial-NoDerivatives 4.0 International
Palabras clave
Dinámica no lineal
Caos
Red neuronal
Exponente de Lyapunov
Matriz aleatoria
Nonlinear dynamics
Chaos
Neural network
Lyapunov exponent
Random matrix
Resumen/Abstract
La mayoría de los sistemas en la naturaleza presentan dinámica compleja. Nuestro cerebro es quizá uno de los más complejos. Entre las vías para mejorar nuestra comprensión del mismo está la dinámica no lineal. Se han desarrollado muchos modelos sobre la interacción de las neuronas desde el siglo XX. El modelo más clásico de una red de neuronas aleatoria y recurrente es el de Sompolinsky, Crisanti y Sommers. El trabajo se ha basado en la realización de simulaciones según el mismo con el objetivo de caracterizar el caos en baja y alta dimensión.
Para comenzar, se ha llevado a cabo una introducción a la teoría de dinámica no lineal necesaria para entender el resto del trabajo. En segundo lugar, se han introducido el modelo en el que se basan las simulaciones y los métodos computacionales a través de los que se han realizado las simulaciones. Para terminar, se han incluido los resultados y conclusiones.
Los resultados para un número pequeño de neuronas (baja dimensión) incluyen ejemplos detallados. Para un sistema de tres neuronas se han estudiado la rotura de simetría por bifurcación pitchfork, el nacimiento de un ciclo límite por bifurcación de Hopf supercrítica y un ejemplo de histéresis por bifurcación de Hopf subcrítica. Los dos primeros se corresponden con los ejemplos más comunes a baja dimensión. Para un sistema de cuatro neuronas se ha encontrado un ejemplo de caos por cascada de duplicación de periodo. Este se ha caracterizado en forma de diagrama de bifurcación y retratos de fase. Para un sistema de cinco neuronas se ha detallado el comportamiento de un atractor cuasiperiódico. Para analizarlo, se han obtenido las secciones de Poincaré del mismo para distintos valores del parámetro de control g.
Finalmente, se ha observado el comportamiento de la transición al caos para un número mayor de neuronas (alta dimensión). Se han estudiado sistemas de 10, 20, 40, 80 y 160 neuronas. En una primera instancia, se ha observado cualitativamente la dependencia de la probabilidad de mostrar caos frente a N. Posteriormente, también se ha estudiado la forma de las distribuciones del valor mínimo de g donde el sistema presenta caos (llamado gcaos) en función de N. Para N = 160 se ha podido observar un ejemplo de hipercaos, donde los dos primeros exponentes de Lyapunov se hacen positivos. Para terminar, se ha podido realizar un ajuste a una ley de potencias del promedio y la mediana de gcaos frente a N.
Most systems in nature exhibit complex dynamics. Our brain is perhaps one of the most complex of all. Among the ways to improve our understanding of it is non-linear dynamics. Many models of the interaction of neurons have been developed since the 20th century. The most classic model of a random recurrent neural network is that by Sompolinsky, Crisanti and Sommers. This work has been based on simulations according to that model with the aim of characterising chaos in low and high dimensions.
To begin with, an introduction to the theory of nonlinear dynamics necessary to understand the rest of the work has been given. Secondly, the model on which the simulations are based and the computational methods used to carry out the simulations have been introduced. Lastly, the results and conclusions are included.
The results for a small number of neurons (low dimension) include detailed examples. For a three-neuron system, symmetry breaking via pitchfork bifurcation, the birth of a limit cycle via supercritical Hopf bifurcation and an example of hysteresis via subcritical Hopf bifurcation have been studied. The first two correspond to the most common low-dimensional examples. For a four-neuron system, an example of period-doubling cascade to chaos has been found. This has been characterised in the form of a bifurcation diagram and phase portraits. It has also been used as a crisis example. For a five-neuron system, the behaviour of a quasi-periodic attractor has been detailed. To analyse it, Poincaré sections have been obtained for different values of the control parameter g.
Finally, the behaviour of the transition to chaos for a larger number of neurons (high dimension) has been observed. Systems of 10, 20, 40, 40, 80 and 160 neurons have been studied. First, the dependence of the probability of exhibiting chaos on N has been qualitatively observed. Subsequently, we also studied the shape of the distributions of the minimum value of g where the system exhibits chaos (called gcaos) as a function of N. For N = 160 we have been able to observe an example of hyperchaos, where the first two Lyapunov exponents become positive. Finally, a power-law fit of the average and median of gcaos versus N has been performed.