Una colaboración interdisciplinar para descifrar la «flecha del tiempo» termodinámica en redes complejas

Investigadores del Centro Vasco de Matemática Aplicada – BCAM, la Universidad de Hokkaido y la Universidad de Kyoto han descifrado la «flecha del tiempo» termodinámica en redes complejas a gran escala

Este avance se basa en el modelo de Ising, piedra angular de la física estadística y el aprendizaje automático

El resultado arroja luz sobre recientes descubrimientos en sistemas biológicos, como la aparición de una flecha del tiempo en las señales del cerebro

El trabajo se ha publicado en la revista Nature Communications

Una nueva investigación del Centro Vasco de Matemática Aplicada – BCAM, la Universidad de Hokkaido y la Universidad de Kyoto ha hallado una innovadora solución matemática para la termodinámica de no-equilibrio de redes neuronales a gran escala basada en su asimetría temporal. Este avance ayuda a comprender mejor el comportamiento de sistemas biológicos como las redes de neuronas, o el de las herramientas de aprendizaje automático e IA. Esta investigación ha sido llevada a cabo por el Dr. Miguel Aguilera Ikerbasque Research Fellow de BCAM y el Profesor Hideaki Shimazaki, profesor asociado de la Graduate School of Informatics de la Universidad de Kyoto, y ha sido publicada en la revista de investigación Nature Communications.

La vida, desde la perspectiva de la termodinámica, es un sistema en desequilibrio: sigue manteniendo una estructura armónica interna mientras intercambia continuamente energía y materia con el entorno. Según la segunda ley de la termodinámica, con el tiempo los sistemas tienden a pasar del orden al desorden. Este aumento del nivel de desorden se conoce como entropía. Si este aumento es mayor que cero, el sistema está fuera de equilibrio y su dinámica tiene la característica de ser irreversible en el tiempo. Este vínculo entre entropía e irreversibilidad fue expresado como «la flecha del tiempo» por el físico inglés Arthur Eddington en 1927.

La idea de la flecha del tiempo se ejemplifica a veces viendo una película en la que se rompe un vaso de cristal. A medida que el vaso se rompe, la entropía aumenta y el sistema pasa a un estado más desordenado, lo que parece una secuencia natural de acontecimientos. Por el contrario, si viéramos la película al revés, parecería obvio que no es posible que los trozos se conviertan de nuevo en un vaso entero, pasando del desorden al orden. Esto parece muy poco intuitivo, ya que tales acontecimientos requieren que la flecha del tiempo se invierta, y una disminución de la entropía del sistema.

Un campo emergente de la física, la termodinámica estocástica, ha hecho avanzar rápidamente nuestra comprensión de los procesos microscópicos de no equilibrio que tienen lugar, por ejemplo, en partículas coloidales y motores moleculares. Estas partículas y motores son sistemas muy pequeños que desempeñan un papel en los sistemas biológicos (por ejemplo, en las membranas celulares o transportando sustancias dentro de una célula). Sin embargo, la termodinámica de no equilibrio y la flecha del tiempo de las redes complejas a gran escala, desde los circuitos neuronales hasta las bandadas de pájaros, seguían siendo un enigma… hasta ahora.

Como modelo prototípico de redes complejas a gran escala, los investigadores estudiaron el modelo de Ising, un modelo de neuronas conectadas de forma recurrente, que también se estudia en física estadística y aprendizaje automático. Cuando las conexiones entre neuronas son simétricas, el modelo de Ising se encuentra en estado de equilibrio y presenta complejos estados desordenados denominados vasos de espín. La solución matemática de este estado condujo a la concesión del Premio Nobel de Física 2021 al Dr. Giorgio Parisi. Sin embargo, a diferencia de los sistemas vivos, los cristales de espín están en equilibrio y su dinámica es reversible en el tiempo. En su lugar, los investigadores trabajaron en la dinámica de Ising irreversible en el tiempo causada por las conexiones asimétricas entre neuronas. El estudio ofrece, por primera vez, una solución matemática exacta de la asimetría temporal -también conocida como producción de entropía- de las redes de Ising desordenadas en desequilibrio.

Esta investigación demuestra que existen dos regímenes distintos de comportamiento que dan lugar a la asimetría temporal en redes complejas. El primero está relacionado con el misterioso «borde del caos», un régimen crítico en la frontera entre el orden y el desorden. El segundo es una fase de desorden con una dinámica temporal casi determinista. El resultado tiende un puente entre la asimetría temporal hallada en la actividad de las redes neuronales del cerebro y sus mecanismos subyacentes. «Los neurocientíficos informan de que la asimetría temporal en la dinámica cerebral aumenta en estados de mayor conciencia o esfuerzo cognitivo, pero no sabemos cómo se genera. Nuestra investigación aporta dos posibles soluciones: una basada en estados estocásticos altamente flexibles que combinan orden y desorden, y otra basada en combinaciones de patrones caóticos pero repetitivos», afirma el Dr. Miguel Aguilera, Investigador Ikerbasque del Centro Vasco de Matemática Aplicada.

Las soluciones exactas obtenidas sirven de referencia para desarrollar métodos aproximados de aprendizaje de redes neuronales artificiales. El desarrollo de métodos de aprendizaje que funcionen de forma robusta en múltiples fases descubierto en este estudio hará avanzar los estudios de aprendizaje automático. «El modelo de Ising es un prototipo de las redes neuronales artificiales que sustentan los recientes avances en aprendizaje profundo y redes neuronales artificiales generativas. La comprensión de su comportamiento ofrece conocimientos críticos sobre la inteligencia biológica y artificial en general», añadió el profesor Hideaki Shimazaki, profesor asociado de la Escuela de Postgrado de Informática de la Universidad de Kioto

El Dr. Miguel Aguilera también destacó el carácter multidisciplinar de su estudio: «Nuestros resultados son fruto de una interesante colaboración interdisciplinar en la que han intervenido la física, la neurociencia y la modelización matemática. Esta combinación única de disciplinas ha abierto la puerta a nuevos métodos para comprender la organización de redes complejas a gran escala».

Aguilera, M., Igarashi, M. & Shimazaki, H. Nonequilibrium thermodynamics of the asymmetric Sherrington-Kirkpatrick model. Nat Commun 14, 3685 (2023). https://doi.org/10.1038/s41467-023-39107-y

Enlace al artículo: https://www.nature.com/articles/s41467-023-39107-y