Une fenêtre dans la boîte noire des réseaux de neurones

Au sens large, un neurone est une unité de calcul de l’information, qui transforme des données d’entrée en un signal de sortie. Mais c’est aussi un système d’aiguillage, capable d’ajuster ses connexions avec d’autres neurones pour former un réseau dynamique.  Ce réseau génère des prédictions et détermine l’erreur par rapport au résultat attendu pour ajuster ses connexions et optimiser sa réponse, se complexifiant au fil des apprentissages. 

Des réseaux opaques à la recherche

Dans notre cerveau comme dans les intelligences artificielles (IA), ces centaines de milliards de connexions dynamiques des réseaux de neurones forment des « boîtes noires ». Leur complexité est telle qu’il est impossible d’évaluer précisément les paramètres qui ont le plus d’influence sur leur fonctionnement. Ce problème d’interprétabilité, qui peut masquer des vulnérabilités, des biais ou des redondances, est l’un des freins majeurs à la sécurisation et à l’optimisation des IA. 

De même, du point de vue des neurosciences, la vision est un processus qui n’est pas entièrement compris. Si les chercheurs sont aujourd’hui capables de déterminer quelle quantité d’information visuelle est transmise par notre rétine au cortex visuel, l’encodage et le traitement de l’information par le cerveau reste trop complexe pour pouvoir être décrit à l’aide d’un seul modèle. Comprendre ces mécanismes est pourtant essentiel dans le cadre du développement de nouvelles thérapies pour restaurer la vision. Il est par exemple indispensable de vérifier la qualité du signal envoyé par les prothèses ou les implants rétiniens au cerveau, et de s’assurer que ce dernier peut l’interpréter de manière cohérente. 

C’est en étudiant les réseaux de neurones du système visuel que les chercheurs de l’équipe Transmission de l’information visuelle à l’Institut de la Vision, dirigée par Olivier Marre, ont imaginé une méthode pour décomposer l’information transmise par les neurones, qu’ils soient artificiels ou biologiques. Steeve Laquitaine, Simone Azeglio, Carlo Paris, Ulisse Ferrari et Matthew Chalk se sont inspirés de la capacité du système visuel à sélectionner et à transmettre uniquement l’information pertinente d’un stimulus pour identifier quelles composantes, par exemple quels pixels d’une image, ont le plus d’influence sur son traitement. 

L’information, le nerf de la guerre

Jusqu’à aujourd’hui, les meilleurs modèles pour décomposer l’information dans les réseaux de neurones ne permettaient pas d’être à la fois exhaustif et précis : soit on estimait le volume global de l’information traitée (modèle de Shannon), soit on se concentrait sur l’impact d’un seul composant sur le système (modèle de Fisher). Obtenir une vue d’ensemble des différents composants et de leurs relations n’était pas possible dans les réseaux neuronaux complexes. Le travail des chercheurs de l'Institut de la Vision résout cette impasse en établissant un pont mathématique entre les deux modèles les plus connus (Shannon et Fisher) pour en créer un nouveau baptisé « modèle d’information locale ». 

En pratique, ce nouveau modèle est un dialogue entre deux modèles de diffusion, les algorithmes derrière les IA génératives connues pour leur capacité à générer des images avec une part d’aléatoire permettant de créer des visuels uniques. Au lieu de générer des images nouvelles, les chercheurs de l’Institut de la Vision ont entraîné un premier modèle à reconstruire une image altérée par du bruit, comme si l’information était partiellement masquée par un « brouillard ». Le second modèle suit le même entraînement mais avec un indice : le signal électrique envoyé par chaque neurone du premier modèle. En comparant les deux reconstructions d’image, il devient possible d’évaluer à quel point chacun des signaux aide à dissiper « le brouillard ». Le modèle d’information locale transforme cette différence en un score et projette le score sur l’image d’origine. La cartographie obtenue montre précisément quelles parties de l’image jouent un rôle clé dans le traitement de l’information.

Contrairement aux méthodes précédentes qui produisaient des résultats flous, ce modèle se focalise avec une grande précision sur les éléments structurants comme les bords et les contours des objets. Ce qui se rapproche beaucoup du système visuel : plutôt que de transmettre chaque détail d’une image, la rétine exploite ses redondances et ne communique que les changements et les contrastes spatiaux et temporels. Elle réduit ainsi d’un facteur 1000 le flux de données envoyé au cerveau via le nerf optique, sans pour autant perdre en qualité d’interprétation. Cette stratégie d’encodage efficace permet notamment au système visuel d’analyser des images complexes avec un minimum d’énergie, comparé aux IA. 

Vers une nouvelle génération d’outils d’analyse ?

Dans la preuve de concept présentée par les chercheurs de l’Institut de la Vision, le modèle d’information locale était plus complet et plus précis que le modèle standard actuellement utilisé pour cartographier l’information. Cette avancée laisse entrevoir un champ d’application qui va bien au-delà des neurosciences, s’étendant à tous les systèmes fondés sur les réseaux de neurones, dont les IA. La capacité d'analyse rétroactive du modèle d’information locale sera notamment utilisée par les chercheurs pour comparer les stratégies d’optimisation de l'IA avec celles de la rétine humaine, ouvrant la voie à des systèmes beaucoup plus économes en énergie. 

À moyen terme, les chercheurs envisagent d’utiliser ce type de modèle pour développer des jumeaux numériques de la rétine humaine. Ces simulations offriraient un cadre pour tester différentes approches thérapeutiques in silico (par ordinateur), avant de passer à des essais cliniques.