Technologie
L’I.A. de confiance recouvre un ensemble de technologies qui permettent de mieux comprendre et évaluer les comportements d’une I.A.
Il s’agit d’une thématique de recherche importante au sein de Logiroad.ai. Nous avons encadré plusieurs thèses à ce sujet.
Nous travaillons par exemple sur l’évaluation de l’incertitude en sortie de réseau de neurones. Cela nous permet de prendre de meilleurs décision sur les actions à prendre suite à une prédiction du réseau.
Pour ce faire, une des techniques déployées est de mesurer les valeurs des poids et des signaux à l’intérieur des neurones artificielles. Cela nous permet de savoir si le réseau réalise des prédictions fortes, où tout converge vers le résultat, ou faibles, lorsque les signaux sont plus épars.
Nous pouvons aussi trouver quelles sont les zones des images qui ont amenée à telle ou telle décision. Ce afin de vérifier que le réseau de neurones a pris les bonnes décisions pour le bonnes raisons.
Il est aussi possible d’ajouter, en surcouche du réseau de neurones, un modèle hautement interprétable qui s’efforce de reproduire le même comportement que le réseau et est en mesure de détailler les raisons qui l’ont amené à faire tel ou tel choix.
Une autre technique consiste à réaliser des prédictions avec la même entrée en éteignant à chaque fois une partie du réseau. Cette technique permet d’obtenir une statistique sur l’incertitude et de mieux appréhender les données hors domaine.