L’irruption des Intelligences artificielles (IA) génératives vient ébranler la confiance dans le numérique, dont les contours technologiques avaient été construits depuis des dizaines d’années. Leur émergence, et plus particulièrement celle des Grands modèles de langages (LLM), est largement inattendue ⁽¹⁾. Là où le numérique avait été pensé autour de la fiabilité, permettant de rendre compte du réel avec un haut niveau de confiance, grâce à une chaîne de technologies mise en place au cours des années ⁽²⁾, l’IA générative (IAGen), par sa puissance et sa complexité, change profondément notre rapport au numérique : les technologies mises en place jusqu’à aujourd’hui pour maîtriser, tester, valider et certifier les données, algorithmes et prédictions des IA sont caduques.

Dans cet article, nous discutons la différence profonde entre IAGen et numérique pour rendre compte des difficultés (voire impossibilités ?) à la déployer en confiance. Le numérique, conçu comme outil d’analyse et de documentation du réel, devient désormais un espace de génération, de simulation, voire de fiction hors d’atteinte des techniques de vérification. Rendre plus fiable l’IA générative est probablement l’un des grands enjeux des années à venir, mais la difficulté est à la hauteur des défis à relever.

Structuration du numérique classique

Depuis les années 1970, le numérique s’est articulé autour de composantes bien identifiées : circuits imprimés, processeurs, mémoire, réseaux, capteurs, logiciels, données massives. Cette architecture s’appuyait sur une séparation claire entre syntaxe (formes numériques) et sémantique (interprétation humaine) ⁽³⁾. Les algorithmes manipulaient des symboles ; les humains en assuraient le sens. Ce cadre a permis la mise en œuvre de logiciels documentés, testés, certifiés, audités dans un environnement réglementé (Règlement général sur la protection des données [RGPD], certifications, audits open source). Cette séparation entre syntaxe et sémantique est importante pour la confiance. La représentation syntaxique permet de mettre en œuvre des outils de vérification, de tests, mis en place par des outils basés sur différentes logiques ⁽⁴⁾ ou la preuve constructive ⁽⁵⁾. C’est sur ces bases que sont par exemple montrées la correction et la conformité à la loi de l’algorithme Parcoursup ⁽⁶⁾. La preuve existe grâce à une représentation formelle, en logique, de l’algorithme et des propriétés à prouver.