L’Intelligence artificielle (IA) favorise la production de désinformations et d’actions d’influence. Le coût décroissant de telles pratiques génère des revenus de plus en plus importants, facilitant sa persistance. Il est donc nécessaire d’intégrer cette monétisation pour analyser la manière dont l’information peut être manipulée.
Suivez l’argent : comment la désinformation et l’influence par IA s’auto-entretiennent
Follow the Money: How AI’s Disinformation and Influence Become Self-Supporting
Artificial intelligence (AI) encourages disinformation and influence activity. The falling cost of such practices generates ever-greater income, which makes them increasingly persistent. We therefore need to examine such capitalisation closely, in order to analyse how information can be manipulated.
Les efforts visant à combattre la désinformation se concentrent souvent sur la détection des faux contenus, leur étiquetage ou leur suppression des plateformes. Pourtant, la désinformation continue de s’étendre à la fois en ampleur et en persistance. Un point est souvent négligé : la désinformation et l’influence ne font pas seulement que se diffuser, elles rapportent aussi de l’argent. Des travaux récents sur la désinformation générée par IA montrent que les systèmes génératifs augmentent l’ampleur, la vitesse et la plausibilité des contenus trompeurs, et facilitent tant leur production que leur circulation sur les plateformes numériques (1, 2, 3). Des rapports sur Telegram et des écosystèmes associés suggèrent que la monétisation n’est pas périphérique à cette activité : elle est de plus en plus intégrée aux méthodes utilisées par les acteurs d’influence pour maintenir leur présence et leur portée (4, 5, 6). Dès lors, la désinformation n’est pas qu’un problème de communication : elle recouvre aussi un système économique.
L’IA générative (IAG) a accéléré ce changement. Elle réduit le coût de production de contenus réalistes et persuasifs et rend possible la génération continue d’articles, de vidéos, de messages et de sites facilement adaptables et redistribuables. Ces schémas sont déjà observables sur les plateformes, où des sites générés par IA et des canaux associés peuvent produire de grands volumes de contenu en imitant l’apparence de médias légitimes (1, 2, 3, 7). Or, la baisse des coûts de production et l’augmentation des possibilités de monétisation rendent la désinformation et l’influence plus facile à produire et à adapter, et plus difficile à contrer. Ce n’est pas accidentel, car la conversion de l’attention en revenus est devenue inhérente à la conception de ces méthodes d’influence et de désinformation.
Dans cet article, nous examinons comment la monétisation de ces systèmes fonctionne. Pour cela, plutôt que de traiter les revenus comme un point périphérique, nous montrons comment les mécanismes financiers sont intégrés dans les réseaux de désinformation générés par IA et contribuent à leur persistance dans le temps. Une partie des discussions actuelles traite la désinformation et l’influence comme un problème de contenu. Ce cadrage est incomplet. Il met l’accent sur ce qui est visible mais néglige le moteur financier qui la soutient. Pour comprendre pourquoi ces systèmes persistent, il faut aller au-delà des éléments de contenu et examiner comment la désinformation est produite, distribuée et monétisée à travers des plateformes interconnectées.
Il reste 84 % de l'article à lire
Plan de l'article

.jpg)




