Cette initiative a suscité une levée de bouclier chez des experts de la communication et de l’intelligence artificielle.
D’après The Intercept, le gouvernement américain envisagerait sérieusement de franchir un nouveau cap dans ses opérations de propagande. Dans une série de documents déclassifiés relayés produits par le SOCOM, la branche du département de la défense spécialisée dans les opérations spéciales, on découvre une feuille de route assez perturbante. Au menu : du piratage d’objets connectés, de la collecte massive de données… et même de la production de deepfakes.
Ces propositions sont écrites noir sur blanc dans la section 4.3.1.4 du document, disponible à cette adresse. Elles sont divisées en trois points distincts.
Le premier explique que le gouvernement américain cherche à se doter d’un système capable de « collecter des données variées à partir de plateformes comme les réseaux sociaux et les médias locaux » afin de « mener des opérations d’influence directe ». Ou, en d’autres termes, des opérations de propagande ciblée.
Rien de bien surprenant jusque-là. Ce genre de manœuvre fait partie intégrante de l’arsenal des forces spéciales américaines, qui l’assument entièrement. Pour s’en convaincre, il suffit de consulter ce document public de la CIA ; il y est écrit noir sur blanc que ces « opérations secrètes d’influence » font partie de la routine opérationnelle de certaines agences.
Le second alinéa, en revanche, est plus étonnant. Il révèle que le gouvernement compte utiliser « une nouvelle génération de deepfakes ou de technologies similaires pour générer des messages et des opérations d’influence à travers des canaux non traditionnels ».
Des trucages numériques comme outils de propagande
La formulation est relativement vague, mais la conclusion semble assez évidente : les forces spéciales américaines comptent utiliser les deepfakes comme un outil de “contre-désinformation” au service de ses propres intérêts. Le SOCOM ne précise évidemment pas dans quel contexte il compte s’en servir, mais il y a tout de même de quoi froncer les sourcils.
Le cœur du problème, c’est que cette technologie est actuellement au cœur d’un débat brûlant sur la désinformation à l’ère du tout numérique. De nombreux observateurs ont déjà lancé des appels à la prudence vis-à-vis de ces outils. Et à juste titre. Car aujourd’hui, les deepfakes sont devenus si convaincants que la majorité des humains ne sont plus capables de les identifier…
Et cela pourrait avoir des conséquences très importantes. Pour prendre un exemple extrême, imaginez simplement qu’un petit malin synthétise un deepfake particulièrement convaincant d’un candidat à la présidentielle dans une situation embarrassante. Si le clip en question devient viral, il pourrait aisément mettre le feu aux poudres sur Internet le temps que l’information soit débunkée. Avec des conséquences potentiellement irréversibles pour la réputation de la personne.
Un « risque pour les fondations de la démocratie »
Forcément, la présence de cet alinéa dans le document a suscité de vives réactions. Plusieurs intervenants ont souligné le caractère « hypocrite » de cette approche. En effet, cela fait plusieurs années que le gouvernement américain clame haut et fort que les deepfakes pourraient représenter une menace pour la démocratie et la sécurité nationale.
C’est en tout cas l’avis de Chris Meserole, dirigeant d’un think tank sur l’intelligence artificielle et ses enjeux. Dans une interview à The Intercept, il s’est opposé sans équivoque à cette initiative qu’il estime contre-productive. « En ce qui concerne la désinformation, le Pentagone ne devrait pas combattre le feu par le feu », avance-t-il.
« À une ère où la propagande numérique s’intensifie partout dans le monde, les États-Unis devraient faire tout ce qui est en leur pouvoir pour renforcer la démocratie en construisant une notion partagée de vérité et de réalité. Les deepfakes font l’inverse. En jetant le doute sur la crédibilité de toutes les informations, réelles ou synthétiques, ils érodent les fondations de la démocratie elle-même », martèle-t-il.
Reste encore la question très importante du contexte. Le document ne précise pas comment la Défense américaine compte utiliser ces armes de désinformation massive. L’institution pourrait cibler certains groupes de la population américaine.
Mais elle pourrait aussi mettre cette technologie au service de ses intérêts stratégiques aux quatre coins du globe. Les deepfakes se transformeraient alors en outils d’influence géopolitique très puissants. Ils pourraient par exemple faire basculer une élection en faveur d’un candidat acquis à la cause de l’Oncle Sam.
Et le problème, c’est qu’il s’agirait d’une forme d’ingérence à la fois discrète et très efficace. Surtout si elle provient d’une institution qui n’est soumise à aucune supervision. « Cette forme de manipulation pourrait aller assez loin avant d’être stoppée », estime Max Rizzuto, chercheur en IA interviewé par The Intercept. « La capacité de nuire aux sociétés est certainement là. »
he Intercept
