Sous la nef du Grand Palais, la France réunit pendant deux jours, à partir du lundi 10 février, des dirigeants politiques et de la tech du monde entier. Au Sommet pour l’action sur l’IA, l’espace principal est organisé comme un salon d’exposition avec des dizaines de stands montrant des applications concrètes de l’intelligence artificielle.
En prenant de la hauteur sous cette nef majestueuse, aux couleurs des pays participant à ce sommet, on accède au salon d’honneur, où se sont donné rendez-vous en début d’après-midi plusieurs acteurs de l’IA. Au cœur de la table ronde : son impact sur les démocraties.
Mais manquent à l’appel les protagonistes du secteur – Open AI, Google ou encore Microsoft – pourtant présents à Paris.
Une absence que déplore Meredith Whittaker, présidente de Signal, une application qui permet de communiquer de façon chiffrée et sécurisée. “L’approche de l’IA à grande échelle crée des dommages” aux sociétés, note celle qui est engagée depuis de nombreuses années en faveur de la protection des données et contre les dérives de l’intelligence artificielle.
“Les données peuvent être utilisées comme une arme”
“Il n’y a rien que l’IA puisse savoir et connaître sans les données”, explique Meredith Whittaker.
Et d’ajouter : “L’IA a des conséquences très profondes sur nos vies privées”. Pour illustrer son propos, la présidente de Signal cite des opérateurs télécoms aux États-Unis qui ont été victimes d’un piratage de grande ampleur.
Salt Typhoon, proche du ministère chinois de la Sécurité d’État, en serait à l’origine.
“Ce qu’il s’est passé, c’est un désastre du point de vue de la sécurité nationale, et cela a été rendu possible par l’installation de backdoors (des portes dérobées aménagées dans des systèmes, NDLR) censées être destinées seulement aux autorités”, explique Meredith Whittaker.
Et celle qui pense que l’IA est “née du business model de la surveillance” d’ajouter : “Dans ce cas (de piratage), les données peuvent être utilisées comme une arme” contre la démocratie américaine.
Ce n’est pas Edgar Rinkevics qui démentira ce propos.
Le président de la Lettonie explique, pour sa part, que son pays, “a été exposé, en raison de sa situation géopolitique et géographique, à des cyberattaques et des campagnes de désinformation” ces dernières années. En raison de sa proximité géographique avec la Russie, la Lettonie et les autres pays baltes – Estonie et Lituanie – sont en effet victimes de la moitié de toutes les cyberattaques qui frappent les pays membres de l’UE.
Mais avant d’évoquer les menaces que fait peser l’IA sur les démocraties, le chef de l’exécutif letton souligne que “la première tâche, maintenant, c’est de protéger les infrastructures critiques et de suivre la situation en mer Baltique” – où plusieurs sabotages de câbles ont eu lieu ces derniers mois.
“En ce qui concerne la démocratie, nous avons vu – notamment en Roumanie – que l’IA a été récemment utilisée pour s’ingérer dans les élections”, reprend Edgar Rinkevics.
“En Lettonie, nous avons adopté une législation qui exige le marquage de l’IA” pour que les contenus qui en sont issus soient identifiables. Plutôt que de se montrer méfiant vis-à-vis de l’intelligence artificielle, le président letton affirme qu’”aujourd’hui nous avons besoin de plus d’expertise sur l’IA pour comprendre d’où viennent plus précisément les cyberattaques et comment mieux protéger nos démocraties.”
Signe de confiance en l’IA : Riga a signé en décembre dernier un partenariat avec Microsoft pour créer un centre national d’intelligence artificielle. Ce centre vise notamment à moderniser les processus administratifs publics en Lettonie.
“Sans confiance on ne peut pas développer l’IA dans la durée”
Qui dit IA, dit aussi nouvelles menaces pour les démocraties. Des « deepfakes » plus vrais que nature aux usurpations de comptes de réseaux sociaux par des « scammers » pour soutirer de l’argent, l’intelligence artificielle peut avoir différents visages. “L’IA peut faciliter les cyberattaques, et celles-ci sont de plus en plus sophistiquées avec des outils qui peuvent générer des codes complexes à des fins malveillantes”, met en garde Marie-Laure Denis, présidente de la Commission nationale de l’informatique et des libertés (Cnil).
Selon elle, les solutions pour protéger les démocraties doivent s’appuyer sur plusieurs solutions, à commencer par le Règlement général sur la protection des données (RGPD) en vigueur depuis 2018. “Il faut aussi soutenir le développement d’un outil IA de confiance pour renforcer la protection des droits individuels”, ajoute-t-elle. “Sans garantie, on ne peut pas avoir de confiance, et sans confiance on ne peut pas développer l’IA dans la durée.”
Reste que quand on parle d’IA et de démocratie, tous les pays ne se sentent pas inclus dans cette réflexion.
L’avocate pakistanaise Nighat Dad se fait le porte-voix de ces oubliés : “Est-ce que les échanges que l’on a là sont démocratiques ? Parle-t-on ici du monde entier ou seulement des démocraties du Nord global ?”, interroge la fondatrice de Digital Rights Foundation, une ONG engagée dans le domaine des droits numériques.
“On ne peut pas imaginer aller de l’avant sans des voix diversifiées, toutes les démocraties doivent pouvoir s’exprimer.”
Le secrétaire général de l’Organisation de coopération et de développement économiques (OCDE) ne dit pas autre chose quand il parle de “besoin d’une coopération internationale plus efficace en matière d’IA”. “Il faut un cadre de gouvernance générale pour faciliter le développement d’une IA sure”, affirme Mathias Cormann, avant d’ajouter : “Nous en sommes loin pour le moment”.
“À ce stade, on ne sait pas exactement où l’on va avec l’IA”, conclut le président de la Lettonie. “Pour les entreprises, la priorité est d’engranger des bénéfices, pour les États les priorités sont peut-être un peu différentes.
En tout cas, nous sommes loin d’un accord global sur l’IA.”
france24
