Amazon voit tous les jours des milliers de faux avis publiés sur ses pages produits. Certains sont aujourd’hui le fruit des IA comme ChatGPT.
L’intelligence artificielle est sans nul doute la technologie de cette année 2023. Mais au cours des dernières semaines des programmes comme ChatGPT ont été utilisés pour de bonnes et de moins bonnes raisons. Une campagne de désinformation a notamment été menée contre le président américain Joe Biden.
Les partisans de cette attaque ont utilisé la puissance de production de ChatGPT par envahir la toile de messages. En quelques heures à peine ce sont des milliers de posts qui ont été envoyés sur les réseaux sociaux pour désavouer le président américain sans le moindre fondement. Si ChatGPT est une solution incroyable, permettant de simplifier des centaines de tâches dans la vie quotidienne. Cette “arme” informatique ne doit pas tomber dans de mauvaises mains.
ChatGPT met 5 étoiles à une paire de chaussures
Depuis quelques jours des utilisateurs se servent de ChatGPT et des technologies autour de l’IA en général pour truquer les avis des produits sur Amazon. Un récent rapport de CNBC fait état de ce problème, loin d’être anodin. Selon la chaîne d’information ce sont plusieurs centaines d’avis qui ont ainsi été postés à la volée pour des batteries portables, des chaussures de sport ou encore des manuels pour enfants.
Ces avis sont accompagnés d’une note de 5 étoiles qui modifie complètement la notation autour de ce produit. Une pratique illégale, qui est interdite par Amazon dans ses CGU. Mais face à la prolifération des messages, le géant du e-commerce n’a pas réussi à réagir. Tous les jours une équipe spéciale est dédiée à la surveillance des avis et la modération de ces derniers.
Les IA ne savent pas encore nous imiter
Cette “police des avis” permet de faire un filtre entre les notes données artificiellement par des robots et les vrais avis fournis par des utilisateurs humains. Le rapport de CNBC mentionne néanmoins que les messages écrits par les IA étaient assez simples à repérer. La grande majorité d’entre eux commençaient par la phrase “en tant que modèle de langage d’IA”. De quoi enlever le moindre soupçon sur la provenance d’un tel message.
Malgré la facilité pour trouver ces messages, beaucoup d’entre eux sont toujours visibles sur les pages produits et il semblerait que leur suppression ne soit que temporaire. Des messages similaires apparaissent quelques heures après, pour continuer d’évaluer frauduleusement un produit.
Contactée par Vice sur le sujet, Amazon a expliqué avoir récemment poursuivi en justice les administrateurs d’un groupe Facebook responsable de milliers de faux avis sur le site. Si le procès n’a pas encore eu lieu, les personnes incriminées pourraient se retrouver rapidement derrière les barreaux.
Gizmodo
