ChatGPT est un robot numérique et conversationnel disponible en ligne depuis la fin du mois de novembre. Ce programme d’intelligence artificielle qui a été développé par la jeune pousse californienne Open AI fait sensation. Il est capable de produire à la demande des internautes des textes variés, quel que soit le sujet ou de répondre par écrit à n’importe quelle question de façon assez convaincante.
Pour parvenir à ce qui semble être une révolution technologique, l’équipe d’OpenAI a dû entraîner et « nourrir » son agent conversationnel pendant des mois avec pas moins de 500 milliards de textes issus de livres, d’encyclopédies et d’informations provenant du web.
Alors que les internautes sont subjugués par les performances du programme, Jean-Gabriel Ganascia, professeur au laboratoire d’informatique de l’université Pierre-et-Marie Curie et chercheur en intelligence artificielle, estime que ChatGPT est certes une révolution « comparable à l’apparition de l’ordinateur », mais que ce logiciel très élaboré présente toutefois certains risques pour les internautes : « Concrètement, on peut utiliser ces dispositifs de génération automatique de textes pour la tromperie. Des élèves peuvent l’employer pour faire croire qu’ils ont réalisé un devoir, ou encore des officines de désinformation et de propagande peuvent s’en servir pour diffuser des Infox sur internet et les réseaux sociaux. Les grandes firmes de la Tech emploient déjà ces générateurs de textes pour leur campagne marketing.
Par exemple, l’une des premières publicités vantant les avantages des Chabots était de dire que vous pouviez, de chez vous, commander une pizza. Un service qui semble de prime abord bien utile aux internautes, mais démontre aussi l’intention des grands acteurs du numérique de dominer le marché de la restauration de proximité en décidant, par exemple, des restaurants habilités à vous livrer votre pizza. L’utilisation de l’intelligence artificielle, dans ce cas, me semble être un véritable problème. »
ChatGPT adopté par de nombreux étudiants
Et bien que ChatGPT ne source pas ses réponses, ce qui ne permet pas de vérifier leur fiabilité, le programme a été adopté par de nombreux étudiants pour rédiger leurs devoirs. Des pratiques de triches qui n’inquiètent pas, outre mesure, Guillaume Leboucher créateur de la Fondation IA pour l’École, hébergée par l’Institut de France, qui préconise au corps enseignant de renforcer l’utilisation de ces outils numériques dans les établissements scolaires. « ChatGPT est un super programme conversationnel, c’est également un nouveau moteur de recherche de deuxième génération permettant de trouver en employant un langage naturel des informations sur Internet. Ce dispositif a le potentiel de changer radicalement notre relation avec l’intelligence artificielle au quotidien.
Mais ce programme pose aussi des problèmes éthiques, voire philosophiques, quant à son utilisation grand public, notamment par la jeune génération. En revanche, la première chose à éviter serait de l’interdire en milieu scolaire. Notre fondation « IA pour l’école », préconise plutôt l’emploi de cet outil numérique afin de permettre aux élèves de progresser et de se former pendant leurs études. C’est la raison pour laquelle nous encourageons les enseignants pour que les élèves utilisent ChatGPT, qu’ils jouent avec, mais en les prévenant, toutefois, que ce n’est pas pour ça qu’ils obtiendront de meilleures notes à leurs devoirs en se contentant du copié-collé des textes générés par ce robot conversationnel. »
Les contenus biaisés de ChatGPT
La société qui a créé ChatGPT précise sur son site que son programme conversationnel peut générer des « informations incorrectes », « ou des contenus biaisés ». Et c’est bien là le problème. ChatGPT assène souvent dans des textes impeccablement rédigés des contrevérités, précise Thierry de Vulpillières, cofondateur et président d’EvidenceB. Cette jeune pousse française développe des programmes d’intelligence artificielle pour lutter contre le décrochage scolaire, comme par exemple Adaptiv’Math, un assistant pédagogique intelligent.
ChatGPT peut en effet afficher des résultats erronés et les présenter comme des vérités, donner des réponses véhiculant des stéréotypes sexistes ou de genres. « Nous avons un projet de recherche avec l’École normale supérieure pour lutter contre ces biais que l’on constate aussi dans l’enseignement traditionnel des mathématiques, détaille Thierry de Vulpillières. On remarque depuis longtemps la désaffection des jeunes filles en milieu scolaire pour les filières mathématiques alors que les neurosciences nous ont démontré que tous les cerveaux humains, filles ou garçons, sont identiques et naturellement doués dans cette matière. Afin de corriger ces stéréotypes, nous employons des algorithmes et des programmes IA pour contrebalancer ces biais sans fondement.
En définitive, les robots conversationnels peuvent à la fois renforcer les préjugés dans nos sociétés, comme ils sont capables aussi de les démasquer et de les corriger. Mais la ligne rouge à ne pas franchir avec n’importe quel programme IA se situe quand la machine décide à votre place. Par exemple, pour l’obtention de votre prêt bancaire ou quand elle préjuge de votre réussite à un examen. Ces outils numériques sont au service de votre intelligence et pas l’inverse. Et dans un cadre scolaire, l’IA n’est certainement pas là pour vous apporter des réponses toutes faites comme ChatGPT mais un ensemble de propositions qui vous aideront à trouver par vous-même la bonne réponse ».
La bataille des géants de la Tech pour la suprématie de l’IA est engagée
Microsoft investit environ 10 milliards d’euros dans la société OpenAI. Et avec ce robot conversationnel, la firme de Redmond serait en mesure de concurrencer le moteur de recherche du grand Google. Microsoft prévoit en effet d’intégrer ChatGPT dans Word ou Outlook pour générer, par exemple, des réponses automatiques à ses courriels.
