Concernant ChatGPT, « ne serait-ce pas plutôt le reflet grossi de nos propres travers que nous percevons là et qui nous effraie ? », questionne Jean-Gabriel Ganascia, chercheur en IA, dans sa chronique.
Qui se souvient aujourd’hui d’Amandine, le premier bébé-éprouvette, née le 24 février 1982 d’une fécondation in vitro suivie d’une implantation de l’embryon dans l’utérus maternel ? Tri, eugénisme, manipulations génétiques, traumatismes affectifs multiples et probable stérilité des enfants nés dans un tube à essai… On craignit alors le pire, en se rappelant les grands totalitarismes du 20e siècle.
L’événement suscita un émoi si considérable que s’ensuivit, l’année suivante, la création du Comité consultatif national d’éthique pour les sciences de la vie et de la santé (CCNE). Quarante ans plus tard, la fécondation in vitro s’est banalisée et une réflexion éthique bien conduite a permis, jusqu’ici du moins, de surmonter ces écueils.
Un traumatisme analogue avec ChatGPT
ChatGPT, l’agent conversationnel mis à disposition du public par la société OpenAI, crée un traumatisme analogue. Tous peuvent le tester. Les textes générés étonnent, puis inquiètent. On invoque, tour à tour, les risques de triche, les billevesées – ce que l’on désigne comme des « hallucinations » -, le chômage des intellectuels ou des propos inconvenants, parce que racistes ou sexistes.
Certains en demandent l’interdiction, d’autres, plus nombreux, l’encadrement. On institutionnalisera peut-être des comités d’éthique du numérique afin d’aider le législateur en cette matière, comme on le fit dans les sciences de la vie et de la santé avec le CCNE. Comment ne pas y souscrire ?
Que craignons-nous ?
Revenons sur nos peurs. Que craignons-nous ? On n’a pas attendu ces machines pour frauder, raconter des sornettes ou proférer des injures. Serions-nous devenus hypersensibles ? Ne serait-ce pas plutôt le reflet grossi de nos propres travers que nous percevons là et qui nous effraie ? La crainte de la tricherie révèle l’état pitoyable de l’enseignement, où l’on se soucie plus de notes et de diplômes que de transmission des connaissances. Et il en va de même pour le reste. Or, en nous centrant sur les effets des chatbots, nous ne résoudrons pas les causes de ces effets !
Par Jean-Gabriel Ganascia, professeur à Sorbonne Université, à Paris, chercheur en intelligence artificielle au LIP6 (Sorbonne Université, CNRS), ex-président du comité d’éthique du CNRS. Dernier ouvrage publié : « Servitudes virtuelles », Seuil, 2022.
sciencesetavenir
