L’IA pourrait nous faire perdre le contrôle de notre civilisation. C’est du moins ce qu’affirme une lettre ouverte signée par Elon Musk et Steve Wozniak.
Le ton se veut alarmiste. Ce mercredi 29 mars sur le site de l’institut américain Future of Life, une lettre ouverte signée par 1377 d’internautes et experts réclame un moratoire d’urgence sur les dangers liés au développement de l’intelligence artificielle. L’initiative aurait pu passer inaperçue, mais le réquisitoire profite notamment du soutien du milliardaire Elon Musk, et du cofondateur d’Apple Steve Wozniak.
Mettre en pause les recherches, et vite
Dans le plaidoyer accessible en ligne (et en anglais) dans son intégralité, les signataires appellent officiellement “tous les laboratoires d’IA à suspendre immédiatement, pendant au moins six mois, la formation des systèmes d’IA plus puissants que GPT-4”.
La mention de GPT-4 n’est pas un hasard, puisque la nouvelle version de l’IA développé par OpenAI a réalisé des progrès fulgurants ces dernières semaines. ChatGPT 3.5 avait déjà suffi à faire exploser la popularité de l’intelligence artificielle auprès du grand public, la V4 déjà déployée sur Bing AI embarque désormais la prise en charge du multimodal. Qu’il s’agisse de test de Turing, d’examens académiques ou de répondre à des questions de plus en plus complexes, la technologie fascine autant qu’elle inquiète.
IA contre humains
Dans la pétition partagée cette semaine, les signataires accusent les laboratoires d’intelligence artificielle de s’être lancés dans “une course incontrôlée pour développer et déployer des systèmes d’IA toujours plus puissants, que personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable”.
Qu’il s’agisse de GPT, ou encore de MidJourney qui dévoilait il y a peu une photo du Pape ultraréaliste, mais inventée de toutes pièces, les systèmes d’IA accessibles aujourd’hui posent de nombreuses questions éthiques et sécuritaires : “Devrions-nous automatiser toutes les tâches, y compris celles qui sont épanouissantes ? Devrions-nous développer des cerveaux non humains qui pourraient éventuellement être plus nombreux, plus intelligents (…) et nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ?”.
La pause réclamée par le consortium d’experts et relayée par le quotidien canadien La Presse permettrait ainsi de “s’assurer que le développement de cette technologie soit supervisé et mené pour le bien de la société”. Il faut dire qu’en plus de sa capacité à créer des faux plus vrais que nature, les systèmes d’IA existants font aussi de nombreuses erreurs. La plupart sont “triviales et logiques”, mais d’autres témoignent de “préjugés sociétaux enracinés”, conduisant parfois à des comportements “haineux ou potentiellement nuisibles”, rapporte le média américain Wired.
Un coup pour rien ?
Il y a évidemment peu de chances que cette pétition, aussi suivie soit-elle, change la direction empruntée par l’IA ces derniers mois. Reste que l’opposition de certains grands noms de la technologie montre aussi que la course à l’innovation ne fait pas l’unanimité.
La Presse
