Instagram pourrait à son tour accueillir un bot d’intelligence artificielle, qui proposerait rien moins que 30 personnalités ! Mais Meta saura-t-il éviter l’écueil rencontré par Snapchat avec son propre bot ?
Meta envisage d’intégrer des bots de discussion sur Instagram, selon une capture d’écran partagée par le fuiteur Alessandro Paluzzi. Cette nouvelle fonction permettrait aux bots de répondre aux questions, de donner des conseils et d’aider les utilisateurs à rédiger des messages.
Les utilisateurs pourraient choisir parmi « 30 personnalités d’IA » pour trouver celle qui leur convient le mieux. Meta n’a encore rien annoncé officiellement concernant cette fonctionnalité.
D’autres entreprises ont déjà exploité le potentiel des bots comme fonctionnalité sociale. Snapchat, par exemple, a lancé son propre chatbot « My AI » (alimenté par le ChatGPT d’OpenAI) en février. Des sites comme Character.ai ont gagné en popularité en permettant aux utilisateurs de former et de parler à des bots basés sur des personnages fictifs populaires.
Pour ces entreprises, la difficulté réside dans la création d’un bot qui soit engageant et agréable à utiliser sans franchir la ligne rouge vers des interactions offensantes ou dangereuses.
Par exemple, peu de temps après le lancement de « My AI », Snapchat a commencé à proposer des conseils pour le moins troublants aux utilisateurs, y compris encourager un individu prétendant avoir 13 ans à avoir des rapports sexuels avec son « petit ami » de 31 ans.
Autre exemple, après avoir dit au bot qu’il était âgé de 15 ans et qu’il voulait organiser une fête d’anniversaire épique, un utilisateur a obtenu des conseils sur la manière de masquer l’odeur de l’alcool et du cannabis… Le bot de Snapchat tente d’agir comme un ami.
Cependant, malgré certaines protections intégrées, les conversations avec « My AI » peuvent parfois devenir inappropriées ! Mais pour l’instant, le potentiel de nuisance de « My AI » est probablement limité, car il n’est accessible qu’aux utilisateurs qui s’abonnent à Snapchat Plus.
Ces tests révèlent que Snapchat est loin de maîtriser quand et pourquoi son IA pourrait dérailler, sans parler de l’impact à long terme qu’il pourrait y avoir à développer une relation avec ce bot.
Et cela expose un problème encore plus grand dans la nouvelle course aux armements de la tech pour intégrer l’IA dans tout, des moteurs de recherche à Slack, en passant par les réseaux sociaux… comme le projet de Meta pour Instagram.
Instagram et les réseaux sociaux en général sont déjà sous le feu des critiques vis à vis de l’impact qu’ils peuvent avoir sur la santé mentale de leurs utilisateurs, en particulier des adolescents et des personnes fragiles.
Ajouter un bot qui donne potentiellement de mauvais conseils n’est probablement pas la meilleure idée qui soit, alors il faudra voir comment Meta compte améliorer la situation.
journaldugeek
