Meta a retiré en urgence une nouvelle fonctionnalité de génération d’images sur Instagram à peine trois jours après son lancement, après une vague de critiques portant sur la protection de la vie privée et les risques d’utilisation abusive de l’intelligence artificielle.
Déployée à partir du 7 juillet dans le cadre de l’outil de création « Muse Image », la fonctionnalité permettait aux utilisateurs de mentionner un compte Instagram public afin de générer des images inspirées des photos et vidéos publiées par ce dernier. Disponible dans un premier temps aux États-Unis et destinée à être étendue progressivement à d’autres marchés, elle a rapidement suscité une forte contestation sur les réseaux sociaux.
Le principe était simple : un utilisateur pouvait demander à Meta AI d’imaginer une personnalité publique, un créateur de contenu ou tout autre détenteur d’un compte public dans une situation fictive, à condition que le compte concerné autorise la réutilisation de son contenu par les outils d’intelligence artificielle du groupe. En pratique, il suffisait d’intégrer le nom d’utilisateur précédé d’un « @ » dans la requête adressée à l’IA.
Cette possibilité a immédiatement ravivé les inquiétudes liées aux deepfakes, aux usurpations d’identité numériques et à la diffusion de contenus trompeurs. Plusieurs associations et spécialistes des questions numériques ont alerté sur le risque de voir cette technologie utilisée pour produire de fausses images mettant en scène des personnalités publiques ou des particuliers dans des contextes sensibles ou compromettants.
Les critiques ont également porté sur le fonctionnement même du dispositif. Pour les comptes publics, l’option autorisant l’utilisation des contenus par les fonctionnalités d’intelligence artificielle de Meta était activée par défaut, obligeant les utilisateurs à effectuer eux-mêmes les démarches nécessaires pour la désactiver. De nombreux internautes ont dénoncé un système reposant sur le retrait volontaire plutôt que sur un consentement explicite préalable.
Le syndicat américain des acteurs SAG-AFTRA a notamment appelé ses membres à empêcher l’utilisation de leurs photos et vidéos par les outils d’intelligence artificielle du groupe afin de protéger leur image et leurs droits. D’autres organisations spécialisées dans la protection des utilisateurs en ligne ont évoqué des risques liés à la sextorsion, aux arnaques numériques ou encore à diverses formes d’exploitation facilitées par la création d’images artificielles réalistes.
Face à l’ampleur de la polémique, Meta a finalement décidé de supprimer la fonctionnalité dès le 10 juillet. Dans un communiqué, l’entreprise explique avoir voulu proposer un outil créatif tout en laissant aux utilisateurs le contrôle de l’utilisation de leurs contenus publics. Les retours recueillis après le lancement ont toutefois montré que le dispositif ne répondait pas aux attentes des utilisateurs.
Le retrait concerne uniquement la possibilité d’utiliser les publications des comptes publics comme source de génération d’images. L’outil Muse Image demeure disponible pour la création de contenus générés par intelligence artificielle à partir d’autres éléments ou requêtes.
Meta précise par ailleurs que le paramètre permettant d’empêcher l’utilisation de ses photos et vidéos par les fonctionnalités d’intelligence artificielle reste accessible sur Instagram. L’entreprise recommande aux utilisateurs, en particulier aux détenteurs de comptes publics, de vérifier régulièrement leurs paramètres de confidentialité afin de contrôler les usages potentiels de leurs contenus.
Cet épisode illustre les difficultés auxquelles sont confrontées les grandes plateformes technologiques dans leur course à l’intelligence artificielle générative. Entre innovation, protection des données personnelles et respect du consentement des utilisateurs, l’équilibre reste particulièrement fragile, notamment lorsqu’il s’agit de l’exploitation d’images et d’identités numériques.
