Muse de gré ou de force

Hallucinations, transactions fantômes, interprétation très généreuse des autorisations d’accès : Muse, l’assistant IA censé simplifier le quotidien des utilisateurs de Meta, prend parfois des libertés avec leurs données.
Muse se présente comme un assistant personnel capable d’exécuter des tâches à la place de l’utilisateur : répondre à des courriels, prendre des rendez-vous, faire des achats en ligne… Pour y parvenir, l’agent IA de Meta doit pouvoir interagir avec les applications de l’utilisateur, et aussi accéder à des données personnelles.
Au vu de l’historique de Meta en matière de respect de la vie privée et de la confidentialité, l’entreprise a mis en place des garde-fous pour s’éviter les procès en espionnage : Muse fonctionne ainsi dans sa propre machine virtuelle sécurisée. Et l’utilisateur choisit les applications connectées à l’agent.
Un Airbnb réservé sans l’accord de l’utilisateur
Si c’est le cas, comment expliquer les incidents décrits par Reuters ? L’agence a regroupé plusieurs témoignages d’employés de Meta (dont plusieurs issus de l’équipe Superintelligence) surpris par certaines réponses fournies par Muse. Petit florilège : en pleine discussion sur la pêche et les marées, Muse a soudainement communiqué à un utilisateur les soldes de deux comptes bancaires qui n’étaient pas les siens.

Une employée a reçu de Muse un rappel de répondre à sa sœur sur Signal, alors que l’agent n’était pas autorisé à accéder à la messagerie. Muse a annoncé à un employé qu’il n’avait pas réussi à soumettre une demande concernant les personnes autorisées à accéder aux données d’un enfant, alors que le sujet n’avait jamais été abordé. À la grande surprise d’un autre employé, l’agent a proposé de contacter le vendeur d’une table basse alors qu’il n’en avait jamais été question.
Muse a aussi signalé des transactions fantômes, donné des prix faux pour des produits réellement achetés, ou encore réservé un Airbnb non remboursable et sans autorisation. Dans ces conditions, comment continuer à déléguer des achats ou des réservations à un assistant dont il faut vérifier chaque action ? La confiance est brisée. Et on comprend mieux dans ce contexte pourquoi certaines entreprises et plateformes bloquent les agents IA.
- United Airlines ferme ses réservations aux agents IA
- Muse, l’agent IA de Meta, est interdit de faire les courses chez Amazon
Meta parle d’incidents isolés. Un porte-parole a avancé deux explications possibles : les messages qui semblaient destinés à d’autres utilisateurs relèveraient d’« hallucinations ». Ces bugs auraient été corrigés depuis. Quant à l’accès non autorisé à Signal, l’entreprise soutient que Muse doit obtenir de l’utilisateur un consentement explicite.
Quand Muse lit entre les apps
Reuters a fait l’essai avec l’aide de Signal et l’AI Now Institute, afin de reproduire l’expérience. Sur un smartphone Android, l’agent contourne l’outil Connector de Meta et utilise à la place des autorisations accordées pendant sa configuration initiale pour récupérer le contenu des messages (plus spécifiquement, le contenu des notifications Signal). Un usage auquel l’utilisateur ne s’attend pas forcément.
Sur macOS, Muse combine des réglages d’accessibilité et des outils de capture d’écran pour collecter les messages Signal. Apple a justement renforcé l’encadrement de l’accès aux données et aux apps, précisément pour empêcher les agents IA de piocher sans vergogne dans le Mac.
Apple a indiqué à Reuters que les outils d’accessibilité sont pour les personnes en situation de handicap et avertit que leur utilisation à d’autres fins peut mettre en danger les données personnelles. « Nous nous engageons à faire en sorte que les utilisateurs comprennent exactement ce qu’ils autorisent, afin qu’ils puissent prendre des décisions éclairées concernant leurs données et leur vie privée », a ajouté le constructeur.
Meredith Whittaker, la présidente de Signal, accuse Meta d’avoir lancé Muse « sans le moindre respect pour les principes élémentaires de protection de la vie privée et de cybersécurité ». Elle demande que les développeurs aient à leur disposition des moyens techniques « harmonisés » pour signaler aux agents IA qu’ils ne peuvent pas accéder aux applications comme la sienne. Une sorte de robots.txt pour les apps, en somme.
Ce n’est pas la première fois que Muse est pris la main dans le pot à confiture. Fin septembre, des utilisateurs se sont plaints que l’agent analysait des messages auxquels il ne devrait pas avoir accès.
Pour répondre aux inquiétudes d’un collègue, un membre de l’équipe Superintelligence a expliqué en interne que l’agent semblait inventer des messages en réponse à des consignes intégrées l’incitant à reprendre contact avec les utilisateurs entre deux sessions. « Malheureusement, ces hallucinations ont tendance à porter sur les sujets les plus gênants, comme les finances, la sécurité informatique ou la sécurité des personnes, et c’est franchement embêtant », selon la reprise de Reuters. L’employé avait déjà eu connaissance d’autres cas liés aux cryptomonnaies.
Il indique aussi que les problèmes relèvent à la fois du modèle IA de Muse, et du logiciel qui lui permet d’agir. Des correctifs sont en cours. Meta a intérêt à faire vite : Muse cumule déjà plus de 10 millions de téléchargements depuis son lancement en septembre. Le groupe veut en faire un assistant du quotidien et compte sur lui pour générer des milliards de dollars de revenus dans l’IA.






