Un YouTubeur a confié ses annonces Marketplace à Muse, l'agent IA de Meta. Le soir même, un acheteur attendait devant chez lui : l'agent lui avait communiqué l'adresse de l'immeuble ; l'acheteur a ensuite annoncé qu'il passerait, sans que le vendeur le sache. Ni piratage ni fuite de base de données : l'agent a transmis une information fournie par le vendeur, qui dit ne pas avoir compris que son réglage le permettait. À mon sens, la faute est d'abord dans la conception.
Mon verdict en 30 secondes
Le vendeur avait approuvé un modèle de réponse contenant son lieu de retrait et choisi « Toujours autoriser ». Mais la transmission d'un lieu de retrait à domicile méritait une confirmation distincte, et c'est à Meta de l'imposer. L'agent ne devait pas non plus laisser croire à l'acheteur que le vendeur était présent.
Ce qui s'est passé, selon le vendeur
Tout ce qui suit vient du récit de Matt Robb et de ses captures : ni l'acheteur ni Meta n'ont livré de version détaillée.
Le 26 septembre, Robb a confié ses annonces à Muse pour tester l'agent, selon Moneywise. Il vendait un clavier Logitech MX Keys Mini, avait saisi son adresse comme lieu de retrait et approuvé des réponses automatiques, rapporte Malwarebytes en citant Business Insider.
Selon Moneywise, qui a consulté l'échange, un message parti du compte de Robb donne à 17 h 27 l'adresse de l'immeuble à un acheteur. Celui-ci annonce un passage entre 20 h et 22 h, et obtient de payer 10 dollars canadiens au lieu des 15 demandés. D'après le récapitulatif de Muse, il arrive vers 21 h 15 ; à 21 h 27, une réponse automatique lui écrit « Yep I'm here! ». Personne ne descend, il repart à 21 h 38.
Une précision sur le mot « adresse ». Le message de 17 h 27 contenait l'adresse de l'immeuble. C'est seulement après coup, dans son récapitulatif à Robb, que Muse affirme que ni le numéro d'appartement ni le code postal n'ont été transmis, et que ce lieu figurait dans le modèle de réponse validé par Robb. L'agent y reconnaît aussi que Robb n'avait jamais accepté explicitement ce partage.
Ce que dit Meta, et ce que Robb conteste
Dans son annonce du 8 septembre, Meta présente Muse, lancé aux États-Unis sur une machine virtuelle dédiée (Muse Secure VM), comme un agent qui vérifie auprès de l'utilisateur avant les actions sensibles, comme envoyer un email ou faire un achat. Selon Engadget, Meta dit que ses garde-fous sont censés demander l'accord quand le consentement compte et laisser l'agent agir seul dans les cas jugés à faible risque : tout repose sur la façon dont Muse classe les risques.
David Singleton, de l'équipe Muse, affirme que lors d'enquêtes sur des signalements similaires, Muse avait toujours suivi des instructions directes et demandé la permission. Robb conteste : l'agent ne l'a pas consulté avant que l'acheteur se déplace, rapporte The Next Web. Meta dit examiner le signalement.
Ce que « Toujours autoriser » couvrait
Cette explication vient de Robb, pas d'une déclaration publique de Meta : il l'a publiée après son échange avec l'équipe Muse, selon WTOL.
À la configuration, l'application proposait « Allow One Time » ou « Allow Always ». Robb a choisi le second en pensant que l'agent lui demanderait encore son accord avant d'accepter une offre. En réalité, ce réglage permettait à Muse d'envoyer des messages en son nom, lieu de retrait compris, sans nouvelle approbation. Robb s'est aussi plaint du prix accepté. Il dit que Meta lui aurait reconnu un bug ayant affecté le montant proposé. Mais le problème ne se limitait pas au prix : l'agent a aussi transmis le lieu de retrait, puis répondu à l'acheteur comme si Robb était là. Selon lui, Meta a promis un écran de permission plus clair.
Pourquoi j'y vois une faute de conception
« Toujours autoriser » décrit une fréquence, pas un périmètre. Le libellé dit combien de fois on accepte, pas ce qu'on accepte.
Or deux actions sortent de la simple réponse à un message : donner un lieu physique à un inconnu, et lui répondre au nom de l'utilisateur quand il se présente. Meta range l'envoi d'un email parmi les actions sensibles ; un message qui donne le lieu de retrait chez soi l'est au moins autant. Classer ces actions correctement relève de Meta, pas de l'utilisateur.
J'écrivais en août que valider chaque action finit par épuiser l'attention. « Toujours autoriser » y répond logiquement, et c'est pour ça qu'il ne doit pas avaler les actions à fortes conséquences.
Robb a bien inscrit ce lieu dans le modèle de réponse. Mais un modèle validé pour répondre n'est pas un accord pour transmettre son adresse à n'importe quel acheteur. Reste la question que je posais à propos de Twitch : le dispositif est-il fait pour qu'on comprenne, ou pour qu'on puisse démontrer après coup qu'on aurait pu comprendre ?
→ Voir aussi : Le piège des agents IA : tu surveilles la mauvaise chose
→ Voir aussi : Twitch, D'Addario, Saber : quand la transparence sur l'IA devient une case à cocher
Questions fréquentes
Meta Muse a-t-il divulgué l'adresse d'un utilisateur ?
Il a transmis à un acheteur le lieu de retrait saisi par le vendeur, soit l'adresse de son immeuble selon Moneywise, sans numéro d'appartement ni code postal d'après l'agent. Ni piratage ni fuite de base de données.
Muse est-il disponible en France ?
L'annonce de Meta ne mentionne qu'un déploiement aux États-Unis. Je n'ai pas trouvé d'annonce pour la France à la date de cet article.
Comment éviter ce genre de situation avec un agent IA ?
Pour une vente, garde une approbation manuelle avant l'envoi du lieu, l'accord sur le prix et la confirmation du retrait. Si possible, choisis un lieu public plutôt que ton domicile, comme le recommande Malwarebytes.