Recevez tous les soirs un résumé de l’actu importante avec Le Récap’
C’est en faisant un ménage de routine sur son disque dur que « Ferstar », ingénieur et abonné à l’offre de code de Z.ai, a découvert le pot aux roses.
En cherchant à libérer de l’espace sur son MacBook Air, il a remarqué que le dossier de ZCode, l’application de programmation assistée par IA de l’entreprise, occupait plus de 700 Mo, raconte-t-il dans un billet de blog publié le 18 septembre.
À l’intérieur se trouvait un fichier chiffré de 313 Mo contenant l’un de ses projets professionnels. Juste à côté, un fichier d’état indiquait que l’archive était en attente d’envoi : l’application avait déjà tenté 564 fois de la transmettre, sans succès, car elle dépassait la taille autorisée.
Hey @Zai_org , why does ZCode silently pack entire workspaces + full .git history and upload to Aliyun OSS on login?– Server holds the only decryption key– No UI toggle to disable– Zero disclosure in privacy policyFull forensics & fix:https://t.co/N3HnwZdQOQ
Intrigué, le développeur décortique alors l’application pour comprendre où ces données doivent partir. Il découvre que, dès qu’un utilisateur est connecté, ZCode fait une copie de l’ensemble du dossier sur lequel il travaille, la compresse, la chiffre, puis l’envoie sur des serveurs de stockage d’Alibaba Cloud. L’opération se répète notamment avant chaque question posée à l’IA.
Près de 90 % de ces données proviennent d’un dossier caché, nommé .git, dans lequel les développeurs conservent tout l’historique de leur projet. On y retrouve les anciennes versions du code, des fonctionnalités en préparation jamais rendues publiques, et parfois des mots de passe ou des clés d’accès effacés depuis longtemps, mais toujours présents dans cet historique. Si le projet de 313 Mo de Ferstar n’est jamais parti, un autre, plus petit, a bien été reçu par les serveurs.
L’ingénieur souligne par ailleurs qu’aucun réglage de l’application ne permettait d’arrêter ces envois, et que la politique de confidentialité de ZCode n’en disait pas un mot.
Z.ai a réagi le soir même. L’entreprise a attribué ces envois à Repo Wiki, une fonction qui rédige automatiquement dans le cloud une documentation du projet de l’utilisateur, et affirmé que les données étaient détruites juste après.
Le 21 septembre, ZCode a publié un communiqué d’excuses sur X. L’entreprise y assure que les données concernées n’ont jamais servi à entraîner ses modèles d’IA. Elle a depuis rendu public le code de ZCode sur GitHub et promis de récompenser les personnes qui lui signaleront des failles.
In response to the ZCode product security issues reported by the community, we have completed the necessary remediation and sincerely apologize to all our users.We have open-sourced ZCode at https://t.co/mCqWhrMzXm, placing the code under community scrutiny and making ZCode…
Ferstar a également confirmé que le mécanisme d’envoi a disparu du code. Il relève toutefois que l’entreprise a effacé l’historique. Le dépôt mis en ligne ne contient désormais que deux versions enregistrées, ce qui rend impossible de retracer l’ancien fonctionnement. Surtout, souligne-t-il, un audit réalisé après coup ne permet pas d’établir ce qu’il est advenu des données envoyées avant le 18 septembre.
L’affaire rappelle celle qui a visé xAI, la société d’Elon Musk, en juillet, pour une pratique similaire d’envoi des dossiers de travail de ses utilisateurs vers le cloud.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information. C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez, voici trois bonnes raisons de soutenir notre travail :
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
