La réponse se trouve là où on s'y attend le moins.
Les points clés à retenir sur les filigranes de Claude
La semaine dernière, Anthropic a annoncé qu’elle allait commencer à apposer des filigranes sur les textes générés par plusieurs de ses modèles de langage (LLM) via Claude afin de se conformer à l’article 50 de la loi européenne sur l’IA.
Cette loi exige des entreprises qu’elles fournissent des outils de transparence pour les contenus générés par l’IA. L'indignation du public face à ces filigranes s'est amplifiée aussi rapidement que les nombreux outils de suppression de filigranes qui fleurissent désormais sur GitHub.
Pour ceux qui n’ont pas apprécié cette nouvelle, la solution semble évidente : trouver un moyen d’éviter d’emporter les filigranes hors de Claude.
Mais, tout comme les nombreux plugins d’écriture visant à « réhumaniser » le texte qui encombrent désormais les boutiques d’applications, se tourner vers un énième outil de correction ne nous mènera probablement nulle part.
Une remise en question plus globale de nos attentes vis-à-vis des outils d’IA — et de l’importance de la provenance du contenu — pourrait au contraire s’avérer utile.
Après avoir dans un premier temps donné peu de détails sur le fonctionnement des filigranes et sur les personnes capables de les lire, Anthropic a publié vendredi dernier de nouvelles recommandations, précisant que les filigranes seraient associés au texte en fonction de choix lexicaux spécifiques.
Les grands modèles de langage (LLM) génèrent un mot à la fois, choisi de manière probabiliste en fonction du mot précédent.
Dans son explication, Anthropic a indiqué que des synonymes tels que « couvert » ou « gris », dans le contexte d’une phrase traitant de la météo, avaient en réalité la même signification.
Anthropic a expliqué que ces choix de mots « sans grande importance » laissent apparaître dans le texte généré un schéma indétectable pour les lecteurs, mais lisible pour ceux qui disposent de la clé. Le tatouage numérique modifie légèrement ce processus de sélection aléatoire des mots.
« Au lieu d’utiliser un générateur de nombres aléatoires arbitraire pour choisir le mot suivant, le tatouage numérique utilise la clé et quelques mots précédents pour déterminer quel mot le modèle doit choisir », a expliqué Anthropic.
« Les mots choisis par Claude restent aléatoires, mais il est désormais possible de vérifier la séquence de mots et de voir si elle correspond aux choix que ferait Claude s’il utilisait la clé. Si c’est le cas, on peut attribuer une probabilité que le texte ait été généré par Claude. »
Un technologue en particulier a exprimé plusieurs frustrations concernant cette approche. Dans un récent article de blog, John Gruber, co-créateur du langage de balisage Markdown, a contesté l’idée selon laquelle ces choix de mots seraient « sans grande importance » et que la clé de tatouage numérique n’« altérerait pas la sémantique » de la sortie de Claude. Il n’est pas le seul à partager cette crainte.
« Le choix précis des mots que nous utilisons lorsque nous écrivons a son importance », a écrit Gruber. « Je veux que tout LLM que j’utilise choisisse les mots les meilleurs et les plus précis à chaque étape de la prise de décision. »
En tant qu’auteur et éditeur, je suis d’accord pour dire que le choix précis des mots a son importance. Mais Claude est-il l’arbitre des « mots les meilleurs et les plus précis » ? C’est intrinsèquement subjectif, mais je ne suis pas sûr que la référence absolue doive être un LLM formé sur le langage humain moyen et souvent utilisé à cette fin. La solution ne serait-elle pas ici de faire soi-même ces choix de mots précis, plutôt que de les confier à un produit qui évolue hors de votre contrôle ?
Étant donné que j’ai choisi d’écrire pour gagner ma vie, je comprends à quel point il est inutile de dire à quelqu’un pour qui l’écriture est une véritable torture de simplement « se débrouiller ». La comparaison n’est pas parfaite, mais l’IA peut être un outil d’écriture pour les non-écrivains, tout comme Google Sheets est un outil (rudimentaire) de gestion de données pour les non-analystes.
Confier l’écriture à un outil d’IA ne me convient pas, mais je le dis de manière neutre. Je ne pense pas que l’utilisation (ou la non-utilisation) de l’IA relève d’une question de supériorité morale. C’est un argument sans issue qui détourne l’attention des débats plus importants.
Le titre du blog de Gruber — « La falsification du texte par le “filigrane” d’Anthropic dans Claude est une perversion de l’écriture » — repose sur plusieurs hypothèses, qui mériteraient toutes d’être examinées de plus près :
Mais c’est cette phrase de Gruber qui m’a le plus marqué :
« L’idée que quoi que ce soit d’autre que mes besoins puisse entrer en ligne de compte dans la génération d’un texte pour moi est manifestement choquante. »
Claude est, et a toujours été, un produit appartenant à une entreprise technologique. Il n’a jamais été optimisé uniquement pour l’utilisateur. L’IA en tant qu’outil destiné aux consommateurs telle que nous la connaissons aujourd’hui est peut-être sans précédent, mais le fait qu’une entreprise technologique agisse en tant que telle dans le cadre du capitalisme (et, de plus en plus, de la politique mondiale) ne l’est pas.
Nous nous devons mieux que d’ignorer le sophisme qui sous-tend cette attente. Nous ne pouvons pas nous permettre de croire que Claude, ou tout autre produit technologique de ce type, est avant tout l’assistant personnel d’un individu, quelle que soit l’efficacité avec laquelle il vous a été vendu.
Peu importe le temps que vous avez passé à fournir à Claude des données sur vos préférences en matière de textes générés par l’IA, sa loyauté (et celle d’Anthropic) ne vous a jamais été destinée. Le fait qu’Anthropic choisisse de s’adapter, même de manière aléatoire, à des réglementations tels que la loi européenne sur l’IA ne fait que le rappeler une fois de plus.
Les laboratoires d’IA sont des entreprises comme les autres, avec leurs propres caprices et leurs propres projets — ce n’est certainement ni la première ni la dernière fois qu’une entreprise modifie un produit à votre insu. Plutôt que d’espérer une cohérence irréaliste ou d’être considéré comme une priorité, le meilleur choix est d’investir dans les textes sur lesquels vous souhaitez voir figurer votre nom.
L’objectif de la réglementation n’est pas toujours d’améliorer la qualité des produits, mais de prendre en compte ce que l’entreprise à l’origine de ce produit n’a pas pris en compte (ou a pris en compte, mais sans agir suffisamment). C’est précisément l’objectif de l’article 5 de la loi européenne sur l’IA.
« Il est inacceptable qu’un outil sacrifie ne serait-ce qu’un iota de clarté, de cohérence, de sens, de qualité, etc. dans le but d’intégrer des indices cachés dans le texte pour suggérer sa provenance », a écrit Gruber sur son blog.
En tant que produits, les outils d’IA sont certes incités par le marché à fournir des réponses de la plus haute qualité.
