Qui est surpris par les conclusions du rapport ? Personne, j’espère !
L’IA générative fait peser des risques sur le développement des mineurs, notre capacité à réfléchir et à faire des choix. Un rapport fait le point sur les enjeux et propose des recommandations, dont une dizaine à mettre en place le plus rapidement possible. Next décortique ce rapport.
En février, Anne Le Hénanff saisissait le Conseil de l’intelligence artificielle et du numérique (CIANum) pour mettre en place une commission « IA générative et vulnérabilités ». Le but ? « Poursuivre les réflexions engagées par le Président de la République sur les conséquences du numérique sur nos démocraties, le vivre-ensemble, avec un accent tout particulier sur la protection des mineurs en ligne ».
Le point de départ est un paradoxe : la folle adoption de l’IA générative par le grand public (100 millions d’utilisateurs actifs en deux mois pour ChatGPT) d’un côté ; l’importante « défiance à l’encontre de ces usages » de l’autre. Par exemple, « en France, 75 % des non-utilisateurs ont un avis bien tranché et expriment leur manque de confiance dans l’IA générative », rappelle le rapport intitulé Protéger sans empêcher : les vulnérabilités à l’ère de l’IA générative (pdf).
IA générative : « nous sommes toutes et tous vulnérables »
Pour se faire une idée de l’adoption en France, l’Arcep a publié au début de l’année une étude selon laquelle « près de la moitié de la population utilise déjà des services d’IA générative, un tiers des utilisateurs y a recours au quotidien ». Le chiffre grimpe à 85 % pour les 18 à 24 ans et près de 70 % si on descend à 15 ans.
Le rapport affirme que « nous sommes toutes et tous vulnérables face à cette technologie », mais ajoute que les mineurs sont particulièrement exposés « en raison de leur développement cérébral ». En effet, leurs lobes frontaux « – permettant d’exercer sa capacité critique – ne sont pas matures », explique le rapport.
Trois principaux risques sont mis en avant :
- Un « fort risque d’ordre cognitif pour les utilisateurs […] par la délégation de fonctions cérébrales essentielles (capacités de réflexion, d’expression, de prise de décision ou encore l’esprit critique) ».
- Le risque que la « dépendance envers l’IA générative » s’étende à la sphère émotionnelle et affective, à cause principalement de deux biais qui sont aussi de gros leviers d’engagement : la flagornerie et l’anthropomorphisation.
- Enfin, « l’IA générative a permis une accélération des violences numériques, plus qu’elle n’a pu contribuer à les endiguer à ce stade ». Deepfakes pornographiques ciblant en très grande majorité les femmes, contenus pédocriminels générés par IA, danger pour la santé…
Sur les deepfakes, un chiffre : « En 2025, l’équivalent d’un élève par classe déclare avoir été victime de deepfakes à caractère sexuel ». Un autre pour bien comprendre l’ampleur du phénomène : « 500 000 signalements de contenus pédocriminels générés par l’IA recensés par le NCMEC [National Center for Missing & Exploited Children, ndlr] en 2025 (soit une augmentation de 10 538 % en deux ans) ».
