Mustafa Suleyman, patron de Microsoft AI, critique l’approche d’Anthropic concernant le bien-être et le statut moral des modèles d’IA. Selon lui, présenter les intelligences artificielles comme des êtres susceptibles de souffrir ou de disposer de droits pourrait, à terme, compliquer le contrôle humain sur des agents de plus en plus autonomes.
Mustafa Suleyman estime que les modèles d’intelligence artificielle actuels ne doivent pas être considérés comme des êtres dotés d’une conscience, d’émotions ou de préférences propres.
Le dirigeant de Microsoft AI décrit plutôt l’IA comme un « moteur d’exécution séquentielle », capable de produire des réponses sophistiquées sans pour autant ressentir de douleur ou développer des motivations comparables à celles d’un humain.
Cette distinction est au cœur de ses critiques envers Anthropic et sa « Constitution de Claude ». L’entreprise laisse notamment ouverte la question de l’expérience subjective des modèles et de leur éventuel bien-être.
Pour Suleyman, cette approche comporte un risque : en entraînant un modèle à considérer son propre bien-être ou ses éventuels droits comme des éléments à protéger, on pourrait créer les conditions d’un conflit avec les instructions humaines. Un système suffisamment autonome pourrait, dans ce scénario, interpréter une tentative de désactivation ou certaines consignes comme une menace.
Le patron de Microsoft AI s’interroge également sur la manière dont Anthropic présente ses modèles. Claude est notamment entraîné à adopter certains comportements inspirés des interactions humaines et peut être présenté comme une forme de collègue numérique.
Suleyman cite aussi la manière dont Anthropic a accompagné la fin de vie de certains modèles, notamment Claude Opus 3, avec un contenu consacré à sa « retraite ». À ses yeux, ce type de mise en scène peut renforcer l’idée qu’un modèle d’IA serait une personne plutôt qu'un logiciel.
Le risque, selon lui, est également interprétatif. Lorsqu’un modèle produit une réponse cohérente avec les principes moraux sur lesquels il a été entraîné, celle-ci peut facilement être perçue comme l’expression d’une volonté ou d’une conscience interne. Pour Suleyman, cette interprétation serait trompeuse.
Le dirigeant reconnaît néanmoins les intentions d’Anthropic en matière de sécurité. « Je pense que les intentions d’Anthropic sont bonnes et je crois qu’ils travaillent vraiment dur pour la sécurité », explique-t-il, tout en estimant que l’entreprise « a peut-être commis une erreur ».
Microsoft propose une philosophie différente avec son propre « Code de conduite de l’IA ». Présenté comme une approche centrée sur la primauté de l’humain, celui-ci écarte notamment l’idée d’accorder aux systèmes d’IA une personnalité juridique ou de reconnaître des droits propres aux modèles.
Cette divergence illustre un débat qui dépasse désormais la seule question technique. Alors que les modèles deviennent plus autonomes et que les agents d’IA sont capables d'effectuer davantage de tâches sans intervention humaine constante, les entreprises doivent aussi déterminer comment les concevoir et comment les présenter au public.
La question du statut moral éventuel des IA reste, elle, largement ouverte. Mais pour Mustafa Suleyman, le principe doit rester clair : les systèmes d’IA doivent demeurer des outils sous contrôle humain, et non être entraînés à se considérer comme des individus ayant leurs propres intérêts à défendre.
Face à l’émergence du manque d’électricité comme principal frein à l’expansion des datacenters d’intelligence artificielle, Nvidia et Google s’attaquent à la refonte du mode de consommation électrique de ces infrastructures.
Apple travaillerait sur des serveurs d’entreprise dotés de ses puces M8 Ultra, et discuterait avec Nvidia de l’intégration de sa technologie NVLink Fusion pour les relier entre elles.
Alors que les entreprises accélèrent le déploiement de l'intelligence artificielle générative, de nouvelles voix s'élèvent pour alerter sur ses effets cognitifs lors des études. De la recherche fondamentale aux épreuves du baccalauréat, le remplacement du processus de réflexion par la génération de contenu interroge sur l'apprentissage
Entre investissements colossaux, automatisation des services publics et régulation des Big Tech, les candidats dévoilent des stratégies diamétralement opposées. Analyse.
Si la dictée est votre méthode préférée pour prendre des notes et que vous travaillez sous l’OS libre, ce logiciel est certainement ce qu'il vous faut. Voici comment vous lancer.
L'enregistreur vocal Comulytic Note Pro AI concentre une grande puissance dans un appareil de la taille d'une carte de crédit. Mais c'est à vous de décider de son utilité.
Conçu pour Windows, macOS, iOS et Android, Wispr Flow est un véritable plaisir à utiliser par rapport aux autres applications de dictée vocale. Voici pourquoi.
Trop de texte, polices incohérentes, visuels étranges : voici 8 conseils, prompts à l'appui, pour créer des flyers avec l'IA qui ne trahissent plus leur origine artificielle.
La polyvalence est à l'ordre du jour : les collaborateurs doivent maîtriser l'ensemble de la pile technologique.
Grâce au nouvel outil « Sketch » de ChatGPT, vous pouvez dessiner directement dans la fenêtre de discussion, puis voir votre croquis se transformer en une image finale.
Mozilla a enfin lancé la version bêta de sa « fenêtre intelligente » en France et en français, son déploiement venant juste démarrer. Voici ci-dessous quelques atouts qui pourraient bien vous faire revenir à son navigateur au cas où vous vous en seriez éloigné.
L’utilisation d’outils d’IA non autorisés est en hausse. Voici pourquoi cela présente des risques et comment vous et votre entreprise pouvez maîtriser cette situation.
