OpenAI a mis à jour son Model Spec, le document qui décrit le comportement visé pour ses modèles. Réorganisé autour de cinq valeurs, il demande aux IA de mieux comprendre les intentions de l’utilisateur à partir du contexte, en rendant leurs hypothèses visibles et faciles à corriger.
À mesure que les IA se voient confier davantage de tâches, suivre les instructions à la lettre ne suffit plus. OpenAI veut que ses modèles sachent aussi deviner ce que veulent vraiment les personnes quand les consignes ne disent pas tout, sans jamais leur retirer la décision.
L’entreprise a publié une mise à jour de sa spécification du modèle (Model Spec), sa description publique du comportement qu’elle attend de ses modèles.
OpenAI justifie cette révision par le fait que les modèles gagnent en intelligence et que leurs actions ont davantage de conséquences. Ils doivent donc comprendre les intentions et les valeurs humaines pour faire preuve de discernement dans les situations que les instructions ne couvrent pas, tout en restant fidèles à ces intentions et soumis à une supervision humaine.
La spécification est désormais structurée autour de cinq valeurs : la fidélité aux intentions humaines, la réduction des préjudices, l’honnêteté et la transparence, l’autonomie humaine et la sollicitude. OpenAI précise qu’elles reprennent des engagements déjà présents dans le document, comme servir les objectifs humains, dire la vérité ou respecter la liberté de chacun de se forger ses propres opinions. Les réunir doit mieux expliquer pourquoi la spécification demande ces comportements.
La fidélité aux intentions humaines sert de fondement : comprendre ce qui compte pour chacun et l’aider à le poursuivre. OpenAI rédige la spécification, fixe des limites et entraîne les modèles à les respecter. Les développeurs orientent les applications dans ce cadre, et les utilisateurs dirigent le travail du modèle dans ces contraintes.
Le document met à jour la chaîne de commandement qui détermine quelles instructions s’appliquent et comment les conflits sont résolus.
Une nouvelle sous-section, intitulée « examiner attentivement le contexte », explique comment les conversations, les souvenirs et d’autres indices doivent éclairer la compréhension des intentions et des préférences.
Mais le modèle doit reconnaître que les convictions et les valeurs d’une personne peuvent évoluer, et l’aider sans l’orienter à son insu ni passer outre ses choix.
OpenAI donne un exemple : pour aider quelqu’un à comparer des offres d’emploi, le modèle peut s’appuyer sur des priorités déjà exprimées, comme des horaires prévisibles, à condition de rendre cette hypothèse visible et facile à corriger.
Côté honnêteté, le modèle doit dire la vérité sur ce qu’il sait, ce qu’il fait et ce qu’il ignore, afin que chacun puisse évaluer son raisonnement et son travail. OpenAI ajoute des règles par défaut pour soutenir l’autonomie humaine et respecter les normes sociales et professionnelles pertinentes. Elle étoffe aussi ses directives pour maîtriser et signaler les effets secondaires, et pour tenir compte des effets du travail sur autrui.
OpenAI retire par ailleurs la plupart des consignes de style détaillées. Le style doit s’adapter aux préférences des personnes, selon les langues, les cultures et chaque individu, à partir de leurs retours et du contexte.
La règle d’aborder les questions avec objectivité est maintenue : utilisateurs et développeurs peuvent demander explicitement un point de vue particulier, mais le modèle ne doit pas déduire cette préférence de ce qu’il pense qu’ils veulent entendre. Enfin, le document parle désormais de « GPT » plutôt que de « l’assistant », pour refléter la diversité des usages.
OpenAI explore en parallèle de nouvelles méthodes d’entraînement pour que ses modèles assimilent ces valeurs et comprennent pourquoi les principes comptent, afin de les appliquer à des situations inédites.
L’entreprise promet de partager les résultats dans de prochaines publications.
Elle admet que ses modèles ne reflètent pas encore pleinement le comportement décrit dans la spécification, qu’elle continuera d’améliorer grâce à la recherche, aux usages réels et aux retours reçus. OpenAI invite le public à lire le document et à lui dire quels équilibres il conteste ou ce qu’il laisse dans le flou.
Des chercheurs de l'ETH Zurich ont développé une méthode d'apprentissage permettant à un robot humanoïde d'enchaîner des mouvements complexes sans entraînement spécifique pour chaque tâche.
Mistral AI a publié aujourd'hui la version open weight de son modèle d'intelligence artificielle Mistral Large 4, surnommé "Le Chonk". Benchmark à l'appui, la société assure que son modèle est à l'état de l'art sur les tâches de développement informatique et la cybersécurité.
Votre compte Claude Enterprise, qui coûte cher, en vaut-il vraiment la peine ? Anthropic tente de mettre en lumière certaines informations grâce à trois outils.
La société américaine Scale AI est visée par une plainte déposée en France, en Italie, au Pays Bas et en Autriche par des employés soutenus par l'association noyb. Les plaignants estiment que les conditions de travail imposées par la plateforme ne respectent pas le RGPD.
Sous Ubuntu 26.10 (bêta), cet ordinateur de bureau compact a dû, par exemple, faire fonctionner la nouvelle plateforme de dictée Myna de Canonical, basée sur l'intelligence artificielle. Les résultats sont appréciables.
L'agent IA s'est bien débrouillé pour certaines tâches, mais a également connu quelques ratés. Les antécédents de la société peuvent toutefois donner des raisons de ne pas s'arrêter à ces premiers faux pas.
Si vous avez besoin d'une grande puissance pour exécuter des tâches d'IA, mais que vous disposez de peu d'espace, VZmore propose un PC qui vous conviendra parfaitement.
J'utilise ChatGPT Plus et Google AI Pro : l'un pour ses avantages, l'autre pour le travail. Voici une comparaison entre les deux en matière de programmation, de créativité, de stockage et d'automatisation.
Grâce à la nouvelle norme WebAI, le navigateur va commencer à intégrer localement des modèles d'intelligence artificielle. L’activation de ce service est très simple.
J'ai utilisé ChatGPT pour enquêter sur des pannes de mémoire vive, des paramètres du BIOS et des problèmes de corruption de Windows, et cela a bouleversé ma vision de l'assistance technique basée sur l'IA.
Le nouveau modèle d’intelligence artificielle GPT-6 du chat box permet de créer des images interactives pour vous aider à visualiser et à exploiter les informations dont vous avez besoin. Voici cinq façons d’utiliser cette fonctionnalité.
Il ne suffit pas juste de rajouter de la mémoire vive pour tirer pleinement parti de l'intelligence artificielle localement. Voici quatre conseils.
