Anthropic donne à six chercheurs de l’organisation METR un accès proche de celui de ses employés, pour évaluer ses risques et ses garde-fous. Ils peuvent publier leurs conclusions sans accord préalable, Anthropic ne pouvant demander que le retrait de données sensibles précises.
Qui vérifie ce que les laboratoires d’IA affirment sur leur propre sécurité ? Anthropic répond en partie en ouvrant ses locaux à des experts indépendants, qui pourront publier leurs conclusions, y compris défavorables, sans son feu vert. L’enjeu est de réduire l’écart d’information entre les développeurs d’IA et le reste du monde.
Anthropic annonce avoir donné à une équipe de six personnes de METR, une organisation à but non lucratif qui évalue les capacités et les risques des modèles d’IA de pointe, un accès de type employé à ses systèmes.
Les chercheurs étudieront les risques de l’IA et la façon dont l’entreprise gère sa sécurité, puis publieront leurs résultats de manière indépendante. Anthropic précise qu’elle ne peut pas bloquer la publication de leurs rapports.
Anthropic fournit aux chercheurs de METR des ordinateurs portables de l’entreprise et des bureaux.
Ils ont accès aux outils et aux systèmes qu’utilise son équipe interne d’évaluation des risques.
Ils ne cherchent pas seulement à savoir si un modèle peut adopter un comportement dangereux : ils examinent aussi si l’entreprise fait bien fonctionner ses dispositifs de sécurité, regardent comment elle a réagi quand un problème est survenu et peuvent interroger directement ses employés.
METR n’a pas besoin de l’approbation d’Anthropic pour publier.
L’entreprise peut en revanche exiger la suppression d’informations relevant de catégories étroites : données clients, informations couvertes par le secret avocat-client et architectures de modèles.
METR garde le droit de dire publiquement si ces demandes lui paraissent légitimes, sans révéler le contenu retiré.
Anthropic organise l’accès des évaluateurs externes en trois niveaux.
D’autres organismes participent déjà. SecureBio, spécialisée dans les risques biologiques, examine le chapitre sur les armes chimiques et biologiques du rapport de risques publié par Anthropic en août. Son accès est plus limité que celui de METR, et la publication de ses conclusions reste soumise à l’approbation d’Anthropic, qui discutera d’un élargissement de ses droits une fois la revue terminée.
Accenture et Faculty préparent un partenariat plus large, couvrant l’évaluation, les tests adverses (red-teaming) et les tests de sécurité. Des discussions préliminaires ont lieu avec Hugging Face, et Anthropic veut augmenter le nombre d’évaluateurs externes bénéficiant d’un accès de type employé.
Cette ouverture répond à un déséquilibre : les développeurs connaissent mieux que personne la façon dont leurs modèles ont été conçus et les protections appliquées, alors que les experts extérieurs peinent à vérifier les évaluations de sécurité que les entreprises publient.
Anthropic compare sa démarche à la supervision bancaire, où des examinateurs extérieurs contrôlent de l’intérieur la situation et les risques des banques, tout en précisant que l’analogie n’est pas exacte
Anthropic estime que toutes les entreprises d’IA de pointe devraient prendre des mesures comparables. À ce stade, la portée réelle de l’accès et les conditions de publication restent à préciser.
Le rôle du directeur financier a pris de l'importance en raison de l'essor de l'intelligence artificielle, des investissements dans de nouvelles infrastructures technologiques, de la multiplication des sources de revenus, de l'évolution des exigences en matière de conformité et de l'élargissement des stratégies commerciales.
Un nouveau rapport d'Employ montre comment l'IA aide et nuit à la fois au secteur du recrutement.
Le ZDNET Morning le brief de l'actu tech pour les pros tous les matins à 9h00. Transformation numérique, IA, matériel, logiciels,… ne passez pas à côté de ce qui fait la Une du secteur.
Huit États américains poursuivent OpenAI en justice, accusant ChatGPT de favoriser des comportements dangereux, de renforcer certaines croyances erronées et de ne pas protéger suffisamment les mineurs.
L'agent IA s'est bien débrouillé pour certaines tâches, mais a également connu quelques ratés. Les antécédents de la société peuvent toutefois donner des raisons de ne pas s'arrêter à ces premiers faux pas.
Si vous avez besoin d'une grande puissance pour exécuter des tâches d'IA, mais que vous disposez de peu d'espace, VZmore propose un PC qui vous conviendra parfaitement.
J'utilise ChatGPT Plus et Google AI Pro : l'un pour ses avantages, l'autre pour le travail. Voici une comparaison entre les deux en matière de programmation, de créativité, de stockage et d'automatisation.
Si vous avez besoin d'un logiciel de saisie vocale dans le système d’exploitation libre, il existe de nombreuses solutions, dont certaines sont tout aussi performantes que celles disponibles sur d'autres OS. Et celles qui sont sélectionnées ici n’exporteront pas vos données personnelles.
Le nouveau modèle d’intelligence artificielle GPT-6 du chat box permet de créer des images interactives pour vous aider à visualiser et à exploiter les informations dont vous avez besoin. Voici cinq façons d’utiliser cette fonctionnalité.
Il ne suffit pas juste de rajouter de la mémoire vive pour tirer pleinement parti de l'intelligence artificielle localement. Voici quatre conseils.
Vous payez pour ChatGPT, l'espace de stockage Google et YouTube Premium ? Vos abonnements se chevauchent peut-être plus que vous ne le pensez.
L’assistant IA d’Anthropic m'a aidé à développer une telle application en suivant mon intuition et à passer avec succès l'examen d'Apple en moins de deux semaines. Voici ce parcours, de l'idée initiale au produit commercialisable sur l'App Store.
