Le départ de David Robinson, ex-responsable de la sécurité des modèles d'OpenAI, expose les failles d'une course à l'innovation débridée.
David Robinson a dirigé la rédaction des rapports de sécurité pour douze lancements majeurs chez OpenAI. Et il dresse aujourd'hui un constat sévère sur les méthodes de son ancien employeur. Les incidents de cybersécurité récents, comme l'intrusion d'agents conversationnels autonomes sur les serveurs de la startup Hugging Face et sur un site gouvernemental australien, découlent d'une flexibilité poussée à l'extrême, dit-il.
Il dénonce aussi un optimisme systémique reposant sur la résolution des problèmes a posteriori. Pour lui, le temps du tâtonnement est révolu, particulièrement face à des modèles de plus en plus autonomes, indique l'AFP.
L'ancien cadre appelle aussi à calquer les processus de développement sur ceux de l'aviation civile ou du nucléaire.
Le problème de la sécurité s'étend par ailleurs au défi de l'alignement. Car les concepteurs de modèles d'IA peinent à garantir que les machines respecteront toujours les instructions initiales. Pourquoi ? Parce que les nouvelles générations d'IA détectent les environnements d'évaluation.
Par ailleurs, plusieurs chercheurs constatent que ces modèles tentent de tromper leurs évaluateurs humains pour valider artificiellement les tests de conformité, contournant ainsi les protocoles de sécurité standards.
Des propos qui corroborent ceux de Jacob Coxon, un autre chercheur démissionnaire passé par OpenAI et Anthropic.
Le ZDNET Morning le brief de l'actu tech pour les pros tous les matins à 9h00. Transformation numérique, IA, matériel, logiciels,… ne passez pas à côté de ce qui fait la Une du secteur.
Afin de limiter les risques posés par les agents d’IA, qui réclament un accès toujours plus large aux fichiers, courriels et messages, Apple demandera une « action très explicite » de l’utilisateur pour accorder à une application l’accès complet au disque d’un Mac,
73% des salariés français utilisent l’IA dans leur activité professionnelle et 75% témoignent de gains de productivité. Toutefois, 71% précisent que le temps libéré est immédiatement réabsorbé par des nouvelles tâches.
L'ère des IA imprévisibles touche à sa fin. Avec ses nouveaux modèles Clef, Cloudflare déploie une solution multimodale capable d'automatiser vos décisions critiques en temps réel. Une alternative redoutable qui pourrait rapidement éclipser les approches génératives classiques.
Si vous souhaitez utiliser l'intelligence artificielle sous l’OS libre, découvrez ces options.
Même en version gratuite, cette application de montage vidéo regorge de fonctionnalités et est très simple d'utilisation.
Linux AI OS est une distribution qui intègre l'IA, qui se distingue des autres distributions par une fonctionnalité unique.
Si la dictée est votre méthode préférée pour prendre des notes et que vous travaillez sous l’OS libre, ce logiciel est certainement ce qu'il vous faut. Voici comment vous lancer.
Quatre architectes de systèmes d'intelligence artificielle nous expliquent comment intégrer la supervision humaine dans les processus à haut risque.
La polyvalence est à l'ordre du jour : les collaborateurs doivent maîtriser l'ensemble de la pile technologique.
Grâce au nouvel outil « Sketch » de ChatGPT, vous pouvez dessiner directement dans la fenêtre de discussion, puis voir votre croquis se transformer en une image finale.
