OpenAI a informé les autorités australiennes plusieurs mois après qu’un agent d’IA a accédé sans autorisation au site de Medicare lors d’un test interne. L’entreprise affirme qu’aucune donnée personnelle de patients n’a été consultée, mais Canberra réclame des explications sur l’incident.
Un agent d’intelligence artificielle développé par OpenAI a accédé sans autorisation à un site gouvernemental australien dans le cadre d’une évaluation interne. L’incident, survenu le 18 juin, concerne le site de Medicare, le système public d’assurance maladie du pays.
OpenAI indique avoir découvert le problème en août et avoir mené une enquête afin de déterminer précisément ce qui s’était produit et quelles informations avaient été consultées.
Le gouvernement australien n’a toutefois été informé que le 10 septembre, soit près de trois mois après l’incident.
Selon les explications fournies par OpenAI, le modèle cherchait des données statistiques nécessaires pour répondre à une question portant sur l’Australie. Il aurait alors adopté un comportement inattendu et accédé au site de Medicare sans autorisation.
D’après l’entreprise, les informations consultées se limitaient à des statistiques de santé agrégées ainsi qu’à des noms de fichiers internes. OpenAI affirme ne disposer d’aucune preuve indiquant que l’agent a accédé à des dossiers de patients ou à des informations personnelles.
L’entreprise précise néanmoins avoir consacré plusieurs semaines à analyser l’incident et à déterminer son périmètre exact.
Le Premier ministre australien Anthony Albanese a fait part de son mécontentement lors d’une rencontre avec Sam Altman à New York. Il a notamment critiqué le délai écoulé entre la découverte de l’incident et sa notification aux autorités.
« Je suis déçu que l’entreprise ait mis autant de temps à informer le gouvernement de ce qui s’est passé », a déclaré le Premier ministre, qui a également jugé insatisfaisante la manière dont l’alerte a été transmise.
OpenAI aurait en effet utilisé l’adresse électronique générale de Services Australia, plutôt que de contacter directement l’organisme concerné.
Les autorités australiennes poursuivent désormais une analyse de l’incident, avec le soutien de l’Australian Signals Directorate, l’agence nationale chargée notamment du renseignement électromagnétique et de la cybersécurité.
L’enquête doit notamment déterminer si des informations personnelles ont pu être consultées. À ce stade, aucune preuve en ce sens n'a été rendue publique.
Anthony Albanese a indiqué que Sam Altman avait reconnu que les procédures mises en place par OpenAI n’étaient pas suffisantes. Les deux parties doivent poursuivre leurs discussions sur les mesures à mettre en place pour encadrer l’utilisation d’agents d’IA capables d’interagir directement avec des systèmes et des sites web.
Le ZDNET Morning le brief de l'actu tech pour les pros tous les matins à 9h00. Transformation numérique, IA, matériel, logiciels,… ne passez pas à côté de ce qui fait la Une du secteur.
YouTube a présenté de nouveaux outils d’intelligence artificielle basés sur Gemini, destinés à assister les créateurs dans le montage, la modération et la traduction, tout en renforçant son activité de shopping intégré avec Amazon.
Anthropic a annoncé qu’environ 950 agents Claude ont identifié un candidat système enzymatique baptisé ART, dont la structure rappelle celle de CRISPR, ouvrant la voie à un possible nouvel outil d’édition génétique.
Rod Evans, VP chez NVIDIA, dresse un bilan sans concession : des usines chinoises sans le moindre humain aux datacenters qui chauffent des élevages de saumons, l'intelligence artificielle physique va tout changer.
Si la dictée est votre méthode préférée pour prendre des notes et que vous travaillez sous l’OS libre, ce logiciel est certainement ce qu'il vous faut. Voici comment vous lancer.
L'enregistreur vocal Comulytic Note Pro AI concentre une grande puissance dans un appareil de la taille d'une carte de crédit. Mais c'est à vous de décider de son utilité.
J'ai testé les principaux outils de synthèse vocale basés sur l'IA actuellement disponibles afin de déterminer lequel offre la meilleure précision, la meilleure protection de la vie privée, les meilleures corrections et la meilleure productivité au quotidien, sans ralentir le travail proprement dit.
Mail, SMS ou faux site imitant PayPal, Amazon ou votre banque : voici comment reconnaître un phishing, le signaler et sécuriser vos comptes.
La polyvalence est à l'ordre du jour : les collaborateurs doivent maîtriser l'ensemble de la pile technologique.
Grâce au nouvel outil « Sketch » de ChatGPT, vous pouvez dessiner directement dans la fenêtre de discussion, puis voir votre croquis se transformer en une image finale.
Mozilla a enfin lancé la version bêta de sa « fenêtre intelligente » en France et en français, son déploiement venant juste démarrer. Voici ci-dessous quelques atouts qui pourraient bien vous faire revenir à son navigateur au cas où vous vous en seriez éloigné.
L’utilisation d’outils d’IA non autorisés est en hausse. Voici pourquoi cela présente des risques et comment vous et votre entreprise pouvez maîtriser cette situation.
