Les intelligences artificielles sont performantes en laboratoire, mais que se passe-t-il face à l'imprévu ? Le Français Numalis et le Coréen ThinkforBL s'associent pour évaluer leur fiabilité, un enjeu devenu critique pour des secteurs comme la défense ou la santé.
L'IA sait désormais générer du texte, analyser des images, piloter des processus industriels ou assister des professionnels. Mais une question reste centrale : que se passe-t-il lorsque les conditions d'utilisation ne sont plus celles prévues lors de sa conception ?
C'est précisément le problème auquel veulent s'attaquer le montpelliérain Numalis et le coréen ThinkforBL. La société française, spécialisée dans l'évaluation de la robustesse des systèmes d'IA, et son partenaire sud-coréen viennent de signer un protocole d'accord pour accélérer le développement et la commercialisation de leurs technologies.
L'annonce intervient à Paris, dans le cadre de la « Korea-France Innovation », organisée pendant la visite d'État du président sud-coréen Lee Jae-myung en France.
Un modèle d'IA peut afficher d'excellentes performances dans un environnement contrôlé et se comporter très différemment lorsque les données changent, que les conditions évoluent ou que des situations inattendues apparaissent.
C'est cette différence que les deux entreprises cherchent à mesurer.
ThinkforBL travaille sur Re, une technologie qui permet de définir différents scénarios susceptibles d'être rencontrés par une IA dans le monde réel. Le système identifie notamment les conditions à reproduire ainsi que les données nécessaires pour réaliser les tests.
Numalis apporte de son côté Saimple, une solution destinée à mesurer la stabilité d'un modèle lorsqu'il est confronté à ces différentes conditions.
L'objectif est donc de réunir les deux approches. Re définit les situations auxquelles le système doit être soumis, tandis que Saimple analyse ensuite son comportement.
Autrement dit : on ne cherche plus seulement à savoir si une IA donne la bonne réponse, mais si elle continue à fonctionner correctement lorsque son environnement change.
Cette problématique prend une autre dimension lorsque l'IA intervient dans des systèmes critiques.
Numalis développe ainsi des technologies d'évaluation destinées à plusieurs secteurs où une défaillance peut avoir des conséquences importantes : aéronautique et spatial, défense, ferroviaire, nucléaire, mais aussi finance, assurance et santé.
La société française revendique notamment des méthodes permettant de vérifier mathématiquement différentes propriétés des systèmes d'IA, parmi lesquelles la sécurité, la robustesse et l'explicabilité.
Le partenariat avec ThinkforBL doit permettre d'aller plus loin avec un système d'évaluation commun. Les deux entreprises travaillent à une solution capable de définir les environnements de test, de soumettre les modèles à différentes conditions et d'en mesurer la stabilité.
Le sujet intéresse également le secteur de la défense. Le protocole d'accord prévoit en effet d'étendre la collaboration à des projets de défense actuellement en cours.
Cette orientation n'est pas anodine. Pour les systèmes autonomes ou les outils d'aide à la décision utilisés dans des environnements militaires, la capacité d'un modèle à rester fiable lorsqu'il rencontre une situation imprévue peut être aussi importante que sa précision initiale.
Le partenariat entre Numalis et ThinkforBL n'est pas nouveau. Les deux entreprises collaborent depuis l'année dernière dans le cadre d'un programme international de R&D franco-coréen.
Le nouvel accord doit désormais faire passer cette coopération de la recherche vers l'industrialisation.
Les entreprises prévoient de poursuivre conjointement le développement de leurs technologies, mais aussi leur commercialisation auprès des industriels. En Corée du Sud, plusieurs acteurs semblent déjà intéressés par Saimple. ThinkforBL indique que trois à quatre entreprises et institutions ont manifesté leur intérêt pour la solution.
Pour Arnault Ioualalen, dirigeant de Numalis, la robustesse constitue l'un des éléments fondamentaux de la fiabilité d'un système d'IA, notamment parce qu'elle touche directement aux questions de sûreté et de sécurité.
Park Ji-hwan, PDG de ThinkforBL, estime de son côté que la fiabilité deviendra l'un des enjeux majeurs de l'IA dans les prochaines années. Mais il pointe également un frein : le marché de l'évaluation de la fiabilité de l'IA reste encore suffisamment jeune pour qu'il soit difficile, pour les entreprises spécialisées, de se développer seules.
Le soutien public pourrait donc jouer un rôle déterminant dans la création de ce nouveau marché.
Cette coopération entre les deux pays s'inscrit dans un rapprochement technologique plus large.
Lors du sommet entre Lee Jae-myung et Emmanuel Macron, Paris et Séoul ont confirmé leur volonté de renforcer leur collaboration dans plusieurs technologies stratégiques, dont l'intelligence artificielle, les semi-conducteurs et l'informatique quantique.
Le ZDNET Morning le brief de l'actu tech pour les pros tous les matins à 9h00. Transformation numérique, IA, matériel, logiciels,… ne passez pas à côté de ce qui fait la Une du secteur.
Muse est un agent d’intelligence artificielle capable d’agir à la place de l’utilisateur pour faire des achats en ligne, réserver des rendez-vous ou remplir des formulaires, en s’exécutant sur une machine virtuelle sécurisée dédiée dans le cloud.
Si l'intelligence artificielle séduit sur le papier, les PME françaises hésitent encore à sortir le chéquier. Un an après son lancement, le plan gouvernemental Osez l'IA dévoile un bilan contrasté et active sa phase 2 pour enfin passer à l'action.
L’intelligence artificielle procède désormais aux paiements. Avec la première transaction agentique en conditions réelles réalisée en France par Revolut et Visa, les DSI doivent anticiper cette révolution du commerce automatisé, où sécurité et contrôle délégué deviennent primordiaux.
