De plus en plus d'Américains confient leurs symptômes à un chatbot avant d'appeler leur médecin. Un pasteur de Floride affirme aujourd'hui que cette habitude a failli lui coûter la vie. Il réclame désormais l'arrêt pur et simple de ChatGPT Santé.
Les assistants conversationnels occupent une place croissante dans le quotidien des Américains. Beaucoup les interrogent sur leurs douleurs ou leurs analyses avant de prendre rendez-vous. Les éditeurs encouragent ce réflexe en ouvrant des services entièrement dédiés au suivi médical. OpenAI revendique 230 millions de personnes posant chaque semaine des questions de santé à son outil. En janvier dernier, la firme a lancé ChatGPT Santé pour héberger les dossiers médicaux des utilisateurs. Les professionnels de santé alertent pourtant depuis longtemps sur les limites de ces réponses automatiques.
Ces mises en garde prennent aujourd'hui une tournure judiciaire aux États-Unis. Scott Winters, pasteur installé en Floride, poursuit OpenAI devant la justice californienne. Il reproche au chatbot de lui avoir donné des recommandations médicales extrêmement dangereuses. La situation évoque d'autres dérives déjà observées, quand des patients arrivent chez le chirurgien esthétique avec des photos retouchées par ChatGPT. Le cas franchit toutefois une étape supplémentaire, puisqu'un pronostic vital était engagé.
Scott Winters souffrait d'une embolie pulmonaire, une obstruction des artères des poumons qui peut tuer en quelques heures. Selon l'enquête du New York Times, l'assistant lui aurait assuré que ses premiers signaux d'alerte ne présentaient rien de dangereux. L'outil a également mobilisé ses convictions religieuses pour le rassurer, selon la plainte. Il l'aurait enfin encouragé à ignorer les proches et les fidèles qui le pressaient de consulter. Les garde-fous censés rediriger vers un professionnel n'ont pas fonctionné correctement.
La plainte vise OpenAI et son PDG Sam Altman pour négligence et exercice illégal de la médecine. Scott Winters réclame des dommages financiers et la suspension de ChatGPT Santé jusqu'à une évaluation indépendante. Il demande également des garde-fous plus stricts sur toutes les questions de diagnostic. L'entreprise répond que ses conditions d'utilisation excluent formellement tout usage médical de ce type. Elle affronte déjà plusieurs procédures pour mort injustifiée devant les tribunaux américains. Cette affaire pourrait donc devenir le premier test judiciaire sérieux d'une question restée théorique jusqu'ici.
