Article Dans Une Revue ESSACHESS – Journal for Communication Studies Année : 2024

Questioning the Relevance of Sex Categories implemented in Medical Decision Support Systems - The Example of Pulmonary Function

Prise en compte du genre dans les systèmes d’aide à la décision médicale - L’exemple de la fonction respiratoire

Résumé

Medical decision support systems rely on a variety of data to provide advice and predictions that contribute to diagnoses. Data categorizations, which are often hidden and therefore invisible, play a major role in the statistical models implemented in these digital tools. Male/female bicategorization is a paradigmatic case that has been little studied in this context. This study analyzes its use and determinants in pulmonary function measurement as a case study. Using a corpus of sixty articles, carefully selected in the medical literature for their representativeness, and the reference equations on which decision support systems are based, we investigate the role of male/female categorization as used in everyday clinical practice, its origins, and the place of sex and gender in this issue. This research reveals a naturalization of men/women differences in favor of sex, underpinning a binary essentialism of biological sex. Naturalization of men/women differences is a major concern for the use of predictive artificial intelligence models and the development of decision algorithms, with a possible worsening of health disparities as a result of biases in training data.
Les systèmes d'aide à la décision médicale s'appuient sur des données hétérogènes et de volumétries variées pour fournir des conseils et des prédictions contribuant aux diagnostics. Des catégorisations, souvent invisibles, jouent un rôle majeur dans les modèles statistiques implémentés dans ces outils numériques. La bicatégorisation homme/femme est un cas paradigmatique qui a été peu étudié dans ce cadre. Cet article analyse son usage et ses déterminants dans une étude de cas, portant sur la mesure de la fonction respiratoire. Nous avons constitué un corpus de soixante articles de la littérature médicale (sélectionnés pour leur représentativité) et des équations de référence sur lesquels s’appuient les systèmes d’aide à la décision utilisés en routine clinique. Dans ce corpus, nous analysons le rôle de cette catégorisation homme/femme, ses origines, et la place du sexe et du genre dans cette problématique. Cette recherche montre une naturalisation des différences hommes-femmes au profit du sexe, sous-tendant un essentialisme binaire du sexe biologique. Cette naturalisation des différences homme/femme représente une préoccupation importante pour l'utilisation de modèles prédictifs d’intelligence artificielle et le développement d’algorithmes décisionnels, avec le risque d'aggraver les disparités en matière de santé en raison de biais dans les données d’entrainement.
Fichier principal
Vignette du fichier
09_LEMARCHAND et AL final avec DOI 19072024.pdf (710.84 Ko) Télécharger le fichier
Origine Publication financée par une institution
Licence

Dates et versions

inserm-04653946 , version 1 (19-07-2024)

Licence

Identifiants

Citer

Patricia Lemarchand, Dorian Hassoun, Pascale Kuntz. Questioning the Relevance of Sex Categories implemented in Medical Decision Support Systems - The Example of Pulmonary Function. ESSACHESS – Journal for Communication Studies, 2024, 17 (1(33)), pp.205-229. ⟨10.21409/8253-X893⟩. ⟨inserm-04653946⟩
29 Consultations
19 Téléchargements

Altmetric

Partager

More