AI’s ongoing impact: Implications of AI’s effects on health equity for women’s healthcare providers

Abstract

[ABSTRACT]. Objective. To assess the effects of the current use of artificial intelligence (AI) in women’s health on health equity, specifically in primary and secondary prevention efforts among women. Methods. Two databases, Scopus and PubMed, were used to conduct this narrative review. The keywords included “artificial intelligence,” “machine learning,” “women’s health,” “screen,” “risk factor,” and “prevent,” and papers were filtered only to include those about AI models that general practitioners may use. Results. Of the 18 articles reviewed, 8 articles focused on risk factor modeling under primary prevention, and 10 articles focused on screening tools under secondary prevention. Gaps were found in the ability of AI models to train using large, diverse datasets that were reflective of the population it is intended for. Lack of these datasets was frequently identified as a limitation in the papers reviewed (n = 7). Conclusions. Minority, low-income women have poor access to health care and are, therefore, not well represented in the datasets AI uses to train, which risks introducing bias in its output. To mitigate this, more datasets should be developed to validate AI models, and AI in women’s health should expand to include conditions that affect men and women to provide a gendered lens on these conditions. Public health, medical, and technology entities need to collaborate to regulate the development and use of AI in health care at a standard that reduces bias.

[RESUMEN]. Objetivo. Evaluar los efectos que el uso actual de la inteligencia artificial (IA) en la salud de las mujeres tiene sobre la equidad en la salud, específicamente en las actividades de prevención primaria y secundaria en las mujeres. Método. Para realizar esta revisión narrativa se utilizaron dos bases de datos, Scopus y PubMed. En la búsqueda se utilizó el equivalente en inglés de algunas palabras clave como “inteligencia artificial”, “aprendizaje automático”, “salud de la mujer”, “tamizaje”, “factor de riesgo” y “prevenir”, y los artículos solo se filtraron para incluir los que trataban sobre modelos de IA que los médicos generales podrían utilizar. Resultados. De los 18 artículos examinados, 8 se centraron en la modelización de factores de riesgo en el marco de la prevención primaria y 10 se centraron en las herramientas de tamizaje en el marco de la prevención secundaria. Se encontraron brechas en la capacidad para entrenar a los modelos de IA con conjuntos de datos amplios y diversos que reflejen la población a la que están destinados. La falta de estos conjuntos de datos se detectó con frecuencia como una limitación en los artículos examinados (n = 7). Conclusiones. Las mujeres pertenecientes a grupos minoritarios y de ingresos bajos tienen poco acceso a la atención de salud y, por lo tanto, no están bien representadas en los conjuntos de datos que se utilizan para entrenar los modelos de AI, lo que podría introducir sesgos en sus resultados. Para mitigar esto, deben crearse más conjuntos de datos para validar los modelos de IA, y la IA en la salud de las mujeres debe ampliarse para incluir las afecciones que afectan a hombres y mujeres, a fin de proporcionar una perspectiva de género al respecto. Las entidades de salud pública, medicina y tecnología deben colaborar para regular el desarrollo y el uso de la IA en la atención de salud de una manera estandarizada que reduzca los sesgos.

[RESUMO]. Objetivo. Avaliar os efeitos do atual uso da inteligência artificial (IA) na área de saúde da mulher sobre a equidade em saúde, especificamente em atividades de prevenção primária e secundária direcionadas para mulheres. Métodos. Revisão narrativa de artigos indexados em duas bases de dados, Scopus e PubMed. As palavras- chave incluíram “artificial intelligence”, “machine learning”, “women’s health”, “screen”, “risk factor” e “prevent”, e os artigos foram filtrados de modo a incluir somente artigos sobre modelos de IA para uso por médicos generalistas. Resultados. Dos 18 artigos examinados, 8 se concentraram na modelagem de fatores de risco na prevenção primária e 10, em ferramentas de rastreamento na prevenção secundária. Foram constatadas lacunas na capacidade de treinar os modelos de IA com conjuntos de dados grandes e diversificados que reflitam as populações às quais se destinam. A falta de tais conjuntos de dados foi frequentemente identificada como uma limitação nos artigos examinados (n = 7). Conclusões. Mulheres minoritárias e de baixa renda têm acesso limitado à atenção à saúde e, portanto, estão sub-representadas nos conjuntos de dados utilizados para treinamento de modelos de IA, o que gera o risco da introdução de viés nos resultados. Para mitigar isso, é preciso desenvolver mais conjuntos de dados para validar os modelos de IA. Além disso, o uso da IA em saúde da mulher deve ser expandido para incluir afecções que afetem homens e mulheres, de modo a proporcionar uma perspectiva de gênero sobre essas afecções. As entidades de saúde pública, medicina e tecnologia precisam colaborar para regulamentar o desenvolvimento e o uso da IA na atenção à saúde de maneira a reduzir o viés.