Producción y Negocio

Resumen
Antecedentes: Si bien la inteligencia artificial puede ser de gran utilidad para los servicios de salud, conlleva riesgos de sesgo que pueden ampliar las desigualdades en salud. En este artículo se analizan los riesgos de sesgo en la fabricación de medicamentos específicos. La fabricación de medicamentos específicos se refiere al acto de fabricar medicamentos dirigidos a pacientes individuales o a subpoblaciones de pacientes dentro de un grupo general, algo que se puede lograr, por ejemplo, mediante terapias celulares y genéticas. Estos procesos de fabricación dependen cada vez más de sistemas digitalizados que se pueden controlar mediante algoritmos de inteligencia artificial. Sin embargo, como se trata de algo nuevo, no se sabe si pueden surgir sesgos ni cómo se producirían.

Métodos: Analizamos las opiniones de las partes interesadas en bioética, medicina de precisión e inteligencia artificial, y documentamos las opiniones recogidas en once entrevistas semiestructuradas sobre la posibilidad de sesgo en la producción de terapias dirigidas impulsadas por IA.

Resultados: Los resultados muestran que cuando se fabrican medicamentos específicos pueden surgir sesgos en los procesos previos (investigación y desarrollo) y posteriores (producción de medicamentos). Sin embargo, los entrevistados destacaron que los procesos posteriores, sobre todo los que no se basan en datos de pacientes o poblaciones, podrían tener menos riesgos de sesgo. El estudio también identificó un espectro de significados de sesgo que oscilan entre aquellos que lo consideran negativo y ambivalente a loque lo ven como positivo y productivo. En particular, algunos participantes destacaron que ciertos sesgos tienen el potencial de aportar valor moral productivo al corregir las desigualdades en salud. Esta idea de «sesgo correctivo» problematiza la interpretación convencional del sesgo, como concepto principalmente negativo definido por el error sistemático o los resultados injustos, y sugiere el posible valor de capitalizar en los sesgos para ayudar a abordar las desigualdades en salud. Sin embargo, nuestro análisis también indica que el concepto de «sesgo correctivo» requiere una reflexión crítica antes de que se pueda utilizar con este fin.

Conclusión: Nuestro estudio exploratorio mostró múltiples preocupaciones sobre la posibilidad de sesgo en la fabricación de medicamentos dirigidos impulsada por la IA. El problema más destacado que se mencionó fue el sesgo social y cómo las bases de datos no representativas podrían afectar a la IA, destacando los sesgos demográficos, geográficos y financieros. En determinadas áreas, los riesgos de sesgo eran menos seguros, y el riesgo dependía en gran medida de si la IA se basaba en datos de salud de la población o no. Sin embargo, los encuestados también señalaron que el sesgo puede tener un valor correctivo en términos de promover la equidad en salud.

Tener una perspectiva del sesgo en la que predominen sus efectos negativos puede causar confusión cuando el sesgo también se considera una parte necesaria del proceso de investigación, como ocurre a menudo cuando se desarrollan medicamentos específicos. En este caso, los sesgos correctivos pueden aportar un contrapunto importante, al poner de relieve la importante función que ciertos tipos de sesgo pueden aportar para ayudar a abordar las desigualdades en salud. Dicho esto, los sesgos correctivos no deben aceptarse sin reflexionar. En la medida en que no tiene que haber un vínculo entre el sesgo y valores como la verdad o la equidad, también deben ser objeto de una reflexión crítica. Por lo tanto, un próximo paso importante para el futuro de los medicamentos dirigidos es desarrollar una descripción y una normativa de los sesgos para comprender mejor la forma como se generan los sesgos y si es posible y cómo mitigarlos.