Inteligencia artificial y salud mental infantil
publisher
mcora
Un estudio internacional encuentra una forma práctica de reducir el sesgo de género en la inteligencia artificial aplicada a la salud mental infantil. Los sistemas de inteligencia artificial que ayudan a los médicos a detectar problemas de salud mental en niños no funcionan igual de bien para todos los pacientes. Estudios anteriores ya lo habían señalado: algunos modelos son menos precisos al evaluar a niñas que a niños. Ahora, un equipo de investigadores del Cincinnati Children's Hospital, en colaboración con el University College London y el Oak Ridge National Laboratory, ha identificado una estrategia para reducir esas diferencias sin que el rendimiento general del sistema se resienta.
El equipo analizó cerca de 20,000 casos de ansiedad infantil extraídos de historiales clínicos electrónicos. Lo que encontraron fue que los modelos de inteligencia artificial tendían a pasar por alto la ansiedad en adolescentes mujeres. La diferencia de rendimiento era más pronunciada durante la adolescencia, una etapa en la que la prevalencia de la ansiedad aumenta de forma considerable entre las chicas.
"Nuestros hallazgos demuestran que las disparidades en el rendimiento de los modelos no son inevitables", afirma Julia Ive, profesora del University College London y autora principal del estudio. "Al examinar de cerca cómo los sistemas de inteligencia artificial aprenden de las narraciones clínicas, pudimos identificar patrones en los datos de entrenamiento que contribuían a este sesgo y demostrar pasos concretos para abordarlos".
A diferencia de muchos sistemas de inteligencia artificial médica que se basan en valores de laboratorio o imágenes, las herramientas de salud mental suelen analizar notas clínicas no estructuradas para detectar señales tempranas de alerta. El estudio descubrió que las notas escritas sobre pacientes varones eran, de media, unas 500 palabras más largas que las escritas sobre pacientes mujeres. Además, diferían en los patrones de lenguaje y en la densidad de la información. Estas diferencias no eran intencionadas. Pero como los sistemas de inteligencia artificial aprenden directamente de los patrones de documentación, esa variación puede influir en cómo los modelos interpretan los síntomas y generan sus predicciones.
"El sesgo en la inteligencia artificial rara vez surge de una intención maliciosa. Refleja patrones incrustados en los datos", explica John Pestian, coautor del estudio y codirector del Programa Decode Mental Health del Cincinnati Children's. "En la atención de la salud mental, donde los sistemas predictivos dependen en gran medida del registro clínico escrito, las diferencias en la forma en que se presta y se documenta la atención pueden moldear cómo la inteligencia artificial interpreta la información del paciente y llega a sus conclusiones".
En lugar de rediseñar el sistema de inteligencia artificial, los investigadores se centraron en mejorar la información utilizada para entrenarlo. Para ello, emplearon herramientas avanzadas de procesamiento del lenguaje con el fin de eliminar texto menos informativo, equilibrar la información clínicamente relevante entre chicas y chicos, y reemplazar nombres y pronombres de género específicos por términos neutros, manteniendo la integridad del contexto clínico. Estos ajustes redujeron el sesgo diagnóstico hasta en un 27%, sin mermar la precisión general y mejorando la confianza en las predicciones.
"Este estudio demuestra que mejorar la equidad no requiere necesariamente modelos más complejos", afirma Ive. "Prestar atención cuidadosa a cómo se estructura y representa la información clínica puede tener un impacto medible".
Los trastornos de ansiedad se encuentran entre las afecciones de salud mental más comunes que afectan a niños y adolescentes. Suelen desarrollarse de forma gradual y pueden presentarse de manera diferente según la etapa del desarrollo y el sexo. La identificación temprana y la atención oportuna son fundamentales. "La adolescencia es una época en la que la ansiedad se vuelve especialmente prevalente entre las chicas", señala Jeffrey Strawn, médico especialista en ansiedad pediátrica y coautor del estudio. "Si las herramientas de inteligencia artificial son menos sensibles para esa población, corremos el riesgo de retrasar el reconocimiento y el tratamiento durante una ventana de desarrollo crucial".
A medida que la inteligencia artificial se integra más en la atención pediátrica, la evaluación rigurosa del sesgo se vuelve esencial. "Estos sistemas están diseñados para apoyar a los clínicos. Garantizar un rendimiento equitativo en todas las poblaciones es tanto una responsabilidad científica como ética", afirma Tracy Glauser, codirectora del Programa Decode Mental Health del Cincinnati Children's.
Pestian, al cierre, resume el sentido del trabajo: "El progreso en inteligencia artificial a menudo se mide en potencia computacional. Pero su impacto duradero se medirá en confianza. Al fortalecer los datos que guían estos sistemas, ayudamos a garantizar que apoyen a los clínicos de manera equitativa, fiable y digna de las familias a las que servimos".
El estudio contó con la participación de Daniel Santel, del Cincinnati Children's, así como colaboradores del University College London, Queen Mary University of London, Oak Ridge National Laboratory, Georgia Institute of Technology y el Kumoh National Institute of Technology de Corea del Sur. La investigación fue financiada por el programa Mental Health Trajectory del Cincinnati Children's.
© SomosTV LLC-NC / Photo: © aquacarerehab.com
Comentarios