IA médica: ¿un médico sesgado?

¿Creías que la inteligencia artificial revolucionaría la medicina? ¡No tan rápido! Un estudio reciente nos muestra que estos famosos modelos de IA que analizan imágenes médicas pueden necesitar una pequeña consulta.

Imagínate: los modelos que mejor adivinan tu edad, sexo u origen son también los que más se equivocan a la hora de diagnosticar a determinados grupos de personas. A estas las llamamos “brechas de equidad”, o en francés simple, “agujeros de equidad”. No es muy tranquilizador, ¿verdad?

Pero espera, se vuelve aún más interesante. Estas IA inteligentes utilizarían “atajos demográficos” para hacer sus diagnósticos. Resultado ? Errores en abundancia para las mujeres, los negros y otros grupos. Es como si su médico le diagnosticara basándose en su apariencia y no en sus síntomas. No muy profesional, ¿eh?

Marzyeh Ghassemi, estudiante de último año del MIT, nos explica: “Ya sabíamos que estos modelos de aprendizaje automático eran excelentes para predecir características demográficas, pero aquí establecimos el vínculo entre esta capacidad y su rendimiento desigual según los grupos. ¡de!"

Entonces, ¿qué hacemos? ¿Estamos arrojando la IA al olvido? No tan rápido. Estos descubrimientos son cruciales para mejorar estos sistemas. Debemos asegurarnos de que sean tan fiables para diagnosticar a la abuela Jeanne como lo son para el joven Kevin del barrio de al lado.

Mientras tanto, mantengamos los ojos abiertos. La IA en medicina es prometedora, pero nunca reemplazará el sentido común y la experiencia humana. Después de todo, ¿preferiría que le diagnosticaran un algoritmo sesgado o un médico de la vida real?