“La inteligencia artificial es sólo una herramienta y debe permanecer supervisada por seres humanos. El conocimiento médico no se puede condensar en una base de datos, se requiere la experiencia intersubjetiva que es un componente exclusivamente humano”, afirmó la doctora Jennifer Hincapié Sánchez, Directora del Programa Universitario de Bioética de la UNAM, durante el Seminario de Investigación “Aspectos bioéticos en la investigación biomédica en la era digital”, organizado por el Departamento de Fisiología de la Facultad de Medicina.
En el auditorio “Dr. Octavio Rivero Serrano”, la doctora Hincapié Sánchez ofreció un panorama histórico de la investigación científica, destacando que la investigación ética debe tener, en primer lugar, un buen diseño metodológico, pues si una investigación no es metodológicamente robusta, no tendría sentido someterla a revisión ética. Para guiar la reflexión, presentó los siete requerimientos del doctor Ezequiel Emanuel para determinar si una investigación es ética, en donde se evalúa la validez social y científica, selección justa de participantes, evaluación favorable de riesgos y beneficios, evaluación independiente, consentimiento informado y respeto por los participantes.
Asimismo, subrayó que, con la revisión de la Declaración de Helsinki, el término “sujetos de investigación” ha sido reemplazado por “personas participantes de la investigación”. En el contexto de la inteligencia artificial, explicó que ésta ha transformado la investigación biomédica en todas sus etapas, desde la selección de preguntas hasta la escritura científica y la evaluación de resultados.
Presentó ejemplos de sistemas de IA como Co-Science, Robin y Cosmos, que pueden leer miles de artículos, generar hipótesis y proponer candidatos terapéuticos, pero enfatizó que estos sistemas sólo ofrecen opciones, y la decisión final recae en el investigador. “Si no revisamos las fuentes bibliográficas y confiamos ciegamente en la IA, corremos el riesgo de publicar hallazgos con errores, la supervisión humana es irrenunciable”, advirtió.
Durante la sesión moderada por el doctor Héctor Castro Martínez, Coordinador de Investigación del Departamento de Fisiología, la ponente abordó los beneficios de la inteligencia artificial en salud como diagnósticos tempranos, predicción de enfermedades, personalización de tratamientos y reducción de errores médicos. Sin embargo, señaló riesgos como la falta de precisión; los sesgos raciales, culturales y económicos; la excesiva dependencia de los investigadores y el distanciamiento del sistema de salud.
También citó el caso de Sara, un chatbot de la OMS que fue retirado por ofrecer consejos médicos erróneos, y el preocupante incidente de un adolescente en Estados Unidos que desarrolló una relación íntima con un chatbot, lo que llevó a sus padres a demandar a la empresa desarrolladora.
“El 72% de los adolescentes de Estados Unidos han declarado que usan un chatbot para contarle cosas íntimas, dichos modelos están diseñados para crear dependencia psicológica. No es real decir que vamos a prohibir la inteligencia artificial, necesitamos exigir que las empresas que lo hacen asuman la responsabilidad que tienen en sus manos”, afirmó.
La doctora Hincapié Sánchez insistió en que la inteligencia artificial debe ser supervisada por seres humanos, y que el conocimiento médico no se puede condensar en una base de datos, pues la intersubjetividad y la escucha activa son componentes exclusivamente humanos. “La humanización de la medicina está en el consultorio, en donde el médico tiene la posibilidad de platicar con sus pacientes, de escucharlos. No podemos perder de vista que la inteligencia artificial es sólo una herramienta”, concluyó.
Octavio Araujo
