Elena Plaza, de Urgencias y Emergencias: «La IA en salud plantea retos importantes»

Elena Plaza es una enfermera y emprendedora valenciana que, durante 12 años, trabajó en urgencias hospitalarias y UVI móvil, pasando a la coordinación de los equipos en gestión. En paralelo, Plaza siempre ha combinado la faceta asistencial y gestora con su pasión por la docencia, siendo actualmente profesora en la Universidad Internacional de Valencia y dirigiendo una academia de formación para profesionales de la salud.

Además, esta emprendedora lleva un proyecto de divulgación sanitaria a través de su web, redes sociales y podcast, llamado Urgencias y Emergencias, donde comparte conocimientos de manera accesible y cercana. A partir de aquí, la valenciana también ha iniciado su propio proyecto de IA: un chatbot orientado a profesionales sanitarios entrenado para dar resultados actualizados y fidedignos. En MuyPymes hemos entrevistado a Elena Plaza para conocer más acerca de esta herramienta.

MuyPymes: La llegada de ChatGPT a la medicina como herramienta de consulta de los médicos supone varios desafíos… cuéntanos esta problemática.

Elena Plaza: La IA en salud plantea retos importantes. Para entenderlos, es importante diferenciar entre dos tipos principales de IA: analítica y generativa. La IA analítica permite analizar grandes volúmenes de datos y, mediante sus algoritmos, detectar patrones que los métodos estadísticos tradicionales no logran identificar. Es muy prometedora en investigación médica.

Por otro lado, está la IA generativa, que como su propio nombre indica, genera contenido nuevo, digamos que inventado. Es la más conocida por herramientas como ChatGPT y las que generan imágenes o vídeos.

El mayor problema de la IA generativa en salud es que siempre contesta, pero no necesariamente con la verdad, lo que pone en riesgo tanto a profesionales como a pacientes si se utiliza en este sector.

Existen otros dos desafíos y estos los comparten tanto la generativa como la analítica. Si la IA se entrena con datos que contienen sesgos, estos se reproducen. Esto puede generar desigualdades, como tratamientos menos efectivos para algunos grupos según raza o género. Por otro lado, su funcionamiento en ocasiones dificulta saber cómo llega a ciertas conclusiones. A esto último se le llama «algoritmos caja negra» y es un problema porque ¿cómo va un médico a pautar un tratamiento que sabemos que funciona porque lo dice la IA, pero no sabemos cómo ha llegado a esa conclusión? Para que la IA sea útil y segura en salud, debe ser explicable, transparente y entrenada con datos diversos.

MuyPymes: ¿Cómo una profesional de la medicina se plantea crear un chatbot especializado en salud?

Elena Plaza: Desde que abrieron al público ChatGPT, hace ya más de dos años, empecé a explorar la inteligencia artificial generativa y rápidamente me di cuenta del potencial que tiene a la hora de gestionar el conocimiento. Lo combiné con mi experiencia como instructora de RCP desde hace 12 años y he podido observar que, tanto en las formaciones, como en mi proyecto de divulgación en redes sociales, las preguntas se repiten.

Por ello decidí desarrollar un chatbot especializado en RCP llamado RCP GPT. Y mi objetivo fue transformar las dudas recurrentes en respuestas confiables y rápidas sobre reanimación cardiopulmonar, arritmias, medicación, etc.

MuyPymes: ¿Cómo funciona y, sobre todo, ¿cómo haces que sea fiable?

Elena Plaza: El chatbot está construido sobre una funcionalidad que tiene ChatGPT que te permite crear herramientas con una tarea específica. En este caso es una herramienta que responde a preguntas o dudas clínicas. Pero también puede servir de apoyo a la docencia dado que puede asumir el rol de docente, poner casos clínicos interactivos y puede generar escenarios de simulación basándose siempre en su contenido precargado. Tú le introduces qué quieres que haga o la duda que tienes y te da los resultados.

Ha sido entrenado con un conjunto de instrucciones que he ido modificando y mejorando a lo largo del tiempo y le he introducido la información de las guías de reanimación cardiopulmonar y otros documentos de organismos oficiales. Así que basa sus respuestas en fuentes verificadas y fiables, a diferencia de buscar en Internet, donde encuentras datos mezclados de varios años. Y si buscas en ChatGPT, que se nutre de Internet, pasa lo mismo. Digamos que este chatbot está entrenado con la última evidencia disponible y te facilita encontrar respuestas entre muchísimas páginas de información.

Como no va a ser cien por cien preciso dado que está implantado en IA generativa, cada respuesta incluye una advertencia recordando que debe ser validada por un profesional sanitario, asegurando un uso responsable.

MuyPymes: ¿Cómo vas a distribuirlo?

Elena Plaza: Según lo creé, no me atreví a lanzarlo porque no lo consideraba suficientemente fiable ni adecuado para profesionales sin formación específica sobre estas herramientas. Aunque falta muchísima formación en este aspecto, parece que va calando el mensaje de que la IA generativa es una herramienta que, aunque ayuda, puede fallar. Después, lancé un cuestionario en el que recopilé más de 100 preguntas que le harían y probé todas.

De esta forma personalicé un poco la experiencia de usuario programando respuestas cerradas y seguras, especialmente en preguntas controvertidas.

Y tras meses de ajustes, por fin decidí publicar el enlace de acceso en mi web y redes sociales. A largo plazo, me gustaría independizarlo del modelo de ChatGPT y crear un sistema propio, pero por ahora utilizo la herramienta que tenía a mano y la que he aprendido a utilizar rápidamente por su facilidad de personalización.

MuyPymes: ¿Esta IA va a seguir aprendiendo? ¿qué lo alimenta?

Elena Plaza: Es un bulo o una premisa falsa que ChatGPT, Copilot, Claude y otros modelos se actualicen o mejoren en tiempo real con cada interacción. Este proceso se realiza por humanos. En un principio, estos desarrolladores entrenaron los modelos con los datos de Internet y otras fuentes. Y ahora, van refinando, actualizando y reentrenando los modelos utilizando los nuevos datos que introducimos, tras un proceso de limpieza, organización de los datos y ajuste del modelo.
Por tanto, no mejora cuantas más preguntas de RCP se le introduzca, si no que, en este caso, se nota un mejor rendimiento cada vez que mejoran ChatGPT.

Pero la clave está en las fuentes. Pueden mejorar cómo encuentra los datos en más de 600 folios de información, pero si esa información no es correcta, no dará buenas respuestas. Por eso, las actualizaciones de las fuentes de conocimiento las introduzco yo a mano. Cada vez que cambian los algoritmos de RCP o salen recomendaciones sobre este tema, integro manualmente las nuevas actualizaciones.

MuyPymes: ¿Qué otras herramientas tecnológicas de tendencia pueden ayudar mucho al sector de la salud?

Elena Plaza: El potencial de la IA analítica en investigación médica es inmenso. Por ejemplo, puede analizar millones de datos genómicos para desarrollar tratamientos personalizados. Sin embargo, los profesionales debemos estar involucrados en el diseño y aplicación de estas herramientas para garantizar su ética y utilidad.

Respecto a la IA generativa, más en concreto los modelos que trabajan con texto, pueden ayudarnos a gestionar el conocimiento organizando información, resumiendo, revisando, traduciendo, etc. Facilita la investigación, el aprendizaje y muchas otras tareas, ahorrando tiempo. Sigo pensando que hay que tener mucho cuidado con ellos, pero hay una joya, como NotebookLM que a quienes la usamos nos ha cambiado la vida. Podríamos decir que la IA analítica cambiará la medicina, pero la IA generativa ya está cambiando nuestra forma de estudiar, formarnos y actualizarnos.

No debemos olvidar la robótica, que también jugará un papel importante. Por ejemplo, brazos robóticos capaces de realizar ecografías a distancia podrían mejorar el acceso a especialistas en áreas rurales o con pocos recursos. Más que sustituir a profesionales, estas tecnologías serán herramientas complementarias que ayudarán a mejorar la calidad de la atención.

La entrada Elena Plaza, de Urgencias y Emergencias: «La IA en salud plantea retos importantes» es original de MuyPymes

Muy PYMES
Enlace: Elena Plaza, de Urgencias y Emergencias: «La IA en salud plantea retos importantes»