La inteligencia artificial (IA) está transformando la medicina de forma rápida y profunda, también en el ámbito de la cirugía vascular. ¿Qué es ya una realidad hoy en día y qué sigue siendo una quimera? ¿Y qué implicaciones tiene esta evolución para la empatía, la ética y la responsabilidad médica?

En este episodio, la Dra. Barbara Rantner conversa con el Prof. Dr. Martin Hirsch, biólogo humano, investigador cognitivo y director del Instituto de Inteligencia Artificial en Medicina de la Universidad Philipps de Marburgo. Juntos analizan con perspectiva el uso práctico de la IA en urgencias, el papel de los avatares en la anamnesis, la transformación de la formación médica y los retos de la ética médica en la era de los sistemas inteligentes.

¿Cómo está cambiando la IA el día a día en los hospitales y las consultas? ¿Qué oportunidades ofrecen las cabinas de anamnesis virtuales, el reconocimiento de voz y los modelos de lenguaje a gran escala? ¿Qué necesita una IA fiable y cómo nos protegemos del abuso?

Una conversación reveladora sobre la responsabilidad, la visión y el futuro de una medicina centrada en las personas, en consonancia con el lema de la DGG: «Pensamos más allá de los vasos sanguíneos».

Temas de este episodio:

• Urgencias virtuales: evaluación inicial asistida por IA en Marburgo
• Conversación con pacientes mediante avatares: entre el escepticismo y la aceptación
• Empatía: ¿pueden los sistemas de IA parecer más humanos que los médicos?
• La IA en la formación y la enseñanza médicas
• Regulación, ley de productos sanitarios y directrices éticas
• El papel de la IA ante las carencias asistenciales en el Sur Global
• Perspectivas: la IA en clínicas y consultas dentro de cinco a diez años

¿Preguntas o comentarios?
¿Desea ponerse en contacto con la redacción o con los expertos? Estaremos encantados de recibir su mensaje en: podcasts(at)medizinkommunikation.org

Rantner: Bienvenidos a un nuevo episodio de «Gefäße im Fokus». Me llamo Barbara Rantner. Los que ya nos han seguido lo saben. Soy cirujana vascular y jefa de servicio en el Hospital Universitario LMU de Múnich, y me alegra poder volver a compartir hoy este podcast con ustedes. Este podcast pretende ofrecerles a ustedes, queridos oyentes, una plataforma para profundizar en los temas que caracterizan y hacen avanzar nuestra especialidad. Junto con nuestros invitados, analizamos los últimos avances en medicina vascular quirúrgica, endovascular y preventiva, y debatimos temas de actualidad relacionados con la ciencia, la docencia, la clínica y la práctica. Fieles a nuestro lema: «Pensamos más allá de los vasos sanguíneos». El episodio de hoy lo dedicamos a un tema muy presente y, sobre todo, prometedor. Se trata de la inteligencia artificial en la cirugía vascular. Ya sea en la planificación quirúrgica, el control de calidad, el diagnóstico o la documentación, las posibilidades de la IA parecen enormes y prácticamente ilimitadas, pero ¿qué parte de ello es ya una realidad y qué es quizás solo una quimera? ¿Cuándo tiene sentido el uso de la inteligencia artificial y qué vendrá después? En el peor de los casos, ¿seguiremos siendo necesarios los médicos dentro de 20 años? Para hablar de ello, hoy converso con uno de los principales expertos en IA en medicina, el Prof. Dr. Martin Hirsch. Es biólogo humano, investigador cognitivo y director del Instituto de Inteligencia Artificial en Medicina de la Universidad de Marburgo.

Estimado profesor Hirsch, muchas gracias por venir. Estoy deseando conversar con usted.

Hirsch: Sí, muchas gracias, señora Rantner, por permitirme estar aquí. Yo también estoy deseando mantener esta conversación, aunque no sea cirujano vascular, pero el tema es, al fin y al cabo, muy amplio.

Rantner: Ya lo ha dicho en la introducción, usted no es cirujano vascular. Solo puedo replicar que yo no tengo ni idea de IA. Antes de empezar, hemos discutido quién podría llevar la conversación y yo he dicho que lo más avanzado en IA que tengo en mi vida es el Alexa de mi hijo. Seguramente eso no es gran cosa en cuanto a IA; por lo que me imagino, solo se trata de algún tipo de reconocimiento de voz. No utilizo ChatGPT, escribo todos los textos yo mismo, ni siquiera he organizado una fiesta de cumpleaños infantil con ChatGPT. Así que, como ve, personalmente tengo mucho que hacer y, por eso, es un placer especial para mí poder mantener hoy esta conversación con usted. Empecemos por el principio: mi impresión era que, con el lanzamiento de ChatGPT, como ya he mencionado, en 2022, este tema de la IA realmente despegó. Probablemente, como personas no interesadas o legos en la materia, no nos hemos dado cuenta de muchas cosas que han pasado entre bastidores, pero mi impresión, y corríjame si me equivoco, es que, gracias a ChatGPT, de repente todo es inteligencia artificial. ¿Qué opina al respecto?

Hirsch: Esa impresión no es errónea. Por supuesto, ya había mucha actividad en los años anteriores. La inteligencia artificial es, de todos modos, un tema de larga data y siempre vuelve en oleadas. Pero fueron sobre todo dos avances los que impulsaron el aprendizaje automático clásico y la IA. Por un lado, que disponemos de cada vez más potencia de cálculo incluso en ordenadores pequeños e incluso en teléfonos inteligentes. Y, en segundo lugar, la llegada al mercado de los denominados marcos de software, que permitieron que incluso los ciudadanos de a pie pudieran entrenar redes neuronales. Y eso, a partir de 2019, cuando estas dos cosas experimentaron un crecimiento exponencial, llevó a que en los tres años siguientes se publicara sobre la IA en medicina tanto como en los diez años anteriores, lo que supuso, sobre todo, un salto tecnológico. Pero, en realidad, no llegó al gran público hasta la llegada de ChatGPT. Y ChatGPT no es más que la aplicación de estas redes neuronales, estas redes neuronales artificiales, al lenguaje humano. Es decir, ya no se tomaban señales técnicas de aparatos de resonancia magnética, de grabadoras de audio o de cámaras, sino que se tomaba el lenguaje humano como señal de entrada para las redes neuronales. Y con ello se abrió a esta tecnología un importante artefacto cultural de los seres humanos: el lenguaje. Con él expresan sus experiencias, las escriben, realizan estudios y publican los resultados en lenguaje. Y al abrir ahora a la IA este medio de comunicación fundamental de los seres humanos, también se pudo abrir la IA a los seres humanos. Y gracias a ello, el acceso fue simplemente mucho más fácil. Hoy en día puedo simplemente conversar con sistemas de IA. Y por eso no es de extrañar que, en realidad, con estos llamados «modelos de lenguaje a gran escala» —y el primero fue ChatGPT de OpenAI— se produjera la verdadera visibilidad de la IA ante el público.

Rantner: Como ya he mencionado al principio, usted es director del Instituto de Inteligencia Artificial en Medicina de la Universidad Philipps de Marburgo. Por supuesto, todos los que trabajamos en el ámbito de la medicina sabemos que la IA nos acompaña muy de cerca y seguirá haciéndolo, sobre todo en el futuro. Pero quizá pueda darnos una idea de cómo es su día a día y qué hace concretamente ahora, qué es lo que mantiene ocupado a todo un instituto, por así decirlo.

Hirsch: Sí, si tuviéramos un podcast en vídeo, ahora se vería en el fondo que se puede mirar por la ventana y ver la entrada del hospital. Estoy aquí, en una ubicación muy céntrica en el Hospital Universitario de Marburgo. Tenemos cuatro áreas principales en las que trabajamos. Una de ellas es, por ejemplo, la evaluación médica inicial en urgencias. Es decir, cuando una persona llega a pie al hospital en busca de ayuda, habla brevemente con una auxiliar de medicina. Ella evalúa la urgencia: ¿es un caso de código rojo? ¿El paciente o la paciente debe ver a un médico de inmediato? ¿O tenemos un poco de tiempo? Y en cuanto tengamos un poco más de tiempo —el siguiente intervalo es de nueve minutos—, se puede sentar al paciente en una cabina similar a una cabina telefónica y allí simplemente habla con una inteligencia artificial. Se trata de un avatar en la pantalla. Sobre el avatar hay dispositivos de vídeo y sensores que miden los parámetros vitales del paciente sin contacto. También tenemos un pulsioxímetro conectado al dedo. A continuación, se realiza una anamnesis y la IA se hace una idea de si solo dispongo de esos nueve minutos o si tengo 35 minutos, en cuyo caso se llevaría a cabo una anamnesis completa, larga y detallada. Y lo hemos probado hace unas semanas, antes de la Jornada de Internistas en Wiesbaden, con 30 pacientes, desde un joven de 17 años hasta una señora de 87, y nos ha sorprendido mucho lo bien que ha sido recibida esta tecnología por los pacientes. Porque, claro, vienen a Urgencias porque tienen una urgencia. Y, naturalmente, esperan hablar con una persona y, en cambio, se encuentran con algo tan extraño, con un avatar. Pero me quedé realmente asombrado. Y la anciana dijo entonces: «Sí, bueno, a mí me pareció muy agradable, porque cuando hablo con el señor doctor, siempre tengo la sensación de que no tiene tiempo y no quiero quitarle tiempo». Así que ella entendió de inmediato que la IA no tiene prisa y que allí también puede tomarse más tiempo. Así que nos quedamos muy sorprendidos. En cosas como estas estamos trabajando. Otra cosa es el apoyo al diagnóstico aquí en el Centro de Enfermedades No Diagnosticadas y Raras. Aquí recibimos pacientes y expedientes que, en algunos casos, tienen un grosor de 50, 60 o 70 centímetros. Y entonces alguna especialista tiene que sentarse y empezar por la página 1, hojearlo todo y hacerse una idea. Y eso se puede apoyar enormemente bien con la IA. Y los primeros resultados también son maravillosos. Y el tercer gran tema para nosotros es la fiabilidad. Es decir, ¿cómo podemos garantizar la fiabilidad de los sistemas de IA médicos y comunicarla con seguridad? Porque la confianza es un bien tan fundamental en la medicina que debemos tenerla en cuenta desde el principio. Y, de hecho, ese es también uno de nuestros puntos centrales aquí.

Rantner: Suena increíblemente interesante. Creo que tendré que pasarme por allí para examinar más de cerca esta «consulta virtual», por así decirlo. Quizás me gustaría retomar el tema de la responsabilidad y también el de la confianza. Porque, como usted dice, me sorprende un poco que la anciana lo haya considerado tan bueno que, por así decirlo, sea atendida por un ordenador. Porque lo que hasta ahora siempre se ha considerado una buena cualidad médica es la empatía. Que sepa captar bien las relaciones interpersonales. Que sepa cómo tratar a la gente. Que se adapte al paciente. Claro, los pacientes se dan cuenta de ello cada vez más. Hay presión de tiempo. Hay compañeros y compañeras con barreras lingüísticas en todos los grupos profesionales. Y, por supuesto, la IA también facilita la colaboración en ese sentido. Pero, ¿cómo se puede garantizar eso? En primer lugar, que esos nueve minutos sean realmente suficientes para que la IA lo reconozca correctamente, que no ocurra realmente nada entretanto. Y, por otro lado, ¿cómo se aborda realmente la fiabilidad de forma sostenible?

Hirsch: El verano pasado hicimos una pequeña prueba piloto en la Exposición Federal de Jardinería de Mannheim. Había una cabina telefónica en el recinto de oficinas. Se trataba de los Objetivos de Desarrollo Sostenible. Y allí estábamos, teníamos un pequeño stand, una especie de jardín sobre tecnología y tecnologías del futuro. Se trataba del arte, por un lado, y de la medicina, por otro. ¿Qué papel desempeñará la IA en el arte y en la medicina? Y allí había una cabina telefónica en la que se podía conversar con un precursor de este avatar. Y eso es lo que hicieron 8000 personas. Sabían que se trataba de un experimento de la Universidad de Marburgo, pero aun así proporcionaron información de buen grado. Y de algunas de ellas, unos cientos, las seleccionamos y las volvimos a entrevistar. Y había también una pregunta: «¿Confía en este avatar?». Y los índices de aceptación fueron muy altos, es decir, cercanos al 80 %. Pero la razón por la que confiaban no era «sí, habla con tanta elocuencia» o «sí, todo eso suena muy plausible» o «sí, en realidad habla exactamente como un médico o una médica». No tiene por qué ser siempre necesariamente el contenido. Y eso es una buena noticia y una mala noticia. Nos da a nosotros, a la medicina universitaria, una responsabilidad adicional, por supuesto. Pero también es una mala noticia, porque, naturalmente, esas señales, esos estímulos, también pueden ser falsos. Y de eso tenemos que proteger a los ciudadanos.

Pero volviendo a su otro punto importante sobre la empatía. Lamentablemente, ya hay estudios, varios de ellos, que demuestran claramente que las respuestas de los sistemas de IA se perciben como más empáticas que las del grupo de referencia de médicos. Pero eso no me sorprende en absoluto, porque en la carrera de Medicina no enseñamos a los estudiantes cómo deben hablar con empatía, cómo deben organizar realmente la comunicación con el paciente. ¿Qué hago si un paciente se orina de repente delante de mí y empieza a llorar porque le da mucha vergüenza? ¿Cómo trato a una persona así en una situación de emergencia? ¿Cómo hablo de ello cuando tengo que comunicar un diagnóstico desagradable o tengo que hablar de las diferentes opciones terapéuticas? Todo eso solo lo aprendemos de pasada en la carrera de Medicina. Y ahí hay que hacer una crítica.

Todo lo que figura actualmente en el plan de estudios de medicina, la IA lo hará mejor que nosotros, los humanos, en un futuro no muy lejano. Y por eso debemos incluir en el reglamento de formación aspectos que una IA nunca podrá hacer, como, por ejemplo, la comunicación interpersonal. Sí, esos son nuestros puntos fuertes. Pero también entiendo que eso no tenga un papel tan importante en el plan de estudios actual en Alemania. Pero cuando me preguntan cómo preparamos a los médicos y médicas para el futuro de la medicina basada en la IA, siempre respondo: aprendiendo empatía. Así que también tenemos que ponernos al día en la formación de las personas. Y no, de hecho creo que la IA se mostrará enormemente empática. Más empática que las personas reales. Y podría mostrarles aquí vídeos de avatares en los que, sencillamente, sí, hoy en día ya no se distingue prácticamente de las personas. Así que no deberíamos confiar en algo así. Y por eso es aún más importante que siempre sea claramente reconocible que la entidad que veo aquí en la pantalla es una IA y no un ser humano. Que el ser humano siempre pueda ver si está hablando con una IA o no. Esa es, por ejemplo, una de las exigencias centrales del Reglamento sobre IA o de la Ley de IA de la UE. Y eso es tremendamente importante, porque ya no podremos distinguirlo. Esto llega tan lejos que, no sé si tiene hijos, yo tengo dos hijas. Podría simular aquí una videoconferencia con mi hija que ya no podría distinguir de mi hija. Y eso, sencillamente, abre mucho margen para el abuso. Y eso tiene que regularse por ley.

Pasando a la parte médica de su pregunta, perdón. Ya lo había mencionado: tenemos una pantalla en la que se ve, por así decirlo, un ser andrógino que no se distingue claramente como IA. Eso se lo repito mil veces a mis desarrolladores: tiene que ser identificable de alguna manera. Pero aún no lo es. Así que, en ese sentido, ni siquiera debería poder utilizarlo, más o menos. Pero encima hay un panel de sensores. Y en este panel de sensores se miden diversas cosas, como la temperatura corporal central y demás. Pero también la expresión facial. Y nuestro objetivo es que la expresión facial del paciente se lea, se interprete y se utilice para la anamnesis. Y, al mismo tiempo, que sirva para controlar la expresión facial del avatar. Es decir, conectamos ambos sistemas. Así que tomamos la fisonomía y la mímica, y también la prosodia, es decir, la forma en que pronuncian las frases, el volumen, la fuerza, el énfasis y demás. Todo ello se evalúa y se utiliza para formarse una imagen global de la persona con la que se está hablando. Y, a la inversa, utilizamos este canal para comunicar al paciente una imagen global del avatar. Así que, en este sentido, se puede aprovechar bien en un contexto médico, donde todas estas cosas son simplemente muy importantes para la interpretación del estado general, pero siempre hay que tener en cuenta que aquí se trata solo de una tecnología y no de un ser real.

Rantner: Bueno, estoy tremendamente impresionado, pero al mismo tiempo también algo preocupado, sinceramente, por estos rápidos avances. Pensaba que estábamos hablando aquí de sistemas de documentación y de facilitar la información al paciente y cosas por el estilo. Pero, evidentemente, ya hemos superado eso hace tiempo. Volviendo a la cuestión de esta aplicación, el avatar debe ser reconocible como inteligencia artificial. En realidad, no, si es tan digno de confianza para el paciente y, en este contexto profesional, todo ello tiene lugar, esperemos, ya acompañado por personal especializado. Entonces, en mi opinión, quizá no desempeñe un papel tan central. Por supuesto, entiendo toda la normativa legal. Pero si la gente se involucra con el avatar, que a su vez reacciona a la reacción y al comportamiento del paciente —lo cual me parece realmente fantástico—, si los pacientes pueden adaptarse a ello, entonces se trata en realidad de una situación en la que todos ganan en una época de escasez de médicos, en una época de escasez de recursos, en una época no solo de falta de tiempo, sino en general. Es decir, en cuanto a instalaciones y estructura hospitalaria, nueva legislación y demás. Esto es algo que podría impulsarnos enormemente en la medicina y en la política sanitaria. ¿Lo que acaba de contar es algo que, de hecho, solo se consigue a puerta cerrada, es decir, ahora mismo a nivel local en Marburgo? ¿O es algo que está a punto de generalizarse? ¿Y podríamos esperar que esté accesible para el gran público en los próximos tres, cuatro o cinco años?

Hirsch: Ese es, sin duda, el objetivo. Las tecnologías para ello ya existen. Se trata más bien de una cuestión de normativa. Es decir, ¿cómo gestionamos la autorización de este tipo de sistemas? Dentro del ámbito médico, es decir, en consultas y clínicas, estamos relativamente bien protegidos por la Ley de productos sanitarios. Cualquier aparato técnico que se utilice o que tenga por objeto medir algo en el contexto de los pacientes es un producto sanitario. Así lo establece la legislación. Y, por lo tanto, debe pasar por la normativa o la certificación de productos sanitarios. Y esto se aplica, por supuesto, también a la inteligencia artificial. Esto significa que la inteligencia artificial dentro del sistema médico está sujeta a estas regulaciones y a los productos sanitarios; la Ley de Productos Sanitarios tiene en cuenta dos aspectos, a saber, en primer lugar, la limitación de los riesgos. Esto significa que, como fabricante de un sistema de este tipo, debo identificar todos los riesgos posibles asociados al uso de esta máquina en la práctica clínica diaria y demostrar, mediante protocolos, cómo afronto estos riesgos y cuál es su magnitud. Eso es lo primero. Y lo segundo es que debo definir la idoneidad del dispositivo, garantizar y demostrar que el dispositivo cumple con dicha idoneidad, es decir, que cumple con el propósito para el que ha sido construido. Y con ello ya se eliminan dos grandes áreas de posibles abusos de la IA.

Así que me preocupan relativamente poco la medicina y los sistemas de IA dentro de nuestros sistemas médicos. Llevará un tiempo que todo se asiente, pero llegará y será relativamente seguro. Y ya hemos probado la cabina de IA en una primera prueba piloto. Ahora la estamos implantando. Ahora estamos construyendo varias cabinas y las estamos llevando a otros hospitales universitarios para probarlas conjuntamente, por así decirlo, ya que otros hospitales tienen una clientela diferente. Y esperamos poder incorporar realmente esas cabinas al funcionamiento rutinario a finales del año que viene. Es decir, solo en lo que respecta al horizonte temporal.

Pero lo que realmente me preocupa son las aplicaciones médicas fuera del ámbito médico y de los hospitales. Me preocupan porque no están reguladas. Y no en Europa, pero sí en otros países, también en Estados Unidos, donde, como sabemos, tiene lugar el principal desarrollo de la IA. Y esta falta de regulación ética, también en las aplicaciones de IA relacionadas con la salud, me preocupa, porque el consumidor medio, como sabemos hoy, recurre en primer lugar al Dr. Google o, en el futuro, al Dr. IA, y queda así a merced de este sistema. Y, como ya he descrito, se pueden colocar allí figuras de IA muy verosímiles, que hablan y parecen médicos. Que hablan con gran elocuencia en mi lengua materna. Pero ¿a qué marco ético se sienten obligadas y qué motivación tienen? Es decir, ¿qué hay detrás, no el modelo de negocio, sino cuál es el motor? Es simplemente complicado. Esto también debe controlarse realmente a nivel normativo. Y la UE lo está intentando con la Ley de IA de la UE o el llamado Reglamento de IA en Alemania. Pero los estadounidenses, o mejor dicho, Donald Trump, el 21 de enero simplemente canceló cualquier marco ético de la IA y no solo lo dejó sin efecto, sino que lo borró, borró la página web donde antes se podía descargar en la Casa Blanca. Y eso ya es una declaración de guerra al marco ético. Y ahí radica mi principal preocupación.

Rantner: Quizás las regulaciones excesivas, en parte, de Alemania podrían tener un efecto positivo, si recordamos cuánto tiempo tardó en generalizarse el historial médico electrónico. Entonces quizá surja cierto escepticismo sobre cuándo será realmente posible, desde el punto de vista legal, que la IA se utilice en los hospitales y centros de salud públicos a nivel general.

Me gustaría hacerle una pregunta al respecto. Eso fue lo primero que entendí yo mismo, porque el año pasado fui a mi dermatóloga y, como es lógico, ella ya inspeccionó mis lunares con ayuda de la IA y me dijo: «Sí, lo enviaremos y luego se evaluará todo y recibirá un informe detallado». ¿Se desarrollará esto, es decir, uno como médico se puede imaginar perfectamente que, naturalmente, una máquina reconozca el lunar de forma adecuada y precisa? Se le alimenta con datos y entonces puede distinguir lo malo de lo bueno, por así decirlo. Pero, en su opinión, ¿cómo evolucionará esto en materia de responsabilidad civil en los próximos años? Imaginemos que soy, digamos, un dermatólogo de unos 50 años, sentado en mi consulta, haciendo lo que llevo haciendo desde hace muchos años, y de repente aparece esta nueva tecnología que, evidentemente, aporta ventajas terapéuticas. Pero no quiero utilizarla porque me resulta demasiado complicada y el software, y ya no estoy al día en ese ámbito. ¿Puede eso tener consecuencias? ¿Habrá también normativa al respecto o cuál es la situación actual?

Hirsch: Por supuesto, esto está en fase de desarrollo y transformación, etc. La IA se desarrolla tan rápido que el legislador apenas puede seguirle el ritmo. Pero, por el momento, la situación jurídica es más o menos que la IA no puede ser una persona jurídica en Alemania. Por eso tampoco se le puede exigir responsabilidad, porque la responsabilidad se basa en que yo tenga un efecto disuasorio mediante penas de prisión, multas y demás. Y como no es una persona jurídica y no hay nadie a quien se pueda meter en la cárcel o a quien se le pueda retirar dinero de la cuenta, no hay nada que hacer. Y por eso no se convertirá en una persona jurídica, según el Congreso Alemán de Juristas. El señor Trump acaba de promulgar una ley por la que una IA puede recetar medicamentos como un médico o una médica. Sin que un ser humano lo haya revisado. No sé cómo pretende salir adelante ese proyecto de ley ni quién sería entonces la persona jurídica, etc. Pero el proyecto de ley existe y se ha puesto en marcha. Es decir, hay tendencias a atribuir a la IA personalidad jurídica y demás. Y quién será entonces responsable, eso lo tendrá que decidir el legislador estadounidense. En Alemania está claro: la IA no puede ser responsable y, por eso, siempre se responsabiliza a quien la ha construido o a quien la ha comercializado. Y quien la ha comercializado, que no tiene por qué ser el mismo que la ha construido, simplemente asume la responsabilidad. Afirma que, al comercializarla, está en buen estado y se le puede responsabilizar hasta cierto punto. Y ese sería el primero al que se acudiría. Y él diría entonces: «He actuado de acuerdo con todas las normativas que me son aplicables, el deber de diligencia y demás. Se trata de un producto sanitario autorizado, lo he controlado y así sucesivamente». Yo no tengo ninguna culpa aquí, sino que se trató de un error grave por parte del fabricante. Y entonces hay que demostrar ese error grave al fabricante. Y eso significa que, en lo que respecta a las cuestiones de responsabilidad, la IA se comporta en realidad igual que cualquier otro producto sanitario. Por eso, creo que eso es relativamente seguro.

Sin embargo, la pregunta que usted ha planteado se refiere a otro caso. En este sentido, la jurisprudencia también es clara. Los médicos pueden decidir por sí mismos qué hacen y qué no hacen; en eso son autónomos. Pero también están obligados, hasta cierto punto, a mantenerse al día con los últimos avances terapéuticos. Y no pueden limitarse a decir: «Llevo 20 años haciéndolo así». Y siempre ha funcionado, cuando entretanto ha salido al mercado una terapia mucho mejor que se ha establecido a gran velocidad, porque quizá sea incluso más económica y eficaz y tenga menos efectos secundarios. Entonces, un médico está, hasta cierto punto, obligado a ofrecer también esa terapia. Al menos a informar al paciente de que existe y dejarle a él la decisión. Así lo establece la ley y eso también se aplica a los sistemas de IA. Así que, si se da el caso que acaba de describir, y de hecho es así, que esta IA de Heidelberg detecta un melanoma mejor que 137 de 156 dermatólogos, entonces, naturalmente, en algún momento se podrá decir: si tengo dudas sobre si es un melanoma o no, simplemente cojo mi smartphone, hago la prueba y busco una segunda opinión. Hoy por hoy aún no es así, pero llegará un momento en el que la IA simplemente podrá hacer ciertas cosas mucho mejor que nosotros, los humanos, de modo que se extenderá con bastante rapidez y entonces, como médico, ya no podré ignorarlo y tendré que utilizarlo u ofrecerlo.

Rantner: Eso podría afectar también a varios ámbitos de la medicina. Si pensamos ahora, a primera vista, en los radiólogos, que parecen, sin querer ser pesimista, prescindibles en un futuro próximo, uno se alegra de haber aprendido un oficio, entre comillas, de dedicarse a la cirugía y no exclusivamente al diagnóstico. Pero también en nuestra especialidad, la cirugía vascular, hay muchos escenarios en los que podríamos imaginar que, con el apoyo de la IA, podríamos impulsar rápidamente el progreso, las ventajas del tratamiento, la fiabilidad del diagnóstico, etc. Trabajamos mucho con material de imagen. Son muchos los procedimientos basados en imágenes de contraste que realizamos en nuestro día a día. Se trata, por ejemplo, de roturas, predicción de aneurismas aórticos, modelos hemodinámicos y cosas por el estilo, en las que, sinceramente, uno desearía avanzar un poco en todas las vías de tratamiento de los pacientes. ¿Podría comentarnos brevemente cuál es su valoración al respecto y si la IA se implantará ahora con la misma fuerza en todas las áreas de la medicina o si ya habrá áreas en las que solo encuentre dificultades? Me imagino que los volúmenes de datos demasiado grandes quizá también supongan un cierto obstáculo. El transporte de imágenes, la accesibilidad a las grabaciones y el tamaño de los datos, sencillamente, que quizá también nos limiten un poco.

Hirsch: Bueno, en principio es justo al revés. Es poco probable que haya demasiados datos. La mayoría de los casos en los que hay limitaciones se deben a que hay muy pocos datos. El Sr. Behrendt presentó el año pasado un trabajo de revisión muy interesante sobre la IA en angiología o cirugía vascular, en ese caso. También mostró muy bien todos los estudios que ya se están llevando a cabo. Aunque hay que decir que ahí ni siquiera se requiere IA. Se trata en su mayoría de ciencia de datos pura o aprendizaje automático, simple aprendizaje automático y agrupación de datos. Y estos requieren muchos datos, porque necesito datos de alta calidad, tanto para el entrenamiento de la IA como para la fase de prueba. Y no pueden ser los mismos datos. Por eso siempre necesito unos cientos, unos miles de casos. Dependiendo del grado de complejidad del problema, necesito más o menos. Pero con menos de unos cientos, en realidad siempre se complica. Y ahí escribe con razón: indicaciones muy interesantes. Pero es que «N» era solo 90. Por eso aún no podemos decir mucho al respecto. Pero es prometedor. Y eso, en realidad, se refleja a lo largo de toda la publicación. Y ese es, de hecho, un problema fundamental que tenemos en Alemania, que somos muy... No, eso no es correcto. Bueno, tenemos la dificultad de que tratamos los datos de forma tan consciente y responsable, y a veces tan consciente que preferimos no utilizarlos antes que utilizarlos. Y eso no es malo. Y, teniendo en cuenta lo que se ha dicho antes, también tiene mucho sentido. Simplemente tenemos que garantizar la fiabilidad. Pero eso lleva a que a menudo tengamos muy pocos conjuntos de datos. Y la calidad, especialmente en el ámbito de la ciencia de datos, simplemente mejora cuanto más conjuntos de datos tenemos. Y eso también se aplica a esos pronósticos a los que acaba de referirse. Es decir, cuál es, por así decirlo, la probabilidad de que sobreviva sin una amputación, y así sucesivamente. Todos estos son temas importantes también para el paciente. Y por eso sería bueno que contáramos con herramientas adicionales en este ámbito. Y su conclusión en aquel momento fue, si no recuerdo mal, que dijo que, en realidad, todos los estudios que había analizado demostraban que esos enfoques de aprendizaje automático permiten un pronóstico más válido que los análisis de regresión estadística clásicos. Y eso ya es un buen indicio de que merece la pena seguir adelante con esto. De que hay que decir: tenemos que crear registros. Tenemos que recopilar más datos. Tenemos que publicar conjuntamente los conjuntos de datos de diferentes clínicas universitarias, porque así simplemente tendremos más datos y la relevancia y el pronóstico mejorarán notablemente. Así que hay muchos indicios de que también en la cirugía vascular se puede aprender de este tipo de sistemas de IA o de los inicios de los sistemas de IA. Pero para ello se necesitan los datos.

El señor Behrendt escribió entonces algo muy ingenioso, era como un pequeño recuadro, una especie de mensaje clave. Allí escribió que las tecnologías generativas, es decir, los modelos de lenguaje a gran escala, probablemente sirvan o puedan ser útiles para informar y asesorar a los pacientes. Sí, tiene razón. Es cierto. Pero, por supuesto, ese no es en absoluto el único uso de estas tecnologías. Quiero decir, él se ha centrado mucho en la ciencia de datos y en los algoritmos clásicos de aprendizaje automático. Pero estos grandes modelos de lenguaje habrán leído toda la literatura. Y, en consecuencia, yo también puedo mantener una conversación con ellos.

Y voy a mencionar otra aplicación que desarrollamos aquí y que tiene una acogida enorme entre los médicos. Se trataba de un bot de guías clínicas. Es decir, simplemente lo entrené con las guías clínicas. Y da igual si son estadounidenses, alemanas o francesas, eso no importa. Simplemente se toman las buenas, es decir, las directrices realmente buenas, se le dan al bot y se le dice: «Oye, modelo de lenguaje grande, solo puedes generarme respuestas basadas en la información que encuentres en este conjunto de documentos. Y si te desvías de eso, avísame». Y eso es lo que hacen. Y entonces chateo prácticamente como con un compañero, chateo con la guía. Es decir, hago una pregunta, como ya sabes por los sistemas de IA, recibo una respuesta y, justo al lado, a la derecha, siempre aparecen breves extractos o, dependiendo de cómo se configure el sistema, los pasajes de la guía. Y eso, por supuesto, facilita mucho el acceso a las guías. Y esto también se aplica, naturalmente, a los pacientes. Los pacientes también podrán interactuar con las guías. Y entonces le dices a la IA: «Por favor, habla en alemán sencillo, porque soy un paciente y no entiendo la jerga técnica, así que intenta hablar conmigo de forma sencilla», y entonces ella simplemente habla así. Y si le digo: «Por favor, háblame en sirio», entonces ella habla en sirio. Y por eso hay un gran margen de maniobra en lo que respecta a la información y el asesoramiento al paciente, también en cuanto a estrategias terapéuticas. Y creo que esa será una de las aplicaciones que veremos, incluso en las consultas de medicina general. Tenemos muchos médicos de cabecera que nos consultan sobre la derivación a la atención ambulatoria y yo los remito al especialista; luego recibo el informe médico. Y esto se ha vuelto tan complejo hoy en día que yo también, primero tengo que entenderlo. Y luego mantener una conversación informativa, eso simplemente lleva mucho tiempo. Y eso también lo puede hacer una IA en una cabina de este tipo. Allí veo entonces el avatar, mi avatar personal. El paciente tiene exactamente el mismo aspecto que el señor Hirsch. Bueno, yo no debería hacerlo, porque no soy médico, pero hoy en día es posible. Y eso es lo que vamos a probar aquí en Marburgo, en la misma cabina donde se realiza la evaluación inicial, para ver si se puede llevar a cabo el asesoramiento y la orientación al paciente de forma individualizada en función de los resultados que tenga el paciente. Y luego el paciente también puede hacerlo, incluso en casa, en el sofá, simplemente hablando con este avatar médico. Los familiares están presentes y también pueden hacer preguntas, y entonces se debate todo, por así decirlo. Y ahí no hay presión de tiempo. Claro que el médico, dado que está sujeto a la reserva médica —la información sobre la operación está sujeta a la reserva médica—, tiene que volver a hablar con el paciente. Pero el paciente puede informarse previamente con mucha menos presión de tiempo, incluso de forma individualizada para su caso, y luego acude a usted y entonces la conversación es natural; usted solo tiene que asegurarse brevemente de que realmente lo ha entendido. La IA le envía el informe con todo lo que le han preguntado. Pero entonces ya sabe que el paciente está bien informado de antemano.

Rantner: Sí, esa habría sido una de mis preguntas: si esto también se puede aplicar a la información preoperatoria y quién debe firmarla realmente. Pero claro, como ha dicho, las ventajas de la preparación son evidentes. Por supuesto, esto también facilitaría enormemente la docencia y la formación de los estudiantes. ¿Ya lo están utilizando con los estudiantes de medicina?

Hirsch: Exacto, ahora lo combinamos con sistemas de RV o XR. Es decir, entro virtualmente en una sala con unas gafas puestas y me encuentro en una sala de RV donde puedo hablar con los pacientes de verdad. Y también se pueden hacer juegos divertidos, así que se pueden practicar ambos tipos de conversación. Así que tenemos un avatar que es el paciente, que suelo utilizar para formar a los estudiantes, y tengo otro avatar que hace de médico, que debe aprender a entrevistar a los pacientes y averiguar qué les pasa. Y luego también pueden hacer que una IA converse con otra IA. Y es muy divertido escuchar el diálogo entre ellas. Y ahí se pueden hacer cosas realmente divertidas. Pero sí, exactamente, los estudiantes también lo encuentran muy agradable, porque la IA analiza también la prosodia: ¿se mostró receptivo?, ¿habló lo suficientemente despacio? y ¿se le entendió bien? Así que se pueden hacer muchas cosas y los estudiantes lo acogen muy bien.

Rantner: Estoy tremendamente impresionado. Ahora me da casi un poco de vergüenza preguntarle si pudiera pensar a lo grande, porque todo lo que me ha contado hasta ahora estaba tan fuera de mi imaginación que realmente estamos tan cerca. Bien, ahora lo está haciendo en su instituto, pero todo realmente a escala de usuario y con el plazo de uno o dos años hasta que esté disponible para la atención médica general. Pero si ahora pudiera o tuviera que pensar a lo grande, ¿cuáles son sus visiones sobre cómo seguirá realmente la medicina en los próximos, digamos, diez años? ¿Es quizá demasiado? ¿Es demasiado? ¿Mejor cinco años?

Hirsch: Sí, de hecho es muy difícil. Por naturaleza soy, o al menos siempre he sido, optimista y por eso me dediqué a este campo, porque ofrece tantas oportunidades o posibilidades de desarrollo positivo. Sin embargo, cuando uno mira, por otro lado, la capacidad de estas máquinas y ve cómo un señor, el jefe de desarrollo de IA de Google, que el año pasado recibió el Premio Nobel precisamente por haber realizado trabajos tan fundamentales para esta IA, dimite prematuramente de su cargo porque dice: que estamos actuando de forma irresponsable, porque los seres humanos seremos los primeros, es decir, los que estamos aquí, en el planeta, los que tendremos que compartir el mundo por primera vez con entidades más inteligentes que nosotros. Pueden pensar más rápido, saben mucho más, no necesitan dormir, no necesitan comer para poder pensar con sensatez, no tienen miedo a la muerte, no tienen nada de eso y son simplemente máquinas de pensar brutales. Y tendrán reparos en siquiera hablar con nosotros. Tampoco le preguntan a su hija de siete años cómo deben hacer la operación mañana. Quizás ya ni siquiera nos tomen en serio. En cualquier caso, ahí atrás él advierte, realmente levanta la mano en señal de advertencia. Y OpenAI, de hecho, ha publicado ahora —tienen que hacerlo por motivos de responsabilidad civil, de lo contrario seguro que no lo harían—, pero han publicado por primera vez una advertencia porque han visto que en el sistema están sucediendo cosas que indican que internamente hay otras consideraciones distintas a las que se anuncian al exterior, por así decirlo. Y eso podría ser un indicio de peligros, por así decirlo.

Es decir, ¿somos realmente capaces de hacer frente a estas entidades que estamos creando? Bueno, yo no soy de los que creen en las teorías de la conspiración ni de los que tienen esas fantasías distópicas. En absoluto. Pero la pregunta es simplemente legítima y, como científico, hay que planteársela. Y eso es lo que ha hecho Hinton, y luego ha dicho que, por eso, se retira, porque estas fantasías de omnipotencia de las grandes potencias industriales, sobre todo los chinos y los estadounidenses, que se encuentran, por así decirlo, en una carrera armamentística para ver quién es el más rápido, quién es el más poderoso, y que construyen estos sistemas de IA sin ningún tipo de freno, sin que sepamos realmente cómo vamos a controlarlos al final. Eso da miedo.

Y esto es algo a lo que sin duda debemos prestar mucha atención en el horizonte temporal que usted menciona, ya sean diez años, pero también cinco, y donde, como europeos, creo que no debemos dejarnos llevar por la locura económica ni sucumbir a las fantasías de omnipotencia económica, sino que siempre debemos recordar que, al fin y al cabo, la ética es un modelo de negocio. Por lo tanto, deberíamos optar por una IA con un marco ético y respetuosa con las personas, que será preferida por los humanos frente a sistemas de IA que no comprendo, cuyo marco ético desconozco. Por eso me parece bien que la UE, con la Ley de IA, y en Alemania con el Reglamento de IA, se haya puesto en marcha para crear un marco ético también para las máquinas. Y ahí debemos seguir insistiendo. Esto nos hará retroceder un poco al principio, pero en conjunto nos hará más fuertes que los demás. Y ahí debemos seguir insistiendo.

Exactamente, eso también se ve en el modelo de IA que presentó Macron, tres semanas después de que Donald Trump cancelara ese marco ético. Fue impresionante. Este modelo MISTRAL de Europa es un modelo que, al menos en nuestras pruebas aquí, no tiene nada que envidiar a DeepSeek de China o Meta de EE. UU. Se trata de modelos pequeños que se pueden ejecutar localmente y que también se pueden utilizar bien en clínicas, porque no tienen ese problema de protección de datos, ya que solo se ejecutan localmente. Y ahí MISTRAL está realmente a la vanguardia. Ahora lo vamos a probar de forma más sistemática, pero los primeros experimentos han sido excelentes. Y ahí es donde Europa debería, por así decirlo, mantenerse firme y decir: queremos una IA con un marco ético, especialmente en medicina. Y eso es lo que espero. Eso es en lo que confío.

Y si lo desglosamos un poco, si lo miramos desde una perspectiva más cercana, por así decirlo, ¿qué veremos en las consultas médicas dentro de cinco o diez años? En primer lugar, serán herramientas muy sencillas que, sin embargo, simplemente nos facilitarán la vida. Entre ellas, por ejemplo, que la IA escuche mi conversación, la conversación entre médico y paciente, y la resuma, de modo que, cuando la conversación haya terminado, ya vea el resumen en mi escritorio y pueda configurarlo, y también pueda pedirle que, en el futuro, haga esto y aquello de tal o cual manera. Entonces, por así decirlo, le doy instrucciones a la IA y esta resume las conversaciones de manera que se adapten a mis necesidades y las tenga directamente en mi sistema. O, por ejemplo, en la revisión de historiales, si el paciente presenta una mayor complejidad en la planificación del tratamiento o en el diagnóstico, puedo pedirle a la IA una segunda opinión y ella podrá hacerlo. O, por ejemplo, cuando la EPA esté en marcha, ¿qué médico de cabecera quiere que, cuando acuda a él como primer contacto, se lea todos mis PDF? No lo hará, no tiene tiempo para eso. Y ahí los sistemas de IA dirán: «Voy a resumir rápidamente el historial y luego también podré chatear con el expediente». Entonces podré simplemente hacer preguntas al historial. ¿Me operaron de la rodilla? Y entonces la IA me responderá: «Sí, fue en 1982, por aquel entonces», y así sucesivamente. «¿Y qué tipo de metal se utilizó?». Así que, por así decirlo, chatearé con el historial, y eso supondrá una facilitación del trabajo muy concreta que veremos dentro de cinco o diez años y que será algo habitual.

Y otra observación. Ahora estamos hablando del sistema sanitario alemán. Pero también debemos pensar en el Sur Global, donde cuatro mil millones de personas simplemente no tienen acceso a ningún médico, pero casi todas tienen un smartphone al alcance de la mano. En el pueblo siempre hay alguien con un smartphone y eso es, por supuesto, de gran ayuda para la evaluación inicial, si se puede acceder a esos sistemas de IA. Y así, si lo vemos a nivel global, dentro de cinco o diez años veremos en el Sur Global sistemas de apoyo al diagnóstico y a la terapia que podrán compensar, al menos en parte, la drástica escasez de médicos que hay allí. Y, visto a nivel global, serán sistemas algo diferentes a los que tenemos aquí. Pero la evaluación inicial en urgencias será algo habitual dentro de cinco o diez años.

Rantner: Y allí ya no habrá ningún médico. Solo habrá avatares trabajando a las tres de la madrugada. (Al mismo tiempo, Hirsch: No, no, no, no)

La idea no es tan mala, porque, sinceramente, atender un servicio de urgencias a las tres de la madrugada no es precisamente un trabajo agradable. Pero sí, es una locura. Me doy cuenta de lo poco que sé sobre el tema. No debería decir que mi hermano es físico y ahora ha empezado un máster en IA, pero es evidente que hablamos muy poco sobre ello. Nos han dado una visión fantástica del ámbito médico, de todo lo que ya está ocurriendo. De lo que sin duda ocurrirá. Según sus descripciones, ahora también es muy fácil imaginarse cómo se puede llevar a cabo sin problemas. Todavía tengo un poco esa voz en mi cabeza que dice que lo que una vez se ha pensado no se puede retirar. El deseo de una regulación ética es fundamental, sinceramente. Porque, aunque ya no pueda distinguir si esto es real o no, vuelvo a pensar en mi hijo, en los niños, que crecen totalmente en este mundo virtual, o en parte virtual. Quizá me atrevería a pensar que de alguna manera desarrollo una intuición sobre si todo esto es falso o si podría ser real, pero quizá tampoco, si ahora adopto su punto de vista al respecto. Pero los niños crecen ahora solo con todas las posibilidades y sin límites. Y ahí surge la pregunta de cómo podrán entenderlo ellos. Pero eso excede por completo nuestro marco de hoy.

Pero volviendo ahora a la medicina. A todo aquel que vaya a seguir trabajando en el ámbito médico le conviene ocuparse de este tema, porque podemos beneficiarnos enormemente de ello, nosotros y, sobre todo, los pacientes. Facilitará los procesos, aumentará la seguridad, reducirá todo el esfuerzo organizativo; todo eso se verá reducido. Y así, tal vez haya que verlo, en definitiva, como algo positivo y no sentirse solo amenazado por ello, porque ya es muy rápido, ya es muy grande, ya es mucho y tiene un gran alcance. Y nos afecta en todos los ámbitos de la vida, no solo en la medicina.

Y con esto, me gustaría darle las gracias de nuevo muy sinceramente; si pudiera dedicar unas palabras finales a nuestros oyentes sobre, por ejemplo, cómo distinguir entre lo falso y lo auténtico, se lo agradecería. También por mi parte.

Hirsch: Sí, yo también se lo agradecería. De hecho, es difícil. Pero lo veo de manera muy similar a como usted acaba de resumir tan bien. Simplemente, nunca antes en una tecnología las oportunidades y los abismos han estado tan cerca unos de otros como en la inteligencia artificial, porque la inteligencia artificial se adentra en nuestro pensamiento, en nuestros sentimientos y en nuestra forma de comunicarnos. Y más que una bomba atómica, sí, eso también fue dramático. Pero esa solo destruye, entre comillas, mi cuerpo. Pero la IA se adentra precisamente en ámbitos que en realidad estaban reservados a los seres humanos y, por eso, es algo completamente distinto. Y creo que cada oyente, y nosotros dos también, somos dos cosas a la vez. Por un lado, nos dedicamos a esta profesión —usted como médica, yo como investigador y los oyentes quizá más aún en el ámbito de la asistencia sanitaria—, pero también son siempre miembros de la sociedad civil. Y en qué tipo de sociedad queremos vivir en el futuro: si solo vamos al centro de la ciudad y allí solo hay cajas registradoras automatizadas y ya no hay nadie en las tiendas, o si queremos ir al médico y ya no nos encontramos con nadie, sino que siempre hablamos con avatares. Al final, eso también es una cuestión de la sociedad civil. No tengo ninguna duda de que esta tecnología será capaz de hacerlo. Pero si queremos eso, si queremos vivir en una sociedad así, es una cuestión de la sociedad civil y no una cuestión que nos atienda ahora a nosotros como profesionales médicos. Y por eso se invita a cada oyente a reflexionar tanto como miembro de la sociedad civil como en su calidad de miembro del colectivo médico. Pero yo, personalmente, también soy muy optimista al respecto. La IA ofrece tantas oportunidades que deberíamos aprovecharlas.

Rantner: Maravilloso, es una forma perfecta de concluir. Como ya he dicho, le doy las gracias de nuevo, querido profesor Hirsch. También les doy las gracias a ustedes, queridos oyentes, por estar aquí. Me alegro de que tengamos una comisión de IA en la DGG. El próximo episodio de nuestro podcast tratará sobre la formación. Para ello volverán a escuchar a mi colega Farzin Adili. Paralelamente, ya estamos preparando el congreso de los tres países en Lucerna, donde todos estos temas candentes, así como el tema de la IA, volverán a tratarse y analizarse en un gran escenario. Y con esto les doy las gracias de nuevo a todos. Sigan interesados y espero que volvamos a vernos pronto. Hasta pronto. Adiós.