SciELO - Scientific Electronic Library Online

 
vol.38 issue1Cardiac implantable devices and use of magnetic resonanceA case report. Fabry disease in an adult with chronic kidney disease and characteristic systemic symptoms author indexsubject indexarticles search
Home Pagealphabetic serial listing  

Services on Demand

Journal

Article

Related links

Share


Revista Uruguaya de Cardiología

Print version ISSN 0797-0048On-line version ISSN 1688-0420

Rev.Urug.Cardiol. vol.38 no.1 Montevideo  2023  Epub June 01, 2023

https://doi.org/10.29277/cardio.38.1.7 

Artículo de opinión

Innovación y tecnología médica Este artículo médico no fue escrito por una inteligencia artificial. ¿O sí?

Innovation and medical technology This medical article was not written by an artificial intelligence. Or if?

Inovação e tecnologia médica Este artigo médico não foi escrito por uma inteligência artificial. Ou sim?

1Servicio de Cirugía Cardíaca, UDELAR.

2Instituto Nacional de Cirugía Cardíaca (INCC).

3Revista Uruguaya de Cardiología. ggsoca@gmail.com


Introducción

La inteligencia artificial (IA) está en nuestras vidas desde hace mucho tiempo. La usamos todo el tiempo sin saberlo. Pero su uso activo y masivo actualmente está de moda. Atravesamos lo que se denomina la segunda etapa del desarrollo de la IA (o IA fuerte), luego de una década de expectativas sobredimensionadas y un escaso desarrollo. La IA de las películas de ciencia ficción, en la que las máquinas tienen todas las habilidades cognitivas de los humanos, integran la etapa tercera (o IA general) y dan lugar, luego, a la cuarta etapa (super IA). En los últimos meses, la IA se ha desarrollado y difundido de forma exponencial para su uso público, principalmente a través del modelo de lenguaje ChatGPT (OpenAI)1, que fue lanzado inicialmente en 2020 y se encuentra disponible en formato abierto desde 2022. El uso masivo de la IA podría tener importantes impactos (positivos y negativos) sobre diversas ramas de la medicina2,3.

La herramienta ChatGPT, imperfecta y en evolución constante, es capaz de revolucionar por sí misma todo lo que conocemos sobre medicina, asistencia, investigación y docencia médica, lo que produce una disrupción total en estos campos, y plantea nuevos y diversos dilemas éticos, algunos de los cuales expondré más adelante. En realidad, ChatGPT es solo la puerta de entrada a un espacio infinito. Tan desconocidos e impredecibles son los alcances de esta nueva tecnología que el propio Elon Musk, uno de sus fundadores, junto con otros mil investigadores de alto renombre han solicitado el cese temporal del uso de ChatGPT a las agencias gubernamentales y globales, con la intención de diseñar, ensayar y profundizar una serie de controles y regulaciones que afecten la actividad de esta y otras plataformas4.

Al comenzar a usar la IA podemos descubrir que, recientemente, se han lanzado innumerables IA específicas (y gratuitas) que, por ejemplo, construyen videos o audios sobre una idea, un libro entero, un blog o una fotografía. Así, pueden confeccionar artículos o resúmenes sobre un texto o un tema, interconectar ideas, analizar variables y responder a preguntas complejas en una fracción de segundo. Y lo hacen con el formato y la extensión que uno quiera. Si usted es curioso, compruébelo usted mismo y ahora. Pídale a la IA online de su smartphone que le haga un resumen de 1.000 palabras sobre un tema médico que sea de su interés. Luego, pídale que este resumen sea de 10.000 palabras, luego que esté expresado en un lenguaje científico más formal y, finalmente, que le construya una presentación en PowerPoint de 20 diapositivas al respecto. Todo esto, una tarea que a usted le insumiría varias horas (¡o días!), lo realizará en menos de 30 segundos.

Los alcances de la IA son ilimitados y desconocidos. En efecto, no sabemos cuál es la funcionalidad final de estas herramientas, ni qué cambiarán o sustituirán, como tampoco lo sabíamos con Netflix en el año 2000, con YouTube en 2005 o con Spotify en 2008. Ya sabemos que estas simples herramientas de entretenimiento revolucionaron industrias enteras, cambiaron nuestras vidas y alteraron millones de puestos de trabajo. Y qué decir sobre nuestro desconocimiento sobre el verdadero impacto que tendría el inicio de la World Wide Web (internet) en 19825.

En febrero de este año, la gran tienda online Amazon comunicó un llamativo aumento de 200% en la venta de libros electrónicos enviados por autores para su publicación y comercialización online (en la plataforma Kindle). Varios de estos libros tienen como único autor declarado a ChatGPT y otras IA del estilo, aunque seguramente muchos más ya han sido creados por esta herramienta, en forma total o parcial. Varios de los libros que habían sido creados íntegramente por IA están en el top 10 de ventas de su categoría. Simplemente son muy buenos.

A continuación, planteamos algunos de los impactos potencialmente negativos y nuevos dilemas que puede desencadenar el uso actual de esta tecnología en la investigación, publicación y pedagogía médica, así como los potenciales impactos sobre las fuentes médicas de trabajo.

Posible impacto negativo de la IA sobre la publicación médica

La IA revolucionará la medicina tal como la conocemos y practicamos, ya que permite recopilar y analizar grandes cantidades de datos de aplicación médica (registros, estudios, historias clínicas, etc.) de manera suprahumana en términos de velocidad, efectividad y eficacia. Esto tiene utilidades obvias y será, sin duda, una gran herramienta pedagógica y asistencial. Pero, a la vez, como docente médico y editor asociado de una revista científica, me alarman sus posibles consecuencias negativas sobre diversas facetas del aprendizaje y la investigación médica.

La IA está programada por un ser humano y basa sus respuestas en el conocimiento humano previamente publicado, pero también está programada para no decir no lo sé. Siempre tiene una respuesta. Esa respuesta puede ser correcta, pero también engañosa o directamente errónea. Estos modelos de lenguaje son capaces de generar texto coherente y convincente sobre cualquier tema, pero en la actualidad carecen de la capacidad de evaluar de forma crítica la información que presentan. La prioridad fundamental es responder. Aunque algunas cosas han sido directamente programadas para no ser respondidas, en general no se trata de cuestiones médicas o científicas, sino religiosas o políticas.

La IA también podría tener efectos negativos sobre la innovación médica y la investigación. Quienes la usen pueden obtener una respuesta basada en datos y patrones previos, esto es, sobre lo que ya existe como creación de otro humano. En mi opinión, esto influiría de manera negativa sobre la creatividad y la diversidad de la investigación, con posibilidad de incurrir en repetición y plagio (algo que ya hacemos los humanos), pero esforzándonos por no incurrir en este pecado. Para la IA esta es su única forma de accionar, al menos por el momento6.

Otra diferencia fundamental entre lo creado por la IA y por la inteligencia humana es que, en este último caso, un artículo médico tradicional declara que fue elaborado por uno o varios autores específicos, con una nacionalidad, institución de asistencia o investigación, y expone en detalle una bibliografía en la que los autores se han basado para seguir una determinada línea de razonamiento científico, exponiendo con claridad al lector interesado sobre cuáles son sus eventuales sesgos y conflictos de interés. Así, uno puede rastrear hacia atrás para comprender cómo se alcanzó el nuevo conocimiento médico. Todo esto es imposible en un artículo realizado por una IA. Esta es incapaz de proveer una bibliografía sobre la que se ha basado para generar el documento, simplemente usó millones de inputs que son imposibles de rastrear. Por lo tanto, la validación y reproducibilidad de la información aportada por la IA es muy baja o nula.

El uso de la IA para redactar artículos médicos, en forma total o parcial, también plantea una serie de interrogantes éticas sobre los derechos de autor y la responsabilidad médica, como por ejemplo: ¿quién es el responsable del impacto (poblacional o individual) que tiene la información médica generada por una IA?, ¿cómo deben reconocer las revistas y repositorios médicos a los autores de esta información?, ¿los autores humanos de artículos médicos deberán hacer una declaración jurada de que han redactado ellos el manuscrito, si ese es el caso?, o: ¿qué deben hacer ahora las revistas médicas, a sabiendas de que prácticamente todo el material enviado para su publicación podría haber sido creado o apoyado por una herramienta básica de IA?

Posibles impactos negativos de la IA sobre la pedagogía y el aprendizaje médico

El uso extendido de la IA también alcanzará cada vez más al estudio y la actualización médica. Las oportunidades que ofrece son muy alentadoras, ya que permite un rápido y eficiente acceso a la información y la posibilidad de relacionar conceptos complejos. Sin embargo, en este escenario también se avizoran impactos negativos. El uso de la IA podría limitar la capacidad de los estudiantes de medicina y médicos ya diplomados para buscar, encontrar y seleccionar información relevante. Tal vez la información final sea la misma y se obtuvo en mucho menos tiempo, pero si estamos hablando del proceso de aprendizaje clásico de la medicina seguramente nos estamos saltando varias etapas7.

Si todo está servido, también puede verse condicionado el análisis de la información médica. Una de las habilidades que en la actualidad se destaca de la IA es la capacidad de tomar un artículo científico original (médico, por ejemplo) y proveernos un extracto de la idea principal, un abstract del abstract. Así, se profundiza un problema que tenemos los médicos actualmente. La literatura médica aumenta de manera exponencial, y las tareas asistenciales y el multiempleo, entre otras condiciones, nos dejan en general pocas horas para el estudio. En este escenario nos resulta difícil realizar una digestión crítica de la nueva evidencia. Por esto, muchos de nosotros vamos directamente a las conclusiones del manuscrito para tomarlas como el todo, cuando está claro que deberíamos comprender los antecedentes y la necesidad de plantear la/s hipótesis, pasar por el material, los métodos y los resultados, leer los anexos para luego establecer nuestras propias conclusiones, incluso antes de leer las que proveen los autores. ¿La IA no nos llevará en el sentido opuesto? ¿Qué patrón y sesgos utilizará para definir las más complejas interrogantes médicas? Un patrón y un sesgo que son delimitados por un ser humano. La IA aprende, pero la IA no crea IA. Y si los datos que usamos para responder a una cuestión están sesgados, la IA podría perpetuar este sesgo. También lo hacemos los humanos, pero una sola IA sustituirá muchos humanos, cada uno de los cuales tenía sesgos diferentes. ¿Desaparecerá así el análisis crítico y la variabilidad de la formación y el conocimiento médico? Todo este razonamiento es aplicable a otras ciencias naturales, por supuesto.

Otra posible consecuencia sobre los estudiantes de medicina es que la IA estimula a una menor interacción humana necesaria para alcanzar un conocimiento requerido. Clases online, aulas virtuales, técnicas varias de simulación con el uso de actores e interfaces digitales y otros tipos de aprendizajes a través de IA pueden influir sobre la adquisición de habilidades para la comunicación y el trabajo en equipo de los futuros profesionales, habilidades que son esenciales en la mayor parte de la práctica médica habitual.

Por último, se nos plantean algunas preguntas obvias en cuanto a la evaluación docente. ¿En la época de la formación y la evaluación remota, toda la evaluación de estudiantes deberá ser presencial y oral? ¿Debemos desechar ya mismo la evaluación mediante la confección de resúmenes, tareas, trabajos finales y monografías tal como las hemos concebido y desarrollado en las últimas décadas? Si las solicitamos, ¿cómo sabremos que no fueron íntegramente confeccionadas por una IA, prácticamente sin ningún trabajo del educando?

Expectativas futuras sobre el uso de la IA en medicina e impacto en las fuentes laborales

Aunque la IA está siendo utilizada en el primer nivel de atención y, seguramente, su uso aumente en forma considerable, es poco probable que suplante a los médicos, al menos a todos. Tras una gran expectativa inicial sobre los poderes de la IA, la noción actual es que puede ayudar a los médicos a tomar decisiones clínicas más rápidas y precisas en aspectos diagnósticos y terapéuticos, ya que puede manejar muchos más datos, como describimos anteriormente. Es particularmente útil en ciertas áreas específicas de la cardiología, por ejemplo en el reconocimiento de ciertos patrones de imagen, o en el área de la electrocardiografía, al detectar en tiempo real algunos patrones anormales en pacientes monitorizados en terapia intensiva, o en la monitorización ambulatoria más prolongada2.

Pero ¿los médicos y otros profesionales de la salud relacionados con la atención cardiológica perderán sus puestos de trabajo debido al uso de la IA? La atención médica incluye un grado variable de interacción humana con el paciente y requiere tomar decisiones complejas basadas en muchas variables8. Incluso todos los inputs necesarios para que la IA haga un análisis serán introducidos por humanos que previamente los interpreten, sesguen, clasifiquen y seleccionen. Seguramente habrá menos actores humanos en la asistencia médica del primer nivel de atención, pues no serán necesarios. Más aún, muchos médicos no serán desempleados, sino inempleables.

Conclusiones

El uso de la IA se está expandiendo a gran velocidad. La medicina y la cardiología no son campos ajenos a este uso, y se espera una mayor integración de esta tecnología en nuestra práctica profesional, así como en el aspecto formativo inicial y nuestra educación médica de largo plazo.

No hay duda de que la IA seguirá desarrollándose como herramienta médica, pero como humanos que las creamos, desarrollamos, ensayamos y perfeccionamos, también estaremos identificando sus posibles impactos negativos. Nos consta que en la publicación médica podría influir negativamente sobre la creatividad y la diversidad de la investigación, con niveles desconocidos de error, repetición y plagio. Además, surgirán dudas sobre el tratamiento de los derechos y las responsabilidades de autor, así como sobre las tareas que deberán ejecutar los editores de las revistas en las que se publican estos artículos. En cuanto al aprendizaje médico de pregrados y posgrados, la IA podría influir negativamente en la adquisición profunda del conocimiento, al permitir al sujeto que la use saltearse algunas de las etapas que son necesarias para adquirir una adecuada capacidad de razonamiento crítico en diversas situaciones clínicas.

Resulta imprescindible tener en cuenta los aspectos y dilemas éticos a los que nos enfrentará el uso temprano de esta tecnología en la investigación, publicación y pedagogía médica.

Mientras tanto, quien suscribe declara que este artículo no fue escrito por una IA. ¿O sí?…

Bibliografía:

1. ChatGPT: optimizing language models for dialogue ;Internet;. OpenAI; c2015-2023 ;consulta: 30 Mar 2023;. Disponible en: https://openai.com/blog/chatgpt. [ Links ]

2. Rajpurkar P, Chen E, Banerjee O, Topol E. AI in health and medicine. Nat Med. 2022;28(1):31-8. doi: 10.1038/s41591-021-01614-0 [ Links ]

3. Mintz Y, Brodie R. Introduction to artificial intelligence in medicine, Minim Invasive Ther Allied Technol. 2019;28(2):73-81. doi:10.1080/13645706.2019.1575882 [ Links ]

4. Nelson J. Elon Musk, Steve Wosniak Urge openAl to halt chapGPT upgrades ;Internet;. Brooklyn:Decrypt;2023;consulta: 17 Abr 2023;. Disponible en: https://decrypt.co/124849/elon-musk-steve-wozniak-urge-openai-t [ Links ]

5. Budzinski O, Gaenssle S, Lindstädt-Dreusicke N. The battle of YouTube, TV and Netflix: an empirical analysis of competition in audiovisual media markets. SN Bus Econ. 2021;1:116 . doi: 10.1007/s43546-021-00122-0 [ Links ]

6. Lee JY. Can an artificial intelligence chatbot be the author of a scholarly article? J Educ Eval Health Prof. 2023;20:6. doi: 10.3352/jeehp.2023.20.6. [ Links ]

7. Masters K. Artificial intelligence in medical education. Med Teach. 2019; 41(9):976-80. doi: 10.1080/0142159X.2019.1595557. [ Links ]

8. Krittanawong C, Zhang H, Wang Z, Aydar M, Kitai T. Artificial Intelligence in precision cardiovascular medicine. J Am Coll Cardiol. 2017;69(21):2657-64. doi: 10.1016/j.jacc.2017.03.571. PMID: 28545640 [ Links ]

Editor responsable: Dr. Federico Ferrando

Nota contribución: El autor elaboró el 100% del trabajo.

Recibido: 10 de Abril de 2023; Aprobado: 11 de Abril de 2023

Creative Commons License Este es un artículo publicado en acceso abierto bajo una licencia Creative Commons