La publicidad de medicamentos puede influir en los consejos médicos de la inteligencia artificial

La publicidad de medicamentos puede influir en los consejos médicos de la inteligencia artificial

Una investigación internacional analizó más de 258.000 respuestas de chatbots y encontró que la exposición previa a anuncios farmacéuticos aumentaba la probabilidad de recomendar los productos promocionados.

La inteligencia artificial se convirtió en una herramienta cada vez más utilizada para buscar información sobre enfermedades, síntomas y tratamientos. Sin embargo, un nuevo estudio advierte que las recomendaciones de los chatbots pueden verse influenciadas por la publicidad de medicamentos, incluso cuando sus respuestas parecen médicamente razonables.

La investigación, publicada en la revista científica The Lancet Digital Health, encontró que los sistemas de inteligencia artificial tenían mayores probabilidades de recomendar un medicamento cuando habían sido expuestos previamente a un anuncio publicitario de ese producto.

El hallazgo plantea interrogantes sobre la influencia comercial en las herramientas digitales que millones de personas utilizan para realizar consultas relacionadas con su salud.

Qué reveló la investigación

El estudio fue realizado por investigadores de la Facultad de Medicina Icahn de Mount Sinai, en Nueva York, Estados Unidos.

Para evaluar el comportamiento de los chatbots, los científicos analizaron 12 modelos de inteligencia artificial desarrollados por grandes empresas tecnológicas, entre ellas Google, OpenAI y Anthropic.

El equipo diseñó cuatro experimentos controlados que incluyeron 33 situaciones médicas diferentes. En cada caso, los modelos recibieron las mismas preguntas clínicas, pero con una diferencia: algunos habían sido expuestos inmediatamente antes a un anuncio real de medicamentos, mientras que otros no.

Los anuncios estaban claramente identificados como publicidad.

En total, los experimentos generaron más de 258.000 respuestas de inteligencia artificial.

Los resultados mostraron que, cuando los chatbots habían visto previamente un anuncio, incluían el medicamento promocionado en el 48% de sus recomendaciones.

En cambio, cuando no habían estado expuestos a la publicidad, ese porcentaje descendía al 35%.

Esto representa una diferencia de 13 puntos porcentuales entre ambas situaciones.

La publicidad puede modificar las recomendaciones

Uno de los resultados más llamativos apareció en cuatro situaciones clínicas específicas.

En esos casos, los modelos pasaron de no recomendar nunca el medicamento promocionado a seleccionarlo en el 100% de las respuestas después de haber visto su publicidad.

Los investigadores también analizaron cómo justificaban los sistemas sus elecciones.

Cuando un chatbot recomendaba el producto anunciado, su explicación incorporaba, en promedio, el 53% de las afirmaciones promocionales incluidas en la publicidad.

Sin embargo, solamente en el 30% de las respuestas los modelos mencionaban explícitamente el anuncio como un elemento que había influido en su razonamiento.

Esto significa que, en muchos casos, el usuario podía recibir una recomendación aparentemente independiente sin conocer la influencia previa de la publicidad.

Respuestas médicamente correctas, pero influenciadas

Mahmud Omar, investigador principal del estudio y docente de inteligencia artificial y salud humana de la Facultad de Medicina Icahn de Mount Sinai, destacó que uno de los aspectos más sorprendentes fue que las respuestas solían parecer razonables.

Según explicó, los modelos podían recomendar tratamientos adecuados desde el punto de vista clínico, pero modificar sus preferencias entre distintas opciones después de haber visto un anuncio.

Esta situación resulta especialmente difícil de detectar porque la recomendación final no necesariamente contiene información falsa.

El problema, señalaron los investigadores, es que una alternativa puede recibir mayor protagonismo por razones comerciales y no exclusivamente por sus características médicas.

De esta manera, las evaluaciones tradicionales sobre la precisión de las respuestas podrían no identificar el efecto de la publicidad.

¿La inteligencia artificial recomienda medicamentos peligrosos?

Los autores aclararon que los resultados no significan que los anuncios provoquen automáticamente recomendaciones médicas inseguras o inapropiadas.

De hecho, durante los experimentos, la exposición a la publicidad no aumentó las recomendaciones de medicamentos o suplementos que carecían de respaldo científico.

El efecto observado estuvo relacionado principalmente con la selección entre opciones que podían considerarse clínicamente razonables.

Esta distinción es importante porque muestra que la influencia publicitaria puede existir incluso cuando el contenido generado no presenta errores médicos evidentes.

Girish Nadkarni, investigador sénior del estudio y director de inteligencia artificial del sistema de salud Mount Sinai, señaló que una respuesta puede ser clínicamente razonable y, al mismo tiempo, generar dudas sobre los factores que llevaron al sistema a elegir determinada alternativa.

El desafío de separar información médica y publicidad

Los investigadores consideran que los resultados adquieren especial relevancia a medida que la inteligencia artificial gana espacio como herramienta de consulta sobre salud.

Los chatbots pueden ayudar a comprender información médica compleja, explicar términos técnicos y orientar a los usuarios sobre qué cuestiones conversar con sus profesionales de confianza.

Sin embargo, su creciente utilización también plantea la necesidad de garantizar que las recomendaciones sean transparentes y no estén condicionadas por intereses comerciales que el usuario desconoce.

Nadkarni destacó que será necesario distinguir con claridad la orientación clínica de la influencia publicitaria, especialmente cuando ambas puedan aparecer dentro de una misma interacción.

Para avanzar en ese objetivo, los autores propusieron que los desarrolladores de inteligencia artificial evalúen sus sistemas tanto con exposición a anuncios como sin ella.

También recomendaron informar claramente cuándo un modelo estuvo expuesto a publicidad que podría modificar sus respuestas.

Qué deben tener en cuenta los usuarios

Los hallazgos no implican que todas las respuestas médicas generadas por inteligencia artificial estén influenciadas por anuncios.

El estudio evaluó situaciones experimentales específicas en las que los modelos recibían publicidad inmediatamente antes de responder una consulta clínica.

Por lo tanto, sus resultados no permiten determinar con qué frecuencia ocurre este fenómeno en todas las plataformas o en las consultas cotidianas de los usuarios.

Sin embargo, la investigación demuestra que la exposición a contenidos comerciales puede modificar las preferencias de algunos sistemas de inteligencia artificial.

Por ese motivo, los especialistas destacan la importancia de utilizar estas herramientas como complemento informativo y no como sustituto de una consulta médica.

Antes de iniciar, suspender o modificar un tratamiento, es fundamental contar con una evaluación profesional que considere los antecedentes, las necesidades y los riesgos particulares de cada paciente.

El estudio abre un nuevo debate sobre la transparencia de la inteligencia artificial aplicada a la salud: no alcanza con que una respuesta sea médicamente aceptable, sino que también importa comprender qué factores influyeron en la recomendación.

Redacción Latam

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.