Estamos atravesando una era tecnológica en donde día a día la Inteligencia Artificial (IA) evoluciona velozmente. El “boom” del uso de IA marca tendencia transversalmente en todos los ámbitos que imaginemos, pues, ¿qué organización pública o privada o profesionales no la utiliza?. Es así que el ámbito de la Salud no escapa al uso de IA por parte de los profesionales médicos para tratar de la mejor manera posible a cada paciente.

Sin embargo, detrás de la optimización del tiempo y calidad que el profesional médico le dedica a cada paciente se desprende una realidad que media la línea del riesgo en la trinchera médica.  La asimetría de la falta de gobernanza en la información del paciente que el médico vuelca a la IA es un preocupante vacío.

El problema de la Shadow AI en la salud

De la investigación sobre las prácticas contemporáneas a través de profesionales de la salud consultados el diagnóstico es unánime, la IA ya no es una promesa de laboratorio sino que es un interlocutor activo entre el profesional y el paciente. Especialistas en diferentes ramas de la medicina confirman la integración de sistemas de IA para procesar patrones de imágenes y el análisis de datos genómicos. La tecnología complementa el conocimiento del profesional, reduce tiempo para la toma de decisiones del profesional ante el paciente pero lo hacen bajo un esquema de “Shadow AI” o adopción informal, el médico utiliza la herramienta movido por la necesidad de eficiencia, teniendo como eje principal la salúd y bienestar del paciente. Pero operan inconscientemente, al margen de un marco de control de gobierno centralizado.

Según el entorno en el cual trabaje el médico, público o privado surge que  aquellos profesionales que laboran en el sector público reportaron un despliegue parcial, limitado en contraposición en el sector privado se acelera el uso de IA  mediante “sinergías comerciales” con laboratorios y empresas específicas. Es aquí donde el foco en el riesgo sobre el uso de la tecnología nos alerta sobre contingencias legales que podrían estar bajo la lupa del Reglamento Europeo de IA (AI Act) y el GDPR.

Los sistemas orientados al soporte de decisiones oncológicas o genómicas que indicaron utilizar los profesionales, se clasifican  como sistemas de IA de Alto Riesgo.

En la práctica, el hecho de que un oncólogo clínico recurra al uso de plataformas europeas por medio de canales como WhatsApp evidencia la descentralización de un ecosistema gobernado.  WhatsApp  no es un entorno para operar con datos médicos de forma segura.  Procesar datos de categoría especial (Art. 9 GDPR) mediante sinergias comerciales sin un acuerdo de procesamiento de datos (DPA) rígido encuadra en un riesgo sistémico, claro está, los profesionales no son conscientes de ello, su foco es el paciente y combatir sus dolencias de forma eficaz.

Gobernanza de la IA: una necesidad urgente

La salvaguarda ética y bioética descansa únicamente en la voluntad del profesional, quien correctamente sostiene que “la AI no reemplaza el criterio clínico ni la consulta”  Pero la supervisión humana que exige el AI Act no puede ser sólo un acto acto de fe del médico, debe ser una política institucional. El mercado de la salud ya adoptó la IA de manera ágil. El desafío regulatorio actual no es frenar la innovación, sino protegerla por medio de marcos de gobernanza y bioética que formalicen lo que hoy ocurre en el uso de cada médico.

Liderar la innovación desde la bioética significa formalizar y gobernar la integración de IA dentro del entorno de la salúd para transformar el riesgo legal actual en una ventaja competitiva y de innovación segura.

Romina Soledad Vargas, Unidad Especial de Investigación (SIU) Zúrich Insurance Company, Miembro del Grupo de Trabajo de Inteligencia Artificial AUTELSI