En la intersección en materia de salud y la frontera de la Inteligencia Artificial Agéntica, emerge una oportunidad sin precedentes para el sector sanitario: el desarrollo de sistemas basados en la Superinteligencia Híbrida (esta no es otra cosa que la fusión sinérgica entre la capacidad de procesamiento de los agentes autónomos y la inteligencia humana).

El punto de inflexión ocurre cuando trascendemos de los modelos estáticos para adoptar agentes con mayor autonomía operativa, capaces de ejecutar tareas complejas mediante una orquestación inteligente de procesos. Sin embargo, para liderar estos desarrollos, debemos partir de un marco bioético y de realidad legal: el AI Act clasifica a los sistemas en salud como de Alto Riesgo. Por ello, el diseño en nuestra arquitectura del desarrollo tecnológico debe partir de una construcción de confianza desde el inicio; esto nos exige implementar políticas estrictas de Privacy & Compliance by Design.

La neurociencia es categórica: las decisiones y los recuerdos se forman más con emoción que con lógica, como líderes tecnológicos, deberán concientizarse de que detrás de cada dato clínico no hay un registro numérico, sino un paciente buscando certezas y por, sobre todo, humanidad. Para que el proyecto sea un caso de éxito y, a la vez, conforme a la ley, debemos hacernos una pregunta: ¿Estamos realmente preparados para gobernar sistemas de esta magnitud sin perder el eje en el valor humano y las directrices normativas?

La postura para el sector TIC debe ser innegociable: la transparencia algorítmica, la minimización de datos y la responsabilidad en el ciclo de vida del agente son los pilares de la viabilidad comercial. En este escenario, el marco regulatorio no debe percibirse como una barrera, sino como un acelerador de mercado que garantiza la escalabilidad y la seguridad jurídica.

La arquitectura de estos sistemas debe ser bajo una simbiosis técnica donde la IA gestiona la complejidad del dato (historias clínicas, bioimágenes, etc), mientras que el profesional de la salud ejerza la validación final (Human in the loop). La Superinteligencia no llega para desplazar al profesional, sino para empoderarlo. La mitigación del riesgo real reside en asegurar que la autonomía de la IA este siempre subordinada a la aprobación humana, garantizando que el sistema sea asistencial y no puramente determinista.

Las organizaciones que aspiren a liderar la transformación digital sanitaria deben integrar desde el inicio del proyecto cinco pilares críticos:

  • El dato le pertenece al individuo,
  • Transparencia, explicabilidad y trazabilidad en cada «razonamiento» de la IA,
  • Potenciar la capacidad del profesional, nunca sustituirla,
  • Protocolos de mitigación ante alucinaciones o sesgos,
  • Neuro empatía: Interfaces que respeten la toma de decisiones médicas.

 Bajo este modelo, la tecnología deja de ser una herramienta de procesamiento para convertirse en el garante del cuidado del paciente y de la seguridad del profesional. Al posicionar el respeto por los datos y los derechos fundamentales en el centro del diseño, no solo protegemos la salud del paciente, sino que legitimamos el futuro de la medicina digital.

Romina Soledad Vargas, Unidad Especial de Investigación (SIU) Zúrich Insurance Company, Miembro del Grupo de Trabajo de Inteligencia Artificial AUTELSI, coordinadora del Subgrupo Árbol de decisiones para implementación de IA.