La adopción de sistemas de inteligencia artificial en organizaciones por todo el mundo ha demostrado ser una oportunidad significativa de transformación y mejora, no exenta, sin embargo, de múltiples desafíos éticos, legales, técnicos y de seguridad.

Para garantizar un uso responsable, transparente y efectivo de los sistemas de inteligencia artificial es esencial contar con un sólido plan de gobernanza. Al establecer políticas claras, formar equipos multidisciplinares y definir sus roles y responsabilidades de forma coherente, la compañía puede maximizar los beneficios de la IA a la vez que minimiza los problemas y riesgos potenciales.

La gobernanza de sistemas de inteligencia artificial se define como el conjunto de prácticas dirigidas a la supervisión y regulación de dichos sistemas, a lo largo de todo su ciclo de vida, mediante una serie de componentes y tareas, que deben estar alineadas con los objetivos estratégicos de la empresa y sus valores. Un modelo de gobernanza de sistemas de IA hace referencia al nivel de sofisticación, interconexión y alcance de las políticas, procesos, estructuras y procedimientos diseñados para supervisar y regular la implementación y uso de la inteligencia artificial en la compañía. Debe ser, a pesar de su complejidad, un modelo equilibrado, efectivo pero realista; un modelo que refleje las necesidades y capacidades específicas de la empresa y que se ajuste a su contexto y objetivos.

En este sentido es interesante el enfoque de Urs Gasser and Virgilio A.F. Almeida – Harvard University (A Layered Model for AI Governance) al hablar de gobernanza IA basada en un modelo de 3 capas:

  • Una capa social y legal referida al conjunto de normas, regulaciones y normativas que impactan sobre el sistema.
  • Una capa ética que presta especial atención a la evaluación de un sistema IA con arreglo a criterios y principios éticos.
  • Una capa técnica que sirve de base para las otras dos, y que centra su razón de ser en el gobierno del dato y la responsabilidad de los algoritmos.

Uno de los componentes más importantes en un modelo de gobernanza es el relativo a la evaluación de riesgos inherentes al sistema y su impacto, asociado a la aplicación y seguimiento de las correspondientes medidas correctoras o de mitigación. Este componente se encuentra presente en varias de las fases ya mencionadas, y se centra en evaluar los riesgos técnicos, legales, éticos y de seguridad del sistema.

La definición de roles y responsabilidades en un modelo de gobernanza de sistemas IA hace referencia a aspectos tales como la coordinación interdepartamental, la supervisión del ciclo de vida, o la toma de decisiones éticas y legales. En este sentido, una de las cuestiones que debe resolverse a priori es si el equipo de gobernanza está facultado para tomar decisiones éticas y legales en caso de dilemas o conflictos relacionados con el desarrollo de sistemas de IA complejos. Para resolver estas cuestiones, es vital contar con un órgano gestor con poder de decisión; una “Oficina de IA Global” con capacidad para incorporar toda una estructura operativa y modelo metodológico avanzado para la gobernanza de sistemas IA.

Un modelo de gobernanza para sistemas de inteligencia artificial debe estar estrechamente ligado a una estrategia de auditoría y transparencia algorítmica como eje central en la toma de decisiones. Además, como parte de su estrategia operativa, el equipo vigilará el cumplimiento de los requisitos de transparencia, explicabilidad e impugnabilidad aplicables a los sistemas de inteligencia artificial.

No debemos olvidar, por su importancia, los aspectos relativos a la responsabilidad y propiedad, tanto del sistema IA como de los algoritmos. Cada sistema de inteligencia artificial y algoritmo debe tener un propietario organizativo responsable designado por la compañía, con suficiente conocimiento y comprensión de todos los componentes del sistema como para tomar decisiones informadas sobre la relación riesgo-recompensa; ambos deben tener la autoridad y los recursos adecuados para garantizar que el sistema IA y los algoritmos se ajustan a los valores y la tolerancia al riesgo definidos por la organización.

La evaluación del ROI en la adopción de sistemas de IA es otro aspecto fundamental para las organizaciones que buscan determinar si los costos asociados con la implementación de estas tecnologías se traducen en mejoras significativas en la productividad y eficiencia o si realmente agrega valor a la operación del negocio.

Es en este punto donde el equipo de gobernanza evaluará aspectos como:

  • Objetivos deseados con la implantación de sistemas IA.
  • Métricas cuantificables que permitan medir el impacto en relación con los objetivos.
  • Comparación exhaustiva entre el rendimiento y los costes antes y después de la implantación del sistema.
  • Analizar escenarios que contemplen diferentes resultados y situaciones, evaluando las variaciones del ROI en diferentes contextos.

La implantación de un modelo sólido de gobernanza de sistemas de IA no sólo es un acto de responsabilidad corporativa, sino también un medio para aprovechar plenamente los beneficios que ofrece la inteligencia artificial y que han sido puestos de relieve en este artículo. Los primeros pasos en esta dirección son cruciales y deben centrarse en realizar una evaluación exhaustiva de las necesidades y los riesgos específicos de la organización en relación con la implantación de sistemas de inteligencia artificial y definir un completo programa de formación y sensibilización que permita crear una base de conocimiento sólida, a todos los niveles, que incluya conceptos básicos sobre IA, así como sus implicaciones éticas y desafíos asociados.

Establecer un comité de gobernanza multidisciplinario capaz de definir un conjunto de principios éticos que guíe cualquier desarrollo futuro de la compañía, evaluando su impacto y asegurando la transparencia desde las primeras etapas de su diseño es el siguiente paso lógico. A través de este enfoque metodológico las organizaciones pueden sentar las bases para un ecosistema de IA ético y eficaz, posicionándose así en la vanguardia de la innovación tecnológica con integridad y una visión a largo plazo.

Pedro Albarracín AI Architect & Lead AI Projects en DXC Technology España