En los últimos años hemos presenciado como la inteligencia artificial (IA) se ha integrado en nuestra vida cotidiana y convivimos con dicha tecnología en nuestro trabajo, en nuestra vida personal y nuestro desenvolvimiento social. No existe hasta el momento un ámbito dónde no se pueda desarrollar IA ya que contamos con ella en temas relacionados en salud, educación, materia ambiental, y en las relaciones de consumo y por ello es importante aprender surfeando en la ola de la Inteligencia Artificial y sus riesgos tecnológicos.

Pero previo a su desarrollo las empresas que pretendan implementar IA deben realizar un análisis exhaustivo y riguroso de los riesgos del proyecto: riesgos que incluyen impacto social y empresarial. Contamos con una amplia gama de usos de aplicaciones de IA, surgiendo la aparición de riesgos sociales, que pueden poner en duda las medidas que las organizaciones toman para salvaguardar a los individuos.

El análisis del proyecto de IA debe recaer sobre puntos específicos y estratégicos. Esto nos permitirá evaluar el impacto que su implementación tendrá sobre las personas, como así en las tareas laborales, en los clientes y en todos los aspectos de la empresa. Innovar constante nos mantiene competitivos en el mercado, y al aplicar IA de manera innovadora optimizamos la experiencia del cliente y tomamos decisiones estratégicas más acertadas.

Recordemos que debemos mitigar los riesgos tecnológicos asociados con el desarrollo de IA, se recomienda para ello que el análisis del proyecto sea analizado por áreas clave dentro de las organizaciones, como las áreas de: Legales, Compliance, IT, Governance y Risk. Además, debemos evaluar los procesos existentes para identificar oportunidades de mejora y optimización, considerando que vamos a implementar una nueva tecnología.

Algunos de los aspectos fundamentales para el análisis de riesgo incluyen:

Expertise en IA: Dentro de la empresa debemos contar con equipos que tengan conocimiento en IA, trabajar con partners o aliados que puedan colaborar y facilitar la implementación de la tecnología de IA en la organización. Verificar previamente que los aliados estén en línea con nuestras políticas internas.

Cumplimento normativo y ético: Se debe respetar la protección de los derechos de las personas, su privacidad. Siguiendo los lineamientos que establece la legislación vigente y las buenas prácticas. Actualmente estamos evolucionando en materia de regulación tecnológica, contamos con la ley de regulación y uso de IA en Europa. Pero no todos los sistemas de IA son iguales por lo cual cada uno presenta diferentes riesgos, por ello se introducen en la normativa europea cuatro tipos de riesgos:  Riesgo Aceptable- Riesgo Alto- Riesgo Limitado- Riesgo Mínimo o Nulo.

Datos: En el proyecto se debe trabajar con datos puros, datos que hayan transitado el proceso de una correcta Gobernanza.

Seguridad informática e infraestructura tecnológica: Revisión, mapeo de conexiones de fuentes de información con la cual la IA se educará, se entrenará y así se logre el “despliegue su inteligencia”, para garantizar la confiabilidad. En caso de llevar a cabo implementación de IA con partners o aliados debemos analizar su infraestructura respecto de la seguridad de la información para verificar que esté en línea con nuestras políticas internas. Verificar el servidor en la nube, por ejemplo, si se encuentra operando en un país dónde contemos con legislación sobre protección de datos.

Transparencia, trazabilidad: Debemos realizar el seguimiento detallado de cada paso del proyecto y documentarlo correctamente.

El uso de la IA ofrece oportunidades inmensas, potencia nuestro trabajo y genera amplias oportunidades, siempre que su utilización sea de manera eficiente y con personas calificadas en la materia, abordando algunos de los parámetros mencionados anteriormente. Pero recordemos que su aplicación sea en cualquier ámbito, requiere de la intervención y supervisión humana. El rol de las personas es indispensable para controlar que la tecnología tome decisiones éticas y equitativas. El éxito de la de la tecnología de Inteligencia Artificial dependerá de la combinación con la inteligencia humana. Surfeando en la ola de la IA.

Romina Soledad Vargas, Unidad Especial de Investigación (SIU) Zúrich Insurance Company, Miembro del Grupo de Trabajo de Inteligencia Artificial AUTELSI, coordinadora de Aspectos Legales, Éticos y Sociales