Gobernanza de la IA: concepto, tipos y marcos normativos

Gobernanza de la IA es un concepto cada día más común en el mundo corporativo. La razón se encuentra en lo novedosa que aún resulta esta tecnología, pero también en los riesgos, algunos de ellos ya identificados, que lleva aparejado el uso del avance tecnológico más popular del siglo XXI.

Es innegable el uso generalizado de Inteligencia Artificial en las organizaciones, también en la vida social y en el entretenimiento. Basta mencionar estos tres espacios para explicar las crecientes preocupaciones de especialistas, pero también de gobiernos y de la sociedad en general.

Esa preocupación es, precisamente, la que da origen al concepto de gobernanza de la IA. La expresión refleja ese deseo de hacer uso de la Inteligencia Artificial, pero dentro de un marco en el que la organización usuaria ejerza algún tipo de administración o autoridad.

A continuación, se analiza qué significa con precisión gobernanza de la IA, cuántos niveles hay, qué marcos normativos ayudan a ejercer autoridad sobre ella y qué buenas prácticas contribuirán a un uso responsable y seguro de la IA.

Qué es la Gobernanza de la IA

Gobernanza de la IA hace referencia a un conjunto de normas, políticas, prácticas y directrices, que establecen un marco de gestión para utilizar la tecnología y aprovechar sus beneficios comerciales, preservando el respeto a la transparencia, a la igualdad y a los derechos de las personas, entre ellos, los de autor.

La gobernanza de la IA permite controlar riesgos y definir un uso de la tecnología que responda a las consideraciones éticas, que respete la integridad y fomente confianza entre los usuarios, los consumidores, los empleados y cualquier otra parte interesada.

De esta manera, la gobernanza de la IA es, en una definición muy sucinta, la autoridad que puede ejercer una organización para aprovechar, de forma controlada, los beneficios que puede entregar la tecnología.

Cuántos niveles de gobernanza de la IA existen

La gobernanza de la IA en las empresas se clasifica en tres niveles, de acuerdo con el rigor con el que se pone en práctica y con la sofisticación que la acompaña. Ante un panorama regulatorio de la inteligencia artificial aún en desarrollo, las empresas toman decisiones que les permiten asumir un nivel de gobernanza que facilite controlar riesgos, pero sin limitar los beneficios.

1. Informal

La gobernanza informal de la IA se limita a impartir algunas instrucciones y a expresar algunas directrices sin hacer uso de ningún marco normativo público o privado. Las prácticas solicitadas, no obstante, son de obligatorio cumplimiento dentro de la organización.

2. Para un propósito definido

Este tipo de gobernanza responde a un incidente o a una alerta definida. Con el paso del tiempo, se va generando un marco propio con base en respuestas periódicas a eventos que preocuparon a la Alta Dirección o a otro estamento dentro de la organización. No se trata de un marco de gobernanza coherente y proactivo.

3. Formal

En este, el nivel más alto y estructurado de la gobernanza de la IA, la organización diseña normas y reglas proactivas, enfocadas en el riesgo. Son el resultado de evaluaciones e investigaciones profundas, consultando a las partes interesadas y a los expertos en el área. Por lo general, este nivel de gobernanza utiliza un marco de gestión reconocido.

Qué marcos de gobernanza de la IA existen

Diferentes organismos han desarrollado marcos de gestión para ayudar a las empresas a obtener un entorno normativo estandarizado y sistemático para la gobernanza de la IA ante la ausencia de normativa. La excepción es la Unión Europea, que sí ha aprobado una Ley de Inteligencia artificial. Entre los marcos más reconocidos se encuentran los siguientes:

1. Declaración de Derechos de IA de la Oficina de Política, Científica y Tecnológica de la Casa Blanca

Esta declaración es una guía apropiada para iniciar un proyecto de gobernanza. Se trata de una recopilación de directrices y prácticas implementadas en diferentes escenarios de los Estados Unidos. Se relacionan con aspectos como la protección contra la discriminación algorítmica, sistemas seguros y eficaces para la orientación por IA, privacidad de datos o aviso de cómo se está utilizando la IA.

2. Marco de Gestión de Riesgos de IA de NIST

El Instituto Nacional de Estándares y Tecnología ha creado este marco de gestión, con la idea de que apoye los inicios de la gestión de riesgos de IA en empresas pequeñas y medianas.

3. Marco de la Organización de Cooperación y Desarrollo Económico OCDE

Más que un marco formal es una recopilación de buenas prácticas, a juicio del seleccionador, para mantener bajo control los riesgos de IA.

4. ISO 42001

El pionero y el más reconocido de los estándares de gestión de Sistemas de Inteligencia Artificial es ISO 42001. La norma promueve el uso responsable, ético, legal y transparente de la IA, respetando los derechos de las personas y haciendo enfoque en el pensamiento basado en el riesgo. La norma entrega cuatro anexos, uno de ellos con controles y otro con una guía para utilizarlos.

Cuáles son las mejores recomendaciones para implementar un programa de gobernanza de la IA

Adoptar la gobernanza para el uso de la IA o para la gestión de Sistemas de IA es ofrece interesantes beneficios si se toman en cuenta las siguientes recomendaciones:

• Auditar la gobernanza para comprobar si está cumpliendo con su objetivo o si existen riesgos que no se han considerado.
• Alinear la gobernanza con los objetivos comerciales de la organización. Hacer uso responsable de la IA es importante, siempre que se aprovechen los beneficios comerciales de la tecnología.
• Involucrar a los interesados en el proceso, entre los que se encuentran los empleados, los consumidores, la comunidad y los reguladores. Cuantas más partes se involucren, mayor transparencia.
• Diseñar métricas e indicadores para evaluar el éxito de la gobernanza. Es información valiosa, además, para identificar oportunidades de mejora.
• Adoptar un marco reconocido como ISO 42001. Este es el primero y el único estándar para Sistemas de Gestión de Inteligencia Artificial. Otros son guías, orientaciones o directrices.
• Incorporar tecnología a la gestión de IA. Los sistemas de gestión automatizados y digitalizados tienen mejores oportunidades para alcanzar objetivos y mejorar de forma continua.

Software ISO 42001

El Software ISO 42001 es una plataforma que utiliza la Inteligencia Artificial de forma responsable para ayudar a las organizaciones a controlar riesgos derivados del uso de esa tecnología. Se trata de un concepto innovador, que automatiza la gestión y entrega herramientas sofisticadas para planificar, implementar, certificar, mantener y mejorar un Sistema de Gestión de IA.

El software, además, se adapta a las necesidades particulares de cada organización, optimizando así su rendimiento. Puedes conocer en detalle cómo funciona y qué aplicaciones incorpora en la demo online gratuita o, si lo prefieres, contacta sin compromiso con uno de nuestros asesores.