Gestión del cumplimiento de la IA con la norma ISO 42001

La gestión del cumplimiento de la IA entra en una nueva era con la publicación de la norma ISO 42001. Ante la incursión arrolladora de la Inteligencia Artificial en todos los ámbitos de la sociedad y de la producción, era urgente disponer de un estándar confiable y eficaz para la gestión de los sistemas de Inteligencia Artificial.

Esa necesidad fue la principal razón para que, en diciembre de 2023, la Organización Internacional de Estandarización publicara la primera norma para la gestión del cumplimiento de la IA: ISO 42001, en colaboración con la Comisión Electrotécnica Internacional (IEC).

El objetivo principal de la norma es eliminar o mitigar los riesgos asociados al desarrollo o uso de sistemas de Inteligencia Artificial: igualdad, privacidad de los datos, respeto por los derechos humanos, propiedad intelectual, aprendizaje no supervisado de la IA, etc.

Componentes de la gestión del cumplimiento de la IA

La estructura de ISO 42001 es una estructura de Alto Nivel, la misma que caracteriza a otros estándares tan conocidos como ISO 9001, ISO 45001 o ISO 14001, lo que facilitará la integración en el futuro. El estándar incorpora tres componentes clave:

• Gobernanza ética: directrices diseñadas para asegurar el desarrollo y uso ético de los sistemas de IA. Es el componente que se encarga del uso responsable y transparente de la IA.
• Transparencia y rendición de cuentas: requisitos que buscan que las organizaciones implementen procesos que permitan obtener respuestas a inquietudes de usuarios u otras partes interesadas, generando así confianza y credibilidad.
• Gestión de riesgos: las organizaciones diseñarán e implementarán procesos eficaces de gestión de riesgos de la IA específicos del uso o desarrollo de sistemas de Inteligencia Artificial.

Quiénes deben asegurar la gestión del cumplimiento de la IA en ISO 42001

ISO 42001 no es un estándar obligatorio, pero tampoco reservado. Lo pueden aplicar todo tipo de organizaciones, de todos los tamaños, todas las complejidades y sin considerar la ubicación o el sector en el que opera. Sin embargo, dado el objetivo tan específico de la norma, no es productivo que una empresa que no desarrolla ni hace uso de sistemas de Inteligencia Artificial la implemente.

El estándar resulta especialmente útil para la gestión del cumplimiento de la IA en organizaciones que distribuyan sistemas relacionados con esta tecnología o elaboren partes y las entreguen a desarrolladores. También podría resultar eficaz para organismos no gubernamentales o agencias reguladoras estatales, siempre que el objetivo social esté vinculado a la Inteligencia Artificial.

Beneficios de la gestión del cumplimiento de la IA con ISO 42001

Las inquietudes y recelos que genera el uso de Inteligencia Artificial tienen un impacto directo en los consumidores, en los inversores, en los gobiernos y en los reguladores. ISO 42001 aparece como un estándar que entrega a la organización las herramientas necesarias para gestionar los riesgos, generando tranquilidad, confianza y transparencia en las partes interesadas.

Este podría ser el primer beneficio proporcionado por la gestión del cumplimiento de la IA de acuerdo a ISO 42001. Otros, de igual relevancia, son:

• Mejora de la reputación, que es impulsada por la confianza, la transparencia y la capacidad para ofrecer trazabilidad.
• Cumplimiento legal, regulatorio, normativo y contractual, que es uno de los requisitos de la norma. El cumplimiento ahorra dinero a la empresa y evita el deterioro de la reputación.
• Aprovechamiento de las oportunidades, sin dejar de gestionar los riesgos asociados.
• Promoción de la innovación tecnológica. La implementación de ISO 42001 requerirá una herramienta informática capaz de automatizar tareas relacionadas con la gestión del cumplimiento de la IA, contribuyendo así a la Transformación Digital también en otras áreas de gestión.
• Integrar la gestión de IA con otras áreas como Calidad, Seguridad y Salud en el Trabajo, pero, especialmente, Seguridad de la Información.

Diferencias entre el estándar de gestión de la IA y otras normas similares

ISO 42001 es el primer estándar para la gestión de sistemas de IA, pero existen otros marcos y regulaciones que buscan gestionar los riesgos asociados a la Inteligencia Artificial. Algunos de ellos son:

• ISO 22989:2022: entrega terminología y puntos de referencia útiles para la gestión de riesgos o para la interpretación e implementación de otros estándares como ISO 42001. No es un estándar certificable, es un glosario y un listado de referencias.
• ISO 23053:2022: limita su alcance a los sistemas de IA genéricos que usan tecnología ML (Machine Learning), que se basa en el aprendizaje automático.
• ISO 23894:2023: es una guía de orientación para que las organizaciones implementen procesos de gestión de riesgos y desarrollen estrategias efectivas que permitan eliminar o mitigar los riesgos inherentes.
• DIS 42005: este es un proyecto de norma, en etapa de borrador, que entregará una guía para que las organizaciones pueden evaluar el impacto de los sistemas de IA que desarrollen o utilicen. Se tratará de una guía complementaria para ISO 42001

La diferencia entre ISO 42001 y cada una de estas normas radica en que ISO 42001 representa un sistema de gestión integral, con requisitos, políticas, procesos y procedimientos. No es una guía de orientaciones o una norma que aborda una parte de la gestión, como las que se han referenciado.

Software ISO 42001

El Software ISO 42001 es una plataforma que automatiza las tareas del sistema de gestión, asegura el cumplimiento de la IA, colabora en la gestión de riesgos, predice problemas, sugiere acciones correctivas y muestra el estado de la gestión en tiempo real, entre otras funcionalidades propias de un SGIA. En la práctica, este es un producto desarrollado en colaboración con IA y que posee funcionalidades de esta tecnología.

Las empresas que desarrollan sistemas de IA, los utilizan o proveen partes, tienen una gran oportunidad para aprovechar al máximo esta avanzada herramienta tecnológica que ayuda a prevenir riesgos derivados de la Inteligencia Artificial dentro un marco de seguridad y cumplimiento. Si quieres dar un paso más en la transformación digital de tu organización, solo tienes que contactar con nuestros asesores.