Sistema de gestión de IA ISO 42001: guía para la gobernanza de la inteligencia artificial

La implementación de un sistema de gestión de IA ISO 42001 se hace imperiosa en un momento en el que la nueva tecnología es el eje del crecimiento económico. Lo es especialmente en países industrializados que, no por ello, están exentos de los riesgos y las críticas que despierta el uso y desarrollo de Inteligencia Artificial.

Pocos son los campos que pueden evadir el ímpetu de la Inteligencia Artificial. Es una demostración de que las organizaciones y la sociedad necesitan esta tecnología, pero dentro de un marco de ética, transparencia, igualdad y respeto. Por eso nace el sistema de gestión de IA ISO 42001.

Con la implementación de un sistema de gestión de IA ISO 42001 las organizaciones pueden aprovechar el inmenso potencial de la Inteligencia Artificial y sus beneficios, minimizando los riesgos que tanto preocupan. Se genera así confianza entre los consumidores, los inversionistas, los reguladores y los estados.

Qué es ISO 42001

ISO 42001 es el primer estándar internacional de sistemas de gestión de IA. Reconocido a nivel global, se diseñó para gestionar los riesgos asociados al desarrollo o uso de sistemas de Inteligencia Artificial. La norma entrega requisitos para que las organizaciones aprovechen los beneficios de IA dentro de un marco de transparencia.

ISO 42001 puede ser utilizada por todas las empresas del mundo, sin considerar su tamaño, ubicación, industria o sector, siempre que desarrollen o utilicen Inteligencia Artificial.

Cuáles son los objetivos de un sistema de gestión de IA ISO 42001

El gran objetivo de un sistema de gestión de IA ISO 42001 es garantizar el cumplimiento: cumplimiento ético, legal, regulatorio, normativo y de las expectativas de las personas, sean estas clientes, inversores o solo miembros de una comunidad.

A partir de ese gran objetivo, las organizaciones definirán, de acuerdo con su contexto, sus objetivos específicos. Son los mismos que plasmarán inicialmente en la política de uso de la Inteligencia Artificial.

Para alcanzar el objetivo esencial se establecen requisitos y controles de la nueva ISO 42001 para temas tan sensibles como el manejo de datos y de información de terceros, la transparencia algorítmica y, por supuesto, la gestión de riesgos.

Principios básicos de un sistema de gestión de IA ISO 42001

Para cumplir con su objetivo esencial y con los objetivos que fija la organización, el sistema de gestión de IA se sostiene en cinco ejes o principios básicos, que es importante conocer y comprender antes de iniciar la implementación de ISO 42001:

• Ética: evita el desarrollo o uso de sistemas de IA que no respeten los derechos humanos.
• Transparencia: entrega claridad sobre cómo se desarrollan los sistemas de IA, qué datos utilizan, cuál es el propósito y cuáles son los límites para preservar la seguridad y el respeto por las personas.
• Responsabilidad: fija límites para evitar el desarrollo de sistemas que no posean control sobre sus funcionalidades de aprendizaje automático y algoritmos, lo que les permitiría tomar decisiones sin intervención humana.
• Seguridad de la información: garantiza el uso seguro y transparente de los datos que gestione la IA, especialmente en sistemas de atención al cliente o de uso en el sector sanitario.
• Mejora continua: garantiza que el sistema de gestión se mejorará a sí mismo tras cada ciclo de evaluación definido por la práctica de auditorías. Es uno de los requisitos de ISO 42001 obligatorios.

Beneficios de un sistema de gestión de IA ISO 42001

Los beneficios de un sistema de gestión de IA ISO 42001 son muchos, pero cuatro de ellos adquieren especial relevancia:

1. Mejora la gobernanza de la IA

Un sistema de gestión de IA ISO 42001 entrega un marco claro, comprensible y de obligatoria adopción para el uso de Inteligencia Artificial. Significa que nada queda al libre albedrío de ninguna persona. Los empleados cuentan con políticas, procesos, procedimientos e instrucciones claros que les permiten saber qué hacer, qué no hacer y cómo proceder en caso de duda.

Se crea así una estructura de gobernanza de la IA que permite operar siempre en concordancia con los objetivos de la organización, los requisitos legales y las exigencias regulatorias y reglamentarias.

2. Aporta transparencia y confiabilidad

Uno de los desafíos más complejos que deben enfrentar las organizaciones que desarrollan o utilizan IA es vencer las reservas de consumidores y otras partes interesadas con respecto al uso de IA. Generar confianza y transmitir transparencia es uno de los objetivos que logran los sistemas de gestión basados en la norma ISO 42001.

3. Elimina o minimiza riesgos

Existe una preocupación real por aspectos del uso de IA que pueden entrañar riesgos: toma de decisiones autónomas y sesgadas, seguridad de los datos y de la información, violación de derechos de autor, etc. Lo importante es advertir que ISO 42001 entrega herramientas a las organizaciones para identificar, evaluar, eliminar, mitigar o tratar riesgos asociados al uso de Inteligencia Artificial.

4. Otorga ventaja competitiva

Es evidente que la IA conlleva ventajas y oportunidades. Las organizaciones que logren aprovecharlas, eliminando los riesgos, adelantarán a sus competidores. Pero el beneficio va más allá: las organizaciones que implementan y certifiquen su sistema de gestión de IA ISO 42001 tendrán acceso a mercados en países en los que el cumplimiento de estándares es requisito indispensable para establecer relaciones comerciales.

Cómo ha evolucionado ISO 42001

La gestación de ISO 42001 parte de un grupo de estudio conformado por miembros de la Comisión Europea y la Comisión Electrotécnica Internacional para identificar riesgos reales de la IA. Este trabajo sirvió como base para establecer varias rondas de consultas y revisiones que permitieron agregar comentarios y objeciones que enriquecieron un primer borrador que se utilizaría para crear el primer estándar para un sistema de gestión de Inteligencia Artificial.

La discusión sobre este borrador involucró a eminencias del mundo académico, representantes de organismos gubernamentales de diversas naciones y representantes de la sociedad. Así se redactó una versión para aprobación que superó todo el trámite hasta llegar al consentimiento general en diciembre de 2023, momento en que se produce la publicación oficial del nuevo estándar de gestión de IA.

Cuáles son los elementos esenciales de la norma ISO 42001

ISO 42001:2023 es un estándar que utiliza la estructura de Alto Nivel, característica de las normas ISO de más recientes. Esto significa que el texto de la norma se divide en 10 capítulos. Los primeros cuatro son normativos o de referencia y los siguientes entregan los requisitos.

Además, ISO 42001 incorpora dos anexos, A y B. El primero entrega controles y el segundo una guía para su implementación. Dentro de esta estructura, los componentes clave para implementar un sistema de gestión de IA ISO 42001 son:

• Marco de gobernanza: crear una estructura que defina roles, funciones, responsabilidades, indicadores de rendimiento, mecanismos de monitoreo, supervisión y rendición de cuentas.
• Gestión de riesgos: diseñar e implementar procesos eficaces para identificar, evaluar, clasificar, priorizar y tratar riesgos asociados con el uso de IA, de forma continua y cíclica.
• Gestión de datos: diseñar e implementar controles para preservar la integridad, seguridad y confidencialidad de los datos y de la información de terceros.
• Transparencia: garantizar la seguridad de la documentación, su almacenamiento seguro y la trazabilidad de los cambios o actualizaciones para poder explicar en todo momento cómo se tomaron las decisiones, aportando confianza y transparencia en la gestión.
• Ética: preservar la adopción de procesos y consideraciones éticas y morales en todas las actuaciones, priorizando la igualdad, el respeto por los derechos humanos y la no discriminación.
• Mejora continua: mediante la práctica de auditorías, inspecciones y revisiones de la Alta Dirección se recopilará evidencia de que el sistema tiene la capacidad para mejorarse a sí mismo utilizando un modelo PDCA.
• Evaluar el impacto de la IA en el ciclo de vida: evaluar los impactos técnicos, sociales, económicos y de otro tipo que genere la IA en todo el ciclo de vida del sistema.
• Gestión del ciclo de vida del sistema: evaluar todos los aspectos asociados a todas las etapas del ciclo de vida de un sistema de IA, desde su concepción, su diseño, la planificación, las pruebas y los problemas identificados, la resolución de los problemas, el uso por parte del consumidor y su disposición final.
• Gestión de proveedores: ampliar el alcance del sistema y sus requisitos a toda la cadena de valor para garantizar que se cumple con los estándares mínimos en todos los eslabones.

Software ISO 42001

El Software ISO 42001 es una plataforma diseñada para ayudar a las organizaciones a hacer un uso responsable y transparente de la IA mediante la implementación de un sistema de gestión basado en la norma.

Esta solución incorpora IA en un diseño basado en el ciclo PDCA para entregar una herramienta que permite a organizaciones de todos los tamaños implementar un sistema de gestión de IA ISO 42001 y certificarlo con éxito, automatizando una buena parte de las tareas que implica. Para conocer más aspectos de esta avanzada solución tecnológica, solo tienes que solicitar información sin compromiso a nuestros asesores.