Principios y estructura de ISO 42001: la norma para sistemas de gestión de IA

Inicio / Principios y estructura de ISO 42001: la norma para sistemas de gestión de IA

La estructura de ISO 42001 es la acostumbrada por ISO para sus estándares certificables, y con posibilidad de integración, publicados en la última década. Esta estructura, así como los principios que acompañan la norma, permiten crear un marco de operación de Sistemas de Inteligencia Artificial seguro, responsable, ético y legal.

La Inteligencia Artificial es el desarrollo tecnológico más importante en la historia de la humanidad, pero también despierta recelos y temores. La capacidad para aprender, razonar y comprender el lenguaje que utilizan las personas no es un tema que se pueda pasar por alto. Por supuesto, las oportunidades son muchas, pero también lo son los riesgos.

ISO 42001, un estándar pionero

La estructura de ISO 42001 y sus principios responden a los temores que despierta la Inteligencia Artificial, pero también a las expectativas que existen sobre un potencial aún no calculado. Es lo que tuvieron en mente los expertos de ISO y de la Comisión Electrotécnica Internacional al diseñar la estructura de ISO 42001, el primer estándar en Gestión de Sistemas de IA.

ISO ya había incursionado en el área con normas como ISO 22989 (Terminología de IA), ISO 2023 (Marco de IA y ML) o ISO 23984 (riesgos relacionados con IA). Pero la estructura de ISO 42001, gracias a sus anexos, conforma la primera norma de Gestión para Sistemas de IA que puede ser utilizada por todo tipo de organizaciones, tanto si son desarrolladoras como usuarias de esta tecnología.

La estructura de ISO 42001, de Alto Nivel, incorpora requisitos para que la organización redacte y publique políticas y elabore manuales de procedimientos. También da pautas para diseñar procesos y adoptar las mejores prácticas de gobernanza para el desarrollo o uso de Sistemas de Inteligencia Artificial basados en el ciclo PDCA, que garantiza la mejora continua.

Cuáles son los principios y la estructura de ISO 42001

‍Generar Sistemas de Inteligencia Artificial confiables, seguros y transparentes es uno de los principios de la norma. La estructura de ISO 42001 se ha diseñado para producir un sistema de gestión que cumpla con este propósito. Los principios básicos rectores del nuevo estándar de gestión de IA son los siguientes:

1. Transparencia

Las decisiones que se tomen en el desarrollo o uso de un Sistema de Gestión de Inteligencia Artificial (SGIA) deben ser transparentes. Esto implica que no se admiten decisiones sesgadas, discriminatorias o que impliquen segregaciones sociales, impactos ambientales negativos o afectaciones sociales.

2. Responsabilidad

La responsabilidad es el elemento esencial para generar confianza digital. Demostrar un uso responsable de la IA ayudará a derribar barreras y recelos que se levantan sobre los Sistemas de Inteligencia Artificial.

3. Equidad

Los principios y la estructura de ISO 42001 promueven la toma de decisiones justas, que no afecten en modo alguno a grupos específicos o a personas debido a sus posiciones políticas, credos religiosos, preferencias sexuales, etc.

4. Comunicación

La Inteligencia Artificial está rodeada de mitos y leyendas sobre lo que puede y no puede hacer, sobre su autoevolución y autodeterminación. Suelen ser el resultado de la falta de comunicación y de la escasa capacidad para explicar a las personas el funcionamiento y las expectativas reales sobre IA.

5. Seguridad de la información y privacidad de datos

La protección de la información, de los datos y de los registros que se utilizan o se tratan, empleando para ello sistemas de IA, tiene implicaciones regulatorias, pero también reputacionales. Por eso forma parte de los principios relevantes de ISO 42001.

6. Confiabilidad

Generar confianza en el uso de la Inteligencia Artificial es el postulado principal de la norma y el principio más relevante que se tuvo en cuenta a la hora de construir la estructura de ISO 42001 y definir sus consideraciones éticas.

La estructura de ISO 42001 es la misma que utilizan los más populares estándares de la Organización Internacional de Normalización. Pese a ello, existen variaciones sutiles en los requisitos que la hacen única y también se marca una diferencia importante en los anexos.

Cuáles son las cláusulas en la estructura de ISO 42001

La estructura de ISO 42001 está conformada por 10 capítulos. Los tres primeros proporcionan información general y de referencia, como glosarios y orientaciones útiles para la comprensión del texto de los otros 7 capítulos, que sí entregan los requisitos del estándar de Sistemas de Gestión de IA. La estructura de ISO 42001, antes de los anexos es la siguiente:

Cap	Título	Descripción
1	Alcance	A quién aplica, cómo lo hace y cómo se puede utilizar.
2	Referencias Normativas	Conceptos y terminología de IA.
3	Términos y definiciones	Glosario de términos de uso frecuente en estándares ISO, como “partes interesadas”, “no conformidad” o “acción correctiva”
4	Contexto de la organización	Elementos, factores o situaciones, internos o externos, que pueden afectar de forma positiva o negativa a la capacidad para alcanzar los objetivos del sistema.
5	Liderazgo	Demostrar el compromiso de la Alta Dirección con el sistema, con sus objetivos y evidenciarlo generando las políticas y asignando los recursos.
6	Planificación	Diseño de planes para la identificación de riesgos y oportunidades, así como su evaluación y tratamiento.
7	Apoyo	Recursos, información y competencias, incluidas las de formación y desarrollo, necesarias para el logro de objetivos.
8	Operación	Diseñar los procesos y poner en marcha los recursos tecnológicos y humanos necesarios para tratar los riesgos.
9	Evaluación del desempeño	Monitorear, evaluar y calificar el desempeño del sistema.
10	Mejora continua	Diseñar e implementar acciones correctivas para solucionar problema y asegurar la mejora continua.

Qué función cumplen los anexos de ISO 42001

ISO 42001 incorpora cuatro anexos: dos de ellos son normativos y los otros dos son informativos.

Anexos Normativos

Anexo A: entrega referencias útiles para alcanzar los objetivos de la organización, tratar los riesgos y poner en marcha el sistema de gestión. Esto incluye orientaciones para crear o desarrollar:
- Controles para mitigar o contener riesgos.
- Políticas y procedimientos.
- Asignación de roles, responsabilidades y procesos.
- Recursos necesarios para la correcta operación del sistema.
- Ciclo de vida del Sistema de IA.
- Evaluaciones de impacto de los Sistemas de IA.
- Uso de la Inteligencia Artificial.
- Terceros, clientes, proveedores, usuarios…
Anexo B: ofrece orientaciones para el diseño, implementación y uso de los controles mencionados en el Anexo A.

Anexos Informativos

Anexo C: no aplica para todas las organizaciones, solo para las que hagan de la gestión de riesgos de IA un objetivo estratégico.
Anexo D: habla de la aplicabilidad del sistema en todo tipo de organizaciones que desarrollen, comercialicen, utilicen, proporcionen o incorporen en sus productos Sistemas de Inteligencia Artificial.

Software ISO 42001

El Software ISO 42001 es una herramienta tecnológica creada para ayudar a las organizaciones a alcanzar dos objetivos prioritarios: garantizar el cumplimiento de los requisitos de ISO 42001 y facilitar la operación automatizando gran parte de las tareas que el sistema demanda.

Esta plataforma se ha diseñado haciendo uso de Inteligencia Artificial y, de hecho, entrega funcionalidades proporcionadas por esta tecnología. Es, por eso, el mejor aliado para una organización que trabaja para obtener el uso seguro, transparente y confiable de la IA. Sus funcionalidades y ventajas son innumerables, para conocerlas sin compromiso, solo tienes que contactar con nuestros asesores.