Normas ISO y gobernanza de la Inteligencia Artificial: claves para un futuro más seguro

La gobernanza de la Inteligencia Artificial es una cuestión que adquiere relevancia en la misma proporción que crecen la contribución y la influencia de la nueva tecnología en el panorama corporativo y comercial a nivel global.

Implementar y cumplir normas ISO de gestión se convierte en un factor clave para construir un marco de gobernanza de la Inteligencia Artificial seguro, ético y responsable. Un marco, además, confiable y que permita aprovechar todo el potencial que ofrece la IA.

Qué es la gobernanza de la Inteligencia Artificial y cuál es su importancia

La gobernanza de la Inteligencia Artificial comprende todas las prácticas, normas, protocolos, procesos, procedimientos y actividades que diseña, implementa y utiliza una organización para utilizar sistemas de IA con seguridad, responsabilidad, transparencia, legalidad y ética.

La gobernanza de la IA garantiza la rendición de cuentas, el respeto por los derechos de las personas y la privacidad de los datos y de la información sensible, así como la eliminación del sesgo en la toma de decisiones.

Construir un marco de gobernanza de la Inteligencia Artificial estable y sólido hace que las personas, los consumidores, los organismos reguladores, los proveedores y los estados confíen en la organización y en el uso que hace de la IA, pese a la incertidumbre general que acompaña a la nueva tecnología. En ese propósito, las normas ISO tienen un rol muy importante para cumplir.

Qué son las normas ISO

Los estándares ISO son conjuntos de requisitos que buscan homologar y normalizar una actividad o un área de trabajo particular. Las normas ISO, que en su mayoría adoptan una estructura común (estructura de alto nivel), se han diseñado para que las organizaciones obtengan resultados sobresalientes en la gestión del área en la que se implementan.

Algunas de las áreas que han sido estandarizadas por ISO son Calidad, Medio Ambiente, Seguridad y Salud en el Trabajo, Seguridad de la Información o Cumplimiento. La novedad es que ahora la Inteligencia Artificial también cuenta con una norma ISO para crear un marco de uso de esta tecnología confiable y seguro.

Las normas ISO se diseñan y redactan en colaboración con comités de expertos en el área sobre la que se trabaja, grupos de interés, representantes de industrias afectadas, personas de la sociedad y organismos estatales, entre otros de igual importancia.

El esfuerzo de estas personas se refleja en un extenso y minucioso proceso que se inicia con una propuesta inicial. Luego se redacta un borrador que se somete a múltiples discusiones, a una revisión de los comités especializados y, en algunos casos, a una consulta pública previa a la publicación. Este es el camino que han recorrido los estándares ISO para implementar IA que tienen incidencia directa en la gobernanza de la Inteligencia Artificial.

Cuál es el rol de ISO 27001 en la gobernanza de la Inteligencia Artificial

ISO 27001, edición 2022, es el estándar internacional con mayor reconocimiento para la gestión de los riesgos de seguridad de la información. Es una norma diseñada para que las empresas cuenten con los procesos, herramientas y controles necesarios para proteger su información, en cualquier formato o que se transmita a través de cualquier medio, convencional, digital, virtual o cibernético.

Los sistemas de Inteligencia Artificial consumen grandes cantidades de datos. Algunos de ellos, los que trabajan en asistencia al cliente, chatbots o asistentes de voz, necesitan recopilar y procesar datos privados sobre los que el sistema tiene absoluto control.

ISO 27001 aporta un modelo de gestión que asegura la gobernanza de la Inteligencia Artificial, garantizando confidencialidad, privacidad e integridad, sin sacrificar la accesibilidad para las partes indicadas y autorizadas. Por supuesto, el cumplimiento de regulaciones como RGPD está asegurado.

De esta forma, ISO 27001 incorpora controles en el Anexo A que garantizan que los sistemas de IA respetan la privacidad de los datos de las personas y que en el tratamiento de esa información no aparecen sesgos que conducen a discriminación con base en criterios de género, raza, nacionalidad, creencias religiosas o políticas, entre otros.

Un aporte importante de ISO 27001 para la gobernanza de la Inteligencia Artificial aparece en el enfoque holístico que adopta sobre la Seguridad de la Información. Esto permite a la norma considerar los aspectos técnicos y organizacionales, pero también los humanos. Es una cuestión que adquiere especial relevancia a la hora de crear políticas para el uso de IA en las que se incorporan la ética, la transparencia y la igualdad.

Qué aporta ISO 42001 a la gobernanza de la Inteligencia Artificial

ISO 42001 es el estándar internacional que entrega requisitos para crear un marco de gobernanza de la Inteligencia Artificial seguro, ético, legal y transparente. Se ha diseñado para ser utilizado por empresas de todos los tamaños, de cualquier sector y en cualquier ubicación, siempre que desarrollen o utilicen sistemas de IA.

La norma ISO 42001, al igual que ISO 27001, entrega controles efectivos para prevenir los riesgos inherentes al uso de IA, entre ellos los que tanto preocupan a las personas en general, como el respeto por los derechos de las personas, la equidad y la inclusión, entre otros de igual importancia.

Cuáles son los desafíos que enfrenta la gobernanza de la IA

Hablar de gobernanza de la Inteligencia Artificial es hablar de retos importantes. Con una tecnología que está en constante evolución y que genera tantas suspicacias como expectativas, los desafíos están a la orden del día. Los más representativos son:

1. Velocidad en la evolución de IA

La evolución de la tecnología de IA es vertiginosa. Seguir sus pasos es un reto para los expertos técnicos y científicos, pero también para el área de cumplimiento. La velocidad del avance tecnológico supera la capacidad de los reguladores, generando vacíos en las normas, problemas de interpretación y grietas en la estructura del marco de gobernanza de la Inteligencia Artificial.

2. Riesgo de desinformación, fraude o violación del derecho intelectual

El uso indebido de sistemas de IA facilita la tarea para personas interesadas en promover información falsa, cometer delitos o apropiarse de la obra intelectual o artística de otras personas. Todo forma parte de las preocupaciones que se mueven en torno a esta tecnología. Abordar estos riesgos es una de las razones por las que se requiere un marco de gobernanza de la Inteligencia Artificial sólido y efectivo.

3. Lentitud legislativa y regulatoria

Sería más fácil crear un marco de gobernanza o un estándar de gestión que se acomodará a la ley, como ha sucedido en áreas como SST o Medio Ambiente, y no lo contrario: tratar de construir gobernanza que redunde en la promulgación de regulaciones. Los estados y los gobiernos se mueven a un ritmo que cada día los separa más de la realidad de la IA. Esto sin considerar que algunas decisiones normativas o regulatorias obedecen a intereses políticos, antes que a la necesidad de resolver los problemas que preocupan a la sociedad.

Qué amenazas necesita enfrentar un maco de gobernanza de la Inteligencia Artificial

Tratar los riesgos derivados del uso o desarrollo de sistemas de Inteligencia Artificial es una de las razones para la implementación de un sistema basado en ISO 42001 o ISO 27001. También es una de las motivaciones para construir un marco de gobernanza sólido que tenga en cuenta todas las consideraciones éticas. Tres amenazas específicas causan especial preocupación:

• Envenenamiento de datos, que consiste en que, a través de una intrusión no autorizada, personas malintencionadas comprometen la integridad de los datos de entrenamiento para lograr que el sistema tome decisiones sesgadas o que convengan a los intereses del atacante malicioso.
•  Duplicación no autorizada de modelos de aprendizaje automático, lo cual equivale a hurtar el plano de un diseño arquitectónico o el manuscrito de una novela para declarar la propiedad sobre esas obras que están sujetas a derechos de autor. En algunos casos, la duplicación de un modelo podría permitir a delincuentes obtener información sobre tarjetas de crédito y sus contraseñas.
• Ingeniería inversa a modelos de aprendizaje automático, con el fin de acceder a los datos privados, además de duplicar el modelo y comprometer la seguridad de la información de todas las personas con las que haya interactuado el modelo atacado.

Software ISO 42001

El Software ISO 42001 es una solución tecnológica creada con apoyo de la Inteligencia Artificial y que a su vez entrega funcionalidades basadas en esa tecnología. Su diseño responde al interés y la necesidad de automatizar las tareas propias de un sistema basado en este estándar.

La automatización, además de eliminar el error humano, permite agilizar la gestión, obtener información en tiempo real, gestionar riesgos con mayor efectividad y, en resumen, asegurar el logro de los objetivos. Puedes conocer mucho más de su funcionamiento y de sus ventajas contactando sin compromiso con uno de nuestros asesores.