Consideraciones éticas en ISO 42001, la norma para sistemas de inteligencia artificial

Las consideraciones éticas en ISO 42001 son la clave para comprender la norma y avanzar en una implementación exitosa. La norma proporciona un marco adecuado par planificar, implementar, revisar, auditar, mejorar y, si así se desea, certificar un Sistema de Gestión de Inteligencia Artificial.

Hasta ahí no se encuentra mayor diferencia en cuanto a la definición de este y otros estándares de gestión ISO. El centro del asunto está en las consideraciones éticas en ISO 42001. Sin ellas es poco probable llegar a comprender la norma y su importancia ahora y en el futuro.

Para entenderlo conviene revisar el proceso de desarrollo que tuvo ISO 42001

¿Cuál fue el proceso de desarrollo de ISO 42001?

ISO 42001 se publicó en 2023, como respuesta a los desafíos que plantea el uso de la tecnología más innovadora y prometedora que ha conocido el ser humano en su evolución.

Los riesgos, no obstante, son tan grandes como los beneficios. Las consideraciones éticas en ISO 42001 son parte de la norma porque uno de los objetivos del estándar es verificar que el uso de la tecnología no vulnera principios de intimidad, equidad, o no discriminación.

Pero las consideraciones éticas en ISO 42001 también están ahí para abordar problemas de responsabilidad social, sustentabilidad o derechos de autor, entre otras preocupaciones de alto valor.

El desarrollo de la norma fue encomendado a una comisión conformada por profesionales y representantes de organizaciones que comparten el interés por un uso responsable, seguro y transparente de la Inteligencia Artificial. El equipo de la comisión integró académicos, representantes de industrias que hacen uso de la tecnología o que la desarrollan, organismos reguladores, y representantes de la sociedad a través de ONGs.

En el proceso de desarrollo se tuvieron en cuenta las consideraciones éticas en ISO 42001. El trabajo tuvo tres puntos de inflexión muy interesantes, que permiten comprender cómo se llega al resultado final:

1. Los desafíos que plantea el uso de IA para la sociedad

Las consideraciones éticas en ISO 42001 estuvieron en el centro de todos los debates dentro de la comisión. La norma necesitaba abordar los temas que preocupan a todas las personas y a las organizaciones en el mundo, sobre el uso de IA.

Privacidad de datos, transparencia, riesgos para el empleo y para los derechos de autor, forman parte de esas consideraciones éticas que son competencia de ISO 42001. El propósito de crear un marco de gestión para sistemas de IA no es enfrentar el desarrollo u oponerse a él. Se trata de generar un ambiente para el desarrollo y el uso responsable y sustentable de la tecnología.

2. Colaboración internacional

En el desarrollo de la norma, los grupos de trabajo mencionados obtuvieron colaboración de diferentes naciones alrededor del mundo. La participación global era necesaria: las preocupaciones son sustancialmente diferentes en países industrializados a las que se presentan en economías emergentes.

La diversidad en el origen de participantes en el desarrollo de la norma, conduce a un estándar de aplicación más allá de cualquier frontera. El contexto legal, cultural, social o tecnológico, tampoco marca límites para el alcance de la norma.

3. Apoyo de la Comisión Electrotécnica Internacional (CEI)

La comisión de ISO obtuvo un importante aporte de la Comisión Electrotécnica Internacional (CEI). La CEI cuenta con una red mundial de expertos que trabajó en los temas técnicos, proporcionando solides y seguridad a la norma.

¿Dónde aparecen las consideraciones éticas en ISO 42001?

ISO 42001 entrega requisitos para la Gestión de Sistemas de Inteligencia Artificial, dentro de un marzo que garantiza el uso y desarrollo de esta tecnología, transparente, sustentable, seguro, pero, ante todo, ético.

Los desarrolladores del estándar trabajaron para que la norma se integrara con los procesos de la organización y se alineara con la estrategia de negocios. Esto considerando los aspectos regulatorios, normativos y éticos.

Algunos de los aspectos en donde son evidentes las consideraciones éticas en ISO 42001 son:

1. Alcance de ISO 42001

La norma plantea un alcance integral sobre el ciclo de vida completo de los Sistemas de IA. Pero ISO 42001 va más allá: la norma integra los procesos de la organización, en todas las áreas, con los procesos del Sistema de IA, en concordancia con la legislación aplicable en cada país y con las regulaciones internacionales. Así, se espera que la tecnología se utilice de manera eficiente, responsable, segura y, ante todo, ética.

2. Mejores prácticas de gobernanza

La tendencia de la Inteligencia Artificial es hacia la innovación y la evolución. El camino de la evolución, no obstante, plantea riesgos. También oportunidades. Para enfrentar las amenazas y estar preparado para las oportunidades, la herramienta eficaz es la buena gobernanza.

Las mejores prácticas de gobernanza promueven la confianza en todas las partes interesadas y garantizan el uso responsable de la tecnología. Esto lo hace ISO 42001 al entregar directrices claras para la mejor gobernanza posible de la IA.

3. Estándares éticos en la implementación de la IA

ISO 42001 incorpora requisitos que garantizan la tecnología de IA se desarrolle, implemente o utilice con un enfoque en la ética y la seguridad. Para ello, la norma aborda temas como la protección de datos, la eliminación de riesgos de discriminación y la obligación de rendir cuentas sobre el uso de la IA.

4. Alineación con los Objetivos de Desarrollo Sostenible

Los Objetivos de Desarrollo Sostenible de las Naciones Unidas promueven prácticas que benefician a la sociedad. ISO 42001 solicita una implementación ética y transparente de la Inteligencia Artificial. La norma promueve la igualdad de género, la innovación y el crecimiento económico, pero con responsabilidad social.

Software ISO 42001

El Software ISO 42001 es una plataforma tecnológica creada para la Gestión de Sistemas de Inteligencia Artificial. Esta solución, basada en la nube, ayuda a la organización a planificar la implementación de sus Sistemas de Gestión de IA, desde lo operativo hasta lo estratégico.

La plataforma automatiza procesos, monitorea y supervisa, entrega información de alta calidad para la toma de decisiones y garantiza la mejora continua. El Software, que también utiliza Inteligencia Artificial, potencial los resultados del Sistema y generando excelencia empresarial. Está disponible para su organización. Consulte a un asesor aquí.