ISO/CEI 42001 ⇐ Proyectos de artículos

[Anonymous]

'''ISO/IEC 42001''' es un estándar internacional publicado por la Organización Internacional de Normalización (ISO) y la Comisión Electrotécnica Internacional (IEC) en 2023. Especifica los requisitos para establecer, implementar, mantener y mejorar continuamente un '''Sistema de gestión de inteligencia artificial'' (AIMS) dentro de una organización.
El estándar es aplicable a cualquier organización, independientemente de su tipo, tamaño o sector, que desarrolle, proporcione o utilice productos o servicios basados en IA.
==Fondo==

La rápida proliferación de sistemas de inteligencia artificial en la industria, el gobierno y la sociedad creó la demanda de un marco estandarizado para regular los riesgos relacionados con la IA, incluido el sesgo algorítmico, la falta de transparencia, las lagunas en la rendición de cuentas y las consecuencias no deseadas de la toma de decisiones autónoma.

ISO/IEC 42001 fue desarrollado por ISO/IEC JTC 1/SC 42, el subcomité del Comité Técnico Conjunto ISO/IEC 1 responsable de los estándares en el campo de la inteligencia artificial.
==Estructura==

ISO/IEC 42001 sigue la estructura de alto nivel (HLS) común a todos los estándares modernos de sistemas de gestión ISO, que consta de diez cláusulas. Las cláusulas 1 a 3 son introductorias; los requisitos normativos están contenidos en las Cláusulas 4 a 10.

===Cláusulas 4 a 10 (Requisitos normativos)===

===Anexo A — Controles===

La norma incluye un Anexo A normativo que contiene 39 controles organizados en 11 categorías (A.2 a A.12). A diferencia de las cláusulas obligatorias, los controles del Anexo A se pueden seleccionar en función de los resultados de la evaluación de riesgos. Las organizaciones documentan sus selecciones de control en una '''Declaración de aplicabilidad''' (SoA).
Las categorías de control incluyen:
* A.2 — Políticas para la IA (políticas de IA y funciones organizativas)
* A.3 — Organización interna
* A.4 — Recursos para sistemas de IA
* A.5 — Evaluación de los impactos de los sistemas de IA
* A.6 — Procesos del ciclo de vida del sistema de IA
* A.7 — Datos para sistemas de IA
* A.8 — Información a los interesados
* A.9 — Uso de sistemas de IA
* A.10 — Relaciones con terceros y clientes
* A.11 — Uso responsable
* A.12 — Objetivos y métricas de la IA

===Anexos B y C===

El Anexo B proporciona orientación sobre los controles de implementación en el Anexo A. El Anexo C asigna el estándar a objetivos específicos de IA, como equidad, transparencia, privacidad, seguridad y responsabilidad, ayudando a las organizaciones a identificar qué controles son relevantes para cada objetivo.

==Conceptos clave==

===Evaluación del impacto de la IA (AIIA)===

Uno de los requisitos distintivos de ISO/IEC 42001 es la '''Evaluación de Impacto de la IA''' (AIIA), análoga a la Evaluación de Impacto en la Privacidad requerida bajo los marcos de protección de datos. La AIIA documenta el uso previsto de un sistema de IA, las poblaciones afectadas, los daños potenciales (incluidos los daños a los derechos fundamentales) y los controles aplicados para mitigar esos daños.

===Ciclo de vida del sistema de IA===

El estándar exige que las organizaciones gestionen los sistemas de IA durante todo su ciclo de vida, desde el concepto inicial y la recopilación de datos hasta el desarrollo, la implementación, el monitoreo y el desmantelamiento. Esto incluye requisitos para la calidad y gobernanza de los datos (Cláusula A.7), monitoreo del desempeño del modelo y gestión de cambios cuando cambia el comportamiento del modelo.

===Supervisión humana===

ISO/IEC 42001 requiere que las organizaciones definan niveles apropiados de supervisión humana para los sistemas de IA, en particular aquellos que toman decisiones importantes que afectan a los individuos. Los sistemas con mayor impacto potencial requieren mecanismos de revisión humana más sólidos y procesos de escalamiento más claros.

==Relación con otros estándares==

ISO/IEC 42001 está diseñado para una implementación integrada con otros estándares de sistemas de gestión:

* '''ISO/IEC 27001''' (gestión de seguridad de la información): Aborda la seguridad de los sistemas y datos de IA. Los dos estándares comparten una estructura HLS idéntica, lo que permite auditorías conjuntas y un sistema de gestión unificado. * '''ISO 9001''' (gestión de calidad): Procesos de calidad para el desarrollo e implementación de sistemas de IA.
* '''ISO/IEC 27701''' (gestión de información de privacidad): Amplía ISO 27001 para privacidad; complementa los requisitos de gobernanza de datos relacionados con la IA.
* '''ISO/IEC 23894''': Proporciona orientación sobre la gestión de riesgos de la IA, informando el proceso de evaluación de riesgos en ISO/IEC 42001.

==Certificación==

Las organizaciones pueden buscar la certificación de terceros según ISO/IEC 42001 a través de organismos de certificación acreditados. La certificación sigue un proceso de auditoría de dos etapas:

* '''Etapa 1''': Revisión de la documentación: el auditor evalúa si la documentación del sistema de gestión cumple con los requisitos de la norma.
* '''Etapa 2''': Auditoría de implementación: verificación in situ de que los procesos documentados se implementan de manera efectiva.

Los organismos de certificación que ofrecen auditorías ISO/IEC 42001 incluyen Bureau Veritas, BSI Group, SGS S.A.|SGS, DNV, TÜV Rheinland y LRQA, entre otros.
Varias empresas de tecnología importantes han obtenido o están buscando el cumplimiento de ISO/IEC 42001, incluidos los servicios ofrecidos en Microsoft Azure,
==Contexto regulatorio==

===Ley de IA de la Unión Europea===

La Ley de Inteligencia Artificial (Ley de IA de la UE, Reglamento (UE) 2024/1689), que entró en vigor en agosto de 2024, establece un marco regulatorio basado en el riesgo para los sistemas de IA en la Unión Europea. ISO/IEC 42001 se considera alineada con los requisitos de la Ley para sistemas de IA de alto riesgo, en particular sus requisitos para sistemas de gestión de riesgos (Artículo 9), gobernanza de datos (Artículo 10), documentación técnica (Artículo 11) y supervisión humana (Artículo 14).>

===Adopción nacional===

* '''Brasil''': El organismo nacional de normalización brasileño ABNT publicó '''ABNT NBR ISO/IEC 42001:2024''' en abril de 2024, la adopción nacional de la norma internacional. El proyecto de reglamento de IA de Brasil (Proyecto de ley 2338/2023) hace referencia a estándares técnicos internacionales como un medio para demostrar el cumplimiento de las obligaciones de gobernanza de la IA.
* '''Otros países''': múltiples organismos nacionales de normalización han adoptado o están en proceso de adoptar ISO/IEC 42001 como norma nacional.

==Ver también==

* ISO/IEC JTC 1/SC 42 — Subcomité ISO para estándares de inteligencia artificial
* ISO/IEC 27001 — Gestión de la seguridad de la información
* Ley de Inteligencia Artificial: regulación de la IA de la UE
* Seguridad de la IA
* Responsabilidad algorítmica

* [https://www.iso.org/standard/42001 ISO/IEC 42001:2023 — Página oficial de ISO]
* [https://www.iso.org/committee/6794475.html ISO/IEC JTC 1/SC 42 — Comité de Normas de IA]
* [https://iso42001.com.br Guía completa en portugués — iso42001.com.br]

Normas ISO
Inteligencia artificial
Sistemas de gestión
Estándares de tecnología de la información
2023 en tecnología

More details: https://en.wikipedia.org/wiki/ISO/IEC_42001