O que é a ISO/IEC 42001?
A ISO/IEC 42001:2023 é a primeira norma internacional para sistemas de gestão de inteligência artificial (AIMS). Ajuda as organizações que desenvolvem, fornecem ou utilizam sistemas de IA a gerir os riscos, agir de forma responsável e mostrar a clientes e reguladores que a IA está sob controlo.
A norma segue a mesma estrutura de capítulos 4–10 da ISO 9001 e da ISO/IEC 27001, pelo que pode ser integrada num sistema de gestão existente. O Anexo A contém 38 controlos de referência, por exemplo sobre política de IA, avaliação de impacto dos sistemas de IA, qualidade dos dados, ciclo de vida dos sistemas de IA e relações com terceiros. O certificado é emitido por um organismo de certificação acreditado.
Quem precisa da ISO 42001?
- Empresas SaaS e tecnológicas que integram funcionalidades de IA nos seus produtos
- Empresas cujos clientes empresariais perguntam como a IA é governada
- Organizações que se preparam para as obrigações do Regulamento Europeu da IA (AI Act)
- Empresas fintech, de saúde, de RH e outras que usam IA em decisões sensíveis
- Empresas com ISO/IEC 27001 que querem alargar o sistema à IA
O que verifica a avaliação ISO 42001
- Âmbito do sistema de gestão de IA e o seu papel: desenvolvedor, fornecedor ou utilizador de IA
- Política de IA, compromisso da gestão e responsabilidades
- Avaliação de riscos de IA e avaliação de impacto nas pessoas e na sociedade
- Qualidade e origem dos dados e documentação dos sistemas de IA
- Controlos do ciclo de vida: conceção, verificação, implementação, monitorização e retirada
- Fornecedores e IA de terceiros, transparência para os utilizadores, auditoria interna e melhoria
Lacunas típicas
- Não existe um inventário dos sistemas e ferramentas de IA usados na empresa
- Os riscos de IA são discutidos informalmente, mas não são avaliados nem registados
- Não há avaliação de impacto para sistemas de IA que afetam clientes ou colaboradores
- Faltam regras para o uso de IA generativa pelos colaboradores
- São usados modelos e APIs de IA de terceiros sem avaliação do fornecedor
ISO 42001 e o Regulamento Europeu da IA
A ISO/IEC 42001 é voluntária e o AI Act é lei. Não são a mesma coisa, mas um sistema de gestão de IA dá-lhe a governação, a gestão de riscos e a documentação que o AI Act também espera. A BALTUM oferece ainda uma autoavaliação específica do AI Act.