Certificação ISO/IEC 42001 – Sistema de Gestão de Inteligência Artificial (IA)

A IA refere-se ao desenvolvimento de sistemas computacionais capazes de realizar tarefas que geralmente exigem inteligência humana, desde o aprendizado e raciocínio até a tomada de decisão e percepção.

A IA incorpora várias tecnologias, tais como:

• Machine learning (ML) – treinar algoritmos em dados para prever ou tomar decisões sem serem explicitamente programados
• Deep learning – um tipo de ML que utiliza redes neurais multicamadas para analisar diversos aspectos dos dados
• Processamento de linguagem natural (PNL) – permite que as máquinas entendam, interpretem e gerem linguagem humana

A IA oferece um potencial extraordinário, mas também apresenta riscos significativos se não for gerenciada adequadamente, incluindo:

• Perigos de segurança de sistemas autônomos que tomam decisões involuntárias
• Pouca transparência em modelos complexos obscurecendo a forma como os resultados são gerados
• Violações de privacidade por meio do uso indevido de dados pessoais
• Ameaças de segurança cibernética provenientes de ataques cibernéticos ou vulnerabilidades do sistema

Exemplos incluem um chatbot baseado em IA vazando informações confidenciais de forma não intencional ou um modelo preditivo que reforça o viés caso não seja devidamente regulado. À medida que os sistemas de IA se tornam mais incorporados em operações críticas, a supervisão estruturada se torna mais urgente.

A IA está se desenvolvendo e sendo adotada rapidamente em muitos setores, produtos e serviços. Sem dúvida, a IA está influenciando, e influenciará ainda mais, a sociedade e nossas vidas.

Devido a esse progresso e influência, a confiança, a ética e as preocupações sociais devem ser abordadas. A IA deve ser confiável, justa e transparente – deve ser digna de confiança.

A ISO/IEC 42001 fornece uma estrutura de sistema de gerenciamento de IA certificável (AIMS) na qual os sistemas de IA podem ser desenvolvidos e implantados como parte de um ecossistema de garantia de IA.

Qualquer organização ou profissional que queira desenvolver, fornecer ou usar sistemas ou serviços de IA com segurança, garantindo o desenvolvimento e uso responsáveis. Abrange todos os setores, o setor público e organizações sem fins lucrativos.

Como os sistemas de IA são complexos, a implementação de um AIMS requer uma abordagem verdadeiramente multidisciplinar. Dependendo da aplicação, isso pode incluir a área jurídica, privacidade, operações, marketing, pesquisa e desenvolvimento, vendas, RH, TI e gerentes de risco.

Ela se aplica a todas as aplicações e contextos de IA.

Um AIMS ISO/IEC 42001 é um conjunto de elementos inter-relacionados ou interagentes de uma organização para ajudar a estabelecer políticas e objetivos, bem como processos para alcançar esses objetivos, relacionados ao desenvolvimento, fornecimento ou uso responsável de sistemas de IA.

Os principais benefícios da certificação ISO/IEC 42001 são:

• IA responsável e confiável: garante o uso ético, responsável e transparente da IA
• Gestão de reputação: aumenta a confiança em aplicações de IA
• Governança de IA: Oferece suporte à conformidade legal e regulatória
• Orientação prática: gerencia riscos específicos de IA de forma eficaz
• Identificando oportunidades: incentiva a inovação num arcabouço estruturado

A norma internacional contribui para os ODS da ONU:

• 5 – Igualdade de Gênero
• 7 – Energia Acessível e Limpa
• 8 – Trabalho Decente e Crescimento Econômico
• 9 – Indústria, Inovação e Infraestrutura
• 10 – Redução das Desigualdades
• 12 – Consumo e Produção Responsáveis
• 14 – Vida Abaixo da Água