Certificação ISO/IEC 42001 - Sistema de Gestão de Inteligência Artificial (IA)

A IA refere-se ao desenvolvimento de sistemas informáticos que podem executar tarefas que normalmente requerem inteligência humana, desde a aprendizagem e raciocínio à tomada de decisões e perceção.

A IA incorpora várias tecnologias, tais como:

• Aprendizagem automática (Machine Learning, ML) – treinar algoritmos com dados para prever ou tomar decisões sem serem explicitamente programados
• Aprendizagem profunda – um tipo de ML que utiliza redes neurais multicamadas para analisar diversas características dos dados
• Processamento de linguagem natural (PLN) – permite que as máquinas compreendam, interpretem e gerem linguagem humana

A IA oferece um potencial incrível, mas também acarreta riscos significativos se não for gerida adequadamente, incluindo:

• Riscos à segurança decorrentes da tomada de decisões não intencionais por sistemas autónomos
• Falta de transparência em modelos complexos que dificultam a compreensão de como os resultados são gerados
• Violações da privacidade devido à utilização indevida de dados pessoais
• Ameaças de cibersegurança decorrentes de ciberataques ou vulnerabilidades do sistema

Os exemplos incluem um chatbot baseado em IA que divulga involuntariamente informações confidenciais ou um modelo preditivo que reforça o envesiamento quando não está devidamente regulado. À medida que os sistemas de IA se tornam mais incorporados em operações críticas, a supervisão estruturada torna-se mais urgente.

A IA está a desenvolver-se e a ser adotada rapidamente em muitas indústrias, produtos e serviços. Sem dúvida, a IA está a influenciar, e continuará a influenciar, a sociedade e as nossas vidas.

Devido a este progresso e influência, a confiança, a ética e as preocupações sociais devem ser abordadas. A IA tem de ser fiável, justa e transparente. Tem de ser de confiança.

A norma ISO/IEC 42001 fornece uma estrutura certificável para um sistema de gestão de IA (SGIA), na qual os sistemas de IA podem ser desenvolvidos e implementados como parte de um ecossistema de garantia de IA.

Qualquer organização ou profissional que procure desenvolver, fornecer ou utilizar sistemas ou serviços de IA de forma segura, garantindo o desenvolvimento e utilização responsáveis. Abrange todas as indústrias, o setor público e as organizações sem fins lucrativos.

Uma vez que os sistemas de IA são complexos, a implementação de um SGIA requer uma abordagem verdadeiramente multidisciplinar. Dependendo do caso específico, pode incluir gestores das áreas jurídica, de privacidade, de operações, de marketing, de Investigação e Desenvolvimento, de vendas, de Recursos Humanos, de IT e de gestão de risco.

É aplicável a todas as aplicações e contextos de IA.

Um SGIA ISO/IEC 42001 é um conjunto de elementos inter-relacionados ou que interagem entre si numa organização, para ajudar a estabelecer políticas e objetivos, bem como processos para alcançar esses objetivos, relacionados com o desenvolvimento, fornecimento ou utilização responsável de sistemas de IA.

Os principais benefícios da certificação ISO/IEC 42001 são:

• IA responsável e de confiança: garante uma utilização ética e consciente da IA
• Gestão da reputação: Aumenta a confiança nas aplicações de IA
• governança de IA: apoia a conformidade legal e regulamentar
• Orientações práticas: Gere os riscos específicos da IA de forma eficaz
• Identificação de oportunidades: Incentiva a inovação num quadro estruturado

A norma internacional contribui para os ODS da ONU:

• 5 – Igualdade de género
• 7 – Energia Acessível e Limpa
• 8 – Trabalho Digno e Crescimento Económico
• 9 – Indústria, Inovação e Infraestruturas
• 10 – Reduzir as Desigualdades
• 12 – Produção e Consumo Sustentáveis
• 14 – Proteção da Vida Marinha