Introdução: a IA tornou-se uma questão de governança
A inteligência artificial já não é um projeto paralelo gerido pelo departamento de TI. As ferramentas de IA agora avaliam candidatos a emprego, aprovam créditos, elaboram relatórios financeiros e, cada vez mais, atuam de forma autónoma como agentes de IA. Cada uma destas utilizações cria novos riscos, desde decisões tendenciosas e fugas de dados até multas regulamentares e danos reputacionais.
É por isso que a governança de IA se tornou a área de governança, risco e conformidade (GRC) que mais cresce. Conselhos de administração, reguladores e investidores esperam agora que as organizações demonstrem não apenas que utilizam IA, mas também que a controlam.
No entanto, a maioria das organizações não está preparada. O inquérito CFO Signals da Deloitte concluiu que 59% dos diretores financeiros consideram que equilibrar a rapidez da IA com o risco é o seu principal desafio de governança. Este guia explica o que significa a governança de IA, os regulamentos que a impulsionam, os riscos que as equipas de GRC devem gerir e as competências necessárias para liderar.
O que é a governança de IA?
A governança de IA é o conjunto de políticas, funções, processos e controlos que garantem que uma organização desenvolve e utiliza a IA de forma responsável, segura e legal. Enquadra-se naturalmente nos três pilares de GRC:
|
Pilar de GRC |
O que significa para a IA |
|---|---|
|
Governança |
Supervisão pelo conselho de administração, estratégia de IA, definição clara de responsabilidades e prestação de contas para cada sistema de IA |
|
Gestão de riscos |
Identificação, avaliação e monitorização de riscos de IA, como enviesamento, erros, segurança e exposição a terceiros |
|
Conformidade |
Cumprimento da legislação sobre IA, das regras de proteção de dados, dos regulamentos setoriais e das políticas internas |
Na prática, a governança da IA responde a perguntas simples, mas essenciais. Que sistemas de IA utilizamos? Quem é responsável por eles? O que pode correr mal? Quem verifica os resultados? E conseguimos comprovar tudo isto perante uma entidade reguladora ou um auditor?
As organizações com funções maduras de GRC partem em vantagem, porque a governança da IA assenta nas mesmas disciplinas: registos de riscos, controlos internos, políticas, auditoria e elaboração de relatórios.
A vaga regulamentar: quadros que todas as equipas de GRC devem conhecer
A regulamentação da IA está a passar dos princípios para regras de aplicação obrigatória. Quatro quadros moldam atualmente a forma como as organizações em todo o mundo governam a IA.
Regulamento da UE sobre a IA
O Regulamento da União Europeia sobre Inteligência Artificial é a primeira legislação abrangente do mundo sobre IA. Classifica os sistemas de IA por nível de risco, desde práticas proibidas até utilizações de alto risco, como recrutamento, avaliação de crédito e infraestruturas críticas. As proibições relativas à IA de risco inaceitável e as obrigações de literacia em IA estão em vigor desde fevereiro de 2025. Com as alterações do Pacote Omnibus Digital, as obrigações aplicáveis a sistemas autónomos de alto risco entram agora em vigor em 2 de dezembro de 2027, enquanto as regras de transparência para chatbots e conteúdos gerados por IA não foram adiadas. A legislação aplica-se a qualquer organização cuja IA afete pessoas na UE, incluindo empresas sediadas no Golfo.
ISO/IEC 42001
ISO/IEC 42001 é a primeira norma internacional certificável para um sistema de gestão de IA. Segue a mesma estrutura das normas ISO 27001 e ISO 9001, pelo que se integra facilmente nos sistemas de gestão existentes. A certificação está rapidamente a tornar-se uma forma de demonstrar uma utilização responsável da IA a clientes e entidades reguladoras.
Quadro de Gestão de Riscos de IA do NIST
O NIST AI RMF dos EUA oferece uma estrutura voluntária e prática baseada em quatro funções: governar, mapear, medir e gerir. Muitas equipas de risco utilizam-no como guia operacional.
Princípios da OCDE sobre IA e a abordagem dos EAU
Os Princípios da OCDE sobre IA estabelecem a referência global para uma IA fiável, adotada por dezenas de países. Os EAU desenvolveram esta base através da sua estratégia nacional de IA e da sua carta para o desenvolvimento e a utilização da IA, e estão a implementar rapidamente a IA em todo o governo, elevando também o padrão de governação no setor privado.
Os principais riscos de IA que as equipas de GRC devem gerir
A IA introduz riscos para os quais os controlos tradicionais nunca foram concebidos. Os mais significativos incluem:
- Enviesamento e discriminação. Os modelos treinados com dados históricos podem tratar candidatos, clientes ou colaboradores de forma injusta.
- Resultados imprecisos. A IA pode produzir respostas convincentes, mas erradas, o que é perigoso em relatórios financeiros, trabalhos jurídicos ou análises de risco.
- Privacidade e fuga de dados. Os colaboradores podem introduzir dados confidenciais em ferramentas públicas de IA sem se aperceberem.
- Ameaças à cibersegurança. Os sistemas de IA podem ser manipulados através de injeção de prompts, dados adulterados ou fraude com recurso a deepfakes.
- Risco de terceiros e fornecedores. Muitas capacidades de IA são provenientes de fornecedores externos, cujos modelos e práticas de dados são difíceis de auditar.
- Risco de decisões autónomas. Os agentes de IA que atuam sem aprovação humana podem cometer erros dispendiosos em grande escala.
- «IA paralela». Utilização, pelos colaboradores, de ferramentas de IA não aprovadas, sem qualquer política ou supervisão.
Cada um destes riscos deve constar do registo de riscos empresariais, com um responsável, controlos e monitorização claramente definidos, tal como qualquer outro risco significativo.
Criar um quadro de governação da IA: passos práticos
Não é necessário começar do zero. A maioria das organizações pode criar uma governação eficaz da IA alargando as suas estruturas de GRC existentes:
- Crie um inventário de IA. Enumere todos os sistemas de IA em utilização, incluindo as ferramentas integradas no software dos fornecedores, e identifique o responsável por cada um.
- Classifique por risco. Ordene os sistemas de acordo com o seu impacto nas pessoas, nas finanças e na conformidade, utilizando uma abordagem baseada no risco semelhante à do Regulamento da UE relativo à IA.
- Atribua responsabilidades claras. Defina as funções do conselho de administração, da direção, das áreas de risco, conformidade e TI, bem como dos responsáveis pelas áreas de negócio. Muitas organizações estão agora a constituir um comité de governação da IA.
- Elabore uma política de IA. Estabeleça regras para a utilização aceitável, o tratamento de dados, a supervisão humana e a aprovação de novas ferramentas de IA.
- Integre a IA na gestão de riscos empresariais. Adicione os riscos da IA ao registo de riscos, defina o apetite pelo risco e estabeleça indicadores-chave de risco.
- Implemente controlos e supervisão humana. Exija a análise humana de decisões de elevado impacto e mantenha registos de auditoria dos resultados gerados pela IA.
- Teste, monitorize e audite. Verifique regularmente a precisão, os enviesamentos e os desvios dos modelos e inclua a IA nos planos de auditoria interna.
- Forme as suas equipas. A governação só funciona quando os colaboradores compreendem tanto a IA como as suas responsabilidades.
Alinhar estas etapas com a ISO/IEC 42001 ou o NIST AI RMF confere credibilidade internacional ao seu referencial.
As competências de que os profissionais de GRC precisam agora
A governação da IA está a criar uma nova procura por profissionais de GRC capazes de estabelecer uma ligação entre tecnologia, risco e regulamentação. As competências mais valiosas incluem:
- Literacia em IA: compreender como funcionam os modelos de IA e onde falham, sem ser necessário saber programar.
- Conhecimento regulamentar: interpretar o Regulamento Europeu da Inteligência Artificial, as leis de proteção de dados e as normas setoriais.
- Avaliação de riscos: aplicar métodos de gestão de riscos empresariais aos sistemas de IA.
- Conceção de controlos e auditoria: desenvolver e testar controlos para a IA, incluindo a supervisão humana.
- Apresentação de relatórios ao conselho de administração: explicar claramente os riscos da IA a diretores e executivos.
- Ética e discernimento: equilibrar a inovação com a equidade, a transparência e a responsabilização.
Para responsáveis pela conformidade, gestores de riscos, auditores internos e secretários societários, estas competências estão rapidamente a tornar-se essenciais, em vez de opcionais.
A 360 Leaders Training oferece uma gama completa de Cursos de Formação em Governação Corporativa, Risco e Conformidade (GRC) para profissionais que pretendem liderar nesta área. Os programas abrangem governação corporativa, gestão de riscos empresariais, conformidade, auditoria interna e riscos emergentes, como a IA, e são ministrados no Dubai e noutros locais internacionais.
Pronto para reforçar a governação da sua organização? Explore os nossos cursos de formação em GRC e desenvolva as competências necessárias para gerir hoje os riscos de amanhã.
Perguntas frequentes
O que é a governação da IA?
A governança de IA é o quadro de políticas, funções, processos e controlos que garante que a IA seja desenvolvida e utilizada de forma responsável, segura e em conformidade com as leis e os regulamentos.
Qual é a relação entre a governança de IA e a GRC?
A governança de IA amplia a governança, a gestão de riscos e a conformidade tradicionais. Acrescenta às estruturas de GRC existentes a supervisão da IA pelo conselho de administração, a gestão de riscos específicos da IA e a conformidade com os novos regulamentos em matéria de IA.
O Regulamento da UE sobre IA aplica-se às empresas dos EAU?
Sim, se os seus sistemas de IA forem disponibilizados no mercado da UE ou se os seus resultados afetarem pessoas na UE. As empresas do Golfo com clientes, colaboradores ou parceiros europeus devem avaliar a sua exposição.
O que é a ISO/IEC 42001?
A ISO/IEC 42001 é a primeira norma internacional certificável para um sistema de gestão de IA. Ajuda as organizações a gerir os riscos da IA e a demonstrar uma utilização responsável da IA perante clientes e entidades reguladoras.
Quais são os maiores riscos da IA para as organizações?
Os principais riscos são decisões tendenciosas, resultados imprecisos, fugas de dados, ameaças à cibersegurança, riscos associados a fornecedores, agentes autónomos de IA sem controlo e a utilização não autorizada de «IA sombra» pelos colaboradores.
Quem é responsável pela governança de IA numa organização?
O conselho de administração detém a responsabilidade final pela supervisão, enquanto a direção, as equipas de risco, conformidade, TI e auditoria interna, bem como os responsáveis pelas áreas de negócio, partilham a responsabilidade quotidiana. Muitas organizações nomeiam um comité de governança de IA.
Quem deve frequentar cursos de formação em GRC?
Responsáveis pela conformidade, gestores de riscos, auditores internos, membros do conselho de administração, secretários de sociedades e gestores seniores responsáveis pela governação, pelos controlos ou pela comunicação de informações regulamentares.