Governança de IA
Definição
Governança de IA é o conjunto de regras que define quais sistemas de IA uma empresa opera, com quais dados, com quais permissões, sob a responsabilidade de quem e como os resultados são revisados. Torna o uso de IA auditável perante a diretoria, auditores e reguladores.
Para empresas na UE, isso se conecta diretamente ao AI Act e ao RGPD: finalidade, base legal, fluxos de dados e classificação de risco devem ser documentados por caso de uso.
Na prática, é um registro curto — sistema, finalidade, dados, modelo, região de hospedagem, responsável, regra de escalonamento — mantido atualizado, em vez de um manual de políticas.
Na prática
- Registro por caso de uso: finalidade, dados, modelo, responsável, classe de risco
- Regras documentadas de escalonamento e supervisão humana
- Revisado sempre que o processo, o modelo ou o fornecedor mudam
Termos relacionados
- AI Act da UEO AI Act da UE é o regulamento europeu que classifica sistemas de IA por nível de risco e atribui obrigações correspondentes — desde deveres de transparência para aplicações comerciais comuns até requisitos rígidos para usos de alto risco, como decisões de emprego ou de crédito.
- Residência de dadosResidência de dados define em qual jurisdição os dados da empresa são armazenados e processados. Para sistemas de IA, abrange a região de hospedagem da aplicação, do banco de dados, do endpoint do modelo e dos registros, além de saber se os prompts podem ser usados para treinar o fornecedor.
- Guardrails (barreiras de segurança)Guardrails são os limites técnicos ao redor de um sistema de IA: ferramentas permitidas, faixas de valores, limites de gasto e volume, ações proibidas e aprovações obrigatórias. Transformam um modelo imprevisível num sistema que falha de forma segura e visível.