
Governança e gestão de riscos ajudam empresas a adotar a inteligência artificial com mais segurança. (Foto: Instagram)
Com a busca por produtividade e inovação, empresas de diferentes setores ampliam investimentos em Inteligência Artificial (IA). Para que essas iniciativas sejam bem-sucedidas, porém, são necessárias estruturas de governança, compliance e gestão de riscos. Bancos e seguradoras podem servir de referência por sua experiência com dados sensíveis, riscos patrimoniais e exigências regulatórias rigorosas.
Ricardo Villar, VP de AI Solutions na Software.com.br, afirma que os desafios não se restringem ao setor financeiro. Varejo, indústria, saúde, tecnologia e serviços também precisam de sistemas confiáveis, seguros e transparentes, alinhados às regulamentações. Segundo ele, mecanismos de controle, auditoria e supervisão desenvolvidos por bancos e seguradoras podem servir de modelo para organizações de diferentes portes.
Uma primeira lição é adotar uma gestão de riscos estruturada para os modelos. Instituições financeiras usam há décadas sistemas analíticos, como os de concessão de crédito e precificação de riscos, e desenvolveram práticas de Model Risk Management (MRM). Elas incluem um inventário centralizado dos modelos em operação, com finalidade, responsáveis e classificação de risco, além de validação independente, testes de estresse e análise de possíveis falhas antes da implementação. O método também pode ajudar a avaliar recomendações de produtos no varejo ou modelos de manutenção preditiva na indústria.
A segunda lição é garantir a qualidade e a rastreabilidade dos dados. Processos de data lineage permitem acompanhar as informações desde a origem até seu uso em sistemas ou modelos de IA. Registrar a procedência dos dados, os tratamentos realizados e quem pode acessá-los favorece modelos confiáveis e auditáveis. Políticas de privacidade e consentimento ajudam a evitar o uso inadequado de informações sensíveis e a reduzir vieses. Essa rastreabilidade também é importante em áreas como saúde, manufatura e telecomunicações.
Outra recomendação é priorizar transparência, explicabilidade e mitigação de vieses. Quando uma decisão automatizada afeta clientes, como na aprovação de crédito ou na contratação de seguro, é importante explicar os critérios usados. Para isso, práticas de Explainable AI (XAI), ou IA explicável, ajudam a traduzir decisões complexas em justificativas compreensíveis. Bancos e seguradoras também usam métricas e ferramentas para identificar possíveis discriminações relacionadas a raça, gênero ou idade.
A quarta lição é integrar segurança e privacidade desde a concepção das soluções. Criptografia, anonimização de dados e controle de acessos fazem parte da experiência do setor financeiro. A abordagem de privacy by design incorpora medidas de proteção durante o desenvolvimento dos sistemas, em vez de adotá-las somente depois da implementação.
Por fim, estruturas de governança podem facilitar a resposta a novas regulamentações. Áreas de compliance, comitês de ética, responsáveis pela proteção de dados e processos de gestão regulatória ajudam instituições financeiras a incorporar exigências com mais agilidade e menor custo de adaptação. Para Villar, criar essas estruturas desde o início de iniciativas de IA pode preparar empresas de outros segmentos para regras futuras. A governança, afirma, não precisa ser um entrave: controles e supervisão permitem inovar com mais confiança e desenvolver soluções seguras, transparentes e alinhadas às expectativas de clientes, parceiros e órgãos reguladores.






