ANBIMA publica guia de governança para sistemas de inteligência artificial

A ANBIMA divulgou o Guia “Governança de IA: integrando boas práticas ao longo do ciclo de vida da inteligência artificial” (“Guia”), que orienta instituições do mercado financeiro e de capitais sobre como estruturar programas de governança em todas as etapas relacionadas a sistemas de Inteligência Artificial (“IA”). O material complementa o Guia Orientativo de Boas Práticas para o Uso de Sistemas de Inteligência Artificial nos Mercados Financeiro e de Capitais, publicado pela Associação em 2024.

O Guia destaca que a governança deve acompanhar todo o ciclo de vida da IA, do projeto inicial até o uso cotidiano e o descomissionamento, de forma a garantir que a tecnologia seja utilizada de forma ética, segura e responsável. Além disso, o documento enfatiza que é essencial ter uma visão multidisciplinar, envolvendo áreas como tecnologia, análise de dados, jurídico, compliance e negócios, para garantir uma visão integrada dos riscos e oportunidades associados à IA.

O Guia organiza o ciclo de vida desses sistemas em três fases principais: desenvolvimento, utilização e monitoramento, e indica medidas específicas de governança para cada uma delas.

Na fase de desenvolvimento, são orientadas ações como: (a) alinhar os objetivos do sistema aos valores institucionais;(b) registrar informações sobre modelos, algoritmos e dados utilizados e (c) testar a robustez dos sistemas e mapear requisitos legais aplicáveis antes da implantação. Também é indicado que a instituição defina, desde o início, em quais momentos será necessária a intervenção humana no funcionamento do sistema.

Durante a fase de utilização, o foco recai sobre a transparência, segurança operacional e participação humana. Nesse sentido, recomenda-se fornecer materiais explicativos aos usuários, comunicar de forma clara quando há interação com IA, criar canais para reporte de falhas e capacitar as equipes quanto à importância da supervisão humana nas decisões.

Já na fase de monitoramento, o Guia reforça a necessidade de avaliações periódicas sobre a adequação do sistema, uso de ferramentas de controle em tempo real, atualização de conformidade diante de novas exigências regulatórias e coleta de feedbacks dos usuários.

Nesse tópico, recordamos que você pode acompanhar as publicações do Blog do Compliasset para ficar por dentro das novas exigências, vide Artigo Próximos passos na Regulação da IA.

Quanto ao Guia, o documento aborda, ainda, a governança em relações com terceiros, destacando que instituições que desenvolvem ou operam sistemas de IA com o apoio de parceiros ou fornecedores devem adotar medidas específicas para garantir a conformidade desses agentes. As orientações incluem a realização de avaliações de due diligence de terceiros e a inserção, em contratos, de cláusulas que assegurem o cumprimento das diretrizes de governança e o alinhamento com os objetivos da instituição contratante.

Além das orientações práticas mencionadas, o Guia recomenda a adoção de frameworks internacionais, como os Princípios de IA Responsável da Organização para a Cooperação e Desenvolvimento Econômico (“OCDE”) e o AI Risk Management Framework do Instituto Nacional de Padrões e Tecnologia (“NIST”), que servem como referência para alinhar a governança de IA a padrões globais de ética e responsabilidade.

Por fim, o Guia ressalta que a governança da IA deve ser contínua, acompanhando as evoluções tecnológicas e regulatórias, com revisões periódicas das políticas e controles internos.

Este alerta não representa opinião legal, tendo o propósito puramente informativo.

Em caso de dúvidas ou auxílio necessário, por favor, entre em contato com o Time Compliasset através do e-mail alertas@compliasset.com.

Atenciosamente,
​Time Compliasset.