A Inteligência Artificial (IA) tem revolucionado o mundo dos negócios, transformando não apenas as operações cotidianas, mas também influenciando estratégias de longo prazo e como as organizações tomam decisões. Com isto, a IA transcende a sua tradicional posição como uma mera ferramenta tecnológica para se tornar uma questão presente nas salas de reuniões dos executivos.
Em resposta a esta necessidade de boas práticas para a implementação responsável e eficaz da IA, surge a norma ISO 38507 - Governança de TI — Implicações de Governança do Uso de Inteligência Artificial pelas organizações, com diretrizes claras para membros de órgãos diretivos, gerentes executivos, especialistas técnicos, legisladores, autoridades públicas e outras partes interessadas no que concerne à governança do uso da IA nas organizações.
No Brasil, a ABNT publicou em outubro de 2023 aABNT NBR ISO/IEC 38507, versão brasileira da norma internacional, elaborada pelo Comitê Brasileiro de Tecnologias da Informação e Transformação Digital (ABNT/CB-021), através da Comissão de Estudo de Inteligência Artificial (CE-021:005.042).
Abrangendo um amplo espectro de orientações para a governança eficaz da IA, a ISO 38507 representa um marco importante na governança de TI, concentrando-se especificamente nas implicações de governança na utilização da Inteligência Artificial. Aborda desde a integração com os valores e a cultura organizacional até a importância da transparência nas decisões automatizadas e gestão de dados.
Reconhece que a IA, enquanto ferramenta poderosa, não é inerentemente boa ou má, mas seu impacto depende de como é utilizada. Assim, a norma estimula as organizações a aplicarem políticas apropriadas para sustentar a governança da IA, considerando fatores como responsabilidade social, gestão de riscos, viés e qualidade. Além disso, fornece aspectos práticos como a supervisão da governança da IA e a implementação de controles efetivos para garantir que as políticas e práticas organizacionais estejam alinhadas com os objetivos estratégicos e valores corporativos.
A responsabilidade dos órgãos diretivos em supervisionar e compreender as implicações dos sistemas de IA é enfatizada, com a necessidade de supervisão contínua dos sistemas, visando a conformidade e garantindo que todos os envolvidos, desde a alta direção até os operadores no nível mais básico, compreendam as capacidades, limitações e implicações éticas do uso da IA.
Surgem ainda novos riscos e obrigações, necessitando a inclusão do uso da IA no processo de avaliação de riscos das organizações. Por exemplo, a gestão de dados dos sistemas de IA, que precisa levar em consideração como os dados são coletados, armazenados, processados e utilizados, bem como a importância de evitar vieses e garantir a privacidade e a segurança da informação.
A ISO 38507 também define termos essenciais relacionados à Inteligência Artificial (IA) e à governança, estabelecendo um vocabulário comum que é fundamental para a compreensão e implementação eficaz da norma nas organizações.
Como abordagem geral, a ISO 38507 busca um equilíbrio entre aproveitar as vantagens oferecidas pela IA e gerenciar os riscos associados ao seu uso. Fornece uma estrutura para que as organizações possam implementar a IA de forma responsável, orientando a usar a IA de maneira que atenda aos propósitos éticos e estratégicos, assegurando um futuro onde tecnologia e governança corporativa andam lado a lado.
Abraços e até a próxima,
