A Inteligência Artificial (IA) está transformando a maneira como vivemos e trabalhamos, trazendo inúmeras oportunidades, mas também riscos significativos. Um exemplo é o ChatGPT, que tem sido amplamente adotado por empresas para melhorar a comunicação, tomada de decisão e aumentar a produtividade mas, que traz também riscos que precisam ser gerenciados para que seja usado de maneira responsável e ética.
Para abordar esses desafios da gestão de riscos em IA, foi lançada recentemente a ISO/IEC 23894, norma que deve ser usada em conjunto com a ISO 31000, com orientações específicas para a gestão de riscos da IA.
No Brasil, estarei coordenando um grupo de trabalho criado pela ABNT para traduzir e adaptar a norma ao contexto nacional.
De acordo com a ISO 31000, risco é definido como o "efeito da incerteza nos objetivos", podendo ser entendido como ameaça ou oportunidade. No contexto da Inteligência Artificial, pode ser visto como o efeito potencial da incerteza na implementação e uso da IA para atingir os objetivos. E pode ser tanto uma ameaça, como viés e discriminação, falhas de segurança e questões legais e éticas, quanto oportunidade, como melhorias na eficiência operacional, otimização de recursos e desenvolvimento de novos produtos e serviços.
Além da ISO 31000, a ISO/IEC 23894 faz referência também a outras normas, como a ISO Guide 73, que define o vocabulário relacionado à gestão de riscos e a ISO/IEC 22989, que define os conceitos e terminologias da IA.
Seguindo a mesma estrutura da ISO 31000, o documento é dividido em três partes principais:
- Princípios: descreve os princípios subjacentes da gestão de riscos, com considerações específicas para a IA.
- Estrutura: oferece orientações para a integração da gestão de riscos em atividades e funções específicas para o desenvolvimento, provisão ou uso de sistemas de IA.
- Processos: descreve a aplicação sistemática de políticas, procedimentos e práticas para atividades de comunicação e consulta, estabelecimento de contexto, avaliação, tratamento, monitoramento e análise crítica, registro e relato de riscos, com uma especialização para a IA.
Alguns anexos também são fornecidos para ajudar na compreensão e aplicação da norma:
- Anexo A: objetivos comuns relacionados à IA
- Anexo B: fontes comuns de riscos relacionados à IA.
- Anexo C: exemplo de mapeamento entre os processos de gestão de riscos e o ciclo de vida de um sistema de IA.
A norma ISO/IEC 23894 representa um passo importante no caminho para uma IA responsável e benéfica para todos. Empresas e organizações no Brasil e em todo o mundo têm a oportunidade de adotar essas diretrizes e impulsionar o sucesso de seus negócios, garantindo ao mesmo tempo a proteção dos direitos e interesses da sociedades e partes envolvidas.
Encorajamos as empresas a se informarem sobre a norma e considerarem sua implementação para as operações relacionadas a IA. Ao adotar e promover suas diretrizes, têm a oportunidade de melhorar suas práticas, impulsionar a inovação e garantir um futuro promissor para a IA no Brasil e em todo o mundo.
Para finalizar, deixo um convite para participar do grupo de trabalho da ABNT que irá traduzir a norma ISO/IEC 23894 no Brasil. A primeira reunião será nesta semana, onde iremos planejar os trabalhos e dividir as tarefas entre os membros. Se você está interessado ou quer indicar alguém, envie um email para carolina.martins@abnt.org.br
Juntos, podemos aumentar a segurança no uso de IA nas empresas e garantir que seja implementada de maneira ética e benéfica para todos.
Abraços, e até a próxima,
