Com o avanço da Inteligência Artificial, vem aumentando o uso de chatbots para automatizar o atendimento a clientes e usuários. Mas, quando se trata de proteção de dados pessoais com a LGPD, surgem riscos associados.

É preciso garantir que o uso do chatbot esteja em conformidade com a LGPD e que os direitos dos titulares sejam atendidos adequadamente.

Esses direitos dos titulares precisam ser respeitados, e se por um lado o uso de chatbot pode ser um recurso importante para atender automaticamente essas solicitações, por outro lado, traz também o risco de não conformidade caso não sejam tomadas as medidas corretas.

Este artigo ilustra uma aplicação prática da ISO 23894 com exemplo no uso de chatbot inteligente para atender solicitações de titulares de

dados, no contexto da LGPD.

Convém que os riscos de IA sejam identificados, quantificados ou qualitativamente descritos e priorizados em relação aos critérios de risco e objetivos da organização. (ISO 23894)

A ISO 23894, norma de gestão de riscos em IA segue os mesmos princípios, estrutura e processo da ISO 31000, fornecendo diretrizes para a gestão de riscos específicos de IA. E para ajudar especificamente na gestão dos riscos do chatbot, a norma oferece uma abordagem sistemática para identificar, avaliar, tratar e monitorar os riscos.

Identificação de Riscos

O primeiro passo é identificar os riscos que podem surgir no processo de atendimento automatizado, como:

• Falhas no cumprimento dos direitos dos titulares: garantir que todas as solicitações sejam atendidas dentro dos requisitos e prazos legais
• Vulnerabilidades de segurança: garantir a proteção adequada dos dados pessoais, para evitar vazamento ou uso indevido de dados pessoais dos usuários.
• Erros na interpretação das solicitações: garantir que o chatbot entenda corretamente as solicitações, resultando em decisões adequadas.
• Falta de transparência nas respostas: garantir fornecer explicações claras e compreensíveis.

Avaliação de Riscos

Após identificar os riscos, o próximo passo é analisar a probabilidade e o impacto de cada risco específico. Para este caso de uso, vamos focar em um dos riscos identificados: falha no cumprimento dos direitos dos titulares.

-> Probabilidade (4) – Este risco foi considerado com alta probabilidade, pois diversas causas podem levar a esse resultado:

• Falta de treinamento adequado do chatbot: o chatbot pode não ser suficientemente treinado para interpretar corretamente as solicitações dos titulares, especialmente as mais complexas ou fora do escopo padrão.
• Erros na configuração dos fluxos de solicitação: se o fluxo de atendimento não for configurado corretamente, pode resultar em erros no encaminhamento ou no atendimento da solicitação, prejudicando o cumprimento dos direitos.
• Falta de integração com sistemas internos: a ausência de integração entre o chatbot e os sistemas internos (como o CRM ou bancos de dados) pode atrasar ou impedir o processamento correto das solicitações.
• Ausência de atualização ou manutenção contínua: a falta de atualização do chatbot para refletir as mudanças nas regulamentações ou no processo de atendimento pode comprometer o cumprimento dos direitos dos titulares.

Esses fatores aumentam significativamente a probabilidade de erro, especialmente se o sistema não for regularmente monitorado ou ajustado.

-> Impacto (4) – Caso a falha no cumprimento dos direitos dos titulares ocorra, o impacto seria significativo, podendo resultar em:

• Violação da LGPD: multas e sanções regulatórias impostas pela Autoridade Nacional de Proteção de Dados (ANPD), além de possíveis ações judiciais.
• Dano à reputação da empresa: não conformidade com a LGPD, prejudicando a imagem da empresa e resultando na perda de confiança dos consumidores.
• Ações legais por parte dos titulares: os titulares de dados podem buscar reparação judicial, o que gera custos adicionais e expõe a empresa a danos financeiros e de imagem.
• Impacto na satisfação do cliente: falha no cumprimento das solicitações, afetando a experiência do usuário e, possivelmente, aumentando a taxa de churn.
• Custos adicionais e recursos desperdiçados: retrabalho para corrigir os erros resultando em custos imprevistos e a necessidade de realocar recursos da empresa para resolver as falhas.