#bomdialgpd

O artigo "The GDPR Is Shaping the AI Race" (link no comentário) da competente e produtora serial de conteúdo de qualidade Luiza Jarovsky , me fez refletir. No artigo, Luiza destaca a relevância dos reguladores europeus na corrida da IA, uma vez que estes órgãos têm a capacidade de determinar o futuro e o ritmo de mercado das soluções de IA.

A partir do artigo, lembrei como a IA está sendo utilizada pelas organizações com maior ou menor controle e com maior ou menor incentivo. Na maior parte das vezes não é um caso de autorização ou de proibição, mas de indefinição mesmo, as organizações além de não ter uma política para o uso de IA, também não avaliam riscos e impactos, mesmo que boa parte dos colaboradores estejam utilizando a IA no dia a dia.

Posso destacar aqui alguns riscos básicos que devem ser considerados no uso da IA corporativamente:

• Qual IA deve ser utilizada? Em boa parte dos casos vejo que os colaboradores têm utilizado em seus trabalhos suas próprias aplicações de IA (na maior parte Chat GPT free), sem nenhuma orientação ou padronização empresarial, algo como se fosse um BYOIA (Bring your Own IA) informal;
• Controle da proteção de dados pessoais;
• Avaliação de viés, ética e algoritmos;
• Uso sem adesão regulatória;
• Padrões de trabalho;
• Modelo de tomada de decisão pelos algoritmos;
• Geração de conteúdos falsos, imprecisos e fora dos valores da organização;
• Tomada de decisão e criação de conteúdos sem validação humana.

Além de definir padrões, a organização definir padrões, a organização precisa estabelecer controles e avaliação de riscos contínua. Mas quem é responsável por isso? Certamente não é a equipe que implementa IA de maneira formal ou informal. A avaliação de riscos precisa ser segregada, sem conflitos de interesse. Assim como no caso dos reguladores europeus, tenho visto equipes de conformidade com a LGPD se especializarem nos controles e na avaliação de riscos da IA, o que me parece uma boa alternativa, mas cada organização adotará sua própria abordagem.

Sua equipe já pensou sobre isso? Como a IA está sendo adotada em sua organização? De maneira formal ou informal? Com ou sem diretrizes corporativas?

Ilustração gerada por IA. Prompt GPT4o. Favor desenhar uma largada de 100m rasos com humanos e humanóides posicionados para a partida.

Boa semana,

Obrigado,

Aquele abraço,

FNery.

Comentários:

The GDPR Is Shaping the AI Race - https://www.luizasnewsletter.com/p/the-gdpr-is-shaping-the-ai-race