ACSP debate a necessidade de transparência no uso da IA

O uso de inteligência artificial ganha cada vez mais espaço dentro das empresas. Nas áreas de criação, logística, experiência do cliente, inúmeros serviços passaram a utilizar a tecnologia para otimizar tempo e aumentar a produtividade. Entretanto, com esse crescimento surgem algumas preocupações em relação à transparência na utilização da IA.

A implementação da inteligência artificial precisa considerar os riscos inerentes à tecnologia, disse Pietra Quinelato, Global Privacy Legal Manager de um conglomerado cervejeiro, em palestra realizada pela Rede Digitalize na Associação Comercial de São Paulo (ACSP) na última terça-feira (2/7). 

Um exemplo de problema que pode envolver a IA, segundo Pietra, é a criação de peças publicitárias que violem propriedades intelectuais. Após a veiculação da campanha, mesmo corrigindo o erro, a reputação da empresa ficaria comprometida.

Pietra disse que as empresas precisam ter políticas de transparência em relação a produtos que utilizam inteligência artificial. Segundo ela, o uso de IA no ambiente corporativo deve levar em consideração as questões éticas, jurídicas, aspectos de propriedade intelectual, entre outras questões legais e comerciais. 

“Alguém pode usar uma ferramenta de inteligência artificial para fazer a ata de uma reunião sem saber que as informações sigilosas da empresa estão sendo coletadas e utilizadas por um terceiro”, comentou Pietra.

A transparência em relação ao uso dessa tecnologia também é uma preocupação de Isabela Becker, Data Protection Officer no Grupo Boticário. Para ela, as empresas devem explicar aos consumidores para quais fins utilizam a inteligência artificial.

Segundo Isabela, é importante que as empresas sinalizem os conteúdos ou produtos que foram desenvolvidos com ajuda da tecnologia, que muitas vezes podem envolver dados sensíveis dos clientes ou funcionários.

Aline Fachinetti, DPO na Edenred Americas, destaca que é importante que as empresas nacionais que desejam fazer parcerias com empresas estrangeiras tenham políticas de transparência para o uso de IA.

Fiscalização no Brasil - Em ação que repercutiu na última terça-feira, a Autoridade Nacional de Proteção de Dados (ANPD) suspendeu políticas da empresa Meta (dona do Facebook, Instagram e Whatsapp) que utilizam dados de usuários para treinar o sistema de inteligência artificial, sob multa diária de R$ 50 mil. O caso evidencia o interesse do governo Federal em proteger os dados em relação à utilização da inteligência artificial.

De acordo com Pietra, é necessário considerar o legítimo interesse nesses casos, uma vez que até mesmo as imagens de pessoas que não utilizam essas redes sociais podem ser utilizadas pela IA por estarem nas redes sociais de outras pessoas.

Esse assunto também despertou a importância da transparência e acesso às pessoas que não querem ter seus dados sendo utilizados pela IA, mas que não conseguem encontrar nas configurações das plataformas meios para recusar essa ação da empresa, o que acaba gerando desconfiança dos consumidores em como seus dados serão utilizados.

De acordo com Samara Castro, diretora de Promoção da Liberdade de Expressão da secretaria de Políticas Digitais da Presidência da República, é preciso pensar em como o Brasil deseja se posicionar na cadeia global em relação a inteligência artificial, “se vai ser o país que vai apenas fornecer os dados ou vai usar a IA para aprimorar os serviços”.

Há discussões no governo em relação à regulação da inteligência artificial e, dentro desses debates, é previsto a construção de um sistema com um órgão central e um conjunto de órgãos setoriais para fazer essa regulação, aponta Samara.

“O órgão central, na nossa visão, cumpre esse papel de harmonizar e ter capacidade de auxiliar na mitigação de conflitos. Assim como o papel de cobrir aqueles setores que não estão regulados e que, eventualmente, vão precisar desse mecanismo para funcionar a partir dessa aprovação”, disse Samara.

IMAGEM: Rebeca Ribeiro/DC