Imagine a seguinte cena: um consumidor, com histórico de crédito impecável e renda estável, solicita um financiamento por meio de um aplicativo bancário. Em segundos, a negativa aparece na tela. Não há justificativa detalhada, apenas um aviso genérico de que o perfil não atende aos critérios da instituição. O que esse indivíduo não sabe é que o modelo de machine learning do banco associou o CEP de sua residência ou o modelo do seu smartphone a um grupo de risco estatístico. Esse fenômeno, silencioso e matemático, é o que chamamos de discriminação algorítmica. A promessa da inteligência artificial no mercado de consumo sempre foi a eficiência. No entanto, a automação trouxe consigo o “viés da caixa-preta”. Como os sistemas são alimentados por bases de dados históricas, eles acabam herdando e replicando preconceitos estruturais da sociedade. Se um banco de dados histórico contém menos aprovações de crédito para determinados grupos étnicos ou moradores de certas periferias, a IA entende que esse padrão deve ser perpetuado para garantir a “segurança” da operação. O conflito com o Código de Defesa do Consumidor No ordenamento jurídico brasileiro, o Código de Defesa do Consumidor (CDC) estabelece que a transparência e a harmonia nas relações de consumo são pilares inegociáveis. Quando uma empresa utiliza um algoritmo que segrega consumidores sem uma base técnica individualizada e justa, ela fere o princípio da dignidade da pessoa humana e a proibição de práticas abusivas. O grande desafio reside na natureza da prova. Como o consumidor pode provar que foi discriminado por um código que ele sequer tem acesso? É aqui que entra a inversão do ônus da prova, um mecanismo processual que obriga a empresa a demonstrar que seus critérios de seleção são objetivos, lícitos e não discriminatórios. Vulnerabilidade Digital: O consumidor moderno enfrenta uma assimetria informacional sem precedentes. Ele entrega seus dados em troca de serviços, mas perde o controle sobre como esses dados são cruzados. Transparência Algorítmica: Não basta dizer que “o sistema negou”. O fornecedor deve ser capaz de explicar a lógica por trás da decisão, conforme previsto também na Lei Geral de Proteção de Dados (LGPD). Dever de Revisão: O artigo 20 da LGPD assegura ao titular dos dados o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses. O caso prático dos algoritmos de precificação Um exemplo técnico profundo ocorre na precificação dinâmica, muito comum em aplicativos de transporte e sites de passagens aéreas. Se o algoritmo identifica, através do rastreamento de cookies e geolocalização, que um usuário possui um modelo de iPhone de última geração e está em um bairro nobre, ele pode, teoricamente, oferecer um preço ligeiramente superior ao de um usuário com um aparelho intermediário em uma zona periférica. Essa “personalização” levada ao extremo pode configurar uma prática discriminatória de preços, onde a capacidade de pagamento presumida substitui o valor real do serviço, desequilibrando a relação contratual de forma unilateral. A segurança jurídica nesse cenário depende de uma vigilância constante sobre o input (os dados de entrada) e o output (o resultado gerado). As empresas não podem mais se esconder atrás da desculpa de que “o algoritmo é neutro”.
vmcinformatica
