O avanço da inteligência artificial (IA) tem impulsionado a automação de processos em diversos setores, mas também levantado preocupações sobre a ocorrência de discriminação algorítmica. Empresas que utilizam algoritmos para tomada de decisão podem, intencionalmente ou não, reforçar vieses discriminatórios, resultando em práticas ilegais e prejudiciais a determinados grupos sociais. Nesse contexto, cresce a necessidade de regulamentação e de responsabilização jurídica das empresas por essas condutas.
A discriminação algorítmica ocorre quando sistemas automatizados geram decisões enviesadas com base em dados históricos que refletem desigualdades estruturais. No Brasil, essa prática pode violar princípios constitucionais, como o da dignidade da pessoa humana e o da igualdade, além de infringir normas como o Código de Defesa do Consumidor e a Lei Geral de Proteção de Dados (LGPD).
Marcos Soares, especialista do Portal do Magistrado, alerta: “Empresas que utilizam inteligência artificial devem adotar mecanismos rigorosos de auditoria e transparência para evitar a perpetuação de desigualdades. A responsabilização jurídica é um caminho inevitável para garantir que a tecnologia seja utilizada de forma ética e justa.”
Casos recentes mostram que decisões automatizadas em áreas como crédito, recrutamento e publicidade podem excluir determinados grupos sem justificativa razoável, gerando litígios e penalidades para as corporações envolvidas. A LGPD, em seu artigo 20, garante aos titulares de dados o direito de contestar decisões automatizadas que afetem seus interesses, exigindo uma revisão humana nessas situações.
Além disso, o Projeto de Lei sobre Inteligência Artificial, em discussão no Congresso Nacional, propõe regras mais rígidas para o uso de algoritmos em decisões sensíveis. A proposta prevê a obrigatoriedade de explicabilidade dos modelos de IA e a aplicação de sanções administrativas em caso de descumprimento.
Para mitigar riscos, especialistas recomendam que empresas adotem práticas como auditoria algorítmica, diversificação de bases de dados e testes de impacto para identificar possíveis vieses. A conformidade com normas regulatórias e a implementação de medidas de governança algorítmica são passos essenciais para evitar prejuízos jurídicos e reputacionais.
Diante desse cenário, a responsabilidade jurídica das empresas pelo uso de IA não pode ser negligenciada. Regulamentações mais rígidas e o fortalecimento da fiscalização são fundamentais para garantir que a inovação tecnológica esteja alinhada aos princípios de equidade e justiça social.
