Discriminação Algorítmica e Direito

Decisões automatizadas já selecionam candidatos a emprego, classificam consumidores, influenciam o acesso ao crédito, orientam políticas públicas e interferem em posições jurídicas fundamentais. Mas o que acontece quando sistemas apresentados como neutros reproduzem e ampliam desigualdades de modo injustificado? Em Discriminação algorítmica e Direito, Lucas Moreschi Paulo investiga como vieses estruturais podem ser incorporados a dados, modelos e processos automatizados, atingindo com maior intensidade pessoas e grupos em situação de vulnerabilidade. A obra conecta teoria dos direitos fundamentais, igualdade material, proteção de dados, transparência, explicabilidade e jurisdição constitucional para enfrentar um dos problemas centrais da sociedade algorítmica: como submeter decisões tecnicamente complexas a razões juridicamente compreensíveis, contestáveis e controláveis. O livro propõe, ainda, um modelo decisório escalonado que articula a proporcionalidade com diferentes níveis de abertura informacional, buscando compatibilizar proteção contra discriminações, segredo empresarial, inovação e direitos fundamentais. Mais do que discutir tecnologia, esta é uma obra sobre Direito, poder e justificação pública em uma sociedade crescentemente automatizada.

Sobre o Autor

Agradecimentos

Prefácio

Apresentação

Prólogo

Introdução

CAPÍTULO 1 

DIREITO E VULNERABILIDADES ESTRUTURAIS: UM OLHAR CONCEITUAL ACERCA
DAS POTENCIALIDADES DA DISCRIMINAÇÃO E DE SUA REPRODUÇÃO NO
AMBIENTE VIRTUAL

1.1 Entre vulnerabilidades, minorias e grupos vulneráveis: uma
diferenciação necessária

1.2 A discriminação estrutural e sua relação com o direito de
igualdade e de não discriminação

1.3 A renovada dimensionalidade da igualdade no contexto das
decisões automatizadas em cenário cibernético e os desafios para
sua concretização em casos de grupos vulneráveis

CAPÍTULO 2 

A ERA DA DISCRIMINAÇÃO ALGORÍTMICA: MAPEANDO O FENÔMENO E SUAS
IMPLICAÇÕES DE ORDEM JUSFUNDAMENTAL

2.1 Evolução tecnológica, inteligência artificial e automação de
decisões cotidianas

2.2 Discriminações algorítmicas: causas e potenciais de
impulsionamento da discriminação estrutural e atingimento de
grupos vulneráveis

2.3 O dever de proteção estatal e a discriminação algorítmica:
tutela do Estado Democrático e Constitucional de Direito

CAPÍTULO 3 

TUTELA JURÍDICA DA DISCRIMINAÇÃO ALGORÍTMICA: EM BUSCA DE SENTIDO,
SIGNIFICADO E PROTEÇÃO NORMATIVA

3.1 Sentido normativo do direito acerca da tutela
antidiscriminatória algorítmica

3.2 Da gramática técnica à razão pública justificada: bases para o
controle judicial de discriminações algorítmicas

3.3 Sentido normativo e diálogos institucionais: uma proposta de
busca de sentido da tarefa interpretativa com as experiências
nacionais e internacionais acerca do tratamento jurídico da
discriminação algorítmica

CAPÍTULO 4 

A CONSTRUÇÃO DE UM MODELO DECISÓRIO RACIONAL BASEADO EM GRAUS DE
EFETIVIDADE DOS DIREITOS FUNDAMENTAIS EM COLISÃO

4.1 A colisão central dos direitos fundamentais da tutela à
discriminação algorítmica: transparência algorítmica e segredo
algorítmico

4.2 Jurisdição constitucional frente à realidade das
discriminações algorítmicas: a formatação do sentido
interpretativo alinhado ao sentido normativo do Direito

4.3 A ponderação material como baliza interpretativa para uma
gradação correlacional entre restrição e fruição de direitos
fundamentais: o valor interpretativo-balizador de casos acerca da
tutela de direitos de jurisdicionados pertencentes a grupos
vulneráveis

Conclusão

Referências