Um tribunal desenvolveu um modelo de Machine Learning para classificar processos em três categorias de risco de recurso protelatório: baixo, médio e alto.
O dataset contém 100.000 processos históricos com a seguinte distribuição:
• Baixo risco: 85.000 processos (85%)
• Médio risco: 12.000 processos (12%)
• Alto risco: 3.000 processos (3%)
O modelo Random Forest treinado apresentou os seguintes resultados no conjunto de teste:
Acurácia global: 0.92
Adicionalmente, o modelo precisa ser explicável para magistrados e está sujeito à LGPD, pois utiliza dados pessoais das partes nos processos.
Pede-se:
a) Em relação aos resultados apresentados no conjunto de teste pelo modelo Random Forest treinado:
a.1) Explique por que a acurácia de 0.92 NÃO é uma métrica adequada para avaliar esse modelo considerando a distribuição das classes e indique qual métrica é mais apropriada.
a.2) Identifique o principal problema de performance do modelo analisando a tabela de resultados e explique qual classe está sendo mais prejudicada.
b) Para cada uma das técnicas listadas abaixo, indique se é ou não apropriada para esse cenário, justificando sua resposta.
i. SMOTE
ii. Undersampling da classe majoritária
iii. Class weights no algoritmo
c) Para cada uma das situações listadas abaixo, indique qual técnica de XAI é mais adequada: SHAP, LIME, Feature Importance ou Regras Extraídas.
i. Magistrado quer entender por que um processo específico foi classificado como alto risco.
ii. Auditoria precisa verificar quais features o modelo considera mais importantes globalmente.
iii. Compliance exige explicação simples e interpretável de como o modelo toma decisões.
d) O modelo utiliza as seguintes features: cpf_autor, nome_autor, valor_causa, tempo_tramitacao, tipo_processo,
numero_recursos_anteriores. Identifique duas violações à LGPD e proponha solução técnica para cada uma.
Ops! Esta questão ainda não tem padrão de resposta.
Ops! Esta questão ainda não tem resolução em texto.
Ops! Esta questão ainda não tem resolução em vídeo.
Questões Relacionadas
Texto I
A economista Carlota Pérez, em “Revoluções tecnológicas e capital financeiro” (2022), analisou a interação entre as mudanças tecnológicas, econômicas e políticas e suas relações com o capital financeiro. Segundo o seu modelo, primeiro ocorre a fase de instalação, no qual novos produtos e tecnologias, incentivados pelo capital financeiro, mostram seu potencial e penetram no mundo governado pelo paradigma anterior — esse é o tempo da tecnologia.
Depois, vem o frenesi. Nessa fase, o capital financeiro se sobrepõe ao funcionamento de todo o sistema produtivo. A economia monetária desvincula-se da economia real, as finanças desvinculam-se da produção e o fosso entre as forças da economia …
De acordo com relatório da UNESCO (2021), a inteligência artificial tem sido aplicada em áreas diversas, como saúde, segurança pública e educação, com potencial de ampliar a eficiência de serviços e facilitar a tomada de decisões. No entanto, o documento alerta que, sem parâmetros éticos claros, o uso desses sistemas pode gerar riscos à privacidade, à igualdade de oportunidades e à própria democracia, sobretudo quando algoritmos passam a influenciar diretamente a vida de milhões de pessoas.
Estudos de universidades brasileiras e organizações internacionais apontam que sistemas de IA podem reproduzir ou até intensificar preconceitos sociais. Exemplo disso ocorreu em Salvador (BA), em 2019, qu…
Rumo Futuro: Como a Globo usa IA generativa para transformar a indústria de mídia
De olho na evolução das TVs conectadas, o conglomerado de mídia está avançando em direção à hiperpersonalização
Silenciosamente, a Globo está usando os mais recentes avanços em tecnologia para transformar partes fundamentais do seu negócio. Nos últimos meses, o conglomerado tem intensificado o uso avançado de ferramentas como inteligência artificial (IA) para a amplificação da capacidade criativa de seus profissionais e o aumento de eficiência na entrega de publicidade.
Em conversa com Rumo Futuro, o diretor de estratégia e tecnologia da Globo, Raymundo Barros, detalhou os projetos que a empresa tem conduzido n…
