Na visão do Doutor Valdemir Ferreira Santos, a presença crescente de algoritmos em serviços financeiros, plataformas digitais e sistemas de inteligência artificial está transformando a maneira como decisões são tomadas em diferentes setores da sociedade. Essas tecnologias podem analisar grandes volumes de dados, identificar padrões e produzir resultados que afetam diretamente a vida das pessoas. Com isso, surgem novos desafios para o Judiciário, especialmente quando conflitos envolvem decisões automatizadas, possíveis falhas tecnológicas ou questionamentos sobre os critérios utilizados pelos sistemas.
Por que os algoritmos estão entrando nas discussões judiciais?
Algoritmos são conjuntos de instruções utilizados para executar tarefas ou resolver problemas. Eles estão presentes em diferentes tecnologias, desde sistemas simples de organização de informações até ferramentas capazes de analisar grandes volumes de dados. Quando essas aplicações interferem em direitos, obrigações ou interesses juridicamente protegidos, seu funcionamento pode se tornar relevante para um processo. Por isso, identificar a finalidade do algoritmo e compreender como seus resultados são utilizados permite avaliar com maior precisão as circunstâncias que deram origem ao conflito judicial.
Uma instituição financeira, por exemplo, pode utilizar sistemas automatizados para auxiliar na avaliação de solicitações de crédito. Plataformas digitais também empregam algoritmos para organizar conteúdos, identificar comportamentos e estabelecer recomendações. Dependendo das circunstâncias, decisões relacionadas a essas ferramentas podem gerar questionamentos sobre transparência, responsabilidade ou tratamento inadequado de informações. Essas controvérsias podem envolver a qualidade dos dados utilizados, a existência de critérios discriminatórios ou a dificuldade de compreender os fatores que influenciaram determinado resultado.
Nesse cenário, como destaca Valdemir Ferreira Santos, compreender a tecnologia ajuda a identificar o verdadeiro objeto da controvérsia. Nem todo resultado produzido por um sistema corresponde a uma decisão inteiramente automatizada. Algumas ferramentas apenas apresentam recomendações, enquanto outras executam procedimentos com pouca intervenção humana. Essa diferença pode influenciar a análise jurídica. Conhecer o grau de autonomia da ferramenta e a participação das pessoas envolvidas em sua utilização contribui para determinar quais condutas precisam ser examinadas e quais responsabilidades podem estar relacionadas ao resultado questionado.
O magistrado precisa saber programar para avaliar esses sistemas?
Não necessariamente. O conhecimento técnico necessário para desenvolver um algoritmo é diferente daquele utilizado para compreender suas características e limitações. Na atividade judicial, pode ser mais importante identificar quais dados alimentam determinado sistema, quais resultados ele produz e quais fatores podem interferir em seu funcionamento. Essa compreensão permite formular questionamentos mais precisos sobre a confiabilidade das informações apresentadas e reconhecer situações em que a análise tecnológica exige conhecimentos especializados.
Na profissão exercida pelo Doutor Valdemir Ferreira Santos, essa distinção está relacionada à necessidade de avaliar questões técnicas sem substituir o trabalho de especialistas. Assim como acontece em processos que envolvem conhecimentos médicos ou financeiros, determinadas controvérsias tecnológicas podem exigir perícias e esclarecimentos especializados. O papel do magistrado consiste em examinar esses elementos à luz das normas jurídicas, considerando sua relevância para o conflito e verificando se as conclusões técnicas encontram respaldo nas demais provas disponíveis no processo.
Como identificar problemas em decisões automatizadas?
Sistemas automatizados podem apresentar resultados inadequados por diferentes motivos. Dados incompletos, informações desatualizadas e critérios de classificação mal definidos podem comprometer determinadas análises. Em aplicações de aprendizado de máquina, também existe a possibilidade de reprodução de padrões discriminatórios presentes nos dados utilizados durante o desenvolvimento.
Entretanto, identificar um resultado desfavorável não significa comprovar automaticamente a existência de discriminação ou funcionamento irregular. A avaliação depende das características do sistema, das informações consideradas e dos critérios jurídicos aplicáveis. Em determinadas situações, pode ser necessário investigar se pessoas em condições equivalentes receberam tratamentos injustificadamente diferentes.
Valdemir Ferreira Santos pondera, por fim, que o tema permite compreender a importância de distinguir conclusões técnicas de consequências jurídicas. Um sistema pode apresentar limitações estatísticas sem que isso determine, isoladamente, a existência de responsabilidade. Cabe à análise judicial relacionar os elementos demonstrados às normas aplicáveis e às circunstâncias concretas do conflito.
