ESTADO DO ESPÍRITO SANTO
PODER JUDICIÁRIO
CORREGEDORIA GERAL DA JUSTIÇA
REPUBLICAÇÃO DO PROVIMENTO 32/2019
Institui o Programa de Pesquisa e a respectiva equipe para verificação da compatibilidade ética e normativa dos algoritmos e ferramentas de inteligência artificial no âmbito das inovações tecnológicas do Poder Judiciário do Estado do Espírito Santo.
O CORREGEDOR GERAL DA JUSTIÇA DO ESTADO DO ESPÍRITO SANTO, no uso de suas atribuições legais e regimentais,
CONSIDERANDO que o Egrégio Tribunal Pleno, por meio de disposição contida no art. 114, da Resolução n.º 75/2010, decidiu que as atribuições dos setores administrativos diretamente subordinados à Corregedoria Geral da Justiça serão estabelecidas em resolução própria;
CONSIDERANDO ser a Corregedoria Geral da Justiça órgão de fiscalização, disciplina e orientação administrativa, com circunscrição em todo o Estado, conforme o art. 35 da Lei Complementar Estadual nº 234/02;
CONSIDERANDO o disposto no Provimento nº 21/2019, que institui o Centro de Inteligência Artificial da Corregedoria Geral da Justiça do Estado do Espírito Santo;
CONSIDERANDO o desenvolvimento de novas soluções digitais e a necessidade de velar pela compatibilidade dos sistemas eletrônicos e de disciplinar a incorporação progressiva de inovações tecnológicas e disruptivas à prática jurisdicional e às serventias extrajudiciais;
CONSIDERANDO a utilização pelas Cortes de Justiça em todo o país de ferramentas de inteligência artificial e automação de rotinas para tramitação de processo e adoção de decisões administrativas e judiciais;
CONSIDERANDO que as ferramentas de inteligência artificial podem refletir e a ampliar vieses sociais discriminatórios, mediante reconhecimento de padrões comportamentais ocultos (hidden patterns), gerando resultados indesejáveis com base apenas na raça, gênero, etnias e intolerância correlata, bastando que padrões como esses estejam velada ou declaradamente inseridos nos bancos de dado;
CONSIDERANDO a necessidade de analisar o impacto ético e a justiça dos algoritmos (fairness of algorithms) no desenvolvimento e aplicação de tecnologias disruptivas;
CONSIDERANDO que técnicas de deep learning e machine learning, redes neurais, computação cognitiva, big data analytics, web semântica e ontologias, mineração de dados e de texto, reconhecimento de padrões etc, aplicadas às ferramentas de inteligência artificial, são alimentadas por dados, os quais são escolhidos e coletados por seres humanos, que apresentam consigo impressões culturais enviesadas, capazes de refletir de maneira manifesta ou obscura uma realidade discriminatória, cujas origens não são investigadas;
CONSIDERANDO que o viés discriminatório não decorre do dado em si (eg. possuir mais de 65 anos), enquanto elemento unívoco, retirado da fonte primária, mas, sim da escolha do dado e da conversão desse dado em informação pelo algoritmo (eg. concluir que aqueles que possuem mais de 65 anos não poderiam executar uma tarefa), o que exige atenção e escrutínio ético cuidadoso quando da adoção de ferramentas de inteligência artificial pelo Poder Judiciário;
CONSIDERANDO que, nos Estados Unidos da América, constatou-se que um dos softwares mais utilizados para avaliar risco de reincidência criminal apresentava um viés discriminatório racial, que identificava um grupo racial como duas vezes mais propícios à reincidência de crimes do que outro grupo racial;
CONSIDERANDO que já existem sistemas automatizados e inteligentes para tramitação de processos e tomada de decisões no âmbito do Poder Judiciário, que se esteiam em algoritmos e modelos matemáticos de padrões e impactos ainda pouco esclarecidos no dia a dia do cidadão.
CONSIDERANDO a necessidade de identificar e resguardar os algoritmos e os modelos matemáticos utilizados em ferramentas tecnológicas do Poder Judiciário de efeitos graves decorrentes da falta de transparência e de ética nos padrões constantes nos bancos de dados, possíveis de serem adotados por essa tecnologia disruptiva;
CONSIDERANDO que existem programas e ferramentas tecnológicas capazes de adotar ou sugerir decisões do gestor ou do juiz, sem que esses padrões que levaram a essa sugestão tenham sido escrutinados ética e normativamente;
CONSIDERANDO a necessidade de observância de critérios éticos e normativos na tomada de decisão pelas Cortes de Justiça, critérios esses que não podem ser delegados, apenas e exclusivamente, aos profissionais de tecnologia de informação e aos criadores de algoritmos, desenvolvedores da ferramenta;
CONSIDERANDO a necessidade de inspecionar ética e normativamente os algoritmos e ferramentas tecnológicas do Poder Judiciário capixaba, como forma de fiscalização, disciplina e orientação administrativa atribuída a Corregedoria Geral da Justiça;
RESOLVE:
Art. 1º Instituir no âmbito do Centro da Corregedoria Estadual de Inteligência Artificial (CorE-AI) projeto de pesquisa vocacionado a conhecer, identificar e verificar modelos matemáticos e algoritmos que são ou serão desenvolvidos nas ferramentas tecnológicas do Poder Judiciário do Estado do Espírito Santo.
§1ª. A equipe de pesquisa será formada pelos seguintes membros:
I. Samuel Meira Brasil Jr, Desembargador, Coordenador Executivo, Mestre em Ciência da Computação e Doutor em Direito;
II. Adriano Correa de Mello, Juiz de Direito, Coordenador Operacional, Mestrando em Direito;
III. Cristine Leonor Pereira Griffo Beccalli, Doutora em Ciência da Computação;
IV. Juliana Justo Botelho Castello, Doutora em Direito;
§2ª. Os desenvolvedores e demais membros da equipe de pesquisa serão nomeados por ato próprio do centro de pesquisa.
Art. 2º. Este provimento entrará em vigor na data de sua publicação.
Vitória – ES, 02 de setembro de 2019.
Desembargador SAMUEL MEIRA BRASIL JR.
Corregedor Geral da Justiça