PROVIMENTO Nº 32/2019 – DISP. 03/09/2019 – REPUBLICADO


Print Friendly, PDF & Email

REPUBLICADO EM 04/09/2019 (CLIQUE AQUI)

ESTADO DO ESPÍRITO SANTO

PODER JUDICIÁRIO

TRIBUNAL DE JUSTIÇA

PROVIMENTO 32/2019

Institui o Programa de Pesquisa e a respectiva equipe para verificação da compatibilidade ética e normativa dos algoritmos e ferramentas de inteligência artificial no âmbito das inovações tecnológicas do Poder Judiciário do Estado do Espírito Santo.

O CORREGEDOR GERAL DA JUSTIÇA DO ESTADO DO ESPÍRITO SANTO, no uso de suas atribuições legais e regimentais,

CONSIDERANDO que o Egrégio Tribunal Pleno, por meio de disposição contida no art. 114, da Resolução n.º 75/2010, decidiu que as atribuições dos setores administrativos diretamente subordinados à Corregedoria Geral da Justiça serão estabelecidas em resolução própria;

CONSIDERANDO ser a Corregedoria Geral da Justiça órgão de fiscalização, disciplina e orientação administrativa, com circunscrição em todo o Estado, conforme o art. 35 da Lei Complementar Estadual nº 234/02;

CONSIDERANDO o disposto no Provimento nº 21/2019, que institui o Centro de Inteligência Artificial da Corregedoria Geral da Justiça do Estado do Espírito Santo;

CONSIDERANDO o desenvolvimento de novas soluções digitais e a necessidade de velar pela compatibilidade dos sistemas eletrônicos e de disciplinar a incorporação progressiva de inovações tecnológicas e disruptivas à prática jurisdicional e às serventias extrajudiciais;

CONSIDERANDO a utilização pelas Cortes de Justiça em todo o país de ferramentas de inteligência artificial e automação de rotinas para tramitação de processo e adoção de decisões administrativas e judiciais;

CONSIDERANDO que as ferramentas de inteligência artificial podem refletir e a ampliar vieses sociais discriminatórios, mediante reconhecimento de padrões comportamentais ocultos (hidden patterns), gerando resultados indesejáveis com base apenas na raça, gênero, etnias e intolerância correlata, bastando que padrões como esses estejam velada ou declaradamente inseridos nos bancos de dado;

CONSIDERANDO a necessidade de analisar o impacto ético e a justiça dos algoritmos (fairness of algorithms) no desenvolvimento e aplicação de tecnologias disruptivas;

CONSIDERANDO que técnicas de deep learning e machine learning, redes neurais, computação cognitiva, big data analytics, web semântica e ontologias, mineração de dados e de texto, reconhecimento de padrões etc, aplicadas às ferramentas de inteligência artificial, são alimentadas por dados, os quais são escolhidos e coletados por seres humanos, que apresentam consigo impressões culturais enviesadas, capazes de refletir de maneira manifesta ou obscura uma realidade discriminatória, cujas origens não são investigadas;

CONSIDERANDO que o viés discriminatório não decorre do dado em si (eg. possuir mais de 65 anos), enquanto elemento unívoco, retirado da fonte primária, mas, sim da escolha do dado e da conversão desse dado em informação pelo algoritmo (eg. concluir que aqueles que possuem mais de 65 anos não poderiam executar uma tarefa), o que exige atenção e escrutínio ético cuidadoso quando da adoção de ferramentas de inteligência artificial pelo Poder Judiciário;

CONSIDERANDO que, nos Estados Unidos da América, constatou-se que um dos softwares mais utilizados para avaliar risco de reincidência criminal apresentava um viés discriminatório racial, que identificava um grupo racial como duas vezes mais propícios à reincidência de crimes do que outro grupo racial;

CONSIDERANDO que já existem sistemas automatizados e inteligentes para tramitação de processos e tomada de decisões no âmbito do Poder Judiciário, que se esteiam em algoritmos e modelos matemáticos de padrões e impactos ainda pouco esclarecidos no dia a dia do cidadão.

CONSIDERANDO a necessidade de identificar e resguardar os algoritmos e os modelos matemáticos utilizados em ferramentas tecnológicas do Poder Judiciário de efeitos graves decorrentes da falta de transparência e de ética nos padrões constantes nos bancos de dados, possíveis de serem adotados por essa tecnologia disruptiva;

CONSIDERANDO que existem programas e ferramentas tecnológicas capazes de adotar ou sugerir decisões do gestor ou do juiz, sem que esses padrões que levaram a essa sugestão tenham sido escrutinados ética e normativamente;

CONSIDERANDO a necessidade de observância de critérios éticos e normativos na tomada de decisão pelas Cortes de Justiça, critérios esses que não podem ser delegados, apenas e exclusivamente, aos profissionais de tecnologia de informação e aos criadores de algoritmos, desenvolvedores da ferramenta;

CONSIDERANDO a necessidade de inspecionar ética e normativamente os algoritmos e ferramentas tecnológicas do Poder Judiciário capixaba, como forma de fiscalização, disciplina e orientação administrativa atribuída a Corregedoria Geral da Justiça;

RESOLVE:

Art. 1º Instituir no âmbito do Centro da Corregedoria Estadual de Inteligência Artificial (CorE-AI) projeto de pesquisa vocacionado a conhecer, identificar e verificar modelos matemáticos e algoritmos que são ou serão desenvolvidos nas ferramentas tecnológicas do Poder Judiciário do Estado do Espírito Santo.

§1ª. A equipe de pesquisa será formada pelos seguintes membros:

I. Samuel Meira Brasil Jr, Desembargador gestor do projeto, Mestre em Ciência da Computação e Doutor em Direito;

II. Cristine Leonor Pereira Griffo Beccalli, Doutora em Ciência da Computação;

III. Juliana Justo Botelho Castello, Doutora em Direito;

§2ª. Os desenvolvedores e demais membros da equipe de pesquisa serão nomeados por ato próprio do centro de pesquisa.

Art. 2º. Este provimento entrará em vigor na data de sua publicação.

Vitória – ES, 02 de setembro’ de 2019.

Desembargador SAMUEL MEIRA BRASIL JR.
Corregedor Geral da Justiça