PODER JUDICIÁRIO DO ESTADO DO ESPÍRITO SANTO – PJES

RUA DESEMBARGADOR HOMERO MAFRA,60 – Bairro ENSEADA DO SUÁ – CEP 29050906 – Vitória – ES – www.tjes.jus.br

ATO NORMATIVO N° 161/2024

 

Dispõe sobre a instituição da Política de Uso da Inteligência Artificial no âmbito do Poder Judiciário do Estado do Espírito Santo.

 

O Excelentíssimo Senhor Desembargador SAMUEL MEIRA BRASIL JR., Presidente do egrégio Tribunal de Justiça do Estado do Espírito Santo, no uso de suas atribuições legais,

 

CONSIDERANDO o estado-da-arte da Inteligência Artificial, que se destaca como ferramenta transformadora dos diversos ambientes sociais e profissionais;

 

CONSIDERANDO o uso crescente de inteligência artificial como forma de se aproveitar melhor os recursos, aumentando a produtividade, reduzindo custos e incrementando a resolubilidade de diferentes desafios;

 

CONSIDERANDO a necessidade de se garantir a ética no uso da inteligência artificial, notadamente quanto a equidade, responsabilidade e transparência (fairness, accountability, transparency);

 

CONSIDERANDO a necessidade de estabelecer métodos de segurança (guardrails) para se evitar o abuso na utilização de sistemas e modelos de inteligência artificial, promovendo segurança de dados, conformidade regulatória, uso ético com mitigação de vieses e verificação sistêmica;

 

CONSIDERANDO a importância de se diminuir vieses cognitivos em modelos de inteligência artificial treinados com dados históricos, que reproduzem discriminação encontrada na sociedade.

 

CONSIDERANDO a imprescindível busca de humanização da inteligência artificial e de seu alinhamento com valores humanos essenciais e com os direitos fundamentais;

 

RESOLVE:

 

Art. 1º. Instituir e regulamentar a Política de Uso de Inteligência Artificial no âmbito do Poder Judiciário do Estado do Espírito Santo.

 

Art. 2°. O objetivo da presente política é o de estabelecer diretrizes e estimular o uso responsável e ético da Inteligência Artificial em todos os níveis e áreas do Poder Judiciário do Estado do Espírito Santo, de modo a promover a justiça e a equidade algorítmica, a transparência, a responsabilidade e a não discriminação, em consonância com os princípios gerais do Direito, da Administração Pública e das Constituições Estadual e Federal.

 

Art. 3º. Para os fins desta Política, considera-se:

 

I – Inteligência Artificial (IA): área que trata da criação de sistemas e modelos inteligentes, capazes de raciocinar, aprender e agir de forma autônoma, a partir de objetivos definidos pelo usuário, gerando conteúdos, recomendações, sugestões e produções de diferentes materiais.

II – Modelo de IA: algoritmo (ou conjunto de algoritmos) treinado em um conjunto de dados para realizar tarefa específica, ou conjunto de tarefas distintas, podendo ser integrado em uma variedade de sistemas ou aplicações.

III – Sistema de IA: sistema baseado em um modelo de IA com capacidade de servir uma variedade de finalidades, tanto para utilização direta como para integração em outros sistemas de IA.

IV – Viés (bias): Preconceito ou distorção presente em um sistema de IA que pode levar a resultados discriminatórios, injustos ou antiéticos.

V – Preconceito: Opinião ou sentimento preconcebido em relação a um indivíduo ou grupo de pessoas, geralmente baseado em estereótipos ou generalizações.

VI – Risco de IA: potencial de o uso da inteligência artificial causar danos ou impactos adversos a pessoas, organizações, com diferentes níveis de risco.

VII – Risco sistêmico: risco específico oriundo da capacidade de alto impacto dos modelos de IA para fins gerais, devido ao seu alcance, ou devido a efeitos negativos reais ou razoavelmente previsíveis em áreas sensíveis como direitos fundamentais, igualdade – inclusive de oportunidades –, liberdades, educação, saúde pública, segurança, proteção pública, direitos fundamentais ou na sociedade no seu todo, podendo ser propagado em grande escala.

VIII – Avaliação de Risco: avaliação elaborada para identificar possíveis impactos e mitigar riscos encontrados.

IX – Incidente grave: incidente ou mau funcionamento de um sistema de IA que conduza, direta ou indiretamente, a danos graves à incolumidade física ou psíquica; à saúde das pessoas; perturbação grave e irreversível da gestão ou operação de infraestruturas críticas; violação de obrigações decorrentes do direito da União destinadas a proteger os direitos fundamentais; ou danos graves à propriedade ou ao meio ambiente.

X – Accountability: responsabilidade de se assegurar que os sistemas de inteligência artificial sejam usados de forma ética, segura e com transparência, além de permitir a realização de auditorias e atribuição de responsabilidades.

XI – Justiça e equidade algorítmica (algorithmic fairness): abordagem abrangente que objetiva adotar práticas que protejam os direitos e garantias, quando no uso de inteligência artificial.

XII – Usuário: pessoa física ou jurídica que utiliza o sistema de inteligência artificial sob sua autoridade, para fins profissionais.

XIII – Fornecedor: aquele que desenvolve sistema ou modelo de IA.

XIV – Representante: aquele que atua em nome do fornecedor de sistema ou modelo de IA cumprindo obrigações em nome do fornecedor.

XV – Distribuidor: aquele que distribui sistema ou modelo de IA.

 

Art. 4º. A utilização de inteligência artificial no Poder Judiciário do Estado do Espírito Santo deverá observar os princípios da legalidade, transparência, neutralidade, imparcialidade, uso responsável, segurança, robustez, privacidade, accountability, bem-estar social e, principalmente, da justiça e equidade algorítmica.

 

Art. 5º. O uso de inteligência artificial no Poder Judiciário do Estado do Espírito Santo deverá se pautar em boas práticas que estejam alinhadas com princípios de governança e com respeito às normas gerais de direito.

 

Art. 6º. O Poder Judiciário do Estado do Espírito Santo deverá, quando no uso de inteligência artificial, obrigatoriamente, realizar supervisão humana dos sistemas utilizados; monitorar contínua e permanentemente os sistemas de IA, gerar relatórios periódicos e efetuar auditorias regulares.

 

Art. 7º. A avaliação de risco dos sistemas e modelos de IA será distribuído em quatro níveis:

 

I – Risco mínimo: sistemas e modelos de IA cuja utilização tenha impacto inexpressivo;

II – Risco Moderado: sistemas e modelos de IA relacionadas a decisões de recursos humanos, podendo causar algum impacto negativo, mas que não afetam direitos fundamentais e valores essenciais;

III – Risco Alto: sistemas e modelos de IA que influenciem decisões críticas, com probabilidade de gerar danos a valores humanos essenciais e a direitos fundamentais;

IV – Risco Inaceitável: quando existir risco potencial de dano a seres humanos em grau insuportável, com profunda e irreparável violação a direitos fundamentais e aos valores sociais essenciais.

 

§ 1º. Ficam vedadas, no Poder Judiciário do Estado do Espírito Santo, práticas ou ferramentas que possam resultar em riscos inaceitáveis ou em discriminação injusta contra indivíduos ou grupos, bem como ferramentas que explorem vulnerabilidades específicas ou que influenciem o comportamento das pessoas de modo iníquo ou preconceituoso, assim como o uso de sistemas de avaliação social baseada em comportamento ou características pessoais.

 

§ 2º. Os sistemas de inteligência artificial considerados de alto risco somente poderão ser usados no Poder Judiciário do Estado do Espírito Santo de maneira controlada e desde que sejam verificados, previamente, o atendimento das seguintes condições:

 

I. Análise de riscos para identificar e avaliar os riscos potenciais do sistema;

II. Implementação de medidas de mitigação para reduzir os riscos identificados;

III. Garantia de transparência sobre o funcionamento do sistema;

IV. Estabelecimento de mecanismos de supervisão humana, com o escopo de que o uso da ferramenta seja feito de modo responsável e ético.

 

§ 3º. A utilização de inteligência artificial considerada de alto risco será condicionada a avaliação de conformidade, incluindo verificação de possíveis vieses nos dados e nos algoritmos, de modo a eliminar a discriminação algorítmica.

 

§ 4º. A presidência do Tribunal de Justiça deverá divulgar periodicamente lista atualizada de práticas, sistemas e modelos classificados com os respectivos níveis de riscos.

 

Art. 8º. O sistema de Processo Eletrônico usado pelo Poder Judiciário do Estado do Espírito Santo poderá incorporar, desenvolver ou utilizar ferramentas de IA, mas deverá realizar o treinamento dos modelos observando os princípios de qualidade dos dados, diversidade dos dados, mitigação de vieses, monitoramento e avaliação periódica e permanente.

 

Art. 9º. O Poder Judiciário do Estado do Espírito Santo deverá estabelecer estrutura de governança destinada ao gerenciamento do uso de ferramentas de inteligência artificial, podendo, para tanto, instituir Comitê de Ética em IA, com unidade de especialistas em IA, além de processos de análise e aprovação de projetos de IA a serem implementados.

 

Art. 10. O Poder Judiciário do Estado do Espírito Santo deverá primar pela diversidade na equipe responsável por avaliar, implementar, estudar ou utilizar a inteligência artificial, com o escopo de possibilitar a detecção e a antecipação de problemas que possam ocasionar resultados discriminatórios e antiéticos, bem como a de evitar a ocorrência de incidentes graves.

 

Art. 11. O presente regulamento é destinado a todos os agentes do Poder Judiciário, incluindo magistrados, servidores, estagiários e demais colaboradores e unidades, bem como fornecedores, representantes e distribuidores de sistemas de IA.

 

Parágrafo único. Todos os agentes são responsáveis pelas consequências nocivas ocasionadas pelo uso abusivo da inteligência artificial, seja de forma dolosa ou culposa, que possam prejudicar, discriminar, produzir informação falsa e/ou maliciosa (misinformation, disinformation, malinformation), deep fakes, doxing, jailbreaking em guardrails, rastreamento de dados privados ou qualquer uso nocivo que reproduza ou facilite ilícitos criminais, civis ou administrativos, devendo cada um deles, na medida de suas responsabilidades, desenvolver e implementar mecanismos de mitigação ou eliminação de riscos.

 

Art. 12. O presente regulamento entra em vigor na data de sua publicação.

 

Publique-se.

 

Vitória, 18 de julho de 2024.

 

Des. SAMUEL MEIRA BRASIL JR.
Presidente