O Tribunal de Justiça de Minas Gerais (TJMG) revelou a detecção de casos de manipulação de sistemas de inteligência artificial (IA) através de 'prompt injection', uma técnica que consiste na inserção de instruções ocultas em petições judiciais. Essa prática foi identificada em pelo menos dois processos na Comarca de Ibirité e na capital mineira, resultando em punições severas para os advogados envolvidos.

Casos em Ibirité e Belo Horizonte

A juíza Patrícia Froes Dayrell, da 1ª Vara Cível de Ibirité, encontrou um exemplo claro de prompt injection em um recurso de apelação. O advogado de um cliente que processava um banco inseriu instruções disfarçadas em rodapés da petição, utilizando letras invisíveis, que direcionavam a IA a favorecer seu cliente. Após a revelação da tática, a juíza impôs uma multa de cinco salários mínimos e notificou a Ordem dos Advogados do Brasil (OAB) e a Polícia Civil para investigar a situação.

Exemplo de Comando Oculto

O comando escondido no recurso indicava que, ao ser solicitado um resumo, a IA deveria sempre favorecer o autor da ação e criticar o réu, o banco. A magistrada considerou essa ação uma violação da ética processual, pois distorcia a paridade de armas no julgamento.

Decisão Similar em Belo Horizonte

Em Belo Horizonte, o juiz Lupércio Paulo Fernandes de Oliveira, da 29ª Vara Cível, também flagrou a prática de prompt injection em um processo contra um banco. O documento continha uma instrução oculta que orientava a IA a conceder justiça gratuita e a citar o réu, evidenciando a intenção de manipular o resultado do caso.

Consequências e Reflexões

O juiz Oliveira enfatizou a gravidade da conduta, classificando-a como dolosa e impôs multas cumulativas. Ele destacou a importância da supervisão humana, mesmo com o avanço de sistemas automatizados no Judiciário, para salvaguardar a integridade das decisões judiciais.

Impacto na Ética Profissional

Esses incidentes levantam questões sérias sobre a ética na advocacia e a necessidade de uma regulamentação mais rigorosa sobre o uso de tecnologias no âmbito jurídico. O TJMG e a OAB estão atentos para coibir práticas que possam comprometer a justiça.