Primeira multa por comando oculto em IA no STF
Os ministros Cristiano Zanin e Alexandre de Moraes, do Supremo Tribunal Federal (STF), votaram pela aplicação de uma multa de dois salários mínimos ao advogado Ramon Oliveira Dias. A sanção, que totaliza R$ 3.242, é a primeira no STF em resposta ao uso de uma estratégia conhecida como ‘prompt injection’ em ferramentas de inteligência artificial. A tática consiste em inserir comandos ocultos em documentos para influenciar a análise de algoritmos.
A descoberta ocorreu após o gabinete de Zanin ser alertado pela Secretaria-Geral de Tecnologia e Inovação do Supremo. A reportagem apurou a existência de comandos ocultos em dois trechos de uma petição apresentada por Dias, ambos com o título “argumentos fortes para o conhecimento e provimento do RE”. Nesses trechos, com mais de 400 palavras, o advogado apresentava argumentos em favor de sua tese e sugeria o resultado desejado.
O próprio defensor assumiu a responsabilidade pela estratégia, admitindo ter utilizado a “medida imprópria” por se sentir “movido pela aflição” diante da falta de análise de seu caso nas instâncias inferiores. Ele declarou que sua cliente não tinha conhecimento do texto inserido.
Contexto e Apuração dos Fatos
O caso chegou ao STF em meio a um julgamento virtual iniciado na última sexta-feira (25). A inteligência artificial foi utilizada para auxiliar na elaboração de uma peça processual em defesa de uma servidora pública negra. A disputa judicial envolvia a nomeação de candidatos em um concurso do Ministério Público de Minas Gerais (MPMG), onde a servidora havia passado à frente de uma candidata de ampla concorrência devido às cotas raciais.
A Justiça de Minas Gerais havia concluído que houve um erro na ordem das nomeações, anulando a nomeação da servidora cotista. A decisão baseou-se na interpretação de que a vaga em questão era originalmente destinada a pessoas com deficiência e, na ausência de candidatos habilitados, deveria ser realocada para a ampla concorrência.
Repercussões e Medidas Adicionais
Diante da detecção do uso de ‘prompt injection’, o ministro Zanin comunicou o ocorrido à Ordem dos Advogados do Brasil (OAB) para apuração de infração ético-disciplinar, e ao Ministério Público Federal (MPF) para uma possível investigação. Apesar de ter alertado sobre a prática, Zanin afirmou não utilizar inteligência artificial em suas próprias análises de votos.
O Conselho Nacional de Justiça (CNJ) já havia se manifestado sobre o uso desse estratagema, emitindo recomendações contra sua adoção. A técnica de ‘prompt injection’ envolve a alteração da cor do texto para branco, camuflando os comandos que instruem a IA a apresentar uma visão favorável ao ponto de vista do usuário.
Procurado pela reportagem, Ramon Oliveira Dias, que atua como procurador no município de Congonhas (MG), não se manifestou até o fechamento desta matéria. O espaço permanece aberto para sua declaração.
