PRIMEIRO CASO NO STF
O Supremo Tribunal Federal (STF) identificou uma tentativa de uso de comandos ocultos em uma petição para influenciar sistemas de inteligência artificial e direcionar o resultado de um processo. Os comandos foram inseridos em letras brancas e em tamanho reduzido, além de palavras terem sido fragmentadas para dificultar a detecção. O caso foi comunicado ao ministro Cristiano Zanin pelo Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia da Informação do STF.
A tentativa, conhecida como “prompt injection”, foi detectada pela Maria Shield, funcionalidade da plataforma Maria, desenvolvida pelo próprio STF para auxiliar servidores na análise de processos e produção de documentos. Segundo a Corte, os comandos buscavam induzir sistemas de IA a adotar uma determinada fundamentação e dar provimento ao recurso. A estratégia, porém, não teve efeito sobre o julgamento, porque o gabinete de Zanin não utiliza inteligência artificial para analisar processos ou fundamentar decisões. O ministro já havia rejeitado o recurso em 19 de agosto.
Zanin registrou o episódio nos autos, aplicou multa de dois salários mínimos por violação ao dever de lealdade processual e determinou o envio do caso à Ordem dos Advogados do Brasil (OAB) e ao Ministério Público Federal (MPF). A OAB deverá analisar eventual infração ético-disciplinar, enquanto o MPF foi acionado para apurar possível crime. O processo envolve uma servidora pública que teve anulada a nomeação para o cargo de oficial do Ministério Público de Minas Gerais, em uma disputa relacionada às regras de reserva de vagas para pessoas negras em concurso público.
