Em artigo publicado nesta quinta-feira (25\/9) pelo jornal Correio Braziliense, o conselheiro do Conselho Nacional de Justi\u00e7a (CNJ), Rodrigo Badar\u00f3 \u2014 representante da advocacia no \u00f3rg\u00e3o \u2014, e Matheus Puppe, advogado mestre e doutorando pela Universidade de Frankfurt e Data Protection Officer (DPO) do Conselho Federal da OAB, falam sobre os riscos do uso malicioso da intelig\u00eancia artificial no sistema de Justi\u00e7a.<\/p>\n
Os autores alertam para a t\u00e9cnica conhecida como \u201cprompt injection\u201d, que pode manipular o funcionamento de sistemas de IA usados em atividades como triagem de peti\u00e7\u00f5es e aux\u00edlio \u00e0 reda\u00e7\u00e3o de minutas judiciais.<\/p>\n
“Prompt injection \u00e9 a inser\u00e7\u00e3o de instru\u00e7\u00f5es ocultas em peti\u00e7\u00f5es, anexos, metadados ou links para manipular o comportamento de uma IA. Comandos embutidos em texto invis\u00edvel, coment\u00e1rios HTML, caracteres de ‘largura zero’ ou campos de ‘Title\/Keywords’ de arquivos podem induzir o sistema a priorizar teses, suprimir contrarraz\u00f5es, rotular falsamente urg\u00eancia ou sugerir minutas enviesadas\u201d, explicam.<\/p>\n
O texto destaca, ainda, os poss\u00edveis impactos institucionais e \u00e9ticos decorrentes da manipula\u00e7\u00e3o da IA, com implica\u00e7\u00f5es para a imparcialidade e a seguran\u00e7a jur\u00eddica no processo.<\/p>\n
“Para magistrados, o risco \u00e9 institucional. Sistemas de triagem e aux\u00edlio \u00e0 minuta, se expostos a dados maliciosos, podem aumentar falsos positivos de urg\u00eancia, classificar incorretamente temas repetitivos e gerar rascunhos tecnicamente coesos, por\u00e9m processualmente viciados”, observam Badar\u00f3 e Puppe.<\/p>\n