La integración de la inteligencia artificial (IA) en el Poder Judicial ha abierto nuevas oportunidades, pero también riesgos inéditos. Un reciente fallo de la Justicia del Trabajo de Brasil analizó por primera vez cómo el uso de texto oculto para manipular algoritmos judiciales constituye un grave atentado a la dignidad de la justicia.
El caso
En una reclamación laboral por reconocimiento de vínculo y pago de verbas rescisórias en Parauapebas, el magistrado detectó que las abogadas de la parte actora habían insertado en la petición inicial un texto en fuente blanca sobre fondo blanco, invisible para el ojo humano, pero legible para sistemas de IA.
El comando oculto ordenaba a cualquier sistema que procesara el documento que contestara de forma superficial y no impugnara pruebas, sin importar las órdenes del usuario humano.
Tribunal interviniente
La resolución fue dictada por la 3ª Vara do Trabalho de Parauapebas, perteneciente al Tribunal Regional do Trabalho da 8ª Região (TRT-8).
Decisión del juez
El magistrado Luiz Carlos de Araujo Santos Junior resolvió:
- Sancionar por mala fe procesal, reconociendo la práctica como un acto atentatorio a la dignidad de la justicia.
- Multa solidaria del 10% sobre el valor de la causa (aproximadamente R$84,000), a ser pagada por las abogadas y revertida en favor de la Unión.
- Denuncia disciplinaria ante la Orden de Abogados de Brasil (OAB) y la Corregidoría.
- En cuanto al fondo, declaró la existencia del vínculo laboral y condenó al demandado al pago de indemnizaciones, debido a su rebeldía procesal.
Novedad tecnológica
El fallo introduce el concepto de prompt injection en el ámbito judicial. Esta técnica consiste en insertar instrucciones ocultas en un documento para manipular el resultado de sistemas de IA generativa, como el sistema “Galileu” utilizado por el tribunal.
El juez calificó la conducta como un “ataque a la credibilidad de las herramientas institucionales”, resaltando que el engaño solo puede detectarse mediante auditoría técnica. Además, determinó que la responsabilidad recae exclusivamente en los abogados, no en los clientes.
Reflexiones abiertas
El fallo plantea interrogantes sobre el futuro de la IA en los tribunales:
- ¿Será necesario implementar auditorías automáticas obligatorias para detectar comandos ocultos en cada escrito?
- ¿Debe el prompt injection tipificarse como un delito informático específico, o bastan las sanciones por mala fe procesal?
- ¿Cómo afectará esta desconfianza tecnológica a la celeridad procesal si los jueces deben verificar la integridad técnica de los documentos?
