Autor: DIEGO ROJAS

Desinteligencia artificial: abogado le creyó todo a la IA y presentó un escrito con fundamentos falsos en el juzgado
Desinteligencia artificial: abogado le creyó todo a la IA y presentó un escrito con fundamentos falsos en el juzgado RAMÓN MONROY / ARCHIVO Crimen y castigo.
El Segundo Juzgado Civil de Concepción sancionó con el pago de una Unidad Tributaria Mensual ($69.611 en febrero) a un abogado que citó jurisprudencia inexistente en una demanda civil, conducta que el tribunal consideró contraria a la buena fe procesal y a la ética profesional. El propio abogado reconoció que el escrito fue elaborado con apoyo de Inteligencia Artificial.
La revolucionaria tecnología, que está cambiando prácticamente todo ámbito de conocimiento en todos los rincones del mundo, es muy útil para muchas cosas, pero -se sabecuando no encuentra la respuesta que se le pide, tiene una tendencia irrefrenable a alucinar. Y cuando eso pasa, inventa respuestas. La reprimenda que se llevó el abogado Franklin Bustos Díaz, que fue el que presentó el escrito, deja bien claro que la responsabilidad no es del modelo utilizado sino que de él. Era, pero no era. El abogado Bustos representaba a una inmobiliaria que estaba en una disputa con una constructora en la Región del Biobío. Esencialmente, el profesional buscaba que el tribunal prohibiera la venta de unos departamentos para asegurar el cobro de una eventual futura indemnización. En su escrito argumentó presentando ocho fallos anteriores que supuestamente le daban la razón. Con rol y todo. Muy comprometido con su tarea, el magistrado Adolfo Ignacio Depolo Cabrera decidió entonces revisar esos fallos, para ver si era tan cierto lo que le decían. Y se fue dando cuenta, uno a uno, que no tenían nada que ver. Un par de casos de esos ocho.
El abogado Bustos dijo que "en la causa Rol Nº 10.234 -2021", la Corte Suprema había determinado que "la existencia de bienes suficientes en el patrimonio del deudor al inicio del litigio no es óbice para el decreto de precautorias". Pero el juez descubrió que ese proceso había sido para revocar una prisión preventiva en una causa penal. Otra.
Según Bustos, en un fallo reciente la Corte de Apelaciones de Concepción había resuelto en la causa Rol Nº 245-2023 que "la resolución que accede a una medida precautoria no requiere de la certidumbre propia de una sentencia definitiva, bastando que los antecedentes aportados por el solicitante permitan presumir que el derecho cuya protección se persigue tiene visos de realidad". Pero cuando el juez fue a revisar esa resolución, advirtió que "no se indica nada ni siquiera remotamente parecido" sino que se trataba de "la apelación de una resolución que no dio lugar a un incidente de sustitución de procedimiento". Yo no fui.
Tras conocerse la sanción, el jurista publicó un comunicado en su cuenta de Instagram, donde dijo que la responsabilidad era de otro abogado y que él sólo lo firmó. "Un abogado del estudio redactó este escrito y se apoyó con Inteligencia Artificial para su redacción, de esta forma fue presentado al Tribunal. Mi culpa y responsabilidad como director del estudio fue no revisarlo antes de ser presentado", afirmó, asegurando además que "jamás se intentó engañar al Tribunal". Usted no lo haga. Tres académicos que llevan años investigando los modelos de inteligencia artificial, coinciden en que este caso ilustra los riesgos de usarla sin controles. Patricio Olivares (UTFSM) advierte que no estamos hablando de un tema legal sino ético.
Estos sistemas -afirma"son predictores de palabras" y por eso "tiene que haber un conocimiento previo de lo que se está solicitando al modelo y una revisión exhaustiva de lo que entrega". Esa revisión, para bien o para mal, "tiene que ser manual". Dennis Berroeta, magíster en Inteligencia Artificial (UAI), apunta a la base del problema: "Estos modelos combinan información y entregan respuestas palabra por palabra a partir de probabilidades", sin distinguir por sí mismos entre información real o errónea. Alfredo Mora (Usach) resume el límite: estas herramientas "optimizan plausibilidad lingüística, no veracidad jurídica", por lo que no pueden operar como fuente de autoridad. Las tres voces coinciden en que, en derecho, la IA solo puede ser apoyo y debe ir acompañada de una exhaustiva verificación. El juzgado estimó que su conducta vulneró la buena fe procesal. Autor: DIEGO ROJAS. Tribunal lo pillo y lo sancionó con el pago de una UTM El juzgado estimó que su conducta vulneró la buena fe procesal. Cuando fue sorprendido, el abogado responsabilizó a un colega.