La justicia solicitó al Colegio de Abogados de Rosario a fin de que adopte medidas para desalentar como práctica la generación de citas jurisprudenciales falsas con inteligencia artificial.
Miércoles, 27 de agosto de 2025
La Cámara Civil y Comercial de Rosario detectó que un abogado presentó jurisprudencia inventada por ChatGPT en un juicio por daños y perjuicios. Aunque el letrado aseguró haber actuado de buena fe, el juez Oscar Puccinelli enfatizó que la verificación de fuentes es un deber indelegable y ofició al Colegio de Abogados para advertir sobre los riesgos de trasladar sin control los resultados de estas herramientas al ámbito judicial.
Se trata del primer caso en el país en el que el uso de inteligencia artificial tiene consecuencias directas en un proceso judicial. El juez advirtió que, incluso actuando de buena fe, esta práctica compromete la responsabilidad profesional del abogado, tanto frente al tribunal como ante su cliente, y que ningún consentimiento informado podría eximirlo de cotejar la veracidad de los precedentes utilizados.
La irregularidad se detectó durante la instancia de apelación, cuando la Cámara no pudo verificar las citas jurisprudenciales incluidas en el escrito. Frente a esta situación, se dictó una medida para mejor proveer y se intimó al abogado a precisar la fuente de los precedentes citados. La respuesta del letrado confirmó que había empleado un chatbot de inteligencia artificial y copiado las citas sin realizar ninguna comprobación.
La Sala destacó que, aunque estas herramientas existen desde hace más de tres años y pueden resultar útiles, no reemplazan la diligencia profesional ni la ética. Además, advierte que los sistemas de inteligencia artificial pueden generar “alucinaciones”, es decir, citas y datos inventados, lo que hace indispensable un control riguroso antes de incorporarlos en escritos judiciales.
El fallo no prohíbe el uso de inteligencia artificial en la práctica del derecho, pero deja en claro que su utilización requiere responsabilidad y criterio profesional. Por tanto, la decisión de notificar al Colegio de Abogados busca no solo sancionar un error individual, sino generar conciencia y prevenir que estas prácticas se normalicen en el ejercicio profesional. situaciones similares han ocurrido en otras jurisdicciones, donde la incorporación de precedentes falsos o citas inventadas por sistemas de IA ha derivado en sanciones y alertas éticas, marcando un precedente internacional sobre la necesidad de un control riguroso.
Publicado en Palabras del Derecho
