Alucinaciones de la IA: cómo verificar una cita

Por Gastón Krasny

Una alucinación de la IA, en un escrito judicial, es una cita que parece real y no lo es: un fallo inexistente, una carátula verdadera con una doctrina que el tribunal nunca fijó, un artículo con un número que no existe o una frase entre comillas que nadie escribió. Se verifica siempre igual: cada cita se busca en la fuente oficial o en el texto completo de la sentencia, y se lee el párrafo exacto antes de presentarla. La respuesta de la IA no es la fuente.

¿Qué es una alucinación de la IA en un escrito?

Un modelo de lenguaje genera el texto más probable para tu pregunta. Si le pedís "jurisprudencia de la CNAT sobre la base del art. 245" y responde de memoria, va a producir algo con la forma de una cita: carátula, sala, fecha. Que tenga la forma no garantiza que exista. El problema no es que la IA "mienta": es que, sin una base de datos detrás, no tiene cómo distinguir un fallo real de uno verosímil.

Por eso la pregunta útil no es si una herramienta alucina, sino de dónde saca la cita y si te deja ir a verla.

Cinco errores de cita y cómo detectarlos

Error	Cómo se ve	Qué lo detecta
Fallo inexistente	Carátula, tribunal y fecha que no aparecen en ninguna base	Buscarlo en la base oficial del tribunal
Fallo real, holding inventado	El fallo existe, pero resolvió otra cosa	Leer el texto completo, no el sumario
Cita textual falsa	Una frase entre comillas que no está en la sentencia	Buscar la frase en el texto del fallo
Datos cruzados	Sala, fecha o número de expediente de otro fallo	Cotejar cada dato con la ficha oficial
Norma equivocada	Un artículo que no existe, que dice otra cosa o que fue modificado	Leer el texto actualizado de la norma

El segundo es el más peligroso. Un fallo inventado se cae en la primera búsqueda; un fallo real citado para lo que no dice pasa todos los controles rápidos y aparece recién cuando la contraria o el juez lo leen.

Señales de alarma en una respuesta

• Falta un dato. Una cita sin tribunal, sin fecha o sin número de expediente no se puede verificar, y lo que no se puede verificar no se cita.
• "Conforme reiterada jurisprudencia" sin ningún fallo concreto detrás.
• Una frase demasiado justa. Si el párrafo entre comillas dice exactamente lo que necesitabas, con tus mismas palabras, buscalo dos veces.
• Un tribunal que no corresponde. Una sala que no existe en ese fuero o una cámara que no entiende en esa materia.
• Ningún link. Si la herramienta no te deja llegar al texto de la sentencia, la cita es un punto de partida, no un resultado.

Protocolo para verificar una cita de fallo

1. Identificá el fallo. Carátula, tribunal, sala, fecha y, si lo hay, número de expediente. Si la IA no te dio alguno de esos datos, desconfiá.
2. Buscalo en una base oficial. Para la Corte Suprema, la consulta de sumarios de la Secretaría de Jurisprudencia de la CSJN. Para la Suprema Corte bonaerense, JUBA. Para otros tribunales, el SAIJ o la base que publique el propio tribunal.
3. Abrí el texto completo. El sumario es un resumen editorial: sirve para encontrar el fallo, no para citarlo.
4. Encontrá el párrafo. Si vas a poner algo entre comillas, tiene que estar literal en la sentencia. Copialo de ahí, no de la respuesta de la IA.
5. Mirá qué se votó. Confirmá que el párrafo es del voto que hizo mayoría y no de una disidencia.
6. Guardá el link. Si alguien del estudio revisa el escrito, que pueda llegar a la fuente en un clic.

Cómo verificar una cita de norma

1. Abrí el texto actualizado. Para las normas nacionales, InfoLeg publica el texto actualizado de la norma, con las modificaciones incorporadas. Citá el vigente.
2. Leé el artículo entero, con sus incisos. Muchas alucinaciones de norma son un inciso que no existe o que pertenece a otro artículo.
3. Revisá las notas de modificación. InfoLeg indica qué norma modificó o derogó cada parte.
4. Confirmá la jurisdicción. Una ley nacional y una provincial pueden compartir número.

Cómo pedirle a la IA que cite mejor

La verificación empieza en la pregunta. Tres pedidos que ayudan con cualquier asistente:

• "Dame carátula, tribunal, fecha y link de cada fallo." Obliga a la respuesta a traer todo lo que vas a necesitar para verificar.
• "Si no encontrás nada, decímelo." Es preferible un "no hay resultados" a una cita que completa el hueco.
• "Transcribí el párrafo que sostiene eso." Si no puede mostrarte el texto, no lo cites como si lo hubieras leído.

¿Dónde se verifica cada cosa?

Qué querés verificar	Dónde
Fallos de la Corte Suprema de Justicia de la Nación	Secretaría de Jurisprudencia de la CSJN (consulta de sumarios)
Fallos de la Suprema Corte de Buenos Aires	JUBA (SCBA)
Jurisprudencia y normativa de varias jurisdicciones	SAIJ, Sistema Argentino de Información Jurídica
Leyes y decretos nacionales	InfoLeg
Que una causa del PJN existe	Consulta pública de causas del Poder Judicial de la Nación

Cómo te ayuda AI Legales a citar fallos que existen

La forma de bajar el riesgo es que tu IA no responda de memoria. El MCP de AI Legales conecta a Claude o a ChatGPT con nuestra base de más de 700.000 sentencias y con la normativa nacional, de la Provincia y de la Ciudad de Buenos Aires. Cuando le pedís jurisprudencia, busca en esa base y cada fallo viene con su resumen, sus fundamentos y el link al PDF de la sentencia. Para citar textual, puede traer el texto completo del fallo; para una norma, trae el artículo puntual.

Eso no reemplaza el protocolo de arriba: el link existe para que abras el fallo y leas el párrafo antes de citarlo. Y si ya tenés el escrito armado:

• AIL Revisión revisa si el fallo que citás dice lo que le hacés decir, y un control automático marca fallos, leyes y artículos con números que no existen.
• En Mis Expedientes, la auditoría de citas es uno de los informes con IA sobre un escrito de la causa; cada fallo que está en nuestra base queda con su link.
• Para buscar vos mismo, el buscador de jurisprudencia trae cada fallo con su cita y el link al PDF.

Ninguna de estas herramientas garantiza que lo que produce la IA sea exacto. Lo que hacen es dejarte la fuente a un clic.

Fuentes

• Secretaría de Jurisprudencia de la CSJN.
• JUBA, Suprema Corte de Justicia de la Provincia de Buenos Aires.
• SAIJ, Sistema Argentino de Información Jurídica.
• InfoLeg, normativa nacional.
• Consulta de causas del Poder Judicial de la Nación.
• AI Legales: MCP y AIL Revisión.