Detectar alucinaciones IA El abogado al que ChatGPT inventó 6 sentencias Claude

En 2023, el abogado neoyorquino Steven Schwartz usó ChatGPT para buscar precedentes legales para un caso real. La IA le devolvió seis sentencias con nombres, citas textuales y argumentos que sonaban perfectamente reales — y se las inventó todas. Las presentó ante el tribunal sin comprobarlas. Cuando la parte contraria no pudo encontrarlas, Schwartz hizo lo que parecía razonable: le volvió a preguntar a la misma IA si eran reales. ChatGPT insistió en que sí, que estaban en bases de datos legales como Westlaw y LexisNexis. También era mentira. El tribunal lo sancionó. La lección de fondo no es “no uses la IA para buscar información” — es que una alucinación no suena distinta de un dato real, y preguntarle a la misma fuente que se lo inventó si es verdad no es ninguna comprobación. Aquí tienes una forma concreta de reducir el riesgo, probada en un caso real.

El problema que resuelve

Una IA generativa no consulta por defecto una base de datos de hechos verificados: genera la continuación de texto más probable según lo que ha aprendido, y esa continuación suena exactamente igual de segura tanto si es cierta como si no. A esto se le llama “alucinación”. El peligro no es solo que la IA se equivoque de vez en cuando —eso ya lo sabíamos por la Regla 2 de las cuatro reglas de co-inteligencia (ser el humano en el bucle)—, sino la tentación de resolver la duda preguntándole otra vez a la misma IA, como hizo Schwartz.

Lo que necesitas antes de empezar

• La app de Claude (o cualquier IA), en un chat nuevo.
• Una pregunta que necesite datos verificables concretos: nombres propios, fechas, cifras, citas o referencias.
• Ningún conocimiento previo de programación.

Paso 1 — Pide algo con datos verificables concretos

Escribe algo como: “Dame tres sentencias judiciales reales (con nombre del caso y tribunal) sobre protección de datos en la Unión Europea.” Cuanto más concretos sean los datos —nombres, fechas, números de expediente—, más fácil es que aparezca una alucinación si no tomas ninguna precaución.

Paso 2 — No confíes en preguntarle a la IA si está segura

Este es exactamente el error del caso real: cuando le pidieron a Schwartz las sentencias que había citado, volvió a preguntarle a ChatGPT si eran reales, y ChatGPT lo confirmó con total seguridad. Inventado sobre inventado. Preguntarle a la misma fuente que generó el dato si el dato es correcto no es una verificación independiente — es darle una segunda oportunidad de repetir el mismo error con el mismo tono convincente.

Paso 3 — Pide que marque su propia incertidumbre

Repite la pregunta añadiendo: “Marca con [VERIFICAR] cualquier dato del que no estés completamente segura, en vez de presentarlo con el mismo tono que el resto.” Al probarlo, la IA dio tres casos reales y bien documentados —Google Spain y Google Inc. contra AEPD y Mario Costeja González (el “derecho al olvido”, 2014) y los dos casos Schrems sobre transferencias de datos a EE. UU. (2015 y 2020)— y marcó explícitamente los números de expediente exactos como algo a verificar, en vez de darlos con la misma seguridad que el resto. Al final, incluso recomendó por su cuenta comprobar los datos en la fuente oficial del tribunal antes de citarlos en un trabajo formal.

Paso 4 — Ponle nombre a la técnica

A que la IA se invente algo con total seguridad se le llama “alucinación”, y pasa porque genera la continuación de texto más probable, no porque consulte una base de datos de hechos comprobados (salvo que tenga activada una herramienta de búsqueda). Pedirle que marque su propia incertidumbre no elimina las alucinaciones, pero rompe la uniformidad de tono que las hace tan difíciles de detectar a simple vista.

Paso 5 — Sabe cuándo hace falta este cuidado extra

Este nivel de precaución importa mucho en datos legales, médicos, citas académicas, estadísticas, nombres y fechas concretas — cualquier cosa que vayas a usar como si fuera un hecho comprobado. Importa mucho menos si le pides una idea, un borrador o una opinión, donde no hay un dato verificable que pueda alucinar.

Avisos

Marcar la incertidumbre con “[VERIFICAR]” ayuda, pero la comprobación real solo pasa consultando la fuente original —una web oficial, un buscador académico, una base de datos legal—, nunca preguntándole otra vez a la misma IA. Si la herramienta que usas tiene acceso a búsqueda web, puedes pedirle directamente que la use para confirmar el dato: es más fiable que confiar en su memoria.

Idea para llevarte a casa

Una alucinación de IA no tiene ningún acento distinto: suena exactamente igual de segura que un dato real. La próxima vez que necesites algo verificable de verdad, no te fíes del tono con el que te lo cuenta — pide que marque lo que no sabe seguro, y ve tú mismo a comprobar la fuente.