Lotook
Lo más peligroso de las respuestas de la IA no es que a menudo sean incorrectas. Es que una respuesta incorrecta llega exactamente con el mismo tono seguro y bien organizado que una correcta.
El caso que ahora conoce todo el mundo en el ámbito jurídico es Mata v. Avianca. En 2023, unos abogados presentaron en un caso federal de Nueva York un escrito que citaba resoluciones judiciales inventadas por ChatGPT, incluidas citas falsas. Cuando preguntaron si los casos eran reales, ChatGPT les aseguró que «efectivamente existen» y que podían encontrarse en bases de datos jurídicas. No era así. En junio de 2023, Judge P. Kevin Castel impuso a los abogados y a su bufete una multa de $5,000.
Las herramientas han mejorado mucho desde entonces, pero la lección no ha cambiado: no se puede pedir al modelo que avale su propia respuesta. Esta guía presenta la rutina que recomendaría para comprobar una respuesta de IA antes de confiar en ella. Lleva unos cinco minutos y permite detectar la mayoría de los problemas.
Por qué fallan las respuestas de la IA
Entender cómo se producen los errores te indica dónde buscar.
- Lo plausible vence a lo verdadero. Los modelos de lenguaje producen texto que encaja con los patrones que han aprendido. Cuando no saben algo, pueden generar una respuesta que solo parece correcta en lugar de decir «No lo sé».
- El conocimiento queda desactualizado. Un modelo puede desconocer los acontecimientos recientes si no busca en la web e, incluso cuando lo hace, puede recurrir a información más antigua.
- Las fuentes se mezclan. Dos estudios, dos personas con nombres parecidos o dos versiones de una política pueden fusionarse en una sola frase formulada con seguridad.
- Las referencias se inventan o se interpretan mal. Un enlace puede no existir, llevar a una página sin relación o decir algo distinto de lo que afirma el resumen basado en él.
- Las cifras se alteran. Los errores se concentran en porcentajes, fechas, unidades y monedas.
Los asistentes que buscan en la web y muestran sus fuentes son mucho mejores que hace unos años. Aun así, siguen cometiendo todos estos errores de vez en cuando.
Decide primero cuánto hay que comprobar
No todas las respuestas necesitan el mismo examen. Ajusta el esfuerzo a lo que esté en juego.
| Nivel de importancia | Ejemplos | Qué hacer |
|---|---|---|
| Bajo | Buscar ideas para nombres, reformular un correo, explicar un concepto que estudiarás de todos modos | Lee con sentido crítico. No hace falta una comprobación formal |
| Medio | Datos en un documento de trabajo, un resumen que compartirás, instrucciones que seguirás | Realiza la comprobación de cinco minutos que se explica a continuación |
| Alto | Decisiones sobre salud, cuestiones legales, dinero o seguridad; cualquier contenido que publiques | Realiza la comprobación y después confirma la información con fuentes primarias o un profesional cualificado |
La comprobación de cinco minutos
Primer minuto: enumera las afirmaciones
Lee la respuesta por encima y extrae los elementos concretos que puedas comprobar: nombres, cifras, fechas, citas, referencias y afirmaciones de causa y efecto como «X condujo a Y». Ignora el texto de enlace. La mayoría de las respuestas se apoyan en tres a seis afirmaciones, y eso es lo que debes verificar.
Si no encuentras ni una sola afirmación verificable, tenlo en cuenta también. Es difícil demostrar que las respuestas vagas son falsas, pero también es difícil confiar en ellas.
Segundo minuto: abre todas las fuentes
Si el asistente citó fuentes, haz clic en cada una. Para cada fuente, hazte tres preguntas. ¿Existe la página? ¿Es el tipo de fuente que dice ser, como una página oficial, un estudio o un medio de prestigio, en lugar de una granja de contenidos? ¿Y dice realmente lo que la respuesta afirma que dice?
La última pregunta detecta la mayoría de los errores. En la práctica, una fuente real acompañada de un resumen incorrecto es mucho más frecuente que un enlace falso y resulta mucho más fácil pasarla por alto porque el enlace parece correcto.
Si no hay fuentes, pídelas y compruébalas. Pero no aceptes la palabra del modelo de que sus fuentes son reales. Eso es precisamente lo que salió mal en Mata v. Avianca.
Tercer minuto: lee lateralmente
Los verificadores de datos no juzgan una fuente leyéndola detenidamente. Abren otra pestaña y miran qué dicen los demás sobre ella. El investigador de alfabetización digital Mike Caulfield convirtió esto en un método llamado SIFT:
- Stop: detente antes de reaccionar o compartir, especialmente si una afirmación te provoca una fuerte indignación o alegría.
- Investigate the source: investiga la fuente. ¿Quién está detrás y por qué se le conoce?
- Find better coverage: busca una mejor cobertura. ¿Informan otras fuentes fiables de lo mismo?
- Trace claims: rastrea las afirmaciones hasta su contexto original: el estudio real, la cita completa, la foto original.
Buscar la frase clave entre comillas, o un nombre junto con una palabra clave, suele revelar el original en segundos.
Cuarto minuto: comprueba cifras y fechas
Examina atentamente cada cifra.
- ¿Está actualizada? Busca una fecha de referencia. Los precios, las leyes, las características de los productos y las estadísticas cambian constantemente.
- ¿Es la medida correcta? Se confunden ingresos y beneficios, usuarios y usuarios activos mensuales, porcentajes y puntos porcentuales.
- ¿Cuadran las cuentas? Si algo se «duplicó» al pasar de 40 a 70, no se duplicó.
- ¿Son correctas las unidades? Presta atención a las monedas, los millones frente a los miles de millones y el sistema métrico frente al imperial.
Quinto minuto: pregunta qué cambiaría la respuesta
Pide al asistente que busque fallos en su propia respuesta. Por ejemplo: «¿De qué partes de tu respuesta estás menos seguro y qué tendría que comprobar para confirmarlas?»
Esto suele sacar a la luz rápidamente los puntos débiles. Sin embargo, trata la respuesta como una lista de tareas pendientes, no como una verificación. El modelo sigue corrigiendo sus propios deberes. Para cualquier asunto importante, plantear la misma pregunta a un modelo de otro proveedor es una forma económica de obtener una segunda opinión; nuestra guía sobre cómo elegir un modelo de IA explica cuándo merece la pena.
Señales de alerta que merecen una segunda revisión
| Señal de alerta | Por qué importa |
|---|---|
| Cifras muy precisas sin fuente | La precisión puede inventarse tan fácilmente como cualquier otra cosa |
| Citas de personas famosas | Las citas mal atribuidas abundan en los datos de entrenamiento |
| Referencias con títulos genéricos o enlaces que llevan a una página de inicio | Señales habituales de una referencia que no existe |
| Descripciones detalladas de acontecimientos recientes de una herramienta sin acceso a la web | Puede estar llenando los vacíos con información más antigua |
| Una respuesta que cambia al volver a generarla | El modelo no está seguro, aunque cada versión suene convincente |
| Una respuesta que dice exactamente lo que esperabas | Los modelos tienden a seguir el planteamiento de la pregunta |
La última es la más difícil de detectar. Si preguntas «¿Por qué es X una buena idea?», normalmente obtendrás razones por las que X es una buena idea. Pregunta en cambio: «¿Cuáles son los argumentos más sólidos a favor y en contra de X?»
Casos especiales
Imágenes, capturas de pantalla y vídeo
Las imágenes generadas y editadas por IA son habituales hoy en día, y falsificar una captura de pantalla de una «publicación» lleva segundos. Haz una búsqueda inversa de imágenes para encontrar copias anteriores y el contexto original. Comprueba si el archivo contiene Content Credentials, el estándar de procedencia de la coalición C2PA que algunas cámaras, aplicaciones de edición y generadores de IA adjuntan a las imágenes.
La regulación empieza a ayudar. Desde el 2 de agosto de 2026, las normas de transparencia del EU AI Act obligan a los proveedores de sistemas de IA generativa a marcar el contenido sintético de forma legible por máquina y a quienes publican ultrafalsificaciones a indicarlo. Los sistemas que ya estaban en el mercado antes del 2 de agosto tienen hasta el 2 de diciembre de 2026 para añadir el marcado. Nuestro artículo sobre las normas de la UE para etiquetar contenido de IA explica los detalles. Las etiquetas pueden seguir faltando o eliminarse, así que considera su ausencia como «desconocido», no como «real».
Salud, derecho y dinero
Usa la IA para entender tu situación y preparar mejores preguntas, no para tomar la decisión final. Confirma todo aquello sobre lo que vayas a actuar con una fuente primaria, como una página oficial del gobierno o el texto real de una ley o política, o con un profesional cualificado.
Noticias de última hora
Las primeras informaciones suelen ser incorrectas y los resúmenes de IA heredan esos errores. Cuando una noticia evoluciona rápidamente, espera a que varios medios consolidados la confirmen o acude directamente a ellos.
Pide respuestas fáciles de comprobar
Puedes ahorrar tiempo si pides desde el principio una respuesta verificable:
- «Cita una fuente para cada afirmación factual, con un enlace directo y una breve cita de la página».
- «Separa lo que está bien establecido de lo que es incierto o discutido».
- «Incluye la fecha a la que se refiere cada estadística».
- «Si no lo sabes, dilo en lugar de adivinar».
Ninguna de estas peticiones garantiza la exactitud. Cada una facilita la detección de problemas. Y si pegas documentos para que el modelo los use en su comprobación, elimina primero cualquier información sensible. Nuestra guía sobre cómo usar IA en el trabajo sin filtrar datos sensibles explica qué debes omitir.
El hábito más importante
Si solo te quedas con una cosa de esta guía, que sea esta: abre las fuentes. La mayoría de los errores de IA que causan daños reales se habrían detectado si alguien hubiera seguido el enlace y leído la página.
La misma regla se aplica cuando un agente de IA informa sobre el trabajo que ha realizado para ti. «Tarea completada» es una afirmación, no una prueba. Nuestra guía sobre qué es un agente de IA explica por qué esto importa más a medida que los agentes asumen tareas más largas.
Fuentes
- LawNext, Court imposes sanctions on lawyers who filed bogus cases after relying on ChatGPT for legal research, 22 de junio de 2023
- Wikipedia, Mata v. Avianca, Inc.
- Mike Caulfield, SIFT (The Four Moves), 19 de junio de 2019
- C2PA, la Coalition for Content Provenance and Authenticity
- European Commission, Guidelines on transparency obligations for providers and deployers of certain AI systems
- Morgan Lewis, EU AI Act’s transparency rules: what went into effect on 2 August, agosto de 2026
