Introducción
En Five Cents vamos a ver cómo reconocer cuándo una IA se equivoca y cómo comprobar sus respuestas antes de usarlas. Revisaremos datos, referencias, cálculos y sesgos, con una rutina sencilla para decidir qué merece confianza y qué sigue siendo incierto. El punto de partida es este: una respuesta bien escrita no es una respuesta verificada.
Los modelos de lenguaje generan texto plausible
Los modelos de lenguaje generan texto plausible, pero no garantizan que cada afirmación se haya contrastado con la realidad. Pueden inventar una fecha, mezclar dos personas o explicar con seguridad una conclusión falsa. Estos fallos suelen llamarse alucinaciones o confabulaciones. Para ti, lo importante no es aprender el nombre, sino separar lo que la respuesta afirma de las pruebas que ofrece. El detalle, la fluidez y el tono categórico no sirven como certificado de exactitud. Tampoco una respuesta dubitativa es necesariamente incorrecta.
Conviene distinguir cuatro problemas: datos inventados o desactualizados, referencias inexistentes o mal utilizadas, cálculos erróneos y sesgos o simplificaciones. Pueden aparecer juntos. Un texto puede citar un estudio real y atribuirle una conclusión que no contiene.
Empieza por dividir la respuesta en afirmaciones comprobables: quién hizo qué, cuándo ocurrió, cuánto cuesta o qué demuestra una investigación. Después, prioriza. No hace falta revisar cada adjetivo; sí las cifras, las fechas y cualquier afirmación que pueda cambiar una decisión importante. Así conviertes una impresión general de confianza en preguntas concretas que puedes resolver.
Con las referencias hay dos comprobaciones distintas: que la fuente exista y que respalde lo que se dice. Imagina que una IA afirma que un estudio demuestra una mejora del rendimiento y te da una referencia. Pídele que identifique el documento y qué resultado concreto sostiene esa frase. Después, localízalo y ábrelo tú. Comprueba título, autoría y fecha, pero también la población estudiada, las condiciones y los límites.
Que el enlace funcione no basta
Que el enlace funcione no basta: podría llevar a otro trabajo o a un texto que solo menciona el tema. Si el asunto importa, busca el estudio original o una confirmación independiente fiable. Y si no puedes encontrar la referencia, no la cites como respaldo. Pedir más referencias al mismo sistema tampoco equivale a tener más pruebas. Cada una necesita esa revisión.
En los cálculos, separa los datos de entrada, las unidades y las operaciones. Un ejemplo didáctico: un producto cuesta ochenta euros, sube un diez por ciento y después baja un diez por ciento. ¿Vuelve a ochenta? No. La subida lo deja en ochenta y ocho euros. La bajada se calcula sobre ese nuevo precio y lo deja en setenta y nueve euros con veinte céntimos. Los porcentajes son iguales, pero se aplican a cantidades diferentes.
Una explicación ordenada puede ocultar ese error. Reproduce la cuenta con una calculadora o una hoja de cálculo y revisa qué cantidad se usa como base. También comprueba que no se mezclen meses con años, metros con centímetros o precios con y sin impuestos. Una herramienta puede ejecutar bien una operación mal planteada.
Los sesgos exigen otra revisión: qué criterios se usan, qué personas faltan y qué se está dando por supuesto. Ante una recomendación de contratación, pide que explique qué requisitos considera relevantes y por qué. Observa si confunde disponibilidad horaria con compromiso o si generaliza a partir de un grupo limitado. Puedes comparar cómo cambia la respuesta al modificar un dato del perfil, manteniendo lo demás igual. Eso puede revelar diferencias que merecen revisión, pero no demuestra por sí solo que el sistema sea justo o injusto.
Tampoco basta con pedirle que sea imparcial
Tampoco basta con pedirle que sea imparcial. Hay que examinar si la conclusión se sostiene para las personas a las que se pretende aplicar y si distingue hechos de valoraciones. La rutina completa consiste en descomponer, priorizar, rastrear, recalcular o comparar y acotar la conclusión. Puedes pedir a la IA que señale puntos dudosos, pero su revisión no es una confirmación externa.
Buscar en internet tampoco elimina automáticamente el riesgo: importa la calidad, la fecha y la pertinencia de lo encontrado. Para datos cambiantes, comprueba cuándo se actualizaron. En salud, derecho o finanzas, eleva el nivel de revisión con fuentes oficiales y profesionales cualificados cuando corresponda. Y evita un último salto: encontrar un error no demuestra que todo sea falso, igual que comprobar un dato no valida el resto de la respuesta.
Quédate con esto: comprueba las afirmaciones que cambian decisiones, revisa lo que realmente dicen las fuentes y reproduce las cuentas. Lo que no puedas verificar debe seguir siendo incierto. Para practicar otros ángulos, puedes generar dos nuevos Five Cents: Cómo contrastar información en internet, sobre la calidad de las pruebas, y Cómo pedir a una IA respuestas verificables, sobre instrucciones que facilitan la revisión.
Ya estás al día en cinco minutos.