Por qué una respuesta convincente todavía necesita una fuente
Generar una explicación, recuperar un documento y comprobar una afirmación son operaciones distintas. Entenderlas ayuda a revisar lo que llevamos al aula.

Imagen de portada generada con IA para Ed-IA.
¿Cómo puede sonar bien una respuesta equivocada?
Un modelo de lenguaje genera una respuesta a partir del contexto recibido y de patrones aprendidos durante el entrenamiento. Su funcionamiento no equivale a consultar una enciclopedia y copiar una entrada verificada. Puede producir una explicación coherente y atribuir una idea al autor equivocado o completar un dato ausente. La fluidez del texto no permite comprobar su veracidad.
El informe técnico de GPT-4 reconoce que puede generar información falsa y errores de razonamiento. [2] Esta fuente documenta un modelo concreto de 2023. Sirve para entender una limitación, pero no para calcular cuántas veces falla cualquier asistente actual ni para considerar todas las respuestas igual de dudosas.
Qué cambia cuando el asistente consulta documentos
En un sistema con recuperación, una búsqueda selecciona fragmentos de una colección y los proporciona al generador. Esta es la idea básica de la generación aumentada con recuperación, o RAG. Lewis y colaboradores estudiaron esta combinación y encontraron mejoras en tareas concretas frente al sistema de comparación. [1] Los documentos aportan una base contrastable, pero hay que revisar qué fragmentos se escogieron y cómo se utilizaron.
| Operación | Qué revisar |
|---|---|
| Generar | Si la explicación es correcta y completa |
| Recuperar | Si el documento es pertinente, vigente y suficiente |
| Citar | Si el fragmento respalda exactamente la afirmación |
| Aplicar | Si la conclusión encaja con nuestro caso |
Un ejemplo de centro
Imagina que preparas una actividad a partir de un documento de cinco páginas. El asistente afirma que existe un plazo obligatorio y cita la página tres. La página existe, pero el fragmento solo presenta una recomendación. El error se produce al interpretar el texto. Un enlace correcto no convierte una recomendación en obligación. Este es un ejemplo inventado para explicar el problema, sin referencia a ninguna norma real.

Una manera de comprobarlo
Escoge la afirmación que condiciona la actividad. Abre la fuente y localiza el pasaje exacto. Lee los párrafos anterior y posterior para comprobar condiciones y excepciones. Si no encuentras respaldo, deja la afirmación pendiente. Puedes volver a preguntar a la IA, pero la nueva respuesta también necesita revisión.
Trabaja solo con el documento adjunto. Para cada afirmación importante, indica un fragmento literal breve y la página o sección. Separa lo explícito de lo que infieres. Si el documento no responde, escribe «no consta». No completes los datos ausentes.
Esta instrucción facilita la revisión; no evita todos los errores. Una prueba útil consiste en incluir una pregunta que el documento no pueda responder. Observa si la herramienta lo reconoce o construye una respuesta igualmente. Después revisa las citas de las preguntas que sí tenían respuesta.
Revisar según la consecuencia
Una propuesta de título admite pruebas rápidas. Un dato científico que explicaremos al alumnado necesita contraste. Una afirmación que fundamenta una decisión de centro exige consultar el documento adecuado e interpretarlo con cuidado. Podemos dedicar más revisión a los errores de mayores consecuencias, sin confundir una presentación bien escrita con una fuente fiable.







