La paradoja de la supervisión epistémica: cuando confiar en la IA nos vuelve ciegos a sus errores

¿Cómo ajusta su atención? La evidencia experimental sugiere que el corrector tenderá a confiar en la IA, reduciendo su nivel de escrutinio, precisamente porque la IA ha demostrado ser fiable. Pero esta confianza es epistémicamente frágil: cuando la IA comete un error, el corrector no tiene las herramientas cognitivas para detectarlo porque su atención ya estaba calibrada para un nivel de fiabilidad que el error mismo contradice. Un estudio de Yin, Wu y Rao (2022) encontró que, en tareas de clasificación asistida por IA, los participantes reducían su tasa de verificación independiente en un 35% cuando el sistema mostraba una precisión superior al 90%, y que esta reducción era independiente de la complejidad de la tarea. Este mecanismo no es simplemente un problema de sesgo individual. Es un problema estructural que se reproduce a escala organizativa. Cuando una empresa implementa un sistema de IA para la generación de informes legales, y cientos de abogados supervisan miles de informes semanalmente, el sesgo de validación superficial se convierte en una propiedad del sistema organizativo, no en un error individual. La empresa no puede simplemente «entrenar» a sus abogados para que supervisen mejor, porque el problema no es de falta de esfuerzo sino de imposibilidad epistémica: no hay suficiente tiempo, atención ni capacidad cognitiva en el sistema para validar profundamente cada resultado generado por la IA. La supervisión se convierte en un ritual vacío, una ilusión de control que la IA misma erosiona.

Puntos clave

• 01La confianza en IA decrece el escrutinio humano, creando una fragilidad epistémica.
• 02La reducción de verificación es un 35% cuando la precisión supera el 90%, según estudio.
• 03Es un problema estructural, no individual: la supervisión se vuelve imposible a escala organizativa.