El heurístico de la competencia delegada: cómo confiamos ciegamente en la IA

Kahneman y Tversky (1974) demostraron que los humanos utilizan heurísticos —atajos cognitivos— para emitir juicios bajo incertidumbre, y que estos heurísticos producen sesgos sistemáticos. En el contexto de la supervisión de IA, el heurístico dominante es lo que podríamos llamar heurístico de competencia delegada: el trabajador asume que si el sistema ha producido resultados correctos en el pasado, y si el resultado actual es superficialmente coherente, entonces es probable que sea correcto en sus aspectos sustantivos. Este heurístico es eficiente en términos de esfuerzo cognitivo, pero produce un sesgo de sobreconfianza en la calidad del resultado que solo se corrige cuando ocurre un error lo suficientemente grave como para ser detectado —y para entonces, el daño ya está hecho.

Puntos clave

• 01Los humanos usan atajos cognitivos (heurísticos) para juzgar bajo incertidumbre.
• 02En la supervisión de IA, domina el heurístico de competencia delegada: asumir que si antes funcionó y ahora es coherente, entonces es correcto.
• 03Esto genera un sesgo de sobreconfianza que solo se corrige cuando el error es grave y ya es tarde.