El encuadre invisible: cómo los modelos de IA imponen su sesgo sin negociación

La atención, tanto humana como algorítmica, es inherentemente selectiva: no puede atender a todo, y por lo tanto debe priorizar. La cuestión no es si el modelo sesga la atención, sino cómo lo hace y en beneficio de quién. Para entender este mecanismo, podemos recurrir al concepto de framing que desarrolló Lakoff (2004) en su análisis del lenguaje político. Lakoff argumentó que las palabras y metáforas que usamos no son vehículos neutrales de significado; encuadran nuestra comprensión de la realidad, destacando ciertos aspectos y ocultando otros. El encuadre no es solo retórica; es cognición: determina qué información procesamos y cómo la interpretamos. Cuando un político habla de 'alivio fiscal' en lugar de 'recortes de impuestos para los ricos', no elige palabras diferentes; activa marcos cognitivos diferentes que llevan a conclusiones diferentes. Los modelos fundacionales operan de manera similar, pero con una diferencia crucial: su encuadre no es explícito ni negociable. Cuando una empresa usa un modelo para analizar un problema, el modelo no solo da una respuesta; encuadra el problema de una manera particular. Selecciona qué variables son relevantes, qué relaciones causales importan, qué métricas deben usarse para evaluar el éxito. Este encuadre no es neutral; refleja los sesgos y prioridades del proveedor del modelo, que pueden no alinearse con los intereses de la empresa cliente. La empresa cliente no negocia el encuadre; lo recibe como un hecho consumado, incrustado en la arquitectura del modelo.

Puntos clave

• 01La atención algorítmica es selectiva y no neutral: prioriza ciertos aspectos sobre otros.
• 02El concepto de framing de Lakoff muestra que el lenguaje y los modelos cognitivos no son neutrales; encuadran la realidad.
• 03En los modelos fundacionales, el encuadre es implícito y no negociable, imponiendo los sesgos del proveedor.