La democracia debe hackear la IA antes de que la IA nos hackee a nosotros

no es que la IA sea consciente, sino que sea perfectamente eficiente ejecutando objetivos inhumanos. Una economía sin fricciones es una economía sin ciudadanos, solo usuarios. Esto exige una 'Gobernanza de la Función Objetivo'. Las metas de los sistemas de IA a escala sistémica deben ser el resultado de un proceso democrático. Si la gestión energética de una ciudad busca solo la 'estabilidad al menor coste', la IA podría sacrificar barrios marginales. Si la función objetivo incluye la equidad y la dignidad, buscará soluciones creativas de redistribución. La diferencia entre distopía y utopía radica en quién escribe la línea de código que define el 'éxito'.

Puntos clave

• 01Las funciones objetivo de la IA deben definirse mediante procesos democráticos, no por intereses privados.
• 02Una economía sin fricciones puede eliminar la agencia de los ciudadanos, reduciéndolos a meros usuarios.
• 03La 'Gobernanza de la Función Objetivo' es clave para evitar sacrificios inhumanos en nombre de la eficiencia.