El Turco Mecánico: Democracia, Tecnocracia y Automatización de las Decisiones Administrativas

Foto Diego Pardow

Artículo Central por Diego Pardow*

El Turco Mecánico: Democracia, Tecnocracia y Automatización de las Decisiones Administrativas

 

Algo más que un juego de ajedrez

En uno de sus primeros ensayos, Edgar Allan Poe denuncia el fraude de un supuesto autómata que habría sido construido hacia finales del siglo XVIII, conocido popularmente como el “turco mecánico”. Se trataba de una estructura mecánica que aparentaba jugar ajedrez de manera autónoma, pero que en verdad escondía a un humano en su interior. Era el humano quien tomaba la decisiones y movía las piezas, pero haciendo creer al jugador oponente que enfrentaba a una máquina. Ello no solamente permitía publicitar el espectáculo como un avance tecnológico que parecía imposible durante el siglo de las luces, sino que otorgaba una ventaja estratégica al jugador escondido. Como el supuesto autómata carece de emociones, como sus movimientos mecánicos disfrazan cualquier atisbo de duda, el jugador oponente tiene la desventaja sicológica de enfrentar a un ajedrecista que se presenta como inhumanamente superior (Poe 1836, p. 324).

Algo similar ocurre con la automatización de las decisiones administrativas. En nuestro actual estado de avance tecnológico, los sistemas informáticos permiten acelerar el flujo de información entre el lugar donde se adoptan las decisiones y el lugar donde se ejecutan, o incluso pueden existir máquinas que reemplazan la intervención humana en el punto de ejecución; pero pese a todos los programas y circuitos, hoy en día la decisión inicial sigue siendo humana (Bostrom 2014). Desde esta perspectiva, el proceso de automatización de las decisiones administrativas esconde un turco mecánico. Detrás de una apariencia de inteligencia artificial subyace el dilema tradicional del Estado moderno: entregar el poder para decidir sobre nuestro bien común a un grupo de burócratas que responde a lealtades políticas, o bien hacerlo respecto de un grupo de profesionales orientados por los cánones técnicos de su disciplina (Wilson 1989, p. 149). Al igual que con el jugador mecánico, sin embargo, su incorporación cambia la naturaleza del juego. Por un lado, cambia la manera en que el aparato público se relaciona con sus administrados; y, por otro, cambia también la dinámica de poder dentro del Estado.

Miremos el ejemplo del sistema de selección escolar implementado por el gobierno de Michelle Bachelet. Durante la pasada campaña presidencial, Sebastián Piñera criticaba este sistema argumentando que una decisión tan importante no podía ser dejada a la suerte. Sin embargo, como se apuraron a explicarle los técnicos en educación de su propio sector político, la decisión de admitir al niño en un colegio tiene bastante poco de aleatoria. El sistema de selección ordena y sistematiza las preferencias de los apoderados, para luego adjudicar las vacantes de acuerdo con los criterios de selección que determina el ministerio. En términos sencillos, este mecanismo utiliza un ejercicio de optimización para reemplazar a un funcionario local, quien implementaba los criterios de selección según su propia discreción. Ahora bien, los criterios de selección siguen siendo definidos de manera exógena al sistema automatizado, por una combinación de tecnócratas y burócratas que se disputan el poder al nivel donde efectivamente se toman las decisiones. Mal que mal, sigue habiendo un humano detrás de los engranajes que mueven al autómata de la selección escolar.


“Detrás de una apariencia de inteligencia artificial subyace el dilema tradicional del Estado moderno: entregar el poder para decidir sobre nuestro bien común a un grupo de burócratas que responde a lealtades políticas, o bien hacerlo respecto de un grupo de profesionales orientados por los cánones técnicos de su disciplina.”

Pero también es importante destacar la manera en que se altera la interacción entre el Estado, los ciudadanos y los funcionarios. Cuando un programa piloto asignó vacantes escolares en la ciudad de Porvenir a estudiantes que vivían en Punta Arenas, los apoderados carecían de un culpable inmediato. En ausencia de un funcionario que sirviera de chivo expiatorio, tuvo que ser la propia vocera de gobierno Paula Narváez quien asumiera el liderazgo de una discusión claramente local. Ello muestra que la centralización no solamente tiene ventajas, sino también riesgos. Ahora bien, el tema está lejos de agotarse en la disminución de los costos de transacción. Cambiar los mecanismos de interacción con los ciudadanos cambia igualmente las estrategias con  que ellos se aproximan al funcionario. Siguiendo con los ejemplos en educación, poco después de centralizar la admisión al sistema universitario mediante una prueba estándar, comenzaron a aparecer instituciones especializadas en preparar a los estudiantes para responderla. Donde antes existía la estrategia de aprender contenidos, ahora existe la estrategia de aprender a resolver el test de admisión. Al deshumanizar el proceso para la toma de decisiones administrativas, los ciudadanos dejan de invertir tiempo en persuadir al funcionario para esforzarse por contestar estratégicamente un formulario, presentar la información que compila una ficha, o de otro modo explotar los espacios que deja abierto el sistema artificial.

 

El resorte de la máquina

Resulta notable que hace casi doscientos años Diego Portales se refiriese al Estado como una “máquina” cuyo “resorte” principal consistía en la autoridad impersonal del gobernante. En otras palabras, aquello que aseguraba la obediencia de los ciudadanos era precisamente un gobierno estable y serio, electo de manera regular y predecible, casi mecánica (Edwards 2005, pp. 68-69). Pareciera como si el padre de nuestra burocracia también hubiera estado pensando en un turco mecánico, como si al disfrazar al Estado de máquina y deshumanizarlo estuviera mejorando su capacidad para ejercer autoridad frente a los ciudadanos. Ahora bien, ciertamente Portales no es el único en pensar así. El mismo Max Weber concibe la obediencia al Estado, eso que denomina dominación burocrática, como una oposición a la dominación de carácter carismático. Mientras esta última depende de la santidad y heroísmo del líder, la dominación burocrática es ejercida sine ira et studio: sin odio o pasión, sin amor o entusiasmo (Weber 1922, pp. 170-179). Desde esta perspectiva, automatizar las decisiones administrativas pareciera estar en plena sintonía con las ideas fundacionales del Estado moderno. Al incorporar tecnologías para el manejo de información el Estado adopta la apariencia de una máquina; se vuelve más rápido y predecible, favoreciendo la obediencia por parte del ciudadano.

Fomentar el cumplimiento espontáneo de las reglas es claramente una ventaja. El poder es un recurso limitado, y como tal se va gastando cada vez que lo utilizamos. Pero al igual que con el turco mecánico, esta ventaja estratégica viene a cambio de un precio. Cuenta la historia que durante una de sus exhibiciones el turco mecánico fue derrotado por un maestro de ajedrez, quien luego de ganar la partida habría reaccionado violentamente, intentando desarmar la estructura mecánica y evidenciar el fraude. Esto mismo pareciera estar detrás de los errores en el programa piloto de selección escolar señalados más arriba. Difícilmente la vocera de gobierno habría tenido que dar explicaciones si fuera un funcionario humano el que asigna vacantes escolares en una ciudad equivocada. Todos sabemos que errar es humano y cualquiera puede equivocarse al procesar un formulario. Pero precisamente por eso, porque errar no es propio de las máquinas, pareciera que el error del autómata tiene su propio simbolismo. De manera similar a lo que sucede en filosofía, donde el resentimiento en contra de otra persona implica valorar su libertad para haber actuado como lo hizo, la constatación del error niega la autonomía de la máquina y revela la existencia del humano escondido (Strawson 1974). Así, la automatización de las decisiones administrativas no solamente facilitaría el ejercicio del poder y la obediencia civil, sino que también altera la manera en que funciona la responsabilidad política.


“Automatizar las decisiones administrativas pareciera estar en plena sintonía con las ideas fundacionales del Estado moderno. Al incorporar tecnologías para el manejo de información el Estado adopta la apariencia de una máquina; se vuelve más rápido y predecible, favoreciendo la obediencia por parte del ciudadano.”

Tomemos la historia con que Eduardo Dargent (2015) comienza su libro sobre política latinoamericana. A mediados del 2005 el presidente peruano Alejandro Toledo enfrentaba una de sus peores crisis, con niveles de aprobación ciudadana cercanos al 20% y gran parte de sus promesas electorales sin cumplir. Acuñando una metáfora que luego terminó instalándose en la opinión pública, Toledo intentó radicar la responsabilidad política por sus errores en un grupo de “tecnócratas insensibles” del Ministerio de Hacienda, los que habrían atado de manos la vocación social del gobierno. La respuesta vino algunos meses después por parte de Pedro Pablo Kucynski, quien había encabezado el equipo económico de Toledo desde distintos ministerios y era reconocido como el líder de este grupo de tecnócratas insensibles: “ellos te dieron un crecimiento económico del 6,5%, así que basta de lloriqueos”. Los electores fueron igualmente enfáticos en su respuesta. El partido de gobierno perdió prácticamente todos sus escaños en la elección siguiente y actualmente está a un paso de dejar de existir. Como sucede con el turco mecánico y los procesos de automatización, la tecnocracia cumple una finalidad estratégica. Es común utilizar instancias técnicas para justificar una decisión administrativa, porque con ello se evita el desgaste asociado al debate político.

Ahora bien, esta delegación difícilmente servirá de excusa si el gobierno es incapaz de satisfacer las expectativas de los votantes. El gobernante puede intentar que el tecnócrata mueva las piezas de ajedrez, pero no puede echarle la culpa cuando pierde la partida. De hecho, la tecnocracia dista mucho de ser un instrumento puesto únicamente al servicio del poder político. Como lo demuestra la experiencia en Chile o Perú, nuestros expertos típicamente tienen su propia agenda y buscan expandir su esfera de influencia dentro del gobierno. La manera de materializar esa expansión consiste en dominar el lenguaje con que se adoptan las decisiones administrativas. El Estado chileno tradicionalmente se comunicaba con el lenguaje del Derecho Público y los abogados. El empuje tecnocrático que comienza hacia finales del siglo pasado con los Chicago boys, pero que luego continúa durante la transición con los cuadros de CIEPLAN o Expansiva, supuso desafiar esta hegemonía introduciendo el lenguaje de las políticas públicas y la economía (Silva 2008). Automatizar las decisiones administrativas trae aparejado un nuevo desafío respecto de la manera en que se comunica el Estado, esta vez asociado al lenguaje de la programación, los algoritmos y el big data.

En definitiva, mecanismos como el nuevo sistema de selección escolar parecieran fortalecer la autoridad del Estado, reforzando el resorte de esta máquina portaliana. Al final del día, resulta extraño quejarse contra una tómbola. Deus ex machina, decía Ignatius en “La conjura de los necios”. Cuando la fortuna gira en tu contra solamente queda resignarse. Pero una tómbola tampoco puede absorber responsabilidad. Un sistema de selección que tiene sesgos políticos o se comporta de manera arbitraria niega su propia inhumanidad; no es dios, y tampoco es máquina. Detrás de la cortina queda solo el responsable político de las decisiones. Más aún, el dueño del espectáculo debiera ser consciente de que el éxito del turco mecánico está entregado en gran medida al desempeño del ajedrecista escondido. Así como ayer dependía de los abogados, buena parte del gobierne depende hoy de los economistas y mañana dependerá de los programadores. Definir una decisión administrativa como un aspecto técnico, supone entregar poder político a los profesionales que definen los cánones de esa disciplina.

 

Siguiendo el camino amarillo

Durante mucho tiempo nos hemos acostumbrado a enfrentar las discusiones políticas desde una dicotomía entre Estado y mercado. La manera usual de dibujar esta dicotomía fue propuesta por Hayek (1945), quien señala que la superioridad del mercado radicaría en la mayor cercanía que existe entre el lugar donde se toman las decisiones y el lugar donde ocurren los hechos. No se trata de una diferencia fundamental en términos de incentivos, ya que tanto gerentes como gobernantes se mueven por auto-interés y su satisfacción depende del desempeño de la institución que lideran. Tampoco se trata en Hayek de asumir que los primeros son moral o intelectualmente superiores a los segundos. El debate entre Estado y mercado se trata simplemente de centralizar o descentralizar los procesos para tomar decisiones. En este ámbito el mercado llevaría ventaja porque la información viaja menos, lo que permite evitar distorsiones y ahorrarse intermediarios. Ahora bien, nuestro mundo pareciera estar borrando las fronteras de esta dicotomía. Las mejoras tecnológicas han reducido tanto los costos de transmitir información, que la distancia entre el lugar donde se toman las decisiones y el lugar donde ocurren los hechos tiende a volverse irrelevante. Desde esta perspectiva, automatizar las decisiones administrativas permitiría hacer más rápido y eficiente al Estado, corrigiendo así su histórica desventaja frente a los mecanismos de mercado.

Cabe preguntarse, sin embargo, qué pasará con todos esos intermediarios que desaparecen. Por una parte, cuando los intermediarios son personas de carne y hueso, eliminar estos costos de transacción siempre trae aparejado un problema social. Es posible que las empresas utilicen cada vez menos gente, que el Estado utilice cada vez menos funcionarios, y que una comunidad definida en función de las relaciones de trabajo tenga que encontrar nuevas maneras de organizar su contrato social (Rifkin 1995). También es posible que el reemplazo de mano de obra concentre todavía más los ingresos y el poder político (Caffentzis 1999). Ahora bien, el debate acerca de cómo será nuestro futuro después del capitalismo escapa a los límites de este ensayo. Por ello, quisiera concentrarme en imaginar los cambios que debiera generar la automatización de las decisiones administrativas dentro el Estado, incluso antes de que dicha automatización se convierta en un problema social por sí misma. El Estado moderno efectivamente se caracteriza por la existencia de muchos funcionarios en ese espacio intermedio entre el lugar donde se toman las decisiones políticas y el lugar donde se ejerce poder sobre la ciudadanía. Cuando Josef intentaba defenderse, el laberinto de funcionarios que lo separan del oficial acusador hacía que la comunicación se perdiera y “El proceso” resultase imposible de entender. Pero esta ineficiencia comunicativa del Estado no siempre resulta en una pesadilla kafkiana.

Déjenme ilustrarlo de la siguiente manera. En un clásico del cine norteamericano, una joven llamada Dorothy Gale se encuentra atrapada en un mundo fantástico y para volver a su hogar necesita la ayuda de “El Mago de Oz”. Este mago vive al final de un camino de ladrillos amarillos, por lo que Dorothy emprende rápidamente su viaje. Durante el recorrido conoce a otros tres personajes que también necesitan ayuda, de modo tal que después de enfrentar juntos distintas aventuras, llegan finalmente a su destino. Irónicamente, el mago resulta ser una suerte de turco mecánico que esconde a un hombre común y corriente, quien además carece de la capacidad para solucionar sus problemas. Es claro que Dorothy podría haberse enterado antes de todo eso si hubiera tenido un mecanismo más eficiente para comunicarse con el Mago de Oz o recorrer el camino amarillo. Ahora bien, lo interesante de esta historia es que cada uno de los personajes soluciona sus problemas durante el viaje por su propia cuenta: el león se vuelve valiente, el hombre de hojalata descubre sus sentimientos, el espantapájaros consigue ser creativo y Dorothy aprende que no hay lugar como el hogar. Antes de recorrer el camino seguramente hubieran preferido viajar más rápido o tomar un atajo, pero en eso caso su problema no se habría solucionado.


“El Estado moderno efectivamente se caracteriza por la existencia de muchos funcionarios en ese espacio intermedio entre el lugar donde se toman las decisiones políticas y el lugar donde se ejerce poder sobre la ciudadanía.”

Con la estructura del Estado ocurre algo similar. Usando la terminología académica tradicional, los gerentes y gobernantes enfrentan un problema de agencia para conseguir que sus empleados o funcionarios les hagan caso. Este problema de agencia resultaría más complejo dentro del Estado por una razón muy sencilla: mientras la contribución del empleado en el producto empresarial es relativamente sencilla de valorar, medir la contribución del funcionario en el “producto político” es muy difícil (Rose-Ackerman 1986). Entre otras cosas, ello es así porque no tenemos muy claro cuándo es bueno un “producto político” y cuándo es malo. Volviendo a nuestro ejemplo inicial, ¿cómo podríamos medir el éxito del nuevo sistema de selección escolar? ¿Tenemos que mirar los cambios en la composición social de los colegios? ¿Quizás esperar unos años y mirar los cambios en los resultados académicos? ¿O tal vez encontrar maneras de aislar su efecto sobre la distribución del ingreso? Difícilmente exista consenso sobre la métrica para resolver este debate. Siempre recordaré que después de invertir un duro semestre en estudiar las complejidades metodológicas de la economía laboral, mi principal enseñanza fue que si bien existe gente mucha más inteligente y dispuesta al diálogo que uno, siguen siendo incapaces de alcanzar un consenso técnico acerca de algo aparentemente tan sencillo como si subir el sueldo mínimo aumenta o disminuye el desempleo. Lo que pasa es que mientras en el mundo de las empresas la métrica del dinero y las utilidades es dominante, en el mundo de la política las decisiones sobre cuáles métricas utilizar depende en gran parte de nuestras convicciones.

Por esta razón, la automatización de las decisiones administrativas amenaza con simplificar un fenómeno inherentemente complejo. En una sociedad capitalista, el Estado se organiza de manera similar a una empresa y el poder para tomar decisiones tiende a estar concentrado en quienes controlan el “capital político” (Poulantzas 1965). Si la automatización únicamente significa eliminar funcionarios intermedios y centralizar el poder, el Estado resultante sería ciertamente más rápido para actuar; pero también más elitista y lejano a la ciudadanía. Al igual que con las relaciones externas, donde la ventaja estratégica en el ejercicio del poder acarrea empoderar nuevos cuadros técnicos y alterar las lógicas de responsabilidad política, la centralización del poder puede significar un peor entendimiento del problema político, incluso si los gobernantes son bien intencionados y se preocupan del bienestar la ciudadanía. En una de sus canciones, el músico Cristóbal Briceño cuenta que cuando cae la cortina todos somos igual de raros, todos igualmente diferentes. Los problemas políticos son esencialmente humanos y esencialmente complejos. El Estado moderno lidia con esa complejidad a través de una interacción humana entre funcionarios y ciudadanos. Desde esta perspectiva, la automatización de las decisiones administrativas tiene ventajas claras a la hora de ejecutar al pié de la letra las preferencias explícitas del gobernante. Es menos claro si esa automatización puede también sustituir la manera en que la discreción del funcionario permite lidiar con la complejidad de un conjunto de gobernantes y ciudadanos, que muchas veces tienen problemas para expresar lo que quieren.


“Si la automatización únicamente significa eliminar funcionarios intermedios y centralizar el poder, el Estado resultante sería ciertamente más rápido para actuar; pero también más elitista y lejano a la ciudadanía. Al igual que con las relaciones externas, donde la ventaja estratégica en el ejercicio del poder acarrea empoderar nuevos cuadros técnicos y alterar las lógicas de responsabilidad política, la centralización del poder puede significar un peor entendimiento del problema político, incluso si los gobernantes son bien intencionados y se preocupan del bienestar la ciudadanía.”

Cuando cae la cortina

Seguramente el lector ya se habrá dado cuenta de cuánto subestima este ensayo las ventajas de la automatización de las decisiones administrativas. Agilizar los trámites o hacer más expeditos el funcionamiento del gobierno tiene beneficios evidentes. Son tantos y tan claros estos beneficios que la automatización de las decisiones administrativas es algo que claramente seguirá implementándose y tampoco es mi intención plantear una oposición frontal. Antes bien, me contento con provocar cierto escepticismo en el lector, especialmente en dos ámbitos determinados.

En primer lugar, la automatización centraliza el poder político de una manera engañosa. Muchas veces los abogados hacemos referencia a fuentes del Derecho perdidas en la historia de Roma o la revolución francesa; otras veces los economistas utilizan supuestos como la racionalidad y el auto-interés. Estos cánones profesionales canalizan las decisiones administrativas, influyendo significativamente en la manera en que se gobierna a los ciudadanos. Es cierto que cuando las reglas son redactadas por abogados se entienden mejor, así como su implementación por economistas facilita que su resultado esperado se alcance con mayor precisión. Pero siempre hay que recordar que ese tecnicismo implica un riesgo. Invito a que lance la primera piedra aquel abogado o economista que nunca utilizó estratégicamente su lenguaje profesional, abusando de tecnicismos para limitar el debate y ganar una discusión. Ese mismo riesgo está detrás de la automatización. En el fondo, creo que el recurso a la aleatoriedad muchas veces esconde un turco mecánico; esconde un programador buscando limitar el debate político, intentando que nadie le cuestione las premisas de sus procesos automáticos. Descansar en la ciencia informática, así como antes lo hizo descansar en la ciencia jurídica o la económica, supone riesgos conocidos: desplazar la responsabilidad política y hacer más elitista nuestra democracia.

Enseguida, también me genera escepticismo la capacidad de los procesos automatizados para capturar la complejidad humana. La revolución industrial fue una manera de transformar la sociedad previa, estandarizando las relaciones de trabajo y rompiendo con todo lo que existía antes (Polanyi 1944). La revolución tecnológica pareciera seguir el mismo camino, estandarizando a la gente y sus preferencias. El poder administrativo que conocemos descansa en interacciones humanas, las que muchas veces se caricaturizan desde una visión kafkiana y negativa de la burocracia. Pero el burócrata no es un autómata, como alguna vez nos quiso hacer creer el tristemente célebre Adolf Eichman. Ejecutar decisiones arbitrarias o inmorales es más difícil con un Estado-humano que con un Estado-máquina. En definitiva, sustituir al funcionario cambiará nuestra idea de Estado, de la misma manera que reemplazar al artesano por un obrero cambió las relaciones sociales hace un par de siglos. Nuevamente, sin embargo, es difícil saber si este reemplazo redundará en una mejor democracia. Romper el eslabón humano en el ejercicio del poder burocrático, rompe también con todas esas reacciones inesperadas que quizás no caben en un algoritmo. Al igual que la pelea por abrir espacios a la igualdad dentro del capitalismo, pareciera que sostener la democracia dentro de la sociedad de la información será la tarea diaria de quienes estudiamos al Estado y su burocracia. Para deleite de Camus, será finalmente la democracia esa piedra de Sísifo que nos toca empujar colina arriba.

 

*Diego Pardow es Profesor de la Facultad de Derecho de la Universidad de Chile y Doctor en Derecho de la Universidad de California Berkeley.

Referencias

  • Bostrom, Nick (2016): Superintelligence: Paths, dangers, strategies. Oxford: Oxford University Press.
  • Caffentzis, George (1999): “The end of work or the renaissance of slavery”, en Common Sense, Vol. 24, pp. 20-38.
  • Dargent, Eduardo (2014): Technocracy and democracy in Latin America. The experts running government. Cambridge: Cambridge University Press.
  • Edwards, Alberto (2005): La fronda aristocrática en Chile. Santiago: Editorial Universitaria.
  • Hayek, Friedrich (1945): “The use of knowledge in society”, en American Economic Review, Vol. 35, No. 4, pp. 519-530.
  • Poe, Edgar (1836): “Maelzel’s Chess-Player”, en Southern Literary Messenger, Vol. 2, pp. 318-326.
  • Poulantzas, Nicos (1965): “Preliminaries to the study of the hegemony in the State”, en Marxism, law and the State. Londres: Verso.
  • Polanyi, Karl (1944): La gran transformación. Ciudad de México: Fondo de Cultura Económica.
  • Rose-Ackerman, Susan (1986): “Reforming public bureaucracy through economic incentives?” en Journal of Law, Economics, & Organization, Vol. 2, No. 1, pp. 131-161.
  • Rifkin, Jeremy (1995): The end of work. Nueva York: Tarcher/Penguin.
  • Silva, Patricio (2012): In the name of reason: technocrats and politics in chile, University Park: Pennsylvania State University Press.
  • Strawson, Peter (1974): “Freedom and resentment”, en Freedom and resentment and other essays. Nueva York: Routledge.
  • Weber, Max (1922): Economía y sociedad. Ciudad de México: Fondo de Cultura Económica.
  • Wilson, James (1989): Bureaucracy: What government agencies do and why they do it, Nueva York: Basic Books.