La automatización, el “machine learning”, y la inteligencia artificial están cambiando la producción de bienes y servicios a una velocidad que probablemente no se había visto desde la revolución industrial. El excelente artículo de Diego Pardow plantea los desafíos de estos cambios en el ámbito de los sistemas políticos. En particular, sin dejar de reconocer las ventajas de la automatización, el articulo refleja escepticismo hacia ella. Primero, sugiere que la automatización centraliza el poder político entregándole un poder desproporcionado a los técnicos del “big data”. Segundo, plantea que los procesos de automatización no son capaces de incorporar toda la complejidad humana.
Empiezo mi comentario sosteniendo que en principio concuerdo con varios de los puntos del artículo. Específicamente, el punto que los procesos de automatización no siempre serán capaces de incorporar toda la complejidad humana es evidente. Sin embargo, creo que para sacar conclusiones más contundentes es importante hilar más fino y no hablar de “la automatización”, sino que distinguir qué procesos estamos automatizando.
Comencemos con el ejemplo que el articulo aborda del nuevo sistema “automatizado” de educación escolar, en el cual las familias expresan sus preferencias de colegios. Por su parte, los colegios no pueden seleccionar alumnos; si enfrentan una demanda mayor a su capacidad deben aleatorizar para elegir. Finalmente, el gobierno busca una asignación de alumnos a colegios que tenga propiedades deseables, como por ejemplo que sea “estable”. Es decir, que no exista un par de alumnos que puedan intercambiar colegios y quedar más contentos simultáneamente. Estos inputs definen el problema de manera muy clara. Además, son totalmente ajenos a cualquier proceso de automatización. En estos casos, encontrar la solución con un proceso centralizado y automatizado cae de cajón. Pensar en resolver localmente y manualmente este problema parece una locura; seguramente resultaría en asignaciones de mala calidad donde grupos de alumnos estarían mejor si intercambiaran colegios. Por ejemplo, con miles de alumnos, una persona requeriría millones de cálculos para encontrar la asignación óptima. Un computador lo puede hacer en menos de un segundo.
En general, sistemas en los cuales se quieren asignar recursos y las preferencias de los actores están bien definidas se prestan naturalmente para soluciones computacionales automatizadas. Sin ir más lejos, así funciona el sistema de admisión universitario Chileno por décadas.
En contraste, pensemos en un problema de asignación de recursos complejo como decidir el presupuesto nacional. En este caso, a diferencia del caso de los colegios, extraer las preferencias de todos los agentes involucrados y compararlas puede ser más complicado. ¿Cómo compara el gobierno central el beneficio asociado al proyecto preferido de cierta región con el de otra? Aunque en ciertos casos esto se podría cuantificar, no es difícil imaginar escenarios en los cuales esto es complejo y el criterio humano y la negociación se hacen necesarios.
Ahora pensemos en otro ámbito un poco más controversial como decisiones de sentencia en el poder judicial. En el último tiempo, varios trabajos académicos han mostrado que algoritmos de “machine learning” producen en promedio mejores y más consistentes resultados que jueces humanos, en el sentido que las decisiones del algoritmo reducen las tasas de criminalidad sin aumentar las sentencias de cárcel. Dado esto, ¿dejaríamos que decisiones tan importantes como estas sean tomadas por maquinas? ¿Cuál es la diferencia de este caso con el anterior de admisión escolar? Una diferencia importante es que en este caso las preferencias no están claramente definidas porque existe incertidumbre en el evento más importante que determina la decisión de un juez: si deja libre a un criminal éste volverá el criminal a delinquir o no. El juez prefiere dejarlo libre si y solo si la respuesta a la pregunta anterior es negativa. Sin embargo, esto es incierto. Es aquí donde la intuición y el sentido común del juez pueden jugar un rol y donde quizás nos incomoda que una maquina “sin sentido común” tome la decisión. Mi impresión es que en estos casos las máquinas no tomaran el poder por completo, pero que dada la precisión que ya están mostrando, los jueces tomaran sus sugerencias y sólo se desviarán de estas si tienen una intuición fuerte para hacerlo.
En general, la automatización jugara un rol cada vez más preponderante en los sistemas políticos. Eso es imparable, como lo es en otros sectores. Sin embargo, creo que lo hará de manera progresiva, comenzando por los ámbitos “fáciles” como el sistema de admisión escolar, para luego ir encontrando formas de uso en ámbitos más complicados como los discutidos anteriormente, con diferentes grados de participación humana.
Por último, creo que el principal problema de política pública que se viene en el futuro no tan lejano es como volver a situar a las miles de personas que serán desplazadas del mercado laboral por máquinas en las próximas décadas. Pero como bien reconoce Diego Pardow eso debería ser tema de otro foro.