Diego Pardow plantea su escepticismo frente a la automatización de las decisiones administrativas por dos grandes riesgos: la centralización del poder político y el minimizar las complejidades del comportamiento humano.
Una primera duda frente a su planteamiento es si todas las decisiones administrativas son igualmente complejas como para plantear dichos riesgos de manera tan extensa. Un ejemplo revelador: anualmente, sólo en materias de personal, se someten al examen preventivo de legalidad ante la Contraloría General de la República alrededor de 300.000 actos administrativos. Es cada vez más necesario, entonces, repensar el control ex ante para agilizar la gestión de los servicios y centrarse en la auditoría ex post (OECD 2016). Ante esta realidad, bienvenida sea la toma de razón electrónica para cierto tipo de actos administrativos.
Por otro lado, Pardow funda su escepticismo en el comportamiento estratégico de los ciudadanos ante el funcionamiento de sistemas predeterminados. Pero no se pregunta si la automatización de decisiones administrativas podría contribuir a disminuir los espacios de discrecionalidad y arbitrariedad existentes. Quizás la automatización puede pensarse como una estrategia para disminuir espacios abiertos para la corrupción, el cohecho, y la captura. Por supuesto, como señala Pardow, al final siempre existirá un funcionario, más político o más técnico, detrás del sistema. Pero, y pensando especialmente a nivel de decisiones locales, la introducción de tecnologías en el derecho administrativo puede ser un aliado en reducir las malas prácticas. Por lo pronto, podría hacer más difícil el soborno (en la forma tradicionalmente conocida).
Pero, quizás, la pregunta más de fondo es cuánto logra el Estado hoy (sin automatización) captar la complejidad de los ciudadanos. Un caso ilustrativo es la experiencia de Nueva Zelandia (Mansell 2018). En 2009, frente a una crisis en la Agencia de Infancia, Juventud y Familia (el equivalente a nuestro SENAME), se decidió variar la estrategia recurrente de aumentar los recursos e intervención del servicio.
La nueva estrategia, en cambio, empezó por entender quiénes eran los niños, niñas y adolescentes en riesgo social, y qué pasaba con ellos más allá de su estadía en los centros. Cuáles eran sus antecedentes en materia de educación y salud, qué pasaba con sus hermanos y sus padres, y qué pasaba con ellos una vez que dejaban de recibir intervenciones particulares del servicio. El problema es que, como en Chile hoy, dicha información estaba fragmentada en distintos servicios o ministerios.
Por la manera de estructurarse orgánica y presupuestariamente, el Estado no había sido capaz de abordar la complejidad que implicaba una intervención efectiva para un niño de 6 años que entraba al sistema. Por supuesto, ese niño accedía a diversos programas, subsidios y prestaciones a lo largo de su vida, pero todos eran aislados entre sí. El foco había estado en el mismo Estado y no en el ciudadano. A partir de esa experiencia, Nueva Zelandia dio un salto en la integración de registros administrativos. Ha sido un proceso lento y con distintas etapas, algunas especialmente desafiantes derivadas de la estructura del Estado.
Es interesante notar que, a diferencia de lo que argumenta Pardow, la incorporación del Big Data ha reducido la centralización. Lo que en un momento se vio como un riesgo, especialmente frente a la tentación de los ministerios de manejar una gran cantidad de información personalizada de los ciudadanos a los que entregan prestaciones, las estrategias más efectivas han sido aquellas en que la información se maneja a nivel descentralizado con participación de la sociedad civil. En el caso de Nueva Zelandia, han sido las ONGs y organizaciones sociales que entregan prestaciones quienes mejor saben cómo manejar y focalizar la información integrada a nivel local.
Ahora bien, en línea con lo argumentado por Pardow, uno de los riegos que se han evidenciado en Nueva Zelandia es la creencia de que basta con la inteligencia artificial para que el Estado tome decisiones técnicamente correctas. Ello tiene riegos desde el punto de vista de la privacidad y de la confianza que los ciudadanos tengan para entregar información a las distintas reparticiones del Estado. Por ejemplo, con la integración de los registros administrativos era posible identificar aquellos niños que estaban en riesgo social incluso antes de su nacimiento. Sin embargo, la estrategia frente a dichos casos debía ser muchísimo más sutil que una intervención directa que terminara por alejar a las futuras madres de los hospitales y de todo el sistema de intervención social por el temor de que les terminaran por quitar a sus hijos. Desafíos similares aparecieron con las políticas públicas para los Maorí.
La inteligencia artificial en casos como éstos, por tanto, no debe ser concebida en términos de automatización, sino de insumo para el diseño de políticas públicas más efectivas. Así concebida parece ser entonces que los principales temores de Pardow, centralización y ceguera frente a la complejidad, se minimizan. Y por el contrario se gana en poder responder efectivamente preguntas tan simples como cuál es el problema a resolver, a quién se quiere llegar, a quién se está llegando, y cuáles son los efectos que están teniendo las políticas públicas.