Agentes Sin Mapa

En alguna oficina de América Latina, mientras usted lee esto, un sistema automático puede estar rechazando una solicitud de pensión, ordenando la cola de expedientes que alguien revisará hoy, o redactando el borrador de una resolución que un funcionario firmará casi sin cambios. Casi ninguno de estos sistemas figura en un inventario. Y entre todos toman o preparan decisiones que afectan a millones de personas.\ \ Agentes sin Mapa parte de una pregunta simple: ¿sabemos qué les hemos entregado? Antes de discutir cómo regular la inteligencia artificial o cómo aprovecharla, hay un problema anterior y más básico: la mayoría de las instituciones de la región no puede decir con precisión qué decisiones ha delegado en sistemas automáticos, en qué condiciones, ni con qué posibilidad de revertirlas.\ \ El libro propone una herramienta para pensarlo: una escalera de cuatro escalones —asistencia, clasificación, condicionamiento y acción— que distingue los sistemas según dónde queda el peso de la decisión cuando operan. Y la lleva a casos reales de la región: una sentencia redactada con inteligencia artificial en Colombia, una auditoría sobre denegaciones automatizadas de pensiones en Brasil, un sistema de reconocimiento facial declarado inconstitucional en Argentina.\ \ Es para cualquiera que sospeche que, en alguna oficina silenciosa, una máquina ya está decidiendo sobre su vida sin dejar registro. El mapa que falta para empezar a saber qué hemos puesto a funcionar en nuestro nombre.