Algoritmos y ciudad: retos y límites del urbanismo inteligente

Actualmente casi no existe dimensión de nuestras vidas que no esté expuesta a las lógicas automatizadas de los algoritmos. Un sinnúmero de actividades cotidianas —desde la serie que vemos en Netflix al candidato que elegimos para un trabajo, pasando por la música que seleccionamos o la pareja que anhelamos— están siendo decodificadas por actores como Apple, Amazon, Facebook, Google etc.  mediante algoritmos, con la finalidad de anticiparse a nuestras necesidades y gustos, para recomendarnos personalizadamente o acompañarnos eficientemente en diferentes labores. En la era del Big Data, de la Inteligencia Artificial y los objetos hiperconectados, diversos ámbitos de la realidad están siendo dataficados; esto es: convertidos en datos susceptibles de ser usados y capitalizados.

Esto es precisamente lo que está ocurriendo en el ámbito urbano, donde algoritmos, sensores y múltiples sistemas inteligentes se están tomando los modos de gestionar y pensar la ciudad. Algunos incluso hablan de la emergencia de un 'urbanismo plataforma', en referencia a la expansión de la lógica de las aplicaciones (como Uber, Waze, AirBnB, etc.) para la realización de diferentes funciones de intercambio o gestión en la ciudad. La emergencia de este 'urbanismo plataforma' se conecta con los imaginarios de la Smart City y con el supuesto 'cambio de era' en los modos en que se planifican y gobiernan las ciudades. Denominado también como 'ciudades-orientadas por datos', la promesa fundamental de este sistema es que las decisiones ya no estarán sujetas a la subjetividad, sesgos o prejuicios de los humanos, sino a sistemas algorítmicos basada en datos objetivos. En estas ciudades dataficadas se podría prescindir de la política e ideologías, ya que ahora todo se volvería más eficiente y calculable, transparente y disponible, gracias a datos capturados en tiempo real, y a la neutralidad de los algoritmos.

No cabe duda de que la cada vez mayor exposición de nuestras vidas a estos sistemas inteligentes de procesamiento de datos ayuda a mejorar la eficiencia de muchas tareas y a enfrentar algunos de los importantes desafíos sociales y mediombientales que presentan nuestras urbes. Sin embargo, existen riesgos que, como sociedad, debemos debatir a la hora de incorporar estas soluciones tecnológicas y sus intereses. En esta perspectiva, y a partir de una investigación Fondecyt en esta materia que estamos realizando, me gustaría referirme a tres elementos sobre la relación entre algoritmos, datos y ciudad.

Un primer elemento tiene que ver con la necesidad de 'auditar' y abrir la 'caja negra' de estos algoritmos. El Big Data y los sistemas algoritmos no constituyen una verdad revelada, inmanente y al margen de intereses, sino que están envueltos en opciones comerciales e ideológicas, en decisiones de diseño y culturales que condicionan lo que podemos hacer, ver y compartir en la ciudad. En la medida en que se expanden la lógica de la plataforma y la gestión algorítmica, es necesario interrogar la supuesta objetividad e imparcialidad de estos sistemas inteligentes, reconociendo los tipos de sesgos y discriminaciones que pueden estar incorporados en los datos o en el diseño de estos sistemas 'inteligentes'. Ni en Chile, ni en ninguna parte, podemos padecer como simples espectadores la llegada de tecnologías de gestión basadas en algoritmos e inteligencia artificial. Hoy es un requisito de civilidad desarrollar un debate público que permita establecer un horizonte ético desde el cual regular la invasión de los algoritmos en nuestra vida social. Podríamos decir que, cada vez más, el 'derecho a la ciudad' va a tener relación con el derecho a saber cómo funcionan los algoritmos que gobiernan nuestros entornos, y eso implica desarrollar una cultura ciudadana involucrada en estos temas y hacer claridad respecto del tipo de ciudad que queremos construir y habitar.

En segundo lugar, es fundamental cuestionar esta aproximación a la ciudad excesivamente tecnocrática que ofrece la espectacularización del Big Data y los algoritmos. Muchos de los promotores del urbanismo inteligente suelen invocar los datos como un realidad objetiva y neutra (el nuevo petróleo del siglo XXI, ha sido denominado), ya que serían una representación directa y fidedigna de la realidad. Bajo este 'dataísmo', los datos hablarían por sí mismos, y gracias al Big Data sería posible gobernar las ciudades en tiempo real, anticipándose a los eventos y sucesos de la vida urbana. Pero esta visión tiene sus límites, ya que los datos están siempre impregnados de valores y criterios culturales. Los datos no hablan por sí mismos, y dependen de la interpretación y narrativa que les demos y desde las cuales los construimos, así como de los modos en que son capturados, almacenados y presentados. En una época dominada por las plataformas inteligentes, es fácil caer en una fetichización de los datos digitales, bajo el supuesto de que las grandes cantidades de datos a nuestro alcance van a permitir una planificación más eficiente. Emás datos y tecnologías automatizadas no implican necesariamente más conocimiento sobre la ciudad. Por el contrario, ante este diluvio de datos se vuelve cada vez más compleja la tarea de crear narrativas con sentido y lograr identificar qué información es verdadera, considerando, por ejemplo, el fenómeno de las 'fake news'. Afrontar esta sobreabundancia de datos no implica necesariamente más y mejores algoritmos, sino ciudadanas y ciudadanos capacitados para transformar esos datos en conocimiento relevante.

En tercer lugar, es de vital importancia interrogarse respecto de hasta qué punto la enorme producción de datos asociada a los avances de algoritmos, sensores e inteligencia artificial, están instaurando la idea de una ciudad hipervigilada. Hoy vivimos la paradoja de que lo que no emite dato o rastro digital, es considerado sospechoso, un vacío informacional, ruido urbano. Si bien no todas las tecnologías de monitoreo y recopilación de información son sinónimo de vigilancia, lo cierto es que el creciente despliegue de objetos e infraestructuras conectadas redefine la antigua idea de vigilancia centralizada (el concepto de Gran Hermano orwelliano) y ahora se trataría de una vigilancia más ubicua, distribuida en las diferentes plataformas comerciales e interfaces públicas que utilizamos. La interactividad‑conexión digital se está transformando crecientemente en una forma encubierta de vigilancia, con el poder de convertir diferentes ámbitos de nuestras vidas —como pueden ser caminar, compartir una foto en las redes, conversar o subirse a un transporte público— en datos susceptibles de ser usados para construir perfiles completos de la vida personal y social de los ciudadanos. En este sentido, es fundamental que las lógicas de recopilación de datos automatizada que empiezan a gobernar nuestras ciudades y espacios sean sometidas a formas de regulación pública, velando por los derechos, libertades y autonomía de las personas.

Frente a este ímpetu de las Smart Cities por las soluciones algorítmicas y la dataficación, parece importante preguntarnos sobre el sentido de llevar vidas cada vez más cuantificadas, translúcidas y calculadas. ¿Qué ocurre con el valor de aquellas espacios, personas u objetos que no están conectados, que no emiten información codificable, o que simplemente no quieren ser "smart" en los términos referidos por estas narrativas inteligentes? Las ciudades y sus habitantes no pueden valer por los datos que producen solamente, y tampoco podemos suponer que los problemas de las urbes contemporáneas se van a solucionar ampliando el rango de lo que podemos datificar. Los discursos del Big Data suelen olvidar que detrás de las lógicas de captura y procesamiento de datos existen dinámicas de exclusión y desigualdad social, y que el valor de lo urbano está más allá de la optimización digital. Con esto no se trata de pasar de una ciudad inteligente/eficiente a una ciudad tonta/ineficiente, sino preguntarnos cómo podemos promover usos más éticos y justos de estas tecnologías. La vitalidad, creatividad, invención e inteligencia de las ciudades no proviene necesariamente de su capacidad de producir eficiencia tecnológica, sino de la manera en que las comunidades usan estas herramientas para aumentar la colaboración e integración social. El futuro de las ciudades probablemente va tener más relación con cómo reducir el ruido informacional, encontrar espacios de desconexión y silencio, que con seguir incrementando la automatización y dataficación de nuestras vidas.