China avanza en su esfuerzo por controlar los algoritmos

Un nuevo y amplio plan para restringir los algoritmos que impulsan las plataformas tecnológicas ha puesto a China a la vanguardia del creciente movimiento que busca frenar la influencia de las empresas gigantes de Internet.

Lanzada la semana pasada por la Administración del Ciberespacio de China (o CAC por sus siglas en inglés), la campaña tiene como objetivo establecer un sistema integral para regular el uso de algoritmos dentro de tres años, como parte del esfuerzo del gobernante Partido Comunista para controlar lo que considera prácticas comerciales sin escrúpulos y ejercer más control sobre el discurso online.

Los reguladores pidieron que los algoritmos sean justos y transparentes, al tiempo que se adhieran a la ideología del Partido Comunista de China.

La campaña coloca a China un paso adelante en la regulación de las plataformas tecnológicas, mientras los gobiernos de todo el mundo lidian con cómo responder a las tecnologías automatizadas que están reconfigurando los negocios, las interacciones sociales y la política.

A principios de este año, la Unión Europea propuso restringir ciertos usos de la inteligencia artificial para mitigar daños potenciales. En Estados Unidos, los legisladores están analizando el impacto del contenido impulsado por algoritmos de Facebook Inc. en los usuarios, luego de que The Wall Street Journal informara que la aplicación de Instagram de la compañía tiene un efecto negativo en la salud mental de los niños.

China se ha centrado en los algoritmos de forma más agresiva en su estricta supervisión del sector tecnológico nacional. Las directrices preliminares publicadas este verano requerirían algoritmos para proteger los derechos de los trabajadores y consumidores, y prohibirían el uso de algoritmos para manipular las cuentas de los usuarios, el tráfico online o los resultados de búsqueda.

“No vemos a China necesariamente como un innovador regulatorio, pero en este caso sí lo es”, afirmó Rogier Creemers, profesor asistente de la Universidad de Leiden en los Países Bajos que se centra en la política tecnológica china.

Según el plan de tres años publicado la semana pasada, los reguladores chinos describieron los pasos para monitorear los algoritmos, incluido un proceso de registro y el establecimiento de un equipo técnico para evaluar los mecanismos y riesgos de un algoritmo.

La última campaña se basa en un impulso regulatorio más amplio en el sector tecnológico de China que ha provocado investigaciones sobre algunas de las empresas más grandes del país, incluido el gigante del comercio electrónico Alibaba Group Holding Ltd., la plataforma de entrega de alimentos Meituan y la empresa de transporte privado a pedido Didi Global Inc. El impulso está dirigido, en parte, a las prácticas comerciales que los reguladores consideran perjudiciales para los trabajadores o los consumidores.

Empresas como Meituan y Didi se han enfrentado a problemas por las condiciones laborales de los conductores, acompañados de pedidos para hacer más transparentes los algoritmos que determinan las tareas de los trabajadores y sus pagos. Este año, las autoridades también han advertido a las empresas de tecnología contra la explotación de datos personales y el uso de algoritmos para cobrar precios discriminatorios a los clientes.

La Administración del Ciberespacio de China, Alibaba y Didi no respondieron a las solicitudes de comentarios. China está celebrando, actualmente, su fiesta del Día Nacional.

Meituan se negó a comentar. La compañía publicó anteriormente una explicación de su algoritmo de delivery y dijo que estaba haciendo cambios para brindar a los conductores de delivery más flexibilidad.

Los expertos dijeron que endurecer los controles sobre los algoritmos, sin obstaculizar el crecimiento o la innovación en uno de los sectores más exitosos de China, será un desafío para los reguladores. Las empresas de Internet confían en las complejas instrucciones matemáticas para funciones que van desde el análisis del comportamiento de las redes sociales, hasta el mapeo de rutas de entrega óptimas.

Si bien los algoritmos han contribuido a los avances tecnológicos y al desarrollo social, afirmó la CAC en el anuncio de la semana pasada, también han “planteado desafíos para salvaguardar la seguridad ideológica, una sociedad justa e igualitaria y los derechos legales de los usuarios de Internet”.

James Gong, socio del bufete de abogados Bird & Bird con sede en Beijing, afirmó que una supervisión regulatoria más estricta de los algoritmos probablemente tendrá un efecto en toda la industria de Internet china.

“Casi todos usan algoritmos, tomas de decisiones automáticas y elaboraciones de perfiles para asegurarse de que su marketing sea más preciso y para mejorar la eficiencia del negocio y aumentar las ganancias”, sostuvo Gong sobre las empresas de Internet del país.

Un gerente senior de ByteDance Ltd. dijo que si bien el requisito de registrar algoritmos agregaría solo un paso, restringir el aprendizaje del comportamiento del usuario y los servicios de recomendación, así como requerir la divulgación de tecnología patentada, podría dañar el negocio de la empresa.

ByteDance, que posee la sensación de las redes sociales, TikTok, y su aplicación hermana china, Douyin, es conocida por sus potentes algoritmos que impulsan las recomendaciones y el contenido de los usuarios.

“El clima regulatorio es claro y debemos comenzar a pensar en cómo ajustarnos adecuadamente”, indicó el gerente de ByteDance. Dado que gran parte de la nueva regulación aún está en debate, es difícil decir cuál será el impacto comercial inmediato, sentenció.

ByteDance no respondió a la solicitud de comentarios.

Samm Sacks, investigadora principal del Centro Paul Tsai China de la Facultad de Derecho de Yale, planteó que el enfoque de China podría atraer a otros países que desean una economía digital próspera mientras mantienen un control firme sobre el discurso político y social. Sin embargo, dijo que todavía hay mucha incertidumbre sobre los detalles y la aplicación de estas nuevas regulaciones.

“Creo que entienden que es una especie de tarea imposible que se han propuesto ellos mismos”, afirmó Sacks. “Incluso diría que tres años podrían ser ambiciosos”, agregó.

Las directrices de la CAC también dijeron que los algoritmos utilizados por las empresas chinas deben defender los valores socialistas fundamentales y promover la “energía positiva” en el contenido que proporcionan a los usuarios.

China ha estado ejerciendo más control sobre el contenido y las comunidades online. En los últimos meses, ha restringido severamente el tiempo de videojuegos online para jugadores menores de 18 años, ha prohibido las clasificaciones de ídolos pop y ha criticado a las personalidades masculinas online por parecer demasiado afeminadas.

“Esto casi lleva la censura online a un nivel superior”, manifestó Sacks. “Es decir, que tienes la obligación de garantizar que cualquier contenido impulsado por un algoritmo que ingreses al espacio online tenga que promover valores socialistas”.

—Raffaele Huang contribuyó a este artículo.