No discriminación y uso de información personal: gobierno dicta lineamientos para el uso de la IA en el Estado

Asegurar que las personas no sean objeto de discriminación arbitraria producto de la inteligencia artificial (IA) o evaluar si realmente esta tecnología es la solución adecuada para atender las necesidades de la ciudadanía. Estas son algunas de las recomendaciones de una circular sobre el uso de la inteligencia artificial en el Estado, que este jueves 14 de diciembre será enviada por el gobierno a todas las reparticiones públicas.

El documento fue elaborado en conjunto por los ministerios Secretaría General de la Presidencia (Segpres) y de Ciencias, Tecnología, Conocimiento e Innovación. De hecho, fue la misma ministra de esta última cartera, Aisén Etcheverry, la que realizó la mayoría de la redacción.

Aunque la iniciativa es parte de uno de los principales focos en materia digital del ministerio de Ciencias y ya existen cerca de 100 algoritmos de IA utilizándose en servicios del Estado, claramente la irrupción del Chat GPT hace cerca de un año, ha acelerado la preocupación por el tema, especialmente lo que se denomina como “IA generativa”, que se refiere a la creación de contenido como textos, imágenes, música, audio y vídeos, bajo algoritmos de IA.

Por eso -indica el texto-, “frente a este desarrollo, la Administración del Estado debe asumir un rol proactivo en el manejo de esta tecnología, comprender cómo funciona y utilizarla de la manera más beneficiosa en su actuar. Esto, por supuesto, siempre de manera ética, consciente y responsable, con un enfoque centrado en las personas, y respetando los derechos fundamentales de la ciudadanía y, en particular, de las personas que trabajan en el Estado”.

Así, los lineamientos, tocan diversos temas como la no discriminación, el uso de información personal y la transparencia de los datos.

“Como ministerio, estamos embarcados hace varios meses en un proceso que tiene distintas líneas como los lineamientos éticos de la IA y la capacidad de cómputo. Una de ellas es la línea regulatoria, que ha hecho noticia por el proyecto de ley que anunciamos y está en la puerta del horno”, comenta la ministra Etcheverry, refiriéndose a la iniciativa del diputado Tomás Lagomarsino (Partido Radical), que busca regular los sistemas de IA, robótica y tecnologías afines, el que está en discusión en la Comisión Futuro, Ciencias, Tecnología, Conocimiento e Innovación de la Cámara Baja.

De esta forma, -prosigue la ministra- “también era necesario entregar una visión clara de la visión del gobierno en materia regulatoria y como esto se comienza a implementar desde ya, no esperando todo el ciclo de discusión legislativa. El Estado es un tremendo comprador de tecnología y tiene la capacidad de incidir de manera muy directa en cómo opera el mercado informático, además de darle una señal a la ciudadanía”. Incluso, Etcheverry hace una analogía con un instrumento similar que aplicó la expresidenta Michelle Bachelet, durante su segundo mandato, denominado “cloud first”, “el que movió completamente el mercado de la computación en la nube, logrando que gran parte de los organismos del Estado utilizaran esa tecnología”, señala la autoridad, concluyendo: “Un proyecto de ley es necesario, pero también es necesario partir por casa. Por el gobierno”.

Así, una parte de la circular recomienda: “Informar a través de mecanismos idóneos y de fácil acceso a la ciudadanía acerca de las herramientas de inteligencia artificial que se encuentren utilizando dentro de sus procesos”. Según la jefa de la cartera de Ciencias, eso se lleva a la práctica a través de diferentes mecanismos y depende de cada implementación. “Por ejemplo, cuando se utilizan chatbox (los que también pueden ser utilizados en la administración pública), es importante que se reconozcan como tales. O sea, como un asistente virtual y no se preste para confusión. A diferencia del retail, cuando una persona interactúa con el servicio público, hay expectativas, derechos que se pueden ejercer, obligaciones de parte del Estado y normativas que se aplican. Por lo que la forma de asegurarnos que las personas puedan ejercer de manera adecuada sus derechos, es que sepan con quién están interactuando”, plantea Etcheverry.

Con respecto a los “procesos”, la ministra da un ejemplo: “Pensemos, hipotéticamente, que decidiéramos incorporar una herramienta de IA en los procesos de evaluación de un proyecto. Sería importante que en las bases de postulación de ese concurso explicitáramos que en una parte del proceso de evaluación se apoyará en una herramienta de IA. Incluso, se puede llevar también a plataformas donde las personas postulan a sus beneficios y se está utilizando IA para ese proceso”.

La ministra Etcheverry explica que este tema ha estado en una serie de conversaciones en los últimos meses con el sector privado, la sociedad civil, la academia y los parlamentarios, “y la irrupción del ChatGPT gatilló una discusión en muchos países de cómo y hacia dónde regular. Esa conversación permanente nos ha permitido llegar a dos puntos. Por un lado los lineamientos de la implementación de esta tecnología, y por el otro, nutrir el proyecto de ley en el que todos están expectantes. Y aunque muchos quieren que aceleremos el proceso, requiere de un análisis y una conversación en profundidad con todos los actores y que requiere de tiempo”.

De hecho, en una entrevista en DF, el senador Kenneth Pugh (RN) criticó al gobierno por haber anunciado que ingresaría indicaciones al proyecto de ley del diputado Lagomarsino, comentando que “no corresponde y ojalá no tenga los votos”.

Al respecto, la ministra Aisén Etcheverry responde: “Este proyecto de ley tiene que convocar de manera transversal a todos los actores y eso es algo que hemos conversado mucho con el senador Pugh. (…) Hay varias voces que se están levantando acerca de que el Ejecutivo debería ingresar un tercer proyecto, pero son básicamente aspectos de técnicas legislativas que vamos a discutir con la Segpres y que no nos deberían alejar del aspecto de fondo: un proyecto de ley robusto, que permita la innovación y el crecimiento de la industria, pero que sea clarísimo respecto de cómo mitigamos los riesgos asociados a la IA”.