Adela Cortina, filósofa española: “Delegar las decisiones en la inteligencia artificial es inmoral”

A sus 77 años, Adela Cortina es una de las filósofas más relevantes de España. Catedrática emérita de Ética y Filosofía Política en la Universidad de Valencia, fue la primera mujer en ingresar a la Real Academia de Ciencias Morales y Políticas de España, desde su fundación en 1857. Doctora honoris causa de varias universidades extranjeras y de su país, ha reflexionado acerca de los temas más acuciantes y complejos de la vida actual, especialmente en materias éticas y de filosofía política.

Directora de la Fundación ÉTNOR (para la Ética de los Negocios y las Organizaciones), dentro de sus obras destacan Ética mínima, Las fronteras de la persona y Aporafobia, el rechazo al pobre. Su última obra, ¿Ética o ideología de la inteligencia artificial? (2024), explora uno de los asuntos más candentes de hoy, y desde su casa en Valencia -y por escrito- contestó las preguntas de La Tercera.

Su nuevo libro es sobre IA y la ética. Establece que lo primero es diferenciar entre “hacer uso” de esta versus “delegarle”. ¿Es antiético delegarle funciones, por ejemplo, para determinar riesgos en empresas de seguros o en recursos humanos?

Delegar las decisiones en la IA es inmoral. La inteligencia artificial es un conjunto de instrumentos muy valiosos para mejorar la vida de las personas y la sostenibilidad de la naturaleza, por eso conviene potenciarla y extraer el mayor beneficio posible. Pero siempre recordando que tiene un valor instrumental y nunca debe sustituir a las personas. Los médicos, los profesores, los jueces deben hacer uso de la prodigiosa información que les da la minería de datos para tomar mejores decisiones, porque son las personas las que pueden tomar decisiones y responsabilizarse de ellas, no las máquinas, los algoritmos ni los robots, que proporcionan resultados, y los seres humanos han de elegir entre ellos. Se ha discutido mucho sobre si podemos considerar los sistemas inteligentes como agentes morales y la respuesta es que no pueden ser agentes porque no tienen la capacidad de responder por sus “actuaciones”. Por eso cuando se trata de decisiones que afectan sustancialmente a la vida y la salud de las personas y el bien de la naturaleza, siempre han de estar sometidas a la revisión de seres humanos. Es muy importante recordarlo, porque la comodidad es una gran tentación, y si el algoritmo nos pone en la mano soluciones y las asumimos sin más, sistemáticamente, corremos el riesgo de cometer injusticias.

Usted habla de las “máquinas éticas”. ¿Es posible algo así?

La primera vez que se pensó en una máquina ética fue en 1979, cuando un robot golpeó con un brazo a un trabajador en la cadena de montaje, causándole la muerte. Ya no se trataba de ciencia ficción, sino de que una máquina podía dañar, naturalmente sin darse cuenta, porque la máquina no es consciente de lo que hace, pero era un riesgo. Como cuento en el libro, autores como Storrs Hall consideraron necesario introducir valores morales en las máquinas que les llevaran a actuar correctamente. Y ese es uno de los retos de la IA: introducir valores en los mecanismos de los robots, por ejemplo, en los cuidadores en residencias de ancianos. Esta necesidad se ha agudizado con las mal llamadas “máquinas autónomas”, que son aquellas que funcionan con independencia de los seres humanos en casos concretos, una vez puestas en marcha. Naturalmente las crean personas, pero después funcionan sin necesidad de depender constantemente de un ser humano, como es el caso bien conocido de los autos que funcionan sin un conductor humano o los llamados “Sistemas de Armas Autónomos” en las confrontaciones bélicas, de los que se dice que pueden identificar, seleccionar y atacar objetivos terrestres sin intervención de un operador humano. Evidentemente, la mayor parte de códigos éticos insiste en que no se debe dejar en manos de las máquinas decisiones que afectan a seres humanos, sino que siempre han de ser revisadas por personas.

¿Algún ejemplo?

Fue muy célebre la polémica sobre los “killer robots”, los “robots asesinos”, que generó dos posiciones enfrentadas. Algunos autores consideraron que tienen sus ventajas, porque el robot puede programarse para no atacar determinados lugares críticos, como campamentos de refugiados. Mientras que la ONU e instituciones como la Cruz Roja se posicionaron en contra, considerando que constituyen un atentado contra la dignidad humana. Son sistemas no humanos los que distinguen entre combatientes y población civil, los que atacan sin discernimiento hospitales, asilos, campamentos ya arrasados. Sin embargo, este debate pierde fuerza cuando nos percatamos de que esas armas son tan poco autónomas como las minas antipersonas. En último término los responsables son personas, y por eso hay que sacar a la luz la trazabilidad de la actuación.

Las grandes empresas tecnológicas rehusan regulaciones por parte del Estado. La UE ha sido pionera en tal sentido. ¿Cómo hacerlo sin ser acusados (esos gobiernos) de ir contra la “libertad”?

La libertad es uno de los valores esenciales de la vida humana y es preciso cuidarla como oro en paño. Por eso son letales las autocracias y las dictaduras, y las llamadas “democracias iliberales” no son democracias. Pero la libertad no es un valor absoluto, sino que tiene su límite en el daño que puede causar a otros, por eso son necesarias las regulaciones, ese es el sentido de las normas. En efecto, la Unión Europea ha tomado muy en serio la necesidad de regular, porque ante las innovaciones siempre recurre al principio de precaución. Mientras que Estados Unidos o China abogan por aplicar las innovaciones y piensan que, si hace falta corregir, ya se hará. La Unión Europea es muy cautelosa. Su primer documento sobre IA llevaba por título “Por una IA confiable” y ha continuado con esta actitud. Hasta el punto de que Anu Bradford ha llegado a hablar de un “efecto Bruselas”, refiriéndose a la pretensión europea de que la norma regulatoria se extienda a otros países en pro de una mayor seguridad mundial.

¿Y qué pasa con la libertad?

Eso no significa poner un freno a la libertad, sino aumentar la confianza en el uso de la IA. Pero genera un problema, y es que los países que se atienen a las normas pueden acabar pagando el “coste de oportunidad”. Si un país cumple las regulaciones y otros no lo hacen, entonces el cumplidor pierde competitividad frente a los otros. Y eso es muy grave en un mundo en que un buen número de países compite por el liderazgo mundial, económico y político, sobre todo Estados Unidos y China.

Un desafío clave de la IA tiene que ver con los empleos. “Superar la brecha digital es de justicia”, dice usted. Si el 40% de la población está en riesgo de perder su empleo, ¿qué nuevos paradigmas deben tener gobiernos, empresas, sociedad?

En principio, deben convencerse de que los Estados tienen la obligación de velar por la justicia en sus países y que lo justo es proteger los derechos civiles y políticos, pero también los económicos, sociales y culturales, entre los que se encuentra el empleo que posibilite una vida digna. Esa es una exigencia de justicia inapelable. Por lo tanto, es indispensable impulsar la formación de las capacidades digitales en las gentes de todas las edades, pero sobre todo en los jóvenes. La educación es siempre una clave esencial para que las personas puedan hacer su vida y también para que encuentren un puesto satisfactorio en el mercado laboral. El compromiso de los gobiernos en la formación digital de la ciudadanía es indeclinable. Pero también hay que saber que determinados empleos nunca podrán ser sustituidos por máquinas, porque requieren una sensibilidad especial, y que ningún trabajo podrá ser ejercido por máquinas en su totalidad, siempre necesitará la dirección humana. Medidas sociales como un ingreso básico de ciudadanía pueden ayudar, con tal de que las gentes no se acostumbren a vivir subsidiadas, porque entonces pierden libertad.

Usted ha dedicado su vida a promover (y participar) en un debate racional. ¿Cómo se impulsa en un momento político y social de exacerbación de las pasiones y emociones, como el odio, la rabia, la ansiedad, que nublan el pensamiento?

Es muy difícil, casi imposible. Las polarizaciones y los discursos del odio no son casuales, sino que los cultivan intencionadamente grupos empeñados en conseguir ventajas a través de la división y el conflicto. Y las consiguen. El viejo consejo “divide y vencerás” se convierte en el terrible “cuanto peor, mejor”, en el que trabajan con ahínco los asesores de los poderes públicos, que rematan su tarea creando los relatos adecuados para justificar cualquier cosa. Padecemos el gobierno de las narrativas, de los argumentarios que ocultan la realidad. Por eso he hablado en el libro de que estamos en tiempos de “posveracidad”, no en tiempos de “posverdad”. Lo contrario de la verdad es el error, y eso se puede corregir. Lo contrario de la veracidad es la mentira. Las mentiras y las contradicciones son el pan nuestro de cada día, y lo peor es que no se penalizan, que la ciudadanía no castiga a los mentirosos negándoles el voto, que es lo que realmente les duele.

¿Qué hacer?

Poner de nuevo sobre el tapete la divisa de la Ilustración: atrévete a servirte de tu propia razón, apuesta por la crítica ante los relatos y los bulos. Y recuerda que “crítica” no significa insulto, sino “discernimiento”. Una ciudadanía madura y unas instituciones sólidas son el mejor antídoto frente al emotivismo despótico reinante.

¿Cómo restaurar el sentido de lo común, de un futuro que es común o parece que no es futuro, teniendo en cuenta que los mayores desafíos no se resuelven individual o nacionalmente (IA, cambio climático, tensiones geopolíticas)?

Con una opción muy costosa, pero muy elemental: instaurar el sentido común, que es el menos común de los sentidos, y nos muestra que los seres humanos somos interdependientes, nos necesitamos unos a otros. La idea de que somos individuos aislados, sin conexión unos con otros, es pura ideología. Lo cierto es que somos en diálogo, la intersubjetividad nos constituye. Y en un mundo global las respuestas no pueden ser individuales ni propias de nacionalismos miopes. Tienen que ser cosmopolitas. El cosmopolitismo es la respuesta ética a la globalización. Todos somos ciudadanos de nuestros países y, a la vez, ciudadanos del mundo, nadie puede quedar excluido, se necesitan todas las manos para resolver con altura humana problemas como la pobreza, el hambre, las migraciones forzosas, las guerras, el cambio climático y ese gran número de desafíos que ponen en peligro el respeto a la dignidad humana y la sostenibilidad de la naturaleza.

Durante la pandemia usted dijo que “los seres humanos tienen ahora que plantearse el futuro y decidir qué quieren: si una sociedad unida en la que trabajen todos juntos para que la gente esté mejor, o una marcada por la separación y el ir “unos contra otros”. Hasta ahora, ¿va ganando la segunda tendencia? ¿Los humanos no aprendemos?

Es muy aleccionador el relato del jefe indio que contaba a sus nietos un cuento: en cada ser humano batallan dos lobos, el de la bondad, el amor y la misericordia, y el de la maldad, el odio y la discordia. Los nietecitos preguntan al abuelo cuál ganará, y él les contesta: aquel al que alimentéis. Me temo que hemos alimentado al lobo equivocado, que seguimos sin aprender las cosas más importantes para la vida compartida.

En el debate público hay menos mujeres intelectuales públicas que hombres, o al menos son menos visibles. ¿Siguen existiendo estereotipos que limitan el espacio de las mujeres? Si es así, ¿en qué lo nota?, ¿qué esperaría en tal sentido de sus colegas pensadores?

La discriminación en este caso difiere radicalmente entre unas zonas culturales y otras, por eso es preciso pensar muy seriamente sobre qué valores queremos defender: los de las sociedades abiertas o los de las sociedades cerradas. En algunas zonas del mundo las mujeres están tan silenciadas en la vida pública, que se llega al caso extremo de Afganistán, donde las niñas están apartadas del sistema educativo. En los países occidentales el grado de discriminación varía según los sectores, pero en el ámbito del pensamiento las mujeres hemos ganado mucho terreno. Cada vez hay más novelistas, historiadoras, filósofas, artistas y científicas muy valoradas en la vida pública, que se han ganado a pulso el lugar que ocupan. Espero de nosotras que sigamos reforzando nuestra presencia y de nuestros colegas pensadores que cultiven su sentido de la justicia.

Por último, como la gran filósofa que es, ¿qué le habría gustado saber o aprender antes?

Aprender a tocar el piano y a pintar, que deben ser experiencias únicas. Saber guisar bien tampoco sería mala cosa.