DeepMind: por qué los trabajadores de la IA de Google presionan a la compañía para que deje los contratos militares

Los trabajadores de Google DeepMind, la división de investigación y desarrollo de Inteligencia Artificial de Google, han firmado una carta en la que exigen al gigante tecnológico que ponga fin a sus contratos con organizaciones militares.

Según informó la revista Time, el documento se envió en mayo de este año y alrededor de 200 personas lo firmaron, lo que representa el 5% de empleados de esa área.

La carta de los trabajadores de DeepMind se difundió en medio de inquietudes internas que se han experimentado en el laboratorio de IA, debido a la presunta venta de la tecnología a organizaciones militares que están participando en la guerra.

De acuerdo a lo reportado por Time, los contratos que Google tiene con los gobiernos y ejércitos de Israel y Estados Unidos permiten el acceso de servicios mediante la nube Google Cloud, en la que está incluida la IA desarrollada por DeepMind.

El documento de los empleados de la división de IA de Google parte indicando que existe preocupación “por los recientes informes sobre los contratos de Google con organizaciones militares”.

Los empleados del gigante tecnológico no nombran ejércitos e incluso enfatizan que su carta no aborda “la geopolítica de ningún conflicto en particular”.

Sin embargo, un artículo publicado por la misma revista TIME indicaba que Google tiene un contrato con el Ministerio de Defensa de Israel para proporcionarle servicios de computación en la nube. Esto, en el marco de un acuerdo más grande denominado Proyecto Nimbus.

En la misiva, los empleados de DeepMind también aseguran que el ejército israelí estaría utilizando IA con el propósito de hacer vigilancia masiva y selección de objetivos para realizar bombardeos en Gaza, y las compañías de armas en Israel son obligadas por el gobierno a adquirir servicios en la nube no solo de Google, sino que también de Amazon. Las dos compañías tecnológicas son parte del Proyecto Nimbus.

“Cualquier participación en la fabricación de armas afecta nuestra posición como líderes en IA ética y responsable, y va en contra de nuestra declaración de misión y de los Principios de IA establecidos”, explican en el documento.

En esos principios, Google detalla que no diseñarán ni aplicarán IA en tecnologías que puedan causar daño. “Cuando exista un riesgo material de daño, procederemos solo cuando creamos que los beneficios superan sustancialmente los riesgos e incorporaremos restricciones de seguridad apropiadas”.

También aseguran que no la utilizarán en armas “cuyo propósito principal o implementación sea causar o facilitar directamente daños a las personas” y “tecnologías que recopilen o utilicen información para vigilancia violando normas aceptadas internacionalmente”.

En vista de lo anterior, trabajadores de DeepMind han insistido en que se deben investigar a fondo las acusaciones de que los servicios de la nube de Google están siendo usados por organizaciones militares, poner fin al acceso de militares a la tecnología de DeepMind, y además, crear un organismo que impida que ese tipo de usuarios puedan utilizar la herramienta en el futuro.

A pesar de las graves inquietudes que han manifestado el personal de la división de IA de Google, y que el documento ha estado circulando desde mayo, el gigante tecnológico no ha entregado alguna “respuesta significativa” hasta ahora, según el medio estadounidense.

DeepMind, originalmente nombrada DeepMind Technologies, nació en 2010 como una startup londinense de los investigadores de IA Demis Hassabis, Shane Legg y Mustafa Suleyman. Uno de los proyectos más famosos en sus inicios fue crear una red neuronal que era capaz de aprender a jugar videojuegos tal como lo hacen los humanos.

En los años siguientes varias compañías tecnológicas se interesaron en comprar DeepMind, entre ellas, Google, Microsoft y Facebook. Finalmente la primera la adquirió por 400 millones de dólares, con el propósito de reforzar su experiencia en IA.

Cuando la startup iba a ser vendida, los fundadores del laboratorio pusieron como condición que la tecnología no fuera usada en tareas militares y que su uso tenía que ser supervisado por un comité independiente de ética y seguridad, pues eran conscientes de que la IA podía tener riesgos asociados.

Según Jaan Tallinn, uno de los primeros inversores que tuvo DeepMind, que Google aceptara esa condición de crear el comité fue lo que gatilló que se le eligiera frente a otras ofertas. “Hasta donde yo sé (no estaba al tanto de los detalles de las negociaciones) la oferta de Google no era la mejor que había sobre la mesa en términos estrictamente financieros, pero DeepMind decidió seguir con Google de todas formas”, explicó Tallinn, reporta The Guardian.

Luego de que Google adquiriera DeepMind, esta comenzó a operar como una división independiente de IA ya que incluso tenía su propia sede en Londres y no en California. Pero no pasó mucho tiempo para que surgieran roces con sus creadores.

Según The New York Times, tras la venta, los fundadores de DeepMind comenzaron a preocuparse por lo que el gigante tecnológico podría hacer con su invento. En el 2017 intentaron desligarse de la compañía, pero Google solo respondió aumentando los salarios de la división. A eso se suma que el comité de ética que supervisaría el uso de la IA, que había sido una condición importante para vender DeepMind, solo se reunió en una ocasión.

En 2023, en medio del rápido avance de la IA a nivel global, Google tomó una inédita decisión: DeepMind y Brain de Google Research, otra de sus unidades especializadas en IA, se fusionarían en un solo equipo, al que llamaron Google DeepMind.

“Para desarrollar una IA cada vez más capaz y general, de forma segura y responsable, es necesario que resolvamos algunos de los desafíos científicos y de ingeniería más difíciles de nuestro tiempo”, anunció en un comunicado Sundar Pichai, director ejecutivo de Google, sobre las razones que motivaron la fusión.

“Necesitamos trabajar con mayor velocidad, con una colaboración y una ejecución más sólidas, y simplificar la forma en que tomamos decisiones para centrarnos en lograr el mayor impacto posible”, complementó.

En consecuencia, hoy DeepMind se rige por la política ética general de Google y su tecnología está incluida en los servicios de Google Cloud, que tiene como cliente al gobierno israelí.