Doctor Malvado: el descubrimiento que aterró a los científicos

Buscar medicamentos para enfermedades raras y desatendidas por las grandes farmacéuticas. Esta es la misión de Sean Ekins, director ejecutivo de Collaborations Pharmaceuticals, y su equipo, y aunque saben que probablemente no se hagan millonarios por ello, les basta con saber que están poniendo su granito de arena para una mejor sociedad.

Pero en su trabajo del día a día, recibieron una extraña invitación a una conferencia de la que nunca habían oído hablar. Era un encuentro, por Zoom, para “evaluar las nuevas tendencias en investigación biológica y química que podrían representar amenazas para la seguridad”.

Sin embargo, Ekins puso mayor atención a esta invitación, pues “estaban interesados en el mal uso de la tecnología, las herramientas científicas y la ciencia en general”. Le pidieron que hiciera una presentación, lo que le pareció también extraño, pero que lo llevó a pensar cómo, su valioso trabajo podría ser mal utilizado para, en lugar de sanar, causar daño.

Para lograr encontrar las medicinas contra enfermedades raras, la empresa creó una herramienta de Inteligencia Artificial (IA) llamada MegaSyn. Lograron armarla con bases de datos de software de código abierto y crearon modelos de aprendizaje automático que “permite diseñar moléculas con propiedades particulares”.

En simples palabras, lograron tener una IA que entrenaron para que hiciera el trabajo de un químico humano, solo que a una velocidad inhumana.

Los medicamentos están compuestos básicamente por moléculas, por lo que MegaSyn busca entre las que ya existen e incluso puede crear nuevas, todo para lograr encontrar la cura de distintas enfermedades.

Pero después de recibir la invitación a la conferencia que exploraría el “mal uso” de estas herramientas, Ekins y su equipo quisieron averiguar qué pasaría si esta IA, MegaSyn, caería en manos equivocadas: nació el proyecto “Doctor Malvado”.

Pero, ¿cómo una herramienta tan buena podría volverse mala? La respuesta se basó en que ningún fármaco tiene que ser tóxico. Para ello, había un filtro en su sistema que se aseguraba que no fuera tóxico para el consumo humano. Tal y como si fuera un interruptor, cambiaron el filtro de “no tóxico” a “tóxico”.

Dejaron que la Inteligencia Artificial hiciera lo suyo y, al día siguiente, encontraron una lista con decenas de miles de moléculas. Los científicos buscaron si alguna de ellas era conocida, y lo que encontraron los espantó.

“Ese cambio tan sencillo al programa, había tenido un efecto dramático”, confesó el científico a la BBC. MegaSyn diseñó el aterrador agente nervioso VX que está prohibido por la ONU y que está clasificado como arma de destrucción masiva.

Es una de las sustancias químicas más letales. Basta con menos de una gota en contacto con la piel para matar a una persona. Y no solo eso, sino que la IA pudo encontrar otras moléculas desconocidas que podrían ser el punto de partida para desarrollar armas químicas más potentes.

Los científicos, aterrados, también pensaron que, si bien el Doctor Malvado era un experimento teórico, era demasiado fácil de hacer: “No necesitas un doctorado, solo algunos conocimientos de codificación, una computadora portátil básica… Todo lo demás está disponible en línea de forma gratuita”, dijo Ekins.

“Si algún químico tuviera esto en sus manos y quisiera convertir esas moléculas en armas, como nadie sabe que existen, esas armas serían imposibles de rastrear y diagnosticar”, agregó.

Pero el dilema de esto también se centró en que si, alertar del peligro también significaba evidenciar a los malintencionados de las posibilidades. Por esto, junto a su equipo decidieron no dar tantos detalles sobre el proyecto y, una vez que salió en una revista científica, despertó la alerta en los medios de comunicación y los expertos en armas químicas, IA, farmacéuticas e incluso filósofos.

Sin embargo, el secreto de qué moléculas usó MegaSyn decidieron llevárselo a la tumba y nisiquiera compartirlo con la Casa Blanca, cuando fueron citados por la Oficina de Política Científica y Tecnológica y el Consejo de Seguridad Nacional de Estados Unidos.

Y es que, nadie puede frenar el progreso. MegaSyn, utilizado correctamente, será beneficiosa, por lo que la solución para Ekins es “educar a la gente sobre los problemas”.

“Podemos usar esas tecnologías para defendernos, valernos de las mismas herramientas para averiguar cuáles son los productos químicos que podrían usarse para hacer nuevas moléculas tóxicas, y así controlarlos”.