SEÑOR DIRECTOR:
La carta de Eliezer Yudkowsky ha generado bastante controversia y debate en la comunidad de inteligencia artificial (IA). En el texto publicado en Time, argumenta que el desarrollo de IA avanzada representa un riesgo existencial para la humanidad. Sostiene que no es suficiente pausar el desarrollo de sistemas de IA más potentes que GPT-4 durante seis meses, como se sugirió en una carta firmada por otros expertos, sino que se debe detener completamente hasta que garantizar su seguridad. Él cree que la creación de una IA con inteligencia sobrehumana podría llevar a la extinción de la humanidad, ya que no sabemos cómo controlar o alinear sus objetivos con los nuestros.
Las preocupaciones de Yudkowsky son válidas, pero a lo largo de la historia ha habido preocupaciones similares sobre nuevas tecnologías, desde la electricidad hasta la biotecnología. En muchos casos, resultaron ser infundadas o manejables con el tiempo y la experiencia. Detener el desarrollo de la IA no es la solución adecuada, la IA tiene el potencial de resolver problemas complejos y mejorar significativamente la calidad de vida en áreas como la medicina, la educación y la sostenibilidad ambiental.
En lugar de detener el desarrollo es más efectivo implementar regulaciones y controles estrictos para garantizar que la IA se desarrolle de manera segura y ética. Esto incluye la creación de marcos legales y éticos robustos, así como la promoción de la transparencia y la responsabilidad en el desarrollo de la IA. La colaboración internacional y el intercambio de conocimientos pueden ayudar a mitigar los riesgos sin necesidad de detener el progreso.
Mailyn Calderón
Directora Magíster en gestión de Tecnologías de la Información y Telecomunicaciones UNAB
Comenta
Los comentarios en esta sección son exclusivos para suscriptores. Suscríbete aquí.