Google anunció hoy que llevara a cabo mejoras en su inteligencia artificial para hacer que su motor de búsqueda sea más seguro y que tenga un mejor manejo en temas sensibles como el suicidio, la agresión sexual, el abuso de drogas y la violencia doméstica. Además se implementará otras I.A. para no mostrar contenido explícito cuando los usuarios no lo deseen en sus búsquedas.

Actualmente, si se buscan temas como el suicido, abusos o uso de drogas, Google muestra información de contacto de las líneas directas de ayuda junto a otro contenido relevante. Sin embargo, los resultados pueden variar (mostrando contenido dañino) y el motor de búsqueda puede no identificar la necesidad específica del usuario.

De este modo, Google puso en marcha el modelo llamado MUM (Multitask Unified Model), que permitirá detectar de forma automática y más precisa las intenciones de las consultas y búsquedas de personas en situación de crisis mostrando información más confiable y segura.

“Las personas en crisis personales buscan en todo tipo de formas, y no siempre es obvio para nosotros que están en necesidad. Y si no podemos reconocer eso con precisión, no podemos codificar nuestros sistemas para mostrar los resultados de búsqueda más útiles. Es por eso que usar el aprendizaje automático para comprender el lenguaje es tan importante”, dijo Pandu Nayak, miembro técnico de Google en un post.

Un ejemplo del cambio que implementará MUM, es que si alguien buscaba “puntos críticos de suicidio en Chile”, Google entendería la consulta como una búsqueda de información. Debido a que el término “puntos críticos” se usa para las búsquedas de viaje. Ahora, el nuevo sistema entenderá que el usuario que realiza esa búsqueda está catalogado como alguien potencialmente en crisis, por lo que se le mostrará información como líneas de ayuda directa.

Google aseguró que MUM también mejorará la protección contra correos spam y se expandirá a idiomas en los que la compañía tiene pocos datos de capacitación en los próximos meses. Por su parte, la implementación del sistema en las búsquedas sensibles se dará en las próximas semanas.