Google intensifica uso de IA para hacer las búsquedas más seguras

El buscador ofrecerá resultados mejorados ante búsquedas sobre temas de crisis personal como violencia doméstica, bullying, acoso sexual o suicidio. 

Google anunció mejoras en las búsquedas a nivel global con nuevas capacidades de inteligencia artificial avanzadas que empezarán a estar disponibles desde esta semana. Los sistemas mostrarán más información relevante y recursos de acción en búsquedas relacionadas a crisis personales en 75 idiomas y ayudarán a la reducción de resultados impactantes o contenidos explícitos inesperados.

“Todos los días, las personas acuden a Google en busca de información crítica para mantenerse a sí mismos y a sus familias seguras. Estamos trabajando constantemente para asegurarnos de que la información de alta calidad esté a solo una búsqueda de distancia. Desde destacar los recursos de ayuda después de un desastre natural, hasta proporcionar información de salud sensible a tiempo. La inteligencia artificial puede ser una ayuda increíble para encontrar recursos de ayuda de manera más eficiente y más rápida, ayudando a las personas a mantenerse fuera de peligro”, afirmó Tulsee Doshi, Líder de Producto para la iniciativa de Responsabilidad en Inteligencia Artificial de Google. 

Según se anunció, en las próximas semanas, de forma paulatina, se hará el despliegue de las capacidades internacionalmente. En el caso de Colombia, los sistemas de inteligencia artificial operarán en consultas relacionadas al acoso sexual o material de abuso sexual de menores.  

Inteligencia artificial para búsquedas más seguras

Información confiable y práctica cuando más la necesitas

Generalmente, las personas acuden al motor de búsqueda para encontrar información confiable en los momentos que más importan. A partir de hoy, si un usuario busca en Google información sobre suicidio, agresión sexual, desordenes alimenticios, bullying, lesiones autoinfligidas, abuso de sustancias, depresión y violencia doméstica, entre otros, verá información de contacto para las líneas de ayuda directas locales, junto con los resultados más importantes y de alta calidad disponibles. 

Mayor protección alrededor del mundo 

Utilizando MUM, el último modelo de IA, Google podrá detectar de forma automática y más precisa una gama más amplia de búsquedas sobre crisis personales. Esto ayudará a mostrar de manera más fidedigna información confiable y práctica en el momento adecuado. 

El sistema Multitask Unified Model, conocido como MUM, por sus siglas en inglés, puede transferir conocimientos a través de los 75 idiomas en los que está entrenado, lo que puede ayudar a escalar las protecciones de seguridad en todo el mundo de manera mucho más eficiente. Cuando se entra a un modelo MUM para realizar una tarea, como clasificar la naturaleza de una consulta, aprende a hacerlo en todos los idiomas que conoce. 

Por ejemplo, se utiliza la IA para ayudar a reducir las páginas de spam poco útiles y a veces peligrosas que pudieran aparecer en tus resultados de búsqueda. En los próximos meses, se usará MUM para mejorar la calidad de las protecciones contra spam y expandir a idiomas donde hay muy pocos datos de entrenamiento. También se podrá detectar mejor las consultas sobre crisis personales alrededor del mundo, trabajando con socios locales de confianza para mostrar información práctica en más países. 

Al igual que cualquier mejora de la búsqueda, estos cambios han pasado y seguirán pasando por una evaluación rigurosa, con el aporte de los evaluadores de la búsqueda alrededor del mundo para asegurarse de que se está proporcionando resultados más relevantes y útiles.

Ayuda a mantener a los usuarios alejados de contenido impactante e inesperado 

Mantener a los usuarios seguros en la búsqueda también significa ayudar al usuario a mantenerse alejado del contenido que no se  está buscando y  que no se encuentre, por el contrario, con contenido impactante e inesperado. 

Esto puede ser un desafío porque a veces los creadores de contenido usan términos benignos para etiquetar contenido explícito o sugerente. Y el contenido más predominante que coincide con tu búsqueda puede no ser lo que pretendías encontrar. En estos casos, incluso si las personas no están buscando directamente ese contenido explícito, podría aparecer en sus resultados. 

Una forma de abordar esto es con el modo SafeSearch (Bùsqueda Segura), que ofrece a los usuarios la opción de filtrar resultados explícitos. Esta configuración es la predeterminada en cuentas de Google para menores de 18 años. E incluso cuando los usuarios eligen tener SafeSearch desactivado, los sistemas de Google reducen los resultados subidos de tono y no deseados para las búsquedas que parecen no tener intención de encontrarlos. De hecho, todos los días, los algoritmos de seguridad mejoran cientos de millones de búsquedas en todo el mundo a lo largo de las búsquedas web, de imagen y de vídeo. 

Pero sigue habiendo margen de mejora. Para reducir los resultados inesperados, Google está utilizando tecnologías avanzadas de IA como BERT para comprender mejor lo que estás buscando. Esta tecnología ha mejorado la comprensión sobre si las búsquedas realmente tienen la intención de encontrar contenido explícito. Esto permite reducir enormemente las posibilidades de encontrar resultados de búsqueda inesperados. 

Este es un desafío complejo que Google ha estado abordando durante años, pero tan solo en el último año, esta mejora de BERT ha reducido la presencia de resultados inesperados en un 30%. Ha tenido un impacto especial en la reducción del contenido explícito para búsquedas relacionadas con el origen étnico, la orientación sexual y el género, lo que puede afectar de manera desproporcionada a las mujeres y especialmente a las mujeres de color.