Al explorar nuevos lugares, las reseñas en Google son un tesoro oculto de conocimiento local que puede indicarle los lugares y negocios que más disfrutará, ya sea una panadería con la mejor magdalena sin gluten o un restaurante cercano con música en vivo.
Con millones de reseñas publicadas todos los días por personas de todo el mundo, contamos con asistencia las 24 horas para mantener la información en Google relevante y precisa. Gran parte de nuestro trabajo para evitar el contenido inapropiado se realiza entre bastidores, por lo que queríamos arrojar algo de luz sobre lo que sucede después de presionar “publicar” en una reseña.
Cómo creamos y hacemos cumplir nuestras políticas
Hemos creado políticas de contenido estrictas para asegurarnos de que las reseñas se basen en experiencias del mundo real y para mantener los comentarios irrelevantes y ofensivos fuera de los perfiles comerciales de Google.
A medida que el mundo evoluciona, también lo hacen nuestras políticas y protecciones. Esto nos ayuda a proteger lugares y negocios de contenido infractor y fuera de tema cuando existe la posibilidad de que sean objeto de abuso. Por ejemplo, cuando los gobiernos y las empresas comenzaron a exigir una prueba de la vacuna contra el COVID-19 antes de ingresar a ciertos lugares, implementamos protecciones adicionales para eliminar las reseñas de Google que critican a una empresa por sus políticas de salud y seguridad o por cumplir con un mandato de vacunación.
Una vez que se escribe una política, se convierte en material de capacitación, tanto para nuestros operadores como para los algoritmos de aprendizaje automático, para ayudar a nuestros equipos a detectar el contenido que infringe las políticas y, en última instancia, mantener las reseñas de Google útiles y auténticas.
Moderación de reseñas con la ayuda del aprendizaje automático
Tan pronto como alguien publica una reseña, la enviamos a nuestro sistema de moderación para asegurarnos de que la reseña no infrinja ninguna de nuestras políticas. Puede pensar en nuestro sistema de moderación como un guardia de seguridad que evita que personas no autorizadas ingresen a un edificio, pero en cambio, nuestro equipo impide que se publique contenido inadecuado en Google.
Dado el volumen de reseñas que recibimos regularmente, descubrimos que necesitamos tanto la comprensión matizada que ofrecen los humanos como la escala que brindan las máquinas para ayudarnos a moderar el contenido contribuido. Tienen diferentes puntos fuertes, por lo que seguimos invirtiendo enormemente en ambos.
Las máquinas son nuestra primera línea de defensa porque son buenas para identificar patrones. Estos patrones a menudo ayudan de inmediato a nuestras máquinas a determinar si el contenido es legítimo, y la gran mayoría del contenido falso y fraudulento se elimina antes de que alguien lo vea.
Nuestras máquinas analizan las reseñas desde múltiples ángulos, como por ejemplo:
- El contenido de la reseña: ¿Contiene contenido ofensivo o fuera de tema?
- La cuenta que dejó la revisión: ¿La cuenta de Google tiene algún historial de comportamiento sospechoso?
- El lugar en sí: ¿Ha habido actividad inusual, como una gran cantidad de reseñas en un período corto de tiempo? ¿Ha recibido recientemente atención en las noticias o en las redes sociales que motivaría a las personas a dejar reseñas fraudulentas?
Entrenar a una máquina sobre la diferencia entre contenido aceptable y que infringe las políticas es un equilibrio delicado. Por ejemplo, a veces la palabra “gay” se usa como un término despectivo y eso no es algo que toleramos en las reseñas de Google. Pero si le enseñamos a nuestros modelos de aprendizaje automático que solo se usa en discursos de odio, es posible que eliminemos erróneamente las reseñas que promueven un propietario de un negocio gay o un espacio seguro LGBTQ+. Nuestros operadores humanos ejecutan regularmente pruebas de calidad y completan capacitación adicional para eliminar el sesgo de los modelos de aprendizaje automático.
Al capacitar a fondo a nuestros modelos en todas las formas en que se usan ciertas palabras o frases, mejoramos nuestra capacidad para detectar contenido que infringe las políticas y reducir la posibilidad de bloquear inadvertidamente las reseñas legítimas para que no se publiquen.
Si nuestros sistemas no detectan infracciones de la política, la reseña puede publicarse en cuestión de segundos. Pero nuestro trabajo no termina una vez que se publica una revisión. Nuestros sistemas continúan analizando el contenido aportado y observando patrones cuestionables. Estos patrones pueden ser cualquier cosa, desde un grupo de personas que dejan reseñas en el mismo grupo de Perfiles comerciales hasta una empresa o lugar que recibe una cantidad inusualmente alta de reseñas de 1 o 5 estrellas en un período corto de tiempo.
Mantener las reseñas auténticas y confiables
Como cualquier plataforma que agradece las contribuciones de los usuarios, también debemos estar atentos en nuestros esfuerzos para evitar que aparezcan fraudes y abusos en Maps. Parte de eso es facilitar que las personas que usan Google Maps marquen cualquier reseña que infrinja las políticas. Si cree que ve una revisión que infringe las políticas en Google, le recomendamos que informe a nuestro equipo. Las empresas pueden reportar reseñas en sus perfiles aquí , y los consumidores pueden reportarlos aquí .
Los usuarios y las empresas de Google Maps pueden denunciar fácilmente las reseñas que consideran que infringen una de nuestras políticas.
Nuestro equipo de operadores humanos trabaja las 24 horas para revisar el contenido marcado. Cuando encontramos reseñas que infringen nuestras políticas, las eliminamos de Google y, en algunos casos, suspendemos la cuenta del usuario o incluso iniciamos un litigio.
Además de revisar el contenido marcado, nuestro equipo trabaja de manera proactiva para identificar posibles riesgos de abuso, lo que reduce la probabilidad de ataques de abuso exitosos. Por ejemplo, cuando se acerca un evento con muchos seguidores, como una elección, implementamos protecciones elevadas en los lugares asociados con el evento y otras empresas cercanas que las personas pueden buscar en Maps. Continuamos monitoreando estos lugares y negocios hasta que el riesgo de abuso haya disminuido para apoyar nuestra misión de publicar solo reseñas auténticas y confiables. Nuestra inversión en analizar y comprender cómo se puede abusar del contenido aportado ha sido fundamental para mantenernos un paso por delante de los malos actores.
Con más de mil millones de personas que recurren a Google Maps cada mes para navegar y explorar, queremos asegurarnos de que la información que ven, especialmente las reseñas, sea confiable para todos. Nuestro trabajo nunca termina; estamos constantemente mejorando nuestro sistema y trabajando arduamente para mantener el abuso, incluidas las reseñas falsas, fuera del mapa
