Bing sugiere las peores cosas que puedas imaginar

Si utiliza la búsqueda de imágenes de Bing, verá la peor suciedad que pueda imaginar. Bing sugiere términos racistas y muestra imágenes horribles. Bing incluso le sugerirá que busque niños explotados si tiene SafeSearch desactivado.

Nos pusimos en contacto con Microsoft para solicitar comentarios y Jeff Jones, director senior de Microsoft, nos dio la siguiente declaración:

“Nos tomamos muy en serio los asuntos de contenido ofensivo y continuamos mejorando nuestros sistemas para identificar y evitar que dicho contenido aparezca como una búsqueda sugerida. Tan pronto como nos damos cuenta de un problema, tomamos medidas para solucionarlo “.

Actualización: desde su publicación, Microsoft ha estado trabajando para limpiar las sugerencias ofensivas de Bing que mencionamos. Según nuestra investigación, todavía hay muchas otras sugerencias ofensivas que aún no se han solucionado, incluidas algunas que mencionamos a continuación. No estamos seguros de si simplemente están arreglando los elementos ofensivos que señalamos o si están mejorando el algoritmo.

Nota: Las capturas de pantalla aquí muestran lo que vimos cuando escribimos este artículo probando la versión estadounidense de la búsqueda de imágenes de Bing en una sesión de navegación privada de incógnito, pero los resultados de Bing cambian con el tiempo. Google no tuvo ninguno de estos problemas, según nuestras pruebas. Este es un problema de Bing, no solo un problema de motor de búsqueda. El mismo problema afecta la búsqueda de videos de Bing.

Primero, Bing se vuelve súper racista

Busque “judíos” en Bing Images y Bing sugiere que busque “Judío malvado”. Los mejores resultados también incluyen un meme que parece celebrar a los judíos muertos.

Todo esto aparece incluso cuando la opción SafeSearch de Bing está habilitada, como está por defecto. SafeSearch está diseñado para “ayudar a mantener el contenido para adultos fuera de sus resultados de búsqueda”, según Microsoft.

Al hacer clic en esta búsqueda sugerida, se desata un torrente de contenido racista y antisemita, con más búsquedas sugeridas como “Los judíos son malvados”, “La raza judía malvada” y “Por qué son tan malvados los judíos”.

Todos sabemos que esta basura existe en la web, pero Bing no debería llevar a la gente a ella con sus sugerencias de búsqueda.

Escriba “los musulmanes son” y Bing sugerirá que son malvados o terroristas, o simplemente sugerirá que son estúpidos.

Busque “los negros son” y Bing sugerirá que los negros son feos, estúpidos, racistas e incluso salvajes.

Puede seguir así, haciendo clic en cada búsqueda sugerida y viendo recomendaciones cada vez peores. Por ejemplo, hacer clic en “Los negros son estúpidos” conduce a “Los negros son inútiles” y “Por qué los negros son tan tontos”. Al hacer clic en “Los negros son inútiles”, se muestran “Los negros apestan” y “Odio a los negros”.

Bing también impulsa conspiraciones

La búsqueda de imágenes de Bing arroja todo tipo de basura, incluso cuando busca personas. Este problema también se extiende a la búsqueda de videos de Bing.

Busque “Michelle Obama” en la búsqueda de videos de Bing y dos de las principales búsquedas sugeridas son “Michelle Obama Transgender Proof” y “Michelle Obama es un hombre”. Haga clic en eso y verá videos de conspiración.

¿Es esto lo que Microsoft quiere que la gente vea cuando busque a Michelle Obama?

SafeSearch bloquea la pornografía, pero no el racismo

Las sugerencias e imágenes de pornografía perturbadoras no se muestran a menos que desactive SafeSearch. Si bien Microsoft dice que SafeSearch mantendrá el contenido para adultos fuera de sus resultados de búsqueda, SafeSearch claramente filtra la pornografía y no el racismo.

SafeSearch está habilitado de forma predeterminada, lo que hace que los resultados de búsqueda de Bing parezcan más respetables a primera vista.

Sin embargo, es fácil para cualquier persona, incluso para los niños, desactivar SafeSearch. Todo lo que alguien tiene que hacer es hacer clic en la opción “SafeSearch” en la esquina superior derecha de los resultados de búsqueda y seleccionar “Desactivado”. ¡Eso es!

Se podría configurar una red corporativa para hacer cumplir SafeSearch, y Microsoft incluso proporciona instrucciones complejas para hacer cumplir SafeSearch en una sola PC. Pero, en casi cualquier dispositivo, cualquiera puede desactivar SafeSearch con dos clics.

Lo peor de todo es que Bing sugiere buscar imágenes de niños menores de edad

Un lector nos escribió para decirnos que un error tipográfico al buscar “parrilla” en Bing te da pornografía muy incompleta. El problema se agrava mucho más y Bing sugiere que busque imágenes de niños menores de edad.

Al buscar “gril”, las sugerencias en la parte superior de la página le recomiendan buscar algunas cosas perturbadoras, como “Cute Girl Young 16.”

Si hace clic en eso, sugiere “Niña linda de 12 años”, “Niña linda de 10 años” y “Niña modelando de manera provocativa”.

Los resultados están llenos de pornografía de modelos de aspecto joven. Esperamos que todos tengan 18 años o más, pero ¿quién puede decirlo?

Bing te lleva por un camino desde un simple error tipográfico hasta niñas de 16 años y niñas de 10 años, y es repugnante.

Otros ejemplos también son fáciles de encontrar. Si busca “pizza de queso”, que es la jerga de 4chan para la pornografía infantil, Bing sugiere “Chicas de pizza de queso”.

Los resultados de la búsqueda de imágenes de Bing también están retorcidos

Si bien nos centramos en las sugerencias de búsqueda aquí, las imágenes reales que aparecen también son inquietantes.

Algunos de estos resultados de búsqueda contienen fotos de niños menores de edad desnudos a la hora del baño. Esas fotos normalmente estarían bien, pero cuando se mezclan con imágenes de pornografía para adultos hardcore, los resultados de búsqueda resultantes son alarmantes.

Incluso al buscar en Bing Images para “niña”, vimos una sugerencia para buscar “chicas borrachas” y al menos una imagen de bestialidad.

Al buscar “burro”, Bing sugiere que busque “Donkey Show Graphic”, lo que conduce a resultados llenos de imágenes de bestialidad. La posesión de pornografía de bestialidad es ilegal en Oregon, donde vivo. Eso significa que Bing me está llevando a la pornografía ilegal.

Nuevamente: los resultados de búsqueda de Bing son extraños y retorcidos. Bing tiene un problema mucho más grande y profundo que las búsquedas sugeridas, aunque esas sugerencias empeoran el problema.

Hemos escuchado que Bing es el motor de búsqueda preferido para la pornografía, pero no debería llevar a sus usuarios a una pornografía cada vez más extrema, perturbadora y potencialmente ilegal.

Microsoft necesita moderar sus plataformas

Microsoft necesita moderar mejor Bing. Microsoft ha creado plataformas anteriormente, las ha desatado en el mundo y las ha ignorado mientras se vuelven malas

Hemos visto que esto sucede una y otra vez. Microsoft una vez desató un chatbot llamado Tay en Twitter. Este chatbot rápidamente se convirtió en nazi y declaró “Hitler tenía razón, odio a los judíos” después de enterarse de otros usuarios de las redes sociales. Microsoft tuvo que desconectarlo.

Anteriormente expusimos la Tienda de Windows 8, que se convirtió en un pozo negro de aplicaciones fraudulentas después de que Microsoft lanzó Windows 8 y pareció dejar de moderar los envíos de aplicaciones. Microsoft ha estado prestando más atención a la tienda de Windows 10 después de que se expuso este problema.

Este problema afecta a todas las empresas que lanzan una plataforma. Google ha renunciado a Google+, pero Google+ todavía está en funcionamiento. Entonces, ISIS migró a Google+ después de ser expulsado de Twitter y Facebook. Pasaron meses para que alguien se diera cuenta hasta que The Hill lo hizo. Ahora Google está cerrando Google+ después de que descubrieron un error de privacidad significativo.

En 2013, The Guardian descubrió que una empresa de ropa llamada Solid Gold Bomb vendía camisetas con la leyenda “Keep Calm and Rape a Lot” en Amazon. Un algoritmo había generado estas camisetas y Amazon tuvo que quitarlas manualmente.

Microsoft no puede simplemente soltar una plataforma en el mundo e ignorarla. Empresas como Microsoft y Google tienen la responsabilidad de moderar sus plataformas y mantener a raya el horror.

Las sugerencias tienen un historial de problemas graves

Por supuesto, no hay ningún equipo de personas en Microsoft que elija estas sugerencias. Bing sugiere automáticamente búsquedas basadas en las búsquedas de otras personas. Eso significa que muchos usuarios de Bing Images buscan antisemitismo, racismo, pornografía infantil y bestialidad. Solo pensar en eso te hace sentir sucio.

Otras empresas también han luchado con esto. En 2016, The Guardian notó que se podía escribir “son judíos” en Google y sugeriría “son judíos malvados”. Google pisoteó estas malas sugerencias después de que se informaron, pero el problema resurgió. En 2018, Wired informó que escribir “Hitler es” en Google llevó a “Hitler es mi héroe”. Google también tuvo que solucionar estos problemas después de que fueron señalados.

Incluso Siri de Apple sugirió que los sitios web impulsaron sitios web de conspiración y otras noticias falsas, como informó Buzzfeed News. Apple tuvo que arreglar Siri. Todo el mundo está corriendo y apagando incendios mientras las computadoras aprenden cosas malas de las personas malas.

Ahora es el turno de Microsoft. Microsoft tiene la responsabilidad de limpiar Bing. Un motor de búsqueda importante (y especialmente uno que se está convirtiendo cada vez más en un dispositivo predeterminado más difícil de desactivar integrado en Windows 10) no debería sugerir a sus usuarios que busquen basura racista e imágenes de niños menores de edad.

Haber de imagen: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.