Giphy se mete en otro lío de seguridad

Giphy entra en investigación por almacenamiento de contenido ilícito

Giphy es una de las plataformas más populares para crear y compartir gifs. Sin embargo, al igual que muchos otros servicios para difundir contenido en Internet, esta se ha convertido en terreno fértil para la propagación de material ilícito y abusivo.

Una nueva investigación conducida por la empresa de ciberseguridad L1ght y recogida por TechCrunch descubrió que Giphy  almacena “una gran cantidad de contenido tóxico oculto, incluyendo contenido de abuso infantil, representaciones de violación y otras imágenes tóxicas asociadas con temas como la supremacía blanca y discursos de odio”.

Pese a que Giphy bloquea muchos hashtags y términos de búsqueda para que no devuelvan resultados cuando apuntan a temas de esa índole, el reporte indica que dicho material aparece en la plataforma mediante motores de búsqueda como Google y Bing, que almacenan imágenes en caché de ciertas palabras clave.

Así, la investigación determinó que al  “usar varias palabras asociadas con contenido ilícito, Giphy a veces mostraba contenido de sus propios resultados”, pero “cuando no devolvía ningún material prohibido, los motores de búsqueda a menudo arrojaron una serie de resultados prohibidos”.

A raíz de ese descubrimiento L1ght siguió las etiquetas que acompañaban a las publicaciones que identificó y que deberían estar prohibidas en Giphy. Ahí la empresa descubrió que aquellas etiquetas llevan a redes de contenido ilegal o tóxico.

Es decir, las etiquetas ocupadas en ese nocivo contenido pueden pasar desapercibidas para los usuarios y la plataforma, pero son la puerta de entrada a toda una red de material ilegal y tóxico.

Los investigadores de L1ght utilizaron su motor de inteligencia artificial para descubrir el contenido ilegal y abusivo, lo que les permitió ver la memoria en caché y otros elementos que podrían pasar desapercibidos.

En ese sentido, la investigación logró establecer que “muchos de los contenidos más extremos, incluidas las imágenes de abuso sexual infantil, se etiquetaron con palabras clave asociadas con sitios conocidos de explotación infantil”.

A la luz de este grave reporte Simon Gibson, el jefe de audiencia de Giphy, le dijo a TechCrunch que la seguridad del contenido era de “suma importancia” para la compañía y que esta emplea “protocolos de moderación extensivos” para vigilar el material en su plataforma.

Gibson explicó que Giphy modera su contenido usando procesos automatizados y personas, y señaló que “cuando se identifica contenido ilegal, la compañía trabaja con las autoridades para informar y eliminarlo”.

“Giphy también realiza búsquedas proactivas de palabras clave, dentro y fuera de nuestro índice de búsqueda, con el fin de encontrar y eliminar contenido que está en contra de nuestras políticas”, dijo Gibson.

Sin embargo, todo apunta a que eso no es suficiente. Después de todo, esta no es la primera vez que Giphy se enfrenta a críticas por el contenido difundido en su sitio. En 2018 otro reporte reveló las  dificultades de la compañía para enfrentar del contenido ilegal y prohibido, y ese mismo año la empresa fue expulsada de Instagram tras pasar por alto contenido racista.