«Una vez que envías esa foto, no puedes retirarla», dice la advertencia a los adolescentes, a menudo ignorando la realidad de que muchos de ellos envían imágenes explícitas de sí mismos bajo coacción o sin comprender las consecuencias.
Sin embargo, la colaboración entre Meta Platforms (antes Facebook) y la ONG, Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), ha resultado en el desarrollo de una herramienta digital que tiene por objetivo principal devolver algo de control a las personas y eliminar imágenes y videos explícitos de ellos mismos que circulan por internet. ¿Pero qué es Take it Down exactamente y, cómo puede ayudar a frenar la propagación de la pornografía de venganza a menores de edad?
¿Qué es Take it Down?
Específicamente, Take it Down es el nombre de una nueva herramienta digital que apunta a la eliminación de imágenes y vídeos de contenido explícito de menores de edad en Facebook e Instagram.
Financiada por Meta y operada por NCMEC, Take it Down permitirá por primera vez a los menores seleccionar imágenes y videos en sus dispositivos que no desean que se publiquen en línea o que ya se han publicado en línea. Posteriormente, la herramienta generará anónimamente un hash, o huella digital, a ese contenido específico. Finalmente, el hash anonimizado obtenido, no la imagen, se almacenará en una base de datos vinculada a Meta para que, si el contenido se publica alguna vez en las plataformas públicas, se comparará con la original, y si se identifica una imagen o video que coincida con el valor del hash, se eliminará.
Para crear un hash de una imagen explícita, un adolescente puede visitar el sitio web TakeItDown.NCMEC.org para instalar el software en su dispositivo. Además, la herramienta también puede ser utilizada por personas mayores de 18 años para eliminar imágenes explícitas tomadas cuando eran menores de edad, y está disponible en todo el mundo.
Abordar la violencia digital desde la responsabilidad social
Hasta el momento, Facebook e Instagram se han registrado para integrar la plataforma, al igual que OnlyFans, Pornhub y Yubo, pero se espera que más compañías se unan a la iniciativa para frenar la publicación de contenido explícito no consensuado.
Desde 2016, la línea de denuncias cibernéticas del NCMEC ha recibido más de 250 mil informes de incitación en línea, incluida la «sextorsión» —que se refiere al chantaje por parte de un ciber- delincuente para que la víctima realice una determinada acción bajo la amenaza de compartir o publicar imágenes íntimas de la persona—, y la cantidad de esos informes se duplicó con creces entre 2019 y 2021. Y, cabe destacar que muchos de estos casos se desarrollaron en las redes sociales.
«Nuestra esperanza es que conozcan este servicio y se sientan aliviados de que existan herramientas para ayudar a eliminar las imágenes. El NCMEC está aquí para ayudar».
Michelle DeLaune, presidenta y directora ejecutiva de NCMEC.
Gavin Portnoy, vocero del NCMEC, señala que los adolescentes pueden sentirse más cómodos yendo a un sitio a denunciar anónima que involucrando a la policía. Y añade: “Take It Down está hecho específicamente para personas que tienen razones para creer que su contenido puede estar en la Web en alguna parte, o que podría estarlo”.
Pero hay advertencias para esta herramienta. Puesto que, si alguien alterara la imagen, por ejemplo, recortándola o convirtiéndola en un meme, se convierte en una nueva imagen y, por lo tanto, necesita un nuevo hash. Además, las imágenes seguirán apareciendo en los sitios que no se hayan suscrito a este servicio.
Redes Sociales combaten abuso infantil
Ciertamente, el aumento de casos de violencia sexual contra menores a través de redes sociales ha despertado la preocupación de las autoridades y la sociedad en general. En una de las medidas más recientes para combatir esta forma de violencia, autoridades australianas solicitaron a plataformas digitales que explicaran detalladamente cuáles eran sus estrategias de seguridad para prevenir temas como el abuso sexual infantil y los intentos de chantaje.
Al respecto, Meta ha respondido que la compañía ha lanzado un puñado de nuevas herramientas y protecciones desde entonces. Sin embargo, algunos expertos dicen que ha tomado demasiado tiempo y que se necesita hacer más.
Meta, cuando todavía era Facebook, intentó crear una herramienta similar, aunque para adultos, en 2017. La cual no funcionó bien porque el sitio pedía a las personas que, básicamente, enviaran sus desnudos (encriptados) a Facebook. Mientras que, en 2021, colaboró para lanzar una herramienta para adultos llamada StopNCII, o imágenes íntimas no consensuadas, también conocida como «pornografía de venganza». Dicho sitio está a cargo de una organización sin fines de lucro del Reino Unido, la Línea de ayuda de pornografía de venganza del Reino Unido.
No obstante, en todo ese tiempo, la extorsión y explotación sexual en línea solo ha empeorado, tanto para niños y adolescentes como para adultos. Y, si bien conocer qué es Take it Down dará un respiro a los menores, abordar el intercambio no consensuado de imágenes íntimas requiere un enfoque más integral donde participe gobierno, empresas, ONG y sociedad civil, como indica Gavin Portnoy, vicepresidente de comunicaciones y marca del NCMEC.
