La Agence France-Press (AFP) comunicó que Meta comenzará a probar herramientas desarrolladas con IA para proteger a los menores de edad de la sextorsión en Instagram, así como de la exposición a imágenes con desnudos. El programa piloto se implementará en América Central y América Latina, para luego instaurarse en todo el mundo
La sextorsión es uno de los delitos contra menores de edad que está a la alza en Estados Unidos, Canadá y Australia, según informa el Network Contagion Research Institute (NCRI), especializado en amenazas vinculadas a las redes sociales. No obstante, países de todo el globo reportan denuncias de sextorsión alarmantes. En el caso particular de México,la Secretaría de Seguridad Ciudadana (SSC) estima que en un periodo de dos años al menos 18 mil personas fueron víctimas de ciberacoso y sextorsión.
Ante el incremento de casos de sextorsión, Meta busca hacer frente a una de las muchas demandas de seguridad pendientes en sus plataformas de redes sociales y ofrecer soluciones para un delito que afecta a uno de los grupos más vulnerables que utiliza sus plataformas: los menores de edad. Te contamos cómo funcionará.
Meta evitará la sextorsión en Instagram
En un artículo para El Economista, la AFP informa que Meta comenzará las pruebas de un programa generado con IA para evitar la sextorsión en Instagram. El piloto, comenzará a funcionar en el mes de mayo en los países de América Central y América Latina.
Esta nueva función se activará en todas las cuentas de usuarios de Instagram menores de 18 años para permitir la detección de fotos con desnudos enviadas a través del servicio de mensajería de la red social y las blureará para evitar que los menores de edad sean expuestos automáticamente a ese tipo de contenido y decidan si ver o no la imágen.
Sobre las nuevas herramientas tecnológicas que se añadirán a Instagram, Meta comenta que son algunos de los resultados de un trabajo de muchos años en los que buscaron la manera de proteger a los jóvenes de contenidos no deseados y dañinos. También agrega:
“Estamos probando nuevas funciones para ayudar a proteger a los jóvenes de la sextorsión y el abuso de imágenes íntimas, y para dificultar que posibles estafadores y delincuentes encuentren a los adolescentes e interactúen con ellos”
Meta
¿Cómo la IA ayudará en el combate de la sextorsión?
La red social de Zuckerberg ha dicho que utilizará un tipo de IA: el aprendizaje automático. Esta tecnología podrá detectar si las imágenes enviadas mediante la mensajería de Instagram tienen desnudos y, acto seguido, poder difuminarlas.
La IA también auxiliará en la detección de cuentas sospechosas por utilizarse para este delito, además de bloquear algunas de sus funciones, por ejemplo, no podrán contactar a los menores por mensajería o ver sus listas de contactos y al realizar búsquedas no les aparecerán perfiles de menores de edad.
Meta avisará a los usuarios sobre las posibles iteracciones con perfiles sospechosos y los canalizará a líneas de ayuda.
Además, la red social enviará mensajes de sensibilización a los usuarios con el objetivo de alertar sobre la práctica de chantaje con fotos íntimas e invitarles a ser precavidos con el intercambio de fotos sensibles. El responsable de protección de la infancia en Meta Francia, Capucine Tuffier, dijo a la AFP que el objetivo de esta medida es “reducir la creación y envío de este tipo de imágenes”
Sobre la privacidad de los usuarios
Al anunciar esta nueva herramienta de combate de la sextorsión vía Instagram, Meta no perdió oportunidad de asegurar que, a pesar de la detección de imágenes con contenido sensible y el blureo que generará la IA, no tendrán acceso a las imágenes enviadas mediante la mensajería de la red social, excepto cuando la imágen sea denunciada por algún usuario.
Con esta aclaración Meta pretende impedir nuevas acusaciones debidas a violaciones a la privacidad de los usuarios, por las cuales, ha pagado multas millonarios en varias ocasiones y diferentes países.
Una medida de RSE por parte de Meta
El conglomerado estadounidense, propiedad de Mark Zuckerberg, se ha visto implicado en acusaciones por violar la privacidad de sus usuarios y por el uso de sus datos, así como por permitir que contenido violento, discriminatorio, o que incita al odio circule por sus redes, lo mismo que por supuestas censuraras a contenido de diversos temas y por no tomar medidas definitivas en contra del contenido ilegal que se filtra mediante sus plataformas.
Está claro que el llamado metaverso tiene problemas de regulación severos y que atentan contra los derechos humanos de sus usuarios, mismos que deben abordarse a la brevedad con soluciones del tamaño de la problemática. El asunto es que el metaverso, de alguna forma ha resultado tener impactos sociales negativos de los que la compañía tendrá que hacerse responsable.
Sin embargo, esta medida para combatir la sextorsión es un paso hacia la RSE que evidencia que sí se pueden generar soluciones para los usos irresponsables de las redes sociales, así como combatir el contenido ilegal y detectarlo. El camino hacia la RSE es un proceso y Meta tiene los medios para caminar en él con celeridad.
