En noviembre de 2022, en el momento en que la policía de Pensilvania arrestó a Jennifer Louise Whelan, de 29 años, se le acusó de docenas de cargos de delitos graves: entre ellos, se incluía el tráfico sexual y agresión indecente a tres niños pequeños.
De acuerdo con The Guardian, tan solo un mes antes, la policía había descubierto que Whelan estaba utilizando a tres niños de seis años, a los cuales tenía bajo su cuidado, para producir material de explotación sexual infantil. Supuestamente le vendía los videos y fotografías a un cliente a través de Facebook Messenger.
Ella se declaró inocente.
Material de explotación sexual infantil: un negocio escondido en Facebook Messenger y Meta Pay
En febrero de 2022, Brandon Warren, el presunto comprador del material de explotación sexual infantil, fue acusado formalmente por el jurado de nueve cargos de distribución de este material donde había menores involucrados en conductas sexualmente explícitas. Al igual que Whelan, se declaró inocente.
Los documentos judiciales citan mensajes de Facebook entre ambos; en ellos, Warren le describe a Whelan cómo quiere que realice estos videos. «Agregaré un poco más si le dices que hace que mamá se sienta bien”, comenta Whelan.
El pago de imágenes fue recibido a través de Meta Pay, el sistema de pago de Meta, de acuerdo con lo dicho en la denuncia penal.
Meta Pay, previamente conocido como Facebook Pay antes de su cambio de nombre en 2022, representa un servicio de transferencia de dinero entre pares, facilitado por las plataformas de redes sociales de la empresa. Esta herramienta permite a los usuarios cargar información de sus tarjetas de crédito, débito o cuentas de PayPal en Facebook Messenger o Instagram para realizar transacciones financieras de forma rápida y sencilla.
En respuesta a las preocupaciones sobre el uso indebido de Meta Pay en actividades relacionadas con la explotación sexual infantil, un portavoz de Meta ha declarado el compromiso de la compañía en la lucha contra este crimen atroz. Afirmando su apoyo a las fuerzas del orden y su inversión en tecnologías y expertos para detectar y abordar actividades sospechosas, Meta informa cualquier indicio de explotación sexual infantil al National Center for Missing and Exploited Children (NCMEC).
Sin embargo, según la información brindada por The Guardian, han salido a flote posibles deficiencias en la detección y reporte de transacciones sospechosas a través de Meta Pay. Documentos judiciales revelan casos en los que Meta no detectó acciones relacionadas con el material de explotación sexual infantil, mientras que los exmoderadores de contenido expresaron dificultades para comunicar las transacciones sospechosas a los equipos de cumplimiento de Meta Pay.
A pesar de las afirmaciones de Meta sobre su capacidad para detectar y responder a actividades dudosas, los exmoderadores señalaron la presencia de transacciones sospechosas que, en su opinión, estaban relacionadas con el tráfico sexual infantil. Estas transacciones de montos relativamente pequeños, podrían pasar desapercibidas para los sistemas de detección de Meta, según un exanalista de cumplimiento.
En respuesta a estas preocupaciones, un portavoz de Meta afirmó: «La explotación sexual infantil es un crimen horrible. Apoyamos a las fuerzas del orden en sus esfuerzos por procesar a estos delincuentes e invertimos en las mejores herramientas y equipos de expertos para detectar y responder a actividades sospechosas. Meta informa toda aparente explotación sexual infantil al NCMEC, incluidos los casos que involucran transacciones de pago».
El portavoz enfatizó la importancia de una cultura de «ver algo, decir algo» dentro de la empresa para abordar cualquier actividad sospechosa, especialmente aquellas que involucran a niños, como la difusión y venta de material de explotación sexual infantil.
Detección de transacciones relacionadas con abuso infantil
Los moderadores señalan que Meta no logra identificar los pagos relacionados con el material de abuso infantil. La investigación realizada por el diario británico revela que los pagos por contenido de explotación sexual infantil a través de Meta Pay probablemente pasan desapercibidos para la empresa, según la revisión de documentos y entrevistas a exmoderadores de contenido.
Documentos judiciales muestran que las acciones de Whelan y Warren no fueron detectadas por Meta, a diferencia de lo ocurrido en Kik Messenger, donde Warren fue investigado por subir contenido sospechoso.
Dos exmoderadores de contenido de Meta, empleados entre 2019 y 2022 y quienes permanecen en el anonimato, observaron transacciones sospechosas en Meta Pay, pero no lograron comunicarse con los equipos de cumplimiento de Meta Pay para reportar estos pagos. «Meta Pay parecía ser un método de pago fácil de usar, ya que las transacciones se realizaban a través de Messenger. Las sumas enviadas podrían alcanzar cientos de dólares», comentó uno de ellos.
Los pagos por sexo o material de explotación infantil generalmente oscilaban en unos pocos cientos de dólares o menos. De acuerdo con la información brindada por los exmoderadores, es poco probable que las transacciones de montos tan pequeños sean marcadas para su revisión por los sistemas de Meta.
Uno de esos moderadores, empleado durante cuatro años hasta mediados de 2022 por Accenture, un contratista de Meta, revisó las interacciones entre adultos y niños a través de Facebook Messenger en busca de contenido inapropiado. Al respecto, comentó: “Si un traficante de personas usa una palabra clave para vender niñas, nosotros no intervenimos. Realmente no nos entrenan para eso”.
En situaciones donde hombres estadounidenses se dirigían a niñas menores de edad en el extranjero para ganarse su confianza, los pagos podrían destinarse a cosas como adquirir un teléfono y materiales escolares, explicó el moderador. «La mayoría de lo que vimos fueron hombres mayores de Estados Unidos, dirigidos a niñas de países asiáticos y que a menudo viajaban allí», añadió.
Silvija Krupena, directora de la unidad de inteligencia financiera de RedCompass Labs, una firma financiera en Londres, comentó sobre las transacciones: «Cuando se trata de explotación infantil, en realidad se trata de pequeñas cantidades. Es un crimen global y criminal, con diferentes tipos de delincuentes. En países de bajos ingresos como Filipinas, 20 dólares es mucho dinero. La producción suele realizarse en esos países. Se trata de pequeñas cantidades que pueden pasar desapercibidas cuando se trata de controles tradicionales de lavado de dinero”.
Meta cuenta con un equipo de alrededor de 15,000 moderadores y analistas de cumplimiento cuya función es monitorear sus plataformas en busca de contenido dañino e ilegal. Se espera que Meta detecte y notifique posibles actividades delictivas a las autoridades. Las regulaciones contra el lavado de dinero también requieren que las empresas de servicios monetarios capaciten a su personal para que tengan acceso suficiente a información y puedan detectar financiamiento ilícito.
Sin embargo, los contratistas que monitorean la actividad de las transacciones en Meta Pay, no reciben capacitación específica para detectar y reportar flujos de dinero relacionados con material de explotación sexual infantil, incluido el lenguaje, las palabras clave y la jerga que suelen usar los traficantes.
Meta Pay y su obligación de informar sobre actividades ilícitas
Un portavoz de Meta puso en duda las afirmaciones del analista de cumplimiento de pagos: «El tamaño del pago es sólo una señal que nuestros equipos utilizan para identificar actividades potencialmente sospechosas, nuestros analistas de cumplimiento están capacitados para evaluar una variedad de señales», comentó. «Si nuestros equipos tuvieran motivos para sospechar de una actividad, especialmente una actividad que involucra a un niño, e incluso si los pagos son pequeños, se investigaría y se informaría apropiadamente», finalizó.
Las plataformas de Meta han estado asociadas previamente con casos de explotación y distribución de material de abuso sexual infantil (CSAM). En diciembre, la oficina del fiscal general de Nuevo México presentó una demanda contra la empresa, alegando que Facebook e Instagram son entornos propicios para depredadores que buscan a niños para fines de tráfico, captación y explotación sexual, como la elaboración de material de explotación sexual infantil.
Como empresa que proporciona servicios monetarios, Meta Pay está sujeta a las regulaciones bancarias estadounidenses contra el lavado de dinero y los estándares de «know your client» (KYC), los cuales requieren que las empresas informen sobre las actividades financieras ilícitas a Financial Crimes Enforcement Network (FinCEN).
Expertos en delitos financieros han advertido que si Meta no detecta ni reporta estas transacciones, podría estar infringiendo las leyes estadounidenses contra el lavado de dinero.
Cifrado de extremo a extremo, ¿una buena opción de seguridad?
Meta implementó el cifrado de extremo a extremo en Facebook Messenger a fines de 2023, pero incluso antes de esto, los contratistas analistas de cumplimiento de pagos no tenían acceso al contenido de los chats entre los usuarios que realizaban transacciones. La ex empleada de Facebook, Frances Haugen, comentó: «No sé cómo se cumple en general sin poder ver las intenciones en torno a las transacciones. Si las plataformas realmente querían mantener a estos niños seguros, podían hacerlo».
El trabajo aislado dificulta la detección de transacciones sospechosas, según los exmoderadores. Compararon sus roles con los de un centro de atención telefónica o una fábrica, donde revisaban contenido marcado como sospechoso por usuarios o inteligencia artificial y tomaban decisiones rápidas sobre su manejo; sin embargo, no tenían la capacidad de comunicarse con los analistas de cumplimiento de Meta Pay sobre las transacciones sospechosas que observaban. «No se nos permitió contactar a los empleados de Facebook ni a otros equipos», expresó un exmoderador, «Nuestros gerentes no nos dijeron por qué sucedió esto».
Gretchen Peters, directora ejecutiva de la Alliance to Counter Crime Online, ha documentado la venta de narcóticos, incluido el fentanilo, a través de las plataformas de Meta. Durante sus entrevistas con moderadores de Meta, descubrió que no se les permitía comunicarse con otros equipos de la empresa, lo cual considera una violación importante de las regulaciones bancarias de «conozca a su cliente». «Hemos escuchado a los moderadores de Meta que pueden ver que se está produciendo una conducta ilegal y que hay transacciones simultáneas a través de Meta Pay, pero no tienen forma de comunicar lo que ven internamente a los moderadores de Meta Pay», destacó Peters.
Al respecto, un portavoz comentó: «Meta cumple con todas las leyes estadounidenses contra el lavado de dinero aplicables. Tampoco es cierto sugerir que existe una falta de comunicación entre los equipos. Los moderadores de contenido están capacitados para dirigirse a un punto de contacto específico, quien trae al equipo de especialistas adecuado”.
En diciembre, Meta implementó el cifrado de extremo a extremo para los mensajes enviados en Facebook y Messenger; lo anterior permite ocultar el contenido de los mensajes a cualquier persona que no sea el remitente y el destinatario, convirtiendo el texto e imágenes en cifrados ilegibles que solamente se descifran cuando son recibidos.
Expertos en seguridad, formuladores de política, padres y autoridades han criticado esta medida, argumentando que obstaculiza los esfuerzos para combatir a los depredadores que consumen el material de explotación sexual infantil.
«Cuando Meta Pay está vinculado a Messenger o Instagram, los mensajes asociados con los pagos podrían revelar comportamientos ilícitos», dijo Krupena. «Ahora que se elimina este contexto, las implicaciones son significativas. Casi parece como si el cifrado estuviera facilitando inadvertidamente actividades ilícitas. Esto abre muchas oportunidades para que los delincuentes se oculten a plena vista», puntualizó.
Un portavoz de Meta comentó que se tomó la decisión del cifrado para brindar privacidad a las personas; sin embargo, la empresa anima a los usuarios a informar cualquier tema relacionado con la explotación infantil.
El portavoz de Meta expresó: «Pasar a un entorno de mensajería cifrada no significa que sacrificaremos la seguridad: hemos desarrollado más de 30 herramientas de seguridad, todas las cuales funcionan con mensajería cifrada». «Ahora hemos hecho que nuestras herramientas de denuncia sean más fáciles de encontrar, hemos reducido el número de pasos para denunciar y hemos comenzado a animar a los adolescentes a denunciar en momentos relevantes», puntualizó.
Facebook Messenger y Meta Pay: su desafío en RSE frente al material sexual infantil
Las redes sociales desempeñan un papel fundamental en la vida cotidiana; ante ello, surge un dilema preocupante: ¿cómo pueden las plataformas como Meta Pay y Facebook Messenger abordar el abuso sexual infantil y mantenerse fieles a los principios de RSE?
Meta y Facebook Messenger se enfrentan a una encrucijada en su búsqueda por equilibrar la protección de la privacidad de sus usuarios, con la necesidad de combatir el abuso sexual infantil en sus plataformas. Como empresa líder en tecnología, Facebook tiene la responsabilidad de adoptar medidas efectivas para abordar este grave problema y fortalecer su compromiso con la Responsabilidad Social Empresarial.
A través de un enfoque integral y colaborativo, que incluya la implementación de tecnologías de detección avanzadas, la cooperación con las autoridades y la transparencia en sus acciones, Meta y Facebook Messenger pueden avanzar hacia un futuro donde sus plataformas sean seguras, libres del comercio y propagación de material de explotación sexual infantil.
