«Tengan cuidado con lo que suban a Facebook». –Barack Obama, septiembre del 2009.
El ex presidente de los Estados Unidos dijo la frase inaugurando el nuevo ciclo escolar en una escuela secundaria de Wakefield, Virginia hace 8 años.
Facebook es una red social creada por Mark Zuckerberg y fundada junto con Eduardo Saverin, Chris Hughes y Dustin Moskovitz. Originalmente era un sitio para estudiantes de la Universidad de Harvard y su propósito era diseñar un espacio en el que los alumnos pudieran intercambiar una comunicación fluida y compartir contenido de forma sencilla a través de Internet. Sin embargo, con el tiempo se hizo disponible para cualquier usuario de la red. La plataforma ya tiene más de 2 mil millones de usuarios en todo el mundo. El objetivo de Facebook es asegurarse de que la gente pueda comunicarse sin fronteras.
Pero esta red social ha recibido muchas críticas desde que alcanzó difusión global, sobre todo por los términos de uso y el acceso a la información de los usuarios. También debido al alcance que está teniendo entre menores, los efectos psicológicos y las políticas de privacidad. Además, abundan las falsas noticias, especialmente en el último año, y las políticas no tan claras de la plataforma sobre lo que se puede y no se puede publicar en Facebook. Últimamente muchas publicaciones de personas negras criticando el racismo se borran; pero eso no es todo.
«Cazarlos, identificarlos y matarlos. Matarlos a todos. Por el bien de todo lo que es bueno y justo. Matarlos a todos», escribió en Facebook el estadounidense Clay Higgins, un republicano de Louisiana, después del ataque terrorista en Londres el mes pasado. Los colaboradores de Facebook que rastrean la red social para borrar discursos ofensivos no hicieron nada al respecto.
Una publicación en la plataforma por la poeta y activista, Didi Delgado, de Black Lives Matter provocó una reacción diferente. Decía que «las personas blancas son racistas»; la publicación fue eliminada de inmediato. Delgado ha sido bloqueada en Facebook tantas veces que ha creado una cuenta en otro servicio llamado Patreon, donde publica el contenido que la plataforma no permite. Ella escribió una nota en Medium sobre la censura común que Facebook comete contra los activistas negros bajo el título «Mark Zuckerberg odia a la gente negra”.
Varios documentos internos revisados por ProPublica llaman la atención por las directrices secretas que los censores de Facebook utilizan para distinguir entre un discurso de odio y una expresión política legítima. Los documentos revelan decisiones inconsistentes, por ejemplo, la manera de hacer provocaciones por parte Higgins pasó la prueba solo por ser dirigida a un subgrupo específico de musulmanes, los que están «radicalizados», mientras que la publicación de Delgado fue eliminada por atacar a los blancos en general.
Las reglas de Facebook
La red social lleva 10 años desarrollando reglas, elaborando distinciones entre lo que está y no está permitido en un esfuerzo por hacer que la plataforma continúe siendo un lugar seguro para los 2 mil millones de usuarios. Últimamente se habla mucho sobre la manera en cómo monitorea el contenido que se publica, sobre todo con el surgimiento de «noticias falsas», como las historias fabricadas que circularon en Facebook relacionadas con las elecciones en los Estados Unidos y acerca de que los terroristas están utilizando la red para reclutar.
Los documentos presentados sugieren que, al menos en algunos casos, las reglas de lenguaje discriminatorio de la empresa tienden a favorecer a los gobiernos sobre los activistas de base y las minorías raciales.
Facebook elimina el discurso de odio en contra de las «categorías protegidas», incluyendo a los hombres blancos, pero permite ataques a «subconjuntos». Un documento habla de que el algoritmo global de discurso de odio de la compañía identifica tres grupos: conductores femeninos, niños negros y hombres blancos. Pregunta: ¿Qué grupo está protegido del discurso del odio? La respuesta correcta es los hombres blancos.
Facebook elimina maldiciones, insultos, provocaciones a la violencia y otros tipos de ataques solo cuando se dirigen a «categorías protegidas» basadas en:
- raza
- sexo
- identidad de género
- afiliación religiosa
- nacionalidad
- origen étnico
- orientación sexual
- discapacidad grave/enfermedad
Explica que los hombres blancos son considerados un grupo porque ambos rasgos están protegidos, mientras que las conductoras mujeres y los niños negros, así como los musulmanes radicalizados, son subconjuntos porque una de sus características no está protegida. La plataforma usa estas normas para entrenar a los «revisores de contenido» para decidir si van a eliminar o permitir ciertas publicaciones en la plataforma. Según la red social, el algoritmo de su página está diseñado para defender todas las razas y géneros por igual.
La empresa dice que su objetivo es aplicar estándares consistentes en todo el mundo. «Las políticas no siempre conducen a resultados perfectos. Esa es la realidad de tener políticas que se aplican a una comunidad global en la que gente de todo el mundo tiene ideas muy diferentes sobre lo que está bien compartir” dijo Monika Bickert, directora de gestión de políticas globales de Facebook.
La red social no publica las reglas que utiliza para determinar qué tipo de contenido aprueba y qué tipo borra. Nadie avisa a los usuarios que sus publicaciones se eliminan de la plataforma o qué norma han roto, y generalmente no pueden apelar la decisión de Facebook. Actualmente, las reclamaciones solo están disponibles para las personas cuyo perfil, grupo o página ha sido eliminado.
Bickert dijo que Facebook toma en consideración las leyes de los países donde opera, pero no siempre elimina el contenido a petición del gobierno. «Si hay algo que viola la ley de un país, pero no viola nuestros estándares, vemos quién está haciendo esa petición. ¿Es la autoridad apropiada? Luego verificamos si realmente viola la ley. Algunas veces hacemos que ese contenido no esté disponible solo en ese país».
Según Jud Hoffman, las reglas están basadas en la misión de Facebook de «hacer el mundo más abierto y conectado».
La política de Facebook parece haber tenido repercusiones en por lo menos dos docenas de territorios disputados en el mundo. Cuando Rusia ocupó Crimea en marzo de 2014, muchos ucranianos experimentaron un aumento de prohibición de publicaciones y suspensión de perfiles. El director de política de Facebook para la región, Thomas Myrup Kristensen, reconoció en ese momento que «encontró un pequeño número de cuentas en las que se había eliminado contenido incorrectamente. En cada caso, esto se debía a un lenguaje que parecía ser discurso de odio, pero estaba siendo utilizado de una manera irónica. En estos casos, Facebook ha restaurado el contenido».
- Katerina Zolotareva, de 34 años de Ucrania, es una persona que ha sido bloqueada en Facebook tan a menudo que tiene cuatro cuentas con su nombre. Aunque apoyó las protestas Euromaidan en febrero de 2014 que antagonizaron a Rusia, estimulando su intervención militar en Crimea, ella no cree que Facebook haya tomado partido en el conflicto. Según ella, la guerra está presente en casi todos los campos de la vida ucraniana y, cuando empieza el conflicto, también comienza en la red social.
- En el Sahara Occidental, un territorio disputado que está ocupado por Marruecos, un grupo de periodistas llamado Equipe Media dice que su cuenta fue desactivada por Facebook, y que tuvieron que abrir una nueva cuenta que permanece activa. Mohammed Mayarah, coordinador general del grupo, dijo que nunca han publicado nada en contra de ninguna ley, que son un grupo de activistas que tiene el objetivo de romper el bloqueo de los medios de comunicación impuesto desde que se invadió y ocupó el Sahara Occidental.
- En Israel, los grupos palestinos están bloqueados tan a menudo que crearon su propio hashtag #FbCensorsPalestine. El año pasado, Facebook bloqueó las cuentas de varios editores de dos importantes medios de comunicación palestinos. Después de un par de días, se disculpó y desbloqueó las cuentas de los periodistas.
Todo esto implica que las reglas son una cosa y la forma en que se aplican otra. Bickert dijo que Facebook lleva a cabo auditorías semanales de los trabajos de cada persona que revisa el contenido para asegurarse de que se siguen las reglas de manera consistente. No obstante, los críticos dicen que los revisores, quienes tienen que decidir sobre cada publicación en cuestión de segundos, pueden variar tanto en la interpretación como en la vigilancia.
Los usuarios de Facebook que no miden sus palabras al criticar el racismo y los asesinatos policiales de minorías raciales, dicen que sus publicaciones suelen desaparecer de sus perfiles.
Hace dos años, Stacey Patton, profesora de periodismo en la Universidad Estatal Morgan de Baltimore, hizo esta pregunta provocativa en su página de Facebook: “¿Por qué no es un crimen cuando los revisores y agentes blancos ‘del estado’ son asesinos en serie de los negros desarmados, pero cuando los negros se matan entre sí entonces son ‘animales’ o ‘criminales’?». Aunque no parece violar las políticas de Facebook de discurso de odio, la pregunta fue eliminada y su cuenta desactivada por tres días sin ninguna explicación por parte de la red social.
Patton, quien a menudo escribe sobre temas de racismo, explicó que sus publicaciones se eliminan aproximadamente una vez al mes y que frecuentemente la ponen en algo que se llama ‘la cárcel Facebook’, donde es bloqueada de su cuenta por un tiempo después de publicar algo que rompe o va en contra de las reglas. De acuerdo con ella, eso es violencia emocional. Explica que, como una persona negra, siempre hace este tipo de discusiones sobre encarcelamiento masivo, pero existe un espacio donde puede expresarse, pero al decir algo que a alguien anónimo no le gusta, la mandan a ‘la cárcel’.
Facebook también bloqueó a Leslie Mac, una residente de Michigan que tiene un servicio llamado SafetyPinBox, en el que los suscriptores contribuyen económicamente a «la lucha por la liberación de los negros». Lo que enojó a Facebook en este caso fue escribir una publicación declarando «Gente blanca, cuando el racismo sucede en público SU SILENCIO ES LA VIOLENCIA».
En diciembre de 2015, un mes después de que los atentados terroristas en París mataron a 130 personas, la Unión Europea comenzó a presionar a las empresas de tecnología para que trabajaran más para evitar la propagación del extremismo violento en línea.
Después de un año de negociaciones, Facebook, Microsoft, Twitter y YouTube acordaron el código de conducta del discurso de odio de la Unión Europea, que les obliga a revisar y eliminar la mayoría de las reclamaciones válidas sobre contenido ilegal dentro de 24 horas y ser auditadas por los reguladores europeos. La primera auditoría encontró que las compañías solo revisan el 40 por ciento del discurso de odio dentro de las 24 horas, y eliminan el 28 por ciento. Desde entonces, las empresas de tecnología han acortado su tiempo de respuesta a los informes de discurso de odio y aumentado la cantidad de contenido que se elimina.
El gobierno alemán está considerando una legislación que permitiría a las redes sociales, como Facebook, ser multado con hasta 50 millones de euros si no eliminan el discurso de odio y las noticias falsas lo suficientemente rápido.
Las que forman parte de las publicaciones que Facebook decidió no borrar fueron los comentarios de Donald Trump sobre los musulmanes. Trump publicó, «Pido un cierre total y completo a los musulmanes que ingresan a los Estados Unidos, hasta que los representantes de nuestro país puedan averiguar lo que está pasando».
