El universo digital es una base de datos infinita que alberga información extensa, variada y que todos los días se sigue nutriendo de nueva información. Los dispositivos que usamos todos los días son útiles en muchos sentidos, las personas nos hemos vuelto gradualmente dependientes a ellos porque nos facilitan muchos aspectos de la cotidianidad. contenidos ilegales en redes sociales
Se han hecho algunos estudios acerca de cómo el uso de internet y la alimentación de los algoritmos con nuestra información puede crear problemas en el mundo real. El documental The Social Dilema, es un ejemplo de ello.
El sistema de recomendaciones de los dispositivos es una de las preocupaciones que algunas instituciones tienen respecto al uso de algoritmos no regulados en las redes sociales. Por ello, la Comisión Europea solicitó información a YouTube, Snapchat y TikTok sobre los parámetros utilizados por sus algoritmos para recomendar contenido a los usuarios. ¿La razón? ¡Aquí te contamos!
La UE preocupada por la difusión de contenidos no apropiados
De acuerdo al portal de noticias Reuters, este miércoles 2 de octubre La Comisión Europea solicitó información a los directivos de YouTube, Snapchat y TikTok acerca de los parámetros utilizados por sus algoritmos para recomendar contenidos a quienes usan sus aplicaciones y crean sus contenidos. Además de solicitar un reporte de su papel en la amplificación de algunos riesgos sistémicos, incluidos los relacionados con el proceso electoral, la salud mental y la protección de menores.
Todo ello en el marco de la implementación de La Ley de Servicios Digitales, cuyo propósito es crear un espacio digital más seguro en el que se protejan los derechos fundamentales de todos los usuarios de estos servicios además de establecer condiciones de competencia equitativas para fomentar la innovación, el crecimiento y la competitividad, tanto en el mercado único europeo como a escala mundial.
En su comunicado, al UE hizo énfasis en que estas solicitudes…
«también se refieren a las medidas de las plataformas para mitigar la posible influencia de sus sistemas de recomendación en la difusión de contenidos ilegales, como la promoción de drogas ilegales y el discurso de odio»
Comunicado de la UE
Además, también se solicitó información adicional a TikTok sobre las medidas que la empresa adoptada para evitar que actores maliciosos manipulen la aplicación y para reducir los riesgos relacionados con las elecciones y el discurso cívico.
Estas medidas han sido paulatinamente aplicadas desde agosto de 2023, cuando las principales plataformas online (Amazon, Booking), redes sociales y motores de búsqueda (Google, Bing) fueron exortadas a cumplir al pie con la Ley de Servicios Digitales (DSA). Obligados a regular el espacio digital y que incluye medidas relacionadas con la transparencia, la moderación de contenidos y algoritmos de recomendación.
Las empresas tecnológicas deben proporcionar la información solicitada antes del 15 de noviembre, dijo la UE, después de lo cual la comisión decidirá los próximos pasos, que podrían incluir multas. De acuerdo con CNN, TikTok podría enfrentarse a multas adicionales de hasta el 6% de sus ingresos anuales globales si se determina que las características de TikTok Lite, la Comisión están investigando, constituyen violaciones de la DSA.
La UE ya ha abierto procedimientos por incumplimiento en virtud de la DSA, que exige a las grandes empresas tecnológicas hacer más para combatir el contenido ilegal y dañino en sus plataformas.
¿Cómo funciona el algoritmo de recomendación?
Los algoritmos de recomendación surgieron como una solución a la gran cantidad de información que los usuarios de la Web y aplicaciones móviles experimentamos. Este sistema tiene como esencial propósito reducir nuestro tiempo de búsqueda y la optimización del sistema de marketing de las empresas presentes en las redes. contenidos ilegales en redes sociales
Se toman en cuenta las características o descripciones de los artículos que gustan y comparan con las características del artículo o servicio que buscamos. A estos algoritmos se les conoce como basados en contenido y con ellos no es necesario conocer las valoraciones, ratings o comportamiento.
Por otro lado, los algoritmos basados en contexto toman en cuenta situaciones específicas del usuario para generar las recomendaciones. La ubicación geográfica, género, el clima, registro de me gustas, comentarios, aplicaciones utilizadas. Incluso el sistema operativo que utilice al momento de recibir la recomendación pueden ser la diferencia en que la recomendación sea exitosa o no.
Esta forma en que las plataformas se manejan y generan impacto en la percepción, opinión y decisiones de consumo de las personas es sumamente significativo. Y al no estar regulados pueden suponer una violación a los derechos fundamentales de seguridad en línea. contenidos ilegales en redes sociales
Una necesaria regulación contenidos ilegales en redes sociales
Aunque los algoritmos se desarrollan con la intención de ser objetivos, existe la posibilidad, y se han dado casos en se genera un sesgo que puede dar lugar a resultados que perpetúen alguna clase de discriminación, noticia falsa o en el peor de los casos, crear una esfera de interacción con tintes odiantes y ultraextremistas. contenidos ilegales en redes sociales
Los propios desarrolladores pueden introducir sesgos, ya sea consciente o inconscientemente, a través de las decisiones tomadas durante la creación del algoritmo. Esto se da en la elección de variables, la definición de métricas de éxito o la forma en que se estructuran los modelos. Por ejemplo, si un algoritmo de selección de personal prioriza la experiencia en ciertas universidades, puede favorecer a candidatos de entornos socioeconómicos más privilegiados.
La buena noticia es que el sesgo en el aprendizaje automático se puede detectar y disminuir con bastante facilidad. La mala noticia es que puede ser difícil llegar al fondo de cómo los algoritmos toman decisiones para resolver los problemas, ya que la mayoría de las veces los algoritmos operan dentro de una “caja negra“.contenidos ilegales en redes sociales
Sin embargo, la Unión Europea adoptó un marco jurídico moderno que busca garantizar la seguridad de los usuarios en línea. Ahora tocará esperar a que se establezca en lo normativo la gobernanza con la protección de los derechos fundamentales manteniendo un entorno de plataforma en línea justo y abierto.
