En sus dos últimos documentales, el cineasta Jeff Orlowski se centró en el impacto ambiental del derretimiento de los glaciares y la desaparición de los arrecifes de coral. En el proceso de promoción de las películas, comenzó a notar un patrón familiar y preocupante.
Seguimos encontrando más y más personas que se mostraban escépticas ante el cambio climático … ¿Cómo es que están en tanta negación con todos los hechos y todas las pruebas? Nos encontrábamos con gente en festivales de cine, en el camino, en preguntas y respuestas, innumerables personas que simplemente cuestionaban la ciencia climática.
Jeff Orlowski, cineasta.
Orlowski rastreó la fuente hasta las cámaras de eco de las plataformas de redes sociales y las discrepancias en las búsquedas web, que pueden mostrar información diferente para diferentes personas.
Todos estos sistemas de tecnología están reforzando diferentes creencias de las personas independientemente de la verdad. Nos dimos cuenta de que esta es una gran historia. Esto está cambiando la forma en que toda nuestra civilización obtiene su información y piensa sobre la verdad y los hechos.
Jeff Orlowski, cineasta.
Y así comenzó el viaje para crear The Social Dilemma, una inmersión profunda en los algoritmos y modelos comerciales de las principales empresas de tecnología que están dando forma al comportamiento humano e influyendo en la política. El documental ya está disponible en Netflix.
A través del testimonio de expertos en tecnología, incluido Tim Kendall, ex director de monetización de Facebook; Jeff Seibert, ex director de productos de consumo de Twitter; Justin Rosenstein, coinventor de las páginas de Facebook y el botón «me gusta»; y Tristan Harris, ex especialista en ética del diseño en Google, The Social Dilemma desvela hábilmente muchas de las preocupaciones que han impulsado la conversación en torno a estas empresas en los últimos años, con un análisis particularmente agudo del usuario de las redes sociales como el producto que se vende a anunciantes.
Lo que surge es una trayectoria similar a la que vio Orlowski con el cambio climático: el capitalismo miope reemplaza el daño a largo plazo a la sociedad.
Nadie pensó desde el principio, cuando empezaron a quemar combustibles fósiles, que conduciría a una catástrofe global. Ahora estamos atascados con las consecuencias del cambio climático, y nos está tomando mucho tiempo cambiar eso.
Lo comparo con la industria de la tecnología, donde descubrimos este modelo comercial de publicidad individualizada dirigida que parecía extremadamente rentable al principio. Y ahora estamos aprendiendo las consecuencias de esos alimentos caseros individuales.
Todo el mundo está ahora en su propia isla de pensamiento, y ves que los algoritmos están personalizando una visión del mundo para todos y cada uno de nosotros. Y nos resulta cada vez más difícil relacionarnos con personas que tienen una visión del mundo diferente. Mi verdad es diferente a la tuya; eso es lo que estamos viendo en nuestra sociedad en general ahora. Y no creo que nunca se hubiera esperado que fuera el caso.
Jeff Orlowski, cineasta.
Para ayudar a ilustrar su tesis, Orlowski filmó una especie de cortometraje narrativo que recorre todo el documento, con una familia promedio que cae presa de los peligros de las redes sociales.
El personaje principal en este arco es Ben (Skyler Gisond), el hijo adolescente que no solo es absorbido por los algoritmos que están diseñados intencionalmente para la máxima adictividad, sino que también se radicaliza por el agujero de conejo de la retórica divisiva que comienza a caer.
A esto, Orlowski agregó un personaje adicional que personifica la IA detrás de estas plataformas sociales. Como un evento cruzado entre Black Mirror y Inside Out de Pixar, vemos cómo la IA (Vincent Kartheiser) manipula las acciones diarias de Ben, desde lo que compra hasta con quién interactúa.
No queríamos que fuera una película que solo hablara de cabezas parlantes, eso era un listón muy bajo para nosotros como equipo creativo. Así que queríamos elevarlo. A medida que íbamos aprendiendo sobre todo esto y realmente comenzamos a comprender cómo funciona el aprendizaje automático, comencé a entender lo que sucede al otro lado de la pantalla de una manera diferente.
Jeff Orlowski, cineasta.
Orlowski dice que Inside Out se convirtió en un punto de referencia al que seguían regresando. También se inspiró en su propia decisión de abandonar las redes sociales durante la realización de este documento, y la agresividad con que las redes sociales no lo dejarían.
Hay algo llamado ‘resurrecciones’ donde las plataformas intentan traerte de regreso. Sigo sintiendo que hay esta fuerza en el otro lado de la pantalla en la que nadie piensa, y nadie entiende realmente cómo funciona. Sin embargo, eso es lo que impulsa todas estas acciones individuales. Eso es lo que queríamos darle vida. Me sentí como un peón en el sistema… Hay un dicho en la película, si no pagas por el producto, eres el producto. Y sentí que me estaban manipulando y vendiendo. Me sentí repugnante. No quiero ser un engranaje en una máquina que está convirtiendo estos billones de dólares en valor para las empresas.
Jeff Orlowski, cineasta.
A pesar del tono siniestro que golpea El dilema social y la decisión personal de Orlowski de abandonar las redes sociales, insiste en que este documento no es antitech. Más bien, es una acusación de los modelos comerciales que impulsan estas plataformas y un llamado a una mayor regulación.
“Al igual que con el cambio climático, no podemos echar toda la culpa y la carga al público. El público no resolverá el cambio climático cambiando sus bombillas. Ese es un paso, pero esa no es la solución», dice Orlowski. “En la misma línea, no creo que los padres deberían tener la carga de regular el uso que hacen sus hijos de sus teléfonos. Creo que los padres pueden jugar un papel muy importante en la protección de sus propias familias tanto de los daños a la salud mental como de los daños por información errónea política. Pero hay un problema mayor que debemos abordar”.
