Aunque eBay ha prohibido en su sitio comercializar pornografía de IA de personas famosas, la plataforma se encuentra repleta de ese contenido. El portal de subastas online eBay está colmado de pornografía generada por la inteligencia artificial (IA) y retocada con Photoshop. Podemos encontrar al menos 40 celebridades, incluidas Selena Gómez, Margot Robbie y Jenna Ortega.
De acuerdo con Forbes, la revista le notificó lo anterior a eBay, como respuesta, el gigante de comercio electrónico eliminó cientos de fotografías y suspendió cuentas de vendedores.
Con la creciente disponibilidad de aplicaciones de inteligencia artificial y software de código abierto capaces de «desnudar» a las personas, la pornografía generada por IA se ha expandido rápidamente.
Pornografía de IA: un negocio no tan escondido en eBay
El gigante del comercio electrónico mantenía a la venta pornografía de IA de varias celebridades, entre ellas Taylor Swift, Ariana Grande, Selena Gómez, Katy Perry y Alexandria Ocasio-Cortez. Un solo vendedor comerció cientos de imágenes de desnudos generadas por IA por 6.39 dólares.
De igual manera, la plataforma contiene imágenes sexualmente sugerentes de figuras públicas generadas por IA. Forbes encontró al menos cinco imágenes de este tipo de Taylor Swift, en las cuales se muestra a la celebridad portando un revelador bikini con la bandera estadounidense: las imágenes se venden por 5.60 dólares. ¿El vendedor? Uno de los mejores calificados eBay.
Los vendedores mejor calificados obtienen beneficios adicionales de eBay, como una clasificación más alta en los resultados de búsqueda, así como beneficios financieros. A su vez, los algoritmos de recomendación del sitio dirigen a los compradores interesados a «artículos patrocinados similares» de vendedores que pagan a la plataforma un porcentaje de sus ventas.
Acerca de pornografía de IA, expresó Lina Nealon, vicepresidenta y directora de National Center on Sexual Exploitation: «No se trata sólo de los vendedores. Empresas como eBay también se están beneficiando del abuso sexual basado en imágenes. Están mercantilizando los cuerpos de las mujeres y es atroz porque lo hacen sin el consentimiento y el conocimiento de quienes están siendo representados».
Aunque eBay permite que los vendedores publiquen imágenes que muestren desnudez (figuran en las categorías de arte y coleccionables), así como imágenes de desnudos de personas falsas generadas por IA, las imágenes de figuras públicas desnudas o sexualmente sugerentes generadas por inteligencia artificial o retocadas con Photoshop están prohibidas, de acuerdo con su política de artículos para adultos.
Nealon comentó que si bien la compañía ha retirado del sitio cientos de fotos relacionadas con pornografía de IA de celebridades desnudas, prohibiendo su venta, aún se encuentran fotos sexualmente sugerentes de Taylor Swift generadas por inteligencia artificial, las cuales parecen violar su política.
¿Qué dicen las políticas de eBay al respecto?
Con la proliferación de aplicaciones de inteligencia artificial y software de código abierto que pueden crear imágenes pornográficas, el problema está creciendo rápidamente. Según Lina Nealon, algunas de estas aplicaciones incluso están disponibles en la tienda de aplicaciones de Apple, lo que indica la necesidad urgente de leyes federales para abordar este problema.
Al respecto, eBay confirmó que se encuentra «en el proceso de actualizar activamente las políticas con respecto a los deepfakes sin desnudez», de esta manera, quedaría claro para los vendedores qué está permitido y qué no en su plataforma.
La portavoz de eBay, Trina Somera, comentó que el sitio utiliza una combinación de «tecnología de inteligencia artificial, investigadores de eBay capacitados profesionalmente y barridos del mercado» para identificar y eliminar las imágenes que violan la política de artículos prohibidos de eBay.
Comentó Somera: «Los anuncios con imágenes adultas de celebridades generadas por IA o retocadas con Photoshop que infrinjan las políticas de eBay serán bloqueados o eliminados. Los usuarios que sean sorprendidos intentando enumerar artículos prohibidos pueden enfrentar consecuencias que pueden incluir una suspensión permanente».
Desnudos generados con IA en otras plataformas
La presencia de desnudos creados por inteligencia artificial no se limita a eBay. Plataformas como la red social X, Reddit e incluso Etsy están experimentando un aumento en la proliferación de imágenes pornográficas generadas por IA. A finales de enero, imágenes de Taylor Swift desnuda generadas por IA se volvieron virales en X y fueron vistas millones de veces en esta plataforma.
La respuesta a esta situación ha llegado al ámbito legislativo, con la congresista Alexandria Ocasio-Cortez liderando la introducción de una ley para combatir las imágenes explícitas falsificadas y las ediciones no consensuadas. Esta legislación busca proporcionar recursos a las víctimas de pornografía deepfake para tomar medidas legales contra los responsables de crear y distribuir dicho contenido.
Afirmó Ocasio-Cortez en un comunicado de prensa: «Las víctimas de deepfakes pornográficos no consentidos han esperado demasiado para que la legislación federal responsabilice a los perpetradores. El Congreso de EU debe actuar para mostrarles a las víctimas que no se quedarán atrás».
Aunque actualmente no existen leyes federales específicas para proteger a las víctimas de pornografía deepfake, se han presentado varios proyectos de ley en el Congreso para abordar estas preocupaciones. En una audiencia reciente, el Congreso discutió cómo el aumento de los deepfakes pornográficos no consensuados está afectando a mujeres y niños, así como qué medidas se pueden tomar para mitigar este daño.
Tanto eBay como otras plataformas en línea están experimentando un aumento en la presencia de imágenes pornográficas generadas por IA. Por ejemplo, una búsqueda de «celebridades» en eBay produce más de 2.3 millones de resultados, muchos de los cuales son sexualmente sugerentes o explícitos.
Sophie Maddocks, investigadora de University of Pennsylvania, señaló que la presencia de imágenes pornográficas generadas por IA en internet no es sorprendente, dada la naturaleza del mercado en línea y la historia del sexo como vendedor. Esta situación plantea preocupaciones más amplias sobre el consentimiento y la explotación de la imagen de las personas famosas.
«Si miramos la historia más amplia de Internet, sabemos que el sexo y las imágenes sexualizadas tienen un alto valor de mercado. Por lo tanto, no es sorprendente que plataformas como eBay alojen este tipo de contenido», expresó Maddocks. «Existe un contexto más amplio que explora la idea de que incluso las mujeres famosas pueden ser objeto de desnudez sin su consentimiento, lo que permite a otros sacar provecho de su imagen. Esto afecta a todos», agregó.
El auge de las imágenes pornográficas generadas por IA: una amenaza global
En los últimos años, el avance de la inteligencia artificial (IA) ha desencadenado una nueva y preocupante tendencia: la creación y proliferación de imágenes pornográficas generadas por IA de celebridades. Esta práctica, que ha ganado impulso tanto en Estados Unidos como en el resto del mundo, plantea serias preocupaciones sobre la privacidad, el consentimiento y el uso ético de la tecnología.
La pornografía generada por IA aprovecha algoritmos sofisticados para crear imágenes y videos realistas que muestran a personas en situaciones sexuales explícitas, incluso cuando esas personas nunca participaron en tales actividades. Esto ha llevado a la aparición de un mercado clandestino donde se intercambian y distribuyen estas imágenes falsificadas.
Actores, músicos, deportistas y otras figuras públicas se han visto sorprendidos por la manipulación digital de sus imágenes para crear contenido pornográfico falso. Esto no solamente viola su privacidad y derechos de imagen, sino que también puede tener consecuencias devastadoras para su reputación y bienestar emocional.
Además de las implicaciones legales y éticas, la pornografía generada por IA plantea interrogantes sobre el papel de las plataformas en línea en la prevención de su difusión y venta. Las redes sociales, los sitios web de alojamiento de contenido y otros servicios en línea deben tomar medidas proactivas para identificar y eliminar este tipo de contenido, así como para prevenir su creación y distribución.
Las plataformas y comercios en línea, como eBay, X y Facebook, juegan un papel crucial en la prevención de la venta y distribución de imágenes pornográficas generadas por IA. Estas plataformas son espacios donde se comparte una gran cantidad de contenido y, por lo tanto, tienen la responsabilidad de garantizar que dicho contenido cumpla con ciertos estándares éticos y legales.
Los sitios de comercio electrónico tienen la oportunidad de ejercer un liderazgo ético y social a través de sus prácticas de Responsabilidad Social Empresarial (RSE). Al comprometerse con la RSE, estas plataformas pueden promover valores de respeto y dignidad en su comunidad.
Una de las medidas más importantes que pueden tomar estos sitios es implementar sistemas de detección de contenido automatizados. Estos sistemas utilizan algoritmos avanzados para identificar y eliminar imágenes pornográficas generadas por IA tan pronto como se cargan en la plataforma; además, pueden trabajar en colaboración con organizaciones y expertos en el campo para desarrollar algoritmos más efectivos y actualizados que puedan detectar incluso las imágenes más sofisticadas y realistas.
Otra estrategia clave es establecer políticas claras y estrictas contra la venta y distribución de contenido pornográfico generado por IA. Esto implica prohibir explícitamente la venta de este tipo de contenido en sus términos de servicio y tomar medidas rápidas y contundentes contra aquellos que intenten violar estas políticas. Las plataformas también pueden implementar sistemas de denuncia y moderación, que permitan a los usuarios informar sobre contenido inapropiado y asegurarse de que se tome acción de manera rápida y eficiente.
Las plataformas pueden trabajar en estrecha colaboración con las autoridades y organizaciones de derechos humanos para abordar el problema de manera más amplia y coordinada. Esto puede implicar compartir información sobre posibles infracciones, colaborar en investigaciones y apoyar la promulgación de leyes y regulaciones más estrictas para combatir la pornografía generada por IA..
El aumento de las imágenes pornográficas generadas por IA es un fenómeno preocupante que requiere una respuesta urgente y coordinada a nivel nacional e internacional. Mediante una combinación de regulación, tecnología y conciencia pública podemos abordar eficazmente este desafío y proteger los derechos y la dignidad de todas las personas involucradas.
Perspectiva de género: ¿por qué hay más pornografía generada por IA de mujeres que de hombres?
La creciente prevalencia de la pornografía de IA ha planteado una pregunta intrigante: ¿por qué hay más pornografía generada por IA de mujeres que de hombres? Esta disparidad en la representación de género en el contenido pornográfico generado por IA, plantea importantes cuestiones sobre la equidad de género, los estereotipos sexuales y el papel de la tecnología en la perpetuación de desigualdades de género.
Uno de los factores que contribuyen a esta discrepancia es la persistencia de estereotipos de género arraigados en la sociedad. Durante mucho tiempo, las mujeres han sido sexualizadas y objetivadas en los medios de comunicación y la cultura popular. La pornografía generada por IA refleja y perpetúa estos estereotipos al enfocarse predominantemente en representaciones sexualizadas de mujeres, lo que refleja una narrativa cultural que subordina a las mujeres como objetos sexuales.
Igualmente, la demanda del mercado desempeña un papel importante en la prevalencia de pornografía de IA femenina. Las investigaciones muestran que la mayoría de los consumidores de pornografía son hombres heterosexuales y gran parte del contenido pornográfico existente está diseñado para satisfacer sus deseos. Como resultado, los desarrolladores de tecnología suelen optar por centrarse en la creación de contenido que se alinee con estas preferencias, lo que conduce a una mayor cantidad de pornografía de IA enfocada a las mujeres.
Otro factor relevante es la disponibilidad y accesibilidad de datos visuales de mujeres en comparación con hombres. Históricamente, las mujeres han sido más fotografiadas y filmadas que los hombres en contextos que pueden ser utilizados para entrenar algoritmos de IA, como en la publicidad, el entretenimiento y las redes sociales. Esto puede influir en la disponibilidad de datos necesarios para crear imágenes en un contexto sexual y contribuir a la prevalencia de representaciones femeninas en este tipo de contenido.
El deepfake masculino también existe, aunque en menor medida y suele enfocarse a otros ámbitos, no a la pornografía de IA: por ejemplo, hemos visto en video al expresidente Barack Obama o al actor Tom Cruise bailando o emitiendo declaraciones que en la vida real no han realizado.
Los avances tecnológicos están permitiendo una mayor diversidad en el contenido generado por IA, incluidas representaciones de hombres y personas de género no binario. A medida que la tecnología continúa evolucionando y las percepciones sociales cambian, es posible que veamos en el futuro una mayor igualdad en la representación de género en el contenido pornográfico generado por IA.
«Taylor Swift» by o_Ozzzzk is licensed under CC BY-NC 2.0.
Algo muy preocupante. De verdad…