Estimado lector, muchas gracias por su interés en nuestras notas. Hemos incorporado el registro con el objetivo de mejorar la información que le brindamos de acuerdo a sus intereses. Para más información haga clic aquí

Enviar Sugerencia
Conectarse a través de Whatsapp
Temas del día:
Buscar
Toda la semana |LAS GRAVES CONSECUENCIAS DE UNA PRÁCTICA CON IA CADA VEZ MÁS EXTENDIDA

Rostros reales, falsos desnudos. Un drama para los jóvenes en la web

Aumenta la cantidad de fotos y videos creados con nuevas tecnologías, que muestran a personas sin ropa o teniendo relaciones sexuales en situaciones que nunca existieron

Rostros reales, falsos desnudos. Un drama para los jóvenes en la web

Ejemplos como este se dan constantemente a partir del uso de aplicaciones con IA / Web

12 de Noviembre de 2023 | 07:38
Edición impresa

De la mano con los beneficios que generan las nuevas tecnologías, también se potencian prácticas nocivas, que atentan contra las personas. Y una, actualmente muy extendida, es la creación de imágenes y videos, que se viralizan en las redes sociales, en los que aparecen adolescentes y jóvenes desnudos, o teniendo relaciones sexuales, que no son verdaderas, sino que fueron armadas con Inteligencia Artificial. Esto, por cierto, provoca terribles consecuencias para los afectados, que quedan expuestos frente a millones de usuarios y además sin posibilidades de defenderse ante la inmediata circulación de estas producciones.

El caso de la youtuber Gabi Belle, por ejemplo, resultó revelador. La influencer apareció desnuda en un campo en una foto que nunca existió, pero que de todos modos le llegó en pocos minutos a millones de personas. Entre la sorpresa, la angustia y la necesidad de frenar esta situación, le pidió a un colega que la ayudase a intentar eliminar la imagen. Pero su amigo le hizo notar que ya había numerosas fotos falsas de ella, en muchos casos subidas en sitios dedicados a exhibir pornografía generada con inteligencia artificial. Y si bien después de un largo proceso la youtuber logró que fuesen sacadas de esos portales, al poco tiempo surgieron nuevas producciones que la mostraban en situaciones sexuales explícitas. Es decir, un verdadero drama sin control e imposible de frenar por las facilidades que existen para construir este tipo de material y esparcirlo en internet.

“Me sentí asquerosa y violada”, reconoció Belle. Y agregó: “Esas partes privadas no están destinadas a que el mundo las vea porque no he dado mi consentimiento para ello. Así que es realmente extraño que alguien haga imágenes de mí”.

NUEVAS HERRAMIENTAS

Casos como el de Belle se multiplican entre famosos o personalidades que se destacan en distintos ámbitos, pero afectan de igual modo a gente que no es conocida y se vuelve una víctima de este tipo de prácticas. En algunos casos, estas producciones se crean con el fin de hacer bromas pesadas y terminan teniendo consecuencias muy graves. Pero otras forman parte de prácticas destinadas a potenciar el mercado de las extorsiones virtuales o de la pornografía, y tienen detrás a muchas personas expertas en el tema trabajando en estas fotos e videos a partir de material que recopilan de las redes sociales de la gente. Por eso aquí cobra especial relevancia controlar con rienda muy corta qué material se sube a las redes sociales, especialmente cuando se trata de menores, porque al caer en manos de cirberdelincuentes pueden terminar siendo fraguadas, integradas en montajes y subidas a sitios que se mueven en la ilegalidad.

Juegan aquí un rol clave las nuevas herramientas integradas con inteligencia artificial que están al alcance de cualquiera en la web y, en muchos caso, que son muy simples de utilizar. Con ellas se obtienen resultados tan increíbles, que incluso cuesta determinar si las producciones son reales o ficticias.

Estas son capaces de “desnudar” a las personas en fotografías (analizar cómo se verían sus cuerpos desnudos e imponerlos en una imagen) o cambiar sin problemas una cara en un video pornográfico.

En los 10 principales sitios web que albergan fotografías pornográficas generadas por IA, los desnudos falsos se han disparado en más de un 290 por ciento desde 2018, según Genevieve Oh, analista de la industria.

Estos sitios presentan a celebridades y figuras políticas como la representante de Nueva York Alexandria Ocasio-Cortez junto a adolescentes comunes y corrientes, cuyas imágenes han sido aprovechadas por malos actores para incitar a la vergüenza, extorsionar o vivir fantasías privadas.

Los damnificados cuentan con pocas armas para defenderse.

Los juristas advierten que las imágenes falsas de IA pueden no estar protegidas por derechos de autor para imágenes personales, porque se basan en conjuntos de datos poblados por millones de imágenes.

La llegada de las imágenes de IA supone un riesgo particular para las mujeres y los adolescentes, muchos de los cuales no están preparados para tal visibilidad. Un estudio realizado por Sensity AI, una empresa que monitorea los deepfakes, encontró que el 96 por ciento de las imágenes deepfake son pornografía y el 99 por ciento de esas fotos están dirigidas a mujeres.

“Ahora se dirige principalmente a las niñas”, dijo la investigadora y defensora de los derechos digitales de la Universidad de Pensilvania Sophie Maddocks. “Niñas y mujeres jóvenes que no están en el ojo público”.

Días atrás, una mujer regresaba a su casa en el sur de España de un viaje cuando encontró a su hija de 14 años angustiada, porque había aparecido una imagen suya desnuda en las redes. “Mirá mamá lo que me hicieron”, dijo y le juró que ella nunca había posado desnuda. Pero un grupo de adolescentes de su barrio había tomado fotos de los perfiles de redes sociales de varias chicas, incluido el suyo, y utilizaron una aplicación “nudificadora” de inteligencia artificial para crear las imágenes desnudas de las jóvenes, según descubrió la policía.

 

Crece la cantidad de personas que consume este tipo de material, algo que potencia el drama

 

La aplicación utilizada fue una de las tantas herramientas de inteligencia artificial que utilizan imágenes reales para crear fotografías de desnudos y que han inundado la web en los últimos meses. Al analizar millones de imágenes, el software de inteligencia artificial puede predecir mejor cómo se verá un cuerpo desnudo y superponer fluidamente un rostro en un video pornográfico, según advierten expertos en el tema.

Aunque muchos generadores de imágenes de IA impiden a los usuarios crear material pornográfico, el software de código abierto, como Stable Diffusion, hace público su código, lo que permite a los desarrolladores aficionados adaptar la tecnología, a menudo con fines nefastos.

Una vez que estas aplicaciones son públicas, utilizan programas de referencia que alientan a los usuarios a compartir estas fotos generadas por IA en las redes sociales a cambio de dinero en efectivo.

EL FACTOR INTERÉS

De todos modos, los especialistas hacen notar que en toda esta historia hay un aspecto que resulta clave y que excede a los creadores de las imágenes. Muchos ponen únicamente el foco en cómo crece la cantidad de imágenes falsas creadas con inteligencia artificial, que se suben a los principales sitios dedicados a estas (más de 400 mil en lo que va del año en las diez web más conocidas). Pero no tantos se preocupan porque este material tuvo más de 90 millones de visitas. Es decir, que hay un público muy numeroso que consume este material. Y esa es otra de las claves para que se dé un incremento tan pronunciado de imágenes y videos alterados con IA.

De la mano con esto, también se da un incremento notorio de casos de extorsión sexual por parte de estafadores que exigen pagos o fotografías a cambio de no distribuir imágenes sexuales.

En mayo, un usuario de un popular foro de pornografía inició un hilo llamado “Puedo fingir que eres la persona que te gusta”. La idea era simple: “Enviame a quien quieras ver desnudo y puedo fingirlo” usando IA, escribió el moderador.

En cuestión de horas, aparecieron fotos de mujeres. “¿Puedes hacer esta chica? No soy una celebridad ni una persona influyente”, preguntó un cartel. “¿Mi compañero de trabajo y mi vecino?”, añadió otro.

Minutos después de una solicitud, aparecería en el hilo una versión desnuda de la imagen. “Muchas gracias hermano, es perfecto”, escribió un usuario.

Las celebridades son un objetivo popular para los creadores de pornografía falsa que buscan capitalizar el interés de búsqueda de fotos de actores famosos desnudos. Pero los sitios web que presentan personajes famosos pueden provocar un aumento de otros tipos de desnudos. Los sitios a menudo incluyen contenido “amateur” de personas desconocidas y albergan anuncios que comercializan herramientas de creación de pornografía con inteligencia artificial.

Google cuenta con políticas para evitar que aparezcan imágenes sexuales no consensuadas en los resultados de búsqueda, pero sus protecciones para imágenes ultrafalsas no son tan sólidas. El porno deepfake y las herramientas para que aparezca de forma destacada en los motores de búsqueda de la empresa, incluso sin buscar específicamente contenido generado por IA.

 

Cada vez más aplicaciones con IA que permiten alterar imágenes de todo tipo

 

Ned Adriance, portavoz de Google, dijo en un comunicado que la compañía está “trabajando activamente para brindar más protección a las búsquedas” y que permite a los usuarios solicitar la eliminación de pornografía falsa involuntaria.

Google está en el proceso de “construir salvaguardias más amplias” que no requieran que las víctimas soliciten individualmente que se elimine el contenido, dijo.

La viralización de imágenes sexuales creadas con inteligencia artificial resulta un drama a millones de adolescentes / Web

 

Las noticias locales nunca fueron tan importantes
SUSCRIBITE

ESTA NOTA ES EXCLUSIVA PARA SUSCRIPTORES

HA ALCANZADO EL LIMITE DE NOTAS GRATUITAS

Para disfrutar este artículo, análisis y más,
por favor, suscríbase a uno de nuestros planes digitales

¿Ya tiene suscripción? Ingresar

Básico Promocional

$98/mes

*LOS PRIMEROS 3 MESES, LUEGO $1520

Acceso ilimitado a www.eldia.com

Suscribirme

Full Promocional

$128/mes

*LOS PRIMEROS 3 MESES, LUEGO $2350

Acceso ilimitado a www.eldia.com

Acceso a la versión PDF

Beneficios Club El Día

Suscribirme
Ir al Inicio
cargando...
Básico Promocional
Acceso ilimitado a www.eldia.com
$98.-

POR MES*

*Costo por 3 meses. Luego $1520.-/mes
Mustang Cloud - CMS para portales de noticias

Para ver nuestro sitio correctamente gire la pantalla