Inteligencia Artificial: Deepfakes, desinformación y la “verdad imposible”

“La desinformación sintética se alimenta de información falsa que parece real pero no lo es”. Este es el nuevo escenario que introdujo la Inteligencia Artificial, según explicó Sebastián Novomisky, doctor en Comunicación y especialista en medios, tecnologías y educación que trabaja en universidades de la Ciudad. Sus palabras se revalorizan hoy, semanas después de la elección legislativa porteña, donde la polémica giró en torno a la viralización de videos hechos con IA en los que aparecen el expresidente Mauricio Macri y la legisladora electa en la Ciudad Autónoma de Buenos Aires, Silvia Lospennato. 

La repercusión de lo que se conoce como deepfake (o ultrafalsos, que son imágenes, videos o audios que son editados o generados con IA y usan personas reales o inexistentes) se apoderó de la discusión pública, sobre todo en medios de comunicación tradicionales, en cuyos programas se dedicaron largas horas a develar lo que pasó. Desde el PRO, por su parte, denunciaron a usuarios de la red social X (anteriormente conocida como Twitter) que están vinculados con el Gobierno de Javier Milei por la producción del material alterado con IA. De hecho, el propio exjefe de Estado apuntó contra el libertario por aulterar su imagen y utilizar el contenido audiovisual en plena veda electoral, a poco de que se consumara el triunfo de Manuel Adorni como el primer postulante a legislador de la lista más votada en CABA.

“Es necesario construir una conciencia pública y advertir el impacto en la alfabetización periodística”

LE PUEDE INTERESAR

Avanzan en el centro de La Plata los espacios exclusivos para las motos

LE PUEDE INTERESAR

Quejas por la basura muy cerca de plaza San Martín

Sebastián Novominski, doctor en Comunicación

En el marco de un congreso celebrado años atrás en Paraná, Entre Ríos, el docente que ejerce en La Plata convocó: “Creemos que es necesario construir una conciencia pública para advertir sobre esto, ya que también impacta en la alfabetización periodística digital”. Es una alerta que invita a revisar el avance de la IA y cómo esta afecta ya no solo a una discusión de redes, sino también genera un suceso que impacta directamente en el funcionamiento de un país: el de la elegibilidad de sus representantes. Inclusive, el mayor temor por estos días es la abrupta evolución de una herramienta que es ser pasible de ser manipulada para cambiar la realidad.

Carlos Laplacette, docente de Derecho Constitucional (UBA, Universidad Austral, UCA), escribió hace algunas semanas en Infobae que “el caso del video electoral manipulado por IA es un llamado de atención sobre los desafíos tecnológicos y la desinformación en el proceso electoral. Bienvenida sea la polémica que generó. Ese video, que resultaba notoriamente falso para muchos, sospechoso para algunos y creíble para otros, permitió que la sociedad argentina advierta en forma generalizada los riesgos a los que se encuentra expuesta y a la necesidad de estar alerta, con el pensamiento crítico a flor de piel”.

Novomisky habló de los medios sintéticos, ya que “la creación pasa de lo real a lo digital” y se refirió a tareas como escribir un texto, sacar una fotografía o grabar audios que, cuando hay una persona realizándolas, establece un criterio para hacer un recorte sobre lo real. Con esto se refirió a lo que cada quien elige contar y lo que prefiere resguardar... En el caso de la IA, ese criterio está basado en la información digital disponible, lo cual produce, en algunas oportunidades, lo que llamó “alucinaciones de los modelos de lenguaje generativo de la inteligencia artificial”, que se tratan de “respuestas verosímiles pero que no siempre son verdad”. Así fue que el investigador consideró que, en este contexto, “es clave recuperar la educación en comunicación con una perspectiva de derechos humanos”.

Una progresión que asusta

El usuario de X y Educador de IA, Min Choi, compartió un hilo que muestra ejemplos de videos generados con IA que causaron gran impacto en las redes sociales debido a su impresionante calidad. 

La cualidad de imagen -lo que data de gran realismo a las escenas- de estos videos sorprende porque incluyen audio, gesticulaciones y se desarrollan en diferentes espacios como películas de distintos géneros, entrevistas y conferencias. Las fuentes indican que la IA se está perfeccionando rápidamente, incorporando cada vez más herramientas y estando al alcance de casi cualquier usuario.

Min Choi mostró diez ejemplos de videos generados con IA (específicamente Google Veo 3) que representan momentos y situaciones que nunca sucedieron. El resultado se describe como impresionante, ya que no se aprecian las manos deformes de versiones anteriores, y se incorporan el audio, el fondo y el movimiento.

“Los deepfakes sexuales agravan el acoso digital y generan un clima de inseguridad y vulnerabilidad”

Laura Lewin, capacitadora

Uno de los videos más viralizados en X es una entrevista que nunca existió, con casi ningún detalle que delate que es falsa. 

Otro ejemplo es un fragmento de película de acción. Los personajes en estas películas nunca existieron, presentando diferentes acentos, vestuarios, etnias y ambientaciones en distintos géneros y tiempos. Este video fue generado por Ari Kuschnir y, aunque sorprendente, muestra en detalle algunas cuestiones (como el movimiento de los ojos) que permiten identificar que es falso. Se menciona que los elementos visuales, el diseño de sonido y la voz se crearon mediante el sistema de conversión de texto a vídeo Veo 3, marcando una “nueva era en la cinematografía”.
También se muestra un episodio de una sitcom hecho con IA, con un diálogo similar a uno de Seinfeld, interpretado por personajes que no existen en una sitcom que tampoco existe.