Inteligencia Artificial: amor y odio, de las amenazas a los desafíos

La inteligencia artificial (IA) avanzó a pasos agigantados en los últimos años, lo que llevó a la creación de sistemas de chatbots (robots detrás de una conversación textual en línea) cada vez más sofisticados, como ChatGPT. Sin embargo, este tipo de tecnología también plantea preocupaciones legales y éticas, especialmente en lo que se refiere a la privacidad y la seguridad en línea.

Recientemente, OpenAI, la empresa detrás de ChatGPT, fue acusada de violar la leyes de los Estados Unidos al permitir que su IA difame e injurie a personas y entidades. Además, se ha demostrado que esta herramienta puede generar mentiras creíbles y sesgadas en sus respuestas, lo que produjo cuestionamientos por la veracidad y precisión en la información proporcionada.

Una de las principales preocupaciones en torno a ChatGPT es la privacidad y la seguridad de la información personal que se comparte durante las conversaciones. Si bien se implementaron medidas de seguridad para proteger los datos, la capacidad de esta tecnología para aprender y evolucionar, a través de la interacción con los seres humanos, plantea un riesgo potencial para la privacidad.

Otro problema es la posibilidad de que el chatbot sea utilizado para difamar o injuriar a personas o entidades. Esto incentivó a preguntarse sobre la responsabilidad legal de OpenAI y otros desarrolladores de IA en el uso responsable de las herramientas en cuestión. Además, la cuestión de los derechos de propiedad intelectual y la protección de los datos también es relevante en la creación y el uso de ChatGPT y otras IAs similares.

LAS ACUSACIONES

Desde el Centro de Inteligencia Artificial y Política Digital (CAIDP) acusaron a OpenIA, ante la Comisión Federal de Comercio (FTC) de EEUU. La denuncia fue por presunta violación de la sección cinco de la Ley de la FTC sobre prácticas engañosas y desleales. Allí se alegó que el producto GPT-4 es “sesgado, engañoso y supone un riesgo para la privacidad y la seguridad pública”.

LE PUEDE INTERESAR

Mamografías: claves para una detección temprana del cáncer

LE PUEDE INTERESAR

Moda: tendencias y estilismo femenino en un evento bien latino

GPT-4 es “sesgado, engañoso y supone un riesgo para la privacidad y la seguridad pública”

La FTC actualizó recientemente la ley para incluir lenguaje dirigido a los desarrolladores de programas de inteligencia artificial como OpenAI, por lo que advirtió sobre exageraciones y afirmaciones engañosas. En ese sentido, la CAIDP pidió que se investigue para determinar si la empresa incumplió las normas.

Por otro lado, surgió otra novedad de una posible demanda por difamación contra OpenAI. En este caso, el alcalde de Hepburn Shire en Australia, Brian Hood, y sus abogados planean demandar a la creadora de ChatGPT por un resultado de búsqueda controvertido generado por la herramienta que indica falsamente que el político estuvo en prisión por un delito de soborno.

Ante esto, desde la defensa del funcionario enviaron una carta a la empresa, en la cual exigieron que corrijan esta información durante los próximos 28 días. De lo contrario, si la compañía no cumpliese con esta petición, el equipo letrado querellante demandarán por difamación a la firma tecnológica.

MENTIME QUE ME GUSTA

Existe un ejemplo que ilustró cómo ChatGPT pudo inventar cosas y hacerlo de forma creíble. En este caso, en wwwhatsnew.com se divulgó la supuesta existencia de estatua nueva en Barcelona. A pesar de las dudas, se sostuvo la presunta veracidad de la misma hasta que la herramienta reconoció su error.

El autor de un artículo le pidió al chatbot que le dijera algo que pocos saben de la ciudad española y la tecnología respondió que había una estatua de la libertad, dentro de la Biblioteca Arús, cerca del Arco del Triunfo. La persona que inició la conversación le pidió referencias y ChatGPT proporcionó el lugar exacto (donde está Colón) y el enlace de la web del ayuntamiento que hace referencia a la supuestamente famosa “diosa de la libertad”. Sin embargo, ese link no existe.

ChatGPT inventó la existencia de una estatua en una biblioteca de Barcelona

El autor del artículo pidió más fuentes y la herramienta inventó más URLs (hipervínculos) que tampoco existen. Al final del intercambio, el chatbot reconoció el error, pero dijo que no se había inventado ninguna URL.

NOTICIAS FALSAS

En China, detuvieron a un hombre por crear y difundir, con la ayuda de ChatGPT, una noticia falsa en la que se aseguraba que, a raíz de un accidente de tren, murieron nueve personas.

El hombre, de apellido Hong, fue aprehendido por las autoridades del país asiático, tras ser acusado de usar la herramienta para generar “fake news” sobre un accidente ferroviario. En ese sentido, la policía local descubrió un artículo falso sobre el supuesto accidente que fue publicado en varias cuentas en Baijiahao, una plataforma tipo blog de Baidu Inc. El artículo tuvo más de 15.000 visualizaciones antes de ser eliminado.

En las investigaciones posteriores revelaron que Hong usaba ChatGPT para modificar artículos de noticias virales que luego volvería a publicar. Por su lado, las autoridades dijeron que la difusión y visualización a gran escala del material significaba que el autor era responsable del “delito grave” de provocar “peleas y conflictos”, un delito punible con al menos cinco años de prisión.

El alcalde de Hepburn Shire en Australia, Brian Hood / Facebook