En Estados Unidos se aprobó una nueva ley que convierte en delito la creación y difusión de deepfakes, contenido hiperrealista generado con inteligencia artificial (IA) con fines engañosos o dañinos. La normativa estableció penas de hasta cinco años de prisión.
Esta medida, aplicada en el estado de Nueva Jersey, se suma a una creciente tendencia en el país norteamericano, donde al menos 20 estados han aprobado normativas similares, según resumió AP, para abordar el uso malintencionado de esta tecnología, especialmente en contextos políticos y en la difusión de material explícito no consentido.
“Me enorgullece firmar la legislación de hoy y oponerme a los engañosos y peligrosos deepfakes”, dijo el gobernador estatal Phil Murphy este miércoles.
“Si bien la inteligencia artificial ha demostrado ser una herramienta poderosa, debe utilizarse con responsabilidad (...) Acompañamos a las víctimas de las imágenes deepfakes y seguiremos priorizando la seguridad y el bienestar de todos los habitantes de Nueva Jersey”, declaró.
¿Qué es un deepfake?
El término deepfake se refiere a la alteración de imágenes, videos o audios mediante inteligencia artificial para hacer que una persona parezca decir o hacer algo que nunca ocurrió.
Esta tecnología, cada vez más sofisticada y accesible para cualquier persona, ha sido aprovechada con fines maliciosos, incluyendo la desinformación electoral y la creación de material explícito sin consentimiento.
El auge de los deepfakes ha generado preocupación en diversas áreas como en el ámbito político, pues se han utilizado para alterar discursos de candidatos y manipular campañas.
Además, muchas víctimas han visto su imagen usada en videos falsos, una situación que ha llevado a múltiples demandas y llamados a regulaciones más estrictas.
Y es que las autoridades de Nueva Jersey indicaron que la legislación se inspiró en parte por el caso de Francesca Mani, una estudiante de la escuela secundaria Westfield que fue víctima del uso de su rostro para producir imágenes explícitas generadas por IA que circularon entre sus compañeros en 2023.
La joven exigió un cambio para penalizar este tipo de contenido y se convirtió en defensora de derechos y la persona más influyente en IA, según TIME100.
Esta normativa pretende disuadir a los perpetradores y brindar herramientas para frenar el impacto de la IA en la privacidad de las personas, especialmente en los menores de edad.
Lea aquí: América Latina le monta competencia a las grandes potencias y lanzará su propio modelo de IA: así será “Latam GPT”
El marco legal sobre deepfakes en Colombia aún está en desarrollo, con varias iniciativas legislativas en trámite en el Congreso de la República asociadas con esta tecnología.
Entre ellos está el proyecto que tiene la finalidad de tipificar la suplantación de identidad o falsedad personal a través de la IA, “esto debido a la reciente creación e implementación de este tipo de tecnología, la cual está empezando a ser utilizada para cometer conductas delictivas”, señaló el proyecto de ley N° 360 de octubre de 2024.
