El diputado Juan Carlos Ledesma propuso implementar sanciones severas contra las "deepfakes" sexuales

El legislador busca castigar el uso indebido de IA y crear un observatorio contra la violencia digital.

El diputado provincial Juan Carlos Ledesma presentó en la Legislatura un proyecto de ley que busca prevenir y sancionar el uso indebido de inteligencia artificial y deepfakes con contenido sexual no autorizado.

La iniciativa, titulada “Régimen Jurídico para la Prevención y Sanción del Uso Indebido de Inteligencia Artificial y Deepfakes Sexuales”, establece penas de hasta 8 años de prisión y obligaciones para plataformas digitales en la detección y eliminación de este tipo de material.

Un marco normativo pionero

Frente al avance de la inteligencia artificial y el incremento de delitos digitales, el proyecto propone un marco regulatorio innovador en la región. “El uso indebido de los deepfakes sexuales es una forma de violencia digital que afecta la intimidad, la dignidad y los derechos fundamentales de las personas, especialmente mujeres y adolescentes”, sostuvo Ledesma.

Entre sus principales medidas, la ley contempla la creación del Observatorio Provincial de Violencia Digital, un organismo encargado de recopilar datos, asesorar a víctimas y lanzar campañas de concientización sobre los riesgos de la manipulación digital.

Sanciones y agravantes

El proyecto introduce nuevas figuras delictivas en el Código Penal Provincial con severas penas para quienes participen en la creación y difusión de deepfakes sin consentimiento:

- Creación de deepfakes sexuales: 2 a 5 años de prisión.
- Distribución o comercialización: 3 a 6 años de prisión.
- Uso con fines de extorsión o acoso: 5 a 8 años de prisión.
- Almacenamiento de contenido manipulado: Multas y penas de 1 a 3 años de prisión.

Las sanciones serán más severas si la víctima es menor de edad, funcionario público o persona en situación de vulnerabilidad.

“No podemos permitir que una herramienta diseñada para la innovación se convierta en un arma de humillación o extorsión. La violencia digital es real y sus consecuencias pueden ser devastadoras, desde daño psicológico hasta aislamiento social e incluso suicidio en los casos más extremos”, advirtió el diputado.

Educación y prevención

La propuesta también incorpora la enseñanza de privacidad digital y consentimiento en el sistema educativo, además de fomentar acuerdos con empresas tecnológicas para el desarrollo de herramientas que identifiquen y bloqueen deepfakes ilegales.

“La solución no es solo castigar, sino también educar. Si enseñamos a los jóvenes sobre los riesgos de la IA mal utilizada y la importancia de la privacidad, estaremos formando una sociedad más consciente y preparada”, agregó Ledesma.

Con este proyecto, el legislador busca que Catamarca se convierta en un referente en la lucha contra los delitos digitales, promoviendo un entorno digital más seguro y regulado.

Lectores: 1266