Semanas atrás, AIRE informó sobre una delicada situación en San Justo donde un adolescente de 14 años utilizó inteligencia artificial para "desnudar" al menos a seis chicas de la misma ciudad y luego viralizó las imágenes. En Lomas de Zamora, la situación escaló todavía más: cuatro alumnos de secundaria trucaron fotos de unas 50 compañeras de tercer y cuarto año desnudas, las difundieron y vendieron en páginas para adultos.

Violencia digital y deepfakes en Santa Fe

En ese contexto, en la Legislatura ingresó un proyecto, autoría de Celia Arena, para actualizar el régimen contravencional de Santa Fe frente a las nuevas formas de violencia digital, con especial atención a la creación y difusión de imágenes, audios y videos manipulados mediante inteligencia artificial (IA).

Grupo de jóvenes utiliza dispositivos móviles con aplicaciones de inteligencia artificial.

La iniciativa viene a reforzar la Ley N.º 14.471 más conocida como Ley EMA, aprobada en julio, y que tiene como objetivo prevenir y abordar la violencia digital en escuelas de Santa Fe. La sanción la convirtió a la Provincia en pionera en Argentina al avanzar con una legislación específica que busca garantizar entornos digitales seguros y libres de acoso para niños y niñas.

El proyecto propone modificar el artículo 84 bis e incorporar los artículos 84 septies, 84 octies y 84 novies a la Ley 10.703, Código de Faltas de la provincia, para establecer sanciones específicas ante conductas que vulneren derechos personales mediante contenidos reales o generados artificialmente.

"No estamos ante un simple juego tecnológico, sino ante una nueva forma de violencia digital que puede afectar profundamente la dignidad, la intimidad y la integridad de las personas", se indica en los fundamentos del proyecto.

La irrupción de los deepfake y la falta de regulación

Los deepfakes son videos generados sintéticamente con tecnología basada en inteligencia artificial con el objetivo de crear secuencias falsas pero realistas, en las que se busca modificar la apariencia física e incluso la voz de las personas y hacerles decir o hacer algo que nunca dijeron o hicieron. Ocurrió, por ejemplo, con el presidente de Ucrania, Volodímir Zelenski, con los Lula da Silva y Jair Bolsonaro durante las elecciones presidenciales en Brasil de 2022, y con el ex presidente estadounidense Donald Trump.

Actualmente la legislación contempla la difusión de material obtenido en un ámbito privado, pero las nuevas tecnologías permiten fabricar imágenes y videos hiperrealistas de situaciones que nunca ocurrieron. El daño a la intimidad, la reputación y la integridad psicológica de las víctimas puede ser igualmente grave. "Lo que existe en el mundo digital es real", plantea la fundamentación, que subraya que la identidad digital es una extensión de la persona y que las vulneraciones mediante representaciones sintéticas tienen consecuencias concretas.

Qué tipo de sanciones plantea la iniciativa

• Amplía las sanciones por la difusión no consentida de imágenes íntimas e incorpora los contenidos sexuales o de desnudez creados, alterados o manipulados mediante IA y otras tecnologías de generación sintética.
• Sanciona a quienes usen estas herramientas, sin consentimiento, para crear o modificar imágenes, audios o videos de personas reales en contextos denigratorios o que afecten gravemente su dignidad y reputación, aunque no tengan contenido sexual.
• Sanciona la creación y difusión de representaciones sexuales sintéticas con apariencia infantil indistinguible de la realidad, incluso cuando no correspondan a una persona identificable, así como a quienes las financien, ofrezcan o comercialicen.
• Sanciona la posesión consciente de este tipo de material de origen ilícito, aunque sea para uso o visualización personal.

Además, quienes cometan estas faltas deberán realizar talleres obligatorios sobre violencia digital y uso ético de las tecnologías. El objetivo es abordar el problema de manera integral: no solo sancionar las conductas que generan daño, sino también incorporar herramientas de prevención y sensibilización.

Fuente: Aire Digital