La diputada provincial Gabriela Lena, de Juntos por Entre Ríos (JxER), presentó en la Cámara de Diputados un proyecto de ley destinado a prevenir y abordar la violencia sexual digital contra niñas, niños y adolescentes mediante el uso de inteligencia artificial (IA).

La iniciativa propone establecer mecanismos de protección frente a la creación, manipulación y difusión de imágenes o videos de contenido sexual generados o alterados mediante herramientas tecnológicas.

La propuesta legislativa surge ante la preocupación por la utilización de sistemas de inteligencia artificial capaces de producir representaciones falsas de personas menores de edad, que posteriormente pueden emplearse para hostigar, intimidar, amenazar o extorsionar a las víctimas.

Según los fundamentos del proyecto, el objetivo es proteger la dignidad, la intimidad, la identidad, la imagen personal y la integridad psicofísica de niñas, niños y adolescentes, además de garantizar el ejercicio de sus derechos frente a nuevas modalidades de violencia.

Qué establece el proyecto sobre la violencia sexual digital

La normativa propuesta contempla situaciones relacionadas con la creación, alteración, utilización o difusión de imágenes, videos y otras representaciones digitales de desnudez o contenido sexual elaboradas mediante inteligencia artificial.

El alcance de la iniciativa no se limita a la circulación de contenidos falsificados, sino que también comprende su utilización como mecanismo de presión, humillación, intimidación o amenaza contra las personas afectadas.

Uno de los aspectos centrales es la intervención de los organismos provinciales responsables de la educación y de la protección de los derechos de la infancia.

En ese sentido, el proyecto asigna funciones al Consejo General de Educación (CGE) y al Consejo Provincial del Niño, el Adolescente y la Familia (Copnaf), que deberán actuar dentro de sus respectivas competencias, según publicó APF.

El texto establece que los establecimientos educativos deberán contar con pautas institucionales claras para recibir y canalizar de manera confidencial las situaciones denunciadas.

También propone garantizar orientación y acompañamiento a las personas afectadas, evitando su exposición pública y cualquier procedimiento que pueda provocar nuevas vulneraciones de derechos.

Prevención en las escuelas y acompañamiento a las víctimas

La iniciativa contempla acciones de concientización dirigidas a estudiantes, docentes y familias para identificar prácticas de manipulación digital y reconocer los riesgos asociados con la utilización indebida de inteligencia artificial.

Entre los aspectos que deberán abordarse figuran las consecuencias de crear, publicar, reenviar o utilizar representaciones sexuales falsas con fines de hostigamiento, intimidación o extorsión.

Otro de los ejes centrales del proyecto es impedir que las personas afectadas sean responsabilizadas por la circulación de contenidos digitales elaborados o modificados sin su consentimiento.

La propuesta establece expresamente que ninguna niña, niño o adolescente podrá ser culpabilizado por la creación, manipulación o difusión de las representaciones comprendidas en la futura normativa.

Asimismo, busca evitar prácticas que puedan profundizar el daño sufrido por las víctimas durante los procedimientos de asistencia y protección.

En particular, dispone que no podrá exigirse la exhibición, reproducción o remisión reiterada del material como condición para acceder a orientación, acompañamiento o medidas de resguardo.

De esta manera, el proyecto presentado por Lena busca incorporar herramientas de prevención y actuación institucional frente a una modalidad de violencia que plantea nuevos desafíos para las familias, las escuelas y los organismos encargados de proteger los derechos de la infancia.

La iniciativa deberá atravesar el correspondiente tratamiento legislativo antes de convertirse en ley.