La creación de imágenes y videos sexuales falsos y las estafas mediante clonación de voces tiene un vacío legal. Aun no se cuenta con legislación específica sobre el uso indebido de la Inteligencia Artificial, el Código Civil y la Ley de Protección de Datos Personales brindan herramientas para proteger a las víctimas.

El avance de la inteligencia artificial (IA) abrió nuevas posibilidades tecnológicas, pero también generó situaciones que plantean interrogantes legales y exponen a las personas a distintas formas de violencia digital. La creación de imágenes, videos y audios falsos, incluso con contenido sexual, puede afectar derechos fundamentales como la identidad, el honor y la integridad de las personas.

En diálogo con Radio La Red Paraná (88.7), Silvana Zufiaurre, abogada especialista en Derecho Civil, explicó que no todo contenido generado mediante inteligencia artificial constituye un hecho ilícito. Para que exista un delito, debe configurarse alguna de las conductas previstas en el Código Penal. Sin embargo, aclaró que cuando estas herramientas se utilizan para vulnerar derechos personales, existen mecanismos legales para actuar y reclamar.

La profesional señaló que el rápido desarrollo tecnológico muchas veces supera los tiempos de la legislación. Actualmente, Argentina no cuenta con una ley que regule específicamente los delitos vinculados con los llamados deepfakes, pero sí dispone de normas que permiten proteger a las personas frente al uso indebido de su imagen, su voz y sus datos personales.

«No nos encontramos absolutamente desprotegidos», sostuvo Zufiaurre, al explicar que el Código Civil y Comercial y la Ley de Protección de Datos Personales constituyen dos herramientas centrales para abordar estas situaciones.

Estafas y difusión de imágenes sexuales

Entre los usos de la inteligencia artificial que generan mayor preocupación se encuentran la clonación de voces para cometer estafas y la manipulación de fotografías para producir videos o imágenes de contenido sexual sin el consentimiento de las personas involucradas.

Uno de los ejemplos que mencionó la abogada es la utilización de voces clonadas para engañar a familiares. A través de estas herramientas, los delincuentes pueden reproducir la voz de una persona y comunicarse con sus allegados para solicitar dinero o concretar una estafa. También pueden utilizar imágenes o audios manipulados para realizar amenazas u otras conductas delictivas.

Zufiaurre hizo especial hincapié en una problemática que se presenta en ámbitos escolares: la utilización de fotografías de compañeras para modificarlas mediante inteligencia artificial y generar imágenes de contenido sexual. En algunos casos, ese material se distribuye entre estudiantes o incluso se comercializa.

La abogada explicó que no se deben eliminar esas evidencias, ya que posteriormente pueden ser utilizadas por peritos para realizar evaluaciones técnicas, rastrear direcciones IP y avanzar en la investigación sobre el origen y la circulación del material.

LEER MÁS: Argentina lidera el uso de inteligencia artificial para aprender, pero cuesta aplicar lo aprendido

Denuncias y responsabilidades

Otro de los pasos importantes es realizar la denuncia correspondiente y solicitar a las plataformas digitales que retiren las imágenes o videos publicados sin autorización. No obstante, Zufiaurre insistió en que primero debe resguardarse la mayor cantidad de pruebas posible para evitar que se pierda información relevante para la investigación.

En cuanto a las consecuencias legales, explicó que existen dos vías posibles: la penal, cuando la conducta configura un delito previsto en la legislación, y la civil, que permite reclamar una reparación por los daños y perjuicios ocasionados.

La respuesta dependerá de las características de cada situación, el tipo de contenido generado, la finalidad de su difusión y los derechos afectados. No es lo mismo la creación de un contenido humorístico o burlesco que la utilización de la inteligencia artificial para cometer una estafa, amenazar a alguien o producir y distribuir imágenes sexuales sin consentimiento.

En ese sentido, también llamó la atención sobre los permisos que las personas suelen aceptar al utilizar aplicaciones y redes sociales. Muchas veces, los usuarios habilitan condiciones de uso sin leerlas detenidamente, aunque eso no significa que cualquier utilización o difusión de sus imágenes y datos personales quede automáticamente autorizada.

Violencia digital

Al referirse específicamente a los casos que involucran a menores de edad, Zufiaurre destacó que las instituciones educativas tienen un papel fundamental en la prevención y el abordaje de la violencia digital.

Consideró que las escuelas deben brindar asistencia y contención a las víctimas, prestar atención a lo que sucede entre los estudiantes y trabajar la problemática tanto individual como grupalmente. En ese marco, mencionó la importancia de las tutorías y de los protocolos institucionales para detectar estas situaciones e intervenir.

Además, señaló que corresponde dar intervención a los organismos competentes, entre ellos el Consejo Provincial del Niño, el Adolescente y la Familia (Copnaf), para evaluar las medidas que deben adoptarse cuando los involucrados son menores de edad.

La primera acción, sostuvo, debe estar orientada a frenar la circulación del material y evitar que continúe reproduciéndose. La difusión no ocurre solamente en las redes sociales, sino también a través de los teléfonos y los intercambios personales, por lo que la responsabilidad alcanza tanto a quienes generan esos contenidos como a quienes los comparten.

Finalmente, Zufiaurre insistió en que el avance de la inteligencia artificial obliga a prestar atención a las nuevas formas de vulneración de derechos, pero recordó que existen herramientas legales para intervenir.

«La normativa es la que está contenida tanto por el Código Civil como por la Ley de Protección de Datos Personales», explicó. Y concluyó que, según las características de cada hecho, se deberá determinar si corresponde una investigación penal, una reparación por los daños ocasionados o ambas vías.