Manipulación de imágenes y noticias falsas con IA: "Creen que internet es un espacio sin consecuencias legales o sociales"

En diálogo con UNO sobre las problemáticas digitales actuales, el doctor Santiago Resett analizó el impacto de la introducción temprana de pantallas, la falta de supervisión familiar y la urgente necesidad de implementar alfabetización digital en las escuelas. La creciente preocupación social por el uso irreflexivo de la tecnología y la IA entre menores tuvo recientemente dos graves episodios como detonantes mediáticos. Por un lado, en una escuela agrotécnica de Concordia, tres adolescentes de 14 años utilizaron herramientas de inteligencia artificial para alterar fotografías de sus compañeras y simular desnudez parcial. Por otro lado, en Catamarca se desató un escándalo tras la viralización de un video en el que una estudiante del Colegio Pía relataba sin remordimientos cómo humilló físicamente a una compañera durante el viaje de egresados a Bariloche, una víctima que ya había sufrido previamente la difusión no consentida de material íntimo de contenido sexual. Ambos hechos visibilizaron -una vez más- la urgencia de abordar la violencia digital y el ciberacoso en el entorno escolar y familiar.

La falta de control y la falsa impunidad en la red

Ante este complejo panorama, Santiago Resett, doctor en psicología y docente de la Universidad Argentina de la Empresa (UADE), aclaró que "el problema en los menores de edad se debe a su introducción a edades tempranas y sin ningún tipo de control o supervisión por parte de las familias". El especialista especificó que muchos adultos desconocen o minimizan los peligros del entorno virtual. Respecto a las herramientas generativas, advirtió: "En el caso de la IA esta es una herramienta con gran potencialidad y utilidad, pero usada sin criterio, como cualquier herramienta, puede generar consecuencias negativas".

Entre esos riesgos menciona la manipulación no consentida de imágenes de desnudez y la creación de noticias falsas, recordando que los filtros de seguridad de estas plataformas resultan muy vulnerables.

Asimismo, el investigador remarcó la distorsión ética que sufren los adolescentes al interactuar en plataformas digitales. "Algo que sucede en el caso de internet o redes sociales es que las personas (no solamente los menores de edad) creen que es un espacio separado de la realidad y sin consecuencias legales, sociales o psicológicas: ahí vale todo", señaló Resett. Por su inmadurez e impulsividad, los jóvenes no logran medir el verdadero alcance de la viralización ni el daño provocado a terceros.

Manipulación de imágenes y noticias falsas con IA: "Creen que internet es un espacio sin consecuencias legales o sociales"

Delegación cognitiva y distracción en las aulas

El uso desmedido y prematuro de la tecnología también repercute de forma directa en el ámbito educativo. El especialista alertó sobre el fenómeno del cognitive offloading o delegación cognitiva, señalando que "es una delegación cognitiva que el problema que conlleva es que resuelven la tarea, pero no aprenden". En ese sentido, diferencia la destreza instrumental del juicio crítico: "Un menor de edad puede ser muy bueno manejando tecnológicamente el celular, conocer lo que es un prompt, usar IA generativa, etc., pero no tiene en cuenta que una foto subida a internet luego es casi imposible de eliminar".

A su vez, el uso irrestricto de teléfonos móviles durante las horas de clase perjudica de manera constante el proceso formativo. Para el docente universitario, "el celular dentro del aula es un poderoso distractor", por lo que reclamó un debate profundo y basado en evidencia científica a nivel nacional y provincial para establecer lineamientos claros sobre su regulación pedagógica.

Educación digital y pautas para la familia

Frente a la acumulación de problemáticas como el ciberbullying y las apuestas en línea, el psicólogo cuestionó la inacción en materia de políticas públicas: "¿Así como hay educación sexual integral en las escuelas, por qué no hay educación digital?", pronunció. A su entender, se necesita una acción coordinada entre el Estado, las instituciones educativas y los progenitores.

En el plano del hogar, Resett recomendó postergar la entrega del primer smartphone con internet hasta los 10 u 11 años, restringir el uso de pantallas antes de dormir o durante las comidas y promover un diálogo sincero y continuo. "Acá no se trata de discursos moralistas, sino de sentarse con el menor y hablar de consecuencias reales que inviten a la reflexión", enfatizó el entrevistado a UNO. Y concluyó: "Aunque las nuevas tecnologías implican un desafío, la cuestión no es prohibirlas, pero sí enseñar a convivir con ellas en un mundo cada vez más desafiante".