Nota de Lucila Marin en La Nación
El caso del Colegio Modelo Lomas, donde estudiantes habrían utilizado inteligencia artificial en imágenes para desnudar a sus compañeras, se suma al de la Escuela Superior de Comercio Carlos Pellegrini y el Colegio Nacional de Buenos Aires y vuelve a poner el foco en las deepfakes.
Un reciente informe de la Defensoría del Pueblo de la Ciudad de Buenos Aires que analiza experiencias de adolescentes con foco en la violencia digital y deepfakes identifica un fenómeno emergente. Si bien solo el 1% de la muestra (912 estudiantes de 12 a 19 años) reporta haber sido víctima directa, un 13% señala conocer casos en su entorno escolar. A la vez, el 43% afirma haber recibido imágenes o videos editados con IA.
En esa misma línea, desde la Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas (Ufedyci) de la Ciudad afirman que ya hace tiempo que reciben denuncias sobre esta problemática en colegios. En 2023 ingresaron cuatro denuncias, en 2024 fueron cinco, en 2025 ascendieron a nueve y hasta julio de 2026 eran cuatro las denuncias por difusión de imágenes creadas con IA en establecimientos educativos, según dijeron a LA NACION.
“Lo ocurrido nos enfrenta a una realidad que no podemos minimizar: la utilización de IA para crear imágenes sexualizadas de adolescentes sin su consentimiento constituye una forma de violencia sexual digital. Que esas imágenes sean artificiales no significa que el daño sea ficticio. Se vulneran la dignidad, la intimidad y la integridad de las alumnas afectadas”, definió Ana Correa, autora de Ciberfeminismo, la hora de la acción.
Marcó que es necesario fortalecer la Educación Sexual Integral (ESI), incorporando de manera explícita la integridad digital, el consentimiento y los daños que pueden producirse a partir de la manipulación de imágenes. “No podemos seguir tratando estos riesgos como consecuencias inevitables de la innovación tecnológica. Por supuesto, las escuelas y las familias deben estar alertas, pero necesitan herramientas, recursos y apoyo institucional. Chicos y chicas necesitan espacios sistemáticos de concientización, prevención y reflexión sobre el consentimiento, la violencia sexual digital y las relaciones de género”, señaló.
Y ahondó: “Al mismo tiempo, las adolescentes afectadas necesitan respuestas inmediatas: mecanismos accesibles para denunciar, retirar contenidos, evitar su redistribución y recibir acompañamiento, sin que la respuesta institucional termine revictimizándolas. Si intervenimos recién cuando las imágenes ya están circulando, llegamos tarde. Es urgente actuar antes. Y eso exige dejar de pensar la violencia digital exclusivamente como un problema de conductas individuales”.
Si bien la denominada Ley Olimpia reconoce a cualquier tipo de violencia contra las mujeres en entornos digitales e incorpora mecanismos para su prevención y penalización, el uso de IA para falsificar imágenes o videos pornográficos no está específicamente penalizado. La difusión de material íntimo no consentida, tampoco.
Cuando se trata de la difusión de imágenes que involucran a menores de edad, es decir, una creación parcial con IA con un cuerpo desnudo generado artificialmente, pero en la que la identidad de una adolescente puede reconocerse, la Ufedyci suele considerar que el delito de producción y distribución de material de explotación sexual de niñas, niños y adolescentes (art. 128 del Código Penal) existe.
“No fue creado para los deepfakes sexuales. Lo ideal sería crear un tipo específico. A falta de esta figura y a falta de una sanción como Ley Belén, lo que están haciendo muchas fiscalías del país es utilizar la figura de lesiones en contexto de violencia de género. Ya hay casos, no hay condenas aún”, señaló a LA NACION Florencia Zerda, abogada diplomada en Género y Derecho y especialista en cibercrimen y evidencia digital.
La Ley Belén busca tipificar esta conducta como delito. La norma lleva ese nombre en homenaje a Belén San Román, una mujer policía de la ciudad bonaerense de Bragado que se quitó la vida el 30 de noviembre de 2020 porque un preso la extorsionó con la difusión de videos íntimos, ante lo que Asuntos Internos de la Policía Bonaerense reaccionó con una investigación contra ella.
“Entre otras figuras legales, castiga la creación, comercialización y difusión de este tipo de montajes, tanto para mayores como para menores de edad. No tuvo tratamiento por parte de la Comisión de Legislación Penal. Ya es la tercera vez que presentamos el proyecto desde 2022. Creo que necesitamos que el Congreso realmente se dé cuenta de que es necesario legislar esta figura”, apuntó la también fundadora de Gentic, organización que promueve el activismo contra la ciberviolencia de género en la Argentina y autora del libro Violencia de género digital.
En esa misma línea, Genoveva Cardinali, fiscal jefa de Políticas de Género del Ministerio Público Fiscal de la Ciudad, consideró que es necesaria ”una reforma legislativa a la altura del avance tecnológico para proteger de verdad a las víctimas y poner fin a la impunidad”.
“La Ley Olimpia visibilizó y reconoció la violencia digital como una modalidad, pero no creó un tipo penal que nos dé herramientas efectivas para perseguirla adecuadamente. Mientras proyectos fundamentales como la Ley Belén continúan trabados en el Congreso, la Justicia debe recurrir a figuras periféricas o a la materia contravencional, lo que resulta insuficiente frente a un fenómeno de semejante gravedad”, describió.
La causa del Colegio Modelo Lomas quedó radicada en la UFI N° 6 del Fuero de Responsabilidad Penal Juvenil de Lomas de Zamora, a cargo del fiscal Mariano Bonilla, y se instruye por el presunto delito de fabricación y distribución de imágenes sexuales de menores de edad.
En el caso del Pellegrini, pese a que aún la investigación judicial de la Ufedyci debe determinarlo, los señalados como autores serían alumnos de esa institución y del Nacional Buenos Aires menores de edad, por lo que son inimputables. El nuevo régimen penal juvenil que baja la edad de imputabilidad a los 14 años comenzó a regir a nivel nacional en septiembre y la denuncia fue en julio.
Cardinali describió: “Estamos frente a una forma de violencia machista profundamente automatizada y masiva. La generación no consentida de deepfakes sexuales no es una travesura digital ni una simple falta de respeto, sino una agresión dirigida a sexualizar, humillar y disciplinar a las mujeres por el solo hecho de serlo, atacando de lleno su integridad. Cuando la imagen utilizada pertenece a una adolescente, este daño se amplifica en un entorno escolar que a menudo queda paralizado, mientras la masificación algorítmica perpetúa la victimización en segundos”.
Correa remarcó la importancia de no creer que la intervención penal por sí sola puede frenar estas situaciones, sino que es necesario avanzar sobre medidas regulatorias sobre las plataformas digitales y a las empresas que desarrollan y comercializan herramientas de IA capaces de producir este tipo de contenidos.
“La prevención debe comenzar desde el diseño mismo de las herramientas”, apuntó. Y ejemplificó: “En Reino Unido, la Online Safety Act (2023) establece obligaciones de cuidado para determinados servicios digitales, especialmente en materia de protección de niños, niñas y adolescentes. Los incumplimientos pueden dar lugar a sanciones económicas muy elevadas y, en determinados supuestos, a responsabilidades penales. En la Unión Europea, el Digital Services Act (DSA) avanza en una línea similar”. (09-10-26).
