En San Luis, una jueza ordenó el bloqueo en todo el país de una app que crea desnudos con inteligencia artificial

El Juzgado Penal Juvenil de la ciudad de San Luis, a cargo de la jueza Daniela Benenatti, hizo lugar a una medida cautelar del Ministerio Público Fiscal para que se desactive una app que crea desnudos utilizando el rostro de personas reales.

  La medida tiene alcance nacional y ordena a organismos nacionales a trabajar sobre el asunto, según informa el Ministerio Público fiscal de San Luis.

 La cautelar fue impulsada por Fiscal de Género, Diversidad Sexual, Infancias y Adultos Mayores N° 2, Antonella Córdoba, quien lleva adelante una investigación que tiene como víctimas a estudiantes de una escuela puntana que fueron utilizados para generar imágenes de desnudos.

 La jueza Benenatti ordenó que intervenga en el caso el Ente Nacional de Telecomunicaciones (ENACOM) para el bloqueo inmediato de acceso al sitio en cuestión. Y si la medida no es posible que se estudien otras medidas para lograr el mismo objetivo.

 La fiscal Córdoba explicó que el caso surgió a partir de una denuncia presentada por la apoderada de una escuela de la capital puntana, en representación de un grupo de adolescentes cuyos rostros fueron superpuestos, sin su conocimiento ni consentimiento, en cuerpos desnudos que no les pertenecen.

 La herramienta utilizada fue una plataforma que, bajo la apariencia de un software de edición, emplea algoritmos de aprendizaje profundo para “quitar la ropa” de las personas en fotografías.

 “Se trata de una aplicación de IA avanzada diseñada para desnudar fotos y crear la ilusión de un cuerpo desnudo”, detalla el informe técnico del Departamento de Delitos Complejos del Poder Judicial de San Luis.

 Aunque en su sitio web la plataforma alega que “el procesamiento de menores es imposible” y que no se responsabiliza por las imágenes creadas, la realidad demostró lo contrario: no existen barreras efectivas de verificación de edad ni mecanismos que impidan el uso de imágenes de terceros sin autorización.

 Frente a esta violación flagrante de la privacidad, la dignidad y los derechos, la fiscal presentó la solicitud de medida cautelar ante el Juzgado Penal Juvenil. La medida se sustentó en un marco legal que incluyó la Ley Olimpia (27.736), que tipifica y sanciona la violencia digital, así como la Ley de Protección Integral de los Derechos de Niñas, Niños y Adolescentes (26.061) y la Ley de Protección Integral para Prevenir, Sancionar y Erradicar la Violencia contra las Mujeres (26.485).

 “El entorno digital no garantiza barreras efectivas de edad ni consentimiento lo que expone especialmente a niños y adolescentes a formas modernas de violencia simbólica, digital y psicológica, configurando una situación de alto riesgo que exige medidas cautelares urgentes de protección con el fin de evitar que la persistencia del acceso irrestricto a dicha aplicación constituya un riesgo cierto de repetición del daño, tanto respecto de las víctimas identificadas en autos como de otros potenciales afectados”, advirtió la fiscal.

 Y agregó en su escrito: “La presente solicitud constituye un proceso de prevención/protección contra la violencia de género y prevención de ulteriores delitos que en el caso particular tiene como destinatarias a adolescentes menores de edad, configurando el plexo normativo de protección de los derechos involucrados”.

Fuente: Diario Los Andes