Diputados avanzan en ley que multa el acoso escolar con IA

La Cámara de Diputados de San Juan avanza en una ley que castigará con multas económicas a quienes usen inteligencia artificial (IA) para acosar a estudiantes con imágenes falsas. En lo que va del año se presentaron cuatro proyectos sobre el tema, que ahora se estudian en comisión para unificarlos en un solo texto.

Dos de las iniciativas pertenecen al Bloque Cambia San Juan, una es del diputado Gabriel Sánchez y la más reciente la presentó la diputada Cristina López, que propone actualizar la Ley 1020-H. Todas se analizan en la Comisión de Educación, Ciencia, Técnica y Cultura.

"Estas iniciativas nacen por el acoso escolar, comprendiendo el ciberacoso y la manipulación de imágenes con IA", explicó la diputada Alejandra Leonardo, autora de uno de los proyectos y presidenta de la comisión. La legisladora dijo que el texto abarca "el uso de herramientas de IA generativa para la creación, alteración, manipulación y publicación de imágenes, videos y textos con la intención de humillar, suplantar identidad y/o denigrar a otra persona".

Leonardo contó que la intención es dar despacho al proyecto unificado entre esta semana y la próxima, para que el texto llegue al recinto con el acuerdo de los cuatro bloques autores.

El debate se reactivó a inicios de septiembre, cuando un estudiante de la Facultad de Ingeniería de la UNSJ quedó bajo investigación por presuntamente usar fotos de perfiles de redes sociales de compañeras para crear, con IA, imágenes de contenido erótico. La técnica se conoce como deepfake (manipulación de imágenes o videos con inteligencia artificial para mostrar a una persona en situaciones que nunca protagonizó).

Además de la investigación judicial que pueda corresponder, el proyecto busca que quien cree y difunda ese tipo de imágenes con fines maliciosos reciba una multa. Como la Legislatura no puede legislar sobre leyes de fondo, la sanción se incorporará al Código de Faltas provincial: recaerá sobre el autor si es mayor de edad, o sobre sus padres o responsables si se trata de un menor.

"La multa inicialmente pensamos que vaya de 600.000 a 1.200.000 pesos, pero es una de las cuestiones que tenemos que seguir debatiendo en comisiones", dijo Leonardo. La sanción solo se aplicará cuando la víctima sea un estudiante, y se buscará que se sume a un tratamiento o programa para evitar que la conducta se repita.

"Tenemos las expectativas de poder avanzar y contar con una ley este año", concluyó Leonardo. Con el nuevo texto, los diputados buscan sumar una herramienta legal frente a las formas de acoso escolar que aparecen con el uso de la tecnología.