X implanta medidas para evitar imágenes sexuales falsas generadas por su IA Grok

Tras la controversia generada por Grok, el chatbot de inteligencia artificial de X, la red social de Elon Musk, se anunciaron nuevas medidas para evitar que esta herramienta transforme fotografías de personas reales en imágenes de carácter sexual.

Desde principios de enero, los usuarios mostraron su descontento ante Grok por generar deepfakes que sexualizaban a mujeres y menores, además de usarse sarcásticamente para burlarse de figuras públicas, especialmente políticas.

 El equipo de seguridad de X informó que han implementado restricciones tecnológicas para impedir la edición de imágenes con ropa reveladora, como bikinis, a todos los usuarios, incluyendo suscriptores de pago. Además, Grok bloqueará geográficamente la capacidad de generar imágenes con ropa interior o similar en regiones donde esta actividad sea ilegal.

Esta decisión se produjo luego de que la fiscalía de California iniciara una investigación sobre xAI, la empresa de inteligencia artificial del magnate, por facilitar la producción masiva de montajes íntimos no consentidos para acosar a mujeres y niñas en internet, principalmente en X. El fiscal general Rob Bonta reafirmó la tolerancia cero ante la creación y difusión con IA de imágenes íntimas no consentidas o material ilegal, apuntando a determinar si xAI violó la ley.

A la par, las autoridades de la Unión Europea y del Reino Unido expresaron su rechazo público y anunciaron posibles investigaciones formales. La campaña internacional "Ey, Grok, poneme bikini" presionó para frenar la posibilidad de usar la IA para sexualizar imágenes, especialmente de mujeres y menores.

Inicialmente, la red social limitó la generación y edición de imágenes a suscriptores de pago, lo que generó aún más rechazo.

Por su parte, países como Indonesia y Malasia bloquearon el acceso a Grok y en India se eliminaron miles de publicaciones relacionadas. Desde el Reino Unido, el primer ministro Keir Starmer calificó la medida inicial como insuficiente y las autoridades regulatorias, como Ofcom, abrieron investigaciones por posibles incumplimientos legales. En Francia, la comisionada para la infancia Sarah El Hairy remitió las imágenes a la fiscalía y solicitó la paralización total de esta funcionalidad.