Los gobiernos están lidiando con la marea de desnudez no consensuada en X

Durante las últimas dos semanas, X se ha visto inundado de imágenes de desnudos manipuladas por IA creadas por el chatbot Grok AI. Un número alarmante de mujeres se ha visto afectada por desnudos no consentidos, incluidas modelos y actrices destacadas, así como figuras periodísticas, víctimas de delitos e incluso líderes mundiales.

Un artículo de investigación de Copyleaks del 31 de diciembre estimó que se publicaba aproximadamente una imagen por minuto, pero pruebas posteriores encontraron muchas más. Una muestra recolectada del 5 al 6 de enero encontró 6.700 por hora durante un período de 24 horas.

Pero si bien figuras públicas de todo el mundo han criticado la decisión de publicar el modelo sin salvaguardias, existen pocos mecanismos claros para que los reguladores busquen frenar el nuevo sistema de manipulación de imágenes de Elon Musk. El resultado se ha convertido en una dolorosa lección sobre los límites de la regulación tecnológica y en un desafío de futuro para los reguladores que buscan dejar su huella.

Como era de esperar, la acción más agresiva provino de la Comisión Europea, que el jueves ordenó a xAI preservar todos los documentos relacionados con su chatbot Grok. Este paso no significa necesariamente que el comité haya abierto una nueva investigación, pero es un precursor común de dicha acción. Es especialmente siniestro dados los informes recientes de CNN que sugieren que Elon Musk puede haber intervenido personalmente para evitar que se coloquen salvaguardias en las imágenes que Grok podría generar.

No está claro si X ha realizado algún cambio técnico en el modelo de Grok, aunque se eliminó la pestaña de medios públicos para la cuenta X de Grok. En un comunicado, la empresa denunció específicamente el uso de herramientas de inteligencia artificial para producir imágenes sexuales de niños. «Cualquiera que utilice Grok o fomente la creación de contenido ilegal enfrentará las mismas consecuencias que si cargara contenido ilegal», publicó la cuenta X Safety el 3 de enero, haciéndose eco de un tweet anterior de Elon Musk.

Mientras tanto, los reguladores de todo el mundo han emitido severas advertencias. Ofcom de Gran Bretaña emitió un comunicado el lunes diciendo que ha estado en contacto con xAI y «realizará una evaluación rápida para determinar si hay posibles problemas de cumplimiento que justifiquen una investigación». En una entrevista radiofónica el jueves, el primer ministro británico, Keir Starmer, calificó el fenómeno de «vergonzoso» y «repugnante» y afirmó: «Ofcom tiene todo nuestro apoyo para tomar medidas al respecto».

En una publicación en LinkedIn, la comisionada australiana de eSafety, Julie Inman-Grant, dijo que su oficina había recibido el doble de quejas relacionadas con Grok desde finales de 2025. Pero Inman-Grant no tomó ninguna medida contra xAI y se limitó a decir: “Utilizaremos la gama de herramientas regulatorias a nuestra disposición para investigar y tomar las medidas adecuadas”.

Con diferencia, el mayor mercado amenazado con acciones es India, donde Grok fue objeto de una queja formal por parte de un miembro del parlamento. En enero, el regulador de comunicaciones de la India ordenó a MeitY. Aunque se presentó un informe al regulador el 7 de enero, no está claro si MeitY estará satisfecho con la respuesta. De lo contrario, X podría perder su condición de refugio seguro en la India, lo que podría limitar gravemente su capacidad para operar en el país.