Los 10 días de porno machista que pueden costar caro a Elon Musk: “No es cuestión de bikini o burka, sino de consentimiento”

“Grok es la número 1 en España”, presumió esta semana Elon Musk. La app de su inteligencia artificial superó a ChatGPT unos breves instantes entre las más descargadas en Google Play, la tienda de aplicaciones de Android. Una escalada que se produjo a la vez que la avalancha de denuncias públicas e institucionales contra Musk y su desarrolladora, xAI, por permitir su uso para desnudar a mujeres e incluso menores de edad. Los especialistas consultados, no obstante, dudan que el escándalo pueda pasar factura.

Este tipo de ataques se viralizaron desde el 31 de diciembre en X, la red social del magnate, ante la pasividad de este y de la plataforma para contrarrestarlos. Grok está integrado de manera nativa en X, permitiendo a los usuarios citar a la IA en sus publicaciones para que aclare dudas, verifique hechos o responda preguntas. Desde agosto, también puede generar imágenes, algo que algunos usuarios están aprovechando para que Grok modifique una fotografía publicada en la red social para quitarle la ropa, mostrando a la persona en lencería o bikini.

Sus contestaciones se publican de manera abierta y son visibles para todos los usuarios, lo que aumenta el impacto del ataque contra la propia imagen. Aunque puede lanzarse contra cualquier persona, la mayoría de afectadas son mujeres, tanto personalidades públicas como usuarias anónimas de X, así como menores de edad.

La situación provocó múltiples quejas contra el hombre más rico del mundo y su plataforma. “El contenido sexual degradante y el material de abuso sexual infantil no son consecuencias inevitables de la tecnología. Son el resultado de una estrategia de producto deliberada por parte de X y de Elon Musk”, denunció Hilary Manson, cofundadora de Hidden Doors, una desarrolladora de IA especializada en videojuegos.

Investigaciones independientes, como la realizada por la organización AI Forensics, documentaron más de 800 vídeos e imágenes que simulaban agresiones sexuales, feminicidios y vídeos pornográficos generados por Grok a partir de fotos de mujeres reales sin su consentimiento.

“El entorno que permite que esto prospere existe desde hace tiempo. La IA amplifica estos fallos ya presentes en el sistema y agrava los daños”, recalcó la especialista: “Hemos tolerado la falta de seguridad en las redes sociales, la desatención general y la escasa aplicación de la ley frente a los delitos sexuales contra mujeres y menores”. “Ahora hay un líder que se aprovecha de todo ello sin ninguna consideración por los daños que causa”.

Musk se mofó de este tipo de denuncias en X, publicando una imagen suya en bikini generada por Grok. Sin embargo, la Unión Europea y organismos reguladores de múltiples países ya habían puesto a la plataforma en su punto de mira. Ante la presión, Musk terminó dando orden este viernes de bloquear la generación de imágenes en Grok, excepto para los usuarios de pago. Una maniobra que podría tener como objetivo impedir que usuarios anónimos utilicen la herramienta sin poder ser identificados por la Justicia en caso de ser necesario.

La UE pide información

“Somos plenamente conscientes de que X, a través de Grok, está ofreciendo ahora un 'modo picante' que muestra contenido sexual explícito, con algunas salidas generadas que incluyen imágenes de apariencia infantil. Esto no es 'picante'. Es ilegal. Es espantoso. Es repugnante. Así es como lo vemos, y esto no tiene cabida en Europa”, declaró este viernes un portavoz de la Comisión Europea.

Bruselas ordenó a X que retenga todos los documentos y datos internos relacionados con Grok hasta finales de 2026, aunque todavía no abrió una comunicación oficial. También se descartó una posible prohibición de Grok.

“No estamos aquí para prohibir plataformas. No estamos aquí para decirles a los ciudadanos qué plataforma es más segura o qué herramienta de IA es mejor. Nuestro objetivo es obligar a cada plataforma a poner su propia casa en orden. Es responsabilidad de X encargarse de Grok y asegurarse de que no genere ese tipo de contenido”, continuó el portavoz de la Comisión Europea.

Al movimiento de la UE se suman otros como el de Francia y Reino Unido, que llevaron el caso ante la justicia. En España, la ministra de Juventud e Infancia, Sira Rego, remitió un escrito a la Fiscalía para solicitar que investigue a Grok por presuntos delitos de difusión de material de violencia sexual contra la infancia.

Los juristas consultados dudan de que el escándalo vaya a salirle gratis a Elon Musk. “Estoy prácticamente seguro de que les van a abrir un expediente”, avanzó Borja Adsuara, abogado especializado en derechos digitales, que explicó que las leyes europeas establecen que las redes sociales “tienen que suprimir el ilícito en cuanto son conscientes de él”.

El propio Musk, con su mofó autopublicando una imagen falsa que lo mostraba en bikini, reconoció ser consciente del escándalo y estar ignorándolo. En su debe, detalló Adsuara, está el “haber permitido que se difunda, con independencia de qué o quién lo haya hecho”. “Esto es lo que despista a la gente. No es una cuestión de bikini o burka, sino de consentimiento”, “tú tienes derecho a que otros no manipulen tu imagen”.

El abogado se refiere así a una reacción que existió en X a raíz de la polémica. Creadoras de contenido de OnlyFans aprovecharon toda la atención que estaba generando la situación para pedirle a Grok que las desnudara en sus propias fotos y conseguir suscriptores. La reacción de una parte de los usuarios fue solicitar a la IA que las mostrara con un burka.

La generación de imágenes de mujeres en bikini o lencería mediante inteligencia artificial se mueve, en todo caso, en un vacío legal. Los juristas consultados dudan que suponga un delito por si mismo, si no va acompañado de una campaña de acoso. Esto cambia si las víctimas son menores. En España el Código Penal incluye tanto la generación de imágenes “reales” como las “realistas”. El proyecto de ley de protección de menores en entornos digitales, que se encuentra en trámite en el Congreso, incluye una disposición para extender una protección similar a los adultos.

elDiario.es se contactó con X y xAI, que no contestaron a los requerimientos de información. Tampoco emitieron ningún comunicado oficial sobre lo sucedido.

El canal de denuncia prioritaria para las víctimas

Las víctimas de este tipo de ataques tienen diferentes cauces para denunciar lo sucedido, explica la abogada especialista en privacidad Elena Gil. Uno de ellos, no siempre conocido, es el Canal Prioritario de la Agencia Española de Protección de Datos (AEPD). “Ellos tienen mecanismos de comunicación urgente con las redes sociales para retirar el contenido en horas sin que tú tengas que pegarte directamente con una gran plataforma. Este diría que es el mayor mitigante del daño, que en la mayoría de ocasiones es reputacional”, señaló.

Esta herramienta se puede activar para frenar la difusión de ataques sexuales, pero también de violencia o vejaciones en las que se vean involucrados menores. Es gratuito. El proceso activa también la investigación de la AEPD, que podría sancionar al responsable de los hechos si puede identificarlo. Sus multas, no obstante, son administrativas, no indemnizatorias.

“El Canal Prioritario es el mecanismo que iría primero, para que el contenido deje de estar ahí. Luego, si se quiere ir contra la propia persona, ahí es donde entra la denuncia ante la Policía”, desglosa Gil. La abogada avisó, eso sí, que el procedimiento jurídico es largo y “puede llevar años”. “Si realmente te han provocado un daño, pues desde luego puedes tener una indemnización, y pedir una multa para la persona autora. Pero eso sirve de poco si la foto sigue colgada en redes, que es lo que normalmente te provoca el daño”, insistió.

Más allá del impacto emocional inmediato, este tipo de ataques provoca un daño reputacional en las víctimas, como señaló Gil. La manipulación de una imagen para mostrar a alguien en ropa interior o en una situación sexualizada altera la percepción pública de esa persona y la expone a juicios, burlas o acoso. Al difundirse de forma pública en una red social, el contenido pasa a formar parte de la huella digital de la víctima, afectando a su vida personal, profesional y social.

Recientemente, la política de Irlanda del Norte Cara Hunter reveló que un deepfake porno de contenido sexual difundido en 2022 sigue afectando a su vida personal. “Ahora hay chicas que me llaman para decirme que les ha pasado lo mismo y que les ha arruinado la vida. Una joven me contó hace poco que le había pasado a ella y a otras 14 personas, todas menores de 18”, relató Hunter.

La actriz española Sara Sálamo, una de las afectadas, se posicionó en el mismo sentido. “Durante años he dicho que he rechazado papeles porque hay personas que cogen secuencias de mis pelis de ficción, las sacan de contexto y las suben a páginas porno. Eso ya era violencia. Lo dije como actriz, pero sobre todo como madre. Porque no es abstracto: son mis hijos, su colegio, lo que oyen, lo que cargarán en unos años... Ahora resulta que ni siquiera dejando de trabajar basta. Porque con una IA y cero escrúpulos pueden volver a sexualizarte sin tu consentimiento”.

Tensión por el control de las plataformas

Hace solo un mes la Comisión Europea multó a X con 120 millones de euros por incumplir sus obligaciones de transparencia de acuerdo a la ley de servicios digitales. Fue la primera multa europea contra la plataforma de Musk por violar la legislación comunitaria. La sanción provocó incluso un comentario del presidente estadounidense, Donald Trump, que la calificó de “desagradable” y avisó de que Europa “va en mala dirección”.

En un intento por tratar de rebajar las tensiones con EEUU, la Comisión rebajó la normativa de la Inteligencia Artificial. Las prácticas de alto riesgo de la IA, como la creación de contenidos manipulados, tendrán una moratoria de 16 meses para que las empresas puedan adaptarse a las nuevas exigencias. Las ONG calificaron la nueva regulación como “el mayor retroceso de los derechos digitales fundamentales en la historia de la UE”.

Pero este paso no evitó la represalia de la Administración Trump, que en un primer momento amenazó con multar a empresas europeas, aunque no cuenta con legislación para ello, y posteriormente impuso la prohibición de viajar a EEUU a ciudadanos europeos que han destacado por su posición contra el discurso de odio en internet.

Con el apoyo legislativo de la DSA y la DMA, Bruselas sancionó a Apple y Meta con 500 y 200 millones de euros por vulnerar leyes digitales, además multó con 2.950 millones a Google por prácticas abusivas con la publicidad digital y le abrió una investigación por manipular los resultados de búsqueda de medios de comunicación, y también está haciendo indagaciones sobre Microsoft y Amazon por su posición de mercado de servicios en la nube, entre otras sanciones.

El Gobierno de Trump no paró de amenazar con que “si la UE y sus Estados miembros insisten en seguir restringiendo, limitando y desalentando la competitividad de los proveedores de servicios estadounidenses mediante medidas discriminatorias, Estados Unidos no tendrá más remedio que empezar a utilizar todos los instrumentos a su disposición para contrarrestar medidas irrazonables”.

Mientras, la Comisión Europea se defendió al recordar que “la UE es un mercado único abierto y basado en reglas, con el derecho soberano de regular la actividad económica de acuerdo con nuestros valores democráticos y compromisos internacionales”. Las espadas siguen el alto.