Australia toma acciones contra una plataforma argentina de IA que genera desnudos falsos

Australia tomó acciones regulatorias contra una de las principales plataformas de inteligencia artificial (IA) utilizadas para crear imágenes sexuales falsas de personas reales -conocidas como herramientas de “nudificación”-, con sede en Argentina, por no impedir el acceso de menores.

La principal responsable de eSafety, el regulador australiano de seguridad en Internet, Julie Inman Grant, informó en un comunicado que el organismo emitió una “dirección formal de cumplimiento” a una plataforma argentina que recibe decenas de miles de visitas mensuales desde Australia y que permite crear contenido sexual explícito manipulado mediante IA a partir de fotografías reales.

“El alcance y la facilidad con la que los niños pueden acceder a estas plataformas es profundamente preocupante”, afirmó Inman Grant, quien advirtió de que estas herramientas facilitan abusos como el ciberacoso severo, la extorsión sexual, la violencia sexual basada en imágenes y la explotación de menores.

La medida se produce en el marco de los códigos australianos sobre material restringido por edad, vigentes desde marzo de 2026, que obligan a las plataformas digitales a adoptar salvaguardas para impedir el acceso de menores a contenidos pornográficos, violentos o relacionados con autolesiones.

Según eSafety, la empresa, que no fue identificada en el comunicado para evitar su promoción, no respondió a los requerimientos previos ni mostró voluntad de implementar mecanismos de protección infantil. “eSafety buscó colaborar con el proveedor poco después de la entrada en vigor de los Códigos, buscando asegurar que implementaran las salvaguardas adecuadas. Sin embargo, el proveedor con sede en Argentina no respondió y no se ha comprometido a mejorar las protecciones para los niños. Como el proveedor no ha respondido a este compromiso, eSafety considera apropiado emitir una orden formal para cumplir que, si no se cumple, da lugar a nuevas opciones de aplicación para eSafety”, expresa el comunicado.

Si la plataforma no cumple con las exigencias en un plazo de 14 días, el organismo podría impulsar multas civiles de hasta 49,5 millones de dólares australianos (unos 29,8 millones de euros), además de solicitar a motores de búsqueda que bloqueen el acceso al sitio.

La actuación de eSafety se suma a la estrategia más amplia del Gobierno australiano para endurecer la regulación digital y limitar el acceso a tecnologías abusivas basadas en IA.

En septiembre del año pasado, el Ejecutivo anunció que preparaba reformas legales para restringir herramientas de “nudificación” y de espionaje digital, al considerar que exponen tanto a adultos como a menores a daños “irreparables”.

La ministra de Comunicaciones, Anika Wells, sostuvo entonces que estas aplicaciones “no tienen lugar en Australia” porque se utilizan exclusivamente “para abusar, humillar y dañar a las personas, especialmente a los niños”.

Australia adoptó en los últimos años algunas de las regulaciones digitales más estrictas del mundo.

Entre ellas figura la prohibición aprobada por el Senado en 2025 para impedir el acceso de menores de 16 años a redes sociales como Facebook, Instagram y TikTok, bajo amenaza de fuertes sanciones económicas para las plataformas.

EFE