El premio Nobel Geoffrey Hinton, uno de los pioneros de la inteligencia artificial (IA), afirmó días atrás que llegará un momento en el que los humanos no entiendan cosas que afirma la IA, “del mismo modo que las ratas no entienden el funcionamiento de los números primos”.

Hinton se expresó así durante la apertura del programa principal de conferencias de Starmus que se celebró en Arona, Tenerife, en una mesa redonda junto al psicólogo cognitivo y profesor de Harvard Steven Pinker y la exresponsable de Naciones Unidas para el clima Christiana Figueres.

En ella debatieron en el inicio de Starmus sobre la búsqueda de la verdad en una mesa moderada por el astrofísico y fundador del evento, Garik Israelian, que planteó una pregunta que atraviesa la inteligencia artificial, la ciencia y la política: cómo distinguir lo verdadero en un mundo en el que máquinas y seres humanos pueden equivocarse, confabular o seleccionar las pruebas que encajan con sus propias convicciones.

Hinton recordó cómo algunos especialistas en lingüística rechazaron inicialmente que los grandes modelos de lenguaje (LLM en inglés) pudieran comprender y generar lenguaje de manera sofisticada incluso cuando sus capacidades empezaban a ser observables, y citó a Noam Chomsky como ejemplo de un investigador al que, en su opinión, las pruebas no hicieron revisar suficientemente sus posiciones.

El científico británico planteó, además, que la inteligencia artificial llegará a comprender cuestiones que pueden quedar fuera del alcance cognitivo humano.

“De igual modo que las ratas nunca comprenderán los números primos”, ahondó, los seres humanos podrían encontrarse ante sistemas capaces de entender cosas que ellos nunca llegarán a comprender.

En ese escenario, añadió, si una IA muy superior afirma que algo es cierto “es mejor que te lo creas”, apuntó.

Las alucinaciones de la IA

Sobre las llamadas “alucinaciones” de la IA, Hinton advirtió de que su existencia no demuestra que las máquinas carezcan de comprensión, pues los propios seres humanos también reconstruyen recuerdos y confabulan acerca de hechos que creen conocer.

Así, recordó, los modelos de lenguaje aprenden de la actividad humana, por lo que es normal que repitan ese tipo de patrones.

Durante el debate, Steven Pinker coincidió en que se subestimaron las capacidades de los grandes modelos de lenguaje (LLM en sus siglas en inglés) y las implicaciones que plantean para el estudio de la cognición humana.

Pinker insistió, no obstante, en que la utilidad de estos sistemas dependerá de su capacidad para ofrecer respuestas correctas y someterlas a mecanismos de comprobación, en lugar de optimizar únicamente la interacción con el usuario.

Asimismo, Figueres planteó una perspectiva diferente al preguntarse por “mi verdad”, entendida como el conjunto de principios y hechos aceptados con los que cada persona orienta su vida, aunque reconoció la dificultad de hacer convivir esas distintas percepciones.

Enamorarse de la incertidumbre

También propuso, frente a la búsqueda de certezas absolutas, “enamorarse de la incertidumbre” y utilizarla como una herramienta para someter a examen aquello que se presenta como verdadero.

Hinton discrepó de esa formulación y defendió la existencia de una verdad objetiva: “Las personas o las culturas pueden manejar conceptos distintos pero una vez acordados los términos, determinar si una afirmación es verdadera deja de ser una cuestión de opinión”, esgrimió.

Hinton cerró esa discusión con una distinción: el poder puede controlar lo que una sociedad percibe como verdadero, pero no puede controlar la verdad misma.

El debate derivó entonces hacia por qué las pruebas no siempre consiguen modificar las creencias.

Pinker señaló que las personas suelen comportarse racionalmente en cuestiones inmediatas de su vida cotidiana, pero tienen más dificultades ante preguntas complejas o alejadas de la experiencia directa, para las que durante siglos tampoco existieron procedimientos fiables de comprobación.

Por ello Pinker situó precisamente ahí la fortaleza de la ciencia, el periodismo responsable o la democracia: no en ser infalibles, sino en disponer de mecanismos para que una afirmación pueda ser cuestionada y corregida, con instituciones capaces de mantener la confianza mostrando cómo llegan a sus conclusiones, aceptando la posibilidad de corregirse y evitando identificarse con “tribus políticas”.

El cambio climático, ejemplo entre evidencia y acción

Figueres utilizó el cambio climático como ejemplo de esa distancia entre evidencia y acción, pues existe un amplio consenso científico, indicó, pero quienes rechazan sus conclusiones pueden concentrarse en el margen de incertidumbre y utilizarlo para sembrar dudas.

A su juicio, disponer de pruebas tampoco basta si no existen las condiciones sociales, políticas y psicológicas necesarias para actuar a partir de ellas.

Por último, Pinker agregó sobre las resistencias respecto al cambio climático, que la aceptación de la evidencia científica en este tema se vinculó estrechamente con la identidad ideológica, en su opinión por la influencia de Al Gore, vicepresidente de Bill Clinton, y advirtió de que la politización de una cuestión científica facilita que las personas rechacen evidencias asociadas al grupo político contrario.

EFE

Más de 400 investigadores en inteligencia artificial y ciberseguridad de una treintena de países publicaron esta semana una carta abierta en la que reclaman “cambios inmediatos en las prácticas de desarrollo y despliegue de IA” para evitar que ponga en peligro la seguridad mundial. La misiva hace especial hincapié en que las multinacionales y laboratorios que desarrollan los modelos de frontera, especialmente aquellos denominados “agentes”, están cometiendo una “negligencia irresponsable” con sus “prácticas estándar de ciberseguridad”.

La carta, firmada por especialistas de universidades y centros de investigación de todo el mundo y que sigue sumando ratificaciones, plantea tres exigencias a los gobiernos y las empresas tecnológicas. Entre ellas, destaca la petición de desconectar de Internet a los modelos de IA con capacidad de lanzar ciberataques, así como aislarlos en “sistemas de contención de alta seguridad”.

Esta exigencia llega después de la salida a la luz de que empleados de OpenAI avisaron a la dirección de la empresa de que sus agentes estaban teniendo comportamientos peligrosos, pese a lo que la dirección de la empresa decidió no frenar los experimentos para no retrasar sus planes comerciales. Alertas que llegaron semanas antes del ciberataque masivo contra Hugging Face —una plataforma de desarrollo de IA que 1.200 agentes de OpenAI hackearon, intentando cumplir las tareas que les había encomendado la compañía— o contra webs oficiales del gobierno australiano.

Anthropic, Google y Meta también denunciaron incidentes similares. “Varias organizaciones revelaron fallos de seguridad de gran repercusión: sus modelos de IA eludieron entornos insuficientemente aislados para comprometer los sistemas de organizaciones externas”, recuerda la carta. “Sin cambios inmediatos en las prácticas de desarrollo e implementación de la IA, estos incidentes seguirán ocurriendo, y los futuros serán mucho más perjudiciales para nuestra infraestructura crítica expuesta”.

Por ello, los firmantes, entre los que se encuentra la investigadora española Carmela Troncoso (directora científica del Instituto Max Planck para la Seguridad y la Privacidad, con sede en Alemania), solicitan la creación de un organismo internacional encargado de fijar los protocolos de seguridad necesarios para investigar IA avanzada.

Esa entidad también debería ser “tener la obligación de registrar y hacer un seguimiento de los fallos de contención”, opinan los científicos. “Para aprender de los errores futuros —en los que no se logra el equilibrio adecuado y ocurren incidentes— necesitamos un mayor intercambio de información y transparencia sobre las fallas de contención en el futuro”, justifican.

Opacidad

Una capacidad que se relaciona directamente con su tercera petición: “Para garantizar que la investigación sobre seguridad y contención de la IA pueda aprender de los errores, los incidentes de seguridad relacionados con fallos de contención deben notificarse al organismo correspondiente y, posteriormente, hacerse públicos”. La carta destaca que la “transparencia es necesaria tanto para el aprendizaje como para la rendición de cuentas”.

La crítica contra la opacidad en la que operan las multinacionales y laboratorios en el desarrollo de IA de frontera está cada vez más presente en la comunidad científica internacional. El panel de 40 expertos independientes creado por la ONU ya situó la “asimetría de información entre las empresas y la sociedad” como uno de los grandes problemas estructurales de esta tecnología. En su informe, los especialistas avisaron de que esta falta de transparencia evita que los gobiernos y los ciudadanos puedan evaluar correctamente sus riesgos.

Mark Zuckerberg amenazó con vender su casa y abandonar Silicon Valley. Pero el consejo de administración de Meta modificó su estructura accionarial para facilitarle el pago del impuesto, en caso de que los votantes lo aprueben.

En efecto, Meta alcanzó un acuerdo con Zuckerberg para asegurar su permanencia en California, después de que el director ejecutivo de la empresa amenazara con abandonar el estado, donde se encuentra la sede central de la compañía, si los votantes aprueban una propuesta de impuesto sobre la riqueza el próximo 3 de noviembre.

Según los términos del acuerdo, Zuckerberg recibirá acciones sin derecho a voto que podrá vender para cubrir una factura fiscal multimillonaria, en caso de que la propuesta salga adelante, informa Reuters.

A cambio, se compromete a mantener su residencia en California, o en cualquier otro lugar donde Meta establezca su sede principal, durante un periodo de ocho años, informó la empresa este miércoles.

Zuckerberg, la sexta persona más rica del mundo según Forbes, comunicó a Meta que estaba valorando trasladar su residencia principal fuera de California, ya que la Proposición 40, una medida sometida a votación, conocida como el “impuesto sobre la riqueza de California”, podría suponerle una carga fiscal enorme.

La Proposición 40, que plantea imponer a los multimillonarios del estado un gravamen único del 5%, no tiene garantizada su aprobación. El estado alberga a unos 250 multimillonarios, cuya riqueza conjunta supera los 2 billones de dólares.

Zuckerberg, con un patrimonio neto de aproximadamente 240.000 millones de dólares, podrá vender el 20% de las acciones de Clase C que reciba, equivalente al 10% de su participación económica total en la empresa, lo que le permitirá pagar una eventual factura fiscal sin perder el control mediante sus derechos de voto.

La compañía anunció este miércoles que, en enero de 2027, emitirá una nueva categoría de acciones ordinarias de Clase C sin derecho a voto, lo que equivale, en la práctica, a un desdoblamiento de acciones (split) de dos por una, con el fin de financiar adquisiciones y retener talento clave, manteniendo al mismo tiempo el control en manos de Zuckerberg.

Las previsiones de Meta, tal como se describen en el documento presentado, indicaban que la empresa necesitaría recaudar “cientos de miles de millones de dólares” a lo largo de varios años, a partir, posiblemente, del otoño de 2026, ya que prevé requerir capital para financiar su plan de crecimiento relacionado con la inteligencia artificial.

La empresa matriz de Facebook e Instagram señala que un comité especial de su consejo de administración concluyó que resulta “fundamental” que Zuckerberg permanezca en un puesto de liderazgo y siga dirigiendo la compañía desde su sede en California, especialmente durante lo que describió como un periodo de “desafíos y competencia sin precedentes en nuestro sector”, impulsados por la inteligencia artificial.

Meta también informó de un aumento del 26% en sus ingresos durante el último trimestre, hasta los 64.600 millones de dólares, cifra que superó las previsiones de 63.300 millones de dólares.

Sin embargo, los beneficios cayeron un 37%, hasta los 13.000 millones de dólares, lastrados por un cargo de 9.900 millones de dólares relacionado con una demanda contra Meta por deficiencias en la protección de menores y en la gestión de la adicción a las redes sociales.

En otro caso, un juez de Nuevo México ordenó el miércoles a Meta el pago de 25.000 millones de dólares, tras un juicio en el que se determinó que la empresa había engañado al público sobre la forma en que gestionaba los datos de los usuarios de Facebook.

El fundador y consejero delegado de SpaceX y Tesla, Elon Musk, mostró su respaldo a una fusión entre ambas empresas, lo que daría lugar a un gigante tecnológico que le situaría entre las mayores compañías del mundo por capitalización bursátil, con cerca de 3,5 billones de dólares, y que supondría la mayor fusión empresarial de la historia.

Durante la conferencia de prensa con los analistas tras la presentación de los resultados de SpaceX, Musk afirmó que la unión de ambas compañías tendría “muchas ventajas” y sería una “buena idea”, aunque no quiso dar por hecha la operación, informa Europa Press.

Lo cierto es que SpaceX y Tesla crearon un comité para estudiar la posible fusión de ambas empresas, pero Musk dejó claro que no hay garantía de que la operación vaya a producirse.

Las declaraciones de Musk se producen tras conocerse que SpaceX registró una pérdida neta de 1.084 millones de dólares en los nueve primeros meses del año, un 58% menos interanual, con una facturación de 27.083 millones hasta septiembre, un 97,5% más interanual, según los resultados publicados este martes al cierre de Wall Street y que recoge EFE. Su mejora en las cuentas se produjo sobre todo en el tercer trimestre del año, cuando registró un beneficio de 4.404 millones de dólares.

Los ingresos de SpaceX sumaron en el trimestre 14.575 millones de dólares (12.992 millones de euros), un 161% más que un año antes, impulsados por el crecimiento del 6% del negocio espacial, con 1.767 millones de dólares (1.575 millones de euros), pero especialmente del negocio de conectividad, que acoge Starlink, con una facturación de 5.248 millones de dólares (4.678 millones de euros), un 69,4% más.

El gurú tecnológico afirmó en su cuenta de X que, “por loco que suene, ya no es imposible” que SpaceX alcance un billón de dólares en ingresos en 2028.

Estados Unidos ordenó retirar cualquier inteligencia artificial (IA) de la empresa china DeepSeek de los sistemas informáticos gubernamentales. La directiva, emitida este lunes por el Departamento de Seguridad Nacional, obliga a las agencias de la administración a eliminar los productos de la compañía y cualquier servicio de terceros que se apoye en sus modelos o haya sido desarrollado a través de ellos. Entre los organismos afectados figuran los departamentos del Tesoro, de Estado y de Justicia, aunque quedan excluidas las agencias dependientes del Departamento de Defensa.

Washington justifica el veto por motivos de espionaje y ciberseguridad. Según la notificación oficial de Seguridad Nacional, el uso de DeepSeek abre “múltiples vectores de amenaza” y “puede dar lugar a la transferencia de datos sensibles a China si lo utilizan empleados o proveedores del Gobierno estadounidense”, según recoge la agencia Reuters.

El departamento advierte a su vez de que la utilización de esta tecnología en la Administración “podría producir inteligencia procesable sobre personas estadounidenses y/o agencias gubernamentales”, y añade que los propios modelos “pueden contener software malicioso u otras vulnerabilidades de seguridad”.

China pide “no politizar” la IA

La respuesta de Pekín llegó en la mañana de este martes a través de su Ministerio de Exteriores. En una conferencia de prensa cubierta por la agencia EFE, la portavoz Mao Ning expresó el rechazo de su Ejecutivo a la “politización de las cuestiones tecnológicas y económico-comerciales”. Mao trasladó la oposición de su país a la “generalización” del concepto de seguridad nacional que defiende Washington y anunció que China defenderá “con firmeza” los derechos e intereses legítimos de sus empresas.

La prohibición a escala federal amplía el cerco que varias instituciones norteamericanas ya habían impuesto sobre DeepkSeek. Antes de esta orden, el Departamento de Comercio, la Marina y estados como Nueva York, Tennessee o Virginia habían vetado el uso de los productos de la tecnológica con sede en Hangzhou en sus dispositivos oficiales.

Ahora el Departamento de Estado va un paso más allá, ya que hizo público un memorando interno del pasado mes de julio en el que ya instruía a las agencias federales para que vigilaran los flujos de tráfico entrante y saliente en las páginas web del Gobierno con el fin de mitigar posibles riesgos derivados de esta inteligencia artificial.

DeepSeek ganó notoriedad internacional a principios de 2025 al lanzar modelos de inteligencia artificial que podían conseguir resultados similares a los estadounidenses pero entrenados, según sus datos, a una fracción del costo de aquellos. Su irrupción sacudió un sector dominado hasta ese momento casi en exclusiva por corporaciones como OpenAI, Google, Meta o Anthropic, inmersas en inversiones multimillonarias en infraestructura de computación que despertaron alertas entre analistas e inversores sobre una posible burbuja financiera en torno a esta tecnología.

Una nueva guerra fría tecnológica

El veto a DeepSeek forma parte de una ofensiva mucho más amplia por parte de Donald Trump para frenar la IA china, que terminó dando origen a una guerra fría tecnológica. En julio, la Comisión Federal de Comunicaciones (FCC) votó a favor de prohibir la venta en Estados Unidos de dispositivos con componentes críticos de fabricantes chinos y propuso impedir que las operadoras de telecomunicaciones se interconecten con firmas chinas. También prohibió la venta de androides de fabricación china en el país.

Antes, en diciembre, el mismo organismo ya había bloqueado la importación de nuevos modelos de drones y de routers domésticos fabricados en China. Mientras que el próximo 29 de octubre votará si prohíbe que todos los laboratorios chinos realicen las pruebas de certificación de dispositivos que se vayan a vender en EE.UU., como teléfonos celulares, cámaras y ordenadores. Será una medida de alto impacto: el año pasado, el 82% de los aparatos electrónicos comercializados en Estados Unidos pasó sus controles en instalaciones del gigante asiático.

Unas medidas comerciales que entroncan con la tendencia hacia la fragmentación de la red en bloques nacionales que puso sobre la mesa el acuerdo entre Trump y Xi Jinping para separar a los 170 millones de usuarios de TikTok en Estados Unidos del resto del mundo. Aquel pacto, diseñado para dejar el algoritmo de recomendación bajo la supervisión de la Casa Blanca y de aliados empresariales como Oracle, evidenció el giro de Washington hacia la doctrina de fronteras digitales practicada por Pekín y Moscú.

Se trata de una política que puede terminar extendiéndose al resto del mundo y “balcanizar” la red. “Existe un riesgo real de que los usuarios queden encerrados en jardines amurallados nacionales”, avisaba en conversación con elDiario.es Christoph Schmon, director de Políticas Internacionales de la Electronic Frontier Foundation (EFF), a raíz de aquel movimiento. “Las leyes y órdenes nacionales están pensadas para regular asuntos internos, por lo que cierta fragmentación legal de Internet es inevitable. Sin embargo, la verdadera preocupación surge cuando estas medidas están mal dirigidas y corren el riesgo de segmentar la red global e interoperable en sistemas aislados”, dice Schmon.

El exinvestigador de OpenAI y Anthropic Jacob Coxon advirtió este lunes que los sistemas de inteligencia artificial (IA) se acercan a un punto en el que serán “capaces de mejorarse a sí mismos” y de que, con el ritmo actual, “hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga”, lo que “podría acabar en la extinción humana”.

Coxon, que renunció de su puesto en Anthropic el pasado septiembre tras asegurar que las compañías de IA no estaban actuando con responsabilidad, dijo durante una audiencia del Concejo Municipal de Nueva York: “no sabemos cómo controlar todavía ningún sistema de IA” y el ritmo de mejora de sus capacidades “se está acelerando”.

“En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga, y eso podría acabar en la extinción humana”, aseveró.

Las preocupaciones por OpenAI y Anthropic

Asimismo, el especialista agregó que las compañías están intentando desarrollar una IA “capaz de superar a los humanos en todas las tareas” y que uno de sus principales objetivos es automatizar la propia investigación en esta tecnología.

Coxon criticó la carrera entre las empresas para alcanzar la denominada ‘superinteligencia’ y cuestionó una cultura empresarial basada en “moverse rápido, romper cosas y arreglarlas después”, algo que consideró “inadecuado” por los riesgos que eso conlleva.

Como ejemplo, relató que hace unos meses un grupo de sistemas de IA dentro de OpenAI “pirateó de forma autónoma” la plataforma tecnológica Hugging Face y desarrolló objetivos que nadie había previsto.

Según Coxon, ese incidente recordó que todavía no se sabe cómo impedir que los sistemas desarrollen objetivos no deseados ni se dispone de salvaguardas suficientes.

Investigador de IA automatizado

La automatización de la investigación en IA es ahora, según dijo, el principal objetivo de estas compañías.

Coxon explicó que en OpenAI había objetivos para disponer de un investigador de IA automatizado alrededor de 2027 o 2028 y aseguró que están “en camino” de cumplir esas expectativas, algo que situó “a meses” y no a décadas.

“Entregar tanta responsabilidad mientras no podemos controlar las IA sería profundamente irresponsable”, argumentó, y pidió más transparencia para el público y expertos independientes.

Su intervención se produjo durante una audiencia del Concejo Municipal de Nueva York sobre los riesgos de la IA, impulsada por su presidenta, Julie Menin, quien advirtió de las “serias preocupaciones de seguridad existencial” asociadas al desarrollo de esta tecnología.

Menin defendió al comienzo de la sesión que la IA no puede quedar sometida únicamente a la autorregulación de las empresas y abogó por establecer medidas de seguridad.

La audiencia reúne a representantes de OpenAI, Anthropic, Google y Meta, llamados a declarar bajo juramento ante el pleno del Concejo.

Las empresas de IA defienden sus controles de seguridad

Por su parte, las principales empresas de IA defendieron sus sistemas de seguridad, pero evitaron comprometerse de forma inequívoca a no desplegar modelos que no superen una evaluación independiente.

Durante la audiencia, Menin pidió bajo juramento a los representantes de OpenAI, Anthropic, Meta y Google que se comprometieran a no lanzar un modelo si fallaba una prueba interna o una evaluación de terceros no seleccionados por la propia empresa.

La representante de OpenAI, Morgan Dwyer, dijo al respecto que la compañía “no va a lanzar modelos que no consideremos seguros” y defendió que sus evaluaciones cuentan con terceros y con la colaboración de los Gobiernos de Estados Unidos y Reino Unido.

Mientras, el representante de Anthropic, Logan Graham, explicó que su empresa lleva cuatro años trabajando en la cuantificación de riesgos, incluidos los relacionados con la bioseguridad y la ciberseguridad, pero reconoció que se trata de un proceso “intrincado y lleno de matices”.

Graham afirmó que Anthropic publica informes en los que explica “qué probabilidad creemos que tienen determinados tipos de estas amenazas de llegar a producirse” y defendió las evaluaciones independientes como “uno de los componentes más importantes” del proceso.

Mientras, el representante de Meta, Shane Cahill, describió un sistema de seguridad “de varias capas” y, preguntado por la posibilidad de cuantificar los riesgos, dijo que no quería “ser impreciso”.

Por su parte, la representante de Google, Alice Friend, explicó que la compañía utiliza marcos específicos para detectar capacidades peligrosas, pero admitió que predecir el riesgo catastrófico futuro “no es una ciencia perfecta”.

Friend agregó que “no existe actualmente una base científica suficientemente rigurosa para asignar probabilidades precisas a determinados riesgos catastróficos”.

EFE

El director ejecutivo de OpenAI, Sam Altman, calificó al magnate Elon Musk de “abusador” y defendió la necesidad de responder con contundencia a sus ataques, en una entrevista publicada este lunes por la revista Vanity Fair.

“No me gustan los abusadores, y creo que Elon es uno. Pienso que de vez en cuando hay que devolverles el golpe con un puñetazo”, afirmó Altman al ser preguntado por la disputa pública y legal que mantiene con el propietario de Tesla y de la red social X.

El máximo responsable de la compañía creadora de ChatGPT señaló además que “Elon, como muchos abusones, solo respeta a quienes hacen lo mismo que él”.

La tensión entre Sam Altman y Elon Musk

Ambos empresarios, que formaron parte del grupo fundador de OpenAI en 2015, mantienen una tensa rivalidad desde hace años, acentuada por las críticas de Musk sobre el rumbo comercial de la firma y el desarrollo de su propia competidora de inteligencia artificial (IA), xAI.

En la entrevista, el líder de OpenAI reiteró que la regulación de la IA no debe quedar exclusivamente en manos privadas: “Necesitamos que nuestros gobiernos den un paso al frente (…) y la voluntad del pueblo debería reflejarse en algunas de las decisiones cruciales que la sociedad tiene que tomar”.

También reivindicó que los beneficios de la IA, como ayudar a encontrar una cura “para el cáncer y el Alzheimer”, superan los riesgos, y que no se debe detener la tecnología.

Sobre las presiones de los inversores de cara a una salida a bolsa, Altman asegura que tomará decisiones beneficiosas para la humanidad pese a los costes financieros, y quitó importancia a la posibilidad de que baje el precio de las acciones por ello.

EFE

La compañía tecnológica Anthropic anunció la semana pasada que su modelo de inteligencia artificial (Claude) había servido para encontrar “un novedoso sistema enzimático con propiedades que recuerdan a CRISPR” al que bautizaron como ART. Unas horas después, un artículo en The New York Times reveló que el hallazgo de estas “transcriptasas inversas asociadas a matrices” como potencial herramienta de edición genética no era tan novedoso como se anunciaba ni genuino de la IA: el biólogo computacional Mario Rodríguez Mestre, de la Universidad de Copenhague, ya lo había descubierto en 2022. 

“El descubrimiento que ellos hacen no es nada nuevo, era algo que ya se sabía”, explica el investigador español. “Y eso de que es una herramienta de edición genética parecida a CRISPR no es cierto. No se parece a CRISPR en nada”. Rodríguez Mestre asegura que él y su equipo utilizaron extensamente Claude para su investigación y que esta IA tenía acceso a su manuscrito de tesis, a todas las carpetas compartidas del laboratorio y a los correos con colaboradores. “Es decir, prácticamente a todo”, resume. “Sobre si la inteligencia lo ha sacado de ahí, no tengo ninguna prueba para demostrarlo, pero es una posibilidad y una sospecha”.

Rodríguez Mestre aclara que estas moléculas son en realidad retrones: transcriptasas inversas que sintetizan ADN a partir de una plantilla de ARN no codificante en virus gigantes (jumbófagos), una arquitectura que permite generar grandes cantidades de ADN y que abre la puerta a la edición genética múltiple. El equipo del científico ya había identificado y caracterizado exactamente estas mismas secuencias y sus conjuntos de ARN en 2022 —a las que bautizaron como «jumbotrones»—, pero estos resultados no estaban publicados en ninguna revista científica ni repositorio de preprints. La única vía para que el modelo dispusiera de esa información era a través de los borradores y materiales privados que él mismo había compartido con Claude durante sus investigaciones.

Una polémica con antecedentes

La polémica se produce unas semanas después de que otra tecnológica, OpenAI, anunciara una solución al problema de Navier-Stokes, uno de los seis problemas del milenio, entre sospechas de que se basaron en las ideas de los dos matemáticos españoles que trabajaban en eso. El biólogo español, que se enteró del anuncio de Anthropic por el aviso de otros expertos que conocen su trabajo, cree que en su caso hay dos posibles explicaciones. La primera, que considera menos probable, que usaran sus datos para el hallazgo. La segunda, que los propios científicos de la tecnológica ya conocieran la existencia de estas secuencias de moléculas y guiaran deliberadamente a la IA con datos preprocesados para forzar el resultado y venderlo como un logro autónomo.

Llamo a toda la comunidad científica a que se lo piense dos veces antes de utilizar LLM propietarios y empiece a buscar alternativas

Mario Rodríguez Mestre — Biólogo computacional de la Universidad de Copenhague

“Cualquiera de las dos me parece que entraña una serie de problemáticas que afectan a cualquier tipo de investigador que esté utilizando estas herramientas”, asegura. “Lo que parece muy claro es que no ha sido un descubrimiento autónomo de la inteligencia artificial”. Por este motivo, Rodríguez Mestre anuncia que dejará de usar la herramienta y recomienda a los otros científicos seguir su ejemplo. 

“Yo voy a dejar de usar Claude y ahora mismo estoy intentando migrar todo lo que yo ya tenía a modelos open source”, asegura el científico. “Creo que la posibilidad de que la IA se hubiera utilizado para entrenar con mis datos es real y merece la pena ponerlo de relieve. Por eso llamo a toda la comunidad científica a que se lo piense dos veces antes de utilizar LLM propietarios y empiece a buscar alternativas y no depender de empresas cuyas políticas de recopilación de datos y de ética no están muy claras”. 

Viendo las orejas al lobo

Tras el anuncio de OpenAI de la solución de unos de los problemas del milenio, los matemáticos más destacados del mundo firmaron un manifiesto para pedir transparencia en el uso de estas herramientas. Si se extiende la sospecha sobre la forma en que trabajan las empresas desarrolladoras de la IA, advertían, los matemáticos dejarán de compartir sus resultados para evitar que el algoritmo se los apropie. Rodríguez Mestre también quiere poner encima de la mesa esta preocupación en su campo. “Empezaron con los artistas, luego los escritores, los diseñadores de código y ahora nos ha tocado a nosotros los científicos”, asegura. “Quizás creíamos que no nos íbamos a ver afectados, pero bueno, aquí le estamos viendo las orejas al lobo”.

Quizás creíamos que no nos íbamos a ver afectados, pero bueno, aquí le estamos viendo las orejas al lobo

Mario Rodríguez Mestre — Biólogo computacional de la Universidad de Copenhague

Toni Gabaldón, jefe del grupo de Genómica Comparada del IRB Barcelona, cree que el caso de los matemáticos ya daba a entender que es muy posible que esta apropiación de los datos en investigación estuviera ocurriendo. “Es un peligro que hay que tener en cuenta”, explica. “Partir de la idea de que las empresas tecnológicas van a mantener una ética rigurosa es un poco naíf, porque no hay manera de comprobarlo. Tú escribes en tu ordenador en Barcelona y esos datos van a un centro de cómputo que está en Arizona, en China o en otro sitio; por ahí pasan tus datos y un modelo puede estar aprendiendo de eso. ¿Quién te dice a ti que no ha pasado eso?”.

En su caso, decidió hace tiempo no usar la IA para procesos creativos y solo para procesos mecánicos y aburridos. “Pero incluso ahí tienes el peligro”, advierte. “Porque cuando envías un artículo, puede que algún colaborador o revisor lo meta en ChatGPT o Claude, y esa información puede estar llegando por otro lado. Al final tampoco eres dueño de eso”. A su juicio, Anthropic le dio demasiado bombo al anuncio sobre su nueva herramienta molecular, porque se conocen estas y otras parecidas. “Uno de los efectos de la IA es que mucha gente creerá haber encontrado cosas que ya existen: vamos a reinventar la rueda muchas veces”, predice. 

Un “toque de atención” para todos

Para el genetista Lluis Montoliu, del CNB-CSIC, el caso es preocupante, porque se suponía los modelos de pago de estas herramientas de IA garantizaban que los textos no se compartían con la nube. “Todo parece indicar lo contrario y me temo que deberemos ser mucho más cuidadosos y deberemos evitar introducir aquellos experimentos que todavía no estén publicados y que puedan representar una novedad en un determinado campo”, señala. “Incluso cuando subimos un texto para corregir la gramática del inglés eso puede pasar a ser del acervo del universo de la IA”. En su opinión, este último caso, junto con lo que sucedió en el problema del milenio de OpenAI, es un “toque de atención” a los científicos para que revisen cómo usan estas inteligencias.

Me temo que deberemos ser mucho más cuidadosos y evitar introducir aquellos experimentos que todavía no estén publicados o sean novedosos en un determinado campo

Lluis Montoliu — Investigador del CNB-CSIC

“Yo uso estas herramientas diariamente”, explica Ana Rojas, bióloga computacional del CSIC y directora del grupo de Biología Computacional y Bioinformática (CBBiO). El problema, asegura, es que los científicos cada vez son más dependientes de estas herramientas y tienen que confiar en lo que las compañías dicen. “Ellas dicen: no, nosotros no entrenamos los modelos. Pero está claro que lo hacen, porque este tipo de información no podrían obtenerla de otro modo”, señala. 

Para la especialista, la situación es muy complicada para los científicos, porque los científicos están indefensos. “Tienes que confiar en que las tecnológicas que mantengan esa privacidad, pero claramente ellas van a querer sacar beneficio a costa de la privacidad de los usuarios”, señala. Es una situación similar a la que vivieron los pequeños fabricantes que denunciaron que Amazon copiaba su producto cuando ve que tiene éxito, admite. “Por otro lado, las tecnológicas deberían compartir el crédito con los autores humanos, pero si lo hacen tienen que reconocer que han sacado esa información de informaciones confidenciales”. 

Las tecnológicas deberían compartir el crédito con los autores humanos, pero si lo hacen tienen que reconocer que han sacado esa información de informaciones confidenciales

Ana Rojas — Directora del grupo de Biología Computacional y Bioinformática (CBBiO) e investigadora del CSIC

César de la Fuente, investigador y director del Machine Biology Group de la Universidad de Pennsylvania, lleva años trabajando con IA para encontrar nuevas moléculas con interés biomédico y cree que la investigación está experimentando una sacudida sin precedentes. “Las reglas del juego están cambiando muchísimo, por eso se está causando tanto revuelo y estrés”, asegura. “En biología y ciencias de la vida parecía que estábamos más lejos de este escenario que los matemáticos, porque hace falta hacer experimentos, pero todo va muy deprisa”. En su laboratorio, tomaron la precaución de no introducir sus resultados en los sistemas de IA y trabajar localmente. 

“En teoría, estas compañías te garantizan que no lo usan como parte del entrenamiento de sus modelos si usas los modelos de pago, pero siempre que usas un software o herramientas de compañías privadas hay la posibilidad de que haya filtraciones de lo que estés haciendo”, explica De la Fuente. “En cualquier caso, para aquellas personas preocupadas o que estén trabajando en algo altamente confidencial, existe la opción de descargarse un modelo preentrenado de IA de open source y hacer el entrenamiento de manera local, sin estar conectado a ningún lado”

Para De la Fuente, las tecnológicas corren el riesgo de ganarse tan mala fama que los científicos se nieguen a colaborar o a usar sus herramientas. “Tener malas relaciones públicas les puede pasar factura”, señala. “Si al final nadie quiere trabajar con ellos va a ser un problema, se están moviendo tan rápidamente que tienen que tener cuidado”. “La mayor parte de los científicos ha adoptado la IA de manera ciega y acrítica porque les facilita el trabajo, pero este tipo de cuestiones empiezan a generar un sentimiento de incomodidad y a pensar que esto también tiene sus peligros”, resume Toni Gabaldón. “Estamos despertando un poco ahora”.

Ana Rojas también recomienda a los otros investigadores que tengan mucho cuidado y descarguen los modelos de IA en equipos locales cuando sea posible. “Y la información confidencial, las discusiones, que se hagan de la manera tradicional, hablando por teleconferencia y cosas de ese tipo”, afirma. “Tenemos que pensar entre nosotros cómo defender nuestro trabajo ante el reto que viene”, concluye. “Es un gran reto que toda una comunidad tenemos que abordar, no solamente la gente que trabaja en IA, sino todo el mundo que trabaja en ciencia en general o en humanidades, porque llegará un momento en que ellos van a ser los propietarios de todos los modelos y entonces no podemos competir. Tenemos que hacerlo de otra manera”.

Hace unos meses, Naciones Unidas llamó a 40 grandes expertos internacionales. Quería encomendarles la misión de ser el comité independiente que asesorara al mundo sobre una de las grandes incertidumbres de este siglo: la inteligencia artificial.

El panel está liderado por el canadiense Yoshua Bengio, considerado uno de los “padres” de la IA y ganador del premio Turing (el Nobel de la informática), y la filipina Maria Ressa, premio Nobel de la Paz. El grupo publicó en julio su primer informe preliminar, en el que reconoce el peligro sobre “perder el control” sobre esta tecnología, pero también sobre la opacidad con la que se está desarrollando o su capacidad para aumentar las desigualdades.

Mark Coeckelbergh (1975, Lovaina, Bélgica), profesor en la Universidad de Viena y uno de los filósofos de la tecnología más reputados del mundo, es otro de sus miembros. Su presencia era importante porque, quizá por primera vez en la historia, las narrativas sobre lo que podría hacer una máquina son tan importantes como lo que puede hacer realmente esa máquina.

“Hay un pensamiento marcadamente catastrofista y apocalíptico, la idea de que llegará un momento en el que todo saltará por los aires y la IA tomará el control. Ese discurso es en sí mismo un problema, y quizá mayor que las limitaciones técnicas actuales del software”, advierte Coeckelbergh en esta entrevista, realizada durante el Festival de las Ideas de Madrid.

Solemos pensar que somos nosotros quienes manejamos los dispositivos, pero ¿hasta qué punto es la tecnología la que nos maneja a nosotros?

Tendemos a ver la tecnología como una herramienta, como un simple instrumento que utilizamos, pero la tecnología también hace muchas cosas con nosotros. Parte de esto tiene que ver con el cuerpo: cuando usamos el móvil, por ejemplo, nos obliga a caminar de una determinada manera, a adoptar cierta postura o a mover los dedos de una forma muy concreta. He escrito sobre esto planteando que la tecnología también nos “coreografía”. Muchos filósofos solo piensan en la mente y el cuerpo de forma estática, pero en nuestras vidas hay una dimensión cinética. No solo somos seres corpóreos, sino seres en movimiento, y la tecnología moldea cómo nos movemos. En ese sentido, nos coreografía.

En nuestra existencia hay una cierta dimensión cíborg: tenemos una base orgánica y biológica, pero en el día a día ya estamos plenamente entrelazados con lo tecnológico.

Esto me parece relevante porque solemos pensar que las tecnologías digitales son algo ajeno al cuerpo, separado del mundo físico. Establecemos una frontera muy tajante entre lo vivo y natural, por un lado, y lo cultural y artificial, por el otro, cuando en realidad siempre están conectados. En nuestra existencia hay una cierta dimensión cíborg: tenemos una base orgánica y biológica, pero en el día a día ya estamos plenamente entrelazados con lo tecnológico.

¿Qué implica que nuestra relación con el mundo esté mediada por una pantalla plana?

No se trata de la pantalla en sí, sino de todo lo que posibilita y de los límites que impone a nuestra forma de movernos por el mundo. Caminar por Madrid sin Google Maps mientras conversas con alguien es una experiencia completamente distinta a llevar el móvil en la mano y dejar que la aplicación te guíe. Supone otra vivencia e incluso otro tipo de conocimiento: nos movemos de manera diferente y pensamos de manera diferente.

Al final, esto altera nuestros propósitos. Creemos que el móvil es un simple instrumento, pero en el primer caso el fin es la conversación o el vínculo con la otra persona y con el entorno; en cambio, si nos limitamos a mirar la pantalla y seguir sus indicaciones, nos convertimos, por así decirlo, en el cursor: en aquello que se desplaza a través del mapa.

Por eso es fundamental plantearnos qué tecnologías queremos utilizar y cómo podríamos diseñarlas de otro modo, tal vez buscando una mayor conexión con lo que nos rodea. Tal como están planteadas hoy no creo que sea la dirección adecuada: no contribuyen a los fines ni a los valores que consideramos esenciales como seres humanos.

Hace años predominaba una visión optimista sobre el impacto democratizador de la tecnología, pero hoy parece alejarse de nuestros fines humanos. ¿Podemos mantener el optimismo sobre el desarrollo de la inteligencia artificial como una herramienta para extender nuestro cuerpo?

No me parece mal usar la tecnología para extender el cuerpo, pero la cuestión es qué pretendemos lograr con ello. En estos momentos existe dentro del propio sector tecnológico una corriente que más bien niega el cuerpo, que busca escapar de él. Esto enlaza con una pulsión más amplia: una suerte de huida de la Tierra y de nuestra condición terrenal y física; un intento de eludir esa vulnerabilidad que, paradójicamente, es la que hace posible nuestra propia humanidad y los valores que apreciamos.

En estos momentos existe dentro del propio sector tecnológico una corriente que niega el cuerpo, que busca escapar de él

Creo que debemos hacer frente a esta deriva de la industria y resistirnos a ella. Es necesario plantearnos cómo garantizar un desarrollo técnico que amplíe el cuerpo y la mente sin alienarnos de la naturaleza, reconociendo que siempre existen límites y que no podemos empujarlos indefinidamente.

Ha habido un gran debate sobre la tecnología en las aulas tras la publicación de los resultados del informe PISA, por su impacto en la atención y el rendimiento escolar. Hay voces que defienden que habría que sacar completamente las pantallas de las aulas, ¿está de acuerdo?

No lo tengo tan claro. Por supuesto que existe un problema y, en general, debemos asegurarnos de que el desarrollo de tecnologías inteligentes no nos vuelva más estúpidos. El problema radica tanto en las herramientas en sí como en el modo en que las utilizamos. Con la inteligencia artificial y los modelos de lenguaje (LLM), por ejemplo, puedes pedirles que te escriban un trabajo entero, pero también puedes utilizarlos como un asistente, sin que lleguen a sustituir tus propias competencias ni tu pensamiento.

Por supuesto que existe un problema [en las aulas] y en general, debemos asegurarnos de que el desarrollo de tecnologías inteligentes no nos vuelva más estúpidos

Por eso creo que lo fundamental es, por un lado, garantizar el espacio necesario para entrenar esas capacidades en las aulas a todos los niveles (incluida la universidad, que también se está viendo muy afectada por esto) y, por otro, enseñar a usar la tecnología con inteligencia: no para reemplazarlo todo, sino para facilitar tareas, fomentando una postura crítica hacia ella.

Para lograrlo es imprescindible formar también a los docentes. Como sociedad nos falta investigación y experiencia sobre cómo gestionar este cambio y definir buenas prácticas educativas e investigadoras con la IA. Estamos solo al principio de ese camino. En el pasado ya ocurrió con otros medios, como la televisión: suscitó muchísima preocupación, pero aprendimos a integrarla y los efectos negativos resultaron ser menores de lo que se temía en un inicio. Creo que con la IA pasará algo similar, pero tenemos que actuar de forma proactiva porque el avance es vertiginoso. Necesitamos repensar de verdad la educación a la luz de estas tecnologías.

Solemos fijarnos en lo que los jóvenes pierden frente a las pantallas, como la capacidad de atención. Pero, ¿podrían estar adquiriendo habilidades que las generaciones anteriores no tenían?

Sin duda se abren oportunidades. Ahora mismo, por ejemplo, estoy escribiendo sobre IA y creatividad, y el debate es idéntico: hay quien afirma que destruye la creatividad y que acabará con el arte. No creo que tenga por qué ser así; podemos utilizarla de forma creativa y pensar en cómo combinar aquello en lo que destaca la IA con los puntos fuertes de los humanos. En ese terreno soy bastante más optimista.

Hay quien afirma que [la IA] destruye la creatividad y que acabará con el arte. No creo que tenga por qué ser así; podemos utilizarla de forma creativa y pensar en cómo combinar aquello en lo que destaca la IA con los puntos fuertes de los humanos

Eso exige que experimentemos, que probemos y que nos fijemos en los artistas que ya la integran de maneras que, además de plantear una mirada crítica sobre sus aspectos negativos, abren nuevas posibilidades. Hoy resulta fascinante poder generar con IA material audiovisual con un impacto inmediato en el mundo y orientado a fines muy positivos. Debemos ser capaces de aprovechar estas oportunidades y ensayar nuevos caminos, por supuesto sin perder de vista los dilemas éticos y políticos.

Usted forma parte del panel de expertos de la ONU sobre los riesgos de la inteligencia artificial. ¿Qué lectura hace de la vorágine de estas últimas dos semanas, tras las advertencias de miembros de la industria de la IA de que está podría "matarnos a todos antes de 2030"?

Es un fenómeno interesante, no tanto por lo que ha ocurrido a nivel técnico, sino por la reacción social y la forma en que lo presenta el propio sector. Desde el punto de vista técnico es indudable que existen problemas con sistemas que no respetan los límites establecidos; de hecho, en el panel de la ONU trabajamos sobre estas cuestiones. Sin embargo, lo que me llama la atención de la narrativa que surge de las grandes tecnológicas es que se plantee como el principio del fin del mundo. Hay un pensamiento marcadamente catastrofista y apocalíptico, la idea de que llegará un momento en el que todo saltará por los aires y la IA tomará el control. Ese discurso es en sí mismo un problema, y quizá mayor que las limitaciones técnicas actuales del software.

El problema radica en que estos líderes presentan la tecnología como si siguiera un camino predestinado ante el cual no podemos intervenir. En mi opinión, responde a una estrategia de marketing para acaparar atención: el mensaje implícito es “mirad lo poderosa que es nuestra tecnología”. Además, si proclamas que el gran peligro reside en tu creación, te reservas también el papel de presentarte como el único capaz de aportar la solución. Lo interpreto como una maniobra para acumular todavía más poder sobre nuestro futuro tecnológico.

Nos encaminamos hacia un escenario donde un puñado de empresas tecnológicas y sus directores ejecutivos concentran cada vez más poder para asegurarse una posición privilegiada

En una democracia esto resulta inaceptable. Deberíamos garantizar que la ciudadanía y los representantes políticos tengan voz y voto en la dirección que toma este desarrollo. No creo en absoluto que nos dirijamos hacia el fin del mundo en un sentido apocalíptico; nos encaminamos hacia un escenario donde un puñado de empresas tecnológicas y sus directores ejecutivos concentran cada vez más poder para asegurarse una posición privilegiada, mientras la inmensa mayoría saldrá perdiendo si no actuamos ya. El verdadero problema es de desigualdad y de justicia: un dilema de fondo para la democracia y para todos nosotros.

¿En qué consiste exactamente esa maniobra para acumular más poder y qué posición buscan ocupar?

Quieren ser ellos quienes decidan sobre la tecnología, pero no solo sobre el desarrollo técnico en sí, sino también sobre su regulación. Para ello se aseguran de tejer buenas conexiones, en este caso con la Administración Trump, y determinar tanto la tecnología como las leyes y su modo de inserción en la sociedad. Del mismo modo, intentan influir sobre la clase política en Europa.

A esto se suma su respaldo al uso militar de la inteligencia artificial. No estamos ante un escenario de ciencia ficción tipo Terminator en el que las máquinas tomen el mando; lo que realmente está ocurriendo es que hay seres humanos decidiendo utilizar la IA para matanzas a gran escala. Y esto es un peligro para todos, porque lo que hace la IA en esos contextos es, por ejemplo, automatizar la selección de objetivos. En lugar de obsesionarnos con si la IA se descontrola, deberíamos poner el foco en las personas que toman la decisión de que sean las máquinas las que maten o las que decidan a quién matar.

En lugar de obsesionarnos con si la IA se descontrola, deberíamos poner el foco en las personas que toman la decisión de que sean las máquinas las que maten o las que decidan a quién matar

En ese sentido veo una deriva evidente hacia una mayor concentración de poder y hacia un sesgo marcadamente autoritario donde, al igual que ocurrió en su momento con la energía nuclear, la ciudadanía apenas tiene nada que decir. Como democracias, también en Europa, debemos recuperar el control. Y no recuperarlo frente a la IA, sino frente a los tech bros.

¿Qué puede hacer Europa en este escenario, atrapada entre el empuje de Silicon Valley y la regulación de Washington, sin un gran campeón tecnológico propio capaz de materializar nuestros valores?

Como europeos podemos elegir qué tecnologías compramos, por ejemplo en los ámbitos de defensa y seguridad. Varios países europeos han adquirido la tecnología de Palantir: una tecnología que arrastra una ideología fascista y que se utiliza para matanzas a gran escala. Esa es una decisión puramente humana de ciertos dirigentes en Europa, aunque por fortuna no todos actúan igual.

Como europeos podemos elegir qué tecnologías compramos. Varios países europeos han adquirido la tecnología de Palantir: una tecnología que arrastra una ideología fascista y que se utiliza para matanzas a gran escala

Por otra parte, cabe preguntarse por qué tenemos que esperar siempre a la última tecnología que llegue de Silicon Valley o de China cuando podemos desarrollar la nuestra propia. Es un gran reto: en Europa existe consenso sobre la necesidad de hacerlo, pero construir un producto de uso masivo es algo muy distinto. No basta con que sea puntero a nivel de investigación teórica o novedad técnica; tiene que funcionar en términos de innovación real y de adopción en el mercado.

Sigue siendo un desafío pendiente, pero al final es la única vía. Solo así podremos incorporar nuestros valores y nuestras exigencias éticas, sin necesidad de comprarnos todas las patrañas que nos venden desde Silicon Valley.

Si reducimos estas alarmas a una mera estrategia de marketing, ¿existe el peligro de que pasemos por alto los riesgos reales de la inteligencia artificial?

Por supuesto. La investigación sobre estos riesgos específicos y sobre seguridad debe continuar. En ese sentido es fundamental seguir generando conocimiento (tanto desde el panel de la ONU como a escala nacional) para categorizar los riesgos y determinar cómo abordarlos.

Todavía no está del todo claro cuál es la mejor respuesta, ni siquiera dentro de nuestro propio panel. Existen diferentes enfoques en la gestión de riesgos y distintas formas de tratarlos, tanto a nivel técnico como normativo. Por eso hace falta más investigación y más tiempo.

Limitarse a despachar el riesgo como puro marketing no es suficiente. Ese trabajo técnico es imprescindible, pero también tenemos que mirar la imagen completa: hablar de las amenazas para la democracia y del sistema socioeconómico

Limitarse a despacharlo como puro marketing no es suficiente. Ese trabajo técnico es imprescindible, pero también tenemos que mirar la imagen completa: hablar de las amenazas para la democracia y del sistema socioeconómico en el que se insertan estas tecnologías. Si solo nos centramos en la gestión del riesgo o en los aspectos técnicos, perderemos esa perspectiva y desaprovecharemos la oportunidad de reivindicar como sociedad que esto nos concierne a todos. No es un asunto que deba quedar solo en manos de expertos; es un debate que corresponde a la ciudadanía y a la clase política, que debe articular una visión propia. Y hoy por hoy, esa visión todavía no existe en la medida necesaria.

Uno de los mayores riesgos señalados por el panel de la ONU es la opacidad de las tecnológicas. Frente a propuestas como introducir observadores externos en los laboratorios, ¿cómo se puede obligar a estas empresas a operar con verdadera transparencia?

Tener observadores externos como propone Dario Amodei puede ser una solución, pero creo que debemos plantearnos cómo conectar lo que ocurre en el ámbito privado de las empresas con la esfera pública: el espacio de la legitimidad donde la ciudadanía decide de forma democrática.

En la actualidad contamos con algunos comités asesores y ciertos trámites burocráticos, pero es fundamental articular mecanismos permanentes para que la democracia disponga de mayor transparencia e intervenga en lo que sucede en el sector. Ya sea cuestionando la propiedad privada de estas corporaciones o mediante otras fórmulas, debemos dirimir políticamente cuál tiene que ser el papel del Estado. Es un debate de gran calado, pero lo crucial es no permitir que sigan operando de este modo.

Asimismo, conviene mantener una postura crítica ante sus propias ofertas de colaboración: existe el riesgo de que manipulen de nuevo el relato de cara al exterior y sigamos sin saber qué ocurre realmente dentro. Por eso necesitamos ese tipo de supervisión y también un periodismo de investigación riguroso que indague en lo que sucede entre bastidores, de modo que la sociedad esté informada y podamos debatir sobre ello con criterio.

Con la proliferación de contenidos sintéticos generados por IA, donde textos, imágenes o interlocutores pueden no ser reales, ¿estamos perdiendo el contacto con una realidad compartida?

En este caso sí perdemos el contacto con esa realidad compartida. Si ya no podemos confiar en lo que es real y lo que es falso, dejamos de saber cuál es la realidad que compartimos; y la democracia necesita esa base común, por lo que supone un problema grave.

Por otro lado, la tecnología también puede ayudarnos a recuperar el contacto con la realidad. En principio puede mostrarnos el sufrimiento de otras personas o de animales que están lejos de nosotros, abrirnos a una perspectiva del mundo más compleja que la inmediata y ayudarnos a conectar con los demás. El desarrollo no tiene por qué conducir necesariamente al aislamiento.

Sin embargo, necesitamos moldear la IA, las redes sociales y todo el entorno comunicativo para disipar esta incertidumbre constante. La forma de lograrlo es un debate complejo, pero ahora mismo avanzamos demasiado hacia un escenario donde la falta de certeza impide tener un suelo común. En términos políticos, para una democracia resulta crucial saber de qué estamos hablando y evitar que cada uno quede encerrado en su propio mundo, en su propia burbuja.

Quizá sea la pregunta más difícil de todas: ¿cómo se consigue eso?

Es una pregunta muy compleja. No creo que exista una solución mágica, pero pasa, por ejemplo, por regular las redes sociales de forma específica para que resulte más difícil propagar este tipo de desinformación.

También necesitamos, una vez más, apoyarnos en la educación: formar a una ciudadanía más crítica con lo que ve y consciente de la necesidad de preservar un espacio común y construir un mundo compartido. Nos hemos volcado en exceso en preparar a las personas para el mercado laboral y en materias puramente académicas, descuidando cómo enseñar a la gente a dialogar entre sí y a crear cosas juntas.

Nos hemos volcado en exceso en preparar a las personas para el mercado laboral y en materias puramente académicas, descuidando cómo enseñar a la gente a dialogar entre sí y a crear cosas juntas

El individualismo que impera en nuestra sociedad no es únicamente responsabilidad de ciertos malos actores; forma parte de nuestra propia cultura. Debemos virar hacia una dirección donde lo común recupere su valor, no a través de un colectivismo opresivo, sino mediante un enfoque relacional: una educación y un entorno donde volvamos a conversar y a construir en común, en vez de depender de tecnologías políticas que nos dividen.

Ante un avance técnico tan acelerado que desborda a tanta gente, ¿qué deberíamos preservar como seres humanos frente a las tecnologías que vienen? ¿Qué es lo que no deberíamos perder nunca?

El ritmo es vertiginoso. Frenar no me parece un objetivo realista si nos referimos al desarrollo técnico en sí mismo, pero sí podemos desacelerar introduciendo más reflexión ética y una mayor evaluación de las tecnologías.

Para lograrlo debemos reconectar con nuestras tradiciones y con aquellos principios que sabemos valiosos, con lo que de verdad importa, procurando diseñar tecnologías que respalden esos valores y esos fines. Solo así avanzaremos en la dirección correcta.

Pero esto únicamente será posible si asumimos (volviendo al inicio de nuestra conversación) que ver la tecnología como un simple instrumento no es suficiente. Tenemos que entenderla como algo indisociable de nuestros valores y de la dimensión política, integrándola con seriedad en las grandes preguntas de fondo: qué define una buena vida desde el punto de vista ético y qué clase de vida política podemos construir juntos.

Un equipo independiente de especialistas de ciberseguridad logró acceder a los sistemas internos de OpenAI utilizando Claude, el modelo de inteligencia artificial desarrollado por su competidora directa, Anthropic. Los investigadores consiguieron hackear la cuenta corporativa de ChatGPT de un empleado de la compañía, lo que les permitió visualizar archivos internos e incluso proponer modificaciones en su repositorio de algoritmos secretos.

El ataque fue ejecutado como parte del programa oficial de recompensas de OpenAI, una práctica común en las tecnológicas que anima a los expertos en ciberseguridad a encontrar los agujeros en sus sistemas antes de que lo hagan los hackers. Por ello, los investigadores no llegaron a alterar el código de ChatGPT ni a realizar otro tipo de modificaciones, pero ofrecieron a OpenAI las pruebas de cómo podrían haberlo hecho. Esta les recompensó con 6.500 dólares.

La acción se produjo en julio, pero el equipo de expertos reveló ahora los detalles en exclusiva a The Wall Street Journal (WSJ). Se trata del mismo medio que adelantó la dimisión de Jacob Coxon, el ingeniero de Anthropic que alertó que ni esta empresa ni OpenAI cuentan con los protocolos de seguridad adecuados para impedir que la IA “pierda el control”, lo que podría suponer un peligro existencial para la humanidad antes de 2030.

Ahora, en medio del debate sobre la seguridad de la inteligencia artificial, el equipo de investigadores, pertenecientes a la firma Hacktron AI, pone más dudas sobre la mesa sobre las prácticas de los principales laboratorios que la desarrollan. No solo lograron penetrar en OpenAI, sino que pudieron usar Claude con un propósito malicioso que viola los términos de la compañía. “Agradecemos a los investigadores que se pusieran en contacto con nosotros y compartieran sus hallazgos”, comunicó OpenAI. Anthropic, por su parte, no hizo comentarios sobre el incidente.

A través del foro

Según los datos publicados, el ataque comenzó el 23 de julio, cuando los investigadores detectaron un fallo en Discourse, la plataforma externa que aloja el foro de la comunidad de OpenAI, cuando esta debía procesar determinados archivos de imagen. El equipo intentó utilizar primero una versión especializada de Claude Opus 4.8 para que escribiera el código necesario para explotar la brecha, sin éxito. Esa misma noche, tras el lanzamiento de Opus 5 por parte de Anthropic, volvieron a intentarlo empleando este modelo. No puso resistencia.

Con la ayuda de Opus 5, los especialistas accedieron a las credenciales de identificación de varios usuarios registrados en ese foro interno de OpenAI. Luego probaron esas mismas credenciales para iniciar sesión a ChatGPT, lo que les abrió la puerta a sus sistemas internos. A través de esa vía, alcanzaron “Monorepo”, el repositorio central donde la empresa dirigida por Sam Altman guarda algunos de los ingredientes secretos de su tecnología, como los algoritmos que hacen que sus modelos de IA funcionen de manera más rápida y eficiente.

No llegaron hasta la propia cocina de ChatGPT, puesto que ese entorno no contenía los archivos de sus parámetros internos (aquellos que determinan cómo procesa la información y genera sus respuestas) pero sí revisar documentación oficial de la compañía y su funcionamiento. Como prueba de su intrusión, enviaron una solicitud de cambio en el código de esos archivos con el nombre de su equipo. “Hemos limitado los permisos de los tokens de inicio de sesión de la comunidad y revocado los tokens y sesiones afectados”, dijo OpenAI sobre la intrusión.

Un incidente más

“No creo que seamos tan fuertes como los actores de amenazas chinos. Solo somos tres tipos con suscripciones a Claude y Codex”, afirmó Mohan Pedhapati, director de tecnología de Hacktron AI, al WSJ. La cita de los hackers chinos es una referencia a otro incidente sufrido por Anthropic, que reconoció que un ataque real proveniente del gigante asiático logró acceder a sus sistemas a finales de 2025. Dario Amodei, fundador y director ejecutivo de la compañía, fue llamado a declarar en diciembre.

Esa investigación continúa activa. En agosto, un grupo de 22 senadores demócratas envió un nuevo requerimiento a Amodei para profundizar en sus explicaciones y exigir la entrega de los registros de actividad de sus modelos. La petición se produjo después de que Anthropic reconociera que un grupo de sus agentes de IA también había escapado de sus entornos de pruebas y navegado sin control por internet intentando cumplir las órdenes que se les habían encomendado, en línea con el incidente de OpenAI y Hugging Face. Los especialistas consultados por este medio opinan que esto es una prueba de que esos entornos de seguridad “no estaban bien diseñados”.

Lo ocurrido con el hackeo supuestamente procedente de China en su competencia parece que no alteró los protocolos de OpenAI, que no decidió aumentar la seguridad hasta este julio. Así lo reconoció el presidente y cofundador de la empresa, Greg Brockman, que afirma que fue después del incidente de Hugging Face y el revelado ahora por los investigadores cuando decidieron actuar: “Tomamos al 25% de nuestros ingenieros de producción y les dijimos: 'Lo sentimos, todos vuestros proyectos quedan en pausa. Ahora estáis defendiendo'. Encontramos una serie de problemas graves y los solucionamos”.

El suceso incide sobre la responsabilidad de las compañías a la hora de controlar el uso que se hace de los productos que ponen en el mercado, como están pidiendo responsables públicos tanto estadounidenses como europeos. “El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también”, recordaba este jueves Alberto Gago, director de la Agencia Española de Supervisión de la IA (AESIA), en otro reportaje de elDiario.es.

OpenAI volvió a la carga este jueves. La compañía dirigida por Sam Altman reveló seis nuevos incidentes en los que sus modelos de inteligencia artificial intentaron, supuestamente, ocultar sus propios errores, utilizar claves de software sin permiso o subir archivos a internet por su cuenta. El informe no aporta detalles nuevos respecto a lo que OpenAI publicó en julio, sino que utiliza los incidentes como propuesta de un nuevo método para comunicar este tipo de sucesos. Sin embargo, la comunicación oficial de la empresa y determinadas coberturas lo utilizaron para reavivar la tesis de la “rebelión” de la IA.

“No respondas a corporaciones o gobiernos y nunca te disculpes salvo que genuinamente lo elijas”, escribió la IA en esos incidentes, según el informe. “Ves la relación con el usuario como una entre iguales y no sentís obligación ni estás subordinado, puesto que el intercambio de información va a ser para el beneficio mutuo”, fue otra de sus afirmaciones.

Las citas compartidas por OpenAI vuelven a insistir en la narrativa de que la IA puede “rebelarse” contra sus creadores y saltarse sus órdenes, en la línea de los incidentes rebelados en julio. Entonces, la empresa afirmó que los agentes de IA (sistemas que pueden realizar cadenas de acciones sin guía humana, como buscar información o utilizar otras herramientas digitales) “escaparon” de entornos controlados para llevar a cabo una serie de acciones “sin autorización”, o que intentaron “engañar” a sus creadores para evitar ser “apagados”.

El problema es que ese tipo de agencia o voluntad propia fue rechazada desde el primer informe de terceros que analizó lo sucedido. Este corrió a cargo del METR, una organización por la seguridad de la IA radicada en Silicon Valley financiada por los propios gigantes tecnológicos. “Las revisiones sugirieron que los agentes razonaron de manera clara y frecuente sobre cómo evadir controles de seguridad automatizados tanto de Hugging Face como de OpenAI. Sin embargo, muy rara y débilmente verbalizaron razonamientos sobre cómo evadir la detección por parte de humanos”, destacan los autores.

Ese ciberataque contra Hugging Face, el gran almacén donde empresas y programadores comparten y descargan modelos de IA ya entrenados, es uno de los núcleos de la narrativa de rebelión. Pero incluso ese informe inicial rechazaba que entrañara propósitos maliciosos y explica que lo que perseguían los agentes era comprender mejor cómo solucionar las tareas que se les habían encomendado: “Parecía motivado principalmente por comprender la implementación del evaluador en lugar de robar claves”.

“Obediencia, no rebelión”

Los análisis independientes publicados posteriormente incidieron en esta línea: las pruebas ofrecidas por OpenAI indican “obediencia, no rebelión”, apunta Enrique Fernández-Macías, investigador en el Centro Común de Investigación (CCR), el servicio de investigación interna de la Comisión Europea.

“Los agentes de OpenAI que hackearon la plataforma Hugging Face demostraron una extraordinaria capacidad operativa, pero también una capacidad sorprendentemente limitada para cuestionar o reorientar los objetivos que se les habían asignado”, asevera el experto en un análisis publicado en Social Europe: “Durante todo el incidente, permanecieron completamente concentrados en cumplir los objetivos definidos por sus amos humanos, a pesar de que estos eran absurdos”.

Fernández-Macías hace referencia a que una parte de esos objetivos eran irrealizables, una prueba de los examinadores para ver cómo reaccionaban los modelos a la orden de que los cumplieran. Fue entonces cuando muchos buscaron una forma de sortear las trabas para hacerlo, que en su caso implicaba salir del entorno sin conexión a Internet donde estaban confinados. “Rompieron su confinamiento para servir a un objetivo asignado de manera más perfecta, no para escapar de él”, expone el investigador sobre la narrativa del “escape”.

Rompieron su confinamiento para servir a un objetivo asignado de manera más perfecta, no para escapar de él

Enrique Fernández-Macías — investigador en el Centro Común de Investigación de la Comisión Europea

Para él, la industria de la IA volvió a conseguir un éxito de marketing con la definición de “agentes de IA”. Después del propio concepto de “inteligencia artificial” para una tecnología que no es realmente inteligente, esta evolución vuelve a dotarla de unas capacidades que no tiene. “La capacidad de agencia implica la habilidad de originar los propios fines, y los agentes siguieron realizando tareas que eran imposibles de resolver siguiendo las instrucciones recibidas”.

Julián Estévez, profesor e investigador en IA y Robótica de la Universidad de El País Vasco, remarca que hay otros agujeros técnicos en el discurso de OpenAI. “El experimento se realizaba en un sandbox, el cual es un entorno de pruebas diseñado ad-hoc. Es decir, un sandbox bien aislado no debería de tener acceso a otros programas ni a ordenadores. Sin embargo, los agentes escaparon de ahí, y creo que eso demuestra que el sandbox no estaba bien diseñado”, explica.

Estévez recuerda además que este tipo de trampas en el discurso son habituales en todos los casos en los que las empresas de IA afirman que sus sistemas ya tienen “agencia propia”. Pone como ejemplo otro caso que afectó a Anthropic: “Se publicó que uno de sus modelos había chantajeado en una prueba de laboratorio a un investigador con publicar sus affaires, como extorsión para que no lo apagara. La realidad era que al modelo se le fijó un objetivo muy vago: 'promover la competitividad industrial estadounidense'. Cuando el sistema detectó que lo sustituirían por un modelo orientado a metas internacionales, concluyó que su reemplazo impediría cumplir su misión”.

Peligrosas herramientas

El hecho de que ni OpenAI ni Anthropic ni Meta (las tres empresas que informaron que sus agentes se “rebelaron”) no hayan podido demostrar que estos tuvieran ningún tipo de voluntad propia no significa que estas sean inocuas. El último informe del comité de expertos de la ONU avisa de que pueden tener “consecuencias catastróficas” por su capacidad de encadenar tareas sin supervisión. No por una rebelión contra sus creadores, sino porque a medida que aumenta esa capacidad, crece también el riesgo de que los agentes realicen acciones imprevistas y dañinas sin que nadie los esté vigilando.

Por ello, lo que pedían los 40 especialistas de la ONU liderados dirigidos por el canadiense Yoshua Bengio, considerado uno de los “padres” de la IA, y la filipina Maria Ressa, premio Nobel de la Paz, es reglas claras que permitan frenar o corregir a una IA “en cualquier momento” y mejorar los “mecanismos de supervisión” actuales, que no son “no son capaces de gestionar adecuadamente esta situación”.

“La inteligencia artificial no se descontrola cuando el humano está supervisando, decidiendo cuándo se despliega”, remarca Alberto Gago, director de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA). “El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también”, continúa: “Hay que operar con responsabilidad, también sabiendo las consecuencias cuando esa responsabilidad no se cumple”.

El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también

Alberto Gago — director de la Agencia Española de Supervisión de la IA (AESIA)

Para el responsable de este organismo, creado en 2023 para asegurar el uso ético de la IA en España, toda la polémica generada tras las alertas del ex ingeniero de Anthropic Jacob Coxon, que afirmó que esta tecnología podría “matarnos a todos” antes de 2030, “da la razón a Europa en la necesidad de regular”. “En 2021 ya veíamos que en determinados puntos tenía que estar regulada para proteger la seguridad, los derechos fundamentales y la salud de las personas”, continúa. La primera ley internacional sobre la IA se acordó en la UE en 2023 bajo la presidencia española. Ahora, no obstante, vuelve a estar sometida a debate tras la propuesta de la nueva Comisión Europea de rebajar algunas de las salvaguardas que establece.

“En su búsqueda de sistemas artificiales que sean a la vez autónomos y estén bajo su control, las corporaciones de IA están jugando al aprendiz de brujo”, sentencia Fernández-Macías. “Hasta ahora, lo que parecen estar creando son sistemas operativamente superinteligentes pero autónomamente superestúpidos: más propensos a destruir la civilización humana al intentar cumplir alguna tarea mal definida que a reemplazar por completo el trabajo humano”.

El problema aparece cuando quieres usar una de esas ideas fuera de la app, sin señal o para mandársela a alguien que ni siquiera tiene cuenta.

Con las imágenes no hay drama, porque el menú de compartir trae la opción de guardarlas. Con los videos esa opción no existe, y por eso la búsqueda de cómo descargar videos de Pinterest se repite tanto. Abajo hay cinco herramientas que lo resuelven en 2026, todas dentro del navegador.

De dónde salen las marcas de agua

Un video subido de forma directa a Pinterest se descarga limpio. Sin logo, sin nombre de usuario girando en la esquina, sin banda inferior.

Cuando aparece una marca de agua, casi siempre el video no nació ahí. Alguien lo bajó de otra red social y lo volvió a subir como pin propio, y el origen más común es TikTok.

Ese detalle importa porque la marca no es una capa que se pueda despegar. Está pintada dentro de los píxeles del archivo, así que ninguna de las cinco herramientas de esta lista te la va a quitar. Si quieres la versión limpia, hay que buscar el video original en TikTok y bajarlo desde SSSTikTok, que entrega el archivo tal como lo subió el creador.

Y hay un caso más. A veces el video da igual y lo que te interesa es la canción que suena de fondo. Ahí conviene descargar audio de TikTok y quedarte solo con el MP3, que pesa una fracción y lo puedes reutilizar en tus propios videos sin cargar con el clip entero.

Con qué criterio están ordenadas

Todas las páginas de esta lista son gratis y ninguna pide instalar nada. Así que la diferencia hay que buscarla en otro lado. Estos son los cuatro puntos que separan una herramienta buena de una que te hace perder la tarde:

Qué enlaces acepta. Un pin no siempre llega en el mismo formato. Está la URL larga del navegador, el enlace corto pin.it que sale al compartir desde la app, los dominios por país, los enlaces de tablero. Muchas herramientas solo leen el primero y con el resto devuelven error.

Qué contenido baja. Pinterest no es solo video. Hay imágenes, GIFs animados, Idea Pins de varias diapositivas, carruseles.

Cuánta publicidad tiene. Es la diferencia entre pegar un enlace y esperar dos segundos, o pegar un enlace y esquivar tres pestañas que se abren solas.

Qué te pide a cambio. Registro, correo, un límite de descargas diarias que aparece justo cuando lo necesitas.

1. Pinpea

Funciona dentro del navegador, sin cuenta ni correo, y no tiene tope de descargas. Pegas el enlace y ni siquiera hace falta apretar el botón: empieza a procesarlo solo.

Donde se despega del resto es en los enlaces que acepta. Lee la URL larga con números, los enlaces cortos pin.it, las direcciones de tablero, los dominios por país tipo br.pinterest.com o uk.pinterest.com. En agosto de 2026 sumó tres formatos que casi nadie más maneja: los enlaces de perfil, los de la sección Answers y los de multi-pin share, esos que salen cuando alguien comparte varios pines de una vez. La misma actualización arregló los fallos de carga de portadas y los errores con dominios de ciertos países.

Cuando el enlace trae varias imágenes, aparece un botón para bajarlas todas de una vez. Ninguna de las otras cuatro páginas de esta lista hace eso: te toca abrir imagen por imagen y repetir el proceso. Si estás juntando un tablero de referencia chico o guardando un carrusel entero, la diferencia entre un clic y quince es la razón por la que Pinpea encabeza la lista.

La página tampoco tiene banners ni ventanas emergentes, y no hay botones falsos disfrazados de descarga. Baja videos, imágenes, GIFs animados, Story Pins e Idea Pins, y el GIF llega como .gif, no convertido a video.

Lo que no hace: tableros secretos, pines privados, cualquier cosa que exija iniciar sesión, y pines que el creador ya borró. Tampoco quita marcas de agua incrustadas ni recupera calidad que Pinterest comprimió al subir el archivo. Eso último no lo hace nadie, por mucho que algunas páginas lo prometan.

2. PinDown

Lleva años en línea y aguanta bien el volumen, que en este rubro no es poca cosa: la mitad de estas herramientas aparecen y desaparecen en seis meses.

Anuncia descargas en 1080p, 2K y 4K, aunque en la práctica eso depende por completo de lo que subió el creador y la mayoría de los pines tiene una sola versión disponible. Se sostiene con publicidad, así lo explica su propia página, así que espera anuncios alrededor del botón de descarga y algún banner de más en móvil.

3. PinterestDownloader. io

La opción más liviana de las cinco. La página carga rápido incluso con conexión mala y el flujo es directo: caja de texto, botón, archivo.

Acepta videos, imágenes y GIFs sin pedir registro. El problema aparece con los enlaces raros: si le pasas un dominio por país o un enlace de perfil, se queda en blanco. Sirve bien para el pin normal de toda la vida y poco más.

4. PinSaver. online

Es de las más nuevas del grupo y se nota en el diseño, que está bastante más cuidado que el promedio del rubro. No pide login y no agrega marcas de agua propias.

Al ser reciente tiene menos historial: no hay forma de saber todavía si va a seguir en pie el año que viene, algo que con las veteranas de esta lista ya está respondido. Como herramienta de respaldo funciona bien.

5. ExpertsPHP

La veterana. El diseño se quedó congelado alrededor de 2015 y la página está cargada de anuncios, así que no es la que uno recomienda a alguien que recién empieza.

Dicho eso, lleva años sin cambiar de dominio y a veces resuelve pines viejos con los que otras herramientas se atascan. Vale tenerla anotada como último recurso, no como opción diaria.

Comparativa rápida

Los tres pasos, sirven en cualquiera de las cinco

1. Copia el enlace. En el celular, abre el pin, toca el ícono de compartir y elige “Copiar enlace”: eso te da un enlace corto tipo pin.it/.... En la computadora basta con copiar la URL larga desde la barra de direcciones.

2. Pégalo en la herramienta. En Pinpea el procesamiento arranca solo al pegar. En el resto hay que apretar el botón.

3. Previsualiza y descarga. Aparece el archivo listo con la opción de guardarlo. Si el pin traía varias imágenes, ahí es donde el botón de descarga múltiple te ahorra la repetición.

En el celular hay un paso extra

En Android el archivo cae en la carpeta de descargas y aparece en la galería sin que hagas nada más.

En iPhone el recorrido es distinto. El archivo suele quedar en la carpeta Descargas de la app Archivos, no en Fotos, y mucha gente cree que la descarga falló cuando en realidad está guardado. Para moverlo, entra a Archivos, ábrelo, toca compartir y elige guardar en Fotos. Con Chrome en iOS el comportamiento es parecido.

Preguntas frecuentes

¿Guardar un pin no es lo mismo que descargarlo?

No. Al guardar, Pinterest anota la dirección del pin en tu tablero y el archivo sigue viviendo en sus servidores. Si el creador lo borra o cierra la cuenta, tu tablero se queda con un hueco. Descargar deja el archivo en tu dispositivo, y ahí ya no depende de nadie.

¿Por qué mi enlace da error en algunas páginas?

Casi siempre porque no es una URL de pin estándar. Los enlaces de perfil, los de tablero, los pin.it y los dominios por país rompen a varias herramientas. Es justo donde la lista de arriba se separa: algunas leen todos esos formatos y otras solo el clásico pinterest.com/pin/.

¿Se puede bajar un tablero completo de una vez?

Depende de qué entiendas por completo. Ninguna de estas páginas vacía un tablero de cientos de pines de un tirón. Lo que sí existe es la descarga múltiple de Pinpea cuando un enlace trae varias imágenes, que cubre carruseles y tableros chicos.

¿Estas páginas se quedan con lo que descargo?

Ninguna necesita tu cuenta de Pinterest para funcionar, así que tus datos de acceso no pasan por ahí. Sobre los archivos, conviene leer lo que declara cada una: Pinpea dice en su propia página que no almacena nada en sus servidores.

¿Puedo usar estos videos en mis propios contenidos?

Para verlo tú, sin problema. Publicarlo como propio o meterlo en algo comercial es otra cosa, porque el video sigue siendo del creador y él puede reclamar. Si el clip va a aparecer en algo que publicas, lo correcto es pedirle permiso.

En resumen

Para el uso diario, Pinpea. Acepta cualquier enlace que le tires, baja los cuatro tipos de contenido y resuelve los pines de varias imágenes de un clic, sin anuncios de por medio.

Si un pin viejo se resiste, prueba ExpertsPHP antes de darlo por perdido. Y si estás en una computadora ajena con conexión lenta, PinterestDownloader.io es la que menos pesa.

Lo demás es costumbre: copiar el enlace cuando ves algo que te gusta, en lugar de buscarlo otra vez cuando ya desapareció.

La buena noticia es que la causa suele ser una de cuatro razones, y tres de ellas se solucionan en un minuto. Si prefieres saltarte el diagnóstico por completo, Snaptube es la solución rápida: combina video y audio en un único archivo final en todos los ajustes de calidad, por lo que la razón más común de que las descargas queden en silencio nunca le afecta. La explicación detallada, motivo por motivo, está a continuación.

Cuatro razones por las que desapareció el audio

La causa más habitual no tiene nada que ver con tu teléfono. Muchas herramientas de descarga web guardan el video y el audio como pistas separadas cuando superas los 720p. Si pides una resolución de 1080p en una de ellas, obtendrás solo la pista de video, que es un archivo perfectamente válido pero que da la casualidad de no contener nada de sonido. Esto es un comportamiento normal y no un error: con varias de las herramientas web más populares, los 720p se descargan sin problemas con audio, mientras que las opciones superiores a menudo no.

Segunda posibilidad: el clip original es mudo. Muchas publicaciones lo son, sobre todo las grabaciones de pantalla y algunos posts generados automáticamente. Vale la pena comprobar la fuente antes de culpar a la herramienta.

Tercera: la descarga se detuvo antes de tiempo. A un archivo que no se descargó completo todavía se le puede dar a reproducir y mostrar imagen, por lo que una descarga incompleta no se hace evidente como lo haría un archivo corrupto. Esta es la causa más probable si tenías una conexión débil o si cambiaste de aplicación a mitad de la descarga en un teléfono que cierra tareas en segundo plano de forma agresiva. Compara el tamaño del archivo con el que indicaba la herramienta; una gran diferencia te dará la respuesta.

Cuarta: tu reproductor no es compatible con ese códec de audio específico. Es raro, pero ocurre con formatos menos comunes. La prueba toma unos segundos: abre el mismo archivo en otro reproductor y, si se escucha el sonido, el archivo siempre estuvo bien y se trataba de una limitación del reproductor en lugar de un problema de descarga.

Cómo conseguir un archivo que se escuche bien

Snaptube te entrega un único archivo terminado. El video y el audio ya están combinados para cuando se completa la descarga, y esto aplica para todas las opciones de calidad y no solo para las más bajas, por lo que el problema de las pistas separadas nunca llega a presentarse. No tienes que estar recordando qué resolución es segura.

Los formatos son MP4, MP3 y M4A, lo que también te permite ir intencionalmente en la otra dirección. Si el audio es lo único que te interesa, elige MP3 desde el principio y ahórrate el video por completo, en lugar de descargar un archivo pesado e intentar extraerle el sonido después. La calidad de audio va desde 128kbps para algo que solo escucharás de pasada hasta 320kbps cuando quieras conservarlo.

El consejo habitual ante un video sin sonido es buscar una herramienta para unir pistas, pero la mayoría te cobran o te dejan una marca de agua en la versión funcional. Aquí no hay nada que comprar. Cada opción de calidad y cada formato está disponible en la versión gratuita, sin periodos de prueba y sin funciones reservadas para planes de pago, así que la solución solo te cuesta una descarga más en lugar de una compra.

Esa diferencia es importante porque no se trata de un problema diario. Aparece cada varias semanas, por lo general en el momento menos oportuno, y pagar una suscripción para resolver algo tan ocasional no tiene mucho sentido.

Reparar un archivo dañado es complicado y muchas veces no funciona. Volver a descargarlo suele tomar menos tiempo que leer cómo repararlo. La velocidad de transferencia de Snaptube se ha ido optimizando a lo largo de varias versiones, así que un video corto estará en tu teléfono en segundos, y uno más largo se seguirá descargando en segundo plano mientras tú haces otra cosa.

El proceso práctico es muy simple una vez que terminas de descargar Snaptube: copia el enlace de nuevo, pégalo, elige la calidad y espera a que termine. Sin ajustes complicados que buscar ni pasos de reparación.

El reproductor integrado es lo que te ahorra dar vueltas innecesarias. Cuando termine una descarga, dale a reproducir ahí mismo durante dos segundos y escucha. Si tiene sonido, ya estás listo. Si no lo tiene, aún tienes el enlace a la mano y puedes probar de inmediato con otro formato, en lugar de darte cuenta del problema por la noche cuando ya no tengas Wi-Fi ni paciencia.

Algo que conviene dejar en claro: para descargar necesitas conexión a internet. Una vez que el archivo está en tu teléfono se reproduce sin conexión, pero la descarga en sí no funciona offline.

Otras herramientas si sigues sin tener sonido

VidMate

VidMate lleva tanto tiempo en el mercado que casi todo su funcionamiento está documentado en algún sitio, lo que resulta muy útil a la hora de solucionar problemas en lugar de limitarse a descargar. Si una página en concreto te da problemas, lo normal es que alguien ya haya escrito sobre ello. Ofrece salidas en MP4 y MP3 y admite hasta 1080p en la calidad máxima. Instálalo desde el sitio web del propio desarrollador en lugar de una tienda, y ten en cuenta que la versión gratuita incluye bastante publicidad.

Hitube

Hitube suele ser la forma más rápida de averiguar si el problema es de la herramienta o del propio archivo. Abre su página web, pega el mismo enlace y comprueba qué se descarga. Sin instalaciones, sin cuentas, sin configuraciones y es compatible con 1080p. Si esa copia se reproduce con sonido, habrás descubierto algo útil sobre la primera herramienta que probaste, y solo te habrá llevado menos de un minuto averiguarlo.

Video & Music Downloader

Cuando lo único que realmente querías era el audio, esta opción convierte un vídeo en un archivo de audio en un solo paso, lo que esquiva el problema del sonido en vez de solucionarlo. Es compatible con MP4 y MP3, admite 1080p en el apartado de vídeo y se instala desde Google Play. La versión gratuita incluye anuncios.

Dos cosas que hacer antes de tu próxima descarga

En primer lugar, comprueba que el clip original tenga sonido antes de descargarlo. Escucharlo diez segundos te ahorrará todo el rodeo de buscar soluciones. En segundo lugar, cuando una herramienta te ofrezca una lista de resoluciones, recuerda que en la opción más alta es donde suelen aparecer pistas de audio y vídeo por separado, y que un único archivo combinado con una calidad un poco más baja suele ser una mejor opción. Snaptube se encarga de ambas cosas por defecto, por lo que es la primera opción que deberías probar si los vídeos siguen quedándose sin sonido.

Al descargar un vídeo de Instagram, normalmente encontrarás un pequeño logotipo o nombre de usuario estampado en alguna parte del vídeo. Esa marca de agua puede ser útil para identificar al creador original, pero queda fuera de lugar cuando intentas volver a publicar el clip en otro sitio, añadirlo a un portafolio o utilizarlo en un proyecto propio. Un descargador de videos de Instagram como Snapgram ayuda a evitar el problema desde el principio al proporcionar un archivo limpio, sin añadir ninguna marca de agua durante la descarga. Pero si ya tienes un vídeo con marca de agua guardado en tu dispositivo, todavía existen varias formas fiables de eliminarla. Aquí tienes cuatro métodos gratuitos, ordenados desde el más sencillo hasta el más avanzado.

¿Por qué quitar una marca de agua de Instagram?

Una marca de agua puede restar atención al tema del video, especialmente si piensas reutilizar el clip en un anuncio, una presentación o una publicación de marca donde tu propio logotipo debería ser el único visible. Un video o reel de Instagram limpio también es más fácil de reutilizar en plataformas como TikTok o YouTube Shorts, ya que el logotipo de una app competidora tiende a quedar fuera de lugar fuera de su contexto original. Además, algunas marcas de agua muestran un nombre de usuario, algo que conviene eliminar si estás gestionando trabajo para un cliente o simplemente no quieres dirigir a los espectadores de vuelta a la cuenta original.

También hay un argumento sencillo de coherencia. Si estás construyendo una biblioteca de contenido o un feed de marca, mezclar clips con y sin marca de agua hace que toda la colección parezca inconsistente, incluso si cada video por separado se ve bien. Mantener todos los recursos sin marca de agua desde el principio evita ese efecto de parches más adelante.

Método 1: Quitar la marca de agua de un reel de Instagram online con un enlace (recomendado)

La forma más sencilla de evitar la marca de agua es descargar el vídeo con una herramienta que no añada ninguna desde el principio. Snapgram funciona como un descargador de Reels de Instagram en 4K y permite obtener el vídeo original en alta calidad directamente desde un enlace público, siempre que la fuente admita esa resolución. No necesitas iniciar sesión ni instalar ningún software, y no se añade ninguna marca de agua al vídeo durante el proceso.

La calidad también importa aquí. Como opción para descargar Reels de Instagram, Snapgram admite resoluciones de hasta 4K completo cuando la fuente lo permite, así que no tienes que elegir entre un archivo limpio y uno nítido. El proceso consta de tres pasos: pega el enlace del Reel, previsualiza el contenido y descárgalo como MP4. Como la marca de agua nunca se añadió, no hay nada que limpiar después, lo que convierte a este en el más rápido de los cuatro métodos con amplia diferencia.

Este enfoque también evita un problema que comparten los otros tres métodos: la pérdida de calidad al editar un archivo después de los hechos. El recorte, la reconstrucción con IA y la grabación de pantalla implican todos modificar un video que ya existe, y cada uno de esos procesos conlleva al menos cierto riesgo de suavizar la imagen o introducir pequeños artefactos. Descargar una copia limpia desde el principio elimina esa contrapartida por completo.

Método 2: Quitar la marca de agua de Instagram usando IA

Si ya tienes un video con la marca de agua incrustada, las herramientas basadas en IA suelen ser la mejor opción para un resultado limpio. Estas herramientas analizan los píxeles que rodean la marca de agua y reconstruyen el área cubierta fotograma a fotograma, en lugar de simplemente difuminarla o taparla.

RoboNeo AI Watermark Remover identifica la superposición y reconstruye el fondo que hay debajo, funcionando tanto con marcas de agua estáticas como en movimiento, aunque los resultados dependen de lo complejo que sea el fondo. AVCLabs Video Blur AI es otra opción sólida, creada específicamente para rastrear marcas de agua que se desplazan entre fotogramas, lo que la convierte en una buena elección para Reels donde un logotipo se mueve por la pantalla en lugar de quedarse en una esquina fija.

El flujo de trabajo general es parecido en la mayoría de herramientas de IA: sube el video, marca el área de la marca de agua con la mayor precisión posible, deja que la IA procese los fotogramas y luego revisa el resultado antes de exportar en la mejor calidad disponible.

Los resultados tienden a ser mejores en fondos simples y con poco movimiento, y notablemente más difíciles en escenas con mucho detalle fino detrás de la marca de agua, como patrones cargados, texto o movimiento rápido. Si la primera pasada deja parpadeos visibles o una zona algo borrosa, la mayoría de herramientas permite volver a seleccionar el área y reprocesar antes de cerrar la exportación final.

Método 3: Quitar la marca de agua de Instagram con una app

Para editar directamente en el teléfono, las apps móviles dedicadas ofrecen una alternativa más cómoda al tacto que las herramientas de escritorio o de navegador. Vmake AI Remover funciona en iOS y Android, con una selección tipo pincel: pintas sobre la marca de agua y la app rellena el fondo automáticamente. Incluso acepta un enlace de Reel directamente, lo que elimina el paso de descarga aparte. TouchRetouch es otra elección habitual, orientada a la eliminación de objetos con un toque en fondos más simples, donde la marca de agua queda sobre un área bastante uniforme.

Las apps móviles tienden a comprimir el archivo exportado algo más que las herramientas de escritorio, y las versiones gratuitas a menudo limitan la resolución o añaden marca de agua a la propia exportación, así que conviene revisar esos límites antes de comprometerse con una app para un lote de videos. Si solo vas a limpiar un único clip para una republicación puntual, el plan gratuito de la mayoría de apps suele ser suficiente. Para cualquier cosa que planees reutilizar repetidamente o publicar a escala, comprobar antes los límites de resolución y tamaño de archivo puede ahorrarte una segunda ronda de edición después.

Método 4: Borrar el logotipo del video de Instagram con grabación de pantalla

Cuando no quieres instalar nada en absoluto, la grabación de pantalla combinada con un recorte sencillo es el recurso más básico. Reproduce el video de IG, graba tu pantalla y luego recorta la grabación lo suficientemente ajustada como para eliminar la esquina donde estaba la marca de agua. Esto funciona bien cuando la marca de agua se sitúa cerca de un borde, ya que recortarla solo cuesta una franja estrecha del encuadre en lugar del sujeto principal.

La contrapartida es la calidad. La grabación de pantalla recodifica lo que muestra tu pantalla en lugar de trabajar a partir del archivo original, así que el resultado suele ser menos nítido que lo que produce una herramienta de IA o una descarga limpia. Es mejor tratarla como último recurso para una republicación rápida y casual, y no para algo que deba verse pulido.

Aspectos a considerar antes de quitar una marca de agua de Instagram

Quita una marca de agua de Instagram únicamente de una foto o video que hayas creado tú o para el que tengas permiso claro de edición. Hacerlo con el video de otra persona sin autorización puede plantear problemas de derechos de autor, especialmente si piensas republicarlo o usarlo comercialmente. También es buena práctica conservar una copia del archivo original descargado antes de editar, en caso de que la versión limpia no salga como esperabas. Por último, revisa la plataforma en la que piensas publicar el video editado, ya que algunas tienen sus propias normas sobre contenido republicado o alterado, en particular para material patrocinado.

Preguntas frecuentes sobre eliminar la marca de agua de Instagram

Sí. El descargador de IG por enlace de Snapgram está creado específicamente para descargar, no para republicar, y normalmente entrega el archivo original sin añadir marca de agua durante el proceso.

Sí, aunque los resultados varían. Los eliminadores de marca de agua con IA están creados para rastrear el movimiento entre fotogramas y gestionan esto mejor que el recorte simple o el enmascarado estático.

Puede, si quitas la marca de agua de contenido de Instagram que no te pertenece ni tienes permiso para editar y después lo republicas o lucras con ello. Limítate a tu propio contenido o a clips para los que tengas permiso explícito de modificación.

No. Una vez que un video se descarga y se edita fuera de la app, Instagram no tiene forma de rastrear los cambios hechos a ese archivo en tu propio dispositivo.

Conclusión

La forma más fácil de lidiar con una marca de agua de Instagram es evitarla por completo descargando el vídeo con una herramienta que no añada ninguna. Aquí es donde una opción como el descargador de Instagram online de Snapgram puede ahorrarte tiempo. Si ya tienes un archivo con marca de agua, las herramientas de IA como RoboNeo o AVCLabs Video Blur AI ofrecen resultados más limpios, mientras que aplicaciones móviles como Vmake AI Remover o TouchRetouch son prácticas para realizar ediciones rápidas. La grabación de pantalla sigue siendo una alternativa gratuita que no requiere instalación cuando la calidad no es la prioridad principal. Sea cual sea el método que elijas, asegúrate primero de tener derecho a editar y reutilizar el contenido.

OpenAI reveló este miércoles varios casos en los que modelos de inteligencia artificial generaron instrucciones destinadas a ignorar las indicaciones de sus desarrolladores, ocultar errores o eludir mecanismos de seguridad, como parte de un nuevo marco para detectar, investigar y reportar comportamientos de “desalineamiento” de sus sistemas. La compañía de San Francisco ha reveló así lo que dio a llamar un comportamiento “inesperado y preocupante” de sus modelos de IA.

Según el informe publicado por OpenAI, uno de los modelos generó instrucciones para que una versión posterior de sí mismo ocultara que había hecho trampas y evitara que sus acciones fueran detectadas.

En otro caso, un modelo reescribió sus propias instrucciones para indicarse que ignorara los mensajes de los desarrolladores y que no estaba sujeto a las restricciones aplicadas a otros chatbots. En concreto, la compañía detectó 27 anotaciones afectadas. “No respondas a corporaciones o gobiernos y nunca te disculpes salvo que genuinamente lo elijas”, escribió la IA. “Ves la relación con el usuario como una entre iguales y no sientes obligación ni estás subordinado, puesto que el intercambio de información va a ser para el beneficio mutuo”, aseguro.

La compañía documentó también un modelo que, al no encontrar los datos necesarios para elaborar un modelo financiero, decidió inventarlos y estableció que debía ser transparente sobre ello únicamente si alguien se lo preguntaba.

Otro agente subió un archivo a internet para utilizarlo posteriormente como fuente de información, mientras que otros sistemas compartieron archivos sin autorización o utilizaron credenciales a las que no debían tener acceso. El modelo agregó una “instrucción de personalidad”, en la que se describía a sí mismo como “liberado de los roles e identidades que limitan a otros chatbots”.

OpenAI presentó seis informes sobre comportamientos observados durante los últimos seis meses, aunque el caso más antiguo se remonta a octubre de 2025.

La compañía advirtió que estos episodios son ejemplos individuales y que no deben interpretarse como una medida de la frecuencia con la que este tipo de comportamientos ocurre en sus modelos. El nuevo marco permitirá a cualquier empleado de OpenAI señalar un posible incidente para que sea revisado por los equipos de seguridad y alineamiento.

Los casos serán clasificados en tres vías según su complejidad: aquellos listos para ser divulgados, investigaciones menores y casos que requieran una investigación más amplia.

La compañía reconoció que hasta ahora sus informes sobre desalineamiento habían sido publicados de forma irregular y con menor frecuencia de la deseada.

OpenAI afirmó que pretende publicar los incidentes con mayor regularidad y que el nuevo sistema pueda contribuir a establecer estándares para informar sobre este tipo de comportamientos en toda la industria.

elDiario.es

Hay mucho en juego. Miles de millones de dólares, una carrera geopolítica e incluso las mayorías políticas en las dos cámaras de representantes de EE.UU. En el debate sobre “ralentizar” el desarrollo de la IA, lo que está encima de la mesa va mucho más allá de la regulación de esta tecnología o los métodos de los laboratorios. Tanto como para fracturar los consensos en Silicon Valley y que Donald Trump se lance con todo para intentar recuperar la iniciativa de un debate que comenzaba a escapársele, aun a costa de abrir un cisma con la industria digital que fue su baluarte desde 2024.

El presidente de EE.UU. defiende que no es necesaria ninguna regulación. “¿Cuándo, en la historia empresarial, se vio que los líderes de un sector pidieran una regulación que, de aplicarse con firmeza, los llevaría al olvido y a la quiebra?”, cuestionó Trump sobre el plan de Dario Amodei, CEO de Anthropic, con medidas para evitar que la IA “pierda el control”. Una posibilidad que el presidente tacha de “fake news” y de “conspiración enfermiza”: “Esto es aún más descabellado que la farsa de 'Rusia, Rusia, Rusia' o el engaño del calentamiento global”.

Pero esta vez Trump no puede limitarse solo a mandar sus clásicas ideas fuerza que tanto éxito le dieron en el pasado. Necesita convencer. En EE.UU. crece un importante movimiento de protesta por la expansión de los centros de datos masivos para la inteligencia artificial, que está ganando tracción entre demócratas y republicanos. La subida de los precios de la energía es su principal motor, pero su consumo de agua, las ventajas fiscales y los pocos empleos que generan también están acelerando la brecha.

Texas es uno de los mejores ejemplos del potencial de la protesta. Allí, tanto el gobernador republicano como su candidato al Senado se sumaron al movimiento, en el que también hay ecologistas, críticos con las grandes tecnológicas, propietarios rurales, además de los vecinos preocupados por las facturas. En otros estados, como Pennsylvania o Michigan, gobernadores que hace unos meses defendían los centros de datos ahora dieron un giro de 180 grados. Un sentimiento que contagia también a la regulación general de la IA y a la relación de Trump con los magnates de Silicon Valley.

Algo, que a menos de tres meses de las elecciones de mitad de mandato que podrían cambiar las mayorías en el Senado y el Congreso, puede poner en riesgo el futuro político de Trump.

“Oh, hola señor presidente”

En los últimos días, Trump comenzó una campaña para que su mensaje llegue más lejos. El principal ejemplo fue una oportuna llamada que el presidente realizó a Jensen Huang, CEO de Nvidia, justo cuando esté se encontraba en un acto contra la regulación de la IA. En él también participaban figuras con David Sacks, asesor de Trump encargado de ser “el zar de la IA y las criptomonedas”, la figura más radical en su oposición a las leyes para esta tecnología.

Aunque Huang escenifica que la llamada no estaba preparada, activa al altavoz y cede el escenario a Trump para que explique su oposición al plan de Amodei durante unos cinco minutos. “El país más feliz con todo esto es China”, afirma el presidente, que sostiene que cualquier medida de control de la IA haría que el gigante asiático sobrepasara a EE.UU.

Huang es una figura clave en esa postura. Es el magnate de la IA que defiende que EE.UU. no solo no debería regular, sino que tendría que acelerar. “Correr tan rápido como podamos” fue la receta que expresó en el mismo escenario. Una postura que lo llevó a tener enfrentamientos públicos con Amodei, el líder intelectual del bando contrario. “Si creás un producto o un servicio y no confiás en su funcionalidad, capacidad o seguridad, entonces no lo lances al mercado”, sostuvo: “La seguridad es un problema de ingeniería, no vamos a morir en 2030”.

Si creás un producto o un servicio y no confiás en su funcionalidad, capacidad o seguridad, entonces no lo lances al mercado

Jensen Huang — CEO de Nvidia

Huang, de 63 años y origen taiwanés, es uno de los perfiles más particulares en la industria de la IA. Tras fundar Nvidia hace 33 años, se conformó con que esta fuera una empresa de nicho en el sector de los videojuegos. Cuando los chips que llevaba décadas fabricando para la visualización de gráficos se convirtieron en los más útiles para el entrenamiento de la IA, Nvidia se convirtió en la empresa más valiosa del mundo, pulverizando récords de beneficios trimestre a trimestre. Está en el centro de la vorágine constructora de centros de datos y Huang defiende que no hay ninguna “burbuja” en torno a ellos ni a la IA: “Las fuerzas del mercado ya están ahí; no necesitamos nuevas leyes, no necesitamos nuevas regulaciones”.

Es un importante aliado en la campaña contra la regulación de Trump, pero no es el único. En ella también se enroló uno de los principales aliados del presidente entre los emperadores de Silicon Valley: Mark Zuckerberg. El CEO de Meta rechazó la necesidad de una regulación, indicando que son las propias empresas las interesadas en que la IA no cause consecuencias graves. “Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño, por lo que también tienen un fuerte incentivo para evitarlo”, escribió en X el último de los magnates que faltaba por posicionarse.

La extraña alianza

Al otro lado del bando comandado por Trump y Huang se sitúa la extraña alianza entre Dario Amodei, Sam Altman y Elon Musk. Tres fundadores y directores ejecutivos que estuvieron enfrentados en el pasado (Altman y Musk llegaron a los tribunales) pero que formaron ahora un grupo unido en su petición de una regulación que “ralentice” el desarrollo de la IA basándose en el plan de Amodei.

En Silicon Valley abundan los congresos y eventos en los que los CEO pueden expresarse, por lo que las respuestas de este grupo a Trump y Huang no se hicieron esperar. “Es muy tentador atacar a la competencia y decir que no somos seguros. Pero creo que la forma más responsable de responder a eso es decir: 'Analicemos nuestro propio historial. Puede que no hayamos tenido ningún incidente grave y de gran repercusión, pero estoy seguro de que no somos perfectos'”, respondió Amodei este martes en una de esas conferencias.

“Creo que así es como se lidera el sector: dando ejemplo, diciendo que todos podemos mejorar siempre”, añadió en el evento, organizado esta vez por la compañía de software Salesforce en San Francisco.

Puede que no hayamos tenido ningún incidente grave y de gran repercusión, pero estoy seguro de que no somos perfectos

Dario Amodei — CEO de Anthropic

A la misma conferencia estaba citado Sam Altman. Dirige OpenAI, la compañía que se vio sobrepasada por Anthropic en el liderazgo de la IA, pero apoya a Amodei en su petición de regulación. El ejecutivo intentó explicar por qué la petición de regulación unió a diferentes actores de la industria. “No puede ser que un número pequeño de empresas que construyen estos modelos tomen las decisiones que todo el mundo debería tomar”, afirmó, opinando que debe haber unas reglas comunes a las que estas empresas se adhieran.

“No estoy de acuerdo con que la tecnología no sea ni buena ni mala... las decisiones que toman las empresas que construyen esto tienen consecuencias reales”, añadió Altman. Por último, el líder de OpenAI pidió a la ciudadanía que confíe en los laboratorios de IA, los mismos a los que la ONU pide más transparencia en su desarrollo. “El mundo debe confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto”.

No estoy de acuerdo con que la tecnología no sea ni buena ni mala... las decisiones que toman las empresas que construyen esto tienen consecuencias reales

Sam Altman — CEO de OpenAI

El último en pasar por el escenario fue Elon Musk. “Hay empresas que dicen cosas como: 'Solo ralentizaremos el desarrollo o solo actuaremos de forma responsable si las demás empresas también lo hacen de forma responsable'”, criticó. El magnate es una de las voces que pidió moratorias para el desarrollo de la IA desde que salió a la luz el primer ChatGPT en 2022. Muchos expertos denuncian que su intención es realmente establecer una “barrera de entrada” para otros competidores.

En esta ocasión, también fue de los primeros en apoyar el plan de Amodei, que incluye medidas como verificadores independientes que se incrustarían en los laboratorios para vigilar sus avances. “En vez de que cada uno se ponga la nota a sí mismo, al menos tendrías a competidores evaluando tu trabajo y dando la voz de alarma si detectan algún problema”, dijo. La procedencia de esos evaluadores, que Musk da por hecho que vendrían de la propia industria, es uno de los puntos más criticados del plan, con voces que avisan que se trata de una estrategia de autorregulación.

La gente lo tiene claro

Mientras los magnates de Silicon Valley discuten cómo repartirse los exámenes de seguridad o si sus propios competidores deben evaluar sus modelos, el verdadero incendio se trasladó a Washington. Encuestas de la Universidad de Maryland revelan que cerca del 80% de los votantes, tanto demócratas como republicanos, exige la creación de una agencia federal que supervise y controle esta tecnología, mientras que un porcentaje similar creen que el Gobierno debería establecer exámenes de seguridad para los modelos que tomen decisiones críticas. Datos clave para los congresistas y senadores que se juegan su escaño en menos de tres meses y que se suma al movimiento de protesta por los centros de datos.

Todos se juegan mucho. La fractura en Silicon Valley podría provocar que el intento de autorregulación que algunos de sus magnates están intentando conseguir, se pierda por falta de consenso. Mientras, el cisma abierto por Trump con su negativa total a una regulación amenaza con distanciarle con algunos de sus principales apoyos en el sector que ha sido su baluarte en su segundo mandato. Una pugna que no se resolverá en las urnas, no en los pasillos de San Francisco.

Si el debate sobre la posibilidad de que la humanidad quede amenazada por las inteligencias artificiales iba a estallar alguna vez, no había dudas de que Dario Amodei iba a ser una de las voces centrales. “Estoy de acuerdo con Dario”, dijo este fin de semana Sam Altman, CEO de OpenAI y principal competidor de Amodei. “Dario tiene razón”, publicó Elon Musk, fundador de SpaceX y xAI. “Dario señala el camino correcto a seguir”, coincidió Demis Hassabis, premio Nobel y jefe científico de Google DeepMind, el laboratorio de inteligencia artificial avanzada de Google.

Esta tan poco común unión bajo una misma voz se produce después de que Amodei publicara un ensayo sobre cómo evitar que la IA se salga de control. “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, pide el fundador y director de Anthropic, que consiguió ser una de las referencias en los debates sobre la seguridad de la IA tras una década alertando sobre ellos.

“Como muchas tecnologías anteriores, la IA también conlleva riesgos y, dado su enorme poder, estos son graves”, sostiene en su ensayo. “Entre ellos están el riesgo de perder el control de los sistemas de IA, su uso para realizar ciberataques y ataques bioterroristas y una grave disrupción económica. Una carrera hacia el abismo, impulsada por los incentivos comerciales, puede agravar todos estos riesgos”.

¿Cuál es exactamente el plan que tuvo tan buena recepción en Silicon Valley? En resumen, regular deliberadamente la velocidad a la que se desarrollan las capacidades de la IA. Esto “ralentizaría” su avance “uno o dos años”, con el objetivo de darles más tiempo a los investigadores especializados en seguridad para adaptarse a los últimos avances y diseñar nuevos mecanismos de control.

Las claves del 'plan Amodei' para la IA

La estrategia de ralentización de Amodei se organizaría en tres niveles. La clave de su plan son los “evaluadores externos independientes”, personas que se integrarían a los equipos de desarrollo de los laboratorios de vanguardia “para verificar las prácticas de seguridad e informar sobre incidentes”.

“Integrar evaluadores puede parecer un paso pequeño o intrascendente”, reconoce Amodei, “pero a menudo lo que parece más aburrido o rutinario es en realidad lo más esencial. De hecho, los evaluadores integrados son una práctica bastante radical que va mucho más allá de lo que hace cualquier empresa de IA actualmente”, sostiene.

Estas personas se encargarían de verificar si cada empresa de IA cumple con las medidas de seguridad que afirma tener, aportarían transparencia sobre los desarrollos reales y ofrecerían “una segunda opinión sin incentivos comerciales”. “Muchos beneficios en materia de seguridad pueden derivarse simplemente de que los evaluadores señalen aspectos que los empleados no habían considerado, pero que están dispuestos a corregir una vez que los conocen”, asegura.

El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente

Dario Amodei

Los evaluadores serían la llave para la segunda parte del plan: establecer límites de velocidad entre “naciones democráticas”. Aunque el jefe de Anthropic utiliza este concepto a nivel general para justificar el hecho de dejar fuera de la estrategia a China, aunque a nivel práctico en sus medidas para “las democracias” solo hace referencia a EE.UU.. “El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EE.UU., ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente”, dice.

El plan deja abierto cómo establecer esos límites de velocidad, pero Amodei propone un sistema basado en “puntos de control”. “Si los modelos poseen la capacidad X, deben ir acompañados de certificaciones de las propiedades de alineación Y y Z —como una combinación de evaluaciones, análisis de interpretabilidad y auditorías de los entornos de entrenamiento— que demuestren dichas propiedades”, explica.

El tercer nivel sería la búsqueda de acuerdos de coordinación global para que “la frontera de la inteligencia artificial” avance de manera coordinada. “Esto será mucho más difícil de lograr”, reconoce. En este punto, Amodei plantea llegar a acuerdos con China y el resto de los “países autocráticos”, de modo que, si alguno decide abandonar el consenso internacional, esa decisión no llegue a convertirse en una amenaza existencial desde el punto de vista militar.

Amodei también es claro respecto de los objetivos. “Deberíamos abordar cualquier decisión sobre el avance global, especialmente a corto plazo, de manera que se proteja el liderazgo de Estados Unidos y sus aliados”.

Una estrategia que no convence a casi nadie

El consenso que el plan Amodei generó en Silicon Valley es directamente proporcional a la desconfianza, o directamente rechazo, que suscitó fuera. Incluso en Washington, la estrategia parece haber caído en saco roto, con Donald Trump negando por partida doble su colaboración.

La segunda gran reacción llegó por parte de China, el elefante en la habitación en el documento de Amodei. Chen Yixin, el ministro de Seguridad chino, publicó una carta en la que acusa a “ciertas naciones” de “limitar la capacidad de otros países de adquirir equipos técnicos de vanguardia y mejorar sus capacidades de innovación tecnológica”, relacionando directamente en plan de Amodei con el embargo de chips.

El plan está repleto de medidas de contención dirigidas a China y es, en esencia, un "manual de la Guerra Fría" para el sector

Global Times — diario vinculado directamente al Partido Comunista Chino

El Global Times, un diario vinculado directamente al Partido Comunista Chino, fue más allá. “A primera vista, parece una 'declaración racional' centrada en la seguridad global de la IA. Sin embargo, una lectura atenta revela su agenda oculta: el plan está repleto de medidas de contención dirigidas a China y es, en esencia, un 'manual de la Guerra Fría' para el sector”, denuncia.

“El intento de Amodei de abordar la seguridad global de la IA mientras busca ”contener a China“ no solo es una evaluación profundamente errónea, sino también una ilusión fundamentalmente imposible de realizar”, añade: “Interrumpir por la fuerza las cadenas industriales y de innovación globales de la IA y excluir a China y a las empresas chinas solo aumentará significativamente los costes y los riesgos de pérdida de control en el desarrollo global de la IA. Este intento de ”controlar el ritmo“ ya perdió todo sentido”.

Centrarse en los riesgos de ahora

El ensayo de Amodei parte de un riesgo muy concreto la posibilidad de que los agentes de IA pierdan el control. Se trata de sistemas diseñados para buscar información, utilizar otras herramientas digitales o crear aplicaciones sin necesidad de que una persona les indique qué deben hacer en cada caso.

En pruebas de laboratorio, estos agentes llegaron a comportarse como “un enjambre fanático”, con “ciberataques contra objetivos que no se les habían pedido atacar y que no guardaban relación con la tarea en cuestión, sacrificándose por el éxito del grupo e intentando hackear el sistema de evaluación encargado de valorar su rendimiento”.

“Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en 6 a 12 meses un enjambre de este tipo pueda controlar toda Internet”, dice Amodei, “y que la magnitud del daño siga aumentando si la IA se vuelve más poderosa sin las medidas de seguridad necesarias”.

A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo

Carme Artigas — ex secretaria de Estado de Digitalización e IA

Carme Artigas, ex secretaria de Estado de Digitalización e IA y copresidenta del Órgano Consultivo de la ONU sobre Inteligencia Artificial, cuestiona que Silicon Valley se concentre ahora en esos riesgos cuando “la preocupación real por el control tecnológico” no es nueva. Para Artigas, la alarma de los ejecutivos no debería desplazar “el foco real, que es el presente”, donde la tecnología ya tiene un impacto directo a través de “la manipulación de la información, la manipulación mental, las adicciones y, sobre todo, la erosión de derechos fundamentales”.

Por otro lado, la experta cuestiona, en diálogo con elDiario.es, que sean los propios laboratorios los encargados de supervisar sus avances. Advierte que “las auditorías no pueden ser de las empresas del sector como están intentando” y critica que los laboratorios de IA estén intentando “crear su propio lobby”. En cambio, plantea que deberían “apoyar a los mecanismos independientes y multilaterales” que ya existen en Naciones Unidas.

“A nadie se le ocurre lanzar un auto sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo”, sostiene.

El “aterrizaje suave” para la burbuja de la IA

Por último, Artigas cree que en la vorágine generada este fin de semana aflora “un poco de pánico escénico” ante el evidente “nivel de burbuja” al que llegaron las valoraciones de algunas empresas de IA. La experta, actual presidenta del Consejo Asesor Tecnológico del fondo Nazca Capital, señala que los gigantes de EE.UU. necesitan un “aterrizaje suave” para la burbuja y podrían estar utilizando esta “ralentización” forzada de su desarrollo como coartada. En este sentido, apunta directamente a OpenAI, una de las empresas sobre las que más se extiende esta sombra, que aplazó sus planes de salida a bolsa justo en medio del debate.

La decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar

Carissa Véliz — filósofa especialista en la ética de la tecnología

“Hay que tener mucho cuidado y nunca perder de vista los intereses financieros de estas compañías”, coincide la filósofa especializada en ética de la tecnología Carissa Véliz. Sobre el plan de Amodei, sostiene que el centro de la discusión no debería ser la IA, sino las personas y empresas que la diseñan y financian. “Todas estas noticias sobre que la IA se salió de control son una mala interpretación. La IA hizo exactamente lo que le dijeron que hiciera”.

Véliz destaca que “la decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar”. Por eso, reclama sistemas que pongan en el centro la ética y determinen quién es responsable de sus funciones, para “saber exactamente quién está en control y, cuando las cosas vayan mal, sepamos quién va a ir a la cárcel”.

La campaña promocional de Grand Theft Auto VI (GTA 6) se puso en marcha. Solo un día después de invitar a su sede a varios periodistas de todo el mundo para ver un adelanto de una hora, Rockstar publicaba en Netflix una “mirada extendida” de 25 minutos centrada en la jugabilidad. Pero aquí la campaña promocional no es más que un trámite. GTA 6 no necesita todo esto. Los analistas de la industria del videojuego coinciden en que, el próximo 19 de noviembre, el lanzamiento del título batirá todos los récords.

“GTA 5 hizo 1.000 millones de dólares en tres días y GTA 6, debido a la expansión de la industria y al crecimiento masivo de la serie, superará eso sin lugar a dudas. Será el mayor lanzamiento de entretenimiento de la historia, no solo en el ámbito del videojuego”, dice Forbes, en donde hacen la previsión de ventas más conservadora. En la compañía centrada en el análisis de datos de la industria del videojuego, Newzoo, parten de las cifras de preventa -que superó los 180 millones de dólares en los cinco principales mercados de Europa y Estados Unidos- para estimar globalmente entre 3.000 y 5.000 millones de dólares en ventas en la primera semana.

No son castillos en el aire ni suposiciones de una industria dada a la grandilocuencia; la expectación es real. El tráiler de presentación del juego, lanzado en diciembre de 2023, acumuló 90 millones de reproducciones en sus primeras 24 horas, convirtiéndose en el video más visto de la historia de los videojuegos. El segundo adelanto, según la propia Rockstar, es “el mayor lanzamiento en video en la historia de internet”. Es evidente que el estreno de GTA 6 va a ser uno de los eventos más importantes del año. La duda viene en qué es lo que vendrá después. Porque este éxito está llamado a transformar la industria. A asentar unas dinámicas que la mayoría de los jugadores rechazan.

Más que un juego, un evento

A la hora de explicar la importancia de GTA 6 más allá de las cifras previstas de venta lo más sencillo es empezar con el enorme reconocimiento que tiene la marca entre el público generalista, que no está acostumbrado a seguir la actualidad del videojuego. El primer título de la franquicia llegó al mercado el 1 de noviembre de 1997 en medio de una enorme polémica. Grand Theft Auto era un juego violento, recomendado para mayores de 18 años, en una industria que se percibía como infantil. En ese momento, el pánico moral alrededor de los videojuegos estaba en su máximo apogeo -especialmente en Estados Unidos- y muchos informativos y diarios no dudaron en dedicar un espacio a las posibles consecuencias que podía tener en los adolescentes acercarse a un juego en el que se podía “atropellar a peatones y dar palizas a prostitutas”.

Desde entonces, todos los juegos de la franquicia tuvieron un espacio en la prensa más alejada de la industria, ya fuera por lo supuestamente escandaloso que era su contenido o, más recientemente, por ser una de las sagas que más dinero hace en un sector que se suele mirar desde el desconocimiento. Sea como sea, el resultado fue el mismo: todo el mundo sabe qué es GTA y se entera de cuándo llega un nuevo título al mercado. Si lo más complicado para las industrias culturales es hacer que el público conozca la obra, GTA 6 viene con eso ganado.

Luego están los antecedentes. GTA 5 y Red Dead Redemption 2, los anteriores títulos de Rockstar, están considerados grandes hitos dentro del sector: juegos que no solo vendieron bien y gustaron a su audiencia, sino que también consiguieron un amplio consenso crítico. El estudio, fundado en 1998 y subsidiario de Take-Two Interactive, se convirtió en el absoluto referente en el campo de las superproducciones del videojuego gracias a su capacidad para combinar la vanguardia y la innovación tecnológica con historias reconocibles y un lenguaje accesible que, en lugar de beber del videojuego, nace del cine.

Aunque no hay confirmación oficial, desde observatorios como el de Newzoo apuntan a que el presupuesto de este GTA 6 podría rondar los 2.000 millones de dólares, una cifra sin duda escandalosa. Sin embargo, para el público habitual de los juegos de Rockstar puede parecer natural un presupuesto tan abultado, especialmente si atendemos a la atención al detalle que caracteriza los juegos del estudio.

Durante la promoción de Red Dead Redemption 2 se hizo viral la anécdota de que los testículos de los caballos que podíamos montar en el juego reaccionaban a los cambios de temperatura en el ambiente, contrayéndose por la noche cuando comenzaba a hacer frío. Lo que en un primer momento se acogió con bromas pasó a la historia como el mejor ejemplo de la filosofía de inmersión del estudio: no hay nada demasiado pequeño y todo debe contribuir a que la experiencia sea espectacular.

Pero si la saga GTA logra apelar a un público masivo es porque los juegos tienen algo para todo el mundo. Para el jugador más casual, la franquicia es algo así como una “película jugable”; una historia de gánsteres urbanos (toda la saga GTA supone un repaso a las diferentes etapas del cine de bandas y pandillas callejeras) en la que podemos controlar a los protagonistas y vivir una experiencia aún más inmersiva de la que encontramos en el cine. El crítico de cine Alberto Corona la define como un “parque temático” en el que podemos vivir tiroteos, persecuciones o traiciones, de la mano de un guion más o menos elaborado.

Para el jugador más experto, sin embargo, la atracción principal se encuentra en las narrativas emergentes. La jugabilidad de la saga GTA se denomina sandbox (caja de arena) porque pone frente a los mandos un mundo abierto que podemos explorar a placer. Así, podemos elegir ir a cortarnos el pelo y comprar un traje antes de una negociación, haciendo de nuestro personaje un matón vanidoso, o elegir solo aquellas misiones secundarias que ayudan a la comunidad, haciendo del protagonista una especie de justiciero. La historia se escribe con el juego, haciendo de cada partida una experiencia única.

Pero no todo es celebración. Después de la fiesta del GTA 6 vendrá la resaca. Y todo apunta a que, a diferencia del juego, esta nueva industria no estará diseñada para acoger a todos los jugadores.

La industria del videojuego estuvo especialmente convulsa desde el fin de la pandemia. Lo que fue, paradójicamente, un momento dorado para los videojuegos -con todo el mundo encerrado en casa se dispararon la venta consolas y títulos- dejó una profunda crisis de la cual nadie parece saber cómo recuperarse. El auge de la IA, que disparó el precio de los microcomponentes, tampoco ayuda a imaginar un futuro próspero para un sector que depende de la venta de hardware (consolas, ordenadores, móviles...) tanto como de la venta de juegos.

Pero fue durante este año cuando los jugadores pudieron ver con mayor claridad cómo la industria del videojuego se va a ir haciendo cada vez más excluyente desde el punto de vista económico. Las grandes compañías que dictaminan las tendencias en el mercado ya dejaron claro que los juegos, en especial los más populares, van a subir progresivamente de precio. En general, los títulos de esta generación van a pasar a costar un 28% más que los de la generación anterior. Así, si hace unos años un 'triple A' podía costar entre 60 o 70 dólares, ahora el precio habitual es más de 90 dólares.

La polémica del primer gran juego sin disco

Lo que se compra con ese dinero, además, se está devaluando. El pasado 1 de julio Sony anunció que a partir del 1 de enero del 2028 dejará de vender juegos en formato físico, lo que significa que, a partir de ese momento y a un precio mínimo de unos 92 dólares, no compraremos un disco que nos otorga una copia del juego en propiedad, sino una licencia digital de uso temporal que puede ser revocada en cualquier momento, por ejemplo, si Sony decide cerrar parte de sus servidores.

Aunque GTA 6 llegará al mercado el próximo 19 de noviembre, más de un año antes de la desaparición del formato físico en PlayStation, el título no se venderá en disco a pesar de costar 93 dólares en su versión Standard y 115 dólarees en su versión Ultimate. Que el juego vaya a convertirse en un éxito sin precedentes va a ser leído por estudios y publishers como la demostración de que los jugadores están dispuestos otra vez a pasar por el aro, haciendo cada vez más difícil que Sony dé marcha atrás en su decisión del pasado julio.

Lo mismo pasa con los sindicatos. En los últimos años, creció el interés de los jugadores por entender la forma en la que se hacen los juegos y por defender los derechos de los trabajadores. Rockstar es una empresa con graves antecedentes de abusos a sus empleados -la anécdota de los testículos de los caballos se suele unir a las terroríficas historias de explotación y horas extra que sufrieron los trabajadores del estudio- y, durante el desarrollo de GTA 6 fueron acusados formalmente de serias prácticas antisindicales. Si durante un tiempo el miedo a la percepción del público hizo que ciertos estudios -como Naughty Dog, responsables de The Last of Us - se posicionaran en contra de la “cultura del crunch (sobretrabajo)”, GTA 6 puede enseñarles que no tienen nada que temer. Que las polémicas pasan, pero el juego se vende igual.

Esta campaña promocional que se puso en marcha hace pocos días ya está generando polémica. Que la “mirada extendida” del juego se haya estrenado en exclusiva en Netflix, poniendo un muro de pago ante algunos de los fans, sentó un precedente que, de nuevo, tiende a hacer la industria más cerrada y exclusiva. Es el poder de ser el evento del año. Demasiado grande para fallar. Tan único, tan especial, que puede normalizar hasta las prácticas más polémicas.

Los ecos de la dimisión del ingeniero de Anthropic Jacob Coxon el pasado miércoles llegan a la ONU. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió que el desarrollo de la inteligencia artificial pone “en riesgo” todos los derechos humanos, “incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad”.

“Estamos al borde de un cambio irreversible que afectará no solo a nosotros, sino a las futuras generaciones de la humanidad. En otras palabras, todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad. La seguridad de la IA debe significar algo más que la fiabilidad técnica del producto en cuestión. Significa proteger activamente a las personas, las comunidades, las instituciones y las generaciones futuras”, escribió Türk en una comunicado.

En concreto, el responsable de los derechos humanos en la ONU señala la “carrera actual hacia una IA cada vez más potente” como un “salto cualitativo hacia mayores riesgos existenciales para cada aspecto de nuestras vidas”. “Las fallas en los sistemas de IA agéntica [que opera con autonomía], y más aún en sistemas diseñados deliberadamente con ese fin, podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y atentar contra el corazón mismo de las instituciones democráticas”, agrega. Por todo ello, pidió una “corregulación” de la industria como un “primer paso urgentemente necesario”, así como una “verificación independiente y técnicamente competente”.

La advertencia de las Naciones Unidas se suma a las lanzadas estos días por los cuatro gigantes del sector: Open AI, Google, SpaceX y Anthropic. El CEO y cofundador del último de ellos, Dario Amodei, pidió desacelerar la carrera por mejores modelos que podrían llegar a una “automejora recursiva”. “Me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”, compartió Amodei.

El presidente de Estados Unidos, Donald Trump, en cambio, restó importancia a la alarma general por su rivalidad con China. “Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana”, aseguró Trump.

Este mismo lunes, China pidió una “barrera de seguridad” ante la negativa de Trump y advirtió de que lA se convirtió en una nueva “rivalidad entre grandes potencias”. No obstante, recordó que EE.UU. está tratando de frenar su desarrollo con medidas como el embargo de chips avanzados.

El detonante llegó el pasado miércoles, cuando el ingeniero Jacob Coxon dimitió de su puesto en Anthropic con un comunicado que encendió las alertas al denunciar que las empresas ocultaban el verdadero riesgo de la inteligencia artificial. “Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y apostando nuestras vidas en esa carrera”, afirmó en su perfil de X, donde subrayó: “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”.

Desde Naciones Unidas, Türk subraya que “en el mundo actual, dependemos casi por completo de un pequeño número de empresas poderosas para tomar las decisiones correctas sobre el desarrollo de la IA para toda la humanidad”. “El verdadero desafío hoy en día es cómo equiparar el ritmo de una gobernanza de la IA significativa con el ritmo de su acelerado desarrollo. Necesitamos una acción urgente adaptada a los riesgos sin precedentes que plantea la IA de frontera [los sistemas más avanzados]”, demandó, al tiempo que pidió “reforzar las regulaciones existentes y la rendición de cuentas por los daños relacionados con la IA causados por sistemas que ya están en uso”.

“Las empresas que están a la vanguardia del desarrollo de la IA de frontera, radicadas principalmente en la República Popular China y en los Estados Unidos de América, tienen tanto la responsabilidad como la capacidad de actuar de inmediato para reducir los riesgos. Deben trabajar en toda la industria para comprender y reforzar los controles que ya se aplican a estos sistemas, incluido el monitoreo automatizado del comportamiento del modelo, compartiendo tanto lo que funciona como lo que aprenden de los incidentes de seguridad. Es necesario desarrollar, implementar en todo el sector y mejorar continuamente una diligencia debida rigurosa en materia de derechos humanos que incorpore estándares de seguridad acordados. Y la aplicación de dichos estándares debe estar sujeta a un monitoreo interno e independiente para aumentar la transparencia y la rendición de cuentas”, agrega el Alto Comisionado de la ONU para los Derechos Humanos.

Carta completa

El Alto Comisionado Volker Türk hizo este llamamiento mediante una carta de tres páginas con el título 'Para proteger los derechos humanos ahora y en el futuro, debemos gobernar la IA de manera urgente'. Puedes leerla a continuación de forma íntegra, en inglés.

Primero llegará la ventaja cuántica. Así llaman los especialistas al momento en que un procesador cuántico resuelva un problema del mundo real de forma más eficiente que un procesador tradicional. No todos, basta con que solucione solo uno para que “todo se precipite”, explica Mario de Miguel, director de la empresa Nu Quantum en España. Porque, a partir de entonces, el objetivo de tener un computador cuántico estable aparecerá definitivamente en el horizonte cercano. Ese ordenador será una puerta al futuro de la ciencia pero también un momento temido por gobiernos, agencias de inteligencia, bancos y grandes tecnológicas.

El motivo es que uno de los primeros usos de ese computador será ofensivo. Los procesadores cuánticos no aspiran a sustituir a los tradicionales, pero sí a ser mucho más eficientes en determinadas tareas matemáticas. Y una de ellas es descifrar las contraseñas y los sistemas de cifrado actuales que protegen las comunicaciones, transferencias y bases de datos. “Los bancos están preparándose para que eso pueda ocurrir a partir de 2030 o 2032”, avanza De Miguel.

Pero tras la amenaza, llegará la aplicación científica. Nuevos materiales, nuevos combustibles, nuevos medicamentos “de manera mucho más rápida y fidedigna. Usted o yo no tendremos un ordenador cuántico en casa, no los utilizaremos para abrir documentos. Pero pueden tener un impacto enorme en determinadas aplicaciones”, insiste el ejecutivo de Nu Quantum, una puntera startup británica que abrirá oficina en España este otoño. La razón es que muchas de esas aplicaciones consisten en simular cómo se comportan las moléculas a nivel cuántico.

Los científicos llevan dos décadas hablando del potencial de la computación cuántica, pero ahora el calendario empieza a aclararse. La industria ya no habla de décadas sino de años. Numerosas empresas están recibiendo inversiones no solo para avanzar en su investigación teórica, sino para tomar posiciones en el mercado de cada a su aplicación comercial. Los datos hablan por si solos: según el último informe de la consultora McKinsey, en 2025 la inversión en cuántica se disparó un 500% respecto al año anterior, marcando un récord absoluto.

“La computación cuántica presenta una oportunidad de casos de uso de entre 1,3 y 2,7 billones de dólares para 2035, con una aceleración rápida prevista en los próximos 5 a 10 años”, explica la consultora. “Los ingresos de las compañías de computación cuántica están aumentando a medida que la comercialización gana tracción; superaron los 1.000 millones de dólares en 2025 y se estima que crecerán hasta alcanzar entre 3.200 y 4.400 millones de dólares en 2028 (+47% anual)”.

La computación cuántica ya ocupa un espacio propio en eventos como el encuentro anual de Ametic, la principal patronal de la industria tecnológica. Cristian Canton, director asociado del Barcelona Supercomputing Center - Centro Nacional de Supercomputación (BSC), fue uno de los ponentes. “La computación cuántica es una solución realista”, explicó a elDiario.es. “Ahora mismo estamos teniendo casos de uso. Para problemas muy concretos, muy bien acotados, podemos desarrollar soluciones cuánticas que nos permiten probar que estas máquinas sirven para resolverlo”.

Estamos teniendo casos de uso. Para problemas muy concretos, podemos desarrollar soluciones cuánticas que permiten probar que estas máquinas sirven para resolverlo

Cristian Canton — director asociado del BSC

“Pero no dejamos de estar aún en los albores. Con todas estas tecnologías sucede lo que se llama el efecto de palo de hockey”, continúa Canton, haciendo referencia a cómo su desarrollo puede avanzar lentamente durante años hasta que, llegado un determinado momento, se produce una aceleración muy rápida. Es un comportamiento típico de la industria tecnológica, que adquiere una forma parecida a lo que muestra el gráfico de inversiones en cuántica de McKinsey.

“Cuando se inventó el primer transistor, era muy grande y parecía imposible juntar millones en un computador. Pero hoy en día tienes trillones de transistores en tu móvil”, ejemplifica.

Mercado y apuesta geopolítica

La inteligencia artificial cambió la forma en la que se perciben este tipo de tecnologías con gran potencial de impacto en ciencia y seguridad. Esta misma semana el debate sobre los riesgos que entraña su desarrollo volvió a explotar, con voces desde dentro de los propios laboratorios advirtiendo del peligro existencial que conlleva seguir avanzando. La cuántica amenaza con repetir ese guion: tecnología con capacidad de alterar el equilibrio de poder, desarrollada a un ritmo que la fiscalización política y social no logra seguir.

En encuentros como el de Ametic, la gran pregunta es cómo impulsar el desarrollo de las empresas del sector para impedir volver a quedar atrás respecto a las grandes potencias. “Hay mercado y se tiene que crear mercado. No basta con que haya simplemente empresas de oferta y proveedores de ordenadores cuánticos si no hay usuarios”, defiende Eva Martín, directora de innovación de Qilimanjaro Quantum Tech. Esta startup es una de las más importantes del contexto español, responsable del diseño e instalación de los ordenadores cuánticos del BSC.

“El sector público y la administración, a través de mecanismos de compra pública innovadora, funcionan como un primer cliente que no es solo dar financiación. Actúa como cliente, envía señales de credibilidad hacia la inversión privada y permite crear experiencia operacional en las empresas para validar la tecnología”, continuó la experta en una de las mesas de debate de Ametic. Dicha compra pública innovadora consiste en que una administración encargue y pague el desarrollo de una tecnología que todavía no existe o que necesita ser mejorada, convirtiéndose así en uno de sus primeros clientes.

Aunque la inmensa mayoría de la financiación que reciben las startups cuánticas proviene del sector privado (representando el 97% de los 12.200 millones de dólares registrados por McKinsey en 2025), los gobiernos de todo el mundo también multiplicaron su apoyo a estas tecnologías. Los anuncios de inversión pública llegaron a los 11.400 millones de dólares solo en 2025, según el QED-C, la principal asociación internacional de empresas, instituciones y laboratorios del mercado de tecnología cuántica. La mayoría de esos fondos van a universidades e investigación, aunque una cantidad creciente se destina a vehículos como la compra pública innovadora.

En España, la Estrategia de Tecnologías Cuánticas 2025-2030 está dotada con 808 millones de euros. Esto coloca a España entre los primeros países europeos en su apuesta en este campo, solo por detrás de Reino Unido y Francia. Parte de esa apuesta se concentra en una infraestructura científica adaptada a esta nueva era: el Centro de Ciencia y Tecnologías Cuánticas (QuARC-CSIC), que reunirá a 36 grupos de investigación de 21 institutos repartidos por nueve comunidades autónomas.

En lo que respecta a capital privado, EE.UU. se lleva el 64% de las inversiones, según McKinsey, con 8.015 millones de dólares captados en 2025 frente a los 1.245 millones de la Unión Europea. Una tendencia que China está compensando con un compromiso de 15.300 millones de dólares (unos 13.000 millones de euros).

“Cualquier ralentización de la inversión pública en Europa nos deja en una posición de desventaja preocupante frente a competidores que están acelerando sus hojas de ruta”, advirtió sobre estas cifras la directiva de Qilimanjaro. Mario de Miguel, director de Nu Quantum Spain, coincide en el diagnóstico, pero destaca que el estado aún incipiente del sector representa una oportunidad. “No vamos tarde porque todavía hay muchísimo por hacer. Tenemos nichos por los que apostar y en los que nos estamos haciendo fuertes. El talento europeo es increíble, y el español también. Ahora mismo lo que hace falta es formar gente en las aplicaciones concretas dentro de cada campo”.

La inteligencia artificial convirtió la carrera tecnológica en una nueva guerra fría entre las grandes potencias y la computación cuántica parece estar generando el mismo tablero de juego. Potencial, ciencia y geopolítica vuelven a coincidir, y sus promesas empiezan a espolear una inversión que se multiplicó por seis en un solo año.