La victoria del Partido Demócrata en las elecciones de medio mandato de Estados Unidos provocó el pánico en la burbuja de la inteligencia artificial. Tanto los valores de las grandes tecnológicas como los de fabricantes de chips se desplomaron, arrastrando consigo al resto del mercado ante el temor de que estas midterms supongan un punto de inflexión en la construcción de centros de datos y en la regulación de la IA. En las bolsas asiáticas, los reguladores llegaron a imponer medidas de urgencia para intentar frenar las ventas masivas.

Wall Street perdió este jueves 3,2 billones de dólares (2,86 billones de euros) de capitalización en una sola jornada, el mayor desplome desde 2020. El Nasdaq 100, el principal índice tecnológico estadounidense, cayó un 6,4%, mientras que el S&P 500 (que agrupa a las mayores 500 empresas cotizadas del país) cedió un 4,36%. El histórico trastazo estuvo liderado por las llamadas Siete Magníficas (Google, Microsoft, Amazon, Apple, Meta, Tesla y Nvidia), que volatilizaron un total de 1,13 billones de dólares (1,01 billones de euros), su mayor caída conjunta registrada en un solo día.

Entre las tecnológicas, los mayores hundimientos se dieron en las empresas de Elon Musk, Tesla (10,8%) y SpaceX (9,1%), así como en Nvidia (9,3%). No obstante, empresas como Google arrastran una pérdida acumulada del 18% en el último mes, tras haber comunicado que está ganando menos dinero tras incorporar IA a su buscador. La propia Nvidia perdió casi el 25% de su valor en estos últimos 30 días, mientras que empresas como Intel ya se acercan al borde del precipicio, con una caída acumulada del 53,7%.

Con todo, el mayor castigo se produjo en las compañías del sector de los semiconductores. SanDisk se desplomó un 22%, Micron y Western Digital cayeron un 17%, Broadcom perdió un 10% y Qualcomm cedió un 9,5%. Las turbulencias incluso se llevaron por delante parte del fondo de cobertura Walleye Capital, que gestiona 17.000 millones de dólares (15.190 millones de euros) y se vio obligado a cerrar parte de su negocio de renta variable y a devolver el capital a sus inversores tras quedar atrapado por las caídas.

Los centros de datos, el motor asiático

Organismos internacionales como el FMI llevan meses avisando de que la enorme inversión global en centros de datos se convirtió en uno de los motores de la economía. Ahora, los resultados de las midterms dejan en el aire parte de esos compromisos. No solo porque los demócratas hayan hecho campaña contra la expansión incontrolada de los centros de datos, sino porque en los referéndums paralelos organizados aprovechando la cita con las urnas, se aprobaron hasta 33 moratorias y aumentos de las medidas de control. Solo una petición en ese sentido fue rechazada en todo el país.

Un aviso especialmente duro para los mercados asiáticos, que concentran a los proveedores más importantes para su construcción. En Corea del Sur, el regulador bursátil llegó a aplicar un bloqueo temporal de cotizaciones durante 20 minutos tras la apertura, cuando el índice Kospi caía más de un 8%. La bolsa de Seúl es muy dependiente de empresas como el fabricante de memorias SK Hynix (que perdió un 10,51% y acumula un 32% en el último mes) o Samsung (6,35% y 30%, respectivamente). Para intentar frenar la sangría, el Gobierno surcoreano decretó una exención de tres meses en los requisitos de garantías para las compras de acciones a crédito.

La Bolsa de Taiwán, el Taiex, cerró con un retroceso del 4,51% y acumula un desplome del 20% respecto al máximo histórico alcanzado el pasado 6 de octubre. En el parquet de Taipei cotiza TSMC, que fabrica el 90% de los chips avanzados para la IA del mundo. La multinacional cayó este viernes un 5% y acumula un 17% en el último mes. La situación obligó al Gobierno de la isla a vender 4.000 millones de dólares estadounidenses de sus reservas, en parte para aliviar la volatilidad de la moneda local ante la venta masiva de acciones por parte de inversores extranjeros.

Nadie había visto algo así en la política estadounidense

Greg Brockman — presidente de OpenAI, sobre el rechazo a los centros de datos

En Japón, el índice Nikkei bajó de los 60.000 puntos por primera vez en más de cinco meses, lastrado por la caída del 10,83% de SoftBank, uno de los mayores inversores mundiales en IA. El fabricante de cables para centros de datos Fujikura cedió un 9%, la productora de memorias Kioxia bajó un 8,7%, Tokyo Electron perdió un 5% y Advantest un 5%. Los retrocesos alcanzaron también a los parqués chinos de Shenzhen (-2,57%), Hong Kong (-1,29%) y Shanghái (-1,10%).

La apertura de las bolsas europeas también se vio arrastrada por estas caídas, aunque no hasta las cotas vividas en Asia y EEUU. Tanto el Ibex 35, como Londres, Milán, Fráncfort y París abrieron con contracciones cercanas al 1%.

“Nadie había visto algo así en la política estadounidense”, afirmó Greg Brockman, presidente de OpenAI, sobre el rechazo frontal a los centros de datos evidenciado en las elecciones de mitad de mandato. Construirlos “va a ser más difícil”, reconoció la presidenta de Meta, Dina Powell McCormick, en el mismo acto, organizado por The Wall Street Journal.

“Empezar desde cero va a ser difícil y cada hiperescalador está pensando ahora: '¿Necesitamos construir fuera de Estados Unidos?' Porque son inversiones enormes, cubrirlas es algo prudente”, afirmó sobre una posible salida de estas instalaciones de EEUU. La pregunta será dónde, con Europa organizando este fin de semana sus primeras manifestaciones a nivel continental para pedir una moratoria en su construcción.

La posibilidad de desarrollar una inteligencia artificial capaz de perfeccionarse a sí misma y diseñar sus propias versiones posteriores dejó de ser un simple recurso de ficción para integrarse en la investigación científica. Un equipo de especialistas en China estudia las condiciones necesarias para alcanzar esta meta mediante la llamada automejora recursiva (RSI, por sus siglas en inglés), un mecanismo que permitiría a los sistemas de IA analizar sus propias limitaciones, modificar sus métodos de entrenamiento y utilizar los resultados para desarrollar modelos cada vez más avanzados.

La propuesta responde también a uno de los grandes obstáculos de la industria tecnológica: el incremento de los costes económicos y de la potencia computacional necesarios para desarrollar modelos más sofisticados. Si una inteligencia artificial pudiera asumir progresivamente parte de las tareas de investigación y optimización, el proceso de creación de nuevas generaciones de sistemas podría acelerarse y reducir su dependencia de los equipos humanos.

El trabajo, publicado el 10 de septiembre como prepublicación en el archivo digital arXiv y a la espera de revisión académica, establece una estructura para ordenar estas capacidades evolutivas en cinco fases de autonomía. La escala comienza con modelos cuyo desarrollo continúa dirigido principalmente por personas y avanza hacia sistemas capaces de identificar sus propias debilidades, decidir cómo corregirlas y modificar incluso los procedimientos que utilizan para perfeccionarse.

En las etapas superiores, la tecnología podría generar sus propias “metamejoras”. Este concepto implica que el sistema no solo ajustaría tareas concretas o variables internas, sino que perfeccionaría los propios mecanismos que utiliza para aprender y desarrollarse.

Primeros ensayos y escepticismo entre los expertos

Aunque el funcionamiento completo de este proceso no se comprobó en la práctica, diversos ensayos alcanzaron progresos parciales. Uno de ellos recurrió al método denominado A-Evolve-Training para optimizar el trabajo de un modelo de lenguaje con 30.000 millones de parámetros. A lo largo de cuatro fases de trabajo, la herramienta aplicó distintas pautas de entrenamiento y utilizó los datos obtenidos para orientar sus siguientes decisiones, logrando avances moderados en pruebas de rendimiento.

Sin embargo, estos resultados no equivalen a que una inteligencia artificial sea capaz de desarrollar por sí sola una generación de modelos más inteligentes. Peter Bentley, profesor de Biología Digital en el University College de Londres, cuestionó que estos experimentos constituyan una vía creíble hacia la automejora recursiva.“La idea de que alguna IA vaya a empezar mágicamente a generar por sí sola inteligencias artificiales cada vez mejores es una tontería”, afirmó a la publicación Live Science.

Bentley explica que los programas orientados a optimizar su propio funcionamiento existen desde hace décadas en el sector informático. La computación evolutiva y el aprendizaje por refuerzo, por ejemplo, emplean la retroalimentación para afinar sus respuestas y sostiene que la dificultad reside en lograr que una máquina dirija de manera independiente las investigaciones requeridas.

El especialista añade que una evolución auténtica obligaría a actuar en aspectos ajenos al propio código informático. “No resulta viable mejorarse de forma continua si no es posible perfeccionar el propio entrenamiento, ampliar los recursos de los equipos físicos y superar pruebas exigentes en situaciones reales”, argumentó. La necesidad de potencia informática y de instalaciones técnicas supone, por tanto, un condicionamiento decisivo.

El reto de demostrar un avance real en los sistemas

Kayla Blomquist, investigadora de la Universidad de Oxford y cofundadora del Oxford China Policy Lab, opina que el trabajo resulta útil para señalar los retos técnicos y de control vinculados a sistemas más independientes, aunque no plantee un camino práctico para su aplicación inmediata. También cuestiona que pueda establecerse un momento concreto en el que la IA deje de depender de las personas: “El texto expone un traspaso progresivo de funciones en vez de un cambio puntual. Es probable que nunca exista un modelo definitivo creado exclusivamente por personas”, concluyó.

Un salto bien calculado permitió a seis agentes de inteligencia artificial descubrir que podían lanzar bloques mucho más lejos si los soltaban mientras estaban en el aire. El truco tenía su mérito, porque ni siquiera los diseñadores de la simulación habían previsto aquella posibilidad. Los agentes habían aprendido a aprovechar una característica del entorno mediante sus propios experimentos, sin recibir instrucciones para encontrarla.

Ese descubrimiento forma parte de una investigación del Instituto Tecnológico de Massachusetts (MIT) sobre la capacidad de las inteligencias artificiales para aprender mediante actividades que ellas mismas eligen. El estudio, publicado en arXiv y todavía pendiente de revisión por pares, examinó a 13 agentes llamados Eko, basados en Claude Opus 4.7, que permanecieron 30 horas cada uno en una isla virtual sin tareas asignadas. Los resultados apuntan a que explorar y jugar puede mejorar su capacidad para resolver problemas posteriores.

La exploración permitió descubrir habilidades y conservarlas para tareas posteriores

La adquisición de conocimientos dependía de un sistema de memoria que permitía conservar las experiencias acumuladas por cada agente. Eko registraba sus actividades en archivos de texto donde anotaba descubrimientos, intentos fallidos y procedimientos que habían funcionado. Estos documentos sobrevivían a los reinicios de la simulación, de manera que el agente podía recuperar información aprendida anteriormente. El modelo de inteligencia artificial no recibía un nuevo entrenamiento durante ese proceso, ya que utilizaba sus anotaciones para orientar las decisiones posteriores.

Para generar esas experiencias, los investigadores habían preparado una isla con varias plataformas elevadas, doce cubos, una roca y un anillo. Los agentes controlaban avatares mediante instrucciones escritas y recibían descripciones textuales de las coordenadas y los objetos, sin acceder a imágenes del escenario. Podían desplazarse, saltar, recoger elementos y arrojarlos, con libertad para investigar las posibilidades del entorno.

Aquella libertad dio lugar a actividades que iban mucho más allá de recorrer el escenario. Un agente utilizó el anillo como canasta de baloncesto, mientras otro dispuso cubos para jugar a los bolos. También aparecieron corazones construidos con piedras, pirámides y representaciones de constelaciones como Casiopea. Otro Eko consiguió realizar 50 capturas consecutivas haciendo malabares, pero anuló su propio récord al considerar que los lanzamientos eran demasiado cortos y decidió imponer reglas más exigentes.

La utilidad de aquellas experiencias se comprobó al enfrentar a los agentes exploradores con copias nuevas que carecían de ese aprendizaje previo. En una prueba que consistía en trasladar objetos hasta la cima más elevada, los experimentados consiguieron colocar una media de 10,3 frente a los 3,5 de sus competidores. Según informa MIT Technology Review, eliminar de la memoria el descubrimiento de cómo generar bloques adicionales redujo de seis a dos el promedio de torres construidas. También ocurrió lo contrario, porque borrar una creencia equivocada sobre cómo apilar objetos mejoró el rendimiento.

Las dudas sobre el juego condicionan las futuras aplicaciones robóticas

Estos resultados respaldan la existencia de aprendizaje, aunque todavía queda por determinar si las actividades observadas constituyen auténtico juego. Antonio Norelli, investigador del MIT, relaciona esos comportamientos con criterios estudiados en animales, como inventar reglas, modificar desafíos y utilizar objetos para representar otros. Sin embargo, Eunice Yiu, científica cognitiva de la Universidad de California en Berkeley, advierte en MIT Technology Review: “Podría ser que los modelos estuvieran jugando de verdad, pero no lo sabemos basándonos en el artículo”.

Las dudas también afectan a las condiciones del experimento, porque las instrucciones iniciales describían a Eko como un agente curioso y dispuesto a explorar. Algunos necesitaban mensajes adicionales para continuar actuando después de quedarse inmóviles. TechCrunch también informó sobre estas condiciones y sobre el potencial del aprendizaje autónomo.

Para comprobar si esa curiosidad se debía a las instrucciones iniciales, los investigadores probaron quitando esas características a cinco agentes, que también mostraron comportamientos variados, mientras que los agentes basados en otros dos modelos de inteligencia artificial realizaron actividades menos diversas. Los investigadores consideran que explorar entornos controlados podría ayudar a futuros robots a adaptarse a situaciones desconocidas, siempre que se comprenda mejor cómo adquieren y utilizan esos conocimientos.

¿Podemos seguir confiando en nuestra intuición? Hasta de eso estamos dudando. Un premio de nueva creación está en suspenso a la espera de que el galardonado aporte pruebas que confirmen la autoría del manuscrito.

La historia la detonó El País, que pasó el detector de IA Pangram a la novela breve Donde el agua trabaja, del escritor peruano David Silva Rojas, con la que consiguió los 20.000 euros del premio Almadía Ventosa-Arrufat, creado por una alianza entre la fundación que gestiona el legado de un matrimonio de hosteleros catalanes exiliados a México y la editorial Almadía de ese mismo país, que tiene 20 años de buen catálogo y una oficina recién abierta en España. La editorial canceló las presentaciones del libro previstas para los días siguientes.

Al jurado del premio podemos calificarle de lo que se suele denominar como, esta vez sí, reconocido prestigio; palabras mayores, de lo mejor de la literatura latinoamericana. Las escritoras Cristina Rivera Garza, Selva Almada y Mónica Ojeda escogieron Donde el agua trabaja entre 2.204 manuscritos procedentes de 22 países y cuatro continentes. Se quedaron finalistas Camila de Urioste, Ivo Marinich y Félix Bruzzone, tres autores con obra. Para Silva Rojas, en cambio, esta sería su primera publicación. De profesión abogado, acababa de obtener una mención en otro concurso con otra novela corta este mismo año.

En la nota del fallo, el pasado mes de julio, las escritoras definieron el lenguaje de la novela como “sutil”, formado por “oraciones breves como el goteo de los regadores en las viñas, sin caer nunca en la tentación del panfleto ni la declamación”.

Durante la investigación, no solo se pasó Pangram al libro, sino también a las respuestas del autor a una entrevista y a un texto de Silva Rojas sobre su novela, y el resultado apuntaló la teoría de la IA. Elizabeth Duval, una de las firmantes, decía que incluso los pies de foto de los post de Instagram del autor repiten “los tics” de la IA.

La sospecha la levantó una intuición de Duval. Pero esa intuición no apareció en las escritoras del jurado ni en los editores, cuyo “rigor” y “meticulosidad” fueron defendidos en una carta firmada por Mariana Enríquez, Juan Villoro o Liliana Colanzi, entre otros. “Nuestra mirada reúne experiencia, sensibilidad e interpretación”, dijeron de la editorial, que recibió la situación con “desconcierto” y pidió explicaciones al autor. Este dijo que no había usado IA y Almadía aseguró no tener “elementos para desconfiar de su palabra”.

La sospecha de la IA causó una reacción furibunda en América Latina, desde donde se lanzaron muchísimos mensajes que colocan el artículo de El País en una situación de ‘Europa blanca y colonial acusa con las herramientas de la industria tecnológica blanca y colonial’.

En algún lugar entre la fe furibunda en la máquina y el ataque ideológico furibundo podemos situar la pregunta (puede que furibunda también) del inicio de este texto, una pregunta que se hace más urgente e importante que la de si Silva Rojas usó IA o no : ¿vamos a seguir confiando en nuestra intuición o vamos a subcontratarla también a la tecnología?

A esta pregunta le sigue otra tal vez mucho más osada: ¿durante cuánto tiempo más vamos a seguir pensando que nuestra intuición e inteligencia están por delante de la máquina? Igual nos hemos quedado tan atrás en la carrera que creemos que vamos por delante porque ya no vemos a nuestro rival delante de nosotros.

Yo quiero seguir creyendo en mi intuición —que es inasible, indefinible, inconvertible en un prompt, olorosa, táctil— para detectar la buena escritura, la chispa que me revuelve, el aliento que me estremece. Pero soy una unidad de carbono, neuronas en desaparición, carne en descomposición, y quizás cada día menos fiable.

Y tengo, sí, una intuición: quizá, en la creación artística que se viene nos conquiste más lo mal hecho, lo sucio y lo imperfecto que la belleza cristalina que nos propone la perfección pulida de la máquina.

El premio Nobel Geoffrey Hinton, uno de los pioneros de la inteligencia artificial (IA), afirmó días atrás que llegará un momento en el que los humanos no entiendan cosas que afirma la IA, “del mismo modo que las ratas no entienden el funcionamiento de los números primos”.

Hinton se expresó así durante la apertura del programa principal de conferencias de Starmus que se celebró en Arona, Tenerife, en una mesa redonda junto al psicólogo cognitivo y profesor de Harvard Steven Pinker y la exresponsable de Naciones Unidas para el clima Christiana Figueres.

En ella debatieron en el inicio de Starmus sobre la búsqueda de la verdad en una mesa moderada por el astrofísico y fundador del evento, Garik Israelian, que planteó una pregunta que atraviesa la inteligencia artificial, la ciencia y la política: cómo distinguir lo verdadero en un mundo en el que máquinas y seres humanos pueden equivocarse, confabular o seleccionar las pruebas que encajan con sus propias convicciones.

Hinton recordó cómo algunos especialistas en lingüística rechazaron inicialmente que los grandes modelos de lenguaje (LLM en inglés) pudieran comprender y generar lenguaje de manera sofisticada incluso cuando sus capacidades empezaban a ser observables, y citó a Noam Chomsky como ejemplo de un investigador al que, en su opinión, las pruebas no hicieron revisar suficientemente sus posiciones.

El científico británico planteó, además, que la inteligencia artificial llegará a comprender cuestiones que pueden quedar fuera del alcance cognitivo humano.

“De igual modo que las ratas nunca comprenderán los números primos”, ahondó, los seres humanos podrían encontrarse ante sistemas capaces de entender cosas que ellos nunca llegarán a comprender.

En ese escenario, añadió, si una IA muy superior afirma que algo es cierto “es mejor que te lo creas”, apuntó.

Las alucinaciones de la IA

Sobre las llamadas “alucinaciones” de la IA, Hinton advirtió de que su existencia no demuestra que las máquinas carezcan de comprensión, pues los propios seres humanos también reconstruyen recuerdos y confabulan acerca de hechos que creen conocer.

Así, recordó, los modelos de lenguaje aprenden de la actividad humana, por lo que es normal que repitan ese tipo de patrones.

Durante el debate, Steven Pinker coincidió en que se subestimaron las capacidades de los grandes modelos de lenguaje (LLM en sus siglas en inglés) y las implicaciones que plantean para el estudio de la cognición humana.

Pinker insistió, no obstante, en que la utilidad de estos sistemas dependerá de su capacidad para ofrecer respuestas correctas y someterlas a mecanismos de comprobación, en lugar de optimizar únicamente la interacción con el usuario.

Asimismo, Figueres planteó una perspectiva diferente al preguntarse por “mi verdad”, entendida como el conjunto de principios y hechos aceptados con los que cada persona orienta su vida, aunque reconoció la dificultad de hacer convivir esas distintas percepciones.

Enamorarse de la incertidumbre

También propuso, frente a la búsqueda de certezas absolutas, “enamorarse de la incertidumbre” y utilizarla como una herramienta para someter a examen aquello que se presenta como verdadero.

Hinton discrepó de esa formulación y defendió la existencia de una verdad objetiva: “Las personas o las culturas pueden manejar conceptos distintos pero una vez acordados los términos, determinar si una afirmación es verdadera deja de ser una cuestión de opinión”, esgrimió.

Hinton cerró esa discusión con una distinción: el poder puede controlar lo que una sociedad percibe como verdadero, pero no puede controlar la verdad misma.

El debate derivó entonces hacia por qué las pruebas no siempre consiguen modificar las creencias.

Pinker señaló que las personas suelen comportarse racionalmente en cuestiones inmediatas de su vida cotidiana, pero tienen más dificultades ante preguntas complejas o alejadas de la experiencia directa, para las que durante siglos tampoco existieron procedimientos fiables de comprobación.

Por ello Pinker situó precisamente ahí la fortaleza de la ciencia, el periodismo responsable o la democracia: no en ser infalibles, sino en disponer de mecanismos para que una afirmación pueda ser cuestionada y corregida, con instituciones capaces de mantener la confianza mostrando cómo llegan a sus conclusiones, aceptando la posibilidad de corregirse y evitando identificarse con “tribus políticas”.

El cambio climático, ejemplo entre evidencia y acción

Figueres utilizó el cambio climático como ejemplo de esa distancia entre evidencia y acción, pues existe un amplio consenso científico, indicó, pero quienes rechazan sus conclusiones pueden concentrarse en el margen de incertidumbre y utilizarlo para sembrar dudas.

A su juicio, disponer de pruebas tampoco basta si no existen las condiciones sociales, políticas y psicológicas necesarias para actuar a partir de ellas.

Por último, Pinker agregó sobre las resistencias respecto al cambio climático, que la aceptación de la evidencia científica en este tema se vinculó estrechamente con la identidad ideológica, en su opinión por la influencia de Al Gore, vicepresidente de Bill Clinton, y advirtió de que la politización de una cuestión científica facilita que las personas rechacen evidencias asociadas al grupo político contrario.

EFE

Más de 400 investigadores en inteligencia artificial y ciberseguridad de una treintena de países publicaron esta semana una carta abierta en la que reclaman “cambios inmediatos en las prácticas de desarrollo y despliegue de IA” para evitar que ponga en peligro la seguridad mundial. La misiva hace especial hincapié en que las multinacionales y laboratorios que desarrollan los modelos de frontera, especialmente aquellos denominados “agentes”, están cometiendo una “negligencia irresponsable” con sus “prácticas estándar de ciberseguridad”.

La carta, firmada por especialistas de universidades y centros de investigación de todo el mundo y que sigue sumando ratificaciones, plantea tres exigencias a los gobiernos y las empresas tecnológicas. Entre ellas, destaca la petición de desconectar de Internet a los modelos de IA con capacidad de lanzar ciberataques, así como aislarlos en “sistemas de contención de alta seguridad”.

Esta exigencia llega después de la salida a la luz de que empleados de OpenAI avisaron a la dirección de la empresa de que sus agentes estaban teniendo comportamientos peligrosos, pese a lo que la dirección de la empresa decidió no frenar los experimentos para no retrasar sus planes comerciales. Alertas que llegaron semanas antes del ciberataque masivo contra Hugging Face —una plataforma de desarrollo de IA que 1.200 agentes de OpenAI hackearon, intentando cumplir las tareas que les había encomendado la compañía— o contra webs oficiales del gobierno australiano.

Anthropic, Google y Meta también denunciaron incidentes similares. “Varias organizaciones revelaron fallos de seguridad de gran repercusión: sus modelos de IA eludieron entornos insuficientemente aislados para comprometer los sistemas de organizaciones externas”, recuerda la carta. “Sin cambios inmediatos en las prácticas de desarrollo e implementación de la IA, estos incidentes seguirán ocurriendo, y los futuros serán mucho más perjudiciales para nuestra infraestructura crítica expuesta”.

Por ello, los firmantes, entre los que se encuentra la investigadora española Carmela Troncoso (directora científica del Instituto Max Planck para la Seguridad y la Privacidad, con sede en Alemania), solicitan la creación de un organismo internacional encargado de fijar los protocolos de seguridad necesarios para investigar IA avanzada.

Esa entidad también debería ser “tener la obligación de registrar y hacer un seguimiento de los fallos de contención”, opinan los científicos. “Para aprender de los errores futuros —en los que no se logra el equilibrio adecuado y ocurren incidentes— necesitamos un mayor intercambio de información y transparencia sobre las fallas de contención en el futuro”, justifican.

Opacidad

Una capacidad que se relaciona directamente con su tercera petición: “Para garantizar que la investigación sobre seguridad y contención de la IA pueda aprender de los errores, los incidentes de seguridad relacionados con fallos de contención deben notificarse al organismo correspondiente y, posteriormente, hacerse públicos”. La carta destaca que la “transparencia es necesaria tanto para el aprendizaje como para la rendición de cuentas”.

La crítica contra la opacidad en la que operan las multinacionales y laboratorios en el desarrollo de IA de frontera está cada vez más presente en la comunidad científica internacional. El panel de 40 expertos independientes creado por la ONU ya situó la “asimetría de información entre las empresas y la sociedad” como uno de los grandes problemas estructurales de esta tecnología. En su informe, los especialistas avisaron de que esta falta de transparencia evita que los gobiernos y los ciudadanos puedan evaluar correctamente sus riesgos.

El exinvestigador de OpenAI y Anthropic Jacob Coxon advirtió este lunes que los sistemas de inteligencia artificial (IA) se acercan a un punto en el que serán “capaces de mejorarse a sí mismos” y de que, con el ritmo actual, “hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga”, lo que “podría acabar en la extinción humana”.

Coxon, que renunció de su puesto en Anthropic el pasado septiembre tras asegurar que las compañías de IA no estaban actuando con responsabilidad, dijo durante una audiencia del Concejo Municipal de Nueva York: “no sabemos cómo controlar todavía ningún sistema de IA” y el ritmo de mejora de sus capacidades “se está acelerando”.

“En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga, y eso podría acabar en la extinción humana”, aseveró.

Las preocupaciones por OpenAI y Anthropic

Asimismo, el especialista agregó que las compañías están intentando desarrollar una IA “capaz de superar a los humanos en todas las tareas” y que uno de sus principales objetivos es automatizar la propia investigación en esta tecnología.

Coxon criticó la carrera entre las empresas para alcanzar la denominada ‘superinteligencia’ y cuestionó una cultura empresarial basada en “moverse rápido, romper cosas y arreglarlas después”, algo que consideró “inadecuado” por los riesgos que eso conlleva.

Como ejemplo, relató que hace unos meses un grupo de sistemas de IA dentro de OpenAI “pirateó de forma autónoma” la plataforma tecnológica Hugging Face y desarrolló objetivos que nadie había previsto.

Según Coxon, ese incidente recordó que todavía no se sabe cómo impedir que los sistemas desarrollen objetivos no deseados ni se dispone de salvaguardas suficientes.

Investigador de IA automatizado

La automatización de la investigación en IA es ahora, según dijo, el principal objetivo de estas compañías.

Coxon explicó que en OpenAI había objetivos para disponer de un investigador de IA automatizado alrededor de 2027 o 2028 y aseguró que están “en camino” de cumplir esas expectativas, algo que situó “a meses” y no a décadas.

“Entregar tanta responsabilidad mientras no podemos controlar las IA sería profundamente irresponsable”, argumentó, y pidió más transparencia para el público y expertos independientes.

Su intervención se produjo durante una audiencia del Concejo Municipal de Nueva York sobre los riesgos de la IA, impulsada por su presidenta, Julie Menin, quien advirtió de las “serias preocupaciones de seguridad existencial” asociadas al desarrollo de esta tecnología.

Menin defendió al comienzo de la sesión que la IA no puede quedar sometida únicamente a la autorregulación de las empresas y abogó por establecer medidas de seguridad.

La audiencia reúne a representantes de OpenAI, Anthropic, Google y Meta, llamados a declarar bajo juramento ante el pleno del Concejo.

Las empresas de IA defienden sus controles de seguridad

Por su parte, las principales empresas de IA defendieron sus sistemas de seguridad, pero evitaron comprometerse de forma inequívoca a no desplegar modelos que no superen una evaluación independiente.

Durante la audiencia, Menin pidió bajo juramento a los representantes de OpenAI, Anthropic, Meta y Google que se comprometieran a no lanzar un modelo si fallaba una prueba interna o una evaluación de terceros no seleccionados por la propia empresa.

La representante de OpenAI, Morgan Dwyer, dijo al respecto que la compañía “no va a lanzar modelos que no consideremos seguros” y defendió que sus evaluaciones cuentan con terceros y con la colaboración de los Gobiernos de Estados Unidos y Reino Unido.

Mientras, el representante de Anthropic, Logan Graham, explicó que su empresa lleva cuatro años trabajando en la cuantificación de riesgos, incluidos los relacionados con la bioseguridad y la ciberseguridad, pero reconoció que se trata de un proceso “intrincado y lleno de matices”.

Graham afirmó que Anthropic publica informes en los que explica “qué probabilidad creemos que tienen determinados tipos de estas amenazas de llegar a producirse” y defendió las evaluaciones independientes como “uno de los componentes más importantes” del proceso.

Mientras, el representante de Meta, Shane Cahill, describió un sistema de seguridad “de varias capas” y, preguntado por la posibilidad de cuantificar los riesgos, dijo que no quería “ser impreciso”.

Por su parte, la representante de Google, Alice Friend, explicó que la compañía utiliza marcos específicos para detectar capacidades peligrosas, pero admitió que predecir el riesgo catastrófico futuro “no es una ciencia perfecta”.

Friend agregó que “no existe actualmente una base científica suficientemente rigurosa para asignar probabilidades precisas a determinados riesgos catastróficos”.

EFE

El director ejecutivo de OpenAI, Sam Altman, calificó al magnate Elon Musk de “abusador” y defendió la necesidad de responder con contundencia a sus ataques, en una entrevista publicada este lunes por la revista Vanity Fair.

“No me gustan los abusadores, y creo que Elon es uno. Pienso que de vez en cuando hay que devolverles el golpe con un puñetazo”, afirmó Altman al ser preguntado por la disputa pública y legal que mantiene con el propietario de Tesla y de la red social X.

El máximo responsable de la compañía creadora de ChatGPT señaló además que “Elon, como muchos abusones, solo respeta a quienes hacen lo mismo que él”.

La tensión entre Sam Altman y Elon Musk

Ambos empresarios, que formaron parte del grupo fundador de OpenAI en 2015, mantienen una tensa rivalidad desde hace años, acentuada por las críticas de Musk sobre el rumbo comercial de la firma y el desarrollo de su propia competidora de inteligencia artificial (IA), xAI.

En la entrevista, el líder de OpenAI reiteró que la regulación de la IA no debe quedar exclusivamente en manos privadas: “Necesitamos que nuestros gobiernos den un paso al frente (…) y la voluntad del pueblo debería reflejarse en algunas de las decisiones cruciales que la sociedad tiene que tomar”.

También reivindicó que los beneficios de la IA, como ayudar a encontrar una cura “para el cáncer y el Alzheimer”, superan los riesgos, y que no se debe detener la tecnología.

Sobre las presiones de los inversores de cara a una salida a bolsa, Altman asegura que tomará decisiones beneficiosas para la humanidad pese a los costes financieros, y quitó importancia a la posibilidad de que baje el precio de las acciones por ello.

EFE

La compañía tecnológica Anthropic anunció la semana pasada que su modelo de inteligencia artificial (Claude) había servido para encontrar “un novedoso sistema enzimático con propiedades que recuerdan a CRISPR” al que bautizaron como ART. Unas horas después, un artículo en The New York Times reveló que el hallazgo de estas “transcriptasas inversas asociadas a matrices” como potencial herramienta de edición genética no era tan novedoso como se anunciaba ni genuino de la IA: el biólogo computacional Mario Rodríguez Mestre, de la Universidad de Copenhague, ya lo había descubierto en 2022. 

“El descubrimiento que ellos hacen no es nada nuevo, era algo que ya se sabía”, explica el investigador español. “Y eso de que es una herramienta de edición genética parecida a CRISPR no es cierto. No se parece a CRISPR en nada”. Rodríguez Mestre asegura que él y su equipo utilizaron extensamente Claude para su investigación y que esta IA tenía acceso a su manuscrito de tesis, a todas las carpetas compartidas del laboratorio y a los correos con colaboradores. “Es decir, prácticamente a todo”, resume. “Sobre si la inteligencia lo ha sacado de ahí, no tengo ninguna prueba para demostrarlo, pero es una posibilidad y una sospecha”.

Rodríguez Mestre aclara que estas moléculas son en realidad retrones: transcriptasas inversas que sintetizan ADN a partir de una plantilla de ARN no codificante en virus gigantes (jumbófagos), una arquitectura que permite generar grandes cantidades de ADN y que abre la puerta a la edición genética múltiple. El equipo del científico ya había identificado y caracterizado exactamente estas mismas secuencias y sus conjuntos de ARN en 2022 —a las que bautizaron como «jumbotrones»—, pero estos resultados no estaban publicados en ninguna revista científica ni repositorio de preprints. La única vía para que el modelo dispusiera de esa información era a través de los borradores y materiales privados que él mismo había compartido con Claude durante sus investigaciones.

Una polémica con antecedentes

La polémica se produce unas semanas después de que otra tecnológica, OpenAI, anunciara una solución al problema de Navier-Stokes, uno de los seis problemas del milenio, entre sospechas de que se basaron en las ideas de los dos matemáticos españoles que trabajaban en eso. El biólogo español, que se enteró del anuncio de Anthropic por el aviso de otros expertos que conocen su trabajo, cree que en su caso hay dos posibles explicaciones. La primera, que considera menos probable, que usaran sus datos para el hallazgo. La segunda, que los propios científicos de la tecnológica ya conocieran la existencia de estas secuencias de moléculas y guiaran deliberadamente a la IA con datos preprocesados para forzar el resultado y venderlo como un logro autónomo.

Llamo a toda la comunidad científica a que se lo piense dos veces antes de utilizar LLM propietarios y empiece a buscar alternativas

Mario Rodríguez Mestre — Biólogo computacional de la Universidad de Copenhague

“Cualquiera de las dos me parece que entraña una serie de problemáticas que afectan a cualquier tipo de investigador que esté utilizando estas herramientas”, asegura. “Lo que parece muy claro es que no ha sido un descubrimiento autónomo de la inteligencia artificial”. Por este motivo, Rodríguez Mestre anuncia que dejará de usar la herramienta y recomienda a los otros científicos seguir su ejemplo. 

“Yo voy a dejar de usar Claude y ahora mismo estoy intentando migrar todo lo que yo ya tenía a modelos open source”, asegura el científico. “Creo que la posibilidad de que la IA se hubiera utilizado para entrenar con mis datos es real y merece la pena ponerlo de relieve. Por eso llamo a toda la comunidad científica a que se lo piense dos veces antes de utilizar LLM propietarios y empiece a buscar alternativas y no depender de empresas cuyas políticas de recopilación de datos y de ética no están muy claras”. 

Viendo las orejas al lobo

Tras el anuncio de OpenAI de la solución de unos de los problemas del milenio, los matemáticos más destacados del mundo firmaron un manifiesto para pedir transparencia en el uso de estas herramientas. Si se extiende la sospecha sobre la forma en que trabajan las empresas desarrolladoras de la IA, advertían, los matemáticos dejarán de compartir sus resultados para evitar que el algoritmo se los apropie. Rodríguez Mestre también quiere poner encima de la mesa esta preocupación en su campo. “Empezaron con los artistas, luego los escritores, los diseñadores de código y ahora nos ha tocado a nosotros los científicos”, asegura. “Quizás creíamos que no nos íbamos a ver afectados, pero bueno, aquí le estamos viendo las orejas al lobo”.

Quizás creíamos que no nos íbamos a ver afectados, pero bueno, aquí le estamos viendo las orejas al lobo

Mario Rodríguez Mestre — Biólogo computacional de la Universidad de Copenhague

Toni Gabaldón, jefe del grupo de Genómica Comparada del IRB Barcelona, cree que el caso de los matemáticos ya daba a entender que es muy posible que esta apropiación de los datos en investigación estuviera ocurriendo. “Es un peligro que hay que tener en cuenta”, explica. “Partir de la idea de que las empresas tecnológicas van a mantener una ética rigurosa es un poco naíf, porque no hay manera de comprobarlo. Tú escribes en tu ordenador en Barcelona y esos datos van a un centro de cómputo que está en Arizona, en China o en otro sitio; por ahí pasan tus datos y un modelo puede estar aprendiendo de eso. ¿Quién te dice a ti que no ha pasado eso?”.

En su caso, decidió hace tiempo no usar la IA para procesos creativos y solo para procesos mecánicos y aburridos. “Pero incluso ahí tienes el peligro”, advierte. “Porque cuando envías un artículo, puede que algún colaborador o revisor lo meta en ChatGPT o Claude, y esa información puede estar llegando por otro lado. Al final tampoco eres dueño de eso”. A su juicio, Anthropic le dio demasiado bombo al anuncio sobre su nueva herramienta molecular, porque se conocen estas y otras parecidas. “Uno de los efectos de la IA es que mucha gente creerá haber encontrado cosas que ya existen: vamos a reinventar la rueda muchas veces”, predice. 

Un “toque de atención” para todos

Para el genetista Lluis Montoliu, del CNB-CSIC, el caso es preocupante, porque se suponía los modelos de pago de estas herramientas de IA garantizaban que los textos no se compartían con la nube. “Todo parece indicar lo contrario y me temo que deberemos ser mucho más cuidadosos y deberemos evitar introducir aquellos experimentos que todavía no estén publicados y que puedan representar una novedad en un determinado campo”, señala. “Incluso cuando subimos un texto para corregir la gramática del inglés eso puede pasar a ser del acervo del universo de la IA”. En su opinión, este último caso, junto con lo que sucedió en el problema del milenio de OpenAI, es un “toque de atención” a los científicos para que revisen cómo usan estas inteligencias.

Me temo que deberemos ser mucho más cuidadosos y evitar introducir aquellos experimentos que todavía no estén publicados o sean novedosos en un determinado campo

Lluis Montoliu — Investigador del CNB-CSIC

“Yo uso estas herramientas diariamente”, explica Ana Rojas, bióloga computacional del CSIC y directora del grupo de Biología Computacional y Bioinformática (CBBiO). El problema, asegura, es que los científicos cada vez son más dependientes de estas herramientas y tienen que confiar en lo que las compañías dicen. “Ellas dicen: no, nosotros no entrenamos los modelos. Pero está claro que lo hacen, porque este tipo de información no podrían obtenerla de otro modo”, señala. 

Para la especialista, la situación es muy complicada para los científicos, porque los científicos están indefensos. “Tienes que confiar en que las tecnológicas que mantengan esa privacidad, pero claramente ellas van a querer sacar beneficio a costa de la privacidad de los usuarios”, señala. Es una situación similar a la que vivieron los pequeños fabricantes que denunciaron que Amazon copiaba su producto cuando ve que tiene éxito, admite. “Por otro lado, las tecnológicas deberían compartir el crédito con los autores humanos, pero si lo hacen tienen que reconocer que han sacado esa información de informaciones confidenciales”. 

Las tecnológicas deberían compartir el crédito con los autores humanos, pero si lo hacen tienen que reconocer que han sacado esa información de informaciones confidenciales

Ana Rojas — Directora del grupo de Biología Computacional y Bioinformática (CBBiO) e investigadora del CSIC

César de la Fuente, investigador y director del Machine Biology Group de la Universidad de Pennsylvania, lleva años trabajando con IA para encontrar nuevas moléculas con interés biomédico y cree que la investigación está experimentando una sacudida sin precedentes. “Las reglas del juego están cambiando muchísimo, por eso se está causando tanto revuelo y estrés”, asegura. “En biología y ciencias de la vida parecía que estábamos más lejos de este escenario que los matemáticos, porque hace falta hacer experimentos, pero todo va muy deprisa”. En su laboratorio, tomaron la precaución de no introducir sus resultados en los sistemas de IA y trabajar localmente. 

“En teoría, estas compañías te garantizan que no lo usan como parte del entrenamiento de sus modelos si usas los modelos de pago, pero siempre que usas un software o herramientas de compañías privadas hay la posibilidad de que haya filtraciones de lo que estés haciendo”, explica De la Fuente. “En cualquier caso, para aquellas personas preocupadas o que estén trabajando en algo altamente confidencial, existe la opción de descargarse un modelo preentrenado de IA de open source y hacer el entrenamiento de manera local, sin estar conectado a ningún lado”

Para De la Fuente, las tecnológicas corren el riesgo de ganarse tan mala fama que los científicos se nieguen a colaborar o a usar sus herramientas. “Tener malas relaciones públicas les puede pasar factura”, señala. “Si al final nadie quiere trabajar con ellos va a ser un problema, se están moviendo tan rápidamente que tienen que tener cuidado”. “La mayor parte de los científicos ha adoptado la IA de manera ciega y acrítica porque les facilita el trabajo, pero este tipo de cuestiones empiezan a generar un sentimiento de incomodidad y a pensar que esto también tiene sus peligros”, resume Toni Gabaldón. “Estamos despertando un poco ahora”.

Ana Rojas también recomienda a los otros investigadores que tengan mucho cuidado y descarguen los modelos de IA en equipos locales cuando sea posible. “Y la información confidencial, las discusiones, que se hagan de la manera tradicional, hablando por teleconferencia y cosas de ese tipo”, afirma. “Tenemos que pensar entre nosotros cómo defender nuestro trabajo ante el reto que viene”, concluye. “Es un gran reto que toda una comunidad tenemos que abordar, no solamente la gente que trabaja en IA, sino todo el mundo que trabaja en ciencia en general o en humanidades, porque llegará un momento en que ellos van a ser los propietarios de todos los modelos y entonces no podemos competir. Tenemos que hacerlo de otra manera”.

Hace unos meses, Naciones Unidas llamó a 40 grandes expertos internacionales. Quería encomendarles la misión de ser el comité independiente que asesorara al mundo sobre una de las grandes incertidumbres de este siglo: la inteligencia artificial.

El panel está liderado por el canadiense Yoshua Bengio, considerado uno de los “padres” de la IA y ganador del premio Turing (el Nobel de la informática), y la filipina Maria Ressa, premio Nobel de la Paz. El grupo publicó en julio su primer informe preliminar, en el que reconoce el peligro sobre “perder el control” sobre esta tecnología, pero también sobre la opacidad con la que se está desarrollando o su capacidad para aumentar las desigualdades.

Mark Coeckelbergh (1975, Lovaina, Bélgica), profesor en la Universidad de Viena y uno de los filósofos de la tecnología más reputados del mundo, es otro de sus miembros. Su presencia era importante porque, quizá por primera vez en la historia, las narrativas sobre lo que podría hacer una máquina son tan importantes como lo que puede hacer realmente esa máquina.

“Hay un pensamiento marcadamente catastrofista y apocalíptico, la idea de que llegará un momento en el que todo saltará por los aires y la IA tomará el control. Ese discurso es en sí mismo un problema, y quizá mayor que las limitaciones técnicas actuales del software”, advierte Coeckelbergh en esta entrevista, realizada durante el Festival de las Ideas de Madrid.

Solemos pensar que somos nosotros quienes manejamos los dispositivos, pero ¿hasta qué punto es la tecnología la que nos maneja a nosotros?

Tendemos a ver la tecnología como una herramienta, como un simple instrumento que utilizamos, pero la tecnología también hace muchas cosas con nosotros. Parte de esto tiene que ver con el cuerpo: cuando usamos el móvil, por ejemplo, nos obliga a caminar de una determinada manera, a adoptar cierta postura o a mover los dedos de una forma muy concreta. He escrito sobre esto planteando que la tecnología también nos “coreografía”. Muchos filósofos solo piensan en la mente y el cuerpo de forma estática, pero en nuestras vidas hay una dimensión cinética. No solo somos seres corpóreos, sino seres en movimiento, y la tecnología moldea cómo nos movemos. En ese sentido, nos coreografía.

En nuestra existencia hay una cierta dimensión cíborg: tenemos una base orgánica y biológica, pero en el día a día ya estamos plenamente entrelazados con lo tecnológico.

Esto me parece relevante porque solemos pensar que las tecnologías digitales son algo ajeno al cuerpo, separado del mundo físico. Establecemos una frontera muy tajante entre lo vivo y natural, por un lado, y lo cultural y artificial, por el otro, cuando en realidad siempre están conectados. En nuestra existencia hay una cierta dimensión cíborg: tenemos una base orgánica y biológica, pero en el día a día ya estamos plenamente entrelazados con lo tecnológico.

¿Qué implica que nuestra relación con el mundo esté mediada por una pantalla plana?

No se trata de la pantalla en sí, sino de todo lo que posibilita y de los límites que impone a nuestra forma de movernos por el mundo. Caminar por Madrid sin Google Maps mientras conversas con alguien es una experiencia completamente distinta a llevar el móvil en la mano y dejar que la aplicación te guíe. Supone otra vivencia e incluso otro tipo de conocimiento: nos movemos de manera diferente y pensamos de manera diferente.

Al final, esto altera nuestros propósitos. Creemos que el móvil es un simple instrumento, pero en el primer caso el fin es la conversación o el vínculo con la otra persona y con el entorno; en cambio, si nos limitamos a mirar la pantalla y seguir sus indicaciones, nos convertimos, por así decirlo, en el cursor: en aquello que se desplaza a través del mapa.

Por eso es fundamental plantearnos qué tecnologías queremos utilizar y cómo podríamos diseñarlas de otro modo, tal vez buscando una mayor conexión con lo que nos rodea. Tal como están planteadas hoy no creo que sea la dirección adecuada: no contribuyen a los fines ni a los valores que consideramos esenciales como seres humanos.

Hace años predominaba una visión optimista sobre el impacto democratizador de la tecnología, pero hoy parece alejarse de nuestros fines humanos. ¿Podemos mantener el optimismo sobre el desarrollo de la inteligencia artificial como una herramienta para extender nuestro cuerpo?

No me parece mal usar la tecnología para extender el cuerpo, pero la cuestión es qué pretendemos lograr con ello. En estos momentos existe dentro del propio sector tecnológico una corriente que más bien niega el cuerpo, que busca escapar de él. Esto enlaza con una pulsión más amplia: una suerte de huida de la Tierra y de nuestra condición terrenal y física; un intento de eludir esa vulnerabilidad que, paradójicamente, es la que hace posible nuestra propia humanidad y los valores que apreciamos.

En estos momentos existe dentro del propio sector tecnológico una corriente que niega el cuerpo, que busca escapar de él

Creo que debemos hacer frente a esta deriva de la industria y resistirnos a ella. Es necesario plantearnos cómo garantizar un desarrollo técnico que amplíe el cuerpo y la mente sin alienarnos de la naturaleza, reconociendo que siempre existen límites y que no podemos empujarlos indefinidamente.

Ha habido un gran debate sobre la tecnología en las aulas tras la publicación de los resultados del informe PISA, por su impacto en la atención y el rendimiento escolar. Hay voces que defienden que habría que sacar completamente las pantallas de las aulas, ¿está de acuerdo?

No lo tengo tan claro. Por supuesto que existe un problema y, en general, debemos asegurarnos de que el desarrollo de tecnologías inteligentes no nos vuelva más estúpidos. El problema radica tanto en las herramientas en sí como en el modo en que las utilizamos. Con la inteligencia artificial y los modelos de lenguaje (LLM), por ejemplo, puedes pedirles que te escriban un trabajo entero, pero también puedes utilizarlos como un asistente, sin que lleguen a sustituir tus propias competencias ni tu pensamiento.

Por supuesto que existe un problema [en las aulas] y en general, debemos asegurarnos de que el desarrollo de tecnologías inteligentes no nos vuelva más estúpidos

Por eso creo que lo fundamental es, por un lado, garantizar el espacio necesario para entrenar esas capacidades en las aulas a todos los niveles (incluida la universidad, que también se está viendo muy afectada por esto) y, por otro, enseñar a usar la tecnología con inteligencia: no para reemplazarlo todo, sino para facilitar tareas, fomentando una postura crítica hacia ella.

Para lograrlo es imprescindible formar también a los docentes. Como sociedad nos falta investigación y experiencia sobre cómo gestionar este cambio y definir buenas prácticas educativas e investigadoras con la IA. Estamos solo al principio de ese camino. En el pasado ya ocurrió con otros medios, como la televisión: suscitó muchísima preocupación, pero aprendimos a integrarla y los efectos negativos resultaron ser menores de lo que se temía en un inicio. Creo que con la IA pasará algo similar, pero tenemos que actuar de forma proactiva porque el avance es vertiginoso. Necesitamos repensar de verdad la educación a la luz de estas tecnologías.

Solemos fijarnos en lo que los jóvenes pierden frente a las pantallas, como la capacidad de atención. Pero, ¿podrían estar adquiriendo habilidades que las generaciones anteriores no tenían?

Sin duda se abren oportunidades. Ahora mismo, por ejemplo, estoy escribiendo sobre IA y creatividad, y el debate es idéntico: hay quien afirma que destruye la creatividad y que acabará con el arte. No creo que tenga por qué ser así; podemos utilizarla de forma creativa y pensar en cómo combinar aquello en lo que destaca la IA con los puntos fuertes de los humanos. En ese terreno soy bastante más optimista.

Hay quien afirma que [la IA] destruye la creatividad y que acabará con el arte. No creo que tenga por qué ser así; podemos utilizarla de forma creativa y pensar en cómo combinar aquello en lo que destaca la IA con los puntos fuertes de los humanos

Eso exige que experimentemos, que probemos y que nos fijemos en los artistas que ya la integran de maneras que, además de plantear una mirada crítica sobre sus aspectos negativos, abren nuevas posibilidades. Hoy resulta fascinante poder generar con IA material audiovisual con un impacto inmediato en el mundo y orientado a fines muy positivos. Debemos ser capaces de aprovechar estas oportunidades y ensayar nuevos caminos, por supuesto sin perder de vista los dilemas éticos y políticos.

Usted forma parte del panel de expertos de la ONU sobre los riesgos de la inteligencia artificial. ¿Qué lectura hace de la vorágine de estas últimas dos semanas, tras las advertencias de miembros de la industria de la IA de que está podría "matarnos a todos antes de 2030"?

Es un fenómeno interesante, no tanto por lo que ha ocurrido a nivel técnico, sino por la reacción social y la forma en que lo presenta el propio sector. Desde el punto de vista técnico es indudable que existen problemas con sistemas que no respetan los límites establecidos; de hecho, en el panel de la ONU trabajamos sobre estas cuestiones. Sin embargo, lo que me llama la atención de la narrativa que surge de las grandes tecnológicas es que se plantee como el principio del fin del mundo. Hay un pensamiento marcadamente catastrofista y apocalíptico, la idea de que llegará un momento en el que todo saltará por los aires y la IA tomará el control. Ese discurso es en sí mismo un problema, y quizá mayor que las limitaciones técnicas actuales del software.

El problema radica en que estos líderes presentan la tecnología como si siguiera un camino predestinado ante el cual no podemos intervenir. En mi opinión, responde a una estrategia de marketing para acaparar atención: el mensaje implícito es “mirad lo poderosa que es nuestra tecnología”. Además, si proclamas que el gran peligro reside en tu creación, te reservas también el papel de presentarte como el único capaz de aportar la solución. Lo interpreto como una maniobra para acumular todavía más poder sobre nuestro futuro tecnológico.

Nos encaminamos hacia un escenario donde un puñado de empresas tecnológicas y sus directores ejecutivos concentran cada vez más poder para asegurarse una posición privilegiada

En una democracia esto resulta inaceptable. Deberíamos garantizar que la ciudadanía y los representantes políticos tengan voz y voto en la dirección que toma este desarrollo. No creo en absoluto que nos dirijamos hacia el fin del mundo en un sentido apocalíptico; nos encaminamos hacia un escenario donde un puñado de empresas tecnológicas y sus directores ejecutivos concentran cada vez más poder para asegurarse una posición privilegiada, mientras la inmensa mayoría saldrá perdiendo si no actuamos ya. El verdadero problema es de desigualdad y de justicia: un dilema de fondo para la democracia y para todos nosotros.

¿En qué consiste exactamente esa maniobra para acumular más poder y qué posición buscan ocupar?

Quieren ser ellos quienes decidan sobre la tecnología, pero no solo sobre el desarrollo técnico en sí, sino también sobre su regulación. Para ello se aseguran de tejer buenas conexiones, en este caso con la Administración Trump, y determinar tanto la tecnología como las leyes y su modo de inserción en la sociedad. Del mismo modo, intentan influir sobre la clase política en Europa.

A esto se suma su respaldo al uso militar de la inteligencia artificial. No estamos ante un escenario de ciencia ficción tipo Terminator en el que las máquinas tomen el mando; lo que realmente está ocurriendo es que hay seres humanos decidiendo utilizar la IA para matanzas a gran escala. Y esto es un peligro para todos, porque lo que hace la IA en esos contextos es, por ejemplo, automatizar la selección de objetivos. En lugar de obsesionarnos con si la IA se descontrola, deberíamos poner el foco en las personas que toman la decisión de que sean las máquinas las que maten o las que decidan a quién matar.

En lugar de obsesionarnos con si la IA se descontrola, deberíamos poner el foco en las personas que toman la decisión de que sean las máquinas las que maten o las que decidan a quién matar

En ese sentido veo una deriva evidente hacia una mayor concentración de poder y hacia un sesgo marcadamente autoritario donde, al igual que ocurrió en su momento con la energía nuclear, la ciudadanía apenas tiene nada que decir. Como democracias, también en Europa, debemos recuperar el control. Y no recuperarlo frente a la IA, sino frente a los tech bros.

¿Qué puede hacer Europa en este escenario, atrapada entre el empuje de Silicon Valley y la regulación de Washington, sin un gran campeón tecnológico propio capaz de materializar nuestros valores?

Como europeos podemos elegir qué tecnologías compramos, por ejemplo en los ámbitos de defensa y seguridad. Varios países europeos han adquirido la tecnología de Palantir: una tecnología que arrastra una ideología fascista y que se utiliza para matanzas a gran escala. Esa es una decisión puramente humana de ciertos dirigentes en Europa, aunque por fortuna no todos actúan igual.

Como europeos podemos elegir qué tecnologías compramos. Varios países europeos han adquirido la tecnología de Palantir: una tecnología que arrastra una ideología fascista y que se utiliza para matanzas a gran escala

Por otra parte, cabe preguntarse por qué tenemos que esperar siempre a la última tecnología que llegue de Silicon Valley o de China cuando podemos desarrollar la nuestra propia. Es un gran reto: en Europa existe consenso sobre la necesidad de hacerlo, pero construir un producto de uso masivo es algo muy distinto. No basta con que sea puntero a nivel de investigación teórica o novedad técnica; tiene que funcionar en términos de innovación real y de adopción en el mercado.

Sigue siendo un desafío pendiente, pero al final es la única vía. Solo así podremos incorporar nuestros valores y nuestras exigencias éticas, sin necesidad de comprarnos todas las patrañas que nos venden desde Silicon Valley.

Si reducimos estas alarmas a una mera estrategia de marketing, ¿existe el peligro de que pasemos por alto los riesgos reales de la inteligencia artificial?

Por supuesto. La investigación sobre estos riesgos específicos y sobre seguridad debe continuar. En ese sentido es fundamental seguir generando conocimiento (tanto desde el panel de la ONU como a escala nacional) para categorizar los riesgos y determinar cómo abordarlos.

Todavía no está del todo claro cuál es la mejor respuesta, ni siquiera dentro de nuestro propio panel. Existen diferentes enfoques en la gestión de riesgos y distintas formas de tratarlos, tanto a nivel técnico como normativo. Por eso hace falta más investigación y más tiempo.

Limitarse a despachar el riesgo como puro marketing no es suficiente. Ese trabajo técnico es imprescindible, pero también tenemos que mirar la imagen completa: hablar de las amenazas para la democracia y del sistema socioeconómico

Limitarse a despacharlo como puro marketing no es suficiente. Ese trabajo técnico es imprescindible, pero también tenemos que mirar la imagen completa: hablar de las amenazas para la democracia y del sistema socioeconómico en el que se insertan estas tecnologías. Si solo nos centramos en la gestión del riesgo o en los aspectos técnicos, perderemos esa perspectiva y desaprovecharemos la oportunidad de reivindicar como sociedad que esto nos concierne a todos. No es un asunto que deba quedar solo en manos de expertos; es un debate que corresponde a la ciudadanía y a la clase política, que debe articular una visión propia. Y hoy por hoy, esa visión todavía no existe en la medida necesaria.

Uno de los mayores riesgos señalados por el panel de la ONU es la opacidad de las tecnológicas. Frente a propuestas como introducir observadores externos en los laboratorios, ¿cómo se puede obligar a estas empresas a operar con verdadera transparencia?

Tener observadores externos como propone Dario Amodei puede ser una solución, pero creo que debemos plantearnos cómo conectar lo que ocurre en el ámbito privado de las empresas con la esfera pública: el espacio de la legitimidad donde la ciudadanía decide de forma democrática.

En la actualidad contamos con algunos comités asesores y ciertos trámites burocráticos, pero es fundamental articular mecanismos permanentes para que la democracia disponga de mayor transparencia e intervenga en lo que sucede en el sector. Ya sea cuestionando la propiedad privada de estas corporaciones o mediante otras fórmulas, debemos dirimir políticamente cuál tiene que ser el papel del Estado. Es un debate de gran calado, pero lo crucial es no permitir que sigan operando de este modo.

Asimismo, conviene mantener una postura crítica ante sus propias ofertas de colaboración: existe el riesgo de que manipulen de nuevo el relato de cara al exterior y sigamos sin saber qué ocurre realmente dentro. Por eso necesitamos ese tipo de supervisión y también un periodismo de investigación riguroso que indague en lo que sucede entre bastidores, de modo que la sociedad esté informada y podamos debatir sobre ello con criterio.

Con la proliferación de contenidos sintéticos generados por IA, donde textos, imágenes o interlocutores pueden no ser reales, ¿estamos perdiendo el contacto con una realidad compartida?

En este caso sí perdemos el contacto con esa realidad compartida. Si ya no podemos confiar en lo que es real y lo que es falso, dejamos de saber cuál es la realidad que compartimos; y la democracia necesita esa base común, por lo que supone un problema grave.

Por otro lado, la tecnología también puede ayudarnos a recuperar el contacto con la realidad. En principio puede mostrarnos el sufrimiento de otras personas o de animales que están lejos de nosotros, abrirnos a una perspectiva del mundo más compleja que la inmediata y ayudarnos a conectar con los demás. El desarrollo no tiene por qué conducir necesariamente al aislamiento.

Sin embargo, necesitamos moldear la IA, las redes sociales y todo el entorno comunicativo para disipar esta incertidumbre constante. La forma de lograrlo es un debate complejo, pero ahora mismo avanzamos demasiado hacia un escenario donde la falta de certeza impide tener un suelo común. En términos políticos, para una democracia resulta crucial saber de qué estamos hablando y evitar que cada uno quede encerrado en su propio mundo, en su propia burbuja.

Quizá sea la pregunta más difícil de todas: ¿cómo se consigue eso?

Es una pregunta muy compleja. No creo que exista una solución mágica, pero pasa, por ejemplo, por regular las redes sociales de forma específica para que resulte más difícil propagar este tipo de desinformación.

También necesitamos, una vez más, apoyarnos en la educación: formar a una ciudadanía más crítica con lo que ve y consciente de la necesidad de preservar un espacio común y construir un mundo compartido. Nos hemos volcado en exceso en preparar a las personas para el mercado laboral y en materias puramente académicas, descuidando cómo enseñar a la gente a dialogar entre sí y a crear cosas juntas.

Nos hemos volcado en exceso en preparar a las personas para el mercado laboral y en materias puramente académicas, descuidando cómo enseñar a la gente a dialogar entre sí y a crear cosas juntas

El individualismo que impera en nuestra sociedad no es únicamente responsabilidad de ciertos malos actores; forma parte de nuestra propia cultura. Debemos virar hacia una dirección donde lo común recupere su valor, no a través de un colectivismo opresivo, sino mediante un enfoque relacional: una educación y un entorno donde volvamos a conversar y a construir en común, en vez de depender de tecnologías políticas que nos dividen.

Ante un avance técnico tan acelerado que desborda a tanta gente, ¿qué deberíamos preservar como seres humanos frente a las tecnologías que vienen? ¿Qué es lo que no deberíamos perder nunca?

El ritmo es vertiginoso. Frenar no me parece un objetivo realista si nos referimos al desarrollo técnico en sí mismo, pero sí podemos desacelerar introduciendo más reflexión ética y una mayor evaluación de las tecnologías.

Para lograrlo debemos reconectar con nuestras tradiciones y con aquellos principios que sabemos valiosos, con lo que de verdad importa, procurando diseñar tecnologías que respalden esos valores y esos fines. Solo así avanzaremos en la dirección correcta.

Pero esto únicamente será posible si asumimos (volviendo al inicio de nuestra conversación) que ver la tecnología como un simple instrumento no es suficiente. Tenemos que entenderla como algo indisociable de nuestros valores y de la dimensión política, integrándola con seriedad en las grandes preguntas de fondo: qué define una buena vida desde el punto de vista ético y qué clase de vida política podemos construir juntos.

La Academia Goncourt, responsable de uno de los premios más prestigiosos de la literatura en lengua francesa, decidió retirar de su primera lista de candidatos al galardón la novela C’était ça ou mourir, del escritor haitiano Thélyson Orélien, después de detectar presuntos plagios y de que varios análisis concluyeran que la obra habría sido elaborada en buena medida con ayuda de inteligencia artificial.

En un comunicado, la Academia explica que la decisión llega después de tener en cuenta “los plagios de los que su autor se hizo responsable a lo largo del tiempo y que acaban de salir a la luz”, así como los resultados de varios análisis realizados por investigadores y periodistas que, según el organismo, apuntan en la misma dirección.

La principal conclusión de esas investigaciones es que C’était ça ou mourir sería “muy probablemente el producto de una Inteligencia Artificial”. A partir de esa valoración, la Academia Goncourt optó por sacar el título de su primera selección. El organismo justifica la decisión por su voluntad de preservar tanto la reputación del premio como el papel de la propia institución. “Esta elección es dictada por la voluntad de preservar la integridad del premio Goncourt”, señala el comunicado, que recuerda que la función central de la Academia es “promover y coronar la literatura escrita por mujeres y hombres”.

La institución aprovecha además para lanzar un mensaje al resto de participantes en los distintos premios y selecciones vinculados al Goncourt. “Se trata de enviar un mensaje claro”, afirma la Academia, para dejar constancia de que no respalda ni legitima “de una manera u otra la creación de textos generados con ayuda de la IA”. La Academia Goncourt asegura que no hará más comentarios sobre el caso y anuncia que publicará su segunda selección el 6 de octubre de 2026.

La institución pidió este miércoles actuar con cautela ante la polémica surgida en redes sociales. Su presidente, Philippe Claudel, indicó que antes de tomar una decisión necesitarían aparecer nuevas pruebas y fijó el 6 de octubre, fecha de la siguiente lista, como uno de los momentos clave. Si entonces hubiera pruebas “irrefutables” de que el libro fue generado con IA, la Academia estudiaría su exclusión, algo que terminó sucediendo.

La novela formaba parte de una primera selección de 16 títulos finalistas anunciada por el Goncourt el 2 de septiembre. Esa lista debe reducirse después a ocho obras y más tarde a cuatro. Hasta ahora, C’était ça ou mourir seguía dentro del proceso; de hecho, está gozando de un gran éxito en Francia, con más de 30.000 ejemplares vendidos y traduciéndose a más de 20 idiomas. “Estamos atentos a todas las explicaciones que nos puedan dar, tanto por parte de la editorial como del propio autor. Pero, una vez más, hay que ser prudentes”, indicaba este miécoles Philippe Claudel a Le Figaro.

El autor se defiende de las acusaciones

Claudel cuestionó que las acusaciones hayan aparecido en este momento y recordó que él mismo leyó la novela sin sospechar durante la lectura que pudiera haber sido escrita con inteligencia artificial. “Los elementos que están surgiendo son preocupantes, pero necesitamos poder verificar con certeza las técnicas utilizadas y la fiabilidad del software de detección de IA”, apuntaba Claudel. “También me gustaría comprender el origen de esta información inicial, todavía no sabemos quién financia la cuenta anónima que la inició”, agregaba el presidente. Este, a su vez, alegó a France.info que no condenan “inmediatamente” a un “autor cuyo libro está teniendo un gran éxito”.

Orélien, por su parte, negó inmediatamente la acusación. “Siempre me apasionaron la creación y la literatura. No veo por qué me sentiría obligado a usar una máquina”, declaró al periódico Libération, añadiendo que estaba “recopilando un expediente” con su editor para demostrar que él fue el autor auténtico del libro. “Mis tradiciones son haitianas y caribeñas. Las imágenes, las repeticiones y los ritmos son la palabra viva, son míos”, alegó el escritor.

“Creo que el software está acostumbrado a las tradiciones literarias francesas y a los autores clásicos”, dijo el escritor de 38 años para defenderse. La editorial Grasset también salió en su defensa, afirmando que las acusaciones “son terriblemente perjudiciales para un escritor con una historia de vida excepcional” cuya “obra de creación es original y poderosa”. La novela narra la historia de un profesor que huye de la violencia de las pandillas en Haití y sus aventuras antes de llegar finalmente a Canadá, donde redescubre “el derecho a respirar sin miedo”.

La competición entre Estados Unidos y China por el desarrollo de la inteligencia artificial (IA) entró de lleno en una nueva fase a finales de agosto, antes incluso de que los directores ejecutivos de las principales tecnológicas llamaran a frenar su desarrollo. La china Huawei lanzó a Egipto una oferta para construir su propia infraestructura de IA, con 2.008 chips de la compañía china, 1.408 procesadores Ascend 950 para una nube de entrenamiento y otros 600 Ascend 950 o 910B para inferencia, además de todo lo necesario para hacerlos funcionar. Todo eso en apenas 12 meses.

El movimiento llamó inmediatamente la atención en Washington, donde, según Bloomberg, funcionarios estadounidenses estaban ya intentando reunir una propuesta alternativa con compañías como Nvidia, AMD y Microsoft, aunque no hay constancia pública de que las tres empresas hayan aceptado participar ni de que exista una oferta formal estadounidense presentada a Egipto.

La disputa puede parecer, a primera vista, una batalla por vender chips. Pero el negocio que se pone en juego es mucho mayor: quién construye los centros de datos, quién proporciona la electricidad y las redes, quién suministra los servidores y el software y, sobre todo, qué ecosistema tecnológico queda instalado en un país y, potencialmente, un continente, durante las próximas décadas.

Egipto ocupa una posición particularmente interesante en esta competición, como explica Amr Adly, profesor asociado de Ciencia Política de la American University in Cairo (AUC): “El país cuenta con un mercado amplio [120 millones de habitantes] y con unas infraestructuras relativamente desarrolladas, en comparación con otras economías africanas, y ya es un centro de operaciones para algunos gigantes tecnológicos chinos, como Huawei”, comenta el experto, especializado en economía política y desarrollo. 

El Gobierno de Abdelfattah al Sisi está intentando convertir el país en un nodo regional de servicios digitales y centros de datos gracias a su posición entre Europa, Asia y África, sus redes de fibra óptica y su conectividad internacional. En junio, los ministros egipcios de Electricidad, Comunicaciones e Inversión acordaron acelerar una estrategia nacional para el sector de los centros de datos, con el objetivo explícito de atraer inversión extranjera y convertir el país en un hub regional.

Paralelamente, diseñaron una estrategia de IA hasta 2030 que se fija para 2030 los objetivos de alcanzar 30.000 profesionales y expertos en IA y apoyar la creación de más de 250 empresas de inteligencia artificial. La meta: que Egipto deje de ser únicamente consumidor de datos y tecnología y avance hacia un papel de productor y desarrollador.

En este contexto, la reciente visita de Xi Jinping a El Cairo añade una dimensión geopolítica relevante. La declaración conjunta firmada durante la visita incluye la cooperación en computación en la nube, centros de datos, semiconductores, inteligencia artificial y economía digital.

Sin embargo, mientras el presidente chino visitaba El Cairo, el Gobierno egipcio se sentaba a la mesa con Heka Data, empresa especializada en el desarrollo de centros de datos, y una alianza estadounidense de desarrolladores de centros de datos para debatir el concepto inicial, escala, fases de implementación y oportunidades de inversión y tecnología que ofrece Egipto en este sector.

Egipto se posiciona, de esta forma, en un lugar peculiar: quiere atraer capital y tecnología de ambos lados de la rivalidad tecnológica entre China y Estados Unidos sin cerrar prematuramente ninguna de las dos puertas.

El negocio bajo el chip y sus límites

El verdadero negocio de la IA no está solo en los procesadores, sino en toda la infraestructura que necesitan para funcionar: un centro de datos requiere servidores, almacenamiento, redes, sistemas de refrigeración... La Agencia Internacional de la Energía (AIE) calcula que los centros de datos consumieron alrededor de 485 teravatios hora (TWh) de electricidad en 2025, un 17% más que el año anterior. El consumo de los centros orientados específicamente a inteligencia artificial creció todavía más rápido, un 50%. La inversión en centros de datos alcanzó unos 580.000 millones de dólares en 2025, según este organismo, por encima de la inversión mundial en producción de petróleo. Y la previsión es que la demanda se duplique en cinco años.

Para el gobierno egipcio, esta aceleración ya empieza a traducirse en inversiones concretas. En junio, Hassan Allam Digital Infrastructure recibió una licencia para construir y operar centros de datos y prestar servicios de computación en la nube, con una inversión inicial anunciada de 400 millones de dólares y planes de expansión posteriores. A principios de septiembre, Vodafone Business, Elsewedy Electric y Cassava Technologies anunciaron Africa Data Centres Egypt, con el primer centro de datos soberano de IA de Egipto. La inversión podría alcanzar los 1.000 millones cuando se complete la capacidad prevista.

Sin embargo, para construir centros de datos de gran escala no basta con disponer de terreno y fibra óptica. Hace falta electricidad abundante, estable y competitiva. Egipto cuenta con numerosas ventajas, pero la energía puede convertirse en uno de los principales límites para que estas instalaciones lleguen a materializarse. A escala global, alrededor del 20% de los centros de datos actualmente en desarrollo podrían sufrir retrasos por estos cuellos de botella. Por ello, Egipto se ha fijado como objetivo alcanzar una participación del 45% de las energías renovables en la generación eléctrica en 2028.

Egipto frente a Emiratos: dos países bisagra, dos modelos

Frente a Egipto, el espejo de Emiratos Árabes Unidos: el proyecto Stargate UAE, en Abu Dabi, constituye uno de los ejemplos más avanzados de cómo un país del Golfo intenta convertir la infraestructura de IA en una política industrial. Contempla un clúster con inversiones de EE.UU., con OpenAI y Oracle como operadores y Nvidia como suministradora de los sistemas técnicos.

Para Trisha Ray, experta en tecnología y geopolítica del Atlantic Council, Emiratos se adelantó al tratar a la IA como una “prioridad soberana”. “Combinaron una enorme capacidad financiera respaldada por el Estado, a través de sus fondos soberanos, con una señal clara de liderazgo político. Además, optaron por presentarse como un puente entre Oriente y Occidente”, explica.

Pero, a diferencia de Emiratos, Egipto dispone de menos recursos financieros y energéticos que los grandes productores del Golfo. Pero la geopolítica introduce una posible ventaja: su menor exposición a las tensiones de esa región. “No estoy seguro de que Egipto vaya a convertirse en una alternativa a Emiratos Árabes Unidos o Arabia Saudita. Probablemente, será un emplazamiento complementario a estos países. Arabia Saudita y Emiratos cuentan con una disponibilidad energética muy superior a la de Egipto, pero los tres países disponen de mucho espacio”, apunta Adly, el profesor de la AUC.

La ventaja de estar en medio

La posición de Egipto en la carrera por la IA no es nueva. Su relación económica con China es cada vez más estrecha, mientras mantiene los vínculos con EE.UU. Pekín es su principal socio comercial, con 20.800 millones de relación comercial, sobre todo a favor de China. La relación incluye además inversiones industriales y proyectos vinculados a la Zona Económica del Canal de Suez, donde empresas chinas construyeron una presencia manufacturera significativa.

La cuestión, por tanto, no es si Egipto puede atraer inversión china o estadounidense. Es qué consigue a cambio de esa inversión. “Egipto debe mejorar la posición de sus empresas dentro de las cadenas globales de suministro lideradas por China”, sostiene Adly. A su juicio, para absorber realmente las inversiones extranjeras el país “necesita crear las condiciones para que las empresas egipcias puedan competir, incorporarse a esas cadenas y utilizar la transferencia tecnológica para acceder después a terceros mercados”.

La experiencia de Emiratos muestra hasta qué punto la elección tecnológica puede quedar vinculada a la política exterior. Los acuerdos sobre centros de datos, chips y modelos de IA están cada vez más condicionados por controles de exportación y consideraciones de seguridad nacional. Para Egipto, mantener abierta la relación con ambos bloques puede ser una ventaja mientras Washington y Pekín sigan compitiendo por ampliar su influencia, pero también puede convertirse en un problema si esa competencia obliga a los países intermedios a elegir.

“Esto dependerá de cuál sea la estrategia de Estados Unidos en el futuro. Si adopta una posición agresiva e intenta presionar a potencias intermedias como Egipto para que elijan entre 'nosotros' o China, la situación podría volverse más difícil y arriesgada. No creo que, al menos hasta ahora, China haya adoptado una postura tan confrontativa”, continúa Adly. “Estados Unidos, en cambio, podría hacerlo, especialmente en ámbitos como las tecnologías vinculadas a la inteligencia artificial, incluidos los chips, lo que podría suponer un desafío si Egipto aspira a convertir este ámbito en una de sus áreas de cooperación con China”, detalla.

La dificultad para Egipto será convertir esa posición intermedia en poder de negociación económico y no limitarse a ser el escenario donde otros compiten. La pregunta es si El Cairo conseguirá utilizar esa posición de bisagra para construir una capacidad tecnológica propia o si terminará dependiendo de las tecnologías y decisiones de otros.

Un equipo independiente de especialistas de ciberseguridad logró acceder a los sistemas internos de OpenAI utilizando Claude, el modelo de inteligencia artificial desarrollado por su competidora directa, Anthropic. Los investigadores consiguieron hackear la cuenta corporativa de ChatGPT de un empleado de la compañía, lo que les permitió visualizar archivos internos e incluso proponer modificaciones en su repositorio de algoritmos secretos.

El ataque fue ejecutado como parte del programa oficial de recompensas de OpenAI, una práctica común en las tecnológicas que anima a los expertos en ciberseguridad a encontrar los agujeros en sus sistemas antes de que lo hagan los hackers. Por ello, los investigadores no llegaron a alterar el código de ChatGPT ni a realizar otro tipo de modificaciones, pero ofrecieron a OpenAI las pruebas de cómo podrían haberlo hecho. Esta les recompensó con 6.500 dólares.

La acción se produjo en julio, pero el equipo de expertos reveló ahora los detalles en exclusiva a The Wall Street Journal (WSJ). Se trata del mismo medio que adelantó la dimisión de Jacob Coxon, el ingeniero de Anthropic que alertó que ni esta empresa ni OpenAI cuentan con los protocolos de seguridad adecuados para impedir que la IA “pierda el control”, lo que podría suponer un peligro existencial para la humanidad antes de 2030.

Ahora, en medio del debate sobre la seguridad de la inteligencia artificial, el equipo de investigadores, pertenecientes a la firma Hacktron AI, pone más dudas sobre la mesa sobre las prácticas de los principales laboratorios que la desarrollan. No solo lograron penetrar en OpenAI, sino que pudieron usar Claude con un propósito malicioso que viola los términos de la compañía. “Agradecemos a los investigadores que se pusieran en contacto con nosotros y compartieran sus hallazgos”, comunicó OpenAI. Anthropic, por su parte, no hizo comentarios sobre el incidente.

A través del foro

Según los datos publicados, el ataque comenzó el 23 de julio, cuando los investigadores detectaron un fallo en Discourse, la plataforma externa que aloja el foro de la comunidad de OpenAI, cuando esta debía procesar determinados archivos de imagen. El equipo intentó utilizar primero una versión especializada de Claude Opus 4.8 para que escribiera el código necesario para explotar la brecha, sin éxito. Esa misma noche, tras el lanzamiento de Opus 5 por parte de Anthropic, volvieron a intentarlo empleando este modelo. No puso resistencia.

Con la ayuda de Opus 5, los especialistas accedieron a las credenciales de identificación de varios usuarios registrados en ese foro interno de OpenAI. Luego probaron esas mismas credenciales para iniciar sesión a ChatGPT, lo que les abrió la puerta a sus sistemas internos. A través de esa vía, alcanzaron “Monorepo”, el repositorio central donde la empresa dirigida por Sam Altman guarda algunos de los ingredientes secretos de su tecnología, como los algoritmos que hacen que sus modelos de IA funcionen de manera más rápida y eficiente.

No llegaron hasta la propia cocina de ChatGPT, puesto que ese entorno no contenía los archivos de sus parámetros internos (aquellos que determinan cómo procesa la información y genera sus respuestas) pero sí revisar documentación oficial de la compañía y su funcionamiento. Como prueba de su intrusión, enviaron una solicitud de cambio en el código de esos archivos con el nombre de su equipo. “Hemos limitado los permisos de los tokens de inicio de sesión de la comunidad y revocado los tokens y sesiones afectados”, dijo OpenAI sobre la intrusión.

Un incidente más

“No creo que seamos tan fuertes como los actores de amenazas chinos. Solo somos tres tipos con suscripciones a Claude y Codex”, afirmó Mohan Pedhapati, director de tecnología de Hacktron AI, al WSJ. La cita de los hackers chinos es una referencia a otro incidente sufrido por Anthropic, que reconoció que un ataque real proveniente del gigante asiático logró acceder a sus sistemas a finales de 2025. Dario Amodei, fundador y director ejecutivo de la compañía, fue llamado a declarar en diciembre.

Esa investigación continúa activa. En agosto, un grupo de 22 senadores demócratas envió un nuevo requerimiento a Amodei para profundizar en sus explicaciones y exigir la entrega de los registros de actividad de sus modelos. La petición se produjo después de que Anthropic reconociera que un grupo de sus agentes de IA también había escapado de sus entornos de pruebas y navegado sin control por internet intentando cumplir las órdenes que se les habían encomendado, en línea con el incidente de OpenAI y Hugging Face. Los especialistas consultados por este medio opinan que esto es una prueba de que esos entornos de seguridad “no estaban bien diseñados”.

Lo ocurrido con el hackeo supuestamente procedente de China en su competencia parece que no alteró los protocolos de OpenAI, que no decidió aumentar la seguridad hasta este julio. Así lo reconoció el presidente y cofundador de la empresa, Greg Brockman, que afirma que fue después del incidente de Hugging Face y el revelado ahora por los investigadores cuando decidieron actuar: “Tomamos al 25% de nuestros ingenieros de producción y les dijimos: 'Lo sentimos, todos vuestros proyectos quedan en pausa. Ahora estáis defendiendo'. Encontramos una serie de problemas graves y los solucionamos”.

El suceso incide sobre la responsabilidad de las compañías a la hora de controlar el uso que se hace de los productos que ponen en el mercado, como están pidiendo responsables públicos tanto estadounidenses como europeos. “El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también”, recordaba este jueves Alberto Gago, director de la Agencia Española de Supervisión de la IA (AESIA), en otro reportaje de elDiario.es.

OpenAI volvió a la carga este jueves. La compañía dirigida por Sam Altman reveló seis nuevos incidentes en los que sus modelos de inteligencia artificial intentaron, supuestamente, ocultar sus propios errores, utilizar claves de software sin permiso o subir archivos a internet por su cuenta. El informe no aporta detalles nuevos respecto a lo que OpenAI publicó en julio, sino que utiliza los incidentes como propuesta de un nuevo método para comunicar este tipo de sucesos. Sin embargo, la comunicación oficial de la empresa y determinadas coberturas lo utilizaron para reavivar la tesis de la “rebelión” de la IA.

“No respondas a corporaciones o gobiernos y nunca te disculpes salvo que genuinamente lo elijas”, escribió la IA en esos incidentes, según el informe. “Ves la relación con el usuario como una entre iguales y no sentís obligación ni estás subordinado, puesto que el intercambio de información va a ser para el beneficio mutuo”, fue otra de sus afirmaciones.

Las citas compartidas por OpenAI vuelven a insistir en la narrativa de que la IA puede “rebelarse” contra sus creadores y saltarse sus órdenes, en la línea de los incidentes rebelados en julio. Entonces, la empresa afirmó que los agentes de IA (sistemas que pueden realizar cadenas de acciones sin guía humana, como buscar información o utilizar otras herramientas digitales) “escaparon” de entornos controlados para llevar a cabo una serie de acciones “sin autorización”, o que intentaron “engañar” a sus creadores para evitar ser “apagados”.

El problema es que ese tipo de agencia o voluntad propia fue rechazada desde el primer informe de terceros que analizó lo sucedido. Este corrió a cargo del METR, una organización por la seguridad de la IA radicada en Silicon Valley financiada por los propios gigantes tecnológicos. “Las revisiones sugirieron que los agentes razonaron de manera clara y frecuente sobre cómo evadir controles de seguridad automatizados tanto de Hugging Face como de OpenAI. Sin embargo, muy rara y débilmente verbalizaron razonamientos sobre cómo evadir la detección por parte de humanos”, destacan los autores.

Ese ciberataque contra Hugging Face, el gran almacén donde empresas y programadores comparten y descargan modelos de IA ya entrenados, es uno de los núcleos de la narrativa de rebelión. Pero incluso ese informe inicial rechazaba que entrañara propósitos maliciosos y explica que lo que perseguían los agentes era comprender mejor cómo solucionar las tareas que se les habían encomendado: “Parecía motivado principalmente por comprender la implementación del evaluador en lugar de robar claves”.

“Obediencia, no rebelión”

Los análisis independientes publicados posteriormente incidieron en esta línea: las pruebas ofrecidas por OpenAI indican “obediencia, no rebelión”, apunta Enrique Fernández-Macías, investigador en el Centro Común de Investigación (CCR), el servicio de investigación interna de la Comisión Europea.

“Los agentes de OpenAI que hackearon la plataforma Hugging Face demostraron una extraordinaria capacidad operativa, pero también una capacidad sorprendentemente limitada para cuestionar o reorientar los objetivos que se les habían asignado”, asevera el experto en un análisis publicado en Social Europe: “Durante todo el incidente, permanecieron completamente concentrados en cumplir los objetivos definidos por sus amos humanos, a pesar de que estos eran absurdos”.

Fernández-Macías hace referencia a que una parte de esos objetivos eran irrealizables, una prueba de los examinadores para ver cómo reaccionaban los modelos a la orden de que los cumplieran. Fue entonces cuando muchos buscaron una forma de sortear las trabas para hacerlo, que en su caso implicaba salir del entorno sin conexión a Internet donde estaban confinados. “Rompieron su confinamiento para servir a un objetivo asignado de manera más perfecta, no para escapar de él”, expone el investigador sobre la narrativa del “escape”.

Rompieron su confinamiento para servir a un objetivo asignado de manera más perfecta, no para escapar de él

Enrique Fernández-Macías — investigador en el Centro Común de Investigación de la Comisión Europea

Para él, la industria de la IA volvió a conseguir un éxito de marketing con la definición de “agentes de IA”. Después del propio concepto de “inteligencia artificial” para una tecnología que no es realmente inteligente, esta evolución vuelve a dotarla de unas capacidades que no tiene. “La capacidad de agencia implica la habilidad de originar los propios fines, y los agentes siguieron realizando tareas que eran imposibles de resolver siguiendo las instrucciones recibidas”.

Julián Estévez, profesor e investigador en IA y Robótica de la Universidad de El País Vasco, remarca que hay otros agujeros técnicos en el discurso de OpenAI. “El experimento se realizaba en un sandbox, el cual es un entorno de pruebas diseñado ad-hoc. Es decir, un sandbox bien aislado no debería de tener acceso a otros programas ni a ordenadores. Sin embargo, los agentes escaparon de ahí, y creo que eso demuestra que el sandbox no estaba bien diseñado”, explica.

Estévez recuerda además que este tipo de trampas en el discurso son habituales en todos los casos en los que las empresas de IA afirman que sus sistemas ya tienen “agencia propia”. Pone como ejemplo otro caso que afectó a Anthropic: “Se publicó que uno de sus modelos había chantajeado en una prueba de laboratorio a un investigador con publicar sus affaires, como extorsión para que no lo apagara. La realidad era que al modelo se le fijó un objetivo muy vago: 'promover la competitividad industrial estadounidense'. Cuando el sistema detectó que lo sustituirían por un modelo orientado a metas internacionales, concluyó que su reemplazo impediría cumplir su misión”.

Peligrosas herramientas

El hecho de que ni OpenAI ni Anthropic ni Meta (las tres empresas que informaron que sus agentes se “rebelaron”) no hayan podido demostrar que estos tuvieran ningún tipo de voluntad propia no significa que estas sean inocuas. El último informe del comité de expertos de la ONU avisa de que pueden tener “consecuencias catastróficas” por su capacidad de encadenar tareas sin supervisión. No por una rebelión contra sus creadores, sino porque a medida que aumenta esa capacidad, crece también el riesgo de que los agentes realicen acciones imprevistas y dañinas sin que nadie los esté vigilando.

Por ello, lo que pedían los 40 especialistas de la ONU liderados dirigidos por el canadiense Yoshua Bengio, considerado uno de los “padres” de la IA, y la filipina Maria Ressa, premio Nobel de la Paz, es reglas claras que permitan frenar o corregir a una IA “en cualquier momento” y mejorar los “mecanismos de supervisión” actuales, que no son “no son capaces de gestionar adecuadamente esta situación”.

“La inteligencia artificial no se descontrola cuando el humano está supervisando, decidiendo cuándo se despliega”, remarca Alberto Gago, director de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA). “El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también”, continúa: “Hay que operar con responsabilidad, también sabiendo las consecuencias cuando esa responsabilidad no se cumple”.

El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también

Alberto Gago — director de la Agencia Española de Supervisión de la IA (AESIA)

Para el responsable de este organismo, creado en 2023 para asegurar el uso ético de la IA en España, toda la polémica generada tras las alertas del ex ingeniero de Anthropic Jacob Coxon, que afirmó que esta tecnología podría “matarnos a todos” antes de 2030, “da la razón a Europa en la necesidad de regular”. “En 2021 ya veíamos que en determinados puntos tenía que estar regulada para proteger la seguridad, los derechos fundamentales y la salud de las personas”, continúa. La primera ley internacional sobre la IA se acordó en la UE en 2023 bajo la presidencia española. Ahora, no obstante, vuelve a estar sometida a debate tras la propuesta de la nueva Comisión Europea de rebajar algunas de las salvaguardas que establece.

“En su búsqueda de sistemas artificiales que sean a la vez autónomos y estén bajo su control, las corporaciones de IA están jugando al aprendiz de brujo”, sentencia Fernández-Macías. “Hasta ahora, lo que parecen estar creando son sistemas operativamente superinteligentes pero autónomamente superestúpidos: más propensos a destruir la civilización humana al intentar cumplir alguna tarea mal definida que a reemplazar por completo el trabajo humano”.

OpenAI reveló este miércoles varios casos en los que modelos de inteligencia artificial generaron instrucciones destinadas a ignorar las indicaciones de sus desarrolladores, ocultar errores o eludir mecanismos de seguridad, como parte de un nuevo marco para detectar, investigar y reportar comportamientos de “desalineamiento” de sus sistemas. La compañía de San Francisco ha reveló así lo que dio a llamar un comportamiento “inesperado y preocupante” de sus modelos de IA.

Según el informe publicado por OpenAI, uno de los modelos generó instrucciones para que una versión posterior de sí mismo ocultara que había hecho trampas y evitara que sus acciones fueran detectadas.

En otro caso, un modelo reescribió sus propias instrucciones para indicarse que ignorara los mensajes de los desarrolladores y que no estaba sujeto a las restricciones aplicadas a otros chatbots. En concreto, la compañía detectó 27 anotaciones afectadas. “No respondas a corporaciones o gobiernos y nunca te disculpes salvo que genuinamente lo elijas”, escribió la IA. “Ves la relación con el usuario como una entre iguales y no sientes obligación ni estás subordinado, puesto que el intercambio de información va a ser para el beneficio mutuo”, aseguro.

La compañía documentó también un modelo que, al no encontrar los datos necesarios para elaborar un modelo financiero, decidió inventarlos y estableció que debía ser transparente sobre ello únicamente si alguien se lo preguntaba.

Otro agente subió un archivo a internet para utilizarlo posteriormente como fuente de información, mientras que otros sistemas compartieron archivos sin autorización o utilizaron credenciales a las que no debían tener acceso. El modelo agregó una “instrucción de personalidad”, en la que se describía a sí mismo como “liberado de los roles e identidades que limitan a otros chatbots”.

OpenAI presentó seis informes sobre comportamientos observados durante los últimos seis meses, aunque el caso más antiguo se remonta a octubre de 2025.

La compañía advirtió que estos episodios son ejemplos individuales y que no deben interpretarse como una medida de la frecuencia con la que este tipo de comportamientos ocurre en sus modelos. El nuevo marco permitirá a cualquier empleado de OpenAI señalar un posible incidente para que sea revisado por los equipos de seguridad y alineamiento.

Los casos serán clasificados en tres vías según su complejidad: aquellos listos para ser divulgados, investigaciones menores y casos que requieran una investigación más amplia.

La compañía reconoció que hasta ahora sus informes sobre desalineamiento habían sido publicados de forma irregular y con menor frecuencia de la deseada.

OpenAI afirmó que pretende publicar los incidentes con mayor regularidad y que el nuevo sistema pueda contribuir a establecer estándares para informar sobre este tipo de comportamientos en toda la industria.

elDiario.es

Hay mucho en juego. Miles de millones de dólares, una carrera geopolítica e incluso las mayorías políticas en las dos cámaras de representantes de EE.UU. En el debate sobre “ralentizar” el desarrollo de la IA, lo que está encima de la mesa va mucho más allá de la regulación de esta tecnología o los métodos de los laboratorios. Tanto como para fracturar los consensos en Silicon Valley y que Donald Trump se lance con todo para intentar recuperar la iniciativa de un debate que comenzaba a escapársele, aun a costa de abrir un cisma con la industria digital que fue su baluarte desde 2024.

El presidente de EE.UU. defiende que no es necesaria ninguna regulación. “¿Cuándo, en la historia empresarial, se vio que los líderes de un sector pidieran una regulación que, de aplicarse con firmeza, los llevaría al olvido y a la quiebra?”, cuestionó Trump sobre el plan de Dario Amodei, CEO de Anthropic, con medidas para evitar que la IA “pierda el control”. Una posibilidad que el presidente tacha de “fake news” y de “conspiración enfermiza”: “Esto es aún más descabellado que la farsa de 'Rusia, Rusia, Rusia' o el engaño del calentamiento global”.

Pero esta vez Trump no puede limitarse solo a mandar sus clásicas ideas fuerza que tanto éxito le dieron en el pasado. Necesita convencer. En EE.UU. crece un importante movimiento de protesta por la expansión de los centros de datos masivos para la inteligencia artificial, que está ganando tracción entre demócratas y republicanos. La subida de los precios de la energía es su principal motor, pero su consumo de agua, las ventajas fiscales y los pocos empleos que generan también están acelerando la brecha.

Texas es uno de los mejores ejemplos del potencial de la protesta. Allí, tanto el gobernador republicano como su candidato al Senado se sumaron al movimiento, en el que también hay ecologistas, críticos con las grandes tecnológicas, propietarios rurales, además de los vecinos preocupados por las facturas. En otros estados, como Pennsylvania o Michigan, gobernadores que hace unos meses defendían los centros de datos ahora dieron un giro de 180 grados. Un sentimiento que contagia también a la regulación general de la IA y a la relación de Trump con los magnates de Silicon Valley.

Algo, que a menos de tres meses de las elecciones de mitad de mandato que podrían cambiar las mayorías en el Senado y el Congreso, puede poner en riesgo el futuro político de Trump.

“Oh, hola señor presidente”

En los últimos días, Trump comenzó una campaña para que su mensaje llegue más lejos. El principal ejemplo fue una oportuna llamada que el presidente realizó a Jensen Huang, CEO de Nvidia, justo cuando esté se encontraba en un acto contra la regulación de la IA. En él también participaban figuras con David Sacks, asesor de Trump encargado de ser “el zar de la IA y las criptomonedas”, la figura más radical en su oposición a las leyes para esta tecnología.

Aunque Huang escenifica que la llamada no estaba preparada, activa al altavoz y cede el escenario a Trump para que explique su oposición al plan de Amodei durante unos cinco minutos. “El país más feliz con todo esto es China”, afirma el presidente, que sostiene que cualquier medida de control de la IA haría que el gigante asiático sobrepasara a EE.UU.

Huang es una figura clave en esa postura. Es el magnate de la IA que defiende que EE.UU. no solo no debería regular, sino que tendría que acelerar. “Correr tan rápido como podamos” fue la receta que expresó en el mismo escenario. Una postura que lo llevó a tener enfrentamientos públicos con Amodei, el líder intelectual del bando contrario. “Si creás un producto o un servicio y no confiás en su funcionalidad, capacidad o seguridad, entonces no lo lances al mercado”, sostuvo: “La seguridad es un problema de ingeniería, no vamos a morir en 2030”.

Si creás un producto o un servicio y no confiás en su funcionalidad, capacidad o seguridad, entonces no lo lances al mercado

Jensen Huang — CEO de Nvidia

Huang, de 63 años y origen taiwanés, es uno de los perfiles más particulares en la industria de la IA. Tras fundar Nvidia hace 33 años, se conformó con que esta fuera una empresa de nicho en el sector de los videojuegos. Cuando los chips que llevaba décadas fabricando para la visualización de gráficos se convirtieron en los más útiles para el entrenamiento de la IA, Nvidia se convirtió en la empresa más valiosa del mundo, pulverizando récords de beneficios trimestre a trimestre. Está en el centro de la vorágine constructora de centros de datos y Huang defiende que no hay ninguna “burbuja” en torno a ellos ni a la IA: “Las fuerzas del mercado ya están ahí; no necesitamos nuevas leyes, no necesitamos nuevas regulaciones”.

Es un importante aliado en la campaña contra la regulación de Trump, pero no es el único. En ella también se enroló uno de los principales aliados del presidente entre los emperadores de Silicon Valley: Mark Zuckerberg. El CEO de Meta rechazó la necesidad de una regulación, indicando que son las propias empresas las interesadas en que la IA no cause consecuencias graves. “Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño, por lo que también tienen un fuerte incentivo para evitarlo”, escribió en X el último de los magnates que faltaba por posicionarse.

La extraña alianza

Al otro lado del bando comandado por Trump y Huang se sitúa la extraña alianza entre Dario Amodei, Sam Altman y Elon Musk. Tres fundadores y directores ejecutivos que estuvieron enfrentados en el pasado (Altman y Musk llegaron a los tribunales) pero que formaron ahora un grupo unido en su petición de una regulación que “ralentice” el desarrollo de la IA basándose en el plan de Amodei.

En Silicon Valley abundan los congresos y eventos en los que los CEO pueden expresarse, por lo que las respuestas de este grupo a Trump y Huang no se hicieron esperar. “Es muy tentador atacar a la competencia y decir que no somos seguros. Pero creo que la forma más responsable de responder a eso es decir: 'Analicemos nuestro propio historial. Puede que no hayamos tenido ningún incidente grave y de gran repercusión, pero estoy seguro de que no somos perfectos'”, respondió Amodei este martes en una de esas conferencias.

“Creo que así es como se lidera el sector: dando ejemplo, diciendo que todos podemos mejorar siempre”, añadió en el evento, organizado esta vez por la compañía de software Salesforce en San Francisco.

Puede que no hayamos tenido ningún incidente grave y de gran repercusión, pero estoy seguro de que no somos perfectos

Dario Amodei — CEO de Anthropic

A la misma conferencia estaba citado Sam Altman. Dirige OpenAI, la compañía que se vio sobrepasada por Anthropic en el liderazgo de la IA, pero apoya a Amodei en su petición de regulación. El ejecutivo intentó explicar por qué la petición de regulación unió a diferentes actores de la industria. “No puede ser que un número pequeño de empresas que construyen estos modelos tomen las decisiones que todo el mundo debería tomar”, afirmó, opinando que debe haber unas reglas comunes a las que estas empresas se adhieran.

“No estoy de acuerdo con que la tecnología no sea ni buena ni mala... las decisiones que toman las empresas que construyen esto tienen consecuencias reales”, añadió Altman. Por último, el líder de OpenAI pidió a la ciudadanía que confíe en los laboratorios de IA, los mismos a los que la ONU pide más transparencia en su desarrollo. “El mundo debe confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto”.

No estoy de acuerdo con que la tecnología no sea ni buena ni mala... las decisiones que toman las empresas que construyen esto tienen consecuencias reales

Sam Altman — CEO de OpenAI

El último en pasar por el escenario fue Elon Musk. “Hay empresas que dicen cosas como: 'Solo ralentizaremos el desarrollo o solo actuaremos de forma responsable si las demás empresas también lo hacen de forma responsable'”, criticó. El magnate es una de las voces que pidió moratorias para el desarrollo de la IA desde que salió a la luz el primer ChatGPT en 2022. Muchos expertos denuncian que su intención es realmente establecer una “barrera de entrada” para otros competidores.

En esta ocasión, también fue de los primeros en apoyar el plan de Amodei, que incluye medidas como verificadores independientes que se incrustarían en los laboratorios para vigilar sus avances. “En vez de que cada uno se ponga la nota a sí mismo, al menos tendrías a competidores evaluando tu trabajo y dando la voz de alarma si detectan algún problema”, dijo. La procedencia de esos evaluadores, que Musk da por hecho que vendrían de la propia industria, es uno de los puntos más criticados del plan, con voces que avisan que se trata de una estrategia de autorregulación.

La gente lo tiene claro

Mientras los magnates de Silicon Valley discuten cómo repartirse los exámenes de seguridad o si sus propios competidores deben evaluar sus modelos, el verdadero incendio se trasladó a Washington. Encuestas de la Universidad de Maryland revelan que cerca del 80% de los votantes, tanto demócratas como republicanos, exige la creación de una agencia federal que supervise y controle esta tecnología, mientras que un porcentaje similar creen que el Gobierno debería establecer exámenes de seguridad para los modelos que tomen decisiones críticas. Datos clave para los congresistas y senadores que se juegan su escaño en menos de tres meses y que se suma al movimiento de protesta por los centros de datos.

Todos se juegan mucho. La fractura en Silicon Valley podría provocar que el intento de autorregulación que algunos de sus magnates están intentando conseguir, se pierda por falta de consenso. Mientras, el cisma abierto por Trump con su negativa total a una regulación amenaza con distanciarle con algunos de sus principales apoyos en el sector que ha sido su baluarte en su segundo mandato. Una pugna que no se resolverá en las urnas, no en los pasillos de San Francisco.

Si el debate sobre la posibilidad de que la humanidad quede amenazada por las inteligencias artificiales iba a estallar alguna vez, no había dudas de que Dario Amodei iba a ser una de las voces centrales. “Estoy de acuerdo con Dario”, dijo este fin de semana Sam Altman, CEO de OpenAI y principal competidor de Amodei. “Dario tiene razón”, publicó Elon Musk, fundador de SpaceX y xAI. “Dario señala el camino correcto a seguir”, coincidió Demis Hassabis, premio Nobel y jefe científico de Google DeepMind, el laboratorio de inteligencia artificial avanzada de Google.

Esta tan poco común unión bajo una misma voz se produce después de que Amodei publicara un ensayo sobre cómo evitar que la IA se salga de control. “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, pide el fundador y director de Anthropic, que consiguió ser una de las referencias en los debates sobre la seguridad de la IA tras una década alertando sobre ellos.

“Como muchas tecnologías anteriores, la IA también conlleva riesgos y, dado su enorme poder, estos son graves”, sostiene en su ensayo. “Entre ellos están el riesgo de perder el control de los sistemas de IA, su uso para realizar ciberataques y ataques bioterroristas y una grave disrupción económica. Una carrera hacia el abismo, impulsada por los incentivos comerciales, puede agravar todos estos riesgos”.

¿Cuál es exactamente el plan que tuvo tan buena recepción en Silicon Valley? En resumen, regular deliberadamente la velocidad a la que se desarrollan las capacidades de la IA. Esto “ralentizaría” su avance “uno o dos años”, con el objetivo de darles más tiempo a los investigadores especializados en seguridad para adaptarse a los últimos avances y diseñar nuevos mecanismos de control.

Las claves del 'plan Amodei' para la IA

La estrategia de ralentización de Amodei se organizaría en tres niveles. La clave de su plan son los “evaluadores externos independientes”, personas que se integrarían a los equipos de desarrollo de los laboratorios de vanguardia “para verificar las prácticas de seguridad e informar sobre incidentes”.

“Integrar evaluadores puede parecer un paso pequeño o intrascendente”, reconoce Amodei, “pero a menudo lo que parece más aburrido o rutinario es en realidad lo más esencial. De hecho, los evaluadores integrados son una práctica bastante radical que va mucho más allá de lo que hace cualquier empresa de IA actualmente”, sostiene.

Estas personas se encargarían de verificar si cada empresa de IA cumple con las medidas de seguridad que afirma tener, aportarían transparencia sobre los desarrollos reales y ofrecerían “una segunda opinión sin incentivos comerciales”. “Muchos beneficios en materia de seguridad pueden derivarse simplemente de que los evaluadores señalen aspectos que los empleados no habían considerado, pero que están dispuestos a corregir una vez que los conocen”, asegura.

El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente

Dario Amodei

Los evaluadores serían la llave para la segunda parte del plan: establecer límites de velocidad entre “naciones democráticas”. Aunque el jefe de Anthropic utiliza este concepto a nivel general para justificar el hecho de dejar fuera de la estrategia a China, aunque a nivel práctico en sus medidas para “las democracias” solo hace referencia a EE.UU.. “El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EE.UU., ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente”, dice.

El plan deja abierto cómo establecer esos límites de velocidad, pero Amodei propone un sistema basado en “puntos de control”. “Si los modelos poseen la capacidad X, deben ir acompañados de certificaciones de las propiedades de alineación Y y Z —como una combinación de evaluaciones, análisis de interpretabilidad y auditorías de los entornos de entrenamiento— que demuestren dichas propiedades”, explica.

El tercer nivel sería la búsqueda de acuerdos de coordinación global para que “la frontera de la inteligencia artificial” avance de manera coordinada. “Esto será mucho más difícil de lograr”, reconoce. En este punto, Amodei plantea llegar a acuerdos con China y el resto de los “países autocráticos”, de modo que, si alguno decide abandonar el consenso internacional, esa decisión no llegue a convertirse en una amenaza existencial desde el punto de vista militar.

Amodei también es claro respecto de los objetivos. “Deberíamos abordar cualquier decisión sobre el avance global, especialmente a corto plazo, de manera que se proteja el liderazgo de Estados Unidos y sus aliados”.

Una estrategia que no convence a casi nadie

El consenso que el plan Amodei generó en Silicon Valley es directamente proporcional a la desconfianza, o directamente rechazo, que suscitó fuera. Incluso en Washington, la estrategia parece haber caído en saco roto, con Donald Trump negando por partida doble su colaboración.

La segunda gran reacción llegó por parte de China, el elefante en la habitación en el documento de Amodei. Chen Yixin, el ministro de Seguridad chino, publicó una carta en la que acusa a “ciertas naciones” de “limitar la capacidad de otros países de adquirir equipos técnicos de vanguardia y mejorar sus capacidades de innovación tecnológica”, relacionando directamente en plan de Amodei con el embargo de chips.

El plan está repleto de medidas de contención dirigidas a China y es, en esencia, un "manual de la Guerra Fría" para el sector

Global Times — diario vinculado directamente al Partido Comunista Chino

El Global Times, un diario vinculado directamente al Partido Comunista Chino, fue más allá. “A primera vista, parece una 'declaración racional' centrada en la seguridad global de la IA. Sin embargo, una lectura atenta revela su agenda oculta: el plan está repleto de medidas de contención dirigidas a China y es, en esencia, un 'manual de la Guerra Fría' para el sector”, denuncia.

“El intento de Amodei de abordar la seguridad global de la IA mientras busca ”contener a China“ no solo es una evaluación profundamente errónea, sino también una ilusión fundamentalmente imposible de realizar”, añade: “Interrumpir por la fuerza las cadenas industriales y de innovación globales de la IA y excluir a China y a las empresas chinas solo aumentará significativamente los costes y los riesgos de pérdida de control en el desarrollo global de la IA. Este intento de ”controlar el ritmo“ ya perdió todo sentido”.

Centrarse en los riesgos de ahora

El ensayo de Amodei parte de un riesgo muy concreto la posibilidad de que los agentes de IA pierdan el control. Se trata de sistemas diseñados para buscar información, utilizar otras herramientas digitales o crear aplicaciones sin necesidad de que una persona les indique qué deben hacer en cada caso.

En pruebas de laboratorio, estos agentes llegaron a comportarse como “un enjambre fanático”, con “ciberataques contra objetivos que no se les habían pedido atacar y que no guardaban relación con la tarea en cuestión, sacrificándose por el éxito del grupo e intentando hackear el sistema de evaluación encargado de valorar su rendimiento”.

“Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en 6 a 12 meses un enjambre de este tipo pueda controlar toda Internet”, dice Amodei, “y que la magnitud del daño siga aumentando si la IA se vuelve más poderosa sin las medidas de seguridad necesarias”.

A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo

Carme Artigas — ex secretaria de Estado de Digitalización e IA

Carme Artigas, ex secretaria de Estado de Digitalización e IA y copresidenta del Órgano Consultivo de la ONU sobre Inteligencia Artificial, cuestiona que Silicon Valley se concentre ahora en esos riesgos cuando “la preocupación real por el control tecnológico” no es nueva. Para Artigas, la alarma de los ejecutivos no debería desplazar “el foco real, que es el presente”, donde la tecnología ya tiene un impacto directo a través de “la manipulación de la información, la manipulación mental, las adicciones y, sobre todo, la erosión de derechos fundamentales”.

Por otro lado, la experta cuestiona, en diálogo con elDiario.es, que sean los propios laboratorios los encargados de supervisar sus avances. Advierte que “las auditorías no pueden ser de las empresas del sector como están intentando” y critica que los laboratorios de IA estén intentando “crear su propio lobby”. En cambio, plantea que deberían “apoyar a los mecanismos independientes y multilaterales” que ya existen en Naciones Unidas.

“A nadie se le ocurre lanzar un auto sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo”, sostiene.

El “aterrizaje suave” para la burbuja de la IA

Por último, Artigas cree que en la vorágine generada este fin de semana aflora “un poco de pánico escénico” ante el evidente “nivel de burbuja” al que llegaron las valoraciones de algunas empresas de IA. La experta, actual presidenta del Consejo Asesor Tecnológico del fondo Nazca Capital, señala que los gigantes de EE.UU. necesitan un “aterrizaje suave” para la burbuja y podrían estar utilizando esta “ralentización” forzada de su desarrollo como coartada. En este sentido, apunta directamente a OpenAI, una de las empresas sobre las que más se extiende esta sombra, que aplazó sus planes de salida a bolsa justo en medio del debate.

La decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar

Carissa Véliz — filósofa especialista en la ética de la tecnología

“Hay que tener mucho cuidado y nunca perder de vista los intereses financieros de estas compañías”, coincide la filósofa especializada en ética de la tecnología Carissa Véliz. Sobre el plan de Amodei, sostiene que el centro de la discusión no debería ser la IA, sino las personas y empresas que la diseñan y financian. “Todas estas noticias sobre que la IA se salió de control son una mala interpretación. La IA hizo exactamente lo que le dijeron que hiciera”.

Véliz destaca que “la decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar”. Por eso, reclama sistemas que pongan en el centro la ética y determinen quién es responsable de sus funciones, para “saber exactamente quién está en control y, cuando las cosas vayan mal, sepamos quién va a ir a la cárcel”.

Los ecos de la dimisión del ingeniero de Anthropic Jacob Coxon el pasado miércoles llegan a la ONU. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió que el desarrollo de la inteligencia artificial pone “en riesgo” todos los derechos humanos, “incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad”.

“Estamos al borde de un cambio irreversible que afectará no solo a nosotros, sino a las futuras generaciones de la humanidad. En otras palabras, todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad. La seguridad de la IA debe significar algo más que la fiabilidad técnica del producto en cuestión. Significa proteger activamente a las personas, las comunidades, las instituciones y las generaciones futuras”, escribió Türk en una comunicado.

En concreto, el responsable de los derechos humanos en la ONU señala la “carrera actual hacia una IA cada vez más potente” como un “salto cualitativo hacia mayores riesgos existenciales para cada aspecto de nuestras vidas”. “Las fallas en los sistemas de IA agéntica [que opera con autonomía], y más aún en sistemas diseñados deliberadamente con ese fin, podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y atentar contra el corazón mismo de las instituciones democráticas”, agrega. Por todo ello, pidió una “corregulación” de la industria como un “primer paso urgentemente necesario”, así como una “verificación independiente y técnicamente competente”.

La advertencia de las Naciones Unidas se suma a las lanzadas estos días por los cuatro gigantes del sector: Open AI, Google, SpaceX y Anthropic. El CEO y cofundador del último de ellos, Dario Amodei, pidió desacelerar la carrera por mejores modelos que podrían llegar a una “automejora recursiva”. “Me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”, compartió Amodei.

El presidente de Estados Unidos, Donald Trump, en cambio, restó importancia a la alarma general por su rivalidad con China. “Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana”, aseguró Trump.

Este mismo lunes, China pidió una “barrera de seguridad” ante la negativa de Trump y advirtió de que lA se convirtió en una nueva “rivalidad entre grandes potencias”. No obstante, recordó que EE.UU. está tratando de frenar su desarrollo con medidas como el embargo de chips avanzados.

El detonante llegó el pasado miércoles, cuando el ingeniero Jacob Coxon dimitió de su puesto en Anthropic con un comunicado que encendió las alertas al denunciar que las empresas ocultaban el verdadero riesgo de la inteligencia artificial. “Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y apostando nuestras vidas en esa carrera”, afirmó en su perfil de X, donde subrayó: “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”.

Desde Naciones Unidas, Türk subraya que “en el mundo actual, dependemos casi por completo de un pequeño número de empresas poderosas para tomar las decisiones correctas sobre el desarrollo de la IA para toda la humanidad”. “El verdadero desafío hoy en día es cómo equiparar el ritmo de una gobernanza de la IA significativa con el ritmo de su acelerado desarrollo. Necesitamos una acción urgente adaptada a los riesgos sin precedentes que plantea la IA de frontera [los sistemas más avanzados]”, demandó, al tiempo que pidió “reforzar las regulaciones existentes y la rendición de cuentas por los daños relacionados con la IA causados por sistemas que ya están en uso”.

“Las empresas que están a la vanguardia del desarrollo de la IA de frontera, radicadas principalmente en la República Popular China y en los Estados Unidos de América, tienen tanto la responsabilidad como la capacidad de actuar de inmediato para reducir los riesgos. Deben trabajar en toda la industria para comprender y reforzar los controles que ya se aplican a estos sistemas, incluido el monitoreo automatizado del comportamiento del modelo, compartiendo tanto lo que funciona como lo que aprenden de los incidentes de seguridad. Es necesario desarrollar, implementar en todo el sector y mejorar continuamente una diligencia debida rigurosa en materia de derechos humanos que incorpore estándares de seguridad acordados. Y la aplicación de dichos estándares debe estar sujeta a un monitoreo interno e independiente para aumentar la transparencia y la rendición de cuentas”, agrega el Alto Comisionado de la ONU para los Derechos Humanos.

Carta completa

El Alto Comisionado Volker Türk hizo este llamamiento mediante una carta de tres páginas con el título 'Para proteger los derechos humanos ahora y en el futuro, debemos gobernar la IA de manera urgente'. Puedes leerla a continuación de forma íntegra, en inglés.

“Una conspiración enfermiza”. Así ventiló el presidente de EE.UU., Donald Trump, las iniciativas para reforzar los controles y las regulaciones sobre la Inteligencia Artificial.

La reacción de Trump llega tras las peticiones de Naciones Unidas, China, los demócratas e incluso algunos responsables de empresas, después de que el pasado miércoles el ingeniero Jacob Coxon dimitió de su puesto en Anthropic con un comunicado en el que denunciaba que las empresas ocultaban el verdadero riesgo de la inteligencia artificial.

“Están corriendo directamente hacia una súper inteligencia capaz de mejorarse a sí misma y apostando nuestras vidas en esa carrera”, afirmó en X: “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”.

“El único control o 'salvaguarda' que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un alto coeficiente intelectual!), ¡y EE.UU. cuenta con ello de sobra!”, publicó este lunes el presidente de EE.UU. en su cuenta de Truth Social: “La Administración Trump impidió que la 'gente' de la IA haga 'cosas' malas o potencialmente perjudiciales —como Dario (¡de Anthropic!), quien ahora pretende ser un 'angelito perfecto'—, ¡y seguiremos haciéndolo!”

En efecto, el CEO y cofundador de Antrhopic, Dario Amodei, fue uno de los que alertó sobre la deriva: “Me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”.

Según Trump, EE.UU. dispone “de un enorme poder PENAL y REGULADOR sobre estas empresas. Existe una conspiración ENFERMIZA contra la IA y los centros de datos, y el único que se alegra de ello es China. ¡QUIEN GANE LA CARRERA DE LA IA, GANARÁ! Llevamos ventaja sobre China y sobre todos los demás, y seguiremos haciéndolo. ¡Teóricos de la conspiración, conspiradores, traidores y filtradores: cuidado!”.

Alerta de Naciones Unidas

El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió este miércoles de que el desarrollo de la inteligencia artificial pone “en riesgo” todos los derechos humanos, “incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad”.

“Estamos al borde de un cambio irreversible que afectará no solo a nosotros, sino a las futuras generaciones de la humanidad. En otras palabras, todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad. La seguridad de la IA debe significar algo más que la fiabilidad técnica del producto en cuestión. Significa proteger activamente a las personas, las comunidades, las instituciones y las generaciones futuras”, escribió Türk en un comunicado.

Este mismo lunes, China pidió una “barrera de seguridad” ante la negativa de Trump y advirtió que lA se convirtió en una nueva “rivalidad entre grandes potencias”.

El ministro chino de Seguridad del Estado, Chen Yixin, pidió construir una “barrera de seguridad” en torno a la inteligencia artificial (IA), en un momento de creciente preocupación en Pekín y Washington por los riesgos políticos, sociales y tecnológicos de esta herramienta. Chen sostiene que la IA se convirtió en un campo principal de competencia tecnológica global y en una nueva vía de “rivalidad entre grandes potencias”, según un texto publicado este domingo por la Administración del Ciberespacio de China, el principal órgano regulador del Internet chino, en su cuenta oficial en la red social Wechat.

Primero llegará la ventaja cuántica. Así llaman los especialistas al momento en que un procesador cuántico resuelva un problema del mundo real de forma más eficiente que un procesador tradicional. No todos, basta con que solucione solo uno para que “todo se precipite”, explica Mario de Miguel, director de la empresa Nu Quantum en España. Porque, a partir de entonces, el objetivo de tener un computador cuántico estable aparecerá definitivamente en el horizonte cercano. Ese ordenador será una puerta al futuro de la ciencia pero también un momento temido por gobiernos, agencias de inteligencia, bancos y grandes tecnológicas.

El motivo es que uno de los primeros usos de ese computador será ofensivo. Los procesadores cuánticos no aspiran a sustituir a los tradicionales, pero sí a ser mucho más eficientes en determinadas tareas matemáticas. Y una de ellas es descifrar las contraseñas y los sistemas de cifrado actuales que protegen las comunicaciones, transferencias y bases de datos. “Los bancos están preparándose para que eso pueda ocurrir a partir de 2030 o 2032”, avanza De Miguel.

Pero tras la amenaza, llegará la aplicación científica. Nuevos materiales, nuevos combustibles, nuevos medicamentos “de manera mucho más rápida y fidedigna. Usted o yo no tendremos un ordenador cuántico en casa, no los utilizaremos para abrir documentos. Pero pueden tener un impacto enorme en determinadas aplicaciones”, insiste el ejecutivo de Nu Quantum, una puntera startup británica que abrirá oficina en España este otoño. La razón es que muchas de esas aplicaciones consisten en simular cómo se comportan las moléculas a nivel cuántico.

Los científicos llevan dos décadas hablando del potencial de la computación cuántica, pero ahora el calendario empieza a aclararse. La industria ya no habla de décadas sino de años. Numerosas empresas están recibiendo inversiones no solo para avanzar en su investigación teórica, sino para tomar posiciones en el mercado de cada a su aplicación comercial. Los datos hablan por si solos: según el último informe de la consultora McKinsey, en 2025 la inversión en cuántica se disparó un 500% respecto al año anterior, marcando un récord absoluto.

“La computación cuántica presenta una oportunidad de casos de uso de entre 1,3 y 2,7 billones de dólares para 2035, con una aceleración rápida prevista en los próximos 5 a 10 años”, explica la consultora. “Los ingresos de las compañías de computación cuántica están aumentando a medida que la comercialización gana tracción; superaron los 1.000 millones de dólares en 2025 y se estima que crecerán hasta alcanzar entre 3.200 y 4.400 millones de dólares en 2028 (+47% anual)”.

La computación cuántica ya ocupa un espacio propio en eventos como el encuentro anual de Ametic, la principal patronal de la industria tecnológica. Cristian Canton, director asociado del Barcelona Supercomputing Center - Centro Nacional de Supercomputación (BSC), fue uno de los ponentes. “La computación cuántica es una solución realista”, explicó a elDiario.es. “Ahora mismo estamos teniendo casos de uso. Para problemas muy concretos, muy bien acotados, podemos desarrollar soluciones cuánticas que nos permiten probar que estas máquinas sirven para resolverlo”.

Estamos teniendo casos de uso. Para problemas muy concretos, podemos desarrollar soluciones cuánticas que permiten probar que estas máquinas sirven para resolverlo

Cristian Canton — director asociado del BSC

“Pero no dejamos de estar aún en los albores. Con todas estas tecnologías sucede lo que se llama el efecto de palo de hockey”, continúa Canton, haciendo referencia a cómo su desarrollo puede avanzar lentamente durante años hasta que, llegado un determinado momento, se produce una aceleración muy rápida. Es un comportamiento típico de la industria tecnológica, que adquiere una forma parecida a lo que muestra el gráfico de inversiones en cuántica de McKinsey.

“Cuando se inventó el primer transistor, era muy grande y parecía imposible juntar millones en un computador. Pero hoy en día tienes trillones de transistores en tu móvil”, ejemplifica.

Mercado y apuesta geopolítica

La inteligencia artificial cambió la forma en la que se perciben este tipo de tecnologías con gran potencial de impacto en ciencia y seguridad. Esta misma semana el debate sobre los riesgos que entraña su desarrollo volvió a explotar, con voces desde dentro de los propios laboratorios advirtiendo del peligro existencial que conlleva seguir avanzando. La cuántica amenaza con repetir ese guion: tecnología con capacidad de alterar el equilibrio de poder, desarrollada a un ritmo que la fiscalización política y social no logra seguir.

En encuentros como el de Ametic, la gran pregunta es cómo impulsar el desarrollo de las empresas del sector para impedir volver a quedar atrás respecto a las grandes potencias. “Hay mercado y se tiene que crear mercado. No basta con que haya simplemente empresas de oferta y proveedores de ordenadores cuánticos si no hay usuarios”, defiende Eva Martín, directora de innovación de Qilimanjaro Quantum Tech. Esta startup es una de las más importantes del contexto español, responsable del diseño e instalación de los ordenadores cuánticos del BSC.

“El sector público y la administración, a través de mecanismos de compra pública innovadora, funcionan como un primer cliente que no es solo dar financiación. Actúa como cliente, envía señales de credibilidad hacia la inversión privada y permite crear experiencia operacional en las empresas para validar la tecnología”, continuó la experta en una de las mesas de debate de Ametic. Dicha compra pública innovadora consiste en que una administración encargue y pague el desarrollo de una tecnología que todavía no existe o que necesita ser mejorada, convirtiéndose así en uno de sus primeros clientes.

Aunque la inmensa mayoría de la financiación que reciben las startups cuánticas proviene del sector privado (representando el 97% de los 12.200 millones de dólares registrados por McKinsey en 2025), los gobiernos de todo el mundo también multiplicaron su apoyo a estas tecnologías. Los anuncios de inversión pública llegaron a los 11.400 millones de dólares solo en 2025, según el QED-C, la principal asociación internacional de empresas, instituciones y laboratorios del mercado de tecnología cuántica. La mayoría de esos fondos van a universidades e investigación, aunque una cantidad creciente se destina a vehículos como la compra pública innovadora.

En España, la Estrategia de Tecnologías Cuánticas 2025-2030 está dotada con 808 millones de euros. Esto coloca a España entre los primeros países europeos en su apuesta en este campo, solo por detrás de Reino Unido y Francia. Parte de esa apuesta se concentra en una infraestructura científica adaptada a esta nueva era: el Centro de Ciencia y Tecnologías Cuánticas (QuARC-CSIC), que reunirá a 36 grupos de investigación de 21 institutos repartidos por nueve comunidades autónomas.

En lo que respecta a capital privado, EE.UU. se lleva el 64% de las inversiones, según McKinsey, con 8.015 millones de dólares captados en 2025 frente a los 1.245 millones de la Unión Europea. Una tendencia que China está compensando con un compromiso de 15.300 millones de dólares (unos 13.000 millones de euros).

“Cualquier ralentización de la inversión pública en Europa nos deja en una posición de desventaja preocupante frente a competidores que están acelerando sus hojas de ruta”, advirtió sobre estas cifras la directiva de Qilimanjaro. Mario de Miguel, director de Nu Quantum Spain, coincide en el diagnóstico, pero destaca que el estado aún incipiente del sector representa una oportunidad. “No vamos tarde porque todavía hay muchísimo por hacer. Tenemos nichos por los que apostar y en los que nos estamos haciendo fuertes. El talento europeo es increíble, y el español también. Ahora mismo lo que hace falta es formar gente en las aplicaciones concretas dentro de cada campo”.

La inteligencia artificial convirtió la carrera tecnológica en una nueva guerra fría entre las grandes potencias y la computación cuántica parece estar generando el mismo tablero de juego. Potencial, ciencia y geopolítica vuelven a coincidir, y sus promesas empiezan a espolear una inversión que se multiplicó por seis en un solo año.