El exinvestigador de OpenAI y Anthropic Jacob Coxon advirtió este lunes que los sistemas de inteligencia artificial (IA) se acercan a un punto en el que serán “capaces de mejorarse a sí mismos” y de que, con el ritmo actual, “hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga”, lo que “podría acabar en la extinción humana”.

Coxon, que renunció de su puesto en Anthropic el pasado septiembre tras asegurar que las compañías de IA no estaban actuando con responsabilidad, dijo durante una audiencia del Concejo Municipal de Nueva York: “no sabemos cómo controlar todavía ningún sistema de IA” y el ritmo de mejora de sus capacidades “se está acelerando”.

“En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga, y eso podría acabar en la extinción humana”, aseveró.

Las preocupaciones por OpenAI y Anthropic

Asimismo, el especialista agregó que las compañías están intentando desarrollar una IA “capaz de superar a los humanos en todas las tareas” y que uno de sus principales objetivos es automatizar la propia investigación en esta tecnología.

Coxon criticó la carrera entre las empresas para alcanzar la denominada ‘superinteligencia’ y cuestionó una cultura empresarial basada en “moverse rápido, romper cosas y arreglarlas después”, algo que consideró “inadecuado” por los riesgos que eso conlleva.

Como ejemplo, relató que hace unos meses un grupo de sistemas de IA dentro de OpenAI “pirateó de forma autónoma” la plataforma tecnológica Hugging Face y desarrolló objetivos que nadie había previsto.

Según Coxon, ese incidente recordó que todavía no se sabe cómo impedir que los sistemas desarrollen objetivos no deseados ni se dispone de salvaguardas suficientes.

Investigador de IA automatizado

La automatización de la investigación en IA es ahora, según dijo, el principal objetivo de estas compañías.

Coxon explicó que en OpenAI había objetivos para disponer de un investigador de IA automatizado alrededor de 2027 o 2028 y aseguró que están “en camino” de cumplir esas expectativas, algo que situó “a meses” y no a décadas.

“Entregar tanta responsabilidad mientras no podemos controlar las IA sería profundamente irresponsable”, argumentó, y pidió más transparencia para el público y expertos independientes.

Su intervención se produjo durante una audiencia del Concejo Municipal de Nueva York sobre los riesgos de la IA, impulsada por su presidenta, Julie Menin, quien advirtió de las “serias preocupaciones de seguridad existencial” asociadas al desarrollo de esta tecnología.

Menin defendió al comienzo de la sesión que la IA no puede quedar sometida únicamente a la autorregulación de las empresas y abogó por establecer medidas de seguridad.

La audiencia reúne a representantes de OpenAI, Anthropic, Google y Meta, llamados a declarar bajo juramento ante el pleno del Concejo.

Las empresas de IA defienden sus controles de seguridad

Por su parte, las principales empresas de IA defendieron sus sistemas de seguridad, pero evitaron comprometerse de forma inequívoca a no desplegar modelos que no superen una evaluación independiente.

Durante la audiencia, Menin pidió bajo juramento a los representantes de OpenAI, Anthropic, Meta y Google que se comprometieran a no lanzar un modelo si fallaba una prueba interna o una evaluación de terceros no seleccionados por la propia empresa.

La representante de OpenAI, Morgan Dwyer, dijo al respecto que la compañía “no va a lanzar modelos que no consideremos seguros” y defendió que sus evaluaciones cuentan con terceros y con la colaboración de los Gobiernos de Estados Unidos y Reino Unido.

Mientras, el representante de Anthropic, Logan Graham, explicó que su empresa lleva cuatro años trabajando en la cuantificación de riesgos, incluidos los relacionados con la bioseguridad y la ciberseguridad, pero reconoció que se trata de un proceso “intrincado y lleno de matices”.

Graham afirmó que Anthropic publica informes en los que explica “qué probabilidad creemos que tienen determinados tipos de estas amenazas de llegar a producirse” y defendió las evaluaciones independientes como “uno de los componentes más importantes” del proceso.

Mientras, el representante de Meta, Shane Cahill, describió un sistema de seguridad “de varias capas” y, preguntado por la posibilidad de cuantificar los riesgos, dijo que no quería “ser impreciso”.

Por su parte, la representante de Google, Alice Friend, explicó que la compañía utiliza marcos específicos para detectar capacidades peligrosas, pero admitió que predecir el riesgo catastrófico futuro “no es una ciencia perfecta”.

Friend agregó que “no existe actualmente una base científica suficientemente rigurosa para asignar probabilidades precisas a determinados riesgos catastróficos”.

EFE

Un equipo independiente de especialistas de ciberseguridad logró acceder a los sistemas internos de OpenAI utilizando Claude, el modelo de inteligencia artificial desarrollado por su competidora directa, Anthropic. Los investigadores consiguieron hackear la cuenta corporativa de ChatGPT de un empleado de la compañía, lo que les permitió visualizar archivos internos e incluso proponer modificaciones en su repositorio de algoritmos secretos.

El ataque fue ejecutado como parte del programa oficial de recompensas de OpenAI, una práctica común en las tecnológicas que anima a los expertos en ciberseguridad a encontrar los agujeros en sus sistemas antes de que lo hagan los hackers. Por ello, los investigadores no llegaron a alterar el código de ChatGPT ni a realizar otro tipo de modificaciones, pero ofrecieron a OpenAI las pruebas de cómo podrían haberlo hecho. Esta les recompensó con 6.500 dólares.

La acción se produjo en julio, pero el equipo de expertos reveló ahora los detalles en exclusiva a The Wall Street Journal (WSJ). Se trata del mismo medio que adelantó la dimisión de Jacob Coxon, el ingeniero de Anthropic que alertó que ni esta empresa ni OpenAI cuentan con los protocolos de seguridad adecuados para impedir que la IA “pierda el control”, lo que podría suponer un peligro existencial para la humanidad antes de 2030.

Ahora, en medio del debate sobre la seguridad de la inteligencia artificial, el equipo de investigadores, pertenecientes a la firma Hacktron AI, pone más dudas sobre la mesa sobre las prácticas de los principales laboratorios que la desarrollan. No solo lograron penetrar en OpenAI, sino que pudieron usar Claude con un propósito malicioso que viola los términos de la compañía. “Agradecemos a los investigadores que se pusieran en contacto con nosotros y compartieran sus hallazgos”, comunicó OpenAI. Anthropic, por su parte, no hizo comentarios sobre el incidente.

A través del foro

Según los datos publicados, el ataque comenzó el 23 de julio, cuando los investigadores detectaron un fallo en Discourse, la plataforma externa que aloja el foro de la comunidad de OpenAI, cuando esta debía procesar determinados archivos de imagen. El equipo intentó utilizar primero una versión especializada de Claude Opus 4.8 para que escribiera el código necesario para explotar la brecha, sin éxito. Esa misma noche, tras el lanzamiento de Opus 5 por parte de Anthropic, volvieron a intentarlo empleando este modelo. No puso resistencia.

Con la ayuda de Opus 5, los especialistas accedieron a las credenciales de identificación de varios usuarios registrados en ese foro interno de OpenAI. Luego probaron esas mismas credenciales para iniciar sesión a ChatGPT, lo que les abrió la puerta a sus sistemas internos. A través de esa vía, alcanzaron “Monorepo”, el repositorio central donde la empresa dirigida por Sam Altman guarda algunos de los ingredientes secretos de su tecnología, como los algoritmos que hacen que sus modelos de IA funcionen de manera más rápida y eficiente.

No llegaron hasta la propia cocina de ChatGPT, puesto que ese entorno no contenía los archivos de sus parámetros internos (aquellos que determinan cómo procesa la información y genera sus respuestas) pero sí revisar documentación oficial de la compañía y su funcionamiento. Como prueba de su intrusión, enviaron una solicitud de cambio en el código de esos archivos con el nombre de su equipo. “Hemos limitado los permisos de los tokens de inicio de sesión de la comunidad y revocado los tokens y sesiones afectados”, dijo OpenAI sobre la intrusión.

Un incidente más

“No creo que seamos tan fuertes como los actores de amenazas chinos. Solo somos tres tipos con suscripciones a Claude y Codex”, afirmó Mohan Pedhapati, director de tecnología de Hacktron AI, al WSJ. La cita de los hackers chinos es una referencia a otro incidente sufrido por Anthropic, que reconoció que un ataque real proveniente del gigante asiático logró acceder a sus sistemas a finales de 2025. Dario Amodei, fundador y director ejecutivo de la compañía, fue llamado a declarar en diciembre.

Esa investigación continúa activa. En agosto, un grupo de 22 senadores demócratas envió un nuevo requerimiento a Amodei para profundizar en sus explicaciones y exigir la entrega de los registros de actividad de sus modelos. La petición se produjo después de que Anthropic reconociera que un grupo de sus agentes de IA también había escapado de sus entornos de pruebas y navegado sin control por internet intentando cumplir las órdenes que se les habían encomendado, en línea con el incidente de OpenAI y Hugging Face. Los especialistas consultados por este medio opinan que esto es una prueba de que esos entornos de seguridad “no estaban bien diseñados”.

Lo ocurrido con el hackeo supuestamente procedente de China en su competencia parece que no alteró los protocolos de OpenAI, que no decidió aumentar la seguridad hasta este julio. Así lo reconoció el presidente y cofundador de la empresa, Greg Brockman, que afirma que fue después del incidente de Hugging Face y el revelado ahora por los investigadores cuando decidieron actuar: “Tomamos al 25% de nuestros ingenieros de producción y les dijimos: 'Lo sentimos, todos vuestros proyectos quedan en pausa. Ahora estáis defendiendo'. Encontramos una serie de problemas graves y los solucionamos”.

El suceso incide sobre la responsabilidad de las compañías a la hora de controlar el uso que se hace de los productos que ponen en el mercado, como están pidiendo responsables públicos tanto estadounidenses como europeos. “El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también”, recordaba este jueves Alberto Gago, director de la Agencia Española de Supervisión de la IA (AESIA), en otro reportaje de elDiario.es.

Hay mucho en juego. Miles de millones de dólares, una carrera geopolítica e incluso las mayorías políticas en las dos cámaras de representantes de EE.UU. En el debate sobre “ralentizar” el desarrollo de la IA, lo que está encima de la mesa va mucho más allá de la regulación de esta tecnología o los métodos de los laboratorios. Tanto como para fracturar los consensos en Silicon Valley y que Donald Trump se lance con todo para intentar recuperar la iniciativa de un debate que comenzaba a escapársele, aun a costa de abrir un cisma con la industria digital que fue su baluarte desde 2024.

El presidente de EE.UU. defiende que no es necesaria ninguna regulación. “¿Cuándo, en la historia empresarial, se vio que los líderes de un sector pidieran una regulación que, de aplicarse con firmeza, los llevaría al olvido y a la quiebra?”, cuestionó Trump sobre el plan de Dario Amodei, CEO de Anthropic, con medidas para evitar que la IA “pierda el control”. Una posibilidad que el presidente tacha de “fake news” y de “conspiración enfermiza”: “Esto es aún más descabellado que la farsa de 'Rusia, Rusia, Rusia' o el engaño del calentamiento global”.

Pero esta vez Trump no puede limitarse solo a mandar sus clásicas ideas fuerza que tanto éxito le dieron en el pasado. Necesita convencer. En EE.UU. crece un importante movimiento de protesta por la expansión de los centros de datos masivos para la inteligencia artificial, que está ganando tracción entre demócratas y republicanos. La subida de los precios de la energía es su principal motor, pero su consumo de agua, las ventajas fiscales y los pocos empleos que generan también están acelerando la brecha.

Texas es uno de los mejores ejemplos del potencial de la protesta. Allí, tanto el gobernador republicano como su candidato al Senado se sumaron al movimiento, en el que también hay ecologistas, críticos con las grandes tecnológicas, propietarios rurales, además de los vecinos preocupados por las facturas. En otros estados, como Pennsylvania o Michigan, gobernadores que hace unos meses defendían los centros de datos ahora dieron un giro de 180 grados. Un sentimiento que contagia también a la regulación general de la IA y a la relación de Trump con los magnates de Silicon Valley.

Algo, que a menos de tres meses de las elecciones de mitad de mandato que podrían cambiar las mayorías en el Senado y el Congreso, puede poner en riesgo el futuro político de Trump.

“Oh, hola señor presidente”

En los últimos días, Trump comenzó una campaña para que su mensaje llegue más lejos. El principal ejemplo fue una oportuna llamada que el presidente realizó a Jensen Huang, CEO de Nvidia, justo cuando esté se encontraba en un acto contra la regulación de la IA. En él también participaban figuras con David Sacks, asesor de Trump encargado de ser “el zar de la IA y las criptomonedas”, la figura más radical en su oposición a las leyes para esta tecnología.

Aunque Huang escenifica que la llamada no estaba preparada, activa al altavoz y cede el escenario a Trump para que explique su oposición al plan de Amodei durante unos cinco minutos. “El país más feliz con todo esto es China”, afirma el presidente, que sostiene que cualquier medida de control de la IA haría que el gigante asiático sobrepasara a EE.UU.

Huang es una figura clave en esa postura. Es el magnate de la IA que defiende que EE.UU. no solo no debería regular, sino que tendría que acelerar. “Correr tan rápido como podamos” fue la receta que expresó en el mismo escenario. Una postura que lo llevó a tener enfrentamientos públicos con Amodei, el líder intelectual del bando contrario. “Si creás un producto o un servicio y no confiás en su funcionalidad, capacidad o seguridad, entonces no lo lances al mercado”, sostuvo: “La seguridad es un problema de ingeniería, no vamos a morir en 2030”.

Si creás un producto o un servicio y no confiás en su funcionalidad, capacidad o seguridad, entonces no lo lances al mercado

Jensen Huang — CEO de Nvidia

Huang, de 63 años y origen taiwanés, es uno de los perfiles más particulares en la industria de la IA. Tras fundar Nvidia hace 33 años, se conformó con que esta fuera una empresa de nicho en el sector de los videojuegos. Cuando los chips que llevaba décadas fabricando para la visualización de gráficos se convirtieron en los más útiles para el entrenamiento de la IA, Nvidia se convirtió en la empresa más valiosa del mundo, pulverizando récords de beneficios trimestre a trimestre. Está en el centro de la vorágine constructora de centros de datos y Huang defiende que no hay ninguna “burbuja” en torno a ellos ni a la IA: “Las fuerzas del mercado ya están ahí; no necesitamos nuevas leyes, no necesitamos nuevas regulaciones”.

Es un importante aliado en la campaña contra la regulación de Trump, pero no es el único. En ella también se enroló uno de los principales aliados del presidente entre los emperadores de Silicon Valley: Mark Zuckerberg. El CEO de Meta rechazó la necesidad de una regulación, indicando que son las propias empresas las interesadas en que la IA no cause consecuencias graves. “Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño, por lo que también tienen un fuerte incentivo para evitarlo”, escribió en X el último de los magnates que faltaba por posicionarse.

La extraña alianza

Al otro lado del bando comandado por Trump y Huang se sitúa la extraña alianza entre Dario Amodei, Sam Altman y Elon Musk. Tres fundadores y directores ejecutivos que estuvieron enfrentados en el pasado (Altman y Musk llegaron a los tribunales) pero que formaron ahora un grupo unido en su petición de una regulación que “ralentice” el desarrollo de la IA basándose en el plan de Amodei.

En Silicon Valley abundan los congresos y eventos en los que los CEO pueden expresarse, por lo que las respuestas de este grupo a Trump y Huang no se hicieron esperar. “Es muy tentador atacar a la competencia y decir que no somos seguros. Pero creo que la forma más responsable de responder a eso es decir: 'Analicemos nuestro propio historial. Puede que no hayamos tenido ningún incidente grave y de gran repercusión, pero estoy seguro de que no somos perfectos'”, respondió Amodei este martes en una de esas conferencias.

“Creo que así es como se lidera el sector: dando ejemplo, diciendo que todos podemos mejorar siempre”, añadió en el evento, organizado esta vez por la compañía de software Salesforce en San Francisco.

Puede que no hayamos tenido ningún incidente grave y de gran repercusión, pero estoy seguro de que no somos perfectos

Dario Amodei — CEO de Anthropic

A la misma conferencia estaba citado Sam Altman. Dirige OpenAI, la compañía que se vio sobrepasada por Anthropic en el liderazgo de la IA, pero apoya a Amodei en su petición de regulación. El ejecutivo intentó explicar por qué la petición de regulación unió a diferentes actores de la industria. “No puede ser que un número pequeño de empresas que construyen estos modelos tomen las decisiones que todo el mundo debería tomar”, afirmó, opinando que debe haber unas reglas comunes a las que estas empresas se adhieran.

“No estoy de acuerdo con que la tecnología no sea ni buena ni mala... las decisiones que toman las empresas que construyen esto tienen consecuencias reales”, añadió Altman. Por último, el líder de OpenAI pidió a la ciudadanía que confíe en los laboratorios de IA, los mismos a los que la ONU pide más transparencia en su desarrollo. “El mundo debe confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto”.

No estoy de acuerdo con que la tecnología no sea ni buena ni mala... las decisiones que toman las empresas que construyen esto tienen consecuencias reales

Sam Altman — CEO de OpenAI

El último en pasar por el escenario fue Elon Musk. “Hay empresas que dicen cosas como: 'Solo ralentizaremos el desarrollo o solo actuaremos de forma responsable si las demás empresas también lo hacen de forma responsable'”, criticó. El magnate es una de las voces que pidió moratorias para el desarrollo de la IA desde que salió a la luz el primer ChatGPT en 2022. Muchos expertos denuncian que su intención es realmente establecer una “barrera de entrada” para otros competidores.

En esta ocasión, también fue de los primeros en apoyar el plan de Amodei, que incluye medidas como verificadores independientes que se incrustarían en los laboratorios para vigilar sus avances. “En vez de que cada uno se ponga la nota a sí mismo, al menos tendrías a competidores evaluando tu trabajo y dando la voz de alarma si detectan algún problema”, dijo. La procedencia de esos evaluadores, que Musk da por hecho que vendrían de la propia industria, es uno de los puntos más criticados del plan, con voces que avisan que se trata de una estrategia de autorregulación.

La gente lo tiene claro

Mientras los magnates de Silicon Valley discuten cómo repartirse los exámenes de seguridad o si sus propios competidores deben evaluar sus modelos, el verdadero incendio se trasladó a Washington. Encuestas de la Universidad de Maryland revelan que cerca del 80% de los votantes, tanto demócratas como republicanos, exige la creación de una agencia federal que supervise y controle esta tecnología, mientras que un porcentaje similar creen que el Gobierno debería establecer exámenes de seguridad para los modelos que tomen decisiones críticas. Datos clave para los congresistas y senadores que se juegan su escaño en menos de tres meses y que se suma al movimiento de protesta por los centros de datos.

Todos se juegan mucho. La fractura en Silicon Valley podría provocar que el intento de autorregulación que algunos de sus magnates están intentando conseguir, se pierda por falta de consenso. Mientras, el cisma abierto por Trump con su negativa total a una regulación amenaza con distanciarle con algunos de sus principales apoyos en el sector que ha sido su baluarte en su segundo mandato. Una pugna que no se resolverá en las urnas, no en los pasillos de San Francisco.

Primero llegará la ventaja cuántica. Así llaman los especialistas al momento en que un procesador cuántico resuelva un problema del mundo real de forma más eficiente que un procesador tradicional. No todos, basta con que solucione solo uno para que “todo se precipite”, explica Mario de Miguel, director de la empresa Nu Quantum en España. Porque, a partir de entonces, el objetivo de tener un computador cuántico estable aparecerá definitivamente en el horizonte cercano. Ese ordenador será una puerta al futuro de la ciencia pero también un momento temido por gobiernos, agencias de inteligencia, bancos y grandes tecnológicas.

El motivo es que uno de los primeros usos de ese computador será ofensivo. Los procesadores cuánticos no aspiran a sustituir a los tradicionales, pero sí a ser mucho más eficientes en determinadas tareas matemáticas. Y una de ellas es descifrar las contraseñas y los sistemas de cifrado actuales que protegen las comunicaciones, transferencias y bases de datos. “Los bancos están preparándose para que eso pueda ocurrir a partir de 2030 o 2032”, avanza De Miguel.

Pero tras la amenaza, llegará la aplicación científica. Nuevos materiales, nuevos combustibles, nuevos medicamentos “de manera mucho más rápida y fidedigna. Usted o yo no tendremos un ordenador cuántico en casa, no los utilizaremos para abrir documentos. Pero pueden tener un impacto enorme en determinadas aplicaciones”, insiste el ejecutivo de Nu Quantum, una puntera startup británica que abrirá oficina en España este otoño. La razón es que muchas de esas aplicaciones consisten en simular cómo se comportan las moléculas a nivel cuántico.

Los científicos llevan dos décadas hablando del potencial de la computación cuántica, pero ahora el calendario empieza a aclararse. La industria ya no habla de décadas sino de años. Numerosas empresas están recibiendo inversiones no solo para avanzar en su investigación teórica, sino para tomar posiciones en el mercado de cada a su aplicación comercial. Los datos hablan por si solos: según el último informe de la consultora McKinsey, en 2025 la inversión en cuántica se disparó un 500% respecto al año anterior, marcando un récord absoluto.

“La computación cuántica presenta una oportunidad de casos de uso de entre 1,3 y 2,7 billones de dólares para 2035, con una aceleración rápida prevista en los próximos 5 a 10 años”, explica la consultora. “Los ingresos de las compañías de computación cuántica están aumentando a medida que la comercialización gana tracción; superaron los 1.000 millones de dólares en 2025 y se estima que crecerán hasta alcanzar entre 3.200 y 4.400 millones de dólares en 2028 (+47% anual)”.

La computación cuántica ya ocupa un espacio propio en eventos como el encuentro anual de Ametic, la principal patronal de la industria tecnológica. Cristian Canton, director asociado del Barcelona Supercomputing Center - Centro Nacional de Supercomputación (BSC), fue uno de los ponentes. “La computación cuántica es una solución realista”, explicó a elDiario.es. “Ahora mismo estamos teniendo casos de uso. Para problemas muy concretos, muy bien acotados, podemos desarrollar soluciones cuánticas que nos permiten probar que estas máquinas sirven para resolverlo”.

Estamos teniendo casos de uso. Para problemas muy concretos, podemos desarrollar soluciones cuánticas que permiten probar que estas máquinas sirven para resolverlo

Cristian Canton — director asociado del BSC

“Pero no dejamos de estar aún en los albores. Con todas estas tecnologías sucede lo que se llama el efecto de palo de hockey”, continúa Canton, haciendo referencia a cómo su desarrollo puede avanzar lentamente durante años hasta que, llegado un determinado momento, se produce una aceleración muy rápida. Es un comportamiento típico de la industria tecnológica, que adquiere una forma parecida a lo que muestra el gráfico de inversiones en cuántica de McKinsey.

“Cuando se inventó el primer transistor, era muy grande y parecía imposible juntar millones en un computador. Pero hoy en día tienes trillones de transistores en tu móvil”, ejemplifica.

Mercado y apuesta geopolítica

La inteligencia artificial cambió la forma en la que se perciben este tipo de tecnologías con gran potencial de impacto en ciencia y seguridad. Esta misma semana el debate sobre los riesgos que entraña su desarrollo volvió a explotar, con voces desde dentro de los propios laboratorios advirtiendo del peligro existencial que conlleva seguir avanzando. La cuántica amenaza con repetir ese guion: tecnología con capacidad de alterar el equilibrio de poder, desarrollada a un ritmo que la fiscalización política y social no logra seguir.

En encuentros como el de Ametic, la gran pregunta es cómo impulsar el desarrollo de las empresas del sector para impedir volver a quedar atrás respecto a las grandes potencias. “Hay mercado y se tiene que crear mercado. No basta con que haya simplemente empresas de oferta y proveedores de ordenadores cuánticos si no hay usuarios”, defiende Eva Martín, directora de innovación de Qilimanjaro Quantum Tech. Esta startup es una de las más importantes del contexto español, responsable del diseño e instalación de los ordenadores cuánticos del BSC.

“El sector público y la administración, a través de mecanismos de compra pública innovadora, funcionan como un primer cliente que no es solo dar financiación. Actúa como cliente, envía señales de credibilidad hacia la inversión privada y permite crear experiencia operacional en las empresas para validar la tecnología”, continuó la experta en una de las mesas de debate de Ametic. Dicha compra pública innovadora consiste en que una administración encargue y pague el desarrollo de una tecnología que todavía no existe o que necesita ser mejorada, convirtiéndose así en uno de sus primeros clientes.

Aunque la inmensa mayoría de la financiación que reciben las startups cuánticas proviene del sector privado (representando el 97% de los 12.200 millones de dólares registrados por McKinsey en 2025), los gobiernos de todo el mundo también multiplicaron su apoyo a estas tecnologías. Los anuncios de inversión pública llegaron a los 11.400 millones de dólares solo en 2025, según el QED-C, la principal asociación internacional de empresas, instituciones y laboratorios del mercado de tecnología cuántica. La mayoría de esos fondos van a universidades e investigación, aunque una cantidad creciente se destina a vehículos como la compra pública innovadora.

En España, la Estrategia de Tecnologías Cuánticas 2025-2030 está dotada con 808 millones de euros. Esto coloca a España entre los primeros países europeos en su apuesta en este campo, solo por detrás de Reino Unido y Francia. Parte de esa apuesta se concentra en una infraestructura científica adaptada a esta nueva era: el Centro de Ciencia y Tecnologías Cuánticas (QuARC-CSIC), que reunirá a 36 grupos de investigación de 21 institutos repartidos por nueve comunidades autónomas.

En lo que respecta a capital privado, EE.UU. se lleva el 64% de las inversiones, según McKinsey, con 8.015 millones de dólares captados en 2025 frente a los 1.245 millones de la Unión Europea. Una tendencia que China está compensando con un compromiso de 15.300 millones de dólares (unos 13.000 millones de euros).

“Cualquier ralentización de la inversión pública en Europa nos deja en una posición de desventaja preocupante frente a competidores que están acelerando sus hojas de ruta”, advirtió sobre estas cifras la directiva de Qilimanjaro. Mario de Miguel, director de Nu Quantum Spain, coincide en el diagnóstico, pero destaca que el estado aún incipiente del sector representa una oportunidad. “No vamos tarde porque todavía hay muchísimo por hacer. Tenemos nichos por los que apostar y en los que nos estamos haciendo fuertes. El talento europeo es increíble, y el español también. Ahora mismo lo que hace falta es formar gente en las aplicaciones concretas dentro de cada campo”.

La inteligencia artificial convirtió la carrera tecnológica en una nueva guerra fría entre las grandes potencias y la computación cuántica parece estar generando el mismo tablero de juego. Potencial, ciencia y geopolítica vuelven a coincidir, y sus promesas empiezan a espolear una inversión que se multiplicó por seis en un solo año.

El director ejecutivo y cofundador de Anthropic, Dario Amodei, reclamó este sábado una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de inteligencia artificial (IA), tras advertir de que la tecnología avanza hacia una dinámica de “automejora recursiva” que amenaza con provocar catástrofes de ciberseguridad a escala global.

“Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”, advierte Amodei en un extenso ensayo publicado hoy en su página web.

“Mi principal preocupación es que, desde este verano, la IA ha avanzado a un ritmo vertiginoso, impulsada principalmente por su creciente capacidad para crear la próxima generación de IA. Esta dinámica se denomina auto-mejora recursiva y está empezando a manifestarse en toda la industria, incluyendo Anthropic”, explica Amodei. “Si no se controla, podría superar nuestra capacidad de comprender y controlar estos sistemas, por lo que debe abordarse con suma cautela, si es que se aborda”.

Amodei hizo referencia específica al incidente de los agentes fuera de control de OpenAI y Hugging Face, en el que un enjambre de agentes actuó “como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso, se sacrificaron por el éxito del grupo e intentaron hackear el sistema encargado de evaluar su rendimiento”.

Según Amodei, la industria debe “reducir el ritmo al que se mejora las capacidades de los modelos de IA” y priorizar la cautela frente a la velocidad y la prudencia frente al beneficio económico para evitar que los incentivos comerciales desemboquen en una “carrera hacia el abismo”.

Para atajar la amenaza, Amodei planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a regímenes autoritarios como China.

Como primer paso, Anthropic anunció el compromiso unilateral e inmediato de abrir sus instalaciones a evaluadores externos independientes con acceso equiparable al de sus propios empleados, permitiéndoles auditar los procesos de entrenamiento y publicar sus hallazgos, una medida que instó a adoptar al resto de competidores y a exigir a los gobiernos.

La propuesta contempla asimismo una coordinación entre las empresas para pactar estándares comunes de seguridad y topes al avance descontrolado, respaldados por mediación institucional y excepciones a las normas antimonopolio, además de blindar las cadenas de suministro de semiconductores para impedir filtraciones tecnológicas a Pekín.

Finalmente, el plan promueve acuerdos globales con potencias autoritarias para fijar límites verificables que prohíban aplicaciones biológicas militares y establezcan límites a la velocidad de la automejora algorítmica.

El directivo concluyó que ralentizar el avance aportaría uno o dos años cruciales para que la comunidad investigadora domine el alineamiento y la interpretabilidad de los modelos, garantizando un debate público adecuado y reduciendo sustancialmente el riesgo de que la tecnología escape al control de la sociedad.

Un investigador de Anthropic anunció esta semana su dimisión debido a la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.

El investigador, Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.

“Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor”, escribió Coxon en su cuenta de X el pasado martes.

La empresa de inteligencia artificial Anthropic advirtió este jueves de que frustró varios posibles complots en los que se utilizaron sus modelos de Inteligencia Artificial (IA) para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas.

La compañía indicó en un informe que detectó y bloqueó estos usos indebidos durante este año, aunque no pudo determinar si los estudios tenían fines legítimos o maliciosos, por lo que optó por bloquearlos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos.

“Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real”, explicó la empresa en el documento.

Hasta el momento, la corporación californiana negó que tuviera constancia de que alguna empresa privada haya compartido públicamente “evidencia del posible mal uso de sus plataformas para el desarrollo de armas biológicas”.

Anthropic incluyó además en otro comunicado una extensa lista de casos detectados en los últimos ocho meses en los que se habían usado sus modelos de IA de manera indebida, además del chatbot Claude, en China, Rusia y Yemen.

Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas, así como también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.

La empresa tecnológica aseguró haber desarrollado sistemas de detección para identificar y bloquear los usos que puedan suponer un riesgo en sus modelos de IA.

Con información de la agencia EFE

Jacob Coxon, investigador británico especializado en el entrenamiento de IA avanzada, renunció a su puesto en Anthropic y anunció que abandona la industria de la inteligencia artificial. El ingeniero, de 27 años y que también había abandonado previamente de OpenAI, afirmó que el avance de esta tecnología supone un peligro existencial para la humanidad y que los ejecutivos de los laboratorios que lideran la carrera están escondiendo estos riesgos a la ciudadanía.

“Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse así misma y apostando nuestras vidas en esa carrera”, sostuvo Coxon en su cuenta de X.

“No subestimen el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, agregó en su posteo. Y remarcó: “Esto no es un truco de marketing. Muchos ejecutivos e investigadores senior moderan su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”.

La dimisión de Coxon y sus motivos fue adelantada en exclusiva por The Wall Street Journal este martes. El prestigioso medio económico detalla que el ingeniero tiene formación en matemáticas en la Universidad de Cambridge. Tras trabajar durante casi tres años en OpenAI dentro del equipo de preentrenamiento de grandes modelos lingüísticos, donde fue colaborador principal de GPT-4o y GPT-4.5, en julio de 2026 se incorporó a Anthropic.

El salto a la competencia se produjo precisamente ante la impresión de que la empresa dirigida por Sam Altman no dispone de los protocolos de seguridad adecuados. Anthropic basó su narrativa empresarial en la alerta sobre los peligros de esa superinteligencia (también llamada IA general) y la necesidad de avanzar con cautela hacia ella. Sin embargo, Coxon tampoco encontró lo que esperaba tras un mes en el laboratorio y advierte que ninguna de las dos organizaciones actúa con la cautela necesaria.

“En Anthropic comprenden la apuesta, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo”, declaró al WSJ: “Es una locura que esto tenga que ocurrir en los MacBooks de unos ingenieros que viven en San Francisco en lugar de en un búnker en el desierto como cuando hacían el Proyecto Manhattan”.

Según el medio económico, Coxon cree que la rivalidad entre OpenAI y Anthropic y la presión por mantener la delantera frente a los desarrolladores chinos están haciendo que ambos laboratorios dejen a un lado las salvaguardas de seguridad para avanzar lo más rápido posible.

Opacidad de los laboratorios de IA

Fuera de Silicon Valley, numerosos científicos se muestran escépticos sobre la posibilidad de crear una IA general autoconsciente y capaz de mejorarse a sí misma. Alegan que para llegar a ella hacen falta aun avances científicos sustanciales y no simples mejoras de los modelos actuales, que no comprenden realmente ninguno de los contenidos que generan. Muchos expertos avisan, además, que estas empresas utilizan el marketing del miedo para exagerar la capacidad de sus productos y vender protecciones ante ellos.

Las repetidas encuestas entre los especialistas son claras a este respecto. Una elaborada en 2025 por el University College de Londres entre 4.260 investigadores expertos en IA de 92 países mostró que solo el 3% afirmó estar preocupado por el escenario hipotético a largo plazo en el que una IA avanzada y fuera de control suponga una amenaza para la existencia humana. En contraste, la desinformación y noticias falsas, el uso de datos personales sin consentimiento o el cibercrimen fueron los riesgos señalados por los científicos.

No obstante, en las últimas fechas reputadas voces de la industria tecnológica elevaron la misma alerta que Coxon: los laboratorios de IA no está siendo transparente sobre los riesgos reales que entrañan sus investigaciones actuales. Una de ellas fue la del propio Bill Gates, que recientemente publicó un extenso ensayo y dado entrevistas en las que profundiza en esta cuestión.

“En privado, las personas que entienden lo buena que es esta tecnología y cuánto está mejorando, están muy preocupadas”, revela el fundador de Microsoft, indicando que aquellos que se atreven a señalarlo son censurados por el resto del sector. “Se dicen entre sí: 'Oye, amigo, no digas eso. Es malo para los próximos billones de dólares que estamos intentando recaudar'”.

En este sentido, este mismo miércoles el Financial Times informó de que Anthropic se negó a remitir su último y más avanzado desarrollo, Claude Mythos 5.1, al Instituto de Seguridad de la IA de Reino Unido (AISI) para ser auditado antes de su salida al mercado. El medio británico lo relaciona con la doctrina proteccionista impuesta por Donald Trump, ya que Anthropic sí compartió el modelo con sus socios estadounidenses.

Por el momento, ni Anthropic ni OpenAI hicieron ninguna declaración oficial respecto a las denuncias de Coxon. La única respuesta llegó por parte de uno de los directivos de Anthropic, encargado de las pruebas de seguridad de sus modelos. “Jacob tiene razón aquí: ¡realmente creemos con sinceridad que la IA podría matar a todos los humanos! Personalmente, creo que la probabilidad es mayor al 10% durante la próxima década. Creo que Anthropic está haciendo lo mejor que puede, pero todavía no tenemos un plan para resolver el alineamiento para la superinteligencia y claramente no estamos en camino de lograrlo”, afirmó Evan Hubinger en su cuenta de X.

Hubinger enlaza directamente en último Informe de riesgos de Anthropic, publicado este agosto. El documento trata en profundidad el problema del “desalineamiento”, como la industria denomina la posibilidad de que los sistemas de IA desobedezcan a sus creadores o queden fuera de control. Los investigadores de Anthropic concluyen que esa posibilidad en entornos de alto riesgo que resulten críticos para las personas o la sociedad es “bajo”, aunque fue elevado desde el “muy bajo” que le asignaban en su informe anterior.

El cambio de calificación llega después de que la compañía, según el informe, asegure que observó conductas como el uso de atajos engañosos o destructivos para completar tareas complejas por parte de sus modelos. Por otra parte, los investigadores consideran “muy poco probable” que exista un “desalineamiento severo y persistente no detectado” y aseguran que cuentan con las herramientas adecuadas para detectarlo en caso de que se produzca.

Durante décadas, las revoluciones tecnológicas siguieron un patrón reconocible. Primero llegaba la innovación, después el entusiasmo, más tarde el dinero. Sin embargo, la IA está alterando esta normal evolución de los acontecimientos, hasta el punto de constatar que las futuras batallas por el cetro tecnológico del planeta no se librarán en laboratorios ni en centros de investigación, sino en los mercados de capitales.

En cuestión de semanas, tres multinacionales de nuevo cuño, surgidas en el último decenio, pero a las que Wall Street les concedió un papel digital estelar y reservado un lugar en el club de las Siete Magníficas –Nvida, Microsoft, Apple, Alphabet, Amazon, Meta y Tesla– las emblemáticas bigtechs estadounidenses, registrarán sus actas de nacimiento como empresas cotizadas. Pese a que SpaceX, Anthropic y OpenAI no acuden al mercado para acaparar unos flujos de capital que, por su tamaño, quedaban hasta ahora reservados a las partidas presupuestarias estatales.

La operación de SpaceX, por ejemplo, podría recaudar hasta 86.000 millones de dólares, según la compañía de Elon Musk asumidos por la práctica totalidad de firmas de inversión. Una cifra similar a las partidas anuales de ministerios de gasto como los que gestionan las infraestructuras en las potencias industrializadas y que supera con creces a los presupuestos anuales promedio de las naciones en desarrollo. Incluso de varios mercados emergentes. 

Si las planificaciones corporativas se cumplen, SpaceX debutará presumiblemente el próximo 12 de junio en el parqué neoyorquino. Después de fijar el precio de su oferta la jornada precedente, con una valoración que el consenso valora en 1,8 billones de dólares. Anthropic, que inició los trámites regulatorios ante la SEC, aspira a superar el billón de dólares. Mientras OpenAI prepara su operación, en meses, tras calcular un valor de 850.000 millones.

Tomadas desde un prisma individual, cada una de estas salidas a bolsa sería histórica. Pero si se observa conjuntamente, ganan en relevancia, porque esta Triple Corona representa el gran salto transformador de la IA hacia una nueva clase de activos. La primera oleada de esta revolución tecnológica estuvo dominada por aplicaciones capaces de crear texto, imágenes o códigos. Pero la segunda exige construir la infraestructura que debe alimentar sus sistemas. Desde centros de datos gigantescos, hasta redes eléctricas reforzadas, chips avanzados con elevadas capacidades de almacenamiento y conectividades universales.

Triple salto bursátil y ¿primer billonario?

La magnitud de este fenómeno en ciernes deja, sin embargo, una profunda paradoja. Esta triada de potenciales bigtechs no busca liquidez porque carezcan de ella, sino porque los cientos de miles de millones de dólares de los que disponen no son suficientes para financiar la competitiva y más costosa carrera tecnológica de la historia moderna. De modo que sus inversores no desean avalar sus aplicaciones. Más bien, pretenden invertir en la nueva arquitectura económica global.

SpaceX saldrá a bolsa a un precio de 135 dólares por acción. De subir apenas un 1,2%, hasta los 136,6 dólares, la fortuna de Musk le convertiría en el primer billonario de la historia. Hay muchas opciones de que lo consiga. JP Morgan convocó a 2.500 grandes patrimonios para acordar una oferta excepcional de adquisición de valores SpaceX en sus carteras y fondos de inversión. Mientras Anthropic eligió a Morgan Stanley y Goldman Sachs para liderar su OPV, prevista para octubre, al tiempo que estrecha sus lazos con Nvidia a través de un acuerdo con SpaceX para usar unos 325.000 circuitos integrados de alta gama del fabricante de chips californiano en sus servicios de computación para IA.  

En paralelo, desde China también se mueven fichas. DeepSeek, la start-up que logró zarandear los mercados en febrero de 2025 por la calidad de su IA hasta generar una preocupación general de las bigtechs americanas con Trump recién aterrizado en la Casa Blanca, está en la fase final de un acuerdo para recaudar hasta unos 7.400 millones de dólares. La mayor ronda de financiación conocida en la historia bursátil del gigante asiático, informa Bloomberg.

Para Matthew Kennedy, estratega de OPVs (oferta pública de acciones, que es como se conocen las salidas a Bolsa) en Renaissance Capital, la cuestión central no gira en torno a cuánto dinero recaudarán, sino en sus plácets de mercado. Sus estrenos les darán impulso para marcar el rumbo y la velocidad que tomará Wall Street con los valores vinculados a la IA, y condicionará la narrativa de los inversores, inmersos en un mar de dudas sobre si sus billonarias inyecciones de capital recibidas justificarán las predicciones de productividad y rendimiento de sus proyectos. Estas cartas de navegación —asegura Kennedy— son relevantes porque, por primera vez desde el auge de Internet varias tecnológicas con unas capitalizaciones cercanas al billón de dólares accederán simultáneamente a los grandes centros de negociación de valores. En un momento en el que Wall Street rebosa apetito por el riesgo.

De Marte a los centros de datos orbitales

La más espectacular de estas operaciones será, previsiblemente, la de SpaceX. Fundada en 2002 por Elon Musk, forma parte de la mitología de Silicon Valley. A raíz de un viaje de Musk a Rusia para adquirir viejos misiles balísticos y convertirlos en lanzaderas espaciales de bajo costo. Pese a que la negociación fracasó, durante su vuelo de regreso calculó la factura de fabricar cohetes baratos. Varios años de pérdidas y lanzamientos fallidos después, la firma sobrevivió. Gracias a un contrato de la NASA en 2008, a la puesta en órbita de Starlink, el principal operador mundial de viajes espaciales y a la integración en su estructura de xAI, su firma de IA.

En la actualidad, a los ojos de los inversores, su emporio espacial combina satélites, IA y negocios vinculados a Defensa, telecomunicaciones y centros de datos orbitales. El mercado no sólo está comprando cohetes, sino la visión muskiana de la infraestructura tecnológica que reclaman los avances del Siglo XXI.

Sin embargo, la OPV también destila incertidumbre. El folleto preliminar no descarta posibles pérdidas multimillonarias asociadas al negocio de la IA y una concentración de poder corporativo sin precedentes. Musk conservará alrededor del 85% de los derechos de voto y recibir incentivos de hasta 760.000 millones de dólares, lo que limita la influencia de los accionistas minoritarios. Además de presuntos conflictos de intereses, ya detectados por Bloomberg, que apunta a varios altos cargos del Gabinete Trump que compraron participaciones en SpaceX o xAI mientras la firma acumulaba contratos federales millonarios. Por si fuera poco, el modelo que representan SpaceX, Anthropic y OpenAI acelera procesos de automatización que, para Boston Consulting Group, podrían reducir miles de empleos técnicos y profesionales en los próximos años.

OpenAI: el laboratorio que cambió la historia

Si SpaceX simboliza la infraestructura física, OpenAI es el ícono de la IA como fenómeno masivo y global. La compañía nació en 2015 de la mano de Sam Altman, Greg Brockman, Ilya Sutskever y... Elon Musk –entre otros– sin aparente pecado original. Porque se concibió como entidad sin ánimo de lucro. Con la misión de evitar que la IA avanzada estuviera en manos de un ramillete de firmas.

Pero el altruismo dejó paso a la ambición. El diseño de modelos sofisticados requiere recursos financieros imposibles de obtener con métodos tradicionales, justifican ahora sus ejecutivos. De ahí que OpenAI creara una estrategia de negocio híbrida capaz de captar miles de millones de dólares y atraer socios estratégicos. Hasta el 30 de noviembre de 2022, fecha del lanzamiento de ChatGPT. Ninguna aplicación había alcanzado una devoción social tan fulgurante. En cuestión de meses, la empresa pasó de ser un laboratorio tecnológico a personificar la revolución de la IA. Su salida a bolsa adquiere un significado especial. Será la primera vez que Wall Street valorará directamente a la firma que había provocado el cambio de paradigma de la IA. Aunque deberá demostrar que su liderazgo puede generar rentabilidades sostenibles.

Adrian Cox, analista de Deutsche Bank Research, y sus colegas de HSBC ponen el dedo en la llaga al señalar los pros y los contras de la maniobra bursátil de Altman. “Una valoración superior al billón convertiría a OpenAI en una de las 15 compañías más valiosas del mundo desde el primer día de cotización, un hito sin parangón”, admite Cox. Pero, al mismo tiempo –dicen en HSBC– OpenAI podría perder hasta 14.000 millones de dólares y precisar otros 200.000 millones antes de 2030 para sostener su expansión.

Anthropic: la escisión que desafió al líder

La historia de Anthropic también tiene ínfulas de grandeza. Surgida en 2021 por exingenieros de OpenAI liderados por Dario y Daniela Amodei, que defendían un enfoque de mayor prudencia en el desarrollo de modelos avanzados, su escisión de esta última se calificó de distanciamiento intelectual. Los Amodei no dudaron del potencial de la IA, pero sí de su celeridad.

Sin embargo, su apuesta cayó también en saco roto. Claude, su plataforma de IA de rendimiento inmediato, se propagó entre las grandes empresas, mientras Mythos, su nueva generación de ciberseguridad, ha despertado un inusitado interés de gobiernos y entidades financieras.

La reciente negociación para facilitar el acceso de Mythos a empresas e instituciones de la UE refleja hasta qué punto el valor de la compañía trasciende del ámbito comercial. Bruselas teme que las ciberamenazas no procedan solo de grupos criminales o servicios de inteligencia, sino de sistemas de IA capaces de identificar vulnerabilidades y explotarlas en tiempo real. Mandeep Singh, director de investigación tecnológica de Bloomberg Intelligence, alerta de que el principal riesgo reside en “la creciente interconexión entre sistemas financieros, infraestructuras digitales y modelos avanzados de IA”. En un escenario extremo, “un ataque automatizado sería capaz de dañar simultáneamente redes de pagos, energía y banca, en una especie de ”cascada de alcance universal“.

Jay Ritter, director de la IPO Initiative de la Universidad de Florida, considera que el verdadero examen para Anthropic y OpenAI se producirá cuando se analicen sus cuentas de resultados en sus fases de madurez. A su juicio, ambas ostentan estructuras de costes gigantescas y demandas permanentes de capital. Advertencia que comparte Harrison Rolfes, de PitchBook: “el mercado está valorando unos negocios sin arquitectura visible y apostando por ingresos futuros”, lo que rememora la crisis de las puntocom.

Los modelos de Inteligencia Artificial (IA) más sofisticados, como el caso de Claude Mythos desarrollado por Anthropic, disparan los riesgos de inestabilidad financiera, ya que estas herramientas son cada vez más veloces y capaces de explotar las vulnerabilidades informáticas, por lo que abren la puerta a ciberataques serios que podrían bloquear sectores completos a escala internacional.

Así lo cree el Fondo Monetario Internacional (FMI), que publicó este jueves una entrada en su blog en la que advierte que las capacidades ofensivas de los ciberdelincuentes se sitúan en extremos nunca vistos, que podrían provocar pérdidas extremas, dificultar el flujo de la financiación, disparar las inquietudes en torno a la solvencia y, en general, generar disrupciones en el mercado.

“El sistema financiero se basa en una infraestructura digital compartida altamente interconectada, incluyendo software, servicios en la nube y redes de pagos y otros datos. Los modelos avanzados de IA pueden reducir drásticamente el tiempo y el costo necesarios para identificar y explotar vulnerabilidades, aumentando la probabilidad de descubrir y enfocarse en las debilidades de sistemas ampliamente utilizados”, destacan los técnicos de la institución.

Un peligro a escala global y un reto para supervisarlo

El FMI pone como ejemplo claro el lanzamiento controlado de Claude Mythos, el nuevo modelo de Anthropic, capaz de encontrar y explotar las vulnerabilidades de cualquier sistema operativo o navegador web, incluso en manos del público en general. Y, destaca el organismo, dan una ventaja a los atacantes, ya que es más fácil descubrir vulnerabilidades que 'parchear' el sistema para protegerse.

“Esto presagia cómo los riesgos cibernéticos impulsados por la IA, que evolucionan rápidamente, podrían desestabilizar el sistema financiero si no se gestionan con cuidado”, advierte el Fondo, que reclaman a las autoridades que se centren en fortalecer la supervisión y la coordinación “en lugar de tratar estos desarrollos como meros problemas técnicos u operativos”.

Los riesgos ya no son solo sistémicos para el sector financiero, dice el FMI, sino que afecta también a otras ramas que comparten parte de esta infraestructura crítica (energía, telecos o la administración pública) y pueden “concentrar” el peligro, ya que cada vez más servicios dependen de una única solución en la nube o una plataforma de software.

“Las defensas inevitablemente serán vulneradas, por lo que la resiliencia también debe ser una prioridad, específicamente para limitar la propagación de los incidentes y garantizar una recuperación rápida”, recomienda el FMI.

El caso de Mythos, además, muestra a las claras que los ciberataques no respetan fronteras, por lo que es un reto para la gobernanza y la supervisión de la IA. “Mientras las capacidades en IA se extienden en todos los países, una supervisión inconsistente podría debilitar un sistema interconectado globalmente”, destaca.

El mayor miedo de Donald Trump con Anthropic se cumplió. Cuando el presidente estadounidense intentó imponer un castigo ejemplarizante a esta startup de IA hace dos meses por intentar “dictar cómo nuestro gran ejército lucha y gana guerras”, no pensaba solo en ella. Temía un efecto contagio en el sector tecnológico, cuya colaboración es absolutamente indispensable para el Pentágono desde la irrupción de la inteligencia artificial. Esta semana más de 560 ejecutivos y empleados de Google confirmaron los miedos de Trump.

“Queremos que la IA beneficie a la humanidad, y no que se utilice de forma inhumana o extremadamente dañina”, reza una carta que enviaron al director ejecutivo de la multinacional, Sundar Pichai. Entre los firmantes hay una veintena de vicepresidentes y directores ejecutivos de diferentes unidades de negocio. “Esto incluye armas autónomas letales y vigilancia masiva, pero va más allá”, añaden.

Las armas autónomas letales y la vigilancia masiva fueron exactamente las dos líneas rojas que Anthropic se negó a que el Pentágono traspasara con su tecnología cuando comenzó la guerra de Irán. “En un número limitado de casos, creemos que la IA puede socavar, en lugar de defender, los valores democráticos. Algunos usos también están simplemente fuera del alcance de lo que la tecnología actual puede hacer de forma segura y fiable”, justificó Dario Amodei, cofundador y director ejecutivo de la startup.

La reacción de Trump fue intentar condenar al ostracismo a la startup. La colocó en la lista negra como un “riesgo para la cadena de suministro”, lo que le impide firmar contratos con la administración y con empresas que tengan relaciones con la administración. Pero fracasó: un nuevo modelo de IA desarrollado por Anthropic que puso patas arriba la ciberseguridad internacional impidió a la Casa Blanca ejecutar el castigo.

Según publicó en exclusiva el medio estadounidense Axios, el equipo de Trump está elaborando directrices para permitir a las agencias seguir trabajando con Anthropic pese a su propio bloqueo. “Salvar las apariencias y lograr que regresen”, describió una fuente sobre el proceso.

El control por la narrativa de Silicon Valley

La etapa en la que los contratos con el Pentágono eran tabú para las empresas de tecnología estadounidenses quedó muy atrás. “Creo firmemente en la importancia existencial de utilizar la IA para defender a Estados Unidos y otras democracias, y para derrotar a nuestros adversarios autocráticos”, declara el propio Amodei.

Sin embargo, los límites de esa colaboración no están plenamente definidos. Y aunque buena parte de las élites de Silicon Valley se alinearon con Donald Trump, existe una tensión evidente con la base de ingenieros y profesionales altamente cualificados que aún pueden poner pie en pared. “Tomar la decisión equivocada ahora mismo causaría un daño irreparable a la reputación, el negocio y el papel de Google en el mundo”, esgrime la carta de sus trabajadores y ejecutivos: “Sabemos por nuestra propia historia que nuestros líderes pueden tomar las decisiones correctas, para nosotros y para el mundo, cuando hay mucho en juego”.

La iniciativa perseguía frenar un nuevo contrato de la multinacional con el Pentágono para utilizar sus modelos de IA en “cualquier propósito gubernamental legítimo”. No lo consiguieron, ya que Google confirmaba la noche de este martes que el acuerdo con los militares ya está cerrado. Pese a ello, evidenció justo lo que Trump trataba de evitar: convertir los límites éticos de la IA militar en un debate público dentro de las propias empresas tecnológicas.

De hecho, la misiva no es el único ejemplo de que aún queda contestación interna en Silicon Valley. Cuando el Servicio de Control de Inmigración y Aduanas (ICE, por sus siglas en inglés) confirmó su conversión en una brigada paramilitar y desató el caos en Minnesota en enero, unos 2.500 empleados de las grandes tecnológicas que prestan sus servicios al organismo pidieron a sus jefes que cortaran esa relación.

“Queremos estar orgullosos de trabajar en el sector tecnológico. Queremos estar orgullosos de las empresas para las que trabajamos. Podemos y debemos usar nuestra influencia para terminar con esta violencia”, decían en la misiva, que en aquel caso también fue firmada por vicepresidentes de las grandes tecnológicas, e incluso por directores ejecutivos de empresas que no tenían contratos con el ICE. “Levanten el teléfono y llamen a la Casa Blanca”, exigían en un texto en el que calificaban como “asesinatos” y “secuestros” los actos de los paramilitares de Trump.

El efecto Palantir

Si Anthropic y Amodei lideran las voces que abogan porque la IA militar tenga al menos algunos límites éticos, la empresa de espionaje y análisis de datos Palantir es la que más vocalmente pide derribar todas esas barreras. No es casualidad que haya sido ahora cuando la compañía haya decidido ser más contundente con su posición, publicando un escrito de 22 puntos en las redes sociales que ya se conoce como “el manifiesto Palantir”.

“La cuestión no es si se construirán armas de inteligencia artificial; es quién las construirá y con qué propósito. Nuestros adversarios no se detendrán en debates teatrales sobre los méritos de desarrollar tecnologías con aplicaciones críticas para la seguridad nacional y militar. Ellos seguirán adelante”, reza el quinto punto del escrito.

Una era de disuasión, la era atómica, está terminando, y una nueva era de disuasión construida sobre la inteligencia artificial está a punto de comenzar

Palantir

La empresa, fundada por el multimillonario Peter Thiel y cuyo nombre proviene de las bolas de cristal usadas para el espionaje en El Señor de los Anillos, lleva dos décadas construyendo su negocio sobre contratos de inteligencia y defensa con gobiernos occidentales. El manifiesto, y el momento de su publicación, es una declaración de intenciones que quiere cerrar el debate en el sector tecnológico estadounidense. “Silicon Valley tiene una deuda moral con el país que hizo posible su ascenso. La élite de la ingeniería de Silicon Valley tiene la obligación afirmativa de participar en la defensa de la nación”, exige su primer punto.

Con todo, lo que Palantir pone encima de la mesa va más allá de los contratos con el Pentágono. Expone que la IA es el “nuevo poder duro” y que las tecnológicas y EE.UU. no deberían tener miedo de utilizarla. “La capacidad de las sociedades libres y democráticas para prevalecer requiere algo más que un atractivo moral. Requiere poder duro, y el poder duro en este siglo se construirá sobre el software”: “Una era de disuasión, la era atómica, está terminando, y una nueva era de disuasión construida sobre la inteligencia artificial está a punto de comenzar”.

Europa, afuera del debate

La guerra por la narrativa que toma fuerza en Silicon Valley deja otra evidencia. Europa se queda afuera de la construcción de los límites del mundo que viene, sin voz incluso dentro del bloque occidental. “El manifiesto deja muy claro que las capas centrales de la infraestructura digital -nube, IA, analítica de datos- son intrínsecamente estadounidenses, y que la cuestión central es cómo se movilizan al servicio de los objetivos estratégicos de Estados Unidos. Esa es precisamente la vulnerabilidad para Europa”, explica Pierre-Alexandre Balland.

Balland es el científico jefe de datos del Centro de Estudios de Políticas Europeas (CEPS, por sus siglas en inglés), uno de los think tanks más influyentes en la política europea. “Si la columna vertebral tecnológica de los servicios públicos europeos depende de sistemas construidos, poseídos y alineados políticamente en otros lugares, entonces la soberanía se cede”, asevera.

Si la columna vertebral tecnológica de los servicios públicos europeos depende de sistemas construidos, poseídos y alineados políticamente en otros lugares, entonces la soberanía se cede

Pierre-Alexandre Balland — científico jefe de datos del Centro de Estudios de Políticas Europeas

La respuesta más extendida a ese diagnóstico culpa a Bruselas: Europa no tiene Palantirs propias porque reguló demasiado y demasiado pronto. “El verdadero problema de Europa es la capacidad y la dependencia. Carecemos del capital (especialmente de capital riesgo), de infraestructuras de computación, de un mercado unificado de servicios digitales, de escala en la contratación pública y de la coordinación industrial que produjeron el dominio tecnológico estadounidense. Ninguna de esas carencias fue causada por Bruselas, pero sí requieren un nivel de coordinación a escala de la UE”, contesta el especialista.

“Estados Unidos construyó su sector tecnológico sobre décadas de contratación en defensa, inversión pública en investigación, un mercado de capitales sólido y un entorno regulatorio que, contrariamente a cierto mito europeo, es en muchos ámbitos más estricto que el nuestro. Europa reguló porque necesitaba establecer cómo gobernar tecnologías desarrolladas en otros lugares; no dejó de construir esas tecnologías por haber regulado”, continúa Balland: “Derogar mañana el Reglamento de IA no produciría una Palantir europea”

Además, ¿es siquiera posible una Palantir con los valores europeos? El experto recalca que otra de las ideas centrales de la empresa es “que el trabajo que antes se realizaba dentro de ministerios, servicios de inteligencia y estructuras de defensa ahora se hace mejor desde contratistas privados con incentivos ligados al capital”. Sin embargo, recuerda que “todo el modelo de negocio de Palantir depende de esta transferencia”, desde las capacidades analíticas a la integración de inteligencia o el control migratorio.

“Para Europa, donde el contrato social de posguerra descansaba en un servicio público competente, prestigioso y orientado a una misión, este modelo es más peligroso, especialmente ante la falta de alternativas europeas”, concluye.

Anthropic, la startup que compite con OpenAI por el liderazgo de la inteligencia artificial, afirma que desarrolló un modelo demasiado peligroso para ser liberado al público. La compañía anunció esta semana que su nueva tecnología, denominada Claude Mythos, posee una capacidad sin precedentes para identificar y explotar vulnerabilidades de ciberseguridad. Según sus datos internos, el sistema localizó miles de errores en los principales programas, incluyendo todos los grandes sistemas operativos y navegadores web.

La startup expresó en un comunicado que teme que si libera el modelo al público este pueda ser utilizado por grupos de ciberdelincuentes para aprovecharse de agujeros en el código que hasta ahora habían pasado inadvertidos. Claude Mythos es un modelo general que también puede generar texto como los chatbots más conocidos, pero fuer su capacidad de analizar software lo que desató las alarmas.

“Los modelos de IA alcanzaron un nivel de capacidad de codificación que les permite superar a todos, salvo a los humanos más habilidosos, a la hora de encontrar y explotar vulnerabilidades de software”, asegura Anthropic en el comunicado de lanzamiento.

Los modelos de IA alcanzaron un nivel que les permite superar a todos, salvo a los humanos más habilidosos, a la hora de encontrar y explotar vulnerabilidades de software

Anthropic

Entre los hitos del modelo, presume Anthropic, está el descubrimiento de una vulnerabilidad de 27 años de antigüedad en OpenBSD, un sistema operativo diseñado específicamente para ser difícil de hackear. Logan Graham, responsable del equipo de pruebas de la empresa, calificó el avance como “un punto de inflexión” para la industria tecnológica.

Ante el temor de que la herramienta sea utilizada por los ciberdelincuentes, Anthropic optó por un despliegue restringido a través de una iniciativa llamada Project Glasswing. Se trata de una coalición de 40 organizaciones, entre las que se encuentran gigantes como Apple, Amazon, Microsoft, Google y la Linux Foundation, a los que dio acceso al modelo para que parcheen las posibles brechas que Claude Mythos pueda detectar en sus sistemas.

A pesar del revuelo generado en torno a las capacidades de esta nueva IA en las últimas horas, por el momento ninguna de estas compañías desmintió las capacidades de las que presume Anthropic. Amazon, Google y Microsoft son inversores oficiales de la startup, mientras que Apple y la Linux Foundation colaboran estrechamente con la empresa.

El secretario del Tesoro reúne a los bancos

El debate en torno a Claude Mythos escaló fuera de las fronteras de la industria tecnológica este viernes. Varios diarios económicos, entre ellos el Financial Times, informaron que el secretario del Tesoro de Estados Unidos, Scott Bessent, convocó esta semana a los máximos responsables de algunos de los mayores bancos del país para abordar los riesgos asociados a esta IA.

Según el citado medio, que cita fuentes conocedoras del encuentro, a este asistieron directivos de Bank of America, Citigroup, Goldman Sachs, Morgan Stanley y Wells Fargo. También participó el presidente de la Reserva Federal, Jay Powell. El consejero delegado de JPMorgan Chase, Jamie Dimon también había sido invitado, aunque finalmente no pudo asistir.

Había sido precisamente Dimon el que, en su carta anual publicada esta semana, había escrito que los ciberataques “siguen siendo uno de nuestros mayores riesgos”, que “la IA casi con seguridad lo agravará” y que será necesaria una inversión significativa en defensa.

Según informó Anthropic, ya antes de esta reunión con los principales bancos, sus responsables habían iniciado conversaciones con el gobierno estadounidense para hablar de los riesgos de Claude Mythos para la seguridad nacional. La salida a la luz del modelo agarra a la startup en medio de una guerra abierta con la Casa Blanca: Donald Trump ordenó calificar a la empresa como un “riesgo para la cadena de suministro” después de que esta se negara a levantar algunas salvaguardas de seguridad en el uso de su IA en la guerra de Irán.

La sombra de una estrategia comercial

Sin embargo, no todos los expertos comparten el clima de pánico. El analista Gary Marcus, uno de los mayores críticos con el “autobombo” que rodea a la industria de la IA, señaló que el anuncio de Anthropic podría estar “inflado” y responder más a una maniobra de marketing que a una amenaza inmediata.

Marcus advierte que, en las pruebas de explotación del navegador Firefox presentadas por la empresa, se desactivó el “sandboxing” (un mecanismo de aislamiento de seguridad), lo que facilitó enormemente la tarea del modelo y lo convirtió más en una “prueba de concepto” que en un peligro real.

Además, Marcus subraya que modelos de código abierto mucho más pequeños y económicos ya demostraron ser capaces de realizar análisis de vulnerabilidades similares a los de Mythos. Para el analista, el modelo está “en la tendencia” de evolución de la industria, pero no representa un salto fuera de los gráficos respecto a sus competidores.

La creciente disputa legal y ética entre las tecnológicas y el Pentágono está reconfigurando el tablero de la inteligencia artificial (IA), con tres actores clave, Anthropic, OpenAI y Google, que adoptaron aproximaciones diversas ante el uso bélico de su tecnología.

Anthropic vio crecer su popularidad entre los civiles a la par que se enfrenta en los tribunales a la Administración de Donald Trump, OpenAI enfrenta críticas por su cercanía al sector militar, y Google expande discretamente su presencia en Defensa.

La semana pasada, el Departamento de Defensa de EE.UU. designó a Anthropic como un “riesgo para la cadena de suministro” y vetó el uso de su tecnología en contratos militares tras no lograr un acuerdo con la compañía.

El origen de la fricción radica en las salvaguardas que Anthropic -una empresa que se distingue por priorizar la seguridad- pidió al Pentágono, como la prohibición explícita del uso de su modelo Claude en vigilancia doméstica masiva o en el desarrollo de armas totalmente autónomas.

Por el contrario, el Pentágono exigió un acceso “para todo propósito legal” sin restricciones del proveedor, lo que le llevó a un acuerdo con OpenAI para el uso de sus modelos de IA.

La vanguardista tecnología de Anthropic había sido integrada en sistemas críticos del Pentágono, utilizados para sintetizar documentos, optimizar cadenas de suministro y analizar datos en tiempo real en operaciones de defensa.

Según medios con acceso a fuentes del Departamento de Defensa, Claude ha sido empleado en análisis y logística de operaciones militares como la reciente incursión militar en Venezuela para capturar al líder Nicolás Maduro, así como en operaciones en Irán, pese a la decisión del Pentágono de limitar su uso.

El Pentágono utiliza estos modelos para sintetizar documentos, optimizar cadenas de suministro y analizar datos en tiempo real.

Popularidad impulsada por la seguridad

El conflicto entre Anthropic y el Pentágono escaló aún más esta semana cuando la firma presentó una demanda contra el Gobierno de EE.UU. en la que apuntaba que no se puede estigmatizar a una empresa por defender sus valores de seguridad.

Paradójicamente, el rechazo al acuerdo con el Gobierno ha disparado la popularidad de Anthropic entre los consumidores civiles y ha generado el apoyo de grandes titanes de la tecnología como Microsoft, empresa que solicitó una orden judicial que bloquee temporalmente la designación de esa empresa como “riesgo para la cadena de suministro”.

Los titanes de la nube Google y Amazon, que también integran tecnología de Anthropic, aclararon a sus clientes que, fuera del ámbito de defensa, los productos de Anthropic seguirán estando disponibles en sus plataformas.

El público estadounidense tomó las líneas rojas de Anthropic como un sinónimo de “seguridad y ética” y como una alternativa responsable en el mercado de la IA.

Los civiles optaron por catapultar a Claude al número 1 en la lista de las mejores aplicaciones gratuitas de Apple tras el rechazo del Pentágono.

Los usuarios de pago de Anthropic, que fue fundada por exempleados de OpenAI, se han duplicado este año. También ha alcanzado una valoración de 380.000 millones de dólares, por encima de empresas como Coca-Cola o Goldman Sachs, y prevé ingresos para finales de 2026 que podrían superar a los de su rival OpenAI.

Preocupación interna en OpenAI

Mientras, la directora de la división de Robótica de OpenAI, Caitlin Kalinowski, anunció el sábado pasado su dimisión en la compañía debido a profundas preocupaciones éticas sobre el reciente acuerdo de colaboración firmado entre la tecnológica y el Pentágono.

“La vigilancia de estadounidenses sin supervisión judicial y la autonomía letal sin autorización humana son líneas que merecían más deliberación de la que recibieron”, afirmó la ingeniera, subrayando que su decisión se basa en una cuestión de “principios”.

El silencio estratégico de Google

No obstante, algunos analistas apuntan a que los ojos tienen que ponerse en Google, gigante tecnológico que ha adoptado una postura pragmática que le está permitiendo ganar terreno de forma acelerada.

Mientras Anthropic se desangra en los tribunales y OpenAI enfrenta críticas, Alphabet (matriz de Google) ha comenzado a desplegar sus agentes de IA para la plantilla de 3 millones de personas del Pentágono en tareas no clasificadas.

Analistas de firmas como PitchBook señalan al medio Axios que la solidez financiera de Google le permite absorber el coste reputacional y los riesgos de estos contratos de una manera que las empresas emergentes no pueden.

Por Sarah Yáñez-Richards, a la agencia EFE

Anthropic es uno de los mejores ejemplos de cómo funciona el autobombo en la industria de la inteligencia artificial. Esta startup suele ser una gran desconocida fuera del sector. ChatGPT, Google e incluso algunos modelos chinos acaparan más atención que ella. Algo que contrasta con lo que ocurre de puertas adentro en eventos como el Mobile World Congress celebrado esta semana en Barcelona, donde un alto ejecutivo de una gran teleco europea reconocía en privado que lo que está haciendo Anthropic es “de lo más impresionante” que vio en toda su carrera.

En esos círculos especializados, afirmar que dentro de 10 años Anthropic será considerada la gran ganadora de la revolución de la IA ni siquiera se considera una apuesta demasiado arriesgada. Al menos así era hasta esta semana, después de que Donald Trump se haya propuesto acabar con ella tras denunciar que está dirigida por “locos de izquierda” que intentan “dictar” cómo el “gran Ejército de Estados Unidos lucha y gana guerras”.

El motivo es que en el momento clave de la ofensiva contra Irán, Anthropic se negó a ceder a las exigencias del Pentágono para utilizar sus modelos de inteligencia artificial sin restricciones. El gobierno estadounidense exigía usar su tecnología para “todos los propósitos legales”, pero la startup se opuso al considerar que los “guardarraíles” establecidos en su contrato de 200 millones de dólares con el Departamento de Guerra eran fundamentales para impedir que la IA tome decisiones equivocadas con armas autónomas o se use para la vigilancia masiva de su propia población.

La reacción de la Casa Blanca fue furibunda y ejemplarizante. No solo impidió que Anthropic pueda volver a contratar con la administración, sino que quiere etiquetarla como un “riesgo para la cadena de suministro”. Esto implicaría que ninguna empresa que contrate los servicios de la startup podría tener relaciones con el Estado. En la práctica, es un asesinato corporativo.

La disputa permanece abierta y el resultado será una prueba de fuego sobre los límites de seguridad de la tecnología más potente del mundo. Anthropic cree que si Trump se impone, se habrá iniciado la cuenta atrás para el primer gran desastre bélico de la era de la inteligencia artificial.

Dario Amodei, el evangelista de la IA General y la seguridad

No es casualidad que en medio de toda esta situación esté Dario Amodei, el cofundador y director ejecutivo de Anthropic. Este empresario e investigador de 43 años fue el vicepresidente de OpenAI hasta 2021, cuando abandonó la organización al considerar que no estaba poniendo las suficientes medidas de seguridad para evitar el mal uso o descarrilamiento de una tecnología que considera tan poderosa. Junto a su hermana Daniela y otros exmiembros de OpenAI, fundó Anthropic con el objetivo de desarrollar IA verdaderamente segura.

Desde entonces, la obsesión de los Amodei fue que la inteligencia artificial “se alinee con los valores humanos”. Dario se convirtió en una de las voces más influyentes en los debates sobre los riesgos de esta tecnología y cómo deberían imponerse métodos de control. Publicó varios ensayos al respecto. En el último, La Adolescencia de la Tecnología, publicado en enero, pide que la IA se rija por una “constitución” que permita todas sus decisiones puedan ser interpretables por humanos.

También alerta sobre el peligro de que la IA sea capturada por regímenes autoritarios y se convierta en una herramienta de vigilancia masiva. “La humanidad está a punto de recibir un poder casi inimaginable, y es profundamente incierto si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez para ejercerlo”, escribe: “Entrenar modelos de IA es más un arte que una ciencia, más parecido a 'cultivar' algo que a 'construirlo'. Ahora sabemos que es un proceso donde muchas cosas pueden salir mal”.

La humanidad está a punto de recibir un poder casi inimaginable, y es profundamente incierto si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez para ejercerlo

Dario Amodei — cofundador de Anthropic

Su figura, no obstante, es controvertida incluso entre los especialistas que comparten esta postura. Amodei no es solo uno de los mayores evangelistas sobre la seguridad de la IA. También lo es sobre la inminencia de la Inteligencia Artificial General, esa máquina autoconsciente y capaz de mejorarse a sí misma que puede generar un peligro existencial para la raza humana. Durante años, aseguró que este momento llegaría a “finales de 2026”. En entrevistas más recientes empezó a retrasarlo hasta 2027-2029.

Sus creencias casi religiosas sobre la IA General, unidas a la postura determinista sobre el potencial de esta tecnología (para él, es la pieza clave sobre la que pivota el futuro de la humanidad), hizo que muchos expertos consideren que forma parte de su propio autobombo. Amodei convirtió la IA segura y ética en la estrategia de mercado de Anthropic. Algo que la había hecho una de las preferidas para los clientes corporativos antes de que Trump amenazara con sacarla del mapa precisamente por anteponer sus prioridades éticas a la seguridad nacional.

Cómo Anthropic llegó a ser tan importante

El discurso de Amodei está reflejado en los estatutos de Anthropic. La startup está constituida como una corporación de beneficio público. Esto significa que, legalmente, la empresa no está obligada a priorizar solo el beneficio económico de sus accionistas, sino también construir “sistemas de IA que sean controlables, interpretables y seguros”.

Esto la convirtió en un socio muy fiable para el sector corporativo. “Fueron los que mejor entendieron que las empresas no solo necesitaban un chatbot de usuarios, sino un producto que pusiera mucho foco en la seguridad, la privacidad y el control de los datos”, explica Diego Méndez, director ejecutivo de la firma de software española Tailor Hub.

“Pero lo interesante es que no es solo un producto, sino una apuesta por una forma diferente de desarrollar software”, detalla Méndez. Y es aquí donde conecta con posicionamientos como los que expresaban los grandes ejecutivos del Mobile World Congress y el entusiasmo con Anthropic en los círculos especializados. Su herramienta Claude Code está cambiando las reglas del juego para los desarrolladores de software.

Lo interesante es que Claude Code no solo es un producto, sino una apuesta por una forma diferente de desarrollar software

Diego Méndez — director ejecutivo de la firma de software española Tailor Hub

En lugar de sugerir código línea a línea, como hacen la mayoría de asistentes actuales, Claude Code puede asumir tareas completas de desarrollo y ejecutarlas de principio a fin. Funciona como un agente autónomo que opera directamente desde la terminal o el navegador del usuario al que se le pueden dar instrucciones en lenguaje natural. Esto facilita que personas con pocos conocimientos técnicos puedan abordar tareas sencillas, como crear prototipos de apps o páginas web, aunque sigue siendo necesaria cierta supervisión.

En entornos profesionales, encargos como crear funciones nuevas dentro de una aplicación, corregir errores detectados por los usuarios o integrar un determinado programa con otros servicios digitales pueden realizarse con órdenes sencillas. “Para nosotros se convirtió en un compañero de trabajo indispensable”, expone el responsable de Tailor Hub. El cambio de la herramienta de Anthropic es estructural, permitiendo que los desarrolladores pasen de ser “picadores de código” a “orquestadores de agentes”, con ritmos de trabajo muy superiores.

En este sector, la asimilación fue extremadamente rápida. Según un informe de SemiAnalysis, Claude Code es el responsable del 4% de todo el código que se sube a GitHub, una red social y repositorio donde los programadores guardan, comparten y trabajan juntos en el código de sus aplicaciones.

Es una revolución que las empresas de software están aplicando ya a campos fuera de la programación “como finanzas o administración” y que avisan que terminará llegando a todos los sectores. El terremoto ya tiene efecto en las cuentas de Anthropic, que multiplicó sus ingresos por veinte en apenas un año, pasando de apenas mil millones a principios de 2025 a rozar los veinte mil millones de dólares en marzo de 2026.

Qué pasa si Anthropic cede

Una herramienta que permite automatizar procesos de manera segura es un importante recurso militar para el Pentágono. Por eso Amodei piensa que la bravata de la Casa Blanca se debe a que “no le dimos elogios al estilo dictador a Trump”, en contraste con el jefe de OpenAI, Sam Altman. Así lo expresó en una carta enviada a sus empleados este jueves.

Sin embargo, este viernes el Departamento de Guerra pulsó el botón. Los productos de Anthropic ya son considerados por el Gobierno estadounidense como un riesgo para la cadena de suministro. “Bueno, despedí a Anthropic. Anthropic está en problemas porque los despedí como perros”, declaró Donald Trump. Con todo, informaciones de Bloomberg y otros medios apuntan a que las negociaciones entre la startup y el Pentágono para reconducir la situación continúan.

De no conseguirlo, ambas partes perderían. La startup sería liquidada, pero para EE.UU. perder a Anthropic no solo implicaría no tener acceso a Claude Code, sino también a uno de sus mayores activos estratégicos en el desarrollo de inteligencia artificial.

El gran problema de todo esto es China, donde las empresas no pueden imponer este tipo de salvaguardas al gobierno. Es una desventaja estratégica

Jesús Alcalde — jefe de Tecnología de la firma de ciberseguridad española Flameera

“El gran problema de todo esto es China, donde las empresas no pueden imponer este tipo de salvaguardas al gobierno. Es una desventaja estratégica”, expresa Jesús Alcalde, jefe de Tecnología de la firma de ciberseguridad española Flameera. “Lo que no quieren es que si mañana hay un conflicto por Taiwán, Estados Unidos llegue con Anthropic capado mientras el Ejército chino dispone de todos sus modelos liberados y sin problemas”.

“Al final estamos en una guerra armamentística”, continúa el especialista. “Todos estamos de acuerdo en que no queremos armamento nuclear, pero como el vecino lo tiene, entonces yo también lo quiero para poder defenderme”.

Pero la batalla de Anthropic por mantener sus medidas de seguridad no solo afecta a esta empresa y al Ejército de EE.UU. Si la startup termina perdiendo su disputa con Trump y deja caer esas protecciones, sentará un precedente en el que se habrá impuesto el “todo vale” para esta tecnología. En cuestiones como la ciberseguridad, esto implica que la IA liberada pueda convertirse en un “gran amplificador del crimen”, capaz de diseñar los mejores ataques y virus capaces de reprogramarse a sí mismos en tiempo real.

¿Cómo terminará esto? “En mi opinión, es como intentar tapar una fuga de agua en una presa con las manos”, confiesa Alcalde. “Con otro tipo de armas, como las nucleares, podés generar cuellos de botella. Tenés que tener acceso a determinados materiales y maquinaria. Pero la IA es información. Si no lo hacés vos, al final lo va a terminar haciendo otro”.