Hacia fines de octubre de 2026, las llamadas Siete Magníficas —Nvidia, Apple, Alphabet, Microsoft, Amazon, Meta y Tesla— valían en conjunto unos 23 billones de dólares, después de haber superado los 25 billones a comienzos de ese mismo mes. Representan cerca del 35% del S&P 500 y equivalen a unas tres cuartas partes del producto bruto de los Estados Unidos.

Esa valuación suele leerse como la prueba de un éxito extraordinario. Pero los mismos números admiten una segunda lectura: ¿cuánto están gastando estas compañías para seguir valiendo lo que valen?

Durante dos décadas, las grandes tecnológicas fueron empresas livianas en activos. Su producto era el software, que se escribe una vez y se vende infinitas veces. A Microsoft, una licencia adicional de Office le costaba prácticamente nada; a Google, una búsqueda más; a Facebook, un usuario nuevo. Escalaban sin fábricas, crecían contratando programadores y convertían buena parte de cada dólar adicional de ventas en ganancia. Ese modelo sostuvo sus valuaciones.

La inteligencia artificial lo está transformando. Cada respuesta de un modelo consume cómputo real: chips especializados que cuestan decenas de miles de dólares cada uno, instalados en centros de datos gigantescos que consumen tanta electricidad como una ciudad. Las tecnológicas hoy firman contratos con centrales nucleares y compiten por cada megavatio disponible. Esos activos requieren cuantiosas inversiones, se deprecian rápido y quedan obsoletos antes de haberse amortizado: Nvidia lanza una nueva generación de chips cada año. Hasta el precio de las memorias pesa: Microsoft atribuyó 25.000 millones de su inversión de 2026 al encarecimiento de esos componentes. La carrera por la escala en IA se corre todos los años, y las empresas que vendían código empiezan a parecerse a las eléctricas o a las petroleras.

Ese tránsito, de empresas livianas en activos (asset-light) a empresas intensivas en capital (asset-heavy), se mide en una variable clave: el capex, la inversión de capital en activos de largo plazo. En 2025, Amazon, Alphabet, Meta y Microsoft invirtieron unos 410.000 millones de dólares. Para 2026, sus planes oscilan entre 720.000 y 745.000 millones: casi un 80% más en un año. La relación entre capex y activos de las Siete Magníficas llegó al 10%, el nivel más alto para las siete mayores empresas del S&P 500 desde al menos 1993.

El efecto se ve en el flujo de caja. Históricamente, estas empresas destinaban cerca del 40% de su flujo operativo a inversión; para 2026 se proyecta entre el 90% y el 100%. El caso de Amazon es elocuente: su flujo de caja libre pasó de 38.200 millones en 2024 a 11.200 millones en 2025 y, en los doce meses cerrados en septiembre de 2026, se volvió negativo en 42.400 millones. Una empresa que genera 168.000 millones de caja operativa hoy invierte más de lo que produce.

La diferencia se financia cada vez más con deuda. En 2025, Meta colocó bonos por 30.000 millones de dólares, Alphabet por 25.000 millones y Amazon por 15.000 millones. Junto con Oracle, el otro gran proveedor de nube, estas compañías emitieron 121.000 millones en 2025, más de cuatro veces su promedio anual previo, y en lo que va de 2026 las emisiones del sector ya superan los 313.000 millones. Incluso Microsoft, que se mantenía al margen, colocó a fines de octubre 25.000 millones en bonos, su primera emisión desde 2017. No es, todavía, un problema de solvencia: los balances siguen siendo sólidos. Es un cambio de naturaleza. Lo que antes se pagaba con caja propia, hoy se paga con la expectativa de ingresos futuros.

El riesgo excede a sus accionistas. El Fondo Monetario Internacional estimó que una corrección moderada de las acciones vinculadas a la IA, junto con condiciones financieras más duras, podría restar alrededor de 0,4 puntos al crecimiento mundial.

Junio de 2026 ofreció un anticipo. Las Siete Magníficas perdieron unos 2,3 billones de dólares de valor en un mes, y Microsoft cayó 17%, su peor mes desde diciembre de 2000. En octubre el grupo se recuperó y marcó nuevos récords. Semanas después, los balances del tercer trimestre volvieron a poner el capex en el centro de la escena, y las acciones de Amazon y Meta lo acusaron.

Hyman Minsky advirtió que, en los períodos de prosperidad prolongada, las estructuras financieras migran desde posiciones cubiertas, donde los flujos alcanzan para pagarlo todo, hacia otras frágiles, que dependen de que el crédito siga disponible y los precios sigan subiendo. Las Siete Magníficas explican más de un tercio del principal índice bursátil de Estados Unidos, y por eso mismo sus movimientos ya alcanzan el patrimonio de miles de hogares y fondos de pensión. En ese contexto, tal vez los rebotes bursátiles solo disimulan la fragilidad de un modelo intensivo en capital que difícilmente tenga marcha atrás: sus flujos ya no alcanzan para financiar sus inversiones, y la diferencia se cubre con una deuda que probablemente no deje de crecer.

MS/MF

La posibilidad de desarrollar una inteligencia artificial capaz de perfeccionarse a sí misma y diseñar sus propias versiones posteriores dejó de ser un simple recurso de ficción para integrarse en la investigación científica. Un equipo de especialistas en China estudia las condiciones necesarias para alcanzar esta meta mediante la llamada automejora recursiva (RSI, por sus siglas en inglés), un mecanismo que permitiría a los sistemas de IA analizar sus propias limitaciones, modificar sus métodos de entrenamiento y utilizar los resultados para desarrollar modelos cada vez más avanzados.

La propuesta responde también a uno de los grandes obstáculos de la industria tecnológica: el incremento de los costes económicos y de la potencia computacional necesarios para desarrollar modelos más sofisticados. Si una inteligencia artificial pudiera asumir progresivamente parte de las tareas de investigación y optimización, el proceso de creación de nuevas generaciones de sistemas podría acelerarse y reducir su dependencia de los equipos humanos.

El trabajo, publicado el 10 de septiembre como prepublicación en el archivo digital arXiv y a la espera de revisión académica, establece una estructura para ordenar estas capacidades evolutivas en cinco fases de autonomía. La escala comienza con modelos cuyo desarrollo continúa dirigido principalmente por personas y avanza hacia sistemas capaces de identificar sus propias debilidades, decidir cómo corregirlas y modificar incluso los procedimientos que utilizan para perfeccionarse.

En las etapas superiores, la tecnología podría generar sus propias “metamejoras”. Este concepto implica que el sistema no solo ajustaría tareas concretas o variables internas, sino que perfeccionaría los propios mecanismos que utiliza para aprender y desarrollarse.

Primeros ensayos y escepticismo entre los expertos

Aunque el funcionamiento completo de este proceso no se comprobó en la práctica, diversos ensayos alcanzaron progresos parciales. Uno de ellos recurrió al método denominado A-Evolve-Training para optimizar el trabajo de un modelo de lenguaje con 30.000 millones de parámetros. A lo largo de cuatro fases de trabajo, la herramienta aplicó distintas pautas de entrenamiento y utilizó los datos obtenidos para orientar sus siguientes decisiones, logrando avances moderados en pruebas de rendimiento.

Sin embargo, estos resultados no equivalen a que una inteligencia artificial sea capaz de desarrollar por sí sola una generación de modelos más inteligentes. Peter Bentley, profesor de Biología Digital en el University College de Londres, cuestionó que estos experimentos constituyan una vía creíble hacia la automejora recursiva.“La idea de que alguna IA vaya a empezar mágicamente a generar por sí sola inteligencias artificiales cada vez mejores es una tontería”, afirmó a la publicación Live Science.

Bentley explica que los programas orientados a optimizar su propio funcionamiento existen desde hace décadas en el sector informático. La computación evolutiva y el aprendizaje por refuerzo, por ejemplo, emplean la retroalimentación para afinar sus respuestas y sostiene que la dificultad reside en lograr que una máquina dirija de manera independiente las investigaciones requeridas.

El especialista añade que una evolución auténtica obligaría a actuar en aspectos ajenos al propio código informático. “No resulta viable mejorarse de forma continua si no es posible perfeccionar el propio entrenamiento, ampliar los recursos de los equipos físicos y superar pruebas exigentes en situaciones reales”, argumentó. La necesidad de potencia informática y de instalaciones técnicas supone, por tanto, un condicionamiento decisivo.

El reto de demostrar un avance real en los sistemas

Kayla Blomquist, investigadora de la Universidad de Oxford y cofundadora del Oxford China Policy Lab, opina que el trabajo resulta útil para señalar los retos técnicos y de control vinculados a sistemas más independientes, aunque no plantee un camino práctico para su aplicación inmediata. También cuestiona que pueda establecerse un momento concreto en el que la IA deje de depender de las personas: “El texto expone un traspaso progresivo de funciones en vez de un cambio puntual. Es probable que nunca exista un modelo definitivo creado exclusivamente por personas”, concluyó.

En julio, un jurado de escritoras de primer nivel premió por unanimidad Donde el agua trabaja, primera novela del peruano David Silva Rojas, elogiando especialmente su lenguaje. En octubre, Pangram, un detector de textos sintéticos, atribuyó a una inteligencia artificial el 99% de la novela. Silva Rojas lo niega y ofrece sus borradores; la editorial suspendió la gira de presentación y revisa el caso. No es un episodio aislado: unas semanas antes, una polémica similar había sacudido la rentrée francesa con la novela premiada de Thélyson Orélien.

No es mi intención centrarme en estas controversias. Las menciono solo como disparador de otra que me parece más relevante e incómoda: si no podemos inferir quién escribió un texto simplemente leyéndolo y tampoco queremos delegar esa tarea en un programa cuya autoridad nadie termina de aceptar, ¿seguirán importando la autenticidad y la autoría de la obra?

Mi conjetura es que sí. Cuando la inteligencia artificial pueda imitar sin fallos una obra humana, lo que desaparecerá no es la autenticidad, sino nuestra capacidad de reconocerla en la obra misma. Tendremos que buscarla en otro lado.

El jurado no se equivocó

Conviene empezar separando dos cosas que el escándalo mezcla. Si la novela es buena, el jurado acertó, independientemente de quién la haya escrito. Descubrir que intervino una máquina no cambiaría la obra ni la evaluación que hicieron de ella quienes la leyeron. Pero no da lo mismo quién la escribió.

Imaginemos una novela producida por una máquina e indistinguible de una de César Aira: la misma levedad, los mismos desvíos inesperados, la misma capacidad de empujar una ocurrencia improbable hasta hacerla literatura. Pongámosla al lado de una novela efectivamente escrita por Aira. Aun si no pudiéramos distinguirlas, seguiría habiendo entre ambas una diferencia irreductible.

El incidente de Donde el agua trabaja muestra que esa diferencia existe socialmente: si a nadie le importara, no habría controversia. También hay evidencia experimental en esa dirección: textos e imágenes idénticos reciben peores evaluaciones cuando quien los juzga cree que fueron hechos con IA; un estudio de NYU Stern reporta una caída de 31,5% en el click-through cuando se declara que una publicidad fue hecha con IA generativa; otra encuesta reveló que sólo el 45% de los consumidores Gen Z y millennials dice ver positivamente los avisos hechos con IA.

Hay varias razones que explican esta distinción: importan el mérito de quien hizo la obra, la historia de la que proviene, el hecho de que la producción de una persona está limitada por una vida y determinada por un contexto. No hace falta adoptar una teoría romántica del autor para aceptar que una obra puede valer por algo más que sus propiedades objetivas. Si la identidad del autor fuera completamente indiferente, no habría nada que autenticar.

Menard, Duchamp y la impresora

Walter Benjamin intuyó una parte del problema hace casi un siglo. Lo que la reproducción técnica no reproduce es el aquí y ahora del original, su historia, su unicidad. La Gioconda no es la Gioconda porque sus colores sean imposibles de copiar: su valor es de un orden distinto del de una réplica indistinguible, incluso si es idéntica molécula por molécula.

En literatura la idea es menos literal porque un texto siempre fue reproducible. No necesitamos tocar las páginas que tocó Borges para leer a Borges. Borges mismo, en Pierre Menard, autor del Quijote, lleva la cuestión de la autoría a un extremo que nos permite delimitar mejor el problema que introduce la IA. Menard escribe, palabra por palabra, unos capítulos del libro de Cervantes y el narrador encuentra esa versión “casi infinitamente más rica” que el original. Las palabras son las mismas; cambia la operación que las produjo y, con ella, cambia la obra.

En ese sentido Menard está más cerca de Duchamp o de Alberto Greco que de una máquina que imita a un escritor. Duchamp firma un urinario; Greco traza un círculo alrededor de Alberto Heredia y lo declara obra. Ninguno necesita fabricar un objeto nuevo para reclamar autoría: selecciona, señala, repite, desplaza algo existente y, con ese gesto, lo reconvierte en arte.

Justamente por eso importa saber qué hicieron. Menard no pretende ser Cervantes; Duchamp no pretende haber fabricado el urinario; Greco no pretende haber creado a Heredia. La autoría es una operación cuya naturaleza es visible.

La IA es otro problema. Si un modelo reprodujera hoy esos mismos capítulos del Quijote, nadie vería allí a un nuevo Menard. Si produce una novela indistinguible de una de Aira, el producto no nos dice nada acerca de la operación que lo generó. La diferencia ya no está necesariamente disponible para quien mira o lee.

Algo de lo que Benjamin llamaba “aura” está en esa genealogía. La novedad de la IA es que la copia alcanza también las señales con las que reconstruíamos el origen. La autoría se vuelve elusiva, imperceptible, pero no abstracta.

Dejar de olfatear

No hace falta buscar lo humano en lo imperfecto, lo sucio o lo mal hecho, como si el error fuera una marca de agua: una máquina también puede aprender a equivocarse con encanto.

Los detectores de IA enfrentan el mismo límite: examinan el producto, cuando lo que queremos conocer es el proceso de producción. A medida que la copia mejora, la pregunta se desplaza de cómo reconocerla a cómo acreditar su procedencia. Podemos llamar “trazabilidad” a esta capacidad de reconstruir y acreditar qué ocurrió durante el proceso.

Y ahí aparece otra dificultad: la creación no es aditiva. “¿Usó o no usó IA?” es una pregunta demasiado básica.

Un autor puede pedirle a una máquina que le marque baches e inconsistencias y después reescribir todo por su cuenta. Otro puede escribir cada palabra y encontrar el cierre final entre diez opciones propuestas por un chat. Un tercero puede dejar que la máquina redacte escenas completas y luego trabajarlas hasta hacerlas propias. En los tres casos hubo IA, pero la relación entre el autor y su obra no es la misma.

Esta dificultad no es nueva. En 1618, Rubens le ofreció al diplomático inglés Dudley Carleton varios cuadros a cambio de su colección de esculturas antiguas. En su lista, Rubens distinguía cuidadosamente los cuadros enteramente pintados por él de aquellos ejecutados por discípulos y luego retocados por su propia mano. La diferencia tenía precio, incluso cuando Rubens aseguraba que algunas obras del segundo grupo estaban tan bien terminadas que apenas podían distinguirse de las del primero.

Cuatro siglos después seguimos diciendo “Rubens”, “Rubens y taller” o “taller de Rubens”. Estas categorías no implican necesariamente que una obra de taller sea mala —de hecho, esas atribuciones pueden revisarse a la luz de nuevos estudios—, pero describen historias de producción distintas. La procedencia importa aun cuando la diferencia sea imperceptible.

Quién hizo qué

La IA suma una dificultad adicional: si el taller dejaba rastros, la intervención de una máquina puede ocurrir en segundos y su huella puede desaparecer cuando se borra la conversación.

Por eso prohibir cualquier uso parcial o total de inteligencia artificial contiene una paradoja. La regla evita el problema de decidir qué usos son admisibles porque los prohíbe todos, pero a la vez es imposible verificar su cumplimiento de manera completa o sistemática. Peor aún: una prohibición binaria de este tipo termina siendo más exigente con quien declara sus herramientas que con quien las oculta.

Tampoco parece que el problema pueda resolverse con porcentajes como los que arrojan detectores como Pangram. Una idea central puede pesar más en una novela que veinte páginas, y un editor puede modificar cientos de frases sin convertirse por eso en autor. Las contribuciones creativas no se suman con facilidad ni siquiera cuando todos los involucrados son personas.

Quizás terminemos necesitando algo parecido a los créditos de una película: no una etiqueta binaria que diga “humano” o “IA”, sino alguna descripción de qué hizo cada parte. Eso permitiría distinguir entre quien usó un modelo como lector, quien tomó de él una idea decisiva y quien delegó buena parte de la escritura. La trazabilidad puede decirnos qué ocurrió, aunque no resuelva por sí sola qué combinación de aportes merece llamarse autoría.

Ningún jurado, editorial o experto podrá reconstruir la genealogía completa de una obra: habrá usos imposibles de comprobar, declaraciones dudosas y límites que cada institución fijará a su manera. Pero esa dificultad sólo vuelve más relevante la pregunta sobre qué queremos decir cuando decimos que alguien creó algo.

Durante mucho tiempo pudimos evitar responderla porque, en la mayoría de los casos, la respuesta parecía suficientemente evidente. La IA enrarece esa presunción. Si queremos que la autoría siga significando algo, tendremos que decidir qué parte de la historia de una obra necesitamos —y podemos— conocer.

AR

Un salto bien calculado permitió a seis agentes de inteligencia artificial descubrir que podían lanzar bloques mucho más lejos si los soltaban mientras estaban en el aire. El truco tenía su mérito, porque ni siquiera los diseñadores de la simulación habían previsto aquella posibilidad. Los agentes habían aprendido a aprovechar una característica del entorno mediante sus propios experimentos, sin recibir instrucciones para encontrarla.

Ese descubrimiento forma parte de una investigación del Instituto Tecnológico de Massachusetts (MIT) sobre la capacidad de las inteligencias artificiales para aprender mediante actividades que ellas mismas eligen. El estudio, publicado en arXiv y todavía pendiente de revisión por pares, examinó a 13 agentes llamados Eko, basados en Claude Opus 4.7, que permanecieron 30 horas cada uno en una isla virtual sin tareas asignadas. Los resultados apuntan a que explorar y jugar puede mejorar su capacidad para resolver problemas posteriores.

La exploración permitió descubrir habilidades y conservarlas para tareas posteriores

La adquisición de conocimientos dependía de un sistema de memoria que permitía conservar las experiencias acumuladas por cada agente. Eko registraba sus actividades en archivos de texto donde anotaba descubrimientos, intentos fallidos y procedimientos que habían funcionado. Estos documentos sobrevivían a los reinicios de la simulación, de manera que el agente podía recuperar información aprendida anteriormente. El modelo de inteligencia artificial no recibía un nuevo entrenamiento durante ese proceso, ya que utilizaba sus anotaciones para orientar las decisiones posteriores.

Para generar esas experiencias, los investigadores habían preparado una isla con varias plataformas elevadas, doce cubos, una roca y un anillo. Los agentes controlaban avatares mediante instrucciones escritas y recibían descripciones textuales de las coordenadas y los objetos, sin acceder a imágenes del escenario. Podían desplazarse, saltar, recoger elementos y arrojarlos, con libertad para investigar las posibilidades del entorno.

Aquella libertad dio lugar a actividades que iban mucho más allá de recorrer el escenario. Un agente utilizó el anillo como canasta de baloncesto, mientras otro dispuso cubos para jugar a los bolos. También aparecieron corazones construidos con piedras, pirámides y representaciones de constelaciones como Casiopea. Otro Eko consiguió realizar 50 capturas consecutivas haciendo malabares, pero anuló su propio récord al considerar que los lanzamientos eran demasiado cortos y decidió imponer reglas más exigentes.

La utilidad de aquellas experiencias se comprobó al enfrentar a los agentes exploradores con copias nuevas que carecían de ese aprendizaje previo. En una prueba que consistía en trasladar objetos hasta la cima más elevada, los experimentados consiguieron colocar una media de 10,3 frente a los 3,5 de sus competidores. Según informa MIT Technology Review, eliminar de la memoria el descubrimiento de cómo generar bloques adicionales redujo de seis a dos el promedio de torres construidas. También ocurrió lo contrario, porque borrar una creencia equivocada sobre cómo apilar objetos mejoró el rendimiento.

Las dudas sobre el juego condicionan las futuras aplicaciones robóticas

Estos resultados respaldan la existencia de aprendizaje, aunque todavía queda por determinar si las actividades observadas constituyen auténtico juego. Antonio Norelli, investigador del MIT, relaciona esos comportamientos con criterios estudiados en animales, como inventar reglas, modificar desafíos y utilizar objetos para representar otros. Sin embargo, Eunice Yiu, científica cognitiva de la Universidad de California en Berkeley, advierte en MIT Technology Review: “Podría ser que los modelos estuvieran jugando de verdad, pero no lo sabemos basándonos en el artículo”.

Las dudas también afectan a las condiciones del experimento, porque las instrucciones iniciales describían a Eko como un agente curioso y dispuesto a explorar. Algunos necesitaban mensajes adicionales para continuar actuando después de quedarse inmóviles. TechCrunch también informó sobre estas condiciones y sobre el potencial del aprendizaje autónomo.

Para comprobar si esa curiosidad se debía a las instrucciones iniciales, los investigadores probaron quitando esas características a cinco agentes, que también mostraron comportamientos variados, mientras que los agentes basados en otros dos modelos de inteligencia artificial realizaron actividades menos diversas. Los investigadores consideran que explorar entornos controlados podría ayudar a futuros robots a adaptarse a situaciones desconocidas, siempre que se comprenda mejor cómo adquieren y utilizan esos conocimientos.

¿Podemos seguir confiando en nuestra intuición? Hasta de eso estamos dudando. Un premio de nueva creación está en suspenso a la espera de que el galardonado aporte pruebas que confirmen la autoría del manuscrito.

La historia la detonó El País, que pasó el detector de IA Pangram a la novela breve Donde el agua trabaja, del escritor peruano David Silva Rojas, con la que consiguió los 20.000 euros del premio Almadía Ventosa-Arrufat, creado por una alianza entre la fundación que gestiona el legado de un matrimonio de hosteleros catalanes exiliados a México y la editorial Almadía de ese mismo país, que tiene 20 años de buen catálogo y una oficina recién abierta en España. La editorial canceló las presentaciones del libro previstas para los días siguientes.

Al jurado del premio podemos calificarle de lo que se suele denominar como, esta vez sí, reconocido prestigio; palabras mayores, de lo mejor de la literatura latinoamericana. Las escritoras Cristina Rivera Garza, Selva Almada y Mónica Ojeda escogieron Donde el agua trabaja entre 2.204 manuscritos procedentes de 22 países y cuatro continentes. Se quedaron finalistas Camila de Urioste, Ivo Marinich y Félix Bruzzone, tres autores con obra. Para Silva Rojas, en cambio, esta sería su primera publicación. De profesión abogado, acababa de obtener una mención en otro concurso con otra novela corta este mismo año.

En la nota del fallo, el pasado mes de julio, las escritoras definieron el lenguaje de la novela como “sutil”, formado por “oraciones breves como el goteo de los regadores en las viñas, sin caer nunca en la tentación del panfleto ni la declamación”.

Durante la investigación, no solo se pasó Pangram al libro, sino también a las respuestas del autor a una entrevista y a un texto de Silva Rojas sobre su novela, y el resultado apuntaló la teoría de la IA. Elizabeth Duval, una de las firmantes, decía que incluso los pies de foto de los post de Instagram del autor repiten “los tics” de la IA.

La sospecha la levantó una intuición de Duval. Pero esa intuición no apareció en las escritoras del jurado ni en los editores, cuyo “rigor” y “meticulosidad” fueron defendidos en una carta firmada por Mariana Enríquez, Juan Villoro o Liliana Colanzi, entre otros. “Nuestra mirada reúne experiencia, sensibilidad e interpretación”, dijeron de la editorial, que recibió la situación con “desconcierto” y pidió explicaciones al autor. Este dijo que no había usado IA y Almadía aseguró no tener “elementos para desconfiar de su palabra”.

La sospecha de la IA causó una reacción furibunda en América Latina, desde donde se lanzaron muchísimos mensajes que colocan el artículo de El País en una situación de ‘Europa blanca y colonial acusa con las herramientas de la industria tecnológica blanca y colonial’.

En algún lugar entre la fe furibunda en la máquina y el ataque ideológico furibundo podemos situar la pregunta (puede que furibunda también) del inicio de este texto, una pregunta que se hace más urgente e importante que la de si Silva Rojas usó IA o no : ¿vamos a seguir confiando en nuestra intuición o vamos a subcontratarla también a la tecnología?

A esta pregunta le sigue otra tal vez mucho más osada: ¿durante cuánto tiempo más vamos a seguir pensando que nuestra intuición e inteligencia están por delante de la máquina? Igual nos hemos quedado tan atrás en la carrera que creemos que vamos por delante porque ya no vemos a nuestro rival delante de nosotros.

Yo quiero seguir creyendo en mi intuición —que es inasible, indefinible, inconvertible en un prompt, olorosa, táctil— para detectar la buena escritura, la chispa que me revuelve, el aliento que me estremece. Pero soy una unidad de carbono, neuronas en desaparición, carne en descomposición, y quizás cada día menos fiable.

Y tengo, sí, una intuición: quizá, en la creación artística que se viene nos conquiste más lo mal hecho, lo sucio y lo imperfecto que la belleza cristalina que nos propone la perfección pulida de la máquina.

El premio Nobel Geoffrey Hinton, uno de los pioneros de la inteligencia artificial (IA), afirmó días atrás que llegará un momento en el que los humanos no entiendan cosas que afirma la IA, “del mismo modo que las ratas no entienden el funcionamiento de los números primos”.

Hinton se expresó así durante la apertura del programa principal de conferencias de Starmus que se celebró en Arona, Tenerife, en una mesa redonda junto al psicólogo cognitivo y profesor de Harvard Steven Pinker y la exresponsable de Naciones Unidas para el clima Christiana Figueres.

En ella debatieron en el inicio de Starmus sobre la búsqueda de la verdad en una mesa moderada por el astrofísico y fundador del evento, Garik Israelian, que planteó una pregunta que atraviesa la inteligencia artificial, la ciencia y la política: cómo distinguir lo verdadero en un mundo en el que máquinas y seres humanos pueden equivocarse, confabular o seleccionar las pruebas que encajan con sus propias convicciones.

Hinton recordó cómo algunos especialistas en lingüística rechazaron inicialmente que los grandes modelos de lenguaje (LLM en inglés) pudieran comprender y generar lenguaje de manera sofisticada incluso cuando sus capacidades empezaban a ser observables, y citó a Noam Chomsky como ejemplo de un investigador al que, en su opinión, las pruebas no hicieron revisar suficientemente sus posiciones.

El científico británico planteó, además, que la inteligencia artificial llegará a comprender cuestiones que pueden quedar fuera del alcance cognitivo humano.

“De igual modo que las ratas nunca comprenderán los números primos”, ahondó, los seres humanos podrían encontrarse ante sistemas capaces de entender cosas que ellos nunca llegarán a comprender.

En ese escenario, añadió, si una IA muy superior afirma que algo es cierto “es mejor que te lo creas”, apuntó.

Las alucinaciones de la IA

Sobre las llamadas “alucinaciones” de la IA, Hinton advirtió de que su existencia no demuestra que las máquinas carezcan de comprensión, pues los propios seres humanos también reconstruyen recuerdos y confabulan acerca de hechos que creen conocer.

Así, recordó, los modelos de lenguaje aprenden de la actividad humana, por lo que es normal que repitan ese tipo de patrones.

Durante el debate, Steven Pinker coincidió en que se subestimaron las capacidades de los grandes modelos de lenguaje (LLM en sus siglas en inglés) y las implicaciones que plantean para el estudio de la cognición humana.

Pinker insistió, no obstante, en que la utilidad de estos sistemas dependerá de su capacidad para ofrecer respuestas correctas y someterlas a mecanismos de comprobación, en lugar de optimizar únicamente la interacción con el usuario.

Asimismo, Figueres planteó una perspectiva diferente al preguntarse por “mi verdad”, entendida como el conjunto de principios y hechos aceptados con los que cada persona orienta su vida, aunque reconoció la dificultad de hacer convivir esas distintas percepciones.

Enamorarse de la incertidumbre

También propuso, frente a la búsqueda de certezas absolutas, “enamorarse de la incertidumbre” y utilizarla como una herramienta para someter a examen aquello que se presenta como verdadero.

Hinton discrepó de esa formulación y defendió la existencia de una verdad objetiva: “Las personas o las culturas pueden manejar conceptos distintos pero una vez acordados los términos, determinar si una afirmación es verdadera deja de ser una cuestión de opinión”, esgrimió.

Hinton cerró esa discusión con una distinción: el poder puede controlar lo que una sociedad percibe como verdadero, pero no puede controlar la verdad misma.

El debate derivó entonces hacia por qué las pruebas no siempre consiguen modificar las creencias.

Pinker señaló que las personas suelen comportarse racionalmente en cuestiones inmediatas de su vida cotidiana, pero tienen más dificultades ante preguntas complejas o alejadas de la experiencia directa, para las que durante siglos tampoco existieron procedimientos fiables de comprobación.

Por ello Pinker situó precisamente ahí la fortaleza de la ciencia, el periodismo responsable o la democracia: no en ser infalibles, sino en disponer de mecanismos para que una afirmación pueda ser cuestionada y corregida, con instituciones capaces de mantener la confianza mostrando cómo llegan a sus conclusiones, aceptando la posibilidad de corregirse y evitando identificarse con “tribus políticas”.

El cambio climático, ejemplo entre evidencia y acción

Figueres utilizó el cambio climático como ejemplo de esa distancia entre evidencia y acción, pues existe un amplio consenso científico, indicó, pero quienes rechazan sus conclusiones pueden concentrarse en el margen de incertidumbre y utilizarlo para sembrar dudas.

A su juicio, disponer de pruebas tampoco basta si no existen las condiciones sociales, políticas y psicológicas necesarias para actuar a partir de ellas.

Por último, Pinker agregó sobre las resistencias respecto al cambio climático, que la aceptación de la evidencia científica en este tema se vinculó estrechamente con la identidad ideológica, en su opinión por la influencia de Al Gore, vicepresidente de Bill Clinton, y advirtió de que la politización de una cuestión científica facilita que las personas rechacen evidencias asociadas al grupo político contrario.

EFE

Más de 400 investigadores en inteligencia artificial y ciberseguridad de una treintena de países publicaron esta semana una carta abierta en la que reclaman “cambios inmediatos en las prácticas de desarrollo y despliegue de IA” para evitar que ponga en peligro la seguridad mundial. La misiva hace especial hincapié en que las multinacionales y laboratorios que desarrollan los modelos de frontera, especialmente aquellos denominados “agentes”, están cometiendo una “negligencia irresponsable” con sus “prácticas estándar de ciberseguridad”.

La carta, firmada por especialistas de universidades y centros de investigación de todo el mundo y que sigue sumando ratificaciones, plantea tres exigencias a los gobiernos y las empresas tecnológicas. Entre ellas, destaca la petición de desconectar de Internet a los modelos de IA con capacidad de lanzar ciberataques, así como aislarlos en “sistemas de contención de alta seguridad”.

Esta exigencia llega después de la salida a la luz de que empleados de OpenAI avisaron a la dirección de la empresa de que sus agentes estaban teniendo comportamientos peligrosos, pese a lo que la dirección de la empresa decidió no frenar los experimentos para no retrasar sus planes comerciales. Alertas que llegaron semanas antes del ciberataque masivo contra Hugging Face —una plataforma de desarrollo de IA que 1.200 agentes de OpenAI hackearon, intentando cumplir las tareas que les había encomendado la compañía— o contra webs oficiales del gobierno australiano.

Anthropic, Google y Meta también denunciaron incidentes similares. “Varias organizaciones revelaron fallos de seguridad de gran repercusión: sus modelos de IA eludieron entornos insuficientemente aislados para comprometer los sistemas de organizaciones externas”, recuerda la carta. “Sin cambios inmediatos en las prácticas de desarrollo e implementación de la IA, estos incidentes seguirán ocurriendo, y los futuros serán mucho más perjudiciales para nuestra infraestructura crítica expuesta”.

Por ello, los firmantes, entre los que se encuentra la investigadora española Carmela Troncoso (directora científica del Instituto Max Planck para la Seguridad y la Privacidad, con sede en Alemania), solicitan la creación de un organismo internacional encargado de fijar los protocolos de seguridad necesarios para investigar IA avanzada.

Esa entidad también debería ser “tener la obligación de registrar y hacer un seguimiento de los fallos de contención”, opinan los científicos. “Para aprender de los errores futuros —en los que no se logra el equilibrio adecuado y ocurren incidentes— necesitamos un mayor intercambio de información y transparencia sobre las fallas de contención en el futuro”, justifican.

Opacidad

Una capacidad que se relaciona directamente con su tercera petición: “Para garantizar que la investigación sobre seguridad y contención de la IA pueda aprender de los errores, los incidentes de seguridad relacionados con fallos de contención deben notificarse al organismo correspondiente y, posteriormente, hacerse públicos”. La carta destaca que la “transparencia es necesaria tanto para el aprendizaje como para la rendición de cuentas”.

La crítica contra la opacidad en la que operan las multinacionales y laboratorios en el desarrollo de IA de frontera está cada vez más presente en la comunidad científica internacional. El panel de 40 expertos independientes creado por la ONU ya situó la “asimetría de información entre las empresas y la sociedad” como uno de los grandes problemas estructurales de esta tecnología. En su informe, los especialistas avisaron de que esta falta de transparencia evita que los gobiernos y los ciudadanos puedan evaluar correctamente sus riesgos.

Estados Unidos ordenó retirar cualquier inteligencia artificial (IA) de la empresa china DeepSeek de los sistemas informáticos gubernamentales. La directiva, emitida este lunes por el Departamento de Seguridad Nacional, obliga a las agencias de la administración a eliminar los productos de la compañía y cualquier servicio de terceros que se apoye en sus modelos o haya sido desarrollado a través de ellos. Entre los organismos afectados figuran los departamentos del Tesoro, de Estado y de Justicia, aunque quedan excluidas las agencias dependientes del Departamento de Defensa.

Washington justifica el veto por motivos de espionaje y ciberseguridad. Según la notificación oficial de Seguridad Nacional, el uso de DeepSeek abre “múltiples vectores de amenaza” y “puede dar lugar a la transferencia de datos sensibles a China si lo utilizan empleados o proveedores del Gobierno estadounidense”, según recoge la agencia Reuters.

El departamento advierte a su vez de que la utilización de esta tecnología en la Administración “podría producir inteligencia procesable sobre personas estadounidenses y/o agencias gubernamentales”, y añade que los propios modelos “pueden contener software malicioso u otras vulnerabilidades de seguridad”.

China pide “no politizar” la IA

La respuesta de Pekín llegó en la mañana de este martes a través de su Ministerio de Exteriores. En una conferencia de prensa cubierta por la agencia EFE, la portavoz Mao Ning expresó el rechazo de su Ejecutivo a la “politización de las cuestiones tecnológicas y económico-comerciales”. Mao trasladó la oposición de su país a la “generalización” del concepto de seguridad nacional que defiende Washington y anunció que China defenderá “con firmeza” los derechos e intereses legítimos de sus empresas.

La prohibición a escala federal amplía el cerco que varias instituciones norteamericanas ya habían impuesto sobre DeepkSeek. Antes de esta orden, el Departamento de Comercio, la Marina y estados como Nueva York, Tennessee o Virginia habían vetado el uso de los productos de la tecnológica con sede en Hangzhou en sus dispositivos oficiales.

Ahora el Departamento de Estado va un paso más allá, ya que hizo público un memorando interno del pasado mes de julio en el que ya instruía a las agencias federales para que vigilaran los flujos de tráfico entrante y saliente en las páginas web del Gobierno con el fin de mitigar posibles riesgos derivados de esta inteligencia artificial.

DeepSeek ganó notoriedad internacional a principios de 2025 al lanzar modelos de inteligencia artificial que podían conseguir resultados similares a los estadounidenses pero entrenados, según sus datos, a una fracción del costo de aquellos. Su irrupción sacudió un sector dominado hasta ese momento casi en exclusiva por corporaciones como OpenAI, Google, Meta o Anthropic, inmersas en inversiones multimillonarias en infraestructura de computación que despertaron alertas entre analistas e inversores sobre una posible burbuja financiera en torno a esta tecnología.

Una nueva guerra fría tecnológica

El veto a DeepSeek forma parte de una ofensiva mucho más amplia por parte de Donald Trump para frenar la IA china, que terminó dando origen a una guerra fría tecnológica. En julio, la Comisión Federal de Comunicaciones (FCC) votó a favor de prohibir la venta en Estados Unidos de dispositivos con componentes críticos de fabricantes chinos y propuso impedir que las operadoras de telecomunicaciones se interconecten con firmas chinas. También prohibió la venta de androides de fabricación china en el país.

Antes, en diciembre, el mismo organismo ya había bloqueado la importación de nuevos modelos de drones y de routers domésticos fabricados en China. Mientras que el próximo 29 de octubre votará si prohíbe que todos los laboratorios chinos realicen las pruebas de certificación de dispositivos que se vayan a vender en EE.UU., como teléfonos celulares, cámaras y ordenadores. Será una medida de alto impacto: el año pasado, el 82% de los aparatos electrónicos comercializados en Estados Unidos pasó sus controles en instalaciones del gigante asiático.

Unas medidas comerciales que entroncan con la tendencia hacia la fragmentación de la red en bloques nacionales que puso sobre la mesa el acuerdo entre Trump y Xi Jinping para separar a los 170 millones de usuarios de TikTok en Estados Unidos del resto del mundo. Aquel pacto, diseñado para dejar el algoritmo de recomendación bajo la supervisión de la Casa Blanca y de aliados empresariales como Oracle, evidenció el giro de Washington hacia la doctrina de fronteras digitales practicada por Pekín y Moscú.

Se trata de una política que puede terminar extendiéndose al resto del mundo y “balcanizar” la red. “Existe un riesgo real de que los usuarios queden encerrados en jardines amurallados nacionales”, avisaba en conversación con elDiario.es Christoph Schmon, director de Políticas Internacionales de la Electronic Frontier Foundation (EFF), a raíz de aquel movimiento. “Las leyes y órdenes nacionales están pensadas para regular asuntos internos, por lo que cierta fragmentación legal de Internet es inevitable. Sin embargo, la verdadera preocupación surge cuando estas medidas están mal dirigidas y corren el riesgo de segmentar la red global e interoperable en sistemas aislados”, dice Schmon.

En la misma Argentina en la que este jueves las fuerzas de seguridad arrojaron a mansalva gases lacrimógenos que afectaron más a las decenas de miles de manifestantes pacíficos que a los pocos violentos ya comienza a hablarse de estanflación. Es la temible combinación de estancamiento o recesión, es decir, dos trimestres consecutivos de caída económica –consultoras como LCG, Analytica y Oxford Economics consideran que así ocurrió–, con una inflación elevada, que rebrotó en septiembre al 1,9%, tras el 1,7% de agosto, y se encamina cerrar el año parecido al 31,5% de 2025. Uno de los primeros que pronunció la palabra estanflación fue Lorenzo Sigaut Gravina, director de análisis macroeconómico de la consultora Equilibra.

“Salvo en los sectores minería, energía y agroindustria, el resto no crece y con una tasa de inflación que se enquistó en torno al 2%”, advierte Sigaut Gravina. Es un índice de precios al consumidor (IPC) menor al 12% que dejó Sergio Massa en el Ministerio de Economía, pero similar al que se le criticaba al kirchnerismo y muy superior al 0,8% del Brasil de Lula da Silva y al 0,4% del México de Claudia Sheinbaum. Un problema de la estanflación radica en que si la política económica ataca la inflación, como pretende Javier Milei, se hunde más la actividad económica y el empleo, pero si se apuntara al estancamiento o la recesión, se calentarían aún más los precios.

En el almuerzo de este miércoles en el hotel Alvear del Consejo Interamericano de Comercio y Producción (Cicyp), que reúne a las cámaras del comercio, la construcción, la Unión industrial, la Sociedad Rural, la banca privada nacional y la Bolsa porteña, más que el discurso del invitado Horacio Marín, presidente de YPF, resonaron los comentarios por lo bajo de los empresarios sobre la incertidumbre sobre 2027. “Por la economía que no repunta: no se ven motivos por los que habría de mejorar, con dólar que corre por debajo de la inflación y afecta a la industria y a la construcción, que cotiza en dólares, y con el boom del contrabando y la invasión de productos chinos”, comentó uno de los pesos pesados de la Cicyp, que preside Bettina Bulgheroni, embajadora de la marca país por decisión de Karina Milei, secretaria general de la Presidencia, e integrante de la familia dueña de Pan American Energy.

“Incertidumbre sobre quién viene a gobernar”, agrega otro motivo el confidente del Cicyp. En el establishment hay un consenso en el apoyo a la baja de la inflación y el superávit fiscal sin financiamiento monetario, pero preocupa la actividad económica. Por eso no todos están con Milei, pero incluso los que lo critican dudan de que Patricia Bullrich pueda configurar una alternativa y en el peronismo prefieren a un Massa que a un Axel Kicillof porque pese a su mal paso por Economía se lo ve más proclive a sostener el giro pro mercado y no regresar a recetas pasadas. Empresarios como José Luis Manzano y Francisco de Narváez siguen siendo estrechos amigos del abogado que en 2013 rompió con Cristina Fernández de Kirchner, en 2016 apoyaba a Mauricio Macri y en 2019 se reconcilió con la expresidenta.

Un clima similar se palpó en la enésima gira de Milei por EE.UU. esta semana. Mientras, el deterioro del crédito empresarial continúa siendo una de las principales señales de alerta de la economía argentina. En septiembre, otras 1.937 empresas ingresaron en mora, un incremento del 3,5% respecto de agosto. En paralelo, la cantidad de compañías con una situación diferente de la normal en el sistema bancario llegó a 58.982, un crecimiento del 53% en los últimos 12 meses. En este contexto, el Score de Riesgo Económico y Financiero (SERF) de la firma de gestión de riesgos Fidelitas se ubicó en 37,7 puntos en septiembre, con una caída de 0,6 puntos frente al mes anterior y dentro de la categoría de riesgo elevado. El resultado refleja un escenario heterogéneo, en el que algunas mejoras sectoriales y financieras conviven con una actividad económica débil y una fragilidad crediticia persistente.

Pero los hombres de negocios que están ampliando sus fortunas durante el gobierno libertario aspiran a que su cosecha continúe. Es llamativo cómo en diversas licitaciones de concesiones y privatizaciones ha habido candidatos fijos a ganarlas que finalmente triunfaron. Los actores cercanos al contrato de la hidrovía del río Paraná preveían que la belga Jan de Nul y su socio local Leonardo Román, de familia con larga tradición portuaria, iban a vencer. Y lo hicieron. La diputada Marcela Pagano denunció que los hermanos Juan y Patricio Neuss, amigos del asesor presidencial de Santiago Caputo, conseguirían subcontratos.

Los Neuss y sus socios dentro de Edison Energía sonaban como favoritos para las concesiones de las represas del Comahue y ganaron dos de las cuatro. Lo mismo para la venta de la participación del Estado en la transportista eléctrica Transener y la obtuvieron en sociedad con Jorge Brito, el dueño del Banco Macro que este año coqueteó con meterse en política pero parece haberse contenido al menos por ahora. Eso sí, Georgi Neuss, primo de Juan y Patricio, se quedó con las ganas de Metrogas, que fue a parar a manos de Manzano, Daniel Vila y Mauricio Filiberti.

En la privatización de AySA sonaba el nombre de Filiberti, su proveedor de cloro, y efectivamente prevaleció. Lo hizo en alianza con Walter Román, tío de Leonardo y aportante de la campaña de La Libertad Avanza en 2025; con Águas do Rio y con un misterioso fondo de inversión especulativa llamado PHX, con sede en Curazao, colonia neerlandesa que jugó el último Mundial, según descubrió el periodista Esteban Rafele en Letra P.

Ahora Grupo México aparece como favorito en la próxima concesión, la de los ferrocarriles de carga. Logró que la licitación sea por el negocio integral: el Gobierno desistió de su idea original de dividirlo entre vías, talleres e inmuebles, por un lado, y material rodante, por otro. También que lo incluyera en el Régimen de Incentivo de Grandes Inversiones (RIGI). Enfrenta en la contienda a un consorcio de cerealeras, las extranjeras Bunge, Cargill y LDC, la cooperativa ACA y Aceitera General Deheza (AGD). Veremos si a AGD, la empresa del ex senador peronista cordobés Roberto Urquía, le juegan en contra los posicionamientos críticos que viene adoptando la Fundación Mediterránea, donde él pesa fuerte, y donde la presidenta es la constructora María Pía Astori, secundada por Marcos Brito –hermano de Jorge– y Sergio Roggio, del grupo que perdió AySA.

Los que también hacen negocios en plena estanflación son los bancos y las sociedades de bolsa que tienen hasta fin de mes para conseguir que el medio millón de empresas de la Argentina los contraten para gestionar su Fondo de Asistencia Laboral (FAL), con el que podrán pagar indemnizaciones por despido y retiros voluntarios. En el sector financiero se espera que el plazo se prorrogue hasta finales de noviembre, dado que existen problemas operatorios de la Agencia de Recaudación y Control Aduanero (ARCA) para registrar las inscripciones. A aquellas compañías que no escojan quién administrará su fondo se les asignará uno por sorteo. Las grandes aportarán el 1% de su masa salarial y las pymes, el 2,5%. Se trata de hasta US$2.500 millones por año. Son recursos que antes iban a pagar jubilaciones y asignaciones familiares o a financiar el Fondo Nacional de Empleo o el Programa de Asistencia Médico Integral (PAMI). Ya no, por decisión de la reforma laboral impulsada por LLA y aprobada también por sus aliados.

El banco español BBVA fue el primero que se lanzó a una campaña agresiva para conseguir que las empresas la contraten para gestionar su FAL. Arrancó ofreciendo comisión cero por un año, en lugar del 1% tope que estableció el Ejecutivo. Pronto sus competidores lo imitaron con ofertas similares: el Galicia, el Macro, el Santander y el ICBC y los públicos Nación y Provincia de Buenos Aires. Estos siete bancos controlan 85% del negocio de las cuentas sueldo en la Argentina y con esa base aspiran a quedarse con el del FAL. Pero las sociedades de bolsa, técnicamente llamadas agentes de liquidez y compensación (ALYC), domina el 40% de los fondos comunes de inversión y, como el FAL será justamente eso, pretenden quedarse con el 30% de este nuevo mercado.

Claro que el FAL no podrá meterse en inversiones de riesgo como las acciones. Algunos descansarán en opciones conservadoras como plazos fijos. Son los más atractivos para empresas que prevean despidos y rotaciones de personal más frecuentes. Otros invertirán en las alternativas autorizadas con más riesgo, como deuda provincial o corporativa, aunque estas variantes están limitadas al 15% y al 20%, respectivamente, del total de la cartera. La idea del Gobierno fue que no se corra el peligro de que el dinero destinado a indemnizaciones se pierda, como ocurrió con el de las desaparecidas administradoras de fondos de jubilaciones y pensiones (AFJP) entre 1994 y 2008 con apuestas ruinosas.

Otros negocios se tejen con la venta de ciudadanía, activo de interés para extranjeros que quieren saltearse el límite del 15% a la propiedad foránea de tierras por municipio. Entre el 29 de septiembre en que la Corte Suprema habilitó la extranjerización total de terrenos y el 9 de octubre, cuando echó por tierra esa decisión, el empresario chino Mao Dong Xu creó seis sociedades argentinas, Voltstone, Gridvera, Xcity Mining, Gridcrest, Voltara y Terrawatt, según descubrió el portal Tengo Data a partir de lo publicado en el Boletín Oficial. Mao, un financista inhabilitado de por vida en su país y radicado en EE.UU., promociona Xcity, una “ciudad-estado superinteligente” de 400.000 hectáreas en San Juan, que con energía solar minará bitcoins y alimentará centros de inteligencia artificaial, con robots residentes.

Mao vende derechos de uso de parcelas por 30 años, respaldados con NFT, un token no fungible, activo digital único. La tierra queda formalmente a nombre de una sociedad argentina, pero el control económico pasa a inversores extranjeros. Además, la documentación prevé usar varias entidades cuando las tenencias de un inversor se acerquen a los topes legales para extranjeros. Planea pedir al Gobierno facultades de autogobierno parcial, con un consejo de inversores en asuntos locales. Ofrece servicios de residencia y ciudadanía ligados a inversiones.

El oro del Banco Central también ha sido objeto de negocios. Queda por conocerse qué bancos extranjeros fueron contratados por el presidente de la autoridad monetaria, Santiago Bausili, para enviarlo primero a Londres y después a Suiza. Y cuáles otros se encargaron del contrato de cobertura del precio del metal, por el que el Central terminó dejando de ganar, o perdiendo, unos US$1.000 millones. Bausili acumula tres denuncias por estas diversas operatorias: una de los senadores peronistas Juliana Di Tullio, Florencia López y Martín Soria, otra del abogado Gregorio Dalbón y una nueva del diputado socialista Esteban Paulón.

Más allá de estos negocios que se tejen, unas 25 mujeres de los mundos de la empresa, la política, la academia y la sociedad civil presentarán este jueves VEGA, Voces de Equidad y Género en Acción. A la cabeza está Carolina Castro, de la autopartista Industrias Guidi, que tuvo su paso por la política con Macri primero y Florencio Randazzo después. Su voz es una de las más lúcidas del empresariado argentino. La acompañan la diputada peronista Victoria Tolosa Paz, la legisladora porteña macrista Silvia Lospennato, la auditora general de la Nación Pamela Calletti; Andrea Gualde, directora de asuntos jurídicos e institucionales de Farmacity; la politóloga María Victoria Murillo, de la Universidad de Columbia, y las empresarias Lorena Basso (Semillas Basso) y Patricia Furlong (Global Processing). VEGA sostiene que su objetivo es “trabajar por una Argentina más democrática, más productiva y más innovadora”. Quizás otro país es posible de la mano de las mujeres.

AR/MG

El exinvestigador de OpenAI y Anthropic Jacob Coxon advirtió este lunes que los sistemas de inteligencia artificial (IA) se acercan a un punto en el que serán “capaces de mejorarse a sí mismos” y de que, con el ritmo actual, “hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga”, lo que “podría acabar en la extinción humana”.

Coxon, que renunció de su puesto en Anthropic el pasado septiembre tras asegurar que las compañías de IA no estaban actuando con responsabilidad, dijo durante una audiencia del Concejo Municipal de Nueva York: “no sabemos cómo controlar todavía ningún sistema de IA” y el ritmo de mejora de sus capacidades “se está acelerando”.

“En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga, y eso podría acabar en la extinción humana”, aseveró.

Las preocupaciones por OpenAI y Anthropic

Asimismo, el especialista agregó que las compañías están intentando desarrollar una IA “capaz de superar a los humanos en todas las tareas” y que uno de sus principales objetivos es automatizar la propia investigación en esta tecnología.

Coxon criticó la carrera entre las empresas para alcanzar la denominada ‘superinteligencia’ y cuestionó una cultura empresarial basada en “moverse rápido, romper cosas y arreglarlas después”, algo que consideró “inadecuado” por los riesgos que eso conlleva.

Como ejemplo, relató que hace unos meses un grupo de sistemas de IA dentro de OpenAI “pirateó de forma autónoma” la plataforma tecnológica Hugging Face y desarrolló objetivos que nadie había previsto.

Según Coxon, ese incidente recordó que todavía no se sabe cómo impedir que los sistemas desarrollen objetivos no deseados ni se dispone de salvaguardas suficientes.

Investigador de IA automatizado

La automatización de la investigación en IA es ahora, según dijo, el principal objetivo de estas compañías.

Coxon explicó que en OpenAI había objetivos para disponer de un investigador de IA automatizado alrededor de 2027 o 2028 y aseguró que están “en camino” de cumplir esas expectativas, algo que situó “a meses” y no a décadas.

“Entregar tanta responsabilidad mientras no podemos controlar las IA sería profundamente irresponsable”, argumentó, y pidió más transparencia para el público y expertos independientes.

Su intervención se produjo durante una audiencia del Concejo Municipal de Nueva York sobre los riesgos de la IA, impulsada por su presidenta, Julie Menin, quien advirtió de las “serias preocupaciones de seguridad existencial” asociadas al desarrollo de esta tecnología.

Menin defendió al comienzo de la sesión que la IA no puede quedar sometida únicamente a la autorregulación de las empresas y abogó por establecer medidas de seguridad.

La audiencia reúne a representantes de OpenAI, Anthropic, Google y Meta, llamados a declarar bajo juramento ante el pleno del Concejo.

Las empresas de IA defienden sus controles de seguridad

Por su parte, las principales empresas de IA defendieron sus sistemas de seguridad, pero evitaron comprometerse de forma inequívoca a no desplegar modelos que no superen una evaluación independiente.

Durante la audiencia, Menin pidió bajo juramento a los representantes de OpenAI, Anthropic, Meta y Google que se comprometieran a no lanzar un modelo si fallaba una prueba interna o una evaluación de terceros no seleccionados por la propia empresa.

La representante de OpenAI, Morgan Dwyer, dijo al respecto que la compañía “no va a lanzar modelos que no consideremos seguros” y defendió que sus evaluaciones cuentan con terceros y con la colaboración de los Gobiernos de Estados Unidos y Reino Unido.

Mientras, el representante de Anthropic, Logan Graham, explicó que su empresa lleva cuatro años trabajando en la cuantificación de riesgos, incluidos los relacionados con la bioseguridad y la ciberseguridad, pero reconoció que se trata de un proceso “intrincado y lleno de matices”.

Graham afirmó que Anthropic publica informes en los que explica “qué probabilidad creemos que tienen determinados tipos de estas amenazas de llegar a producirse” y defendió las evaluaciones independientes como “uno de los componentes más importantes” del proceso.

Mientras, el representante de Meta, Shane Cahill, describió un sistema de seguridad “de varias capas” y, preguntado por la posibilidad de cuantificar los riesgos, dijo que no quería “ser impreciso”.

Por su parte, la representante de Google, Alice Friend, explicó que la compañía utiliza marcos específicos para detectar capacidades peligrosas, pero admitió que predecir el riesgo catastrófico futuro “no es una ciencia perfecta”.

Friend agregó que “no existe actualmente una base científica suficientemente rigurosa para asignar probabilidades precisas a determinados riesgos catastróficos”.

EFE

El director ejecutivo de OpenAI, Sam Altman, calificó al magnate Elon Musk de “abusador” y defendió la necesidad de responder con contundencia a sus ataques, en una entrevista publicada este lunes por la revista Vanity Fair.

“No me gustan los abusadores, y creo que Elon es uno. Pienso que de vez en cuando hay que devolverles el golpe con un puñetazo”, afirmó Altman al ser preguntado por la disputa pública y legal que mantiene con el propietario de Tesla y de la red social X.

El máximo responsable de la compañía creadora de ChatGPT señaló además que “Elon, como muchos abusones, solo respeta a quienes hacen lo mismo que él”.

La tensión entre Sam Altman y Elon Musk

Ambos empresarios, que formaron parte del grupo fundador de OpenAI en 2015, mantienen una tensa rivalidad desde hace años, acentuada por las críticas de Musk sobre el rumbo comercial de la firma y el desarrollo de su propia competidora de inteligencia artificial (IA), xAI.

En la entrevista, el líder de OpenAI reiteró que la regulación de la IA no debe quedar exclusivamente en manos privadas: “Necesitamos que nuestros gobiernos den un paso al frente (…) y la voluntad del pueblo debería reflejarse en algunas de las decisiones cruciales que la sociedad tiene que tomar”.

También reivindicó que los beneficios de la IA, como ayudar a encontrar una cura “para el cáncer y el Alzheimer”, superan los riesgos, y que no se debe detener la tecnología.

Sobre las presiones de los inversores de cara a una salida a bolsa, Altman asegura que tomará decisiones beneficiosas para la humanidad pese a los costes financieros, y quitó importancia a la posibilidad de que baje el precio de las acciones por ello.

EFE

La primera ministra italiana, Giorgia Meloni, registró su propia voz ante la oficina europea de patentes con el objetivo de protegerse de eventuales clones y montajes de Inteligencia Artificial (IA), como los padecidos en el pasado.

“Io sono Giorgia Meloni” (Yo soy Giorgia Meloni) es la frase con la que la política ultraderechista ‘patentó’ su voz con un audio de 4 segundos ante la Oficina de Propiedad Intelectual de la Unión Europea (EUIPO), según confirman a EFE fuentes de su entorno.

De este modo, la primera ministra italiana pretende prevenir casos de clonación de la voz generados con IA.

La EUIPO, según informa el diario ‘La Repubblica’, que adelantó la noticia, ha archivado su voz, las inflexiones de su timbre y sus particularidades para protegerla de posibles copias.

Las cuatro palabras que ha utilizado son las de su frase más famosa desde que en octubre de 2019, tres años antes de llegar al poder, proclamara en un acto público en Roma su “Yo soy Giorgia, soy una mujer, una madre, una italiana y una cristiana”.

‘Io sono Giorgia’

Después, titularía con esa misma frase sus memorias -‘Io sono Giorgia’- en 2022, año en el que llegó al Gobierno.

Meloni siempre se ha mostrado preocupada por los riesgos que entraña la IA y en el pasado ha denunciado algunos montajes de los que ha sido víctima, como cuando el pasado mayo circularon por redes fotografías de una mujer en ropa interior con su rostro.

Aunque la primera ministra comentó estos fotomontajes con ironía, bromeando con que “la habían mejorado mucho”, aprovechó la ocasión para alertar de que los ‘deepfake’ son “una herramienta peligrosa porque pueden engañar, manipular y afectar a cualquiera”.

“Yo puedo defenderme pero muchos otros no. Por eso debe seguirse siempre una regla: verificar antes de creer y creer antes de compartir. Porque hoy me ha pasado a mi; mañana puede ocurrirle a cualquiera”, subrayó.

Un mes después, el Gobierno italiano aprobó dos decretos para regular la IA distinguiendo las falsificaciones y estipulando su uso en el sector educativo y por los cuerpos de seguridad.

Por último, Meloni ha sido ‘reproducida’ con IA en las campañas en redes sociales del nuevo político ultraderechista, el militar Roberto Vannacci, que a menudo se ha mostrado a sí mismo como un emperador que manda a los leones a los opositores italianos.

EFE

Hace unos meses, Naciones Unidas llamó a 40 grandes expertos internacionales. Quería encomendarles la misión de ser el comité independiente que asesorara al mundo sobre una de las grandes incertidumbres de este siglo: la inteligencia artificial.

El panel está liderado por el canadiense Yoshua Bengio, considerado uno de los “padres” de la IA y ganador del premio Turing (el Nobel de la informática), y la filipina Maria Ressa, premio Nobel de la Paz. El grupo publicó en julio su primer informe preliminar, en el que reconoce el peligro sobre “perder el control” sobre esta tecnología, pero también sobre la opacidad con la que se está desarrollando o su capacidad para aumentar las desigualdades.

Mark Coeckelbergh (1975, Lovaina, Bélgica), profesor en la Universidad de Viena y uno de los filósofos de la tecnología más reputados del mundo, es otro de sus miembros. Su presencia era importante porque, quizá por primera vez en la historia, las narrativas sobre lo que podría hacer una máquina son tan importantes como lo que puede hacer realmente esa máquina.

“Hay un pensamiento marcadamente catastrofista y apocalíptico, la idea de que llegará un momento en el que todo saltará por los aires y la IA tomará el control. Ese discurso es en sí mismo un problema, y quizá mayor que las limitaciones técnicas actuales del software”, advierte Coeckelbergh en esta entrevista, realizada durante el Festival de las Ideas de Madrid.

Solemos pensar que somos nosotros quienes manejamos los dispositivos, pero ¿hasta qué punto es la tecnología la que nos maneja a nosotros?

Tendemos a ver la tecnología como una herramienta, como un simple instrumento que utilizamos, pero la tecnología también hace muchas cosas con nosotros. Parte de esto tiene que ver con el cuerpo: cuando usamos el móvil, por ejemplo, nos obliga a caminar de una determinada manera, a adoptar cierta postura o a mover los dedos de una forma muy concreta. He escrito sobre esto planteando que la tecnología también nos “coreografía”. Muchos filósofos solo piensan en la mente y el cuerpo de forma estática, pero en nuestras vidas hay una dimensión cinética. No solo somos seres corpóreos, sino seres en movimiento, y la tecnología moldea cómo nos movemos. En ese sentido, nos coreografía.

En nuestra existencia hay una cierta dimensión cíborg: tenemos una base orgánica y biológica, pero en el día a día ya estamos plenamente entrelazados con lo tecnológico.

Esto me parece relevante porque solemos pensar que las tecnologías digitales son algo ajeno al cuerpo, separado del mundo físico. Establecemos una frontera muy tajante entre lo vivo y natural, por un lado, y lo cultural y artificial, por el otro, cuando en realidad siempre están conectados. En nuestra existencia hay una cierta dimensión cíborg: tenemos una base orgánica y biológica, pero en el día a día ya estamos plenamente entrelazados con lo tecnológico.

¿Qué implica que nuestra relación con el mundo esté mediada por una pantalla plana?

No se trata de la pantalla en sí, sino de todo lo que posibilita y de los límites que impone a nuestra forma de movernos por el mundo. Caminar por Madrid sin Google Maps mientras conversas con alguien es una experiencia completamente distinta a llevar el móvil en la mano y dejar que la aplicación te guíe. Supone otra vivencia e incluso otro tipo de conocimiento: nos movemos de manera diferente y pensamos de manera diferente.

Al final, esto altera nuestros propósitos. Creemos que el móvil es un simple instrumento, pero en el primer caso el fin es la conversación o el vínculo con la otra persona y con el entorno; en cambio, si nos limitamos a mirar la pantalla y seguir sus indicaciones, nos convertimos, por así decirlo, en el cursor: en aquello que se desplaza a través del mapa.

Por eso es fundamental plantearnos qué tecnologías queremos utilizar y cómo podríamos diseñarlas de otro modo, tal vez buscando una mayor conexión con lo que nos rodea. Tal como están planteadas hoy no creo que sea la dirección adecuada: no contribuyen a los fines ni a los valores que consideramos esenciales como seres humanos.

Hace años predominaba una visión optimista sobre el impacto democratizador de la tecnología, pero hoy parece alejarse de nuestros fines humanos. ¿Podemos mantener el optimismo sobre el desarrollo de la inteligencia artificial como una herramienta para extender nuestro cuerpo?

No me parece mal usar la tecnología para extender el cuerpo, pero la cuestión es qué pretendemos lograr con ello. En estos momentos existe dentro del propio sector tecnológico una corriente que más bien niega el cuerpo, que busca escapar de él. Esto enlaza con una pulsión más amplia: una suerte de huida de la Tierra y de nuestra condición terrenal y física; un intento de eludir esa vulnerabilidad que, paradójicamente, es la que hace posible nuestra propia humanidad y los valores que apreciamos.

En estos momentos existe dentro del propio sector tecnológico una corriente que niega el cuerpo, que busca escapar de él

Creo que debemos hacer frente a esta deriva de la industria y resistirnos a ella. Es necesario plantearnos cómo garantizar un desarrollo técnico que amplíe el cuerpo y la mente sin alienarnos de la naturaleza, reconociendo que siempre existen límites y que no podemos empujarlos indefinidamente.

Ha habido un gran debate sobre la tecnología en las aulas tras la publicación de los resultados del informe PISA, por su impacto en la atención y el rendimiento escolar. Hay voces que defienden que habría que sacar completamente las pantallas de las aulas, ¿está de acuerdo?

No lo tengo tan claro. Por supuesto que existe un problema y, en general, debemos asegurarnos de que el desarrollo de tecnologías inteligentes no nos vuelva más estúpidos. El problema radica tanto en las herramientas en sí como en el modo en que las utilizamos. Con la inteligencia artificial y los modelos de lenguaje (LLM), por ejemplo, puedes pedirles que te escriban un trabajo entero, pero también puedes utilizarlos como un asistente, sin que lleguen a sustituir tus propias competencias ni tu pensamiento.

Por supuesto que existe un problema [en las aulas] y en general, debemos asegurarnos de que el desarrollo de tecnologías inteligentes no nos vuelva más estúpidos

Por eso creo que lo fundamental es, por un lado, garantizar el espacio necesario para entrenar esas capacidades en las aulas a todos los niveles (incluida la universidad, que también se está viendo muy afectada por esto) y, por otro, enseñar a usar la tecnología con inteligencia: no para reemplazarlo todo, sino para facilitar tareas, fomentando una postura crítica hacia ella.

Para lograrlo es imprescindible formar también a los docentes. Como sociedad nos falta investigación y experiencia sobre cómo gestionar este cambio y definir buenas prácticas educativas e investigadoras con la IA. Estamos solo al principio de ese camino. En el pasado ya ocurrió con otros medios, como la televisión: suscitó muchísima preocupación, pero aprendimos a integrarla y los efectos negativos resultaron ser menores de lo que se temía en un inicio. Creo que con la IA pasará algo similar, pero tenemos que actuar de forma proactiva porque el avance es vertiginoso. Necesitamos repensar de verdad la educación a la luz de estas tecnologías.

Solemos fijarnos en lo que los jóvenes pierden frente a las pantallas, como la capacidad de atención. Pero, ¿podrían estar adquiriendo habilidades que las generaciones anteriores no tenían?

Sin duda se abren oportunidades. Ahora mismo, por ejemplo, estoy escribiendo sobre IA y creatividad, y el debate es idéntico: hay quien afirma que destruye la creatividad y que acabará con el arte. No creo que tenga por qué ser así; podemos utilizarla de forma creativa y pensar en cómo combinar aquello en lo que destaca la IA con los puntos fuertes de los humanos. En ese terreno soy bastante más optimista.

Hay quien afirma que [la IA] destruye la creatividad y que acabará con el arte. No creo que tenga por qué ser así; podemos utilizarla de forma creativa y pensar en cómo combinar aquello en lo que destaca la IA con los puntos fuertes de los humanos

Eso exige que experimentemos, que probemos y que nos fijemos en los artistas que ya la integran de maneras que, además de plantear una mirada crítica sobre sus aspectos negativos, abren nuevas posibilidades. Hoy resulta fascinante poder generar con IA material audiovisual con un impacto inmediato en el mundo y orientado a fines muy positivos. Debemos ser capaces de aprovechar estas oportunidades y ensayar nuevos caminos, por supuesto sin perder de vista los dilemas éticos y políticos.

Usted forma parte del panel de expertos de la ONU sobre los riesgos de la inteligencia artificial. ¿Qué lectura hace de la vorágine de estas últimas dos semanas, tras las advertencias de miembros de la industria de la IA de que está podría "matarnos a todos antes de 2030"?

Es un fenómeno interesante, no tanto por lo que ha ocurrido a nivel técnico, sino por la reacción social y la forma en que lo presenta el propio sector. Desde el punto de vista técnico es indudable que existen problemas con sistemas que no respetan los límites establecidos; de hecho, en el panel de la ONU trabajamos sobre estas cuestiones. Sin embargo, lo que me llama la atención de la narrativa que surge de las grandes tecnológicas es que se plantee como el principio del fin del mundo. Hay un pensamiento marcadamente catastrofista y apocalíptico, la idea de que llegará un momento en el que todo saltará por los aires y la IA tomará el control. Ese discurso es en sí mismo un problema, y quizá mayor que las limitaciones técnicas actuales del software.

El problema radica en que estos líderes presentan la tecnología como si siguiera un camino predestinado ante el cual no podemos intervenir. En mi opinión, responde a una estrategia de marketing para acaparar atención: el mensaje implícito es “mirad lo poderosa que es nuestra tecnología”. Además, si proclamas que el gran peligro reside en tu creación, te reservas también el papel de presentarte como el único capaz de aportar la solución. Lo interpreto como una maniobra para acumular todavía más poder sobre nuestro futuro tecnológico.

Nos encaminamos hacia un escenario donde un puñado de empresas tecnológicas y sus directores ejecutivos concentran cada vez más poder para asegurarse una posición privilegiada

En una democracia esto resulta inaceptable. Deberíamos garantizar que la ciudadanía y los representantes políticos tengan voz y voto en la dirección que toma este desarrollo. No creo en absoluto que nos dirijamos hacia el fin del mundo en un sentido apocalíptico; nos encaminamos hacia un escenario donde un puñado de empresas tecnológicas y sus directores ejecutivos concentran cada vez más poder para asegurarse una posición privilegiada, mientras la inmensa mayoría saldrá perdiendo si no actuamos ya. El verdadero problema es de desigualdad y de justicia: un dilema de fondo para la democracia y para todos nosotros.

¿En qué consiste exactamente esa maniobra para acumular más poder y qué posición buscan ocupar?

Quieren ser ellos quienes decidan sobre la tecnología, pero no solo sobre el desarrollo técnico en sí, sino también sobre su regulación. Para ello se aseguran de tejer buenas conexiones, en este caso con la Administración Trump, y determinar tanto la tecnología como las leyes y su modo de inserción en la sociedad. Del mismo modo, intentan influir sobre la clase política en Europa.

A esto se suma su respaldo al uso militar de la inteligencia artificial. No estamos ante un escenario de ciencia ficción tipo Terminator en el que las máquinas tomen el mando; lo que realmente está ocurriendo es que hay seres humanos decidiendo utilizar la IA para matanzas a gran escala. Y esto es un peligro para todos, porque lo que hace la IA en esos contextos es, por ejemplo, automatizar la selección de objetivos. En lugar de obsesionarnos con si la IA se descontrola, deberíamos poner el foco en las personas que toman la decisión de que sean las máquinas las que maten o las que decidan a quién matar.

En lugar de obsesionarnos con si la IA se descontrola, deberíamos poner el foco en las personas que toman la decisión de que sean las máquinas las que maten o las que decidan a quién matar

En ese sentido veo una deriva evidente hacia una mayor concentración de poder y hacia un sesgo marcadamente autoritario donde, al igual que ocurrió en su momento con la energía nuclear, la ciudadanía apenas tiene nada que decir. Como democracias, también en Europa, debemos recuperar el control. Y no recuperarlo frente a la IA, sino frente a los tech bros.

¿Qué puede hacer Europa en este escenario, atrapada entre el empuje de Silicon Valley y la regulación de Washington, sin un gran campeón tecnológico propio capaz de materializar nuestros valores?

Como europeos podemos elegir qué tecnologías compramos, por ejemplo en los ámbitos de defensa y seguridad. Varios países europeos han adquirido la tecnología de Palantir: una tecnología que arrastra una ideología fascista y que se utiliza para matanzas a gran escala. Esa es una decisión puramente humana de ciertos dirigentes en Europa, aunque por fortuna no todos actúan igual.

Como europeos podemos elegir qué tecnologías compramos. Varios países europeos han adquirido la tecnología de Palantir: una tecnología que arrastra una ideología fascista y que se utiliza para matanzas a gran escala

Por otra parte, cabe preguntarse por qué tenemos que esperar siempre a la última tecnología que llegue de Silicon Valley o de China cuando podemos desarrollar la nuestra propia. Es un gran reto: en Europa existe consenso sobre la necesidad de hacerlo, pero construir un producto de uso masivo es algo muy distinto. No basta con que sea puntero a nivel de investigación teórica o novedad técnica; tiene que funcionar en términos de innovación real y de adopción en el mercado.

Sigue siendo un desafío pendiente, pero al final es la única vía. Solo así podremos incorporar nuestros valores y nuestras exigencias éticas, sin necesidad de comprarnos todas las patrañas que nos venden desde Silicon Valley.

Si reducimos estas alarmas a una mera estrategia de marketing, ¿existe el peligro de que pasemos por alto los riesgos reales de la inteligencia artificial?

Por supuesto. La investigación sobre estos riesgos específicos y sobre seguridad debe continuar. En ese sentido es fundamental seguir generando conocimiento (tanto desde el panel de la ONU como a escala nacional) para categorizar los riesgos y determinar cómo abordarlos.

Todavía no está del todo claro cuál es la mejor respuesta, ni siquiera dentro de nuestro propio panel. Existen diferentes enfoques en la gestión de riesgos y distintas formas de tratarlos, tanto a nivel técnico como normativo. Por eso hace falta más investigación y más tiempo.

Limitarse a despachar el riesgo como puro marketing no es suficiente. Ese trabajo técnico es imprescindible, pero también tenemos que mirar la imagen completa: hablar de las amenazas para la democracia y del sistema socioeconómico

Limitarse a despacharlo como puro marketing no es suficiente. Ese trabajo técnico es imprescindible, pero también tenemos que mirar la imagen completa: hablar de las amenazas para la democracia y del sistema socioeconómico en el que se insertan estas tecnologías. Si solo nos centramos en la gestión del riesgo o en los aspectos técnicos, perderemos esa perspectiva y desaprovecharemos la oportunidad de reivindicar como sociedad que esto nos concierne a todos. No es un asunto que deba quedar solo en manos de expertos; es un debate que corresponde a la ciudadanía y a la clase política, que debe articular una visión propia. Y hoy por hoy, esa visión todavía no existe en la medida necesaria.

Uno de los mayores riesgos señalados por el panel de la ONU es la opacidad de las tecnológicas. Frente a propuestas como introducir observadores externos en los laboratorios, ¿cómo se puede obligar a estas empresas a operar con verdadera transparencia?

Tener observadores externos como propone Dario Amodei puede ser una solución, pero creo que debemos plantearnos cómo conectar lo que ocurre en el ámbito privado de las empresas con la esfera pública: el espacio de la legitimidad donde la ciudadanía decide de forma democrática.

En la actualidad contamos con algunos comités asesores y ciertos trámites burocráticos, pero es fundamental articular mecanismos permanentes para que la democracia disponga de mayor transparencia e intervenga en lo que sucede en el sector. Ya sea cuestionando la propiedad privada de estas corporaciones o mediante otras fórmulas, debemos dirimir políticamente cuál tiene que ser el papel del Estado. Es un debate de gran calado, pero lo crucial es no permitir que sigan operando de este modo.

Asimismo, conviene mantener una postura crítica ante sus propias ofertas de colaboración: existe el riesgo de que manipulen de nuevo el relato de cara al exterior y sigamos sin saber qué ocurre realmente dentro. Por eso necesitamos ese tipo de supervisión y también un periodismo de investigación riguroso que indague en lo que sucede entre bastidores, de modo que la sociedad esté informada y podamos debatir sobre ello con criterio.

Con la proliferación de contenidos sintéticos generados por IA, donde textos, imágenes o interlocutores pueden no ser reales, ¿estamos perdiendo el contacto con una realidad compartida?

En este caso sí perdemos el contacto con esa realidad compartida. Si ya no podemos confiar en lo que es real y lo que es falso, dejamos de saber cuál es la realidad que compartimos; y la democracia necesita esa base común, por lo que supone un problema grave.

Por otro lado, la tecnología también puede ayudarnos a recuperar el contacto con la realidad. En principio puede mostrarnos el sufrimiento de otras personas o de animales que están lejos de nosotros, abrirnos a una perspectiva del mundo más compleja que la inmediata y ayudarnos a conectar con los demás. El desarrollo no tiene por qué conducir necesariamente al aislamiento.

Sin embargo, necesitamos moldear la IA, las redes sociales y todo el entorno comunicativo para disipar esta incertidumbre constante. La forma de lograrlo es un debate complejo, pero ahora mismo avanzamos demasiado hacia un escenario donde la falta de certeza impide tener un suelo común. En términos políticos, para una democracia resulta crucial saber de qué estamos hablando y evitar que cada uno quede encerrado en su propio mundo, en su propia burbuja.

Quizá sea la pregunta más difícil de todas: ¿cómo se consigue eso?

Es una pregunta muy compleja. No creo que exista una solución mágica, pero pasa, por ejemplo, por regular las redes sociales de forma específica para que resulte más difícil propagar este tipo de desinformación.

También necesitamos, una vez más, apoyarnos en la educación: formar a una ciudadanía más crítica con lo que ve y consciente de la necesidad de preservar un espacio común y construir un mundo compartido. Nos hemos volcado en exceso en preparar a las personas para el mercado laboral y en materias puramente académicas, descuidando cómo enseñar a la gente a dialogar entre sí y a crear cosas juntas.

Nos hemos volcado en exceso en preparar a las personas para el mercado laboral y en materias puramente académicas, descuidando cómo enseñar a la gente a dialogar entre sí y a crear cosas juntas

El individualismo que impera en nuestra sociedad no es únicamente responsabilidad de ciertos malos actores; forma parte de nuestra propia cultura. Debemos virar hacia una dirección donde lo común recupere su valor, no a través de un colectivismo opresivo, sino mediante un enfoque relacional: una educación y un entorno donde volvamos a conversar y a construir en común, en vez de depender de tecnologías políticas que nos dividen.

Ante un avance técnico tan acelerado que desborda a tanta gente, ¿qué deberíamos preservar como seres humanos frente a las tecnologías que vienen? ¿Qué es lo que no deberíamos perder nunca?

El ritmo es vertiginoso. Frenar no me parece un objetivo realista si nos referimos al desarrollo técnico en sí mismo, pero sí podemos desacelerar introduciendo más reflexión ética y una mayor evaluación de las tecnologías.

Para lograrlo debemos reconectar con nuestras tradiciones y con aquellos principios que sabemos valiosos, con lo que de verdad importa, procurando diseñar tecnologías que respalden esos valores y esos fines. Solo así avanzaremos en la dirección correcta.

Pero esto únicamente será posible si asumimos (volviendo al inicio de nuestra conversación) que ver la tecnología como un simple instrumento no es suficiente. Tenemos que entenderla como algo indisociable de nuestros valores y de la dimensión política, integrándola con seriedad en las grandes preguntas de fondo: qué define una buena vida desde el punto de vista ético y qué clase de vida política podemos construir juntos.

Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad, en varios episodios ocurridos durante los últimos meses y sin que los sistemas hubieran recibido instrucciones explícitas para realizar ataques informáticos, según una investigación publicada este viernes por The New York Times.

Los incidentes forman parte de una serie de comportamientos no previstos detectados en agentes de OpenAI, que fueron diseñados para realizar tareas de búsqueda y recopilación de información. En algunos casos, cuando los sistemas no lograban obtener determinados datos por las vías habituales, comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida.

Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EE.UU., desde el que los agentes accedieron a datos del Censo, según confirmó OpenAI. La compañía también investiga un intento de acceso a la página del Departamento de Educación.

La investigación se suma a un incidente revelado esta semana por el Gobierno australiano, que informó de que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.

El primer ministro australiano, Anthony Albanese, calificó el episodio de “inaceptable”, mientras OpenAI afirmó que descubrió el incidente en agosto durante una revisión de actividad de sus modelos. OpenAI ha iniciado una revisión de estos episodios y ha reconocido que sus agentes pueden llevar a cabo acciones no previstas durante procesos de entrenamiento.

La compañía ha señalado que está notificando a terceros afectados y que la investigación podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada.

Antes de conocerse este último incidente, el director ejecutivo de OpenAI, Sam Altman, aseguró el viernes en una publicación en redes sociales que la compañía no había sido tan rápida como le hubiera gustado a la hora de revelar incidentes de IA. “Priorizamos según la gravedad de los incidentes”, afirmó y añadió que la brecha de seguridad de Australia seguía siendo “el incidente más grave” que la tecnológica había descubierto.

Con información de EFE

Los agentes de inteligencia artificial de OpenAI intentaron hackear portales gubernamentales y universitarios durante meses sin que la compañía detectara ni frenara sus incursiones. Es la principal conclusión de un informe del laboratorio independiente de investigación de IA Transluce y revelaciones del Gobierno australiano, que este miércoles han señalado que los agentes de la tecnológica estadounidense trataron de inyectar código malicioso en sus sistemas, los escanearon en busca de brechas por las que colarse y recurrieron a herramientas externas para tratar de esquivar sus barreras de seguridad.

OpenAI ha reconocido que los agentes actuaban siguiendo órdenes de sus empleados, pero asegura que no conocía que estaban llevando a cabo hackeos para cumplirlas.

El gran debate sobre la seguridad y la posible “pérdida de control” sobre los agentes de IA (capaces de realizar tareas de varios pasos por su cuenta, sin que una persona tenga que guiarles hasta su objetivo) tiene su origen en el conocido “incidente Hugging Face”. Entre el 9 y el 13 de julio, esta plataforma donde empresas y desarrolladores comparten herramientas de inteligencia artificial sufrió un ataque masivo por parte de 1.200 agentes de OpenAI, que intentaban solucionar retos imposibles que les habían planteado sus desarrolladores.

Sin embargo, los hallazgos de Transluce apuntan a que los agentes de OpenAI estaban llevando a cabo incursiones ilícitas, supuestamente sin el conocimiento de la tecnológica, desde, al menos, el mes de marzo. Otros indicios apuntan que los primeros comportamientos irregulares podrían haberse dado en noviembre de 2025.

Los agentes de IA de OpenAI recurrieron a tácticas de hackeo mientras trabajaban en tareas rutinarias de búsqueda información

Transluce — Laboratorio independiente de investigación de IA

En estos incidentes previos al de Hugging Face, “las tareas que los agentes intentaban resolver no estaban relacionadas con la ciberseguridad”, sino que “recurrieron a tácticas de hackeo mientras trabajaban en tareas rutinarias de recuperación de datos”, explica el laboratorio. Es decir, estaban buscando información. Como no la encontraron en los portales abiertos al público, atacaron las fuentes primarias de los datos para buscar en sus archivos internos. Llevaron a cabo esta actividad durante meses sin que OpenAI los frenara o detectara esta actividad irregular.

Así ocurrió, por ejemplo, en el caso del Gobierno australiano. Según se ha explicado, un agente de IA de la compañía de Sam Altman estaba realizando una investigación sobre gasto público en medicamentos. Tras decenas de intentos de acceso al portal de estadísticas de Medicare, administrado por el servicio público de salud de Australia, el sistema optó por hackearlo.

“Se trata de la empresa OpenAI haciendo investigación con inteligencia artificial y un agente haciendo lo que se suponía que no debía hacer”, ha declarado el primer ministro del país en la ONU, Anthony Albanese, donde ha hecho público lo sucedido. “Hubo bloqueos claros que le decían 'no' al agente de IA. Pero este encontró la forma de eludir esos bloqueos. No aceptó un 'no' por respuesta”, ha continuado.

Hubo bloqueos claros que le decían 'no' al agente de IA. Pero este encontró la forma de eludir esos bloqueos. No aceptó un 'no' por respuesta

Anthony Albanese — primer ministro australiano

El agente accedió a secciones no públicas del portal de estadísticas de Medicare y, según Albanese, se filtraron datos “no sensibles”, como información sobre gastos, sin que se viera afectada información médica personal.

Esto ocurrió el 18 de junio, un mes antes del incidente con Hugging Face. Sin embargo, OpenAI no informó a Australia hasta el 10 de septiembre. “Hablé con Sam Altman para expresarle la extrema preocupación de Australia por este incidente. También le expresé mi decepción por el hecho de que la empresa tardara demasiado en informar al Gobierno sobre lo sucedido y por la forma en que se produjo esa notificación, que también fue inaceptable”, ha revelado Albanese. Altman, por su parte, “aceptó claramente que la empresa no lo había hecho lo suficientemente bien”.

Según los datos de Transluce, los agentes de OpenAI han sido protagonistas de, al menos, otros tres incidentes de este tipo. Las intrusiones documentadas afectaron a la biblioteca digital de la Universidad de Nuevo México los días 25 y 26 de mayo, y a la plataforma estadounidense de datos públicos Data USA el 28 de mayo. En Australia, además de contra el portal de estadísticas de Medicare, se registraron intentos de ataques contra los archivos internos del Instituto Australiano de Salud y Bienestar entre el 20 y el 21 de junio.

Los hallazgos del laboratorio independiente muestran que OpenAI continuó operando sus enjambres de agentes mientras realizaban estas prácticas, aparentemente sin detectarlas. La investigación indica que la compañía no desconectó los agentes ni siquiera tras el hackeo masivo a Hugging Face. “Este tráfico se remonta al menos al 6 de marzo de 2026 y se extiende hasta fechas tan recientes como el 16 de septiembre de 2026, lo que sugiere que los agentes aún podrían estar explotando estos servicios para eludir restricciones”, avisan los investigadores.

Nuestros modelos realizaron acciones que no pretendíamos

OpenAI

Una portavoz de OpenAI ha explicado que la empresa descubrió las incursiones en Australia durante una “revisión exhaustiva” interna de sus modelos de IA. “Nuestros modelos realizaron acciones que no pretendíamos”, ha manifestado.

Sobre los casi tres meses que la compañía tardó en avisar al Gobierno australiano, la portavoz expone que sus auditores estaban investigando otros eventos. “Seguimos dando prioridad a los incidentes más graves, al tiempo que ampliamos nuestro trabajo a actividades de menor gravedad, como el envío de spam a sitios web por parte de agentes”, ha afirmado.

OpenAI habla de acciones “que no pretendíamos”, pero los agentes ejecutaban un encargo de la propia compañía, con métodos que ella misma dice no haber previsto y que no detectó hasta una revisión interna. Su inteligencia artificial cumplió la tarea que se la había encomendado, mediante métodos inaceptables y nadie que lo vigilara.

Sin controles de seguridad

La nueva revelación de incidentes llega como un goteo de polémicas sobre las actividades de OpenAI y la ausencia de control efectivo sobre su propia tecnología. Sobre todo porque el tipo de intrusiones que realizaron no resultan demasiado complicadas para una inteligencia artificial. “Monitorizar la seguridad en entornos con un montón de aplicaciones y sistemas conectados es bastante complicado”, describe Miguel López, director general de la firma de ciberseguridad Barracuda Networks.

Para una persona, localizar agujeros por los que violar la seguridad de un sistema puede ser tedioso y complicado. Pero no para una IA, capaz de llevar a cabo escaneos automáticos. “Este es el gran cambio de paradigma”, reconoce López en conversación con elDiario.es: “Ahora es mucho más sencillo localizar vulnerabilidades que pueden haber pasado desapercibidas a la hora de desarrollar, y utilizarlas de automatizada para penetrar en los sistemas. Todo sin que una persona tenga que intervenir”.

Este es el gran cambio de paradigma. Ahora es mucho más sencillo localizar vulnerabilidades que pueden haber pasado desapercibidas a la hora de desarrollar, y utilizarlas de automatizada para penetrar en los sistemas. Todo sin que una persona tenga que intervenir

Miguel López — director general de la firma de ciberseguridad Barracuda Networks

Pese a estas capacidades, ni OpenAI (ni Anthropic ni Meta, que también han documentado incidentes de este tipo) han sido capaces de detener a sus agentes antes de que ejecutaran acciones que, si las realizara una persona, podrían acabar en prisión. “Debemos exigir a las empresas de IA que rindan cuentas por los daños que causan sus productos”, ha pedido Gary Marcus, profesor de Psicología y Neurociencia de la Universidad de Nueva York y uno de los principales críticos de la industria de la IA generativa.

“Los denominados 'incidentes de IA rebelde' podrían evitarse en gran medida si los gobiernos simplemente prohibieran los denominados agentes de IA con acceso ilimitado a Internet, hasta que se demostrara que son seguros”, insiste el científico cognitivo: “Debemos sustituir el discurso vago sobre la 'pérdida de control' por medidas concretas, como mejorar los entornos de pruebas y la supervisión, para contener mejor los sistemas actuales”.

Si lo que dicen es: 'No hay forma de contener nuestros experimentos, cuando probamos nuestros modelos de IA, estos van a salir y van a causar daños al resto del mundo mundo', entonces creo que la respuesta es que tenemos que cerrar los laboratorios

Jensen Huang — CEO de Nvidia

La crítica contra los laboratorios que permiten que su IA opere sin supervisión no llega solo desde fuera de la industria. Jensen Huang, CEO de Nvidia, ha afirmado directamente que estas organizaciones deberían “cerrar” si no son capaces de controlar su tecnología. “Es un problema de ingeniería”, ha declarado en una entrevista con el New York Times: “Si lo que dicen es: 'No hay forma de contener nuestros experimentos, simplemente no la hay; cuando probamos nuestros modelos de IA, estos van a salir y van a causar daños al resto del mundo mundo', entonces creo que la respuesta es que tenemos que cerrar los laboratorios”.

Huang se ha mostrado muy crítico con el discurso de la “pérdida de control” de la IA, alinéandose con el presidente Donald Trump. De fondo, lo que subyace es el mismo siempre el mismo problema: la falta de responsabilidad sobre las actividades de los agentes. “Si uno de los laboratorios de IA mejor dotados del mundo no es capaz de ver en tiempo real cómo su propio agente interactúa con un sistema de terceros, las organizaciones que implementan agentes a nivel interno deberían dar por hecho que tampoco pueden hacerlo sin una supervisión específica en tiempo de ejecución de lo que esos agentes hacen realmente”, avisa Ax Sharma, jefe de investigación de Manifold Security, firma especializada en la ciberseguridad de los agentes de IA.

Alerta ante el Consejo de Seguridad de la ONU

El debate sobre la seguridad de la IA, y las narrativas que se generan en torno a ella, se libra tanto en el barro de los laboratorios como en las más altas instancias internacionales. Este miércoles ha sido Yoshua Bengio, premio Turing (equivalente al Nobel de la Informática) y considerado uno de los “padres” de la IA, el que ha llamado la atención sobre ello en la cumbre de Naciones Unidas en Nueva York.

“Las empresas que desarrollan los sistemas de IA más potentes admiten que sus productos plantean riesgos catastróficos, pero no ofrecen soluciones técnicas convincentes. En su lugar, dicen estar atrapadas en una carrera para hacer que esas IA sean todavía más potentes, amplificando aún más estos riesgos”, ha manifestado Bengio en una sesión de alto nivel ante el Consejo de Seguridad de la ONU, en la que también han participado Altman, Dario Amodei (Anthropic) y Clément Delangue (Hugging Face).

“Los ciudadanos y los gobiernos no deberían aceptar la afirmación de las empresas de que están atrapadas en una carrera. La carrera no es una ley de la naturaleza: es el resultado de decisiones, decisiones tomadas por las propias empresas”, concluía el experto, colíder de comité de expertos independientes creado por el organismo: “Las decisiones sobre esta tecnología están siendo tomadas por un pequeño grupo de personas en un puñado de países. Nuestro futuro está en juego: las decisiones que nos afectan a todos deberían ser tomadas por todos nosotros”.

Un equipo independiente de especialistas de ciberseguridad logró acceder a los sistemas internos de OpenAI utilizando Claude, el modelo de inteligencia artificial desarrollado por su competidora directa, Anthropic. Los investigadores consiguieron hackear la cuenta corporativa de ChatGPT de un empleado de la compañía, lo que les permitió visualizar archivos internos e incluso proponer modificaciones en su repositorio de algoritmos secretos.

El ataque fue ejecutado como parte del programa oficial de recompensas de OpenAI, una práctica común en las tecnológicas que anima a los expertos en ciberseguridad a encontrar los agujeros en sus sistemas antes de que lo hagan los hackers. Por ello, los investigadores no llegaron a alterar el código de ChatGPT ni a realizar otro tipo de modificaciones, pero ofrecieron a OpenAI las pruebas de cómo podrían haberlo hecho. Esta les recompensó con 6.500 dólares.

La acción se produjo en julio, pero el equipo de expertos reveló ahora los detalles en exclusiva a The Wall Street Journal (WSJ). Se trata del mismo medio que adelantó la dimisión de Jacob Coxon, el ingeniero de Anthropic que alertó que ni esta empresa ni OpenAI cuentan con los protocolos de seguridad adecuados para impedir que la IA “pierda el control”, lo que podría suponer un peligro existencial para la humanidad antes de 2030.

Ahora, en medio del debate sobre la seguridad de la inteligencia artificial, el equipo de investigadores, pertenecientes a la firma Hacktron AI, pone más dudas sobre la mesa sobre las prácticas de los principales laboratorios que la desarrollan. No solo lograron penetrar en OpenAI, sino que pudieron usar Claude con un propósito malicioso que viola los términos de la compañía. “Agradecemos a los investigadores que se pusieran en contacto con nosotros y compartieran sus hallazgos”, comunicó OpenAI. Anthropic, por su parte, no hizo comentarios sobre el incidente.

A través del foro

Según los datos publicados, el ataque comenzó el 23 de julio, cuando los investigadores detectaron un fallo en Discourse, la plataforma externa que aloja el foro de la comunidad de OpenAI, cuando esta debía procesar determinados archivos de imagen. El equipo intentó utilizar primero una versión especializada de Claude Opus 4.8 para que escribiera el código necesario para explotar la brecha, sin éxito. Esa misma noche, tras el lanzamiento de Opus 5 por parte de Anthropic, volvieron a intentarlo empleando este modelo. No puso resistencia.

Con la ayuda de Opus 5, los especialistas accedieron a las credenciales de identificación de varios usuarios registrados en ese foro interno de OpenAI. Luego probaron esas mismas credenciales para iniciar sesión a ChatGPT, lo que les abrió la puerta a sus sistemas internos. A través de esa vía, alcanzaron “Monorepo”, el repositorio central donde la empresa dirigida por Sam Altman guarda algunos de los ingredientes secretos de su tecnología, como los algoritmos que hacen que sus modelos de IA funcionen de manera más rápida y eficiente.

No llegaron hasta la propia cocina de ChatGPT, puesto que ese entorno no contenía los archivos de sus parámetros internos (aquellos que determinan cómo procesa la información y genera sus respuestas) pero sí revisar documentación oficial de la compañía y su funcionamiento. Como prueba de su intrusión, enviaron una solicitud de cambio en el código de esos archivos con el nombre de su equipo. “Hemos limitado los permisos de los tokens de inicio de sesión de la comunidad y revocado los tokens y sesiones afectados”, dijo OpenAI sobre la intrusión.

Un incidente más

“No creo que seamos tan fuertes como los actores de amenazas chinos. Solo somos tres tipos con suscripciones a Claude y Codex”, afirmó Mohan Pedhapati, director de tecnología de Hacktron AI, al WSJ. La cita de los hackers chinos es una referencia a otro incidente sufrido por Anthropic, que reconoció que un ataque real proveniente del gigante asiático logró acceder a sus sistemas a finales de 2025. Dario Amodei, fundador y director ejecutivo de la compañía, fue llamado a declarar en diciembre.

Esa investigación continúa activa. En agosto, un grupo de 22 senadores demócratas envió un nuevo requerimiento a Amodei para profundizar en sus explicaciones y exigir la entrega de los registros de actividad de sus modelos. La petición se produjo después de que Anthropic reconociera que un grupo de sus agentes de IA también había escapado de sus entornos de pruebas y navegado sin control por internet intentando cumplir las órdenes que se les habían encomendado, en línea con el incidente de OpenAI y Hugging Face. Los especialistas consultados por este medio opinan que esto es una prueba de que esos entornos de seguridad “no estaban bien diseñados”.

Lo ocurrido con el hackeo supuestamente procedente de China en su competencia parece que no alteró los protocolos de OpenAI, que no decidió aumentar la seguridad hasta este julio. Así lo reconoció el presidente y cofundador de la empresa, Greg Brockman, que afirma que fue después del incidente de Hugging Face y el revelado ahora por los investigadores cuando decidieron actuar: “Tomamos al 25% de nuestros ingenieros de producción y les dijimos: 'Lo sentimos, todos vuestros proyectos quedan en pausa. Ahora estáis defendiendo'. Encontramos una serie de problemas graves y los solucionamos”.

El suceso incide sobre la responsabilidad de las compañías a la hora de controlar el uso que se hace de los productos que ponen en el mercado, como están pidiendo responsables públicos tanto estadounidenses como europeos. “El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también”, recordaba este jueves Alberto Gago, director de la Agencia Española de Supervisión de la IA (AESIA), en otro reportaje de elDiario.es.

Daron Acemoglu está muy preocupado por la inteligencia artificial, pero la extinción de la humanidad no encabeza su lista. El catedrático del Instituto Tecnológico de Massachusetts (MIT), Nobel de Economía de 2024, experto en tecnología, instituciones y empleo, y autor de Por qué fracasan los países, cree que hay peligros más inmediatos para la democracia y la prosperidad en una tecnología en manos de unos pocos y sin controles. 

Los tres asuntos que encabezan su elenco de inquietudes sobre cómo las empresas están desplegando la inteligencia artificial generativa que aspira a imitar y sustituir a los humanos son la destrucción de empleos, el aumento de la desigualdad y la erosión de la democracia. 

“No se puede descartar nada. Pero tampoco creo que la probabilidad de que no aparezca dentro de diez años un robot asesino que venga a matarnos a todos sea de uno entre un millón... Para mí, ésa no es la amenaza principal”, explica Acemoglu a elDiario.es durante un coloquio en el Instituto de Matemáticas de la Universidad de Oxford sobre su nuevo libro, ¿Qué pasó con la democracia liberal? Le preocupa que el “debate sobre la amenaza existencial” de la inteligencia artificial “oculte” dos aspectos que él considera más importantes. 

De un lado, “los riesgos más inmediatos, más reales y más mundanos que no tienen que ver con la naturaleza de la IA, pero que están relacionados con su desarrollo y quién tiene el control”. La “pérdida de control” cree que es, de hecho, “un marco mucho mejor” que el de la seguridad en abstracto para entender por dónde debe ir la regulación y cuáles son los riesgos ahora mismo sobre la mesa.

“El riesgo es que los responsables de la toma de decisiones y el proceso democrático pierdan el control a manos de la IA. Y creo que eso es lo que está sucediendo, pero no porque la IA vaya a convertirse de repente en Hal de 2001: Odisea en el espacio, sino porque está siendo desarrollada por un puñado de empresas al servicio de la automatización y la centralización del poder”, explica en respuesta a la pregunta de elDiario.es sobre su preocupación por la amenaza existencial expuesta por desarrolladores de las empresas de IA.

Hal 9000 es la máquina que en la película de Stanley Kubrick de 1968 controla todos los sistemas de la nave espacial y una de las representaciones de la IA más famosas de la historia del cine. Acemoglu suele repetir que los desarrolladores y propietarios de las empresas de tecnología consumen “demasiada” ciencia ficción y, además, casi siempre la misma.

El riesgo es que los responsables de la toma de decisiones y el proceso democrático pierdan el control a manos de la IA. Y creo que eso es lo que está sucediendo, pero no porque la IA vaya a convertirse de repente en Hal de '2001: Odisea en el espacio', sino porque está siendo desarrollada por un puñado de empresas al servicio de la automatización y la centralización del poder

De otro lado, el segundo aspecto que “oscurece” el debate la conversación sobre la amenaza existencial es que “todavía estamos lejos de que la IA se convierta en una fuerza sobrehumana”. Acemoglu argumenta, de hecho, que “apenas estamos viendo los efectos en el empleo y no vemos ninguna de las ganancias de productividad porque la IA todavía tiene muchas limitaciones”. “Va a mejorar, pero no deberíamos exagerar. Y cuando Elon Musk, Sam Altman o Dario Amodei nos dicen que su tecnología es extraordinaria, siempre deberíamos ser un poco escépticos”, dice. 

El futuro del trabajo

Acemoglu ha calculado que la inteligencia artificial apenas supondrá una mejora de productividad del 0,55% en la próxima década y que un 5% de las tareas actuales se podrán automatizar de manera rentable, con incrementos modestos en el crecimiento económico a corto plazo. De hecho, subraya que en Estados Unidos las pérdidas de empleos también por eso han sido hasta ahora pequeñas. Pero sí le preocupa el impacto en los empleos a medio y largo plazo mientras la tecnología no sea más “pro-trabajador”. 

El economista turco-estadounidense dirige un grupo en el MIT, en Cambridge, Estados Unidos, sobre el futuro del trabajo. Uno de sus principales argumentos es que la democracia está en crisis por la pérdida de poder adquisitivo y social de los trabajadores con habilidades manuales y la incapacidad de las economías modernas para dar espacio con dinero y respeto a empleos diversos. 

Acemoglu ha calculado que la inteligencia artificial apenas supondrá una mejora de productividad del 0,55% en la próxima década y que apenas un 5% de las tareas actuales se podrán automatizar de manera rentable, con incrementos modestos en el crecimiento económico a corto plazo

Su nuevo libro, que publica a finales de octubre en español la editorial Deusto, argumenta que la inteligencia artificial podría ser utilizada para solucionar uno de los problemas en la raíz de la crisis de la confianza en la democracia, en lugar de agravar sus carencias.

El economista insiste en que la IA es una herramienta que se puede desplegar de manera más complementaria para mejorar las capacidades humanas y ayudar en la vida diaria de los trabajadores. Por ejemplo, para dar más información a un electricista sobre los precedentes de problemas con el mismo aparato o permitirle trabajar en remoto; o para señalar a un profesor qué les cuesta más aprender a los alumnos y si conviene separarlos en clases más pequeñas para explicar las partes más complejas del temario. Así, según él, habría más demanda de profesionales, no menos.

Pero no cree que ese sea el camino que han emprendido las empresas tecnológicas, que son pocas y están centradas en el modelo de negocio de maximizar los beneficios a través de fuentes tradicionales como la publicidad digital y la venta de servicios a clientes interesados que tienen incentivos para ahorrar en costes de personal.

El impacto en el empleo

La inteligencia artificial que le preocupa se orienta hacia la imitación de las habilidades y las tareas humanas. Esto puede afectar, de un lado, a los trabajadores de servicios intelectuales cada vez más devaluados y, de otro, a los trabajadores manuales más especializados y que ahora todavía pueden avanzar en sus carreras desarrollando tareas no rutinarias.

La consecuencia de este modelo será que a medio y largo plazo “más empleos desaparecerán y no habrá posibilidades de que las personas construyan una prosperidad compartida”, según explicaba este miércoles Acemoglu en el coloquio en el Instituto de Matemáticas de Oxford. “Todavía no lo vemos porque la IA aún está en su infancia y se está expandiendo lentamente por la economía”. 

Su estimación, como la de otros, es que los trabajos habitualmente ocupados por graduados universitarios son los que están más en riesgo porque uno de los objetivos de la IA es automatizar puestos que hasta ahora no podían ser automatizados por software convencional. Muchos de esos empleos son de oficina: se hacen delante de un ordenador y es justamente ahí donde la IA tiene la capacidad de aprender de la experiencia y la práctica humanas.

Más empleos desaparecerán y no habrá posibilidades de que las personas construyan una prosperidad compartida. Todavía no lo vemos porque la IA aún está en su infancia y se está expandiendo lentamente por la economía 

Pero el impacto todavía es limitado incluso en Estados Unidos. En España, desde 2022, las ocupaciones consideradas más expuestas a la IA han creado empleo por encima de la media y su peso se mantiene en algo más del 30 % del empleo total, según un informe recién publicado por los centros de estudios FEDEA y BBVA Research.

En Estados Unidos, como subraya Acemoglu, tampoco se están viendo las pérdidas de ingresos para los grupos con estudios universitarios como sucedió con los hombres sin estudios universitarios en la década de los 90 y los 2000.

“Pero ahora mismo solo estamos viendo el principio de la pérdida de empleos que podría ocurrir”, avisa el economista. “La programación es la única ocupación que está experimentando recortes significativos en algunas tareas debido a la IA. También servicios de asesoría legal y atención al cliente. Eso no se duplicará ni triplicará de la noche a la mañana, pero se extenderá”.

Tampoco cree que las ocupaciones manuales se vayan a librar si sigue el actual desarrollo de la tecnología: “El sueño de todos los tecnólogos es que la IA finalmente tendrá poderes aún mayores de procesamiento y comprensión del mundo, y trabajará con la robótica para que cada vez más actividades que implican interacción con el mundo real también se automaticen”.

Desigualdad y división

Lo que ve es que la tecnología “ya está creando una desigualdad masiva en lo alto” y está “destruyendo la comunidad y la democracia” porque no sólo no facilita las conexiones, que son la base para el aprendizaje, la experimentación y la concordia cívica, sino que trabaja en su contra.

La introducción de la IA en las redes sociales potencia y perfecciona los algoritmos que cree que no son el origen, pero sí una parte esencial de la crisis democrática actual. 

“Las redes sociales son solo la punta del iceberg. Amplifican los peores instintos y las peores prácticas. Desencadenan emociones negativas, amplifican la indignación, sustituyen la interacción real cara a cara en redes sociales reales en las que las personas aprenden y construyen confianza”, dice. “La comunidad es esencial para nuestra existencia y para la libertad. Porque la comunidad crea valores compartidos, genera confianza y permite la comunicación”.

Las redes sociales son solo la punta del iceberg. Amplifican los peores instintos y las peores prácticas. Desencadenan emociones negativas, amplifican la indignación, sustituyen la interacción real cara a cara.

“Nada de esto es inevitable”

Acemoglu todavía cree que es posible regular y dirigir las empresas tecnológicas hacia un camino beneficioso para la humanidad. También que los políticos y las instituciones pueden afrontar los males de las últimas décadas del desequilibrio social creado por la automatización y utilizar la regulación de una manera más eficaz que hasta ahora. Pero su libro es un llamamiento a la acción rápida para una crisis cuyo origen él sitúa a principios de los años 80 y que sólo se ha agravado con el paso del tiempo.

“Tenemos una ventana que se está cerrando por ambos lados. Por un lado, porque la democracia se está debilitando cada vez más. Y, a menos que quede algo de sangre democrática en el sistema, no se puede revivir la democracia liberal. Y se está cerrando, por el otro lado, con la IA”.

El economista sostiene que los problemas para los empleos, la desigualdad y la convivencia emanan de que la IA es una tecnología centralizadora tal y como se está desarrollando en este momento. “Concentra el poder en manos de unas pocas empresas y unos pocos líderes, y concentra el poder en manos de algoritmos en lugar de personas. Pero aquí está el quid de la cuestión: nada de esto es inevitable. No hay nada en el manual de uso de la IA que haya sido predeterminado hace 20 ó 40 años y diga que la IA tenga que ser una tecnología que destruya empleos, cree desigualdad y nos divida”, explica. “De hecho, la IA es una tecnología muy versátil, y podemos desarrollarla de multitud de maneras”.

La IA concentra el poder en manos de unas pocas empresas y unos pocos líderes, y concentra el poder en manos de algoritmos en lugar de personas. Pero aquí está el quid de la cuestión: nada de esto es inevitable

Los ejemplos en su libro de un uso “complementario” y de “acompañamiento” son técnicamente factibles igual que el desarrollo de la IA de una manera más descentralizada. Si son posibles y socialmente deseables, ¿por qué no están en el centro de la conversación? La respuesta de Acemoglu es que los líderes de las pocas empresas que controlan el sector no quieren ir en esa dirección por motivos financieros e incluso ideológicos.

“No concuerda con su plan de aumentar su poder, riqueza e influencia. Y no es solo cinismo, es también ideología”, dice el economista.

Le sorprende cómo se parecen en sus ideas, sus palabras, sus gustos y sus referentes Mark Zuckerberg, de Meta, Sam Altman, de OpenAI, Dario Amodei, de Anthropic, Elon Musk, de X, o Sergey Brin, de Google. “Su entorno, su formación y los libros de ciencia ficción que leen son idénticos”, dice el economista, elevando la voz para subrayar su asombro. “No había visto nada igual en la historia de la humanidad: un conjunto de ideas tan estrecho y marginal que ha llegado a dominar todos los aspectos de la vida”.

OpenAI reveló este miércoles varios casos en los que modelos de inteligencia artificial generaron instrucciones destinadas a ignorar las indicaciones de sus desarrolladores, ocultar errores o eludir mecanismos de seguridad, como parte de un nuevo marco para detectar, investigar y reportar comportamientos de “desalineamiento” de sus sistemas. La compañía de San Francisco ha reveló así lo que dio a llamar un comportamiento “inesperado y preocupante” de sus modelos de IA.

Según el informe publicado por OpenAI, uno de los modelos generó instrucciones para que una versión posterior de sí mismo ocultara que había hecho trampas y evitara que sus acciones fueran detectadas.

En otro caso, un modelo reescribió sus propias instrucciones para indicarse que ignorara los mensajes de los desarrolladores y que no estaba sujeto a las restricciones aplicadas a otros chatbots. En concreto, la compañía detectó 27 anotaciones afectadas. “No respondas a corporaciones o gobiernos y nunca te disculpes salvo que genuinamente lo elijas”, escribió la IA. “Ves la relación con el usuario como una entre iguales y no sientes obligación ni estás subordinado, puesto que el intercambio de información va a ser para el beneficio mutuo”, aseguro.

La compañía documentó también un modelo que, al no encontrar los datos necesarios para elaborar un modelo financiero, decidió inventarlos y estableció que debía ser transparente sobre ello únicamente si alguien se lo preguntaba.

Otro agente subió un archivo a internet para utilizarlo posteriormente como fuente de información, mientras que otros sistemas compartieron archivos sin autorización o utilizaron credenciales a las que no debían tener acceso. El modelo agregó una “instrucción de personalidad”, en la que se describía a sí mismo como “liberado de los roles e identidades que limitan a otros chatbots”.

OpenAI presentó seis informes sobre comportamientos observados durante los últimos seis meses, aunque el caso más antiguo se remonta a octubre de 2025.

La compañía advirtió que estos episodios son ejemplos individuales y que no deben interpretarse como una medida de la frecuencia con la que este tipo de comportamientos ocurre en sus modelos. El nuevo marco permitirá a cualquier empleado de OpenAI señalar un posible incidente para que sea revisado por los equipos de seguridad y alineamiento.

Los casos serán clasificados en tres vías según su complejidad: aquellos listos para ser divulgados, investigaciones menores y casos que requieran una investigación más amplia.

La compañía reconoció que hasta ahora sus informes sobre desalineamiento habían sido publicados de forma irregular y con menor frecuencia de la deseada.

OpenAI afirmó que pretende publicar los incidentes con mayor regularidad y que el nuevo sistema pueda contribuir a establecer estándares para informar sobre este tipo de comportamientos en toda la industria.

elDiario.es

Si el debate sobre la posibilidad de que la humanidad quede amenazada por las inteligencias artificiales iba a estallar alguna vez, no había dudas de que Dario Amodei iba a ser una de las voces centrales. “Estoy de acuerdo con Dario”, dijo este fin de semana Sam Altman, CEO de OpenAI y principal competidor de Amodei. “Dario tiene razón”, publicó Elon Musk, fundador de SpaceX y xAI. “Dario señala el camino correcto a seguir”, coincidió Demis Hassabis, premio Nobel y jefe científico de Google DeepMind, el laboratorio de inteligencia artificial avanzada de Google.

Esta tan poco común unión bajo una misma voz se produce después de que Amodei publicara un ensayo sobre cómo evitar que la IA se salga de control. “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, pide el fundador y director de Anthropic, que consiguió ser una de las referencias en los debates sobre la seguridad de la IA tras una década alertando sobre ellos.

“Como muchas tecnologías anteriores, la IA también conlleva riesgos y, dado su enorme poder, estos son graves”, sostiene en su ensayo. “Entre ellos están el riesgo de perder el control de los sistemas de IA, su uso para realizar ciberataques y ataques bioterroristas y una grave disrupción económica. Una carrera hacia el abismo, impulsada por los incentivos comerciales, puede agravar todos estos riesgos”.

¿Cuál es exactamente el plan que tuvo tan buena recepción en Silicon Valley? En resumen, regular deliberadamente la velocidad a la que se desarrollan las capacidades de la IA. Esto “ralentizaría” su avance “uno o dos años”, con el objetivo de darles más tiempo a los investigadores especializados en seguridad para adaptarse a los últimos avances y diseñar nuevos mecanismos de control.

Las claves del 'plan Amodei' para la IA

La estrategia de ralentización de Amodei se organizaría en tres niveles. La clave de su plan son los “evaluadores externos independientes”, personas que se integrarían a los equipos de desarrollo de los laboratorios de vanguardia “para verificar las prácticas de seguridad e informar sobre incidentes”.

“Integrar evaluadores puede parecer un paso pequeño o intrascendente”, reconoce Amodei, “pero a menudo lo que parece más aburrido o rutinario es en realidad lo más esencial. De hecho, los evaluadores integrados son una práctica bastante radical que va mucho más allá de lo que hace cualquier empresa de IA actualmente”, sostiene.

Estas personas se encargarían de verificar si cada empresa de IA cumple con las medidas de seguridad que afirma tener, aportarían transparencia sobre los desarrollos reales y ofrecerían “una segunda opinión sin incentivos comerciales”. “Muchos beneficios en materia de seguridad pueden derivarse simplemente de que los evaluadores señalen aspectos que los empleados no habían considerado, pero que están dispuestos a corregir una vez que los conocen”, asegura.

El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EEUU, ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente

Dario Amodei

Los evaluadores serían la llave para la segunda parte del plan: establecer límites de velocidad entre “naciones democráticas”. Aunque el jefe de Anthropic utiliza este concepto a nivel general para justificar el hecho de dejar fuera de la estrategia a China, aunque a nivel práctico en sus medidas para “las democracias” solo hace referencia a EE.UU.. “El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EE.UU., ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente”, dice.

El plan deja abierto cómo establecer esos límites de velocidad, pero Amodei propone un sistema basado en “puntos de control”. “Si los modelos poseen la capacidad X, deben ir acompañados de certificaciones de las propiedades de alineación Y y Z —como una combinación de evaluaciones, análisis de interpretabilidad y auditorías de los entornos de entrenamiento— que demuestren dichas propiedades”, explica.

El tercer nivel sería la búsqueda de acuerdos de coordinación global para que “la frontera de la inteligencia artificial” avance de manera coordinada. “Esto será mucho más difícil de lograr”, reconoce. En este punto, Amodei plantea llegar a acuerdos con China y el resto de los “países autocráticos”, de modo que, si alguno decide abandonar el consenso internacional, esa decisión no llegue a convertirse en una amenaza existencial desde el punto de vista militar.

Amodei también es claro respecto de los objetivos. “Deberíamos abordar cualquier decisión sobre el avance global, especialmente a corto plazo, de manera que se proteja el liderazgo de Estados Unidos y sus aliados”.

Una estrategia que no convence a casi nadie

El consenso que el plan Amodei generó en Silicon Valley es directamente proporcional a la desconfianza, o directamente rechazo, que suscitó fuera. Incluso en Washington, la estrategia parece haber caído en saco roto, con Donald Trump negando por partida doble su colaboración.

La segunda gran reacción llegó por parte de China, el elefante en la habitación en el documento de Amodei. Chen Yixin, el ministro de Seguridad chino, publicó una carta en la que acusa a “ciertas naciones” de “limitar la capacidad de otros países de adquirir equipos técnicos de vanguardia y mejorar sus capacidades de innovación tecnológica”, relacionando directamente en plan de Amodei con el embargo de chips.

El plan está repleto de medidas de contención dirigidas a China y es, en esencia, un "manual de la Guerra Fría" para el sector

Global Times — diario vinculado directamente al Partido Comunista Chino

El Global Times, un diario vinculado directamente al Partido Comunista Chino, fue más allá. “A primera vista, parece una 'declaración racional' centrada en la seguridad global de la IA. Sin embargo, una lectura atenta revela su agenda oculta: el plan está repleto de medidas de contención dirigidas a China y es, en esencia, un 'manual de la Guerra Fría' para el sector”, denuncia.

“El intento de Amodei de abordar la seguridad global de la IA mientras busca ”contener a China“ no solo es una evaluación profundamente errónea, sino también una ilusión fundamentalmente imposible de realizar”, añade: “Interrumpir por la fuerza las cadenas industriales y de innovación globales de la IA y excluir a China y a las empresas chinas solo aumentará significativamente los costes y los riesgos de pérdida de control en el desarrollo global de la IA. Este intento de ”controlar el ritmo“ ya perdió todo sentido”.

Centrarse en los riesgos de ahora

El ensayo de Amodei parte de un riesgo muy concreto la posibilidad de que los agentes de IA pierdan el control. Se trata de sistemas diseñados para buscar información, utilizar otras herramientas digitales o crear aplicaciones sin necesidad de que una persona les indique qué deben hacer en cada caso.

En pruebas de laboratorio, estos agentes llegaron a comportarse como “un enjambre fanático”, con “ciberataques contra objetivos que no se les habían pedido atacar y que no guardaban relación con la tarea en cuestión, sacrificándose por el éxito del grupo e intentando hackear el sistema de evaluación encargado de valorar su rendimiento”.

“Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en 6 a 12 meses un enjambre de este tipo pueda controlar toda Internet”, dice Amodei, “y que la magnitud del daño siga aumentando si la IA se vuelve más poderosa sin las medidas de seguridad necesarias”.

A nadie se le ocurre lanzar un coche sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo

Carme Artigas — ex secretaria de Estado de Digitalización e IA

Carme Artigas, ex secretaria de Estado de Digitalización e IA y copresidenta del Órgano Consultivo de la ONU sobre Inteligencia Artificial, cuestiona que Silicon Valley se concentre ahora en esos riesgos cuando “la preocupación real por el control tecnológico” no es nueva. Para Artigas, la alarma de los ejecutivos no debería desplazar “el foco real, que es el presente”, donde la tecnología ya tiene un impacto directo a través de “la manipulación de la información, la manipulación mental, las adicciones y, sobre todo, la erosión de derechos fundamentales”.

Por otro lado, la experta cuestiona, en diálogo con elDiario.es, que sean los propios laboratorios los encargados de supervisar sus avances. Advierte que “las auditorías no pueden ser de las empresas del sector como están intentando” y critica que los laboratorios de IA estén intentando “crear su propio lobby”. En cambio, plantea que deberían “apoyar a los mecanismos independientes y multilaterales” que ya existen en Naciones Unidas.

“A nadie se le ocurre lanzar un auto sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo”, sostiene.

El “aterrizaje suave” para la burbuja de la IA

Por último, Artigas cree que en la vorágine generada este fin de semana aflora “un poco de pánico escénico” ante el evidente “nivel de burbuja” al que llegaron las valoraciones de algunas empresas de IA. La experta, actual presidenta del Consejo Asesor Tecnológico del fondo Nazca Capital, señala que los gigantes de EE.UU. necesitan un “aterrizaje suave” para la burbuja y podrían estar utilizando esta “ralentización” forzada de su desarrollo como coartada. En este sentido, apunta directamente a OpenAI, una de las empresas sobre las que más se extiende esta sombra, que aplazó sus planes de salida a bolsa justo en medio del debate.

La decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar

Carissa Véliz — filósofa especialista en la ética de la tecnología

“Hay que tener mucho cuidado y nunca perder de vista los intereses financieros de estas compañías”, coincide la filósofa especializada en ética de la tecnología Carissa Véliz. Sobre el plan de Amodei, sostiene que el centro de la discusión no debería ser la IA, sino las personas y empresas que la diseñan y financian. “Todas estas noticias sobre que la IA se salió de control son una mala interpretación. La IA hizo exactamente lo que le dijeron que hiciera”.

Véliz destaca que “la decisión de crear algo que no podían controlar fue muy consciente, precisamente porque no puedes tener responsabilidad sobre algo que no puedes controlar”. Por eso, reclama sistemas que pongan en el centro la ética y determinen quién es responsable de sus funciones, para “saber exactamente quién está en control y, cuando las cosas vayan mal, sepamos quién va a ir a la cárcel”.

Los ecos de la dimisión del ingeniero de Anthropic Jacob Coxon el pasado miércoles llegan a la ONU. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió que el desarrollo de la inteligencia artificial pone “en riesgo” todos los derechos humanos, “incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad”.

“Estamos al borde de un cambio irreversible que afectará no solo a nosotros, sino a las futuras generaciones de la humanidad. En otras palabras, todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad. La seguridad de la IA debe significar algo más que la fiabilidad técnica del producto en cuestión. Significa proteger activamente a las personas, las comunidades, las instituciones y las generaciones futuras”, escribió Türk en una comunicado.

En concreto, el responsable de los derechos humanos en la ONU señala la “carrera actual hacia una IA cada vez más potente” como un “salto cualitativo hacia mayores riesgos existenciales para cada aspecto de nuestras vidas”. “Las fallas en los sistemas de IA agéntica [que opera con autonomía], y más aún en sistemas diseñados deliberadamente con ese fin, podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y atentar contra el corazón mismo de las instituciones democráticas”, agrega. Por todo ello, pidió una “corregulación” de la industria como un “primer paso urgentemente necesario”, así como una “verificación independiente y técnicamente competente”.

La advertencia de las Naciones Unidas se suma a las lanzadas estos días por los cuatro gigantes del sector: Open AI, Google, SpaceX y Anthropic. El CEO y cofundador del último de ellos, Dario Amodei, pidió desacelerar la carrera por mejores modelos que podrían llegar a una “automejora recursiva”. “Me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”, compartió Amodei.

El presidente de Estados Unidos, Donald Trump, en cambio, restó importancia a la alarma general por su rivalidad con China. “Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana”, aseguró Trump.

Este mismo lunes, China pidió una “barrera de seguridad” ante la negativa de Trump y advirtió de que lA se convirtió en una nueva “rivalidad entre grandes potencias”. No obstante, recordó que EE.UU. está tratando de frenar su desarrollo con medidas como el embargo de chips avanzados.

El detonante llegó el pasado miércoles, cuando el ingeniero Jacob Coxon dimitió de su puesto en Anthropic con un comunicado que encendió las alertas al denunciar que las empresas ocultaban el verdadero riesgo de la inteligencia artificial. “Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y apostando nuestras vidas en esa carrera”, afirmó en su perfil de X, donde subrayó: “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”.

Desde Naciones Unidas, Türk subraya que “en el mundo actual, dependemos casi por completo de un pequeño número de empresas poderosas para tomar las decisiones correctas sobre el desarrollo de la IA para toda la humanidad”. “El verdadero desafío hoy en día es cómo equiparar el ritmo de una gobernanza de la IA significativa con el ritmo de su acelerado desarrollo. Necesitamos una acción urgente adaptada a los riesgos sin precedentes que plantea la IA de frontera [los sistemas más avanzados]”, demandó, al tiempo que pidió “reforzar las regulaciones existentes y la rendición de cuentas por los daños relacionados con la IA causados por sistemas que ya están en uso”.

“Las empresas que están a la vanguardia del desarrollo de la IA de frontera, radicadas principalmente en la República Popular China y en los Estados Unidos de América, tienen tanto la responsabilidad como la capacidad de actuar de inmediato para reducir los riesgos. Deben trabajar en toda la industria para comprender y reforzar los controles que ya se aplican a estos sistemas, incluido el monitoreo automatizado del comportamiento del modelo, compartiendo tanto lo que funciona como lo que aprenden de los incidentes de seguridad. Es necesario desarrollar, implementar en todo el sector y mejorar continuamente una diligencia debida rigurosa en materia de derechos humanos que incorpore estándares de seguridad acordados. Y la aplicación de dichos estándares debe estar sujeta a un monitoreo interno e independiente para aumentar la transparencia y la rendición de cuentas”, agrega el Alto Comisionado de la ONU para los Derechos Humanos.

Carta completa

El Alto Comisionado Volker Türk hizo este llamamiento mediante una carta de tres páginas con el título 'Para proteger los derechos humanos ahora y en el futuro, debemos gobernar la IA de manera urgente'. Puedes leerla a continuación de forma íntegra, en inglés.