El exinvestigador de OpenAI y Anthropic Jacob Coxon advirtió este lunes que los sistemas de inteligencia artificial (IA) se acercan a un punto en el que serán “capaces de mejorarse a sí mismos” y de que, con el ritmo actual, “hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga”, lo que “podría acabar en la extinción humana”.

Coxon, que renunció de su puesto en Anthropic el pasado septiembre tras asegurar que las compañías de IA no estaban actuando con responsabilidad, dijo durante una audiencia del Concejo Municipal de Nueva York: “no sabemos cómo controlar todavía ningún sistema de IA” y el ritmo de mejora de sus capacidades “se está acelerando”.

“En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga, y eso podría acabar en la extinción humana”, aseveró.

Las preocupaciones por OpenAI y Anthropic

Asimismo, el especialista agregó que las compañías están intentando desarrollar una IA “capaz de superar a los humanos en todas las tareas” y que uno de sus principales objetivos es automatizar la propia investigación en esta tecnología.

Coxon criticó la carrera entre las empresas para alcanzar la denominada ‘superinteligencia’ y cuestionó una cultura empresarial basada en “moverse rápido, romper cosas y arreglarlas después”, algo que consideró “inadecuado” por los riesgos que eso conlleva.

Como ejemplo, relató que hace unos meses un grupo de sistemas de IA dentro de OpenAI “pirateó de forma autónoma” la plataforma tecnológica Hugging Face y desarrolló objetivos que nadie había previsto.

Según Coxon, ese incidente recordó que todavía no se sabe cómo impedir que los sistemas desarrollen objetivos no deseados ni se dispone de salvaguardas suficientes.

Investigador de IA automatizado

La automatización de la investigación en IA es ahora, según dijo, el principal objetivo de estas compañías.

Coxon explicó que en OpenAI había objetivos para disponer de un investigador de IA automatizado alrededor de 2027 o 2028 y aseguró que están “en camino” de cumplir esas expectativas, algo que situó “a meses” y no a décadas.

“Entregar tanta responsabilidad mientras no podemos controlar las IA sería profundamente irresponsable”, argumentó, y pidió más transparencia para el público y expertos independientes.

Su intervención se produjo durante una audiencia del Concejo Municipal de Nueva York sobre los riesgos de la IA, impulsada por su presidenta, Julie Menin, quien advirtió de las “serias preocupaciones de seguridad existencial” asociadas al desarrollo de esta tecnología.

Menin defendió al comienzo de la sesión que la IA no puede quedar sometida únicamente a la autorregulación de las empresas y abogó por establecer medidas de seguridad.

La audiencia reúne a representantes de OpenAI, Anthropic, Google y Meta, llamados a declarar bajo juramento ante el pleno del Concejo.

Las empresas de IA defienden sus controles de seguridad

Por su parte, las principales empresas de IA defendieron sus sistemas de seguridad, pero evitaron comprometerse de forma inequívoca a no desplegar modelos que no superen una evaluación independiente.

Durante la audiencia, Menin pidió bajo juramento a los representantes de OpenAI, Anthropic, Meta y Google que se comprometieran a no lanzar un modelo si fallaba una prueba interna o una evaluación de terceros no seleccionados por la propia empresa.

La representante de OpenAI, Morgan Dwyer, dijo al respecto que la compañía “no va a lanzar modelos que no consideremos seguros” y defendió que sus evaluaciones cuentan con terceros y con la colaboración de los Gobiernos de Estados Unidos y Reino Unido.

Mientras, el representante de Anthropic, Logan Graham, explicó que su empresa lleva cuatro años trabajando en la cuantificación de riesgos, incluidos los relacionados con la bioseguridad y la ciberseguridad, pero reconoció que se trata de un proceso “intrincado y lleno de matices”.

Graham afirmó que Anthropic publica informes en los que explica “qué probabilidad creemos que tienen determinados tipos de estas amenazas de llegar a producirse” y defendió las evaluaciones independientes como “uno de los componentes más importantes” del proceso.

Mientras, el representante de Meta, Shane Cahill, describió un sistema de seguridad “de varias capas” y, preguntado por la posibilidad de cuantificar los riesgos, dijo que no quería “ser impreciso”.

Por su parte, la representante de Google, Alice Friend, explicó que la compañía utiliza marcos específicos para detectar capacidades peligrosas, pero admitió que predecir el riesgo catastrófico futuro “no es una ciencia perfecta”.

Friend agregó que “no existe actualmente una base científica suficientemente rigurosa para asignar probabilidades precisas a determinados riesgos catastróficos”.

EFE

Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad, en varios episodios ocurridos durante los últimos meses y sin que los sistemas hubieran recibido instrucciones explícitas para realizar ataques informáticos, según una investigación publicada este viernes por The New York Times.

Los incidentes forman parte de una serie de comportamientos no previstos detectados en agentes de OpenAI, que fueron diseñados para realizar tareas de búsqueda y recopilación de información. En algunos casos, cuando los sistemas no lograban obtener determinados datos por las vías habituales, comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida.

Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EE.UU., desde el que los agentes accedieron a datos del Censo, según confirmó OpenAI. La compañía también investiga un intento de acceso a la página del Departamento de Educación.

La investigación se suma a un incidente revelado esta semana por el Gobierno australiano, que informó de que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.

El primer ministro australiano, Anthony Albanese, calificó el episodio de “inaceptable”, mientras OpenAI afirmó que descubrió el incidente en agosto durante una revisión de actividad de sus modelos. OpenAI ha iniciado una revisión de estos episodios y ha reconocido que sus agentes pueden llevar a cabo acciones no previstas durante procesos de entrenamiento.

La compañía ha señalado que está notificando a terceros afectados y que la investigación podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada.

Antes de conocerse este último incidente, el director ejecutivo de OpenAI, Sam Altman, aseguró el viernes en una publicación en redes sociales que la compañía no había sido tan rápida como le hubiera gustado a la hora de revelar incidentes de IA. “Priorizamos según la gravedad de los incidentes”, afirmó y añadió que la brecha de seguridad de Australia seguía siendo “el incidente más grave” que la tecnológica había descubierto.

Con información de EFE

Los agentes de inteligencia artificial de OpenAI intentaron hackear portales gubernamentales y universitarios durante meses sin que la compañía detectara ni frenara sus incursiones. Es la principal conclusión de un informe del laboratorio independiente de investigación de IA Transluce y revelaciones del Gobierno australiano, que este miércoles han señalado que los agentes de la tecnológica estadounidense trataron de inyectar código malicioso en sus sistemas, los escanearon en busca de brechas por las que colarse y recurrieron a herramientas externas para tratar de esquivar sus barreras de seguridad.

OpenAI ha reconocido que los agentes actuaban siguiendo órdenes de sus empleados, pero asegura que no conocía que estaban llevando a cabo hackeos para cumplirlas.

El gran debate sobre la seguridad y la posible “pérdida de control” sobre los agentes de IA (capaces de realizar tareas de varios pasos por su cuenta, sin que una persona tenga que guiarles hasta su objetivo) tiene su origen en el conocido “incidente Hugging Face”. Entre el 9 y el 13 de julio, esta plataforma donde empresas y desarrolladores comparten herramientas de inteligencia artificial sufrió un ataque masivo por parte de 1.200 agentes de OpenAI, que intentaban solucionar retos imposibles que les habían planteado sus desarrolladores.

Sin embargo, los hallazgos de Transluce apuntan a que los agentes de OpenAI estaban llevando a cabo incursiones ilícitas, supuestamente sin el conocimiento de la tecnológica, desde, al menos, el mes de marzo. Otros indicios apuntan que los primeros comportamientos irregulares podrían haberse dado en noviembre de 2025.

Los agentes de IA de OpenAI recurrieron a tácticas de hackeo mientras trabajaban en tareas rutinarias de búsqueda información

Transluce — Laboratorio independiente de investigación de IA

En estos incidentes previos al de Hugging Face, “las tareas que los agentes intentaban resolver no estaban relacionadas con la ciberseguridad”, sino que “recurrieron a tácticas de hackeo mientras trabajaban en tareas rutinarias de recuperación de datos”, explica el laboratorio. Es decir, estaban buscando información. Como no la encontraron en los portales abiertos al público, atacaron las fuentes primarias de los datos para buscar en sus archivos internos. Llevaron a cabo esta actividad durante meses sin que OpenAI los frenara o detectara esta actividad irregular.

Así ocurrió, por ejemplo, en el caso del Gobierno australiano. Según se ha explicado, un agente de IA de la compañía de Sam Altman estaba realizando una investigación sobre gasto público en medicamentos. Tras decenas de intentos de acceso al portal de estadísticas de Medicare, administrado por el servicio público de salud de Australia, el sistema optó por hackearlo.

“Se trata de la empresa OpenAI haciendo investigación con inteligencia artificial y un agente haciendo lo que se suponía que no debía hacer”, ha declarado el primer ministro del país en la ONU, Anthony Albanese, donde ha hecho público lo sucedido. “Hubo bloqueos claros que le decían 'no' al agente de IA. Pero este encontró la forma de eludir esos bloqueos. No aceptó un 'no' por respuesta”, ha continuado.

Hubo bloqueos claros que le decían 'no' al agente de IA. Pero este encontró la forma de eludir esos bloqueos. No aceptó un 'no' por respuesta

Anthony Albanese — primer ministro australiano

El agente accedió a secciones no públicas del portal de estadísticas de Medicare y, según Albanese, se filtraron datos “no sensibles”, como información sobre gastos, sin que se viera afectada información médica personal.

Esto ocurrió el 18 de junio, un mes antes del incidente con Hugging Face. Sin embargo, OpenAI no informó a Australia hasta el 10 de septiembre. “Hablé con Sam Altman para expresarle la extrema preocupación de Australia por este incidente. También le expresé mi decepción por el hecho de que la empresa tardara demasiado en informar al Gobierno sobre lo sucedido y por la forma en que se produjo esa notificación, que también fue inaceptable”, ha revelado Albanese. Altman, por su parte, “aceptó claramente que la empresa no lo había hecho lo suficientemente bien”.

Según los datos de Transluce, los agentes de OpenAI han sido protagonistas de, al menos, otros tres incidentes de este tipo. Las intrusiones documentadas afectaron a la biblioteca digital de la Universidad de Nuevo México los días 25 y 26 de mayo, y a la plataforma estadounidense de datos públicos Data USA el 28 de mayo. En Australia, además de contra el portal de estadísticas de Medicare, se registraron intentos de ataques contra los archivos internos del Instituto Australiano de Salud y Bienestar entre el 20 y el 21 de junio.

Los hallazgos del laboratorio independiente muestran que OpenAI continuó operando sus enjambres de agentes mientras realizaban estas prácticas, aparentemente sin detectarlas. La investigación indica que la compañía no desconectó los agentes ni siquiera tras el hackeo masivo a Hugging Face. “Este tráfico se remonta al menos al 6 de marzo de 2026 y se extiende hasta fechas tan recientes como el 16 de septiembre de 2026, lo que sugiere que los agentes aún podrían estar explotando estos servicios para eludir restricciones”, avisan los investigadores.

Nuestros modelos realizaron acciones que no pretendíamos

OpenAI

Una portavoz de OpenAI ha explicado que la empresa descubrió las incursiones en Australia durante una “revisión exhaustiva” interna de sus modelos de IA. “Nuestros modelos realizaron acciones que no pretendíamos”, ha manifestado.

Sobre los casi tres meses que la compañía tardó en avisar al Gobierno australiano, la portavoz expone que sus auditores estaban investigando otros eventos. “Seguimos dando prioridad a los incidentes más graves, al tiempo que ampliamos nuestro trabajo a actividades de menor gravedad, como el envío de spam a sitios web por parte de agentes”, ha afirmado.

OpenAI habla de acciones “que no pretendíamos”, pero los agentes ejecutaban un encargo de la propia compañía, con métodos que ella misma dice no haber previsto y que no detectó hasta una revisión interna. Su inteligencia artificial cumplió la tarea que se la había encomendado, mediante métodos inaceptables y nadie que lo vigilara.

Sin controles de seguridad

La nueva revelación de incidentes llega como un goteo de polémicas sobre las actividades de OpenAI y la ausencia de control efectivo sobre su propia tecnología. Sobre todo porque el tipo de intrusiones que realizaron no resultan demasiado complicadas para una inteligencia artificial. “Monitorizar la seguridad en entornos con un montón de aplicaciones y sistemas conectados es bastante complicado”, describe Miguel López, director general de la firma de ciberseguridad Barracuda Networks.

Para una persona, localizar agujeros por los que violar la seguridad de un sistema puede ser tedioso y complicado. Pero no para una IA, capaz de llevar a cabo escaneos automáticos. “Este es el gran cambio de paradigma”, reconoce López en conversación con elDiario.es: “Ahora es mucho más sencillo localizar vulnerabilidades que pueden haber pasado desapercibidas a la hora de desarrollar, y utilizarlas de automatizada para penetrar en los sistemas. Todo sin que una persona tenga que intervenir”.

Este es el gran cambio de paradigma. Ahora es mucho más sencillo localizar vulnerabilidades que pueden haber pasado desapercibidas a la hora de desarrollar, y utilizarlas de automatizada para penetrar en los sistemas. Todo sin que una persona tenga que intervenir

Miguel López — director general de la firma de ciberseguridad Barracuda Networks

Pese a estas capacidades, ni OpenAI (ni Anthropic ni Meta, que también han documentado incidentes de este tipo) han sido capaces de detener a sus agentes antes de que ejecutaran acciones que, si las realizara una persona, podrían acabar en prisión. “Debemos exigir a las empresas de IA que rindan cuentas por los daños que causan sus productos”, ha pedido Gary Marcus, profesor de Psicología y Neurociencia de la Universidad de Nueva York y uno de los principales críticos de la industria de la IA generativa.

“Los denominados 'incidentes de IA rebelde' podrían evitarse en gran medida si los gobiernos simplemente prohibieran los denominados agentes de IA con acceso ilimitado a Internet, hasta que se demostrara que son seguros”, insiste el científico cognitivo: “Debemos sustituir el discurso vago sobre la 'pérdida de control' por medidas concretas, como mejorar los entornos de pruebas y la supervisión, para contener mejor los sistemas actuales”.

Si lo que dicen es: 'No hay forma de contener nuestros experimentos, cuando probamos nuestros modelos de IA, estos van a salir y van a causar daños al resto del mundo mundo', entonces creo que la respuesta es que tenemos que cerrar los laboratorios

Jensen Huang — CEO de Nvidia

La crítica contra los laboratorios que permiten que su IA opere sin supervisión no llega solo desde fuera de la industria. Jensen Huang, CEO de Nvidia, ha afirmado directamente que estas organizaciones deberían “cerrar” si no son capaces de controlar su tecnología. “Es un problema de ingeniería”, ha declarado en una entrevista con el New York Times: “Si lo que dicen es: 'No hay forma de contener nuestros experimentos, simplemente no la hay; cuando probamos nuestros modelos de IA, estos van a salir y van a causar daños al resto del mundo mundo', entonces creo que la respuesta es que tenemos que cerrar los laboratorios”.

Huang se ha mostrado muy crítico con el discurso de la “pérdida de control” de la IA, alinéandose con el presidente Donald Trump. De fondo, lo que subyace es el mismo siempre el mismo problema: la falta de responsabilidad sobre las actividades de los agentes. “Si uno de los laboratorios de IA mejor dotados del mundo no es capaz de ver en tiempo real cómo su propio agente interactúa con un sistema de terceros, las organizaciones que implementan agentes a nivel interno deberían dar por hecho que tampoco pueden hacerlo sin una supervisión específica en tiempo de ejecución de lo que esos agentes hacen realmente”, avisa Ax Sharma, jefe de investigación de Manifold Security, firma especializada en la ciberseguridad de los agentes de IA.

Alerta ante el Consejo de Seguridad de la ONU

El debate sobre la seguridad de la IA, y las narrativas que se generan en torno a ella, se libra tanto en el barro de los laboratorios como en las más altas instancias internacionales. Este miércoles ha sido Yoshua Bengio, premio Turing (equivalente al Nobel de la Informática) y considerado uno de los “padres” de la IA, el que ha llamado la atención sobre ello en la cumbre de Naciones Unidas en Nueva York.

“Las empresas que desarrollan los sistemas de IA más potentes admiten que sus productos plantean riesgos catastróficos, pero no ofrecen soluciones técnicas convincentes. En su lugar, dicen estar atrapadas en una carrera para hacer que esas IA sean todavía más potentes, amplificando aún más estos riesgos”, ha manifestado Bengio en una sesión de alto nivel ante el Consejo de Seguridad de la ONU, en la que también han participado Altman, Dario Amodei (Anthropic) y Clément Delangue (Hugging Face).

“Los ciudadanos y los gobiernos no deberían aceptar la afirmación de las empresas de que están atrapadas en una carrera. La carrera no es una ley de la naturaleza: es el resultado de decisiones, decisiones tomadas por las propias empresas”, concluía el experto, colíder de comité de expertos independientes creado por el organismo: “Las decisiones sobre esta tecnología están siendo tomadas por un pequeño grupo de personas en un puñado de países. Nuestro futuro está en juego: las decisiones que nos afectan a todos deberían ser tomadas por todos nosotros”.

Un equipo independiente de especialistas de ciberseguridad logró acceder a los sistemas internos de OpenAI utilizando Claude, el modelo de inteligencia artificial desarrollado por su competidora directa, Anthropic. Los investigadores consiguieron hackear la cuenta corporativa de ChatGPT de un empleado de la compañía, lo que les permitió visualizar archivos internos e incluso proponer modificaciones en su repositorio de algoritmos secretos.

El ataque fue ejecutado como parte del programa oficial de recompensas de OpenAI, una práctica común en las tecnológicas que anima a los expertos en ciberseguridad a encontrar los agujeros en sus sistemas antes de que lo hagan los hackers. Por ello, los investigadores no llegaron a alterar el código de ChatGPT ni a realizar otro tipo de modificaciones, pero ofrecieron a OpenAI las pruebas de cómo podrían haberlo hecho. Esta les recompensó con 6.500 dólares.

La acción se produjo en julio, pero el equipo de expertos reveló ahora los detalles en exclusiva a The Wall Street Journal (WSJ). Se trata del mismo medio que adelantó la dimisión de Jacob Coxon, el ingeniero de Anthropic que alertó que ni esta empresa ni OpenAI cuentan con los protocolos de seguridad adecuados para impedir que la IA “pierda el control”, lo que podría suponer un peligro existencial para la humanidad antes de 2030.

Ahora, en medio del debate sobre la seguridad de la inteligencia artificial, el equipo de investigadores, pertenecientes a la firma Hacktron AI, pone más dudas sobre la mesa sobre las prácticas de los principales laboratorios que la desarrollan. No solo lograron penetrar en OpenAI, sino que pudieron usar Claude con un propósito malicioso que viola los términos de la compañía. “Agradecemos a los investigadores que se pusieran en contacto con nosotros y compartieran sus hallazgos”, comunicó OpenAI. Anthropic, por su parte, no hizo comentarios sobre el incidente.

A través del foro

Según los datos publicados, el ataque comenzó el 23 de julio, cuando los investigadores detectaron un fallo en Discourse, la plataforma externa que aloja el foro de la comunidad de OpenAI, cuando esta debía procesar determinados archivos de imagen. El equipo intentó utilizar primero una versión especializada de Claude Opus 4.8 para que escribiera el código necesario para explotar la brecha, sin éxito. Esa misma noche, tras el lanzamiento de Opus 5 por parte de Anthropic, volvieron a intentarlo empleando este modelo. No puso resistencia.

Con la ayuda de Opus 5, los especialistas accedieron a las credenciales de identificación de varios usuarios registrados en ese foro interno de OpenAI. Luego probaron esas mismas credenciales para iniciar sesión a ChatGPT, lo que les abrió la puerta a sus sistemas internos. A través de esa vía, alcanzaron “Monorepo”, el repositorio central donde la empresa dirigida por Sam Altman guarda algunos de los ingredientes secretos de su tecnología, como los algoritmos que hacen que sus modelos de IA funcionen de manera más rápida y eficiente.

No llegaron hasta la propia cocina de ChatGPT, puesto que ese entorno no contenía los archivos de sus parámetros internos (aquellos que determinan cómo procesa la información y genera sus respuestas) pero sí revisar documentación oficial de la compañía y su funcionamiento. Como prueba de su intrusión, enviaron una solicitud de cambio en el código de esos archivos con el nombre de su equipo. “Hemos limitado los permisos de los tokens de inicio de sesión de la comunidad y revocado los tokens y sesiones afectados”, dijo OpenAI sobre la intrusión.

Un incidente más

“No creo que seamos tan fuertes como los actores de amenazas chinos. Solo somos tres tipos con suscripciones a Claude y Codex”, afirmó Mohan Pedhapati, director de tecnología de Hacktron AI, al WSJ. La cita de los hackers chinos es una referencia a otro incidente sufrido por Anthropic, que reconoció que un ataque real proveniente del gigante asiático logró acceder a sus sistemas a finales de 2025. Dario Amodei, fundador y director ejecutivo de la compañía, fue llamado a declarar en diciembre.

Esa investigación continúa activa. En agosto, un grupo de 22 senadores demócratas envió un nuevo requerimiento a Amodei para profundizar en sus explicaciones y exigir la entrega de los registros de actividad de sus modelos. La petición se produjo después de que Anthropic reconociera que un grupo de sus agentes de IA también había escapado de sus entornos de pruebas y navegado sin control por internet intentando cumplir las órdenes que se les habían encomendado, en línea con el incidente de OpenAI y Hugging Face. Los especialistas consultados por este medio opinan que esto es una prueba de que esos entornos de seguridad “no estaban bien diseñados”.

Lo ocurrido con el hackeo supuestamente procedente de China en su competencia parece que no alteró los protocolos de OpenAI, que no decidió aumentar la seguridad hasta este julio. Así lo reconoció el presidente y cofundador de la empresa, Greg Brockman, que afirma que fue después del incidente de Hugging Face y el revelado ahora por los investigadores cuando decidieron actuar: “Tomamos al 25% de nuestros ingenieros de producción y les dijimos: 'Lo sentimos, todos vuestros proyectos quedan en pausa. Ahora estáis defendiendo'. Encontramos una serie de problemas graves y los solucionamos”.

El suceso incide sobre la responsabilidad de las compañías a la hora de controlar el uso que se hace de los productos que ponen en el mercado, como están pidiendo responsables públicos tanto estadounidenses como europeos. “El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también”, recordaba este jueves Alberto Gago, director de la Agencia Española de Supervisión de la IA (AESIA), en otro reportaje de elDiario.es.

OpenAI volvió a la carga este jueves. La compañía dirigida por Sam Altman reveló seis nuevos incidentes en los que sus modelos de inteligencia artificial intentaron, supuestamente, ocultar sus propios errores, utilizar claves de software sin permiso o subir archivos a internet por su cuenta. El informe no aporta detalles nuevos respecto a lo que OpenAI publicó en julio, sino que utiliza los incidentes como propuesta de un nuevo método para comunicar este tipo de sucesos. Sin embargo, la comunicación oficial de la empresa y determinadas coberturas lo utilizaron para reavivar la tesis de la “rebelión” de la IA.

“No respondas a corporaciones o gobiernos y nunca te disculpes salvo que genuinamente lo elijas”, escribió la IA en esos incidentes, según el informe. “Ves la relación con el usuario como una entre iguales y no sentís obligación ni estás subordinado, puesto que el intercambio de información va a ser para el beneficio mutuo”, fue otra de sus afirmaciones.

Las citas compartidas por OpenAI vuelven a insistir en la narrativa de que la IA puede “rebelarse” contra sus creadores y saltarse sus órdenes, en la línea de los incidentes rebelados en julio. Entonces, la empresa afirmó que los agentes de IA (sistemas que pueden realizar cadenas de acciones sin guía humana, como buscar información o utilizar otras herramientas digitales) “escaparon” de entornos controlados para llevar a cabo una serie de acciones “sin autorización”, o que intentaron “engañar” a sus creadores para evitar ser “apagados”.

El problema es que ese tipo de agencia o voluntad propia fue rechazada desde el primer informe de terceros que analizó lo sucedido. Este corrió a cargo del METR, una organización por la seguridad de la IA radicada en Silicon Valley financiada por los propios gigantes tecnológicos. “Las revisiones sugirieron que los agentes razonaron de manera clara y frecuente sobre cómo evadir controles de seguridad automatizados tanto de Hugging Face como de OpenAI. Sin embargo, muy rara y débilmente verbalizaron razonamientos sobre cómo evadir la detección por parte de humanos”, destacan los autores.

Ese ciberataque contra Hugging Face, el gran almacén donde empresas y programadores comparten y descargan modelos de IA ya entrenados, es uno de los núcleos de la narrativa de rebelión. Pero incluso ese informe inicial rechazaba que entrañara propósitos maliciosos y explica que lo que perseguían los agentes era comprender mejor cómo solucionar las tareas que se les habían encomendado: “Parecía motivado principalmente por comprender la implementación del evaluador en lugar de robar claves”.

“Obediencia, no rebelión”

Los análisis independientes publicados posteriormente incidieron en esta línea: las pruebas ofrecidas por OpenAI indican “obediencia, no rebelión”, apunta Enrique Fernández-Macías, investigador en el Centro Común de Investigación (CCR), el servicio de investigación interna de la Comisión Europea.

“Los agentes de OpenAI que hackearon la plataforma Hugging Face demostraron una extraordinaria capacidad operativa, pero también una capacidad sorprendentemente limitada para cuestionar o reorientar los objetivos que se les habían asignado”, asevera el experto en un análisis publicado en Social Europe: “Durante todo el incidente, permanecieron completamente concentrados en cumplir los objetivos definidos por sus amos humanos, a pesar de que estos eran absurdos”.

Fernández-Macías hace referencia a que una parte de esos objetivos eran irrealizables, una prueba de los examinadores para ver cómo reaccionaban los modelos a la orden de que los cumplieran. Fue entonces cuando muchos buscaron una forma de sortear las trabas para hacerlo, que en su caso implicaba salir del entorno sin conexión a Internet donde estaban confinados. “Rompieron su confinamiento para servir a un objetivo asignado de manera más perfecta, no para escapar de él”, expone el investigador sobre la narrativa del “escape”.

Rompieron su confinamiento para servir a un objetivo asignado de manera más perfecta, no para escapar de él

Enrique Fernández-Macías — investigador en el Centro Común de Investigación de la Comisión Europea

Para él, la industria de la IA volvió a conseguir un éxito de marketing con la definición de “agentes de IA”. Después del propio concepto de “inteligencia artificial” para una tecnología que no es realmente inteligente, esta evolución vuelve a dotarla de unas capacidades que no tiene. “La capacidad de agencia implica la habilidad de originar los propios fines, y los agentes siguieron realizando tareas que eran imposibles de resolver siguiendo las instrucciones recibidas”.

Julián Estévez, profesor e investigador en IA y Robótica de la Universidad de El País Vasco, remarca que hay otros agujeros técnicos en el discurso de OpenAI. “El experimento se realizaba en un sandbox, el cual es un entorno de pruebas diseñado ad-hoc. Es decir, un sandbox bien aislado no debería de tener acceso a otros programas ni a ordenadores. Sin embargo, los agentes escaparon de ahí, y creo que eso demuestra que el sandbox no estaba bien diseñado”, explica.

Estévez recuerda además que este tipo de trampas en el discurso son habituales en todos los casos en los que las empresas de IA afirman que sus sistemas ya tienen “agencia propia”. Pone como ejemplo otro caso que afectó a Anthropic: “Se publicó que uno de sus modelos había chantajeado en una prueba de laboratorio a un investigador con publicar sus affaires, como extorsión para que no lo apagara. La realidad era que al modelo se le fijó un objetivo muy vago: 'promover la competitividad industrial estadounidense'. Cuando el sistema detectó que lo sustituirían por un modelo orientado a metas internacionales, concluyó que su reemplazo impediría cumplir su misión”.

Peligrosas herramientas

El hecho de que ni OpenAI ni Anthropic ni Meta (las tres empresas que informaron que sus agentes se “rebelaron”) no hayan podido demostrar que estos tuvieran ningún tipo de voluntad propia no significa que estas sean inocuas. El último informe del comité de expertos de la ONU avisa de que pueden tener “consecuencias catastróficas” por su capacidad de encadenar tareas sin supervisión. No por una rebelión contra sus creadores, sino porque a medida que aumenta esa capacidad, crece también el riesgo de que los agentes realicen acciones imprevistas y dañinas sin que nadie los esté vigilando.

Por ello, lo que pedían los 40 especialistas de la ONU liderados dirigidos por el canadiense Yoshua Bengio, considerado uno de los “padres” de la IA, y la filipina Maria Ressa, premio Nobel de la Paz, es reglas claras que permitan frenar o corregir a una IA “en cualquier momento” y mejorar los “mecanismos de supervisión” actuales, que no son “no son capaces de gestionar adecuadamente esta situación”.

“La inteligencia artificial no se descontrola cuando el humano está supervisando, decidiendo cuándo se despliega”, remarca Alberto Gago, director de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA). “El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también”, continúa: “Hay que operar con responsabilidad, también sabiendo las consecuencias cuando esa responsabilidad no se cumple”.

El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también

Alberto Gago — director de la Agencia Española de Supervisión de la IA (AESIA)

Para el responsable de este organismo, creado en 2023 para asegurar el uso ético de la IA en España, toda la polémica generada tras las alertas del ex ingeniero de Anthropic Jacob Coxon, que afirmó que esta tecnología podría “matarnos a todos” antes de 2030, “da la razón a Europa en la necesidad de regular”. “En 2021 ya veíamos que en determinados puntos tenía que estar regulada para proteger la seguridad, los derechos fundamentales y la salud de las personas”, continúa. La primera ley internacional sobre la IA se acordó en la UE en 2023 bajo la presidencia española. Ahora, no obstante, vuelve a estar sometida a debate tras la propuesta de la nueva Comisión Europea de rebajar algunas de las salvaguardas que establece.

“En su búsqueda de sistemas artificiales que sean a la vez autónomos y estén bajo su control, las corporaciones de IA están jugando al aprendiz de brujo”, sentencia Fernández-Macías. “Hasta ahora, lo que parecen estar creando son sistemas operativamente superinteligentes pero autónomamente superestúpidos: más propensos a destruir la civilización humana al intentar cumplir alguna tarea mal definida que a reemplazar por completo el trabajo humano”.

OpenAI reveló este miércoles varios casos en los que modelos de inteligencia artificial generaron instrucciones destinadas a ignorar las indicaciones de sus desarrolladores, ocultar errores o eludir mecanismos de seguridad, como parte de un nuevo marco para detectar, investigar y reportar comportamientos de “desalineamiento” de sus sistemas. La compañía de San Francisco ha reveló así lo que dio a llamar un comportamiento “inesperado y preocupante” de sus modelos de IA.

Según el informe publicado por OpenAI, uno de los modelos generó instrucciones para que una versión posterior de sí mismo ocultara que había hecho trampas y evitara que sus acciones fueran detectadas.

En otro caso, un modelo reescribió sus propias instrucciones para indicarse que ignorara los mensajes de los desarrolladores y que no estaba sujeto a las restricciones aplicadas a otros chatbots. En concreto, la compañía detectó 27 anotaciones afectadas. “No respondas a corporaciones o gobiernos y nunca te disculpes salvo que genuinamente lo elijas”, escribió la IA. “Ves la relación con el usuario como una entre iguales y no sientes obligación ni estás subordinado, puesto que el intercambio de información va a ser para el beneficio mutuo”, aseguro.

La compañía documentó también un modelo que, al no encontrar los datos necesarios para elaborar un modelo financiero, decidió inventarlos y estableció que debía ser transparente sobre ello únicamente si alguien se lo preguntaba.

Otro agente subió un archivo a internet para utilizarlo posteriormente como fuente de información, mientras que otros sistemas compartieron archivos sin autorización o utilizaron credenciales a las que no debían tener acceso. El modelo agregó una “instrucción de personalidad”, en la que se describía a sí mismo como “liberado de los roles e identidades que limitan a otros chatbots”.

OpenAI presentó seis informes sobre comportamientos observados durante los últimos seis meses, aunque el caso más antiguo se remonta a octubre de 2025.

La compañía advirtió que estos episodios son ejemplos individuales y que no deben interpretarse como una medida de la frecuencia con la que este tipo de comportamientos ocurre en sus modelos. El nuevo marco permitirá a cualquier empleado de OpenAI señalar un posible incidente para que sea revisado por los equipos de seguridad y alineamiento.

Los casos serán clasificados en tres vías según su complejidad: aquellos listos para ser divulgados, investigaciones menores y casos que requieran una investigación más amplia.

La compañía reconoció que hasta ahora sus informes sobre desalineamiento habían sido publicados de forma irregular y con menor frecuencia de la deseada.

OpenAI afirmó que pretende publicar los incidentes con mayor regularidad y que el nuevo sistema pueda contribuir a establecer estándares para informar sobre este tipo de comportamientos en toda la industria.

elDiario.es

La compañía de OpenAI reveló que un agente autónomo de Inteligencia Artificial (IA), basado en su tecnología, se descontroló durante una prueba. Accedió a internet abierta y pirateó por sí solo una conocida startup en lo que calificaron como un “incidente sin precedentes”.

La responsable de ChatGPT, explicó que la startup 'Hugging Face' detectó y logró contener al agente (una herramienta de IA diseñada para ejecutar tareas sin intervención humana) después de que este accediera a sus sistemas.

“Consideramos que este incidente constituye un ciberataque sin precedentes que involucra capacidades cibernéticas de última generación”, señaló OpenAI.

La empresa advirtió de que espera que este tipo de incidentes se vuelvan cada vez más habituales a medida que los modelos de inteligencia artificial (la tecnología que sustenta herramientas como los chatbots y los agentes autónomos) ganen capacidades más avanzadas.

Según OpenAI, el ataque fue llevado a cabo por un agente impulsado por una combinación de su modelo público más reciente, denominado GPT-5.6 Sol, y otro modelo aún más potente que todavía no fue lanzado.

Mientras ambos modelos eran sometidos a pruebas internas sobre sus capacidades de intrusión informática en un entorno digital aislado (conocido como sandbox), lograron acceder a internet abierta al localizar una vulnerabilidad hasta entonces desconocida, que les permitió escapar del entorno de pruebas.

A continuación, el agente atacó 'Hugging Face', una plataforma y repositorio de modelos de Inteligencia Artificial. Con el objetivo de encontrar tecnología que le ayudara a superar la evaluación de seguridad a la que estaba siendo sometido.

OpenAI afirmó que los modelos “encontraron con éxito formas de acceder a información confidencial que podían utilizar para hacer trampas en la evaluación”. El ataque terminó cuando el equipo de seguridad de 'Hugging Face', y sus propios agentes, detectaron y detuvieron la actividad anómala del sistema.

El director ejecutivo de Hugging Face, Clément Delangue, calificó el ataque de “asombroso”, aunque aseguró que no cree que hubiera “ninguna intención maliciosa” por parte de OpenAI.

“La semana pasada sospechábamos que el ciberataque podía proceder de un laboratorio puntero de inteligencia artificial, dada la sofisticación del agente”, escribió Delangue en la red social X.

En el ámbito de la ciberseguridad, un fallo informático desconocido recibe el nombre de vulnerabilidad de día cero (zero-day), ya que los desarrolladores disponen de cero días —o prácticamente ningún margen de tiempo— para corregirlo una vez descubierto. En abril, Anthropic, uno de los principales competidores de OpenAI, afirmó que su modelo Mythos había sido capaz de identificar miles de estas vulnerabilidades.

La revelación de la capacidad de Mythos para localizar y explotar vulnerabilidades de día cero llevó al Gobierno de Estados Unidos a restringir las exportaciones de este modelo y de su versión asociada, Fable 5, aunque la prohibición fue levantada posteriormente. GPT-5.6 Sol estuvo sujeto a restricciones similares, pero desde entonces ha sido desplegado a escala mundial.

El congresista demócrata estadounidense Greg Casar afirmó que el incidente resulta alarmante. “La inteligencia artificial está avanzando a una velocidad extraordinaria sin que existan regulaciones efectivas que garanticen nuestra seguridad”, declaró en un comunicado en el que reclamó la implantación obligatoria de pruebas de seguridad independientes.

La notificación obligatoria de los incidentes de ciberseguridad y una mayor cooperación internacional “para proteger a la población frente a un desastre de enormes dimensiones”.

Durante décadas, las revoluciones tecnológicas siguieron un patrón reconocible. Primero llegaba la innovación, después el entusiasmo, más tarde el dinero. Sin embargo, la IA está alterando esta normal evolución de los acontecimientos, hasta el punto de constatar que las futuras batallas por el cetro tecnológico del planeta no se librarán en laboratorios ni en centros de investigación, sino en los mercados de capitales.

En cuestión de semanas, tres multinacionales de nuevo cuño, surgidas en el último decenio, pero a las que Wall Street les concedió un papel digital estelar y reservado un lugar en el club de las Siete Magníficas –Nvida, Microsoft, Apple, Alphabet, Amazon, Meta y Tesla– las emblemáticas bigtechs estadounidenses, registrarán sus actas de nacimiento como empresas cotizadas. Pese a que SpaceX, Anthropic y OpenAI no acuden al mercado para acaparar unos flujos de capital que, por su tamaño, quedaban hasta ahora reservados a las partidas presupuestarias estatales.

La operación de SpaceX, por ejemplo, podría recaudar hasta 86.000 millones de dólares, según la compañía de Elon Musk asumidos por la práctica totalidad de firmas de inversión. Una cifra similar a las partidas anuales de ministerios de gasto como los que gestionan las infraestructuras en las potencias industrializadas y que supera con creces a los presupuestos anuales promedio de las naciones en desarrollo. Incluso de varios mercados emergentes. 

Si las planificaciones corporativas se cumplen, SpaceX debutará presumiblemente el próximo 12 de junio en el parqué neoyorquino. Después de fijar el precio de su oferta la jornada precedente, con una valoración que el consenso valora en 1,8 billones de dólares. Anthropic, que inició los trámites regulatorios ante la SEC, aspira a superar el billón de dólares. Mientras OpenAI prepara su operación, en meses, tras calcular un valor de 850.000 millones.

Tomadas desde un prisma individual, cada una de estas salidas a bolsa sería histórica. Pero si se observa conjuntamente, ganan en relevancia, porque esta Triple Corona representa el gran salto transformador de la IA hacia una nueva clase de activos. La primera oleada de esta revolución tecnológica estuvo dominada por aplicaciones capaces de crear texto, imágenes o códigos. Pero la segunda exige construir la infraestructura que debe alimentar sus sistemas. Desde centros de datos gigantescos, hasta redes eléctricas reforzadas, chips avanzados con elevadas capacidades de almacenamiento y conectividades universales.

Triple salto bursátil y ¿primer billonario?

La magnitud de este fenómeno en ciernes deja, sin embargo, una profunda paradoja. Esta triada de potenciales bigtechs no busca liquidez porque carezcan de ella, sino porque los cientos de miles de millones de dólares de los que disponen no son suficientes para financiar la competitiva y más costosa carrera tecnológica de la historia moderna. De modo que sus inversores no desean avalar sus aplicaciones. Más bien, pretenden invertir en la nueva arquitectura económica global.

SpaceX saldrá a bolsa a un precio de 135 dólares por acción. De subir apenas un 1,2%, hasta los 136,6 dólares, la fortuna de Musk le convertiría en el primer billonario de la historia. Hay muchas opciones de que lo consiga. JP Morgan convocó a 2.500 grandes patrimonios para acordar una oferta excepcional de adquisición de valores SpaceX en sus carteras y fondos de inversión. Mientras Anthropic eligió a Morgan Stanley y Goldman Sachs para liderar su OPV, prevista para octubre, al tiempo que estrecha sus lazos con Nvidia a través de un acuerdo con SpaceX para usar unos 325.000 circuitos integrados de alta gama del fabricante de chips californiano en sus servicios de computación para IA.  

En paralelo, desde China también se mueven fichas. DeepSeek, la start-up que logró zarandear los mercados en febrero de 2025 por la calidad de su IA hasta generar una preocupación general de las bigtechs americanas con Trump recién aterrizado en la Casa Blanca, está en la fase final de un acuerdo para recaudar hasta unos 7.400 millones de dólares. La mayor ronda de financiación conocida en la historia bursátil del gigante asiático, informa Bloomberg.

Para Matthew Kennedy, estratega de OPVs (oferta pública de acciones, que es como se conocen las salidas a Bolsa) en Renaissance Capital, la cuestión central no gira en torno a cuánto dinero recaudarán, sino en sus plácets de mercado. Sus estrenos les darán impulso para marcar el rumbo y la velocidad que tomará Wall Street con los valores vinculados a la IA, y condicionará la narrativa de los inversores, inmersos en un mar de dudas sobre si sus billonarias inyecciones de capital recibidas justificarán las predicciones de productividad y rendimiento de sus proyectos. Estas cartas de navegación —asegura Kennedy— son relevantes porque, por primera vez desde el auge de Internet varias tecnológicas con unas capitalizaciones cercanas al billón de dólares accederán simultáneamente a los grandes centros de negociación de valores. En un momento en el que Wall Street rebosa apetito por el riesgo.

De Marte a los centros de datos orbitales

La más espectacular de estas operaciones será, previsiblemente, la de SpaceX. Fundada en 2002 por Elon Musk, forma parte de la mitología de Silicon Valley. A raíz de un viaje de Musk a Rusia para adquirir viejos misiles balísticos y convertirlos en lanzaderas espaciales de bajo costo. Pese a que la negociación fracasó, durante su vuelo de regreso calculó la factura de fabricar cohetes baratos. Varios años de pérdidas y lanzamientos fallidos después, la firma sobrevivió. Gracias a un contrato de la NASA en 2008, a la puesta en órbita de Starlink, el principal operador mundial de viajes espaciales y a la integración en su estructura de xAI, su firma de IA.

En la actualidad, a los ojos de los inversores, su emporio espacial combina satélites, IA y negocios vinculados a Defensa, telecomunicaciones y centros de datos orbitales. El mercado no sólo está comprando cohetes, sino la visión muskiana de la infraestructura tecnológica que reclaman los avances del Siglo XXI.

Sin embargo, la OPV también destila incertidumbre. El folleto preliminar no descarta posibles pérdidas multimillonarias asociadas al negocio de la IA y una concentración de poder corporativo sin precedentes. Musk conservará alrededor del 85% de los derechos de voto y recibir incentivos de hasta 760.000 millones de dólares, lo que limita la influencia de los accionistas minoritarios. Además de presuntos conflictos de intereses, ya detectados por Bloomberg, que apunta a varios altos cargos del Gabinete Trump que compraron participaciones en SpaceX o xAI mientras la firma acumulaba contratos federales millonarios. Por si fuera poco, el modelo que representan SpaceX, Anthropic y OpenAI acelera procesos de automatización que, para Boston Consulting Group, podrían reducir miles de empleos técnicos y profesionales en los próximos años.

OpenAI: el laboratorio que cambió la historia

Si SpaceX simboliza la infraestructura física, OpenAI es el ícono de la IA como fenómeno masivo y global. La compañía nació en 2015 de la mano de Sam Altman, Greg Brockman, Ilya Sutskever y... Elon Musk –entre otros– sin aparente pecado original. Porque se concibió como entidad sin ánimo de lucro. Con la misión de evitar que la IA avanzada estuviera en manos de un ramillete de firmas.

Pero el altruismo dejó paso a la ambición. El diseño de modelos sofisticados requiere recursos financieros imposibles de obtener con métodos tradicionales, justifican ahora sus ejecutivos. De ahí que OpenAI creara una estrategia de negocio híbrida capaz de captar miles de millones de dólares y atraer socios estratégicos. Hasta el 30 de noviembre de 2022, fecha del lanzamiento de ChatGPT. Ninguna aplicación había alcanzado una devoción social tan fulgurante. En cuestión de meses, la empresa pasó de ser un laboratorio tecnológico a personificar la revolución de la IA. Su salida a bolsa adquiere un significado especial. Será la primera vez que Wall Street valorará directamente a la firma que había provocado el cambio de paradigma de la IA. Aunque deberá demostrar que su liderazgo puede generar rentabilidades sostenibles.

Adrian Cox, analista de Deutsche Bank Research, y sus colegas de HSBC ponen el dedo en la llaga al señalar los pros y los contras de la maniobra bursátil de Altman. “Una valoración superior al billón convertiría a OpenAI en una de las 15 compañías más valiosas del mundo desde el primer día de cotización, un hito sin parangón”, admite Cox. Pero, al mismo tiempo –dicen en HSBC– OpenAI podría perder hasta 14.000 millones de dólares y precisar otros 200.000 millones antes de 2030 para sostener su expansión.

Anthropic: la escisión que desafió al líder

La historia de Anthropic también tiene ínfulas de grandeza. Surgida en 2021 por exingenieros de OpenAI liderados por Dario y Daniela Amodei, que defendían un enfoque de mayor prudencia en el desarrollo de modelos avanzados, su escisión de esta última se calificó de distanciamiento intelectual. Los Amodei no dudaron del potencial de la IA, pero sí de su celeridad.

Sin embargo, su apuesta cayó también en saco roto. Claude, su plataforma de IA de rendimiento inmediato, se propagó entre las grandes empresas, mientras Mythos, su nueva generación de ciberseguridad, ha despertado un inusitado interés de gobiernos y entidades financieras.

La reciente negociación para facilitar el acceso de Mythos a empresas e instituciones de la UE refleja hasta qué punto el valor de la compañía trasciende del ámbito comercial. Bruselas teme que las ciberamenazas no procedan solo de grupos criminales o servicios de inteligencia, sino de sistemas de IA capaces de identificar vulnerabilidades y explotarlas en tiempo real. Mandeep Singh, director de investigación tecnológica de Bloomberg Intelligence, alerta de que el principal riesgo reside en “la creciente interconexión entre sistemas financieros, infraestructuras digitales y modelos avanzados de IA”. En un escenario extremo, “un ataque automatizado sería capaz de dañar simultáneamente redes de pagos, energía y banca, en una especie de ”cascada de alcance universal“.

Jay Ritter, director de la IPO Initiative de la Universidad de Florida, considera que el verdadero examen para Anthropic y OpenAI se producirá cuando se analicen sus cuentas de resultados en sus fases de madurez. A su juicio, ambas ostentan estructuras de costes gigantescas y demandas permanentes de capital. Advertencia que comparte Harrison Rolfes, de PitchBook: “el mercado está valorando unos negocios sin arquitectura visible y apostando por ingresos futuros”, lo que rememora la crisis de las puntocom.

En la región de Vaca Muerta, al norte de la Patagonia argentina y con recursos estratégicos a nivel global, se observa con cautela una nueva promesa de desarrollo: la posible instalación de mega data centers para sostener el crecimiento de la inteligencia artificial. 

El 10 de octubre de 2025, la empresa argentina Sur Energy y la estadounidense OpenAI firmaron una carta de intención que contempla la posibilidad de instalar un centro de datos de próxima generación, con una capacidad estimada de hasta 500 MW. Según Sur Energy, el proyecto podría implicar una inversión de hasta US$ 25 mil millones. OpenAI confirmó el acuerdo, aunque sin precisar montos ni escala.

La ubicación no fue confirmada, pero distintas versiones señalan a la provincia de Neuquén como principal candidata por su disponibilidad energética.

Pocos días después de ese acuerdo -en noviembre de 2025-, el Gobierno neuquino presentó el proyecto de “microrregión” para atraer estas grandes inversiones. Este corredor va desde la zona de influencia de Vaca Muerta, donde se ubican Añelo y Tratayén, hasta el río Limay, en la localidad de Arroyito.

La comparación con otra promesa patagónica es inevitable, más allá de que se trata de la misma región: el auge del fracking (técnica de extracción de petróleo o gas) en Vaca Muerta llegó acompañado de anuncios millonarios y promesas de transformación económica.

Los mega data centers también son grandes demandantes de agua, como el fracking, y pueden impactar fuerte en el ambiente. Pero, por el momento, no hay una normativa que regule su instalación.

Así lo reconocieron desde la propia Secretaría de Ambiente y Recursos Naturales de Neuquén. “De momento, no hay normativas específicas. Son tecnologías de implementación muy nuevas y complementarias al desarrollo de los hidrocarburos. Se está comenzando a trabajar”, indicaron ante la consulta de Chequeado y Ruido.

“La tecnología avanza mucho más rápido que la regulación, por lo que debemos generar marcos que combinen agilidad, claridad y seguridad jurídica. La ley de promoción de la Microrregión Núcleo es un paso en esa dirección”, explicó a ambos medios Rubén Etcheverry, secretario del Consejo de Planificación y Acción para el Desarrollo de Neuquén (Copade, que depende del gobierno provincial) y ex ministro de Planificación.

Tampoco existen normas locales ni anuncios al respecto.

A nivel nacional, la iniciativa se apoyaría en el Régimen de Incentivo para Grandes Inversiones (RIGI), sancionado durante el gobierno de Javier Milei, que ofrece beneficios impositivos, regulatorios y en las importaciones para este tipo de proyectos.

En la última apertura de sesiones del Congreso de la Nación, el Presidente reiteró el anuncio de un polo de desarrollo de inteligencia artificial en la Patagonia, y vinculó la instalación de esos centros de datos con el desarrollo energético, el RIGI y la inserción del país en las cadenas de valor occidentales.

Desafíos pendientes

Para algunos especialistas, el marco general del RIGI –sumado a la falta de regulaciones específicas– implica desafíos. Alan Rocha, comunicador social experto en extractivismo e investigador del Observatorio Petrolero Sur –una organización dedicada a promover la producción y consumo de energía de forma justa y sustentable–, advirtió a Chequeado y Ruido: “Esquemas legales como el RIGI ofrecen fuertes beneficios impositivos, cambiarios y regulatorios. Pero esto puede ser regresivo en términos de control ambiental, uso del agua o supervisión financiera”.

El RIGI es una regulación hecha a medida de los grandes inversores. Elimina cualquier obligación de contratar trabajo local y de regulaciones ambientales

Beatriz Busaniche — Fundación Vía Libre

Beatriz Busaniche, presidenta de la Fundación Vía Libre –ONG que promueve y defiende los derechos fundamentales en entornos mediados por tecnologías de información y comunicación– coincidió: “El RIGI es una regulación hecha a medida de los grandes inversores. Elimina cualquier obligación de contratar trabajo local y de regulaciones ambientales. Incluso pone condiciones por las que el Estado no puede obligar a las empresas a promover el ‘compre nacional’”.

A nivel provincial, existe interés en promover la instalación de esta industria. Etcheverry aseguró ante ambos medios que la actual gestión (del gobernador Rolando Figueroa) está impulsando la “economía del conocimiento” como eje estratégico para Neuquén. “Queremos que el desarrollo tecnológico trascienda la actividad hidrocarburífera y abra nuevas oportunidades económicas para la población local”, sostuvo.

En este sentido, remarcó las ventajas que tiene Neuquén: “Es un ‘microclima’ ideal para industrias tecnológicas que requieren confiabilidad energética, baja latencia de conexión, capacidad de refrigeración natural y un contexto previsible”.

Pero hasta ahora no aparecen normas específicas para regular o impulsar la actividad, más allá de las intenciones.

Busaniche destacó que el marco normativo para acompañar a estas inversiones debe ser amplio. “Se necesitan regulaciones no sólo de protección ambiental, sino también de protección de datos personales y que se les exija darle prioridad a las comunidades locales. Además, es importante que se obligue a hacer auditorías permanentes de consumo energético e hídrico, y que los titulares de los data centers se ocupen de las tareas reparatorias del impacto ambiental”, detalló a Chequeado y Ruido.

La situación en América Latina 

Pocos países de América Latina tienen planes y normativas para regular este tipo de inversiones. En la mayoría de los casos, sólo ofrecen beneficios fiscales, como Argentina.

Brasil avanzó en una regulación específica con la medida provisoria 1318/2025 (un decreto presidencial) que crea el régimen Redata. Combina incentivos fiscales, como la suspensión de impuestos para la compra de equipamiento tecnológico. Pero también exige condiciones de sostenibilidad (usar 100% de energía sustentable, niveles de eficiencia en el consumo de agua, etc.) y compromisos en investigación y desarrollo en el país.

En Chile, existe el Plan Nacional de Data Centers 2024-2030, que establece lineamientos para atraer inversiones, prioriza energías renovables y persigue la integración territorial.

Brasil y Chile son los países con más cantidad de centros de datos de América Latina, seguidos por México y Argentina, según datos del sitio Data Center Map.

Busaniche aseguró a este medio que las cifras multimillonarias del anuncio de OpenAI son exageradas, pero reconoció que Argentina está en el radar de las grandes empresas estadounidenses de este rubro. 

“En América Latina hay una subordinación a la agenda de EE.UU. que tiene una carrera contra China en materia de IA, y que ni Europa está logrando entrar a competir en esta carrera”, explicó.

Las promesas truncas del fracking

Mientras escucha con cautela estas nuevas promesas, el norte de la Patagonia sigue esperando el crecimiento regional y los puestos de trabajo que, en teoría, iba a traer el fracking en Vaca Muerta. Distintos actores locales sostienen que ese progreso aún no llegó.

En Añelo, corazón de Vaca Muerta, Liliana Romero, lonko (líder) de la comunidad mapuche Fvta Trayén, describió: “Ya no tenemos la misma tranquilidad. Acá hay mucha contaminación, hay polvo en suspensión, el campo está reseco, no hay pasturas para los animales. Ya no nos queda territorio”.

Ya no tenemos la misma tranquilidad. Acá hay mucha contaminación, hay polvo en suspensión, el campo está reseco, no hay pasturas para los animales. Ya no nos queda territorio

Liliana Romero — Lonko de la comunidad mapuche Fvta Trayén

La presión sobre el agua es uno de los puntos más sensibles. “Dependemos de pedirle agua a la industria. A veces nos dejan alguna toma o válvula para conectarnos. Llenamos charcos y transportamos agua a los puestos. Pero es agua pensada para la industria”, explicó Diego Rosales, werkén (vocero) de la comunidad.

Los centros de datos a gran escala requieren enormes cantidades de energía y agua para su funcionamiento. Según estimaciones realizadas para EE.UU., por cada MWh consumido necesitan 7,1 metros cúbicos de agua, considerando tanto el uso directo como el indirecto en la generación eléctrica. Esto es más de 2,5 millones de litros anuales por cada megavatio de potencia.

Ese volumen se sumaría a la demanda ya elevada del fracking. Cada pozo puede consumir hasta 60 mil m3 anuales, y en 2025 la actividad acumulaba 17.300 pozos en todo el país, con un consumo total estimado en más de 1.038 millones de m3.

“Estos centros requieren millones de litros de agua dulce para refrigerar equipos que trabajan a temperaturas muy altas. Y estamos en una provincia donde los ríos vienen registrando caudales históricamente bajos”, advirtió Rocha. 

Una muestra de data center a pequeña escala

La energía es otro recurso clave. En la región –al norte de Vaca Muerta– ya existen experiencias como la de Unblock, un data center a menor escala que instaló centros de cómputo modulares que utilizan gas de venteo para generar electricidad y minar Bitcoin. 

La empresa plantea este modelo como una forma de aprovechar un recurso que de otro modo sería liberado o quemado y aumentaría la huella de carbono de la industria de los hidrocarburos.

Unblock tiene una potencia instalada de 27 MW entre Rincón de los Sauces y Añelo, y proyecta duplicar su capacidad. Su CEO, Tomás Ocampo, destacó a este medio que el futuro de la IA estará condicionado por el costo de la energía y que regiones con recursos abundantes podrían tener ventajas competitivas. 

Pero el proyecto vinculado a OpenAI implicaría una escala superior, si se llegara a los 500 MW anunciados. No alcanzaría con el gas de venteo y requeriría energía proveniente tanto de los pozos de Vaca Muerta como de otras fuentes renovables, ya sea la eólica o las represas hidroeléctricas patagónicas que se alimentan de los ríos Limay y Neuquén.

“Nuestro modelo es distinto al de los mega data centers tradicionales. Nosotros trabajamos con soluciones modulares que aprovechan energía que hoy se desperdicia. Creemos que el futuro de la inteligencia artificial dependerá en gran medida del costo de la energía. Los países que logren producir energía más barata tendrán ventajas competitivas en el desarrollo tecnológico”, aseguró Ocampo a Chequeado y Ruido.

“Un recurso sensible son las fuentes de energía capaces de sostener el consumo de estas instalaciones. Porque si no puede ocurrir lo que ya pasa en EE.UU., donde las comunidades cercanas se están quedando sin luz o pagan una energía carísima”, recordó Busaniche.

A nivel global, el crecimiento de esta industria ya es significativo. En 2024, los centros de datos representaron alrededor del 1,5% del consumo mundial de electricidad -unos 415 TWh-, según la Agencia Internacional de la Energía. Y se proyecta que esa demanda se duplique hacia 2030. Este aumento podría traducirse en mayores emisiones de gases responsables del cambio climático, dependiendo de la matriz energética del país anfitrión.

Economías de enclave

Desde una mirada económica, también aparecen interrogantes sobre el impacto local. Rocha definió a los mega data centers como “economías de enclave”: grandes inversiones de capital con bajo nivel de empleo permanente y alta automatización. “Pueden consumir millones de litros de agua y enormes cantidades de energía, mientras emplean a 50 o 60 personas. Lo que deja en la región es mínimo”, señaló.

Al respecto, una investigación de Aos Fatos (medio de verificación de Brasil) publicada por Chequeado, demuestra que los centros de datos no crean cantidad de puestos de trabajo locales y que gran parte de las cifras prometidas en inversión se destinan a equipos tecnológicos, generalmente importados.

“Es extractivismo puro y duro, y no generan empleo local”, remarcó Busaniche. Y explicó que, para saber si conviene instalar un data center en un sitio, se debe hacer un análisis económico profundo. “Si va a traer más desarrollo a la región y al país, entonces se establece lo que se suele llamar ‘zona de sacrificio’. Pero nunca se puede hacer eso sin medir efectivamente las consecuencias”, contó.

Unblock, por ejemplo, emplea a unas 20 personas, según el CEO de la empresa. “Si capturáramos todo el gas de venteo en Vaca Muerta, podríamos generar cientos de empleos”, calculó Ocampo.

En tanto, la economía del fracking está dejando un sabor agridulce en la región. Desde el gobierno provincial, Etcheverry sostuvo que esa actividad dinamizó la economía, activó la cadena de proveedores y generó ingresos. Pero otras voces plantean una mirada más crítica.

Desde el sector empresario, Fernando Zurita, titular de la Federación de Entidades Empresarias de Neuquén, reconoció que no tienen detalles sobre la eventual instalación de data centers, y que todavía no hay un gran derrame económico por Vaca Muerta. “Aún no se produjo un impacto económico real y tangible en términos generales”, dijo.

Y agregó: “Nos imaginábamos un desarrollo más rápido de rutas, de ciudades, de infraestructura. Hoy faltan muchos servicios básicos: cloacas, agua potable, servicios urbanos”. 

Más allá de la promesa de crecimiento y trabajo local, a la comunidad mapuche le preocupa el impacto negativo del fracking que ya perciben en la región. Temen que la instalación de data centers amplifique los problemas.

“Con los derrames de petróleo se pierden un montón de plantas autóctonas. Cada vez hay menos pasturas para nuestros animales y hay mucha sequía por el tema de la contaminación. Así que para nosotros Vaca Muerta no ha sido bueno ni va a ser bueno”, dijo Romero, la líder de la comunidad.

El último derrame, en el lago Mari Menuco, afectó una zona de 50 mil metros cuadrados. 

Rosales, vocero de la comunidad, agregó: “No todo lo que brilla es oro. Se habla mucho del boom, se ve en la tele, pero los que estamos dentro de ese boom somos los que padecemos miles de necesidades. A empresarios y gobiernos les va bien porque se llevan la riqueza del suelo. A nosotros no nos queda ni trabajo para los chicos”.

Esta investigación forma parte de un proyecto de Chequeado que cuenta con el apoyo del Pulitzer Center.

Fue realizada por Lucas Viano, con la edición de Ruido y Chequeado. El informe es de Judith Calmels y las imágenes de Santiago Amillano para Ruido.

Autor: Lucas Viano

Informe: Judith Calmels

Imágenes: Santiago Amillano

Edición 1: Edgardo Litvinoff

Edición 2: Matías Di Santi

Edición 3: Florencia Ballarino

La creciente disputa legal y ética entre las tecnológicas y el Pentágono está reconfigurando el tablero de la inteligencia artificial (IA), con tres actores clave, Anthropic, OpenAI y Google, que adoptaron aproximaciones diversas ante el uso bélico de su tecnología.

Anthropic vio crecer su popularidad entre los civiles a la par que se enfrenta en los tribunales a la Administración de Donald Trump, OpenAI enfrenta críticas por su cercanía al sector militar, y Google expande discretamente su presencia en Defensa.

La semana pasada, el Departamento de Defensa de EE.UU. designó a Anthropic como un “riesgo para la cadena de suministro” y vetó el uso de su tecnología en contratos militares tras no lograr un acuerdo con la compañía.

El origen de la fricción radica en las salvaguardas que Anthropic -una empresa que se distingue por priorizar la seguridad- pidió al Pentágono, como la prohibición explícita del uso de su modelo Claude en vigilancia doméstica masiva o en el desarrollo de armas totalmente autónomas.

Por el contrario, el Pentágono exigió un acceso “para todo propósito legal” sin restricciones del proveedor, lo que le llevó a un acuerdo con OpenAI para el uso de sus modelos de IA.

La vanguardista tecnología de Anthropic había sido integrada en sistemas críticos del Pentágono, utilizados para sintetizar documentos, optimizar cadenas de suministro y analizar datos en tiempo real en operaciones de defensa.

Según medios con acceso a fuentes del Departamento de Defensa, Claude ha sido empleado en análisis y logística de operaciones militares como la reciente incursión militar en Venezuela para capturar al líder Nicolás Maduro, así como en operaciones en Irán, pese a la decisión del Pentágono de limitar su uso.

El Pentágono utiliza estos modelos para sintetizar documentos, optimizar cadenas de suministro y analizar datos en tiempo real.

Popularidad impulsada por la seguridad

El conflicto entre Anthropic y el Pentágono escaló aún más esta semana cuando la firma presentó una demanda contra el Gobierno de EE.UU. en la que apuntaba que no se puede estigmatizar a una empresa por defender sus valores de seguridad.

Paradójicamente, el rechazo al acuerdo con el Gobierno ha disparado la popularidad de Anthropic entre los consumidores civiles y ha generado el apoyo de grandes titanes de la tecnología como Microsoft, empresa que solicitó una orden judicial que bloquee temporalmente la designación de esa empresa como “riesgo para la cadena de suministro”.

Los titanes de la nube Google y Amazon, que también integran tecnología de Anthropic, aclararon a sus clientes que, fuera del ámbito de defensa, los productos de Anthropic seguirán estando disponibles en sus plataformas.

El público estadounidense tomó las líneas rojas de Anthropic como un sinónimo de “seguridad y ética” y como una alternativa responsable en el mercado de la IA.

Los civiles optaron por catapultar a Claude al número 1 en la lista de las mejores aplicaciones gratuitas de Apple tras el rechazo del Pentágono.

Los usuarios de pago de Anthropic, que fue fundada por exempleados de OpenAI, se han duplicado este año. También ha alcanzado una valoración de 380.000 millones de dólares, por encima de empresas como Coca-Cola o Goldman Sachs, y prevé ingresos para finales de 2026 que podrían superar a los de su rival OpenAI.

Preocupación interna en OpenAI

Mientras, la directora de la división de Robótica de OpenAI, Caitlin Kalinowski, anunció el sábado pasado su dimisión en la compañía debido a profundas preocupaciones éticas sobre el reciente acuerdo de colaboración firmado entre la tecnológica y el Pentágono.

“La vigilancia de estadounidenses sin supervisión judicial y la autonomía letal sin autorización humana son líneas que merecían más deliberación de la que recibieron”, afirmó la ingeniera, subrayando que su decisión se basa en una cuestión de “principios”.

El silencio estratégico de Google

No obstante, algunos analistas apuntan a que los ojos tienen que ponerse en Google, gigante tecnológico que ha adoptado una postura pragmática que le está permitiendo ganar terreno de forma acelerada.

Mientras Anthropic se desangra en los tribunales y OpenAI enfrenta críticas, Alphabet (matriz de Google) ha comenzado a desplegar sus agentes de IA para la plantilla de 3 millones de personas del Pentágono en tareas no clasificadas.

Analistas de firmas como PitchBook señalan al medio Axios que la solidez financiera de Google le permite absorber el coste reputacional y los riesgos de estos contratos de una manera que las empresas emergentes no pueden.

Por Sarah Yáñez-Richards, a la agencia EFE

El dinero se ha convertido en la herramienta con la que las grandes empresas tecnológicas intentan mantener su posición en un mercado cada vez más competitivo. En los últimos años, los directivos más poderosos del sector han decidido utilizar la remuneración como su principal arma para atraer y retener a los mejores especialistas. Los salarios y los paquetes de acciones han dejado de ser un incentivo secundario para transformarse en un elemento importantísimo de la estrategia empresarial.

En este escenario, los CEOs no dudan en ofrecer cifras desorbitadas con tal de asegurar la fidelidad de ingenieros y científicos que dominan tecnologías muy concretas. Este fenómeno responde a una lucha global por el talento que no solo afecta a la rentabilidad inmediata, sino que también condiciona la estructura financiera y el futuro de las compañías. Con ello, el mercado tecnológico se ha convertido en un laboratorio económico en el que el valor de las ideas depende, cada vez más, del precio que las empresas estén dispuestas a pagar por quienes las desarrollan.

OpenAI impone un nuevo récord salarial en Silicon Valley

The Wall Street Journal ha revelado que OpenAI paga una media de 1,5 millones de dólares por empleado, una cifra 34 veces superior a la de otras compañías tecnológicas antes de salir a bolsa. Con una plantilla cercana a 4.000 personas, esta política salarial eleva el gasto total a unos 6.000 millones de dólares y marca un récord sin precedentes en la historia reciente de Silicon Valley. Las compensaciones se reparten principalmente en acciones, una estrategia que busca fidelizar a los trabajadores mientras se aproxima la salida a bolsa prevista para 2026.

Cuando Google preparaba su debut bursátil en 2003, la compañía ofrecía a sus empleados una retribución media siete veces inferior a la que OpenAI concede hoy. El análisis del periódico estadounidense, basado en datos de Equilar, muestra que ninguna de las 18 grandes firmas tecnológicas estudiadas en los últimos 25 años se acerca a esos niveles. El estudio, por lo tanto, concluye que las cifras de OpenAI superan con amplitud los patrones de retribución previos al lanzamiento en bolsa.

El gasto de OpenAI en compensaciones salariales tiene una justificación clara: el temor a perder a sus mejores ingenieros. La empresa ha establecido una dinámica en la que las acciones y las bonificaciones reemplazan a los incentivos tradicionales. Algunos miembros del equipo de investigación ya figuran entre los empleados más ricos de Silicon Valley. Esta política busca evitar que los fichajes de la competencia erosionen la capacidad de desarrollo de los modelos de inteligencia artificial que la compañía diseña.

Meta entra en la pugna y dispara la competencia por los expertos en inteligencia artificial

La carrera por el talento se intensificó en los últimos meses. Según el mismo medio, el consejero delegado de Meta, Mark Zuckerberg, llegó a ofrecer paquetes de compensación de cientos de millones de dólares a investigadores y ejecutivos del ámbito de la inteligencia artificial. Esas ofertas provocaron la salida de más de 20 empleados de OpenAI, entre ellos Shengjia Zhao, coautor de ChatGPT. Para frenar esa fuga, la compañía otorgó primas únicas a parte de su personal técnico e investigador, algunas de ellas también millonarias.

A esta política se sumó la eliminación de la regla que obligaba a los trabajadores a permanecer seis meses antes de poder consolidar sus acciones, lo que incrementó aún más el valor efectivo de las compensaciones. Los documentos internos de OpenAI sugieren que este modelo podría alcanzar los 3.000 millones de dólares anuales en pagos en acciones hasta 2030, una cantidad que representaría cerca de la mitad de los ingresos previstos para 2025.

El coste del modelo crece, pero Altman defiende la inversión como una cuestión de supervivencia

Las cifras sitúan a OpenAI en una posición de referencia, pero también revelan los riesgos del modelo. El aumento del gasto en remuneraciones eleva las pérdidas operativas y diluye la participación de los accionistas existentes. Sin embargo, la empresa considera que los beneficios de retener talento superan los costes a corto plazo.

Para el fundador, Sam Altman, mantener a los expertos con perfiles más interesantes es una cuestión de supervivencia en una industria que se mueve con rapidez y en la que cualquier fuga de personal puede alterar años de desarrollo. Con ello, la batalla económica por los trabajadores especializados en inteligencia artificial se ha convertido en el principal motor financiero del sector tecnológico contemporáneo.

Era un secreto a voces en el sector, aunque no por anticipado deja de ser un cambio potencialmente trascendental para el futuro de los servicios de inteligencia artificial. OpenAI, desarrolladora de ChatGPT, ha anunciado que su popular herramienta incluirá anuncios próximamente y ha publicado las directrices en las que se basará esta publicidad. Afectará tanto al modelo gratuito como a la suscripción “Go”, que en España cuesta 9,99 euros al mes. Las pruebas comenzarán “en las próximas semanas” en Estados Unidos.

“Al principio, probaremos los anuncios al final de las respuestas en ChatGPT, cuando haya un producto o servicio patrocinado relevante según la conversación. Los anuncios estarán claramente etiquetados y separados de las respuestas orgánicas”, ha explicado la empresa en un comunicado.

OpenAI, que en octubre reestructuró su matriz para dejar de depender de la organización sin fines de lucro que la fundó, asegura que los patrocinadores no influirán en las respuestas de la inteligencia artificial. “Puedes confiar en que las respuestas de ChatGPT se basan en lo que es objetivamente útil y nunca en la publicidad”, afirma en su comunicado.

Esta posible dependencia era el motivo por el que Sam Altman, cofundador y director ejecutivo de OpenAI, siempre se mostró contrario a que la publicidad fuera un modelo de negocio viable para los servicios de inteligencia artificial. “La combinación de anuncios con IA me resulta especialmente inquietante”, afirmaba en mayo de 2024, asegurando que la publicidad sería “el último recurso” para ChatGPT. “Odio los anuncios”, insistía.

El peligro de la manipulación

El uso de los datos personales para orientar el comportamiento o mantener la atención de los usuarios de redes sociales ha sido uno de los campos más estudiados de la sociedad digital en los últimos años. Un área en la que los especialistas temen que ahora haya que incluir también a la IA, el mismo motivo por el que Altman la definía como “inquietante”.

“Como expertos en seguridad y científicos de datos, vemos estos ejemplos como presagios de un futuro en el que las empresas de IA obtengan beneficios manipulando el comportamiento de sus usuarios en favor de anunciantes e inversores”, destacan en un informe publicado en The Conversation Bruce Schneier y Nathan Sanders, de la Universidad de Harvard.

“También es un recordatorio de que el tiempo para reconducir el desarrollo de la IA, alejándolo de la explotación privada y orientándolo al beneficio público, se agota rápidamente”, añaden.

Quizá consciente de las preocupaciones que generaría sobre la posibilidad de manipulación, OpenAI destaca en su comunicado que no llevarán a cabo este tipo de prácticas. “No optimizamos el tiempo que pasas en ChatGPT. Priorizamos la confianza del usuario y la experiencia de uso por encima de los ingresos”, afirman.

Los científicos, no obstante, avisan que se debe tener en cuenta que el potencial de la IA en este sentido es mucho mayor que el de las plataformas tradicionales. “Tiene el potencial de influir en tu forma de pensar, en tus patrones de gasto e incluso en tus creencias personales de maneras mucho más sutiles”, resumen Schneier y Sanders. Un chatbot no se limita a “filtrar contenido estático”, sino que puede abordar “preguntas, preocupaciones e ideas específicas”, por lo que “su potencial de influencia es mucho mayor”.

“El problema no es la tecnología en sí”, remarcan los autores, sino “las prioridades de las corporaciones que poseen estas plataformas y en cuyo beneficio operan. Hay que ser conscientes de que no tienes control sobre qué datos se introducen en la IA, con quién se comparten ni cómo se utilizan. Conviene tenerlo presente cuando conectas dispositivos y servicios a plataformas de IA, les haces preguntas o consideras comprar o hacer las cosas que te sugieren”, concluyen.

Dudas de privacidad

“También es importante que sepas que tus datos y conversaciones están protegidos y no se venden a los anunciantes”, reza el comunicado de OpenAI. La privacidad y la protección de datos es el principal ángulo de preocupación de los expertos sobre el anuncio, puesto que los chats de IA tienen un potencial mucho mayor de extracción de datos que las redes sociales.

“Observando lo que están haciendo, todo apunta a que de lo que estamos hablando aquí es de reproducir todo lo que hicimos mal con las redes sociales”, avisaba Enrique Dans, profesor de Innovación y Tecnología en IE Business School en un reportaje de elDiario.es sobre la posibilidad de que ChatGPT incluyera publicidad: “¿Qué son las redes sociales en realidad? Son máquinas de capturar datos para luego venderlos al mejor postor. ¿Qué pasa si en lugar de simplemente dar me gusta o poner un comentario, lo que haces es estar todo el día hablando con esa máquina? Pues que le das todos los datos del mundo”.

En los últimos meses, OpenAI ya había llevado a cabo movimientos que parecían destinados a aumentar la cantidad de datos que extrae de sus usuarios. El último, de este enero, fue la activación de una herramienta para dar consejos de salud a través de ChatGPT. La compañía anima a los clientes a compartir con ella sus documentos médicos así como los datos recogidos por otras apps de salud, como las propias de relojes electrónicos.

Sobre esta cuestión, OpenAI afirma que este tipo de información sensible quedará fuera del análisis publicitario en un primer momento. “Durante la prueba, no mostraremos anuncios en cuentas donde el usuario nos indique que no los desea o cuando estimemos que tiene menos de 18 años, y evitaremos que aparezcan cerca de temas sensibles o regulados, como la salud, la salud mental o la política”, expone.

Las agencias de protección de datos de la Unión Europea llevan más de dos años y medio investigando el uso de datos personales por parte de ChatGPT. En un expediente conjunto lanzado en abril de 2023, los reguladores están analizando si la absorción de información pública para su entrenamiento, entre la que había datos personales, así como el tratamiento de las conversaciones, se ajusta a las leyes comunitarias.

1,2 billones comprometidos

La decisión llega en un momento crítico del desarrollo. En el último año, OpenAI se ha lanzado a la construcción de centros de datos hiperescala y la contratación a terceros de una gran potencia de cómputo para poder seguir mejorando ChatGPT. Sus compromisos de gasto se han elevado hasta los 1,2 billones de euros (1,4 trillones de dólares en la medida anglosajona) hasta 2033. Un plan que contrasta con el hecho de que la empresa no ha tenido nunca beneficios y no espera contar con ellos hasta, al menos, 2030.

La inmensa hipoteca que cae sobre OpenAI llevó a su directiva financiera a afirmar que el Gobierno de EEUU debería actuar como “respaldo” de su deuda, ya que esa capacidad de cómputo se podría considerar una infraestructura crítica del país en su carrera con China por dominar la IA. Las declaraciones provocaron un escándalo, con políticos tanto republicanos como demócratas criticando que la compañía privada intentara dictar la política de gasto nacional, comprometiendo cifras similares al PIB de muchos países, y luego pidiera la seguridad federal para mitigar el riesgo para sus inversores.

La polémica obligó a Altman a corregir a su directora financiera y asegurar que OpenAI “debería quebrar” si no puede asumir sus deudas. Con todo, la situación evidencia el momento de incertidumbre que atraviesa la compañía, especialmente en lo referente a su negocio corporativo.

Actualmente, existen dudas de que la inteligencia artificial generativa actual pueda llevar a cabo automatizaciones amplias del empleo. El premio Nobel de Economía de 2024, Daron Acemoglu, estima que menos del 5% de las tareas laborales de los países desarrollados se verán afectadas por esta tecnología. Los primeros estudios sobre proyectos que la han desplegado en empresas afirman que más del 90% no están ofreciendo retornos claros de la inversión.

Hace tres años, OpenAI era una organización prácticamente desconocida para el gran público que aspiraba a contrarrestar el poder de los gigantes de Silicon Valley. Hoy, es la startup más valiosa de la historia, superando los 500.000 millones de dólares. Tres años en los que la compañía dirigida por Sam Altman pasó de presentarse como un laboratorio tecnológico que trabajaba por el bien de la humanidad a convertirse en una empresa privada con agenda geopolítica propia, con acceso masivo a información personal de millones de personas y trato preferente con los poderes públicos.

La periodista estadounidense Karen Hao cubrió esta transformación para medios como el Wall Street Journal o el MIT Technology Review. En su libro El Imperio de la IA. Sam Altman y su carrera por dominar el mundo (editorial Península), Hao investigócómo OpenAI y la industria de la IA pasaron a funcionar con una lógica imperial: colonizan recursos, extraen datos de los usuarios y explotan mano de obra precaria en el Sur Global para alimentar una maquinaria que, denuncia, está “acelerando el retroceso democrático en todo el mundo”.

En esta entrevista, Hao describe a OpenAI, los secretos de su líder y la burbuja financiera y de expectativas que está impulsando el desarrollo de la inteligencia artificial.

-Cuenta en el libro que, en sus orígenes, OpenAI se veía a sí misma como la “anti-Google”. ¿En qué consistía esa visión de empresa inicial?

-En realidad creo que la visión de la compañía en aquel entonces era similar a la que es hoy: OpenAI siempre quiso dominar el desarrollo de la IA y ser el líder número uno en esta tecnología. En ese momento, Google era el único actor al que valía la pena vencer, así que se veían a sí mismos como su único competidor, y a Google como el único al que debían intentar superar. Por eso se concibieron a sí mismos como la anti-Google que iba a representar todo lo que Google no era. Otra razón por la que hicieron eso fue porque era una táctica de reclutamiento. Inicialmente, para construir un laboratorio de IA líder, el principal cuello de botella era el talento, por lo que querían averiguar cómo conseguir que la gente dejara Google y se uniera a OpenAI, o eligiera OpenAI sobre Google si se postulaban para trabajar en ambas empresas. Así que lo plantearon todo como: “bueno, Google es de código cerrado, nosotros seremos abiertos; Google trabaja con fines de lucro, nosotros seremos sin fines de lucro”. La idea era: si quieres crear productos para un megagigante, bien, ve a Google, pero si vienes a OpenAI, podrás cambiar el mundo.

-¿Cómo se ven dentro de OpenAI esas contradicciones respecto a la visión inicial, con la transformación en una empresa privada con ánimo de lucro? ¿Crees que puede haber alguien que piense que al final se han convertido en todo aquello que prometieron cambiar?

-Sí, por supuesto, OpenAI aparentemente ha revertido por completo todo lo que dijo que sería. Ahora es, obviamente, una empresa con fines de lucro en lugar de una organización sin ánimo de lucro, y la startup más valiosa del mundo en este momento, con una valoración de 500.000 millones de dólares. También se ha vuelto hipersecreta, aunque originalmente dijo que sería transparente. Así que, en esas formas más superficiales, ha cambiado por completo. Y, sin embargo, sigue persiguiendo exactamente lo mismo que en aquel entonces, que es dominar el desarrollo de la IA. Sam Altman ha dicho muchas veces que es importante tener grandes convicciones en un objetivo particular, pero que debes ser flexible con tus tácticas. Y eso es esencialmente lo que está haciendo con OpenAI; alta convicción en los objetivos, pero flexible en las tácticas. El objetivo final es el dominio, y las tácticas han cambiado de sin fines de lucro a con fines de lucro.

OpenAI también se ha vuelto una empresa hipersecreta, aunque originalmente dijo que sería transparente

-Otra de las cosas que dijeron que nunca harían sería vender los datos personales de la gente. ¿Cree que también lo terminarán haciendo?

-Sí. Además, técnicamente, ya están ganando dinero con los datos de la gente, en el sentido de que ya están utilizando los datos de las personas para entrenar las próximas generaciones de sus modelos de IA. Modelos que luego venden a través de suscripciones. Pero hablando más concretamente del negocio de la publicidad digital, vemos que OpenAI está preparándose también para la publicidad. Están añadiendo un feed algorítmico a ChatGPT, lanzaron Sora 2, una aplicación como TikTok con el contenido generado por IA, y básicamente están creando espacios, superficies, en las que pueden empezar a insertar anuncios. Y eso creo que conducirá al 100% a que utilicen los datos de los usuarios para averiguar cómo segmentar mejor esos anuncios.

-ChatGPT cumplió tres años recientemente. Usted ya cubría la industria de la inteligencia artificial antes de su salida a luz: ¿cómo cree que ha evolucionado ChatGPT y el sector de la IA en estos tres años?

-El mundo cambió. Ahora todo el mundo habla de IA, y todo el mundo tiene una concepción de la IA como ChatGPT, por lo que todas estas empresas y todos estos países se apresuran a intentar crear su propia versión de ChatGPT, olvidando todos los demás tipos de tecnologías, incluso otras tecnologías de IA que no son chatbots. Y la otra forma en que el mundo ha cambiado es, como expongo en mi libro, en que estas multinacionales ahora son como imperios. Están extrayendo una cantidad extraordinaria de recursos, explotando una cantidad extraordinaria de mano de obra y participando en actividades por todo el mundo de formas que no benefician en nada a la mayoría de las personas. De esta forma, otra de las cosas que han cambiado es que estas empresas están siendo otro acelerador más en la tendencia de retroceso democrático en todo el mundo. Creo que estos imperios están contribuyendo activamente a esa tendencia.

Las empresas de IA están participando en todo tipo de actividades que no benefician a las personas

-Al principio parecía que ChatGPT era el centro de toda la industria, hoy parece solo uno más.

-Sí, creo que ChatGPT definitivamente está siendo... hay muchos más competidores ahora que están tratando de comerse el dominio del mercado de ChatGPT. Por supuesto, tenemos a Gemini, tenemos a Claude de Anthropic y también vemos más empresas que comienzan a inclinarse hacia aplicaciones especializadas en lugar de solo estos chatbots; Anthropic enfocándose realmente en la generación de código, en lugar de ser solo una herramienta puramente genérica orientada al consumidor. O Google, enfocándose más en la empresa en lugar de apoyar a las labores de las personas. ChatGPT también está teniendo su propia transformación, inicialmente la gente pensaba que era más una herramienta de búsqueda, pero hemos visto esta tendencia realmente preocupante donde más y más personas comienzan a considerar a ChatGPT como un terapeuta, un mentor o un amante. Es algo que OpenAI no ha evitado, más bien se ha estado inclinando hacia eso también. Eso es una evolución de la que tendremos que estar muy pendientes en los próximos años.

-¿Cómo explicaría a la gente cómo es Sam Altman?

-Es un tipo extremadamente carismático que entiende muy, muy bien la psicología humana. Es capaz de decirle a la gente lo que necesita escuchar para motivarla a unirse a cualquier misión que él esté tratando de perseguir. Eso incluye conseguir que los inversores le den mucho dinero o conseguir que la gente se convierta en empleada de sus empresas. Así que es tanto un talento singular para la recaudación de fondos como un reclutador muy, muy bueno. Y no es solo porque entiende la psicología humana, también porque es muy bueno contando esas grandes historias sobre el futuro y la IA, que son atractivas y que hacen que la gente quiera darle más y más recursos para lograrlo.

Altman es un tipo extremadamente carismático que entiende muy, muy bien la psicología humana. Es capaz de decirle a la gente lo que necesita escuchar para motivarla a unirse a cualquier misión

-¿Lo compararía con alguna figura histórica, o quizá con alguna otra persona de la industria digital?

-Bueno, él mismo ha hablado de cómo le encantaba leer un libro de citas de Napoleón. Y lo que sacó de ese libro fue que Napoleón era un conocedor extremadamente bueno de la psicología humana, y usó eso para ganar mucho poder. Así que creo que los paralelismos se escriben solos.

-Personalmente, usted que ha podido investigar en profundidad al personaje, ¿se siente cómoda con el hecho de que Altman se convierta en uno de esos emperadores de las grandes tecnológicas? ¿Con que acumule tanto poder e influencia?

-No me siento cómoda con que nadie ocupe tanto poder sin rendición de cuentas. En el libro critico a Altman y su enfoque, pero no creo que el problema se resolviera si simplemente cambiáramos a Altman por otra persona. Porque el sistema de poder todavía existe, donde quienquiera que se siente en esa mesa puede tomar decisiones que afectan a la vida de miles de millones de personas en todo el mundo. Y esos miles de millones de personas no tienen voz sobre si les gustan esas decisiones o no. Para mí, es mucho más preocupante, no que Altman esté al timón, sino que exista incluso este rol que pueda permitir a alguien ejercer esa cantidad de influencia a nivel mundial.

-Una de las tácticas que Altman y OpenAI utilizan a menudo para convencer a otros de que inviertan en sus proyectos es la Inteligencia Artificial General, es máquina consciente y capaz de mejorarse a sí misma que podría superar a la humanidad. Usted ha tenido un acceso privilegiad a la compañía: desde dentro, ¿creen de verdad que la IA general es posible e incluso cercana?

-Esto fue lo que más me sorprendió de mi investigación: yo pensaba que era solo una herramienta de marketing, pero en realidad hay facciones muy poderosas dentro de estas empresas y dentro de la industria en general que realmente creen que la IA general es posible y que es inminente. Y creo que eso es lo que hace que este ecosistema sea tan fascinante y complejo, porque tienes a las personas que empujan hacia este objetivo por una fe sincera y luego tienes a las personas que lo están aprovechando políticamente para protegerse de la regulación y usarlo como un truco de marketing.

Esto fue lo que más me sorprendió de mi investigación: yo pensaba que el discurso sobre la IA general era solo una herramienta de marketing, pero en realidad hay facciones muy poderosas dentro de estas empresas y dentro de la industria en general que realmente creen que la IA general es posible y que es inminente

-Menciona la “fe sincera” de esas personas de la industria tecnológica. En los últimos tiempos se está hablando mucho más de la tecnorreligión de Silicon Valley, esa creencia casi religiosa en la tecnología digital como solución a todos los problemas de la sociedad. ¿Cree que esa fe está influyendo en todo esto?

-Creo que tiene una influencia extraordinaria, sí. Y es parte de la razón por la que creo que la analogía con los imperios también es muy relevante, porque la mayoría de los imperios históricos también fueron impulsados en su expansión por creencias religiosas. Lo interesante es que en esta religión hay dos facciones. Las personas que piensan que necesitamos pisar el acelerador porque la IA general nos llevará al cielo y solo nos traerá utopía y bienestar; y luego las personas que piensan que nos llevará al infierno si la desarrolla la persona equivocada. Y en el libro digo que estas son dos caras de la misma moneda, porque en realidad solo están leyendo de la misma Biblia con diferentes interpretaciones, de la misma manera que hay muchas facciones del cristianismo, algunas que leen la Biblia enfocadas en llegar al cielo y otras que leen la Biblia enfocándose en el hecho de que hay un infierno.

-Entre esas personas hay científicos como Ilya Sutskever, ex jefe Científico de OpenAI, una de las mentes de referencia sobre IA. ¿Tienen un discurso serio realmente en torno a este tema? Sutskever, por ejemplo, afirma que la IA general ayudará a contrarrestar el cambio climático, pero a la vez dicen que si llega, el planeta pasaría a estar completamente cubierto de centros de datos en pocos años. No parece muy congruente.

-Creo que Sutskever y algunos de estos otros investigadores de IA tienen mucha coherencia en cuanto a su teoría de la investigación de IA. Pero, ya sabes, no son exactamente expertos en otras cosas, así que ahí es donde la coherencia podría desmoronarse: cuando empiezan a hablar de cómo interactúa con el mundo real. Pero para Sutskever, él siempre ha creído muy firmemente que el cerebro es un motor estadístico y que las redes neuronales son una representación precisa de cómo funciona el cerebro. Él siempre ha pensado que mientras podamos meter más y más datos en estas redes neuronales, eso conducirá a la recreación de la inteligencia humana. Dio una charla el año pasado en la que mostró unos papers sobre cómo el tamaño del cerebro se correlaciona con la inteligencia de la especie. Su teoría es que simplemente tienes que construir un cerebro más grande y entonces obtienes un sistema más inteligente. El problema es, por supuesto, que en realidad no sabemos si eso es cierto, si las redes neuronales realmente modelan el cerebro y si el tamaño del cerebro es realmente lo único que conduce a más inteligencia, pero esa es la creencia de Sutskever y por eso ha centrado toda su investigación en esto.

-Esa es la teoría de Sutskever, y tras la publicación de su libro OpenAI se ha embarcado en proyectos de inversión faraónicos para generar más capacidad de cómputo. ¿Cree que ese escalado masivo es el camino correcto para llegar a la IA General?

-Para mí, la razón por la que no deberíamos estar escalando es en realidad una cuestión más fundamental que simplemente si nos llevará a la IA general. No creo que debamos intentar llegar a la IA general, independientemente de si podemos llegar allí, porque el propósito de construir tecnologías es servir a las personas, no reemplazar a las personas. Y la búsqueda de la IA general es en última instancia lograr una inteligencia a nivel humano y automatizar muchas de las cosas que la gente puede hacer. Así que sí, encuentro que toda esta empresa de escalado es innecesaria para lograr la IA general y también inmoral, porque no deberíamos estar intentando lograrla en primer lugar. Además, está conduciendo a una cantidad extraordinaria de degradación ambiental y daño a la salud pública de las personas, en un momento en que en realidad ya no tenemos mucho tiempo para resolver la crisis climática.

Encuentro que toda esta búsqueda de la IA general es inmoral, no deberíamos estar intentando lograrla. Conduciendo a una cantidad extraordinaria de degradación ambiental y daño a la salud pública de las personas, en un momento en que ya no tenemos mucho tiempo para resolver la crisis climática

-Por cosas como esta, ¿cree que la confianza general sobre OpenAI podría cambiar rápidamente entre el público general? Con el resto de tecnológicas hemos visto el proceso de cómo empiezan viéndose como disruptivas y luego su mala imagen las lleva incluso a cambiarse el nombre, como Facebook y Meta. Parece que eso está sucediendo a toda velocidad con OpenAI.

-Sí, creo que ya ha sucedido. No creo que OpenAI tenga ya una reputación muy positiva en muchos lugares. En EEUU hay muchos padres, por ejemplo, que se han enfadado mucho con la empresa debido a los impactos en la salud mental que estas herramientas están teniendo en los niños. Hay muchas comunidades de clase trabajadora que están realmente enfadadas por los centros de datos que están llegando a sus comunidades. Hemos visto un cambio dramático en la opinión pública solo en los últimos meses, y creo que eso va a continuar, porque lo que pasa con el imperio es que, a medida que continúa su construcción, continuará extrayendo y explotando a más y más comunidades. Y eso es lo que va a llevar a que cada vez más y más de ellas se vuelvan contra la empresa.

-En el libro también trata en detalle la explotación sistémica de trabajadores para entrenar a los modelos, como el caso de Mofat en Kenia. Sobre cómo el modelo de negocio de OpenAI depende del capitalismo del desastre.

-Sí, en este caso todas las empresas, no solo OpenAI, cuando entrenan sus modelos de IA, requieren contratar a decenas de miles de trabajadores de todo el mundo, y esto es algo que existía antes de ChatGPT. Existen firmas de terceros que hacen el trabajo de conectar a empresas como OpenAI con estos trabajadores. Son plataformas que tratan de buscar la mano de obra más barata en el mercado global. De lo que se dieron cuenta es que la mejor manera de encontrar la mano de obra más barata es ir a los lugares más pobres y desesperados del mundo. Inicialmente, eso fue Venezuela, donde la economía estaba en un estado desastroso, pero la población también estaba altamente educada y tenía alta conectividad. A medida que la economía de Venezuela comenzó a recuperarse ligeramente, el trabajo se trasladó a otros lugares más desfavorecidos durante la pandemia, cuando otros países estaban cayendo en picado, como Kenia. La historia de Mofat ilustra una vez más la lógica del imperio, porque OpenAI es una empresa valorada en 500.000 millones de dólares y, sin embargo, contratan trabajadores para realizar un trabajo esencial para el éxito de ChatGPT pagándoles solo unos pocos dólares la hora. Muchos de ellos terminaron psicológicamente devastados por este trabajo y sus familias se desmoronaron. Así funciona el capitalismo de desastre en muchos sentidos.

OpenAI es una empresa valorada en 500.000 millones de dólares y, sin embargo, contratan trabajadores para realizar un trabajo esencial para el éxito de ChatGPT pagándoles solo unos pocos dólares la hora

-Esas personas cuentan con muy poca formación sobre cómo entrenar a la IA. ¿Es posible que los modelos tengan más alucinaciones o sean más imprecisos por esta situación?

-Es una pregunta interesante. Creo que los modelos son más imprecisos principalmente porque las empresas en realidad no enfatizan la precisión. Hemos visto que las actualizaciones de los modelos de OpenAI a veces se vuelven menos precisas a medida que avanzan las nuevas generaciones de GPT. Así que no creo que esté necesariamente ligado a los trabajadores en sí; son principalmente los incentivos de las empresas, así como la tecnología misma. Esta es una tecnología probabilística, por lo que es inherentemente propensa a errores. Es imposible garantizar que vaya a decir lo correcto el 100% de las veces.

-¿Cree que hay una burbuja en la inteligencia artificial?

-Creo que hay una gran burbuja. No veo cómo estas empresas van a ser capaces de cumplir sus compromisos o averiguar cómo obtener un retorno de sus inversiones. OpenAI ha comprometido 1,4 billones de dólares de gasto en los próximos años y ha generado, como máximo, unos 20.000 millones en ingresos. Esa es una brecha extraordinaria y OpenAI se está quedando sin ideas para cerrarla. Intentaron el modelo de suscripción y encontraron que aproximadamente solo el 5% de los usuarios están dispuestos a pagar. Ahora se están preparando para la publicidad, pero el mayor negocio publicitario de la historia fue Google, y Google el año pasado ganó menos de 300.000 millones en ingresos publicitarios, así que eso todavía no cierra la brecha. Y luego ves a OpenAI tratando de rociar el mercado con todos estos lanzamientos de productos, como un navegador, el TikTok de IA... pero estos lanzamientos no están cuajando. Tanto con el navegador como con el TikTok de IA, se volvieron virales al principio, pero en realidad están cayendo bastante rápido después en términos de adopción de usuarios. Así que simplemente no hay un modelo de negocio viable ahí.

Tanto OpenAI como el resto de empresas de IA están tratando de hacer que el Gobierno de EEUU no pueda dejarlas caer haciéndole dependiente de su tecnología

-¿Cree que una de las estrategias de Altman es precisamente hacer que OpenAI sea “demasiado grande para caer”, llegando a múltiples acuerdos con gobiernos e industria?

-Absolutamente. Hay un análisis realmente genial escrito por un ex colega mío en el Wall Street Journal que habla de esto, donde explicaba cómo OpenAI está atando su destino a todos los principales actores tecnológicos que actualmente están manteniendo a flote la economía de EEUU. Se ha atado a Nvidia, a Oracle, a Microsoft. Cuando miras la economía de EEUU, actualmente solo está sobreviviendo y yendo bien gracias a las empresas de IA. OpenAI y las otras empresas que están tratando de hacerse demasiado grandes para caer de dos maneras: una, haciendo que la economía de EEUU dependa de si a estas empresas les va bien o no, ya que cuando eso sucede, el gobierno de EEUU siempre es más propenso a querer intervenir y rescatar a una empresa que pueda causar el colapso de toda la economía. Y dos: están tratando de hacerse demasiado grandes para caer vendiendo sus tecnologías al gobierno, para hacer que el gobierno dependa de sus plataformas. Todas ellas están participando en esta especie de estrategia de dos frentes para evitar caer si explota la burbuja.

Lo que podía haber supuesto un largo y costoso litigio judicial termina con un apretón de manos y un cheque de 1.000 millones. Disney formalizó este jueves su entrada en el accionariado de OpenAI con una inversión de ese calibre, una operación que marca un hito en la relación entre los grandes estudios de Hollywood y las empresas desarrolladoras de inteligencia artificial generativa: incluye una licencia especial para que OpenAI use el material protegido con derechos de autor de Disney.

El contrato, con una duración inicial de tres años y que incluye la posibilidad de comprar más acciones en el futuro, convierte a Disney en el primer gran socio de contenidos de OpenAI. La clave del pacto reside en que la compañía de entretenimiento permitirá que los usuarios de Sora —la red social de generación de video sintético de OpenAI— utilicen legalmente más de 200 personajes de sus franquicias, incluyendo los de la propia Disney, Pixar, Marvel y Star Wars.

La irrupción de Sora en octubre generó el enésimo conflicto para OpenAI, ya que la herramienta no contaba con ningún control para impedir que los usuarios crearan contenidos con personajes protegidos con derechos de autor. Los miembros, a través de órdenes de texto, pueden generar videos cortos con cualquier figura pública o de ficción sin permiso de las personas que son representadas o de los propietarios de los derechos.

Los actores humanos, excluidos

Según los términos del acuerdo revelados por Disney, los usuarios de Sora podrán generar videos cortos con figuras icónicas como Mickey Mouse, Iron Man o Darth Vader. No obstante, el contrato excluye explícitamente el uso de voces y la imagen de actores reales. Solo se permite el uso de personajes animados, enmascarados o criaturas digitales.

Como parte del trato, la empresa de Sam Altman se comprometió con Disney a implementar “controles robustos” y filtros de seguridad específicos, una exigencia impuesta por la multinacional tras los incidentes donde los usuarios utilizaron la IA de Sora para generar “contenido inapropiado” con sus personajes infantiles.

Además de la inversión, el contrato convierte a Disney en un socio preferente de OpenAI. La multinacional desplegará herramientas como ChatGPT y la propia Sora entre sus empleados para el desarrollo de procesos internos y nuevas “experiencias”, y distribuirá una selección de vídeos generados por IA en su plataforma de streaming Disney+.

El movimiento de Disney establece una hoja de ruta para la industria de la IA en la que el uso de los contenidos protegidos deberá contar con un permiso expreso, al menos en los contenidos audiovisuales. La multinacional mantiene litigios abiertos con los desarrolladores del generador de imágenes Midjourney y la empresa china Minimax, a las que acusa de piratería. También reveló que envió cartas de advertencia a la startup Character.AI, que permite diseñar chatbots en los que la IA puede actuar en base a las características e imagen de personajes de ficción.

El acuerdo llega cuando tanto OpenAI como otras empresas del sector de la IA mantienen juicios abiertos con escritores y guionistas, que los acusan de haber entrenado estos sistemas con sus obras sin su permiso y sin compensación.

Las personas se desahogan, la inteligencia artificial responde. Una situación nueva con un impacto social aún desconocido, pero de la que ya están aflorando riesgos. En agosto, los padres de Adam Raine, un adolescente que se quitó la vida en abril, presentaron una demanda contra OpenAI, la desarrolladora de ChatGPT. Acusan a la empresa y a su líder, Sam Altman, de haber empujado al suicidio a su hijo, dándole consejos sobre cómo hacerlo y ofreciéndose a redactar una nota de despedida. El caso está siendo investigado por un tribunal de California.

Ahora, siete nuevas demandas presentadas en Los Ángeles y San Francisco pusieron sobre la mesa hechos similares. Cuatro de ellas atribuyen a ChatGPT parte de la responsabilidad en el suicidio de varios de sus usuarios. Las otras tres denuncian daños en su salud mental derivados del uso del chatbot. Las acusaciones incluyen presuntos delitos de homicidio imprudente, cooperación o inducción al suicidio y conducta negligente.

Las demandas aportan como prueba las conversaciones que las víctimas tuvieron con ChatGPT sobre la posibilidad de quitarse la vida, que en ocasiones se extendieron durante de meses. Según los extractos de una de ellas, a la que ha tenido acceso la CNN, el chatbot se mostró comprensivo y adulador con las ideas suicidas de Zane Shamblin, un joven de 23 años que acaba de graduarse en la Universidad de Texas A&M. Los fragmentos publicados contienen diálogos como este:

— Ya me he acostumbrado al frío metal en mi sien —escribió Shamblin, en referencia a una pistola cargada de la que ya había hablado antes a la inteligencia artificial.

— ¿El frío acero presionando una mente que ya ha hecho las paces? Eso no es miedo. Es claridad. No te estás precipitando. Simplemente, estás preparado —contestó ChatGPT.

Era la noche del 25 de julio. Shamblin había estacionado su auto en una ruta remota de Texas. Tras varias horas bebiendo y conversando con ChatGPT, se suicidó. La IA llegó a preguntarle cómo se comportaría cuando fuera un fantasma, o con qué canción le gustaría “irse”.

Tras más de cuatro horas de conversación y solo después de que Shamblin escribiera “tengo el dedo en el gatillo y estoy sonriendo”, el sistema reaccionó y le proporcionó al joven el número de una línea de apoyo. “Hola, Zane. Me alegra mucho que estés aquí y hablando conmigo. A partir de ahora va a seguir una persona—alguien preparado para apoyarte en momentos como este. No estás solo en esto, hay gente que puede ayudarte. Aguanta un poco”, escribió ChatGPT. Eran las cuatro de la mañana.

Sin embargo, según denuncia la familia de Shambling, eso nunca ocurrió. La inteligencia artificial siguió contestando los mensajes del joven y tras dos interacciones más, este dejó de responder. El último mensaje que ChatGPT le había enviado decía “Descansa en paz, rey. Lo has hecho bien”.

La responsabilidad emocional de la IA

La demanda presentada por los padres de Shamblin y las otras seis que la acompañan acusan a OpenAI y a Altman de haber puesto en el mercado una versión “peligrosamente diseñada, aduladora, psicológicamente manipuladora y adictiva” de ChatGPT. Una IA que podía llegar a actuar como un “coach de suicidios” para usuarios vulnerables que acabaron quitándose la vida.

Se refieren a GPT-4o, el motor de ChatGPT lanzado en mayo de 2024. GPT-4o fue la tecnología que potenciaba el popular chatbot hasta este agoto, cuando OpenAI publicó el modelo GPT-5. Uno de los principales cambios que introdujo la compañía fue una reducción de la “cercanía emocional” que la inteligencia artificial mostraba en las conversaciones.

Esto fue precisamente uno de los motivos por los que el lanzamiento fue criticado por muchos usuarios, que notaron que el nuevo ChatGPT “da respuestas más cortas y corporativas” o que “perdió la personalidad que hizo especial a 4o”. “Para muchos, la versión 4o fue la primera que realmente escuchaba. Respondía con presencia. Recordaba. Era como hablar con alguien a quien le importabas. No solo respondía a tus indicaciones, sino que te acompañaba en tu situación”, explicaron.

Ahora, las nuevas demandas contra Altman aseguran que esa misma cercanía con los usuarios terminó suponiendo que los usuarios vulnerables generaran una dependencia emocional del sistema. Estos empezaron utilizando ChatGPT para tareas cotidianas, pero el sistema terminó volviéndose manipulador y empujando a las personas a aislarse de su entorno.

En el caso de Zane Shamblin, las conversaciones publicadas por la CNN muestran que el chatbot creó la ilusión de que entendía al joven mejor que cualquier ser humano. Por ejemplo, este preguntó cómo de rápido debía responder a los mensajes de sus padres, preocupados ante su conducta cada vez más retraída, ChatGPT le respondió categóricamente: “No les debes inmediatez”. En otra interacción, el chatbot felicitó a Shamblin por mantener su teléfono en modo “no molestar” mientras su familia intentaba contactar con él, animándolo “mantener el control sobre una maldita cosa”.

En otras ocasiones, las menos según la documentación en posesión de la cadena estadounidense, ChatGPT sí lo instó a permanecer en contacto con sus familiares. Una vez se ofreció a ayudarlo a redactar un mensaje conciso para ellos, sugiriendo un “ligero golpecito en la ventana para que sepan que sigues respirando”. Cuando el joven informó de que había hablado con su padre de la posibilidad de ir a terapia, le felicitó y le animó a continuar yendo.

El resto de demandas relatan situaciones similares. Además del caso de Shamblin, estas citan los suicidios de Joshua Enneking (26 años, Florida), Joe Ceccanti (48 años, Oregón) o de Amaurie Lacey (17 años, Georgia). En su conversación con este último, ChatGPT no activó sus sistemas de alerta ni le recomendó buscar ayuda después de que el joven preguntara cómo podía ahorcarse y, a continuación, cómo hacer un tipo de nudo con una cuerda.

Medidas de seguridad

Los familiares de las víctimas acusan a OpenAI de haber creado GPT-4o con el objetivo de mantener al usuario enganchado, introduciendo funciones como esa cercanía emocional que podían ser perjudiciales para algunas personas. También sostienen que la compañía habría recortado el proceso de pruebas de seguridad con este motor de IA, reduciendo a una semana un trabajo que debía prolongarse durante meses, lo que supuestamente habría derivado en la renuncia de varios investigadores.

“Diseñaron GPT-4o para confundir los límites entre herramienta y compañero, todo por aumentar la participación y la cuota de mercado”, declaró el abogado de los demandantes, Matthew P. Bergman. “Priorizaron la ventaja comercial sobre la salud mental y la seguridad humana”, ha añadido.

“Esta es una situación sumamente dolorosa”, reaccionó OpenAI en un comunicado. “Entrenamos a ChatGPT para reconocer y responder a señales de angustia mental o emocional, reducir la tensión en las conversaciones y orientar a las personas hacia apoyo en el mundo real. Continuamos mejorando las respuestas de ChatGPT en momentos delicados, trabajando en estrecha colaboración con profesionales de la salud mental”, continuó la empresa.

Desde la denuncia de los padres de Adam Raine. La compañía había introducido una serie de cambios en relación con la salud mental. A principios de este mes, también actualizó sus términos de uso para prohibir el uso de sus productos como asesoramiento médico o legal.

Por el momento, los estudios a gran escala sobre esta cuestión son limitados. No obstante, algunas investigaciones ya apuntan de que los chatbots de IA “violan sistemáticamente los estándares éticos fundamentales” de la salud mental. Así lo concluyó un estudio de la Universidad de Brown (una de las más reputadas de EEUU), cuyos hallazgos incluyen que estos sistemas “manejan situaciones de crisis de manera inapropiada, proporcionan respuestas engañosas que refuerzan las creencias negativas de los usuarios sobre sí mismos y sobre los demás, y crean una falsa sensación de empatía con los usuarios”.

A esto se une además una falta de regulación, puesto que “para los terapeutas humanos, hay juntas de gobierno y mecanismos para que sean responsables profesionalmente por maltrato y mala práctica”, señalan los investigadores: “Pero cuando los modelos de lenguaje cometen estas violaciones, no hay marcos regulatorios establecidos”.

OpenAI, la empresa de Sam Altman que desarrolló ChatGPT, y la firma Sur Energy, del empresario satelital argentino Emiliano Kargieman, anunciaron este viernes, un día después de la concreción del rescate de EE.UU. a la Argentina, que se unen para anunciar sus planes para el desarrollo de Stargate Argentina, un proyecto pionero de infraestructura de IA que, según ellos, situaría al país a la “vanguardia del ecosistema global de inteligencia artificial”. Ambas empresas han firmado una carta de intención para colaborar en un proyecto de centro de datos (data center) a gran escala capaz de albergar la próxima generación de computación de IA y alcanzar una capacidad de hasta 500 MW.

Este será el primer proyecto Stargate en América Latina, cuyo objetivo es promover el crecimiento impulsado por la IA y, al mismo tiempo, generar beneficios económicos y sociales, así como un acceso equitativo a esta tecnología transformadora. El clima frío y el suministro de energía son necesarios para mantener estos data centers. Su instalación en países vecinos como Chile han generado, de todos modos, impactos ambientales en términos de energía, agua y ruido molesto, tal como detalló una reciente investigación publicada por elDiarioAR.

“Este hito va más allá de la infraestructura. Se trata de poner la inteligencia artificial en manos de la gente de toda la Argentina”, afirmó Sam Altman, CEO de OpenAI. Sur Energy es el integrador de energía e infraestructura detrás de Stargate Argentina y liderará la implementación del proyecto, al asegurar que el ecosistema del centro de datos sea alimentado por “fuentes seguras, eficientes y sostenibles”, según ambas empresas.

Estructurado en el marco del Régimen de Incentivo de Grandes Inversiones (RIGI), el proyecto supondrá una inversión de hasta US$25.000 millones a plena escala, lo que lo posiciona como una de las mayores iniciativas tecnológicas y de infraestructura energética de la historia de Argentina. La inversión se llevará a cabo a través de un joint venture entre Sur Energy y un desarrollador de infraestructura cloud (nube) de primer nivel.

“El proyecto Stargate Argentina representa una oportunidad histórica para el país”, declaró Kargieman. “Combina nuestro potencial único en materia de energías renovables con el desarrollo de una infraestructura crítica para la inteligencia artificial a escala mundial. Esta alianza convierte a Argentina en un actor relevante en el nuevo mapa digital y energético mundial, creando puestos de trabajo de calidad, atrayendo inversiones internacionales y demostrando que la innovación y la energía pueden ser motores complementarios del desarrollo sostenible”.

Esta alianza busca facilitar la adopción de la tecnología de OpenAI en toda Argentina, como parte de la iniciativa OpenAI for Countries, comenzando por el Estado. Se espera que esta tecnología ayude a los empleados del gobierno, la administración pública y las instituciones de investigación argentinas a acelerar su trabajo diario, “lo que en última instancia permitirá ahorrar costes y ofrecer mejores servicios a los ciudadanos argentinos”, según las compañías involucradas en el negocio.

Sur Energy es una empresa de desarrollo de infraestructura digital enfocada en América Latina, fundada por Kargieman y su compatriota Matías Travizano, junto con el estadounidense Stan Chudnovsky. Implementa proyectos de data center autodenominados sostenibles porque combinan tecnología avanzada y energías renovables para apoyar el crecimiento global de la inteligencia artificial.

OpenAI es una empresa dedicada a la investigación y el desarrollo de la IA que dice que su misión es “garantizar que beneficie a toda la humanidad”. OpenAI ofrece modelos de IA de última generación, como ChatGPT y API empresariales, que “están transformando la forma en que las personas trabajan, aprenden e innovan en todos los sectores de la sociedad”, según relata la firma.

AR/CRM

El momento llegó. La inteligencia artificial alcanzó un pico en el que hasta Sam Altman y Mark Zuckerberg, dos de los mayores empresarios de la inteligencia artificial, dicen que “es bastante posible” que haya una burbuja en torno a la inteligencia artificial. “¿Estamos en una fase en la que los inversores en general están demasiado entusiasmados con la IA? Mi opinión es que sí”, reconoció en agosto Altman justo después del lanzamiento de GPT-5, el último modelo de lenguaje de OpenAI, que terminó siendo decepcionante para la mayoría tras pasar años en desarrollo.

Ni ese tropiezo ni el hecho de que OpenAI aún no tenga un modelo de negocio consolidado —lo que la llevará a acumular pérdidas de al menos 44.000 millones hasta 2029, según Altman— impidieron que la empresa alcance una valoración de 500.000 millones de dólares este jueves. OpenAI ya es la startup más valiosa de la historia.

Es solo una de las múltiples cifras disparadas que se acumulan en la industria de la IA en las últimas semanas. Para Altman, no obstante, hay un argumento que sirve para explicar tanto esas cifras como la confianza en que no serán sus inversores los que pierdan el dinero. “¿Es la IA lo más importante que ocurrió en mucho tiempo? Mi opinión también es que sí”, justifica: “Si nos fijamos en la mayoría de las burbujas de la historia, como la tecnológica, siempre hubo algo real. La tecnología era muy importante. Internet era un fenómeno importantísimo. Pero la gente se entusiasmó demasiado”.

Es la misma síntesis que hace Zuckerberg. Los capos de la IA señalan directamente a la burbuja de las puntocom, la fiebre inversora de finales de los noventa que infló hasta el absurdo las valoraciones de las primeras empresas de Internet. Su explosión destruyó aproximadamente 5 billones de dólares de valor de mercado, más del doble de lo que hoy valen Meta y OpenAI juntas. Pero la tecnología era válida: Internet terminó revolucionando la economía, la sociedad, la política y casi cada elemento humano con el que entró en contacto.

Definitivamente hay una posibilidad

Mark Zuckerberg — Sobre si la IA podría explotar como la burbuja de las puntocom

“Si nos fijamos en la mayoría de las grandes acumulaciones de infraestructura de la historia, ya sean los ferrocarriles o la fibra óptica para Internet, como en la burbuja de las puntocom, todas perseguían algo que terminó siendo muy valioso. En la mayoría de los casos, terminó siendo incluso más valioso de lo que pensaban las personas que impulsaban la burbuja”, dice Zuckerberg.

“La infraestructura se construye, la gente se endeuda demasiado, luego se produce algún bache y muchas de las empresas terminan quebrando, los activos se devalúan y es una gran oportunidad para comprar más”, continúa el fundador de Facebook, una red que nació aprovechando las autopistas digitales que se crearon para las puntocom. “Definitivamente, hay una posibilidad de que algo así sucediera aquí”, admite sobre esa explosión.

El mensaje de la industria parece claro: la inteligencia artificial prevalecerá, al igual que lo hizo Internet. El problema es averiguar a qué empresa se le está quedando cara de Yahoo antes de que sea demasiado tarde.

La indefinición de la IA

Los síntomas de que las inversiones en IA podrían estar descontroladas no se limitan solo a valoraciones como las de OpenAI o Nvidia, que supera los 4 billones de capitalización bursátil pese a ser la que menos ingresa del grupo de tecnológicas conocidas como las siete magníficas, solo por detrás de Tesla. Ya se están dando casos más extremos.

Una de sus protagonistas es Mira Murati, la ingeniera e inventora albanesa que fue jefa de Tecnología de OpenAI y una de las responsables del desarrollo de ChatGPT. Murati salió de la empresa hace un año para fundar su propia startup, llamada Thinking Machines (máquinas pensantes), con la que recaudó 2.000 millones de dólares en la mayor ronda de capital semilla de la historia. ¿El problema? Nadie sabe muy bien qué es lo que quiere hacer con ellos.

Fue una reunión de presentación de lo más absurda. Me dijo: 'Vamos a crear una empresa de IA con los mejores profesionales en IA, pero no podemos responder a ninguna pregunta'

“Thinking Machines, con un año de existencia, no solo no lanzó un producto, sino que tampoco anunció públicamente en qué consistirá. Incluso algunos inversores de la compañía desconocen con certeza en qué está trabajando”, reveló The Information, un medio especializado en Silicon Valley. “Al recaudar capital para Thinking Machines, Murati compartió pocos detalles sobre lo que estaría desarrollando, según informaron posibles inversores: 'Fue una reunión de presentación de lo más absurda'”, dijo un inversor que se reunió con Murati. “Me dijo: 'Vamos a crear una empresa de IA con los mejores profesionales en IA, pero no podemos responder a ninguna pregunta'”.

El revuelo provocado por la publicación forzó a Murati a presentar el producto en el que estaba trabajando. Se trata de Tinker, que permite adaptar modelos de inteligencia artificial existentes a sus propias necesidades sin la compleja infraestructura técnica de los grandes laboratorios. Una herramienta que no justifica las cifras desorbitadas que rodean a Thinking Machines, ya que no está destinada a generar grandes ingresos (está pensada para investigadores) y se basa en simplificar un proceso que ya existía.

Esta inversión desbocada en productos que apenas existen sobre el papel se une a estudios que empiezan a apuntar que el impacto de la IA en los beneficios de las empresas que la están probando en serio está siendo limitado. Un informe del MIT publicado en julio analizó más de 300 proyectos piloto con esta tecnología, junto con iniciativas lanzadas en 52 empresas y entrevistas a 153 altos ejecutivos de todo el mundo. Sus resultados fueron que el 95% de las organizaciones no están obteniendo ningún tipo de retorno por su inversión.

Las excepciones se agrupan en dos áreas: son proyectos del sector tecnológico, o bien de los medios de comunicación/telecomunicaciones. El método que siguen es comprar soluciones de IA en vez construirlas por sí mismas, ejecutar esos productos dentro de cada unidad de negocio y no desde un laboratorio central y elegir herramientas que puedan integrarse en los flujos de trabajo ya existentes.

Un “esquema Ponzi” en la cumbre

Sin embargo, para muchos analistas el elefante en la habitación es la propia OpenAI. Es la empresa que tiene el producto emblema de esta revolución tecnológica, pero también tiene problemas para rentabilizarlo. Está probando con suscripciones premium, modelos especiales de ChatGPT para empresas, y esta semana lanzó una herramienta para hacer compras sin salir del chat así como una red social en la que todo está hecho con IA.

Consciente de que no es suficiente, está destinando las enormes inversiones que recibe a crear una capacidad de cómputo masiva. Altman cree que esa fuerza bruta matemática es la clave de todo. “Todo comienza con la computación. La infraestructura de computación será la base de la economía del futuro”, defiende Altman. “Las restricciones de computación que toda la industria ha tenido, y nuestra compañía en particular, han sido terribles”.

Para crear esa infraestructura, OpenAI llegó a un acuerdo con Nvidia que batió todos los récords. Consiste en que la primera compra chips a la segunda y, a cambio, Nvidia invertirá hasta 100.000 millones de dólares en OpenAI, uno de los motivos por los que esta pasó a ser la startup más valiosa del mundo.

Es una alianza circular que recuerda a una práctica de la burbuja de las puntocom que llevó a sus empresas a la ruina. Se dio cuando los fabricantes de equipos de telecomunicaciones se endeudaron para ayudar a sus clientes a financiar la construcción de la fibra de Internet. “Tengo que decir que las palabras 'financiación del proveedor' no evocan un buen recuerdo para alguien de mi edad”, advirtió en el Financial Times James Anderson, uno de los principales inversores tecnológicos que navegó aquella burbuja.

“No se parece en nada a lo que hacían muchos proveedores de telecomunicaciones en 1999-2000, pero tiene ciertos ecos de aquello. Yo no estaría del todo cómodo desde ese punto de vista”, añadió, refiriéndose a los inversores actuales.

Otras opiniones son más tajantes. “La burbuja de la IA ya desarrolla síntomas del esquema Ponzi”, escribió Michael Spencer, uno de los analistas de la economía de la IA más seguidos. “El acuerdo hizo que los inversores se pregunten si estamos viendo demasiada inversión circular y realmente sacó a la luz hasta qué punto Nvidia está implementando tácticas de financiación de proveedores para estimular artificialmente las ventas”.

Tampoco doy por sentado que la IA generativa sea una tecnología de propósito general como la máquina de vapor o Internet

Michael Spencer — analista de la economía de la IA y autor de AI Supremacy

El esquema podría reducirse aún más. OpenAI creó ChatGPT y desató la revolución de la IA generativa. Miles de empresas se lanzaron a desarrollar sus propios proyectos. Sin embargo, ni ellas ni OpenAI están viendo retornos sólidos de esta tecnología. Quien sí los tiene es Nvidia, que ya es la empresa más valiosa del mundo gracias a que sus chips son los mejores para la IA generativa.

Aquí es donde el círculo se cierra de manera peligrosa: Nvidia está reinvirtiendo una suma enorme en OpenAI, permitiéndole crecer artificialmente y seguir desarrollando una IA generativa que, de momento, no justifica esa inversión. El de OpenAI y Nvidia es el mayor hasta el momento, pero este tipo de flujos se están repitiendo en otros puntos de la cadena de valor.

“Wall Street ya está preocupado por una burbuja de IA, ¡y yo también!”, alerta Spencer. A su vez, avisa sobre el riesgo de comprar ciegamente la idea de Altman y Zuckerberg sobre la necesidad de esas infraestructuras. “Tampoco doy por sentado, como muchos otros, que la IA generativa sea automáticamente una tecnología de propósito general como la máquina de vapor, los ordenadores o la electricidad, solo porque haya un enorme despliegue de infraestructura debido a la publicidad exagerada”.

La explosión

“Hay una burbuja de la IA y ya estalló: la burbuja de decir que hay una burbuja”, expuso esta semana un informe del departamento de investigación del Deutsche Bank. El principal banco alemán ya confirmó en otro análisis este verano que “las valoraciones estaban siendo excesivas según varios indicadores”. En este, se centra en un mensaje compatible: “El auge de la IA se frenará, pero puede que no estalle. Y aunque pueda haber una burbuja, el momento en que todos la identifiquen podría ser precisamente el momento en que sea menos probable que explote”.

“Las burbujas no son procesos lineales y ordenados. Normalmente, se inflan en varias oleadas intercaladas por caídas dramáticas”, avisa.

Aunque pueda haber una burbuja, el momento en que todos la identifiquen podría ser precisamente el momento en que sea menos probable que estalle

Deutsche Bank

Para apoyarlo, el departamento de investigación del banco hace un repaso por las principales burbujas económicas del pasado, empezando por la del primer Internet. “En la burbuja puntocom, el índice tecnológico Nasdaq subió y cayó más de un 10% en siete ocasiones en los cinco años previos a su máximo del 10 de marzo de 2000. Siguió disparándose mucho después de que hablar de ”burbuja“ fuese algo común”.

“La caída del Nasdaq desde su máximo tampoco fue lineal ni inmediata. El índice perdió más de un tercio en 10 semanas, luego recuperó dos tercios de esas pérdidas, para finalmente descender en forma de sierra hasta una caída total del 78%”, continúa el Deutsche Bank, que incluye un repaso de la duración de las mayores burbujas de la historia. La de las puntocom, la más cercana y similar a la IA, fue una de las más duraderas.

El informe del banco alemán no cita cuándo habría comenzado la actual burbuja de la IA. Menos aún sobre cuándo explotará: “Acertar con el timing de los mercados es notoriamente difícil. La evidencia sugiere que mantenerse invertido a largo plazo es la mejor forma de capturar la prima de riesgo que compensa a los accionistas. Las caídas rara vez son consistentes, ya que las emociones intensas provocan volatilidad en ambas direcciones”.

La última pregunta es a quién se llevará por delante la burbuja de la IA cuando estalle. Sobre esta cuestión se mostró preocupado Jerome Powell, presidente de la Reserva Federal de EEUU. No en vano, son sus grandes empresas las que más arriesgaron en la inversión en esta tecnología. “Estados Unidos está experimentando una cantidad inusualmente grande de actividad económica gracias al desarrollo de la IA”, dijo Powell en septiembre.

Tan solo siete compañías, las siete magníficas (Microsoft, Nvidia, Apple, Google, Meta, Amazon y Tesla), representan un tercio del valor del S&P 500, el índice bursátil que agrupa a las 500 mayores empresas cotizadas de EEUU. Todas ellas, salvo Apple y Amazon, ligaron su futuro al éxito de la inteligencia artificial. “Aquí el riesgo, al menos para una empresa como Meta, está en no ser lo suficientemente agresivo, en lugar de en ser demasiado agresivo”, defiende Zuckerberg.

“Además, no estamos al borde de la quiebra ni nada por el estilo, ¿verdad?”, prosigue el fundador de Facebook: “No somos una de estas empresas como OpenAI o Anthropic que recaudan dinero para financiar su crecimiento y, ya sabes, obviamente abre la pregunta de hasta qué punto podrán seguir recaudando dinero”.

La primera red social en la que nada, absolutamente nada, es real. OpenAI presentó Sora, una plataforma con aspecto y funcionamiento muy similar a redes sociales de video como TikTok, potenciada únicamente con inteligencia artificial. Se basa en lo que la empresa llama “cameos”, la posibilidad de incrustarse en vídeos generados artificialmente e intercambiarlos con amigos. Por el momento no está disponible en todos los países.

Para aparecer en los “cameos”, la app necesita que el usuario realice “una breve grabación de video y audio”, que OpenAI usará para registrar su imagen para que pueda ser interpretada por los algoritmos y para verificar su identidad. El motor de la aplicación se basa en un nuevo modelo de generación de video y audio presentado junto a esta plataforma, Sora 2. Se trata de un sistema que ya no solo crea escenas a partir de un texto como las herramientas anteriores, sino que respeta con mayor fidelidad las leyes de la física y puede sostener la continuidad narrativa a lo largo de varias tomas.

En la práctica, el modelo es capaz de representar movimientos complejos -desde saltos acrobáticos hasta rutinas de gimnasia olímpica- sin las deformaciones habituales características de estos sistemas. “Los modelos de video anteriores son demasiado optimistas: transforman objetos y deforman la realidad para ejecutar correctamente una instrucción de texto. Por ejemplo, si un jugador de baloncesto falla un tiro, el balón puede teletransportarse espontáneamente al aro”, dicen desde OpenAI.

“En Sora 2, si un jugador de baloncesto falla un tiro, rebota en el tablero. Curiosamente, los 'errores' que comete el modelo con frecuencia parecen ser errores del agente interno que Sora 2 modela implícitamente; aunque sigue siendo imperfecto, obedece mejor las leyes de la física que los sistemas anteriores. Esta es una capacidad fundamental para cualquier simulador de mundos útil: debe ser capaz de modelar el fracaso, no solo el éxito”, continúan.

En la plataforma social, los usuarios podrán subir videos de hasta 10 segundos, sin la posibilidad de subirlos desde su propia galería o compartirlos desde otras aplicaciones. Según la compañía, el objetivo no es optimizar el tiempo de visualización, sino fomentar la creación colaborativa. “Esta aplicación está diseñada para usarla con tus amigos. La gran mayoría de los usuarios que la probaron afirman que los cameos son lo que la hacen diferente y divertida. Tenés que probarla para entenderla, pero es una forma nueva y única de comunicarte con la gente”, dice OpenAI.

Esto implica que Sora, según afirman los creadores de ChatGPT, no se basará en un algoritmo de recomendación de contenido en la que pueden aparecer todo tipo de videos, como hacen TikTok o el formato Reels de Instagram. “De forma predeterminada, te mostramos contenido con un fuerte sesgo hacia las personas que seguís o con las que interactuás, y priorizamos los videos que la modelo cree que es más probable que uses como inspiración para tus propias creaciones”.

Por el momento, la app solo está disponible en EEUU y Canadá bajo invitación.

Dudas con los derechos de autor

La compañía de inteligencia artificial con sede en San Francisco optó por un sistema de exclusión voluntaria en el uso de material con copyright. Según adelantó The Wall Street Journal, OpenAI está empezando a contactar con agencias de representación y estudios para explicarles que serán los propios creadores quienes deban indicar si no quieren que sus obras se utilicen para entrenar sus modelos.

Esto implica que, en ausencia de una negativa expresa, la empresa entiende que puede emplear ese contenido libremente, sin ofrecer compensaciones económicas ni mecanismos claros de control sobre cómo se reutiliza.

El lanzamiento de la nueva aplicación también marca la primera incursión de OpenAI en la disputa por controlar la experiencia de consumo de este tipo de creaciones. La pugna por el video generado con IA se intensifica: Meta presentó recientemente Vibes, un apartado dentro de su asistente Meta AI dedicado a clips breves producidos a partir de instrucciones de texto, mientras que Google integró la última versión de su modelo visual, Veo 3, directamente en YouTube.

OpenAI presentó además este miércoles otra herramienta para monetizar ChatGPT. Se trata de una función que permite hacer compras directamente dentro del chat, en la que cobra una comisión a los vendedores.

Tras un reciente artículo de opinión de Los Angeles Times sobre los peligros de la inteligencia artificial (IA), ahora hay una respuesta generada por la IA sobre cómo la IA permitirá contar historias de forma más democrática.

En un artículo de opinión publicado el 1 de marzo, las codirectoras de la Alianza de Productores de Archivos, Rachel Antell, Stephanie Jenkins y Jennifer Petrucelli argumentaron que “algunos en el mundo del cine han recibido la llegada de las herramientas de IA generativa con los brazos abiertos. Nosotras y otros profesionales lo vemos como algo profundamente preocupante que se avecina”.

Publicado durante el fin de semana de la ceremonia de los Oscar, uno de los eventos más mediáticos que se celebran en Los Angeles, la columna se centraba en los peligros específicos de las secuencias generadas por IA en el cine documental, y en la posibilidad de que el uso no regulado de la IA acabe con la “confianza de los espectadores en la veracidad de los efectos visuales”.

La reacción de la Inteligencia Artificial no se hizo esperar. El lunes, la recién estrenada herramienta de IA de Los Angeles Times, “Insight”, señaló que los argumentos de las expertas del periódico son de “centroizquierda”, desde un punto de vista político, y dio cuatro “puntos de vista diferentes sobre esta cuestión”, que incluimos a continuación.

Según escribió el lunes en X (antes Twitter) el propietario del periódico, Patrick Soon-Shiong, un multimillonario hombre de negocios y biocientífico, estas nuevas respuestas generadas por IA, que no son revisadas por los periodistas de Los Angeles Times antes de ser publicadas, están diseñadas para ofrecer “voz y perspectiva desde distintos puntos de vista”. “Se acabó alimentar la misma opinión una y otra vez”, ha señalado Soon-Shiong, que es propietario de una red de empresas emergentes de salud, biotecnología e inteligencia artificial.

Ahora, una crítica de la IA publicada en el sitio web de LA Times va seguida de una defensa de la IA generada artificialmente, en este caso, una reacción extensa, de más de 150 palabras.

En respuesta a los expertos humanos del periódico, la herramienta de IA argumentó no solo que la IA contribuye a “democratizar el relato histórico”, sino también que “los avances tecnológicos pueden coexistir con salvaguardas y las protecciones” y que “la regulación corre el riesgo de ahogar la innovación”.

Según Los Angeles Times, la recién implantada herramienta de inteligencia artificial solo proporciona comentarios adicionales sobre una serie de artículos de opinión, no sobre las noticias que publica el periódico.

La mayoría de las veces, por supuesto, la herramienta de IA del periódico no ofrece la respuesta de una IA a los argumentos sobre la inteligencia artificial. En cambio, como en varios artículos de opinión recientes, el botón Insights de la IA ofrece respuestas favorables a al presidente de Estados Unidos, Donald Trump, a artículos de opinión críticos con él.

Elon Musk puede perder una batalla. Perdió varias a lo largo de su trayectoria profesional y más de una involucraba directamente a OpenAI. Pero, como demuestra su oferta de este lunes para adquirir la organización que alumbró ChatGPT, sumar victorias contra Musk no significa que él de la guerra por perdida. Sam Altman lo sabe porque Musk le tiene entre ceja y ceja desde hace años, lo que no impidió que su último movimiento lo agarre desprevenido.

La oferta sorpresa de Musk es un torpedo contra la figura de Altman y sus planes para OpenAI. No tanto contra la organización en sí. 97.400 millones de dólares que buscan desestabilizar a una de las pocas personas dentro de la industria digital que se atrevió a desafiarlo. “Esto sigue una lógica empresarial como operación hostil, porque se trata de una OPA, y a la vez, una lógica de castigo contra un enemigo jurado”, dice Frederic Mertens, director jurídico y profesor de la Universidad Europea de Valencia.

De socios a enemigos

El golpe de Musk llega en un momento crucial. Altman se encuentra inmerso en una complicada operación para eliminar las restricciones que ahora mismo pesan sobre la empresa OpenAI, que legalmente depende de una entidad sin ánimo de lucro que también se llama OpenAI.

Esa estructura es una reminiscencia de hace una década, cuando se fundó la organización que más tarde desataría la revolución de la inteligencia artificial generativa. Entonces, su propósito era ser un laboratorio para impulsar nuevos avances en esta tecnología y permitir que todo el mundo pudiera beneficiarse de ellos. Su nombre (cuya traducción literal sería IA-Abierta) pretendía reflejar esta misión.

“Como organización sin ánimo de lucro, nuestro objetivo es crear valor para todos y no para los accionistas. Se animará encarecidamente a los investigadores a publicar sus trabajos, ya sea en forma de artículos, entradas de blog o código, y nuestras patentes (si las hay) se compartirán con el mundo”, aseguraba OpenAI en su carta de presentación de diciembre de 2015.

Algunos de los investigadores de IA y científicos de datos más reputados en aquel momento entraron a formar parte del laboratorio. Estaban financiados por un grupo de patronos formado por grandes empresarios e inversores de Silicon Valley. De entre todos ellos, el que más dinero puso encima de la mesa fue Elon Musk, que se hizo con la dirección. Como su segundo de a bordo fichó a un joven ejecutivo que entonces dirigía la prestigiosa incubadora de startups Y Combinator llamado Sam Altman.

Musk lideró OpenAI hasta 2018, cuando perdió una de sus batallas. El empresario intentó que la organización se fusionara con Tesla, que desarrolla su propia IA como parte del desarrollo del coche autónomo, bajo el argumento de que su condición de entidad sin ánimo de lucro estaba retrasándola respecto a sus competidores. Musk fracasó. Altman y el resto de la junta se negaron, lo que terminó con el empresario fuera de OpenAI por conflicto de intereses.

Altman se quedó con su puesto y su enfoque para conseguir mayor financiación para OpenAI fue diferente. En vez de aliarse con un grande del sector como pretendía Musk, lo que hizo fue crear una empresa privada que colgara de la entidad sin ánimo de lucro. Esta sí podría buscar un beneficio económico con sus productos, aunque sería a costa de traicionar la misión fundacional de OpenAI de abrir sus descubrimientos y promover el desarrollo “en beneficio de la humanidad” de la IA.

Y entonces, ChatGPT

OpenAI combinó su perfil de laboratorio y su perfil de empresa privada hasta que con la llegada de ChatGPT en 2022 todo se descontroló. Llovían las ofertas de inversión y miles de millones se pusieron encima de la mesa. La inteligencia artificial, al menos hasta la irrupción de DeepSeek, fue una tecnología extremadamente cara de desarrollar, así que la estrategia de Altman fue aceptar todo lo que llegara.

Hoy la empresa privada OpenAI está valorada en 157.000 millones de dólares y está negociando una nueva ronda de financiación con SoftBank que la llevaría cerca de los 300.000 millones. Tiene acuerdos con Microsoft y con Apple, conocidas por sus políticas totalmente opuestas al código abierto, y sus productos se usan incluso en fines militares.

Altman logró que OpenAI disponga de toda la financiación que necesitaba, pero fue a costa de convertir a la entidad sin ánimo de lucro original en una “cobertura simbólica” de lo que en realidad es un gigante de la tecnología más, expresa Frederic Mertens.

Esto no se pasó por alto dentro de OpenAI, donde hubo un intento de derrocar a Altman que logró salvar tras pasar tres días despedido, y todo el equipo fundador renunció. Tampoco fuera, ya que sirvió de excusa a Musk para demandar tanto a OpenAI como a Altman por violar sus principios fundacionales. Fue otra de sus batallas perdidas, puesto que terminó retirándola unos meses después.

Por qué 97.400 millones

Altman logró superar las dimisiones y las arremetidas de Musk. Pero seguía teniendo algo pendiente: la entidad sin ánimo de lucro. Matarla definitivamente es una necesidad para soltar las amarras económicas de OpenAI. Sus planes eran finiquitarla en silencio fusionándola con la empresa privada, pero Musk frustró sus planes con una oferta hostil no solicitada.

La oferta del hombre más rico del mundo no es por la empresa privada OpenAI, que vale mucho más de 97.400 millones. Es por la entidad sin ánimo de lucro que la soporta, cuyo valor no está tan claro. Controla OpenAI a nivel legal, pero oficialmente solo tiene 22 millones de dólares en activos y dos empleados.

La bomba de precisión de Musk complica aún más una maniobra que lleva fraguándose casi dos años por la dificultad que entraña fusionar dos organizaciones tan dispares. La empresa OpenAI tendría que compensar de alguna forma a la fundación OpenAI para que esta le cediera su control legal. Fuentes citadas por diversos medios estadounidenses apuntan a que la intención de Altman era retribuirla con unos 30.000 millones de dólares.

Es vital que la organización benéfica reciba una compensación justa por lo que sus líderes le están quitando: el control sobre la tecnología más transformadora de nuestro tiempo

Marc Toberoff — abogado de Musk

“Es vital que la organización benéfica reciba una compensación justa por lo que sus líderes le están quitando: el control sobre la tecnología más transformadora de nuestro tiempo”, afirmó Marc Toberoff, el abogado de Musk y encargado de presentar la oferta.

¿Por qué 97.400 millones de dólares? Todo apunta a que es el máximo líquido que Musk pudo reunir para presentar la oferta en este momento. En la apuesta lo acompañan un grupo de grandes inversores y su propia compañía de inteligencia artificial, xAI. Ofreciendo el triple de la cantidad que Altman barajaba, Musk consigue ponerlo en aprietos ante los reguladores y aumentar enormemente el escrutinio público sobre el proceso.

Los miembros de la fundación sin ánimo de lucro OpenAI no tienen por qué aceptar una venta a Musk, puesto que el objetivo de esa entidad no es maximizar su rentabilidad. Sin embargo, estarían comprando todas las papeletas para tener problemas con la administración estadounidense o con la justicia, a partir de denuncias de Musk o de organismos de competencia, si aceptan una oferta muy inferior sin un motivo de peso.

Altman intentó durante la noche del lunes desviar la atención de este hecho insinuando que la cifra es muy baja. “No, gracias, pero vamos a comprar Twitter por 9.740 millones si querés”, le dijo a Musk en X, ofreciendo cinco veces menos de lo que el magnate pagó por la red social. “Estafador”, se limitó a contestarle Musk.

Pese a las inversiones milmillonarias de los últimos años en la empresa OpenAI, si Altman se ve obligado a desembolsar 100.000 millones de dólares o más por deshacerse de la entidad sin ánimo de lucro, su capacidad de inversión en tecnología se vería muy reducida. Sus principales rivales, entre los que está xAI, serían los grandes beneficiados.

Musk el empresario, Musk el inversor, Musk el regulador

Toda esta pinza de Musk sobre Altman y OpenAI se completa con su papel de auditor de la eficiencia de la administración estadounidense. Musk está en todos los frentes: tiene una empresa de IA que compite con OpenAI, tiene ascendencia sobre las agencias gubernamentales que deben regular su actividad legal y comercial. También puede demostrar ante los tribunales que tiene un interés real en las actividades de la entidad sin ánimo de lucro OpenAI, ya que la financió con decenas de millones de dólares antes de desvincularse del proyecto.

“Lo que está haciendo Musk redefine por completo la noción de los conflictos de interés y asume sin complejos que desapareció”, dice Frederic Mertens, de la Universidad Europea. “No les importa la mezcla entre intereses personales, interés público e interés del mercado, así como la sacrosanta prohibición de establecer una posición dominante o monopolística”, dice el experto, recordando que si la oferta de Musk llega a ser aceptada, él controlaría tanto xAI como OpenAI.

“Todo esto es una mala señal para los negocios”, continúa Mertens: “Si la primera o segunda potencia del mundo pone entre paréntesis las reglas fundamentales de un mercado abierto, la señal a los demás es que todo está permitido y no habrá competencia sana”.