Este viernes 8 de mayo, Instagram deja de ofrecer cifrado de extremo a extremo en sus mensajes privados. En la práctica, esto permite a Meta acceder libremente a los chats de los 2.500 millones de usuarios de esta red social.

La compañía asegura que el cambio se debe al bajo uso del cifrado, que debe ser activado por los usuarios. Sin embargo, la decisión coincide con la entrada en vigor de una ley estadounidense que presiona para que las compañías eliminen este protocolo de seguridad, el más eficaz para proteger las comunicaciones digitales. También con la mejora de las capacidades de análisis de datos masivos de la inteligencia artificial.

Las organizaciones de derechos digitales y privacidad criticaron la decisión de Meta, propietaria también de Facebook y WhatsApp. “Este cambio de rumbo expondrá a millones de usuarios a riesgos graves y concretos”, avisa la Global Encryption Coalition, en la que participan la Fundación Mozilla, el Centro para la Democracia y la Tecnología o la Internet Society.

Protección básica

El cifrado de los mensajes digitales es un proceso que convierte su contenido en un código ilegible, excepto para quien tiene la clave adecuada (el destinatario original). “Muchos usuarios de Instagram utilizan los mensajes directos para tratar asuntos personales, políticos o profesionales delicados”, destaca la Coalición. Abandonar el cifrado “aumentará el riesgo de que estos usuarios sean vigilados e interceptados por agentes malintencionados, gobiernos y otros que intenten acceder a sus comunicaciones privadas”, alertan.

Los críticos recuerdan, además, que incluso el director ejecutivo de Meta, Mark Zuckerberg, defendió el valor de esta protección digital básica. “Creo que el futuro de la comunicación se orientará cada vez más hacia servicios privados y cifrados, donde las personas puedan tener la seguridad de que lo que se dicen entre sí permanece protegido y sus mensajes y contenido no se almacenarán indefinidamente. Este es el futuro que espero que podamos ayudar a construir”, declaró en 2023.

Entonces, ¿a qué se debe el cambio? “Muy pocas personas optaban por el cifrado de extremo a extremo en los mensajes directos, por lo que eliminaremos esta opción de Instagram en los próximos meses. A partir del 8 de mayo de 2026, dejaremos de proporcionar cifrado de extremo a extremo en los mensajes directos”, comunicó la compañía en marzo, invitando a los usuarios a usar WhatsApp, que seguirá manteniendo esta protección.

Aunque Meta no llegó a dar una cifra oficial, algunos analistas hablan de porcentajes de uso en torno al 2%. Esto implicaría que 50 millones de personas en todo el mundo habían cifrado sus mensajes de Instagram, una cifra considerable teniendo en cuenta que debía activarse voluntariamente. “Es una función que está escondida, poco promocionada, es complicada, que la gente no conoce y que no está por defecto; no porque la gente decida que prefiere no estar protegida”, destaca Elena Gil, abogada especialista en nuevas tecnologías.

Conversaciones al descubierto

Una portavoz de Meta compartió una publicación de 2023 de su blog oficial en la que afirma que no utilizará los mensajes privados para entrenar a su IA. Sin embargo, esto no aparece claramente definido en su política de privacidad, que es el único documento vinculante a nivel legal sobre el uso de datos personales de la compañía, avisa Elena Gil.

Al contrario, tras repasar estas claúsulas legales de 140 páginas, la abogada expica que Meta hace un uso extensivo y poco definido de un concepto legal denominado “interés legítimo”. Se trata de una fórmula que permite a las compañías utilizar los datos de los usuarios sin necesidad de pedirles permiso explícitamente.

“Es la figura que más se utiliza en el mundo digital para el entrenamiento de sistemas de inteligencia artificial o sistemas automatizados”, recuerda Gil, cuya investigación sobre cómo las empresas usan resortes legales como el “interés legítimo” para analizar datos de sus usuarios fue premiada por la Agencia Española de Protección de Datos. “Con muchos matices, básicamente quiere decir que no necesitan pedir consentimiento si las consecuencias de lo que hacen son leves”, detalla.

Además, no utilizar los datos de los mensajes para el entrenamiento de la IA, como asegura Meta, implica que estos no se añadirán a sus bases de datos. No que no pueda analizarlos. Uno de los usos de los que habla específicamente su política de privacidad es la inferencia: “La inferencia es la deducción de más información sobre vos. Esta información inferida es como el Santo Grial de la economía digital: aparte de recoger muchos datos sobre vos, intentan adelantarse y adivinar datos que vos nunca llegaste a dar”, continúa la jurista.

Esta información inferida es como el Santo Grial de la economía digital: aparte de recoger muchos datos sobre vos, intentan adelantarse y adivinar datos que vos nunca llegaste a dar

Elena Gil — abogada especialista en nuevas tecnologías

Al retirar la protección de extremo a extremo, la plataforma tiene vía libre para acceder a todos los mensajes de sus usuarios. “Imaginate que el cartero, que es Meta, pudiese parar a leer todas las cartas que escribís”, ejemplifica: “Si hablás de tus finanzas, de enfermedades, de a quién votás, de detalles que revelan tu condición sexual incluso en un país donde eso pueda estar perseguido, de lo que ganás, lo que te pasa. Si estás teniendo una relación extramatrimonial. De tus logros, de tus alegrías. Imaginá que todo eso en vez de ser secreto, como se legisló hace décadas, ahora se pudiera leer”.

Gil aclara que esto no implica que sean personas quienes lo lean. Es “un algoritmo que siempre está aprendiendo de todo lo que vos hacés adentro y afuera de los mensajes privados” el que podrá encargarse de ello.

“Todo esto es el caldo de cultivo de la manipulación masiva, entrenamiento de nuevos sistemas de IA, creación de sistemas que cada vez parezcan más humanos, etc. Y todo con la excusa de que se está informando de manera transparente en un texto que ya te digo que tiene más de 140 páginas, sabiendo que nadie se entera, porque ni siquiera una persona experta es capaz de enterarse de lo que ahí dice”, asevera la abogada sobre la política de privacidad de la red social.

Una ley contra el cifrado en 11 días

Existe otro telón de fondo tras la retirada de esta protección digital de los mensajes. El fin del cifrado en Instagram llega justo 11 días antes de que entre en vigor la llamada Take It Down Act, la primera ley estadounidense que ilegaliza la difusión no consentida de imágenes íntimas, incluyendo aquellas generadas con inteligencia artificial.

La Take It Down Act fue ratificada por Donald Trump en mayo de 2025 como reacción a los primeros escándalos de creación de imágenes sexualizadas con IA, en el que se vieron afectadas desde personalidades como Taylor Swift hasta políticas, así como profesoras y alumnas de colegios.

Además de castigar a los que difundan estos contenidos, la ley también estipula un período de 48 horas para que las plataformas retiren este tipo de contenidos. Instagram es uno de los principales espacios donde se dan este tipo de ataques, y el cifrado de los mensajes dificultaba a Meta su cumplimiento. Su retirada permitirá a la red social analizar los mensajes privados en busca de este y otros tipos de contenidos.

Se trata de una de las consecuencias perniciosas de este tipo de leyes, como alertan múltiples organizaciones de derechos digitales y expertos por todo el mundo. “Las plataformas podrían responder abandonando por completo el cifrado para poder monitorear el contenido, convirtiendo así las conversaciones privadas en espacios vigilados”, avisó durante la negociación de la Take It Down Act la Electronic Frontier Foundation (EFF), una de las organizaciones de referencia en este ámbito.

Pese a ello, la tendencia de imponer la posibilidad de revisar los mensajes cifrados de los usuarios se extiende a nivel internacional. En este momento, la UE está negociando una ley contra la difusión de pornografía infantil cuyos críticos avisan que podría tener el mismo efecto que la Take It Down Act. La Comisión Europea asegura que el texto no dificultará el cifrado, pero cientos de tecnólogos enviaron una carta a Bruselas para discrepar: “Es una amenaza enorme”.

Reino Unido o la India están impulsando legislaciones similares. Es por ello que la decisión de Instagram “es un precedente peligroso”, denuncia la Global Encryption Coalition: “En un momento en que los gobiernos de todo el mundo están considerando activamente medidas que debilitarían o eludirían el cifrado, el sector privado debe priorizar la privacidad y la seguridad en el diseño de sus productos”.

Los modelos de Inteligencia Artificial (IA) más sofisticados, como el caso de Claude Mythos desarrollado por Anthropic, disparan los riesgos de inestabilidad financiera, ya que estas herramientas son cada vez más veloces y capaces de explotar las vulnerabilidades informáticas, por lo que abren la puerta a ciberataques serios que podrían bloquear sectores completos a escala internacional.

Así lo cree el Fondo Monetario Internacional (FMI), que publicó este jueves una entrada en su blog en la que advierte que las capacidades ofensivas de los ciberdelincuentes se sitúan en extremos nunca vistos, que podrían provocar pérdidas extremas, dificultar el flujo de la financiación, disparar las inquietudes en torno a la solvencia y, en general, generar disrupciones en el mercado.

“El sistema financiero se basa en una infraestructura digital compartida altamente interconectada, incluyendo software, servicios en la nube y redes de pagos y otros datos. Los modelos avanzados de IA pueden reducir drásticamente el tiempo y el costo necesarios para identificar y explotar vulnerabilidades, aumentando la probabilidad de descubrir y enfocarse en las debilidades de sistemas ampliamente utilizados”, destacan los técnicos de la institución.

Un peligro a escala global y un reto para supervisarlo

El FMI pone como ejemplo claro el lanzamiento controlado de Claude Mythos, el nuevo modelo de Anthropic, capaz de encontrar y explotar las vulnerabilidades de cualquier sistema operativo o navegador web, incluso en manos del público en general. Y, destaca el organismo, dan una ventaja a los atacantes, ya que es más fácil descubrir vulnerabilidades que 'parchear' el sistema para protegerse.

“Esto presagia cómo los riesgos cibernéticos impulsados por la IA, que evolucionan rápidamente, podrían desestabilizar el sistema financiero si no se gestionan con cuidado”, advierte el Fondo, que reclaman a las autoridades que se centren en fortalecer la supervisión y la coordinación “en lugar de tratar estos desarrollos como meros problemas técnicos u operativos”.

Los riesgos ya no son solo sistémicos para el sector financiero, dice el FMI, sino que afecta también a otras ramas que comparten parte de esta infraestructura crítica (energía, telecos o la administración pública) y pueden “concentrar” el peligro, ya que cada vez más servicios dependen de una única solución en la nube o una plataforma de software.

“Las defensas inevitablemente serán vulneradas, por lo que la resiliencia también debe ser una prioridad, específicamente para limitar la propagación de los incidentes y garantizar una recuperación rápida”, recomienda el FMI.

El caso de Mythos, además, muestra a las claras que los ciberataques no respetan fronteras, por lo que es un reto para la gobernanza y la supervisión de la IA. “Mientras las capacidades en IA se extienden en todos los países, una supervisión inconsistente podría debilitar un sistema interconectado globalmente”, destaca.

Los principales chatbots de inteligencia artificial comparten datos de las conversaciones de los usuarios con las multinacionales de la publicidad online, que los utilizan para elaborar perfiles personalizados y vender anuncios hipersegmentados. Es la principal conclusión de un nuevo estudio que encontró evidencias de estas filtraciones en ChatGPT, Claude, Grok y Perplexity, que mandan la información a las bases de datos para anuncios de Meta, Google, TikTok y otras compañías dedicadas al rastreo digital y la analítica web.

La filtración se produce a través de los enlaces permanentes de los chats, también conocidos como permalinks. Las plataformas envían estas direcciones web a los rastreadores junto con identificadores de usuario, como correos electrónicos cifrados o cookies, lo que permite asociar los datos de sus conversaciones a los perfiles publicitarios que elaboran terceras empresas sin el conocimiento del usuario.

“Este es el riesgo central: filtrar una URL no es solo metadatos, puede ser equivalente a filtrar la conversación en sí”, avisa el estudio, coordinado por el centro de investigación IMDEA Networks y liderado por el investigador español Narseo Vallina. “Las prácticas observadas también sugieren que los modelos de negocio basados en datos de la web tradicional (como la publicidad o la analítica) se están replicando en los ecosistemas de modelos de lenguaje, con una supervisión limitada”.

Las compañías son conscientes de que estas prácticas podrían contravenir las regulaciones de protección de datos. Perplexity, por ejemplo, retiró el rastreador de Meta de su web el 3 de abril de 2026, tras una demanda colectiva en Estados Unidos relacionada con la privacidad de sus usuarios. Esto detuvo el envío de enlaces y cookies a la red social y eliminó el acceso público a las conversaciones creadas por los usuarios que no habían iniciado sesión.

La misma práctica, solo que aún activa, es la que se da en Grok (el asistente desarrollado por xAI, propiedad de Elon Musk). “Es lo más grave que hemos encontrado”, destaca Vallina: “Las URLs y las conversaciones son accesibles de forma pública. Los rastreadores podrían potencialmente acceder a esa conversación, palabra a palabra. No tenemos evidencias de que lo estén leyendo, pero sabemos que el riesgo existe”.

Fuga de datos

Perplexity, pese a desactivar la posibilidad de que las conversaciones sean leídas por terceros, mantiene activos otros sistemas de rastreo. El estudio desglosa que cada vez que una persona utiliza el asistente, la empresa envía de forma automática su dirección de correo electrónico sin cifrar, el enlace exacto de la conversación y los detalles técnicos de su dispositivo a Datadog, una plataforma de monitorización de sistemas; y a Singular, una firma especializada en analítica y marketing.

Según las evidencias halladas, OpenAI envía los títulos de los chats y las direcciones de las conversaciones de los usuarios de la versión gratuita de ChatGPT a Google Analytics. Por su parte, Claude, de la empresa Anthropic, envía directamente los datos del usuario a plataformas como LinkedIn, TikTok, Google y otras ocho redes publicitarias distintas desde sus propios servidores, una técnica que las evita que las herramientas de bloqueo de anuncios de los navegadores puedan interceptar el tráfico de datos.

Este medio contactó con OpenAI, Anthropic, xAI (desarrolladora de Grok) y Perplexity para incluir su posicionamiento en esta información, pero no recibió respuesta. Los autores denunciaron los hechos a las agencias europeas de protección de datos, adelanta Vallina. Su estudio aún no fue revisado por otros investigadores independientes, pero consideraron que debían hacerlo público para alertar a los usuarios.

“Las conversaciones de los usuarios contienen con frecuencia información sensible, ya que estos suelen percibir a los modelos de lenguaje como asistentes de confianza”, avisa el estudio: “Esta percepción aumenta la probabilidad de que compartan más información sensible de la necesaria”. Otras investigaciones han detectado que los usuarios tienden a revelar detalles sobre sus preferencias sexuales, condiciones de salud o apoyo psicológico incluso cuando no son necesarios en el contexto de la conversación.

“Cuando los datos de las conversaciones se comparten con terceros como Meta y Google, junto con cookies y otros identificadores de usuario”, explican los investigadores de IMDEA Networks, “surge un nuevo escenario de riesgo”.

El estudio señala que la IA de Meta, Google Gemini y Microsoft Copilot quedaron afuera de este primer análisis debido a que estas empresas son tanto desarrolladores de chatbots y como rastreadores publicitarios. Al estar en los dos lados del negocio (recopilan los datos en su propio servicio y también controlan las redes de rastreo), los investigadores creen que estos asistentes entrañan un “modelo de amenaza diferente” al de ChatGPT, Claude, Grok o Perplexity. No obstante, avanzan que tienen previsto ampliar el alcance de su investigación para incluir los asistentes de Google, Meta y Microsoft en las próximas semanas.

Puede que no sepas quién es Sienna Rose, pero tres canciones bajo su nombre llegaron a estar entre los 50 temas más escuchados del día en Spotify. No te preocupes, es normal que no sepas mucho sobre su existencia: no tiene identidad pública, tampoco cuenta con perfil en redes sociales y su presencia en internet es nula. Esta invisibilidad como artista responde a que detrás de lo que aparenta ser una cantante de soul se encuentra una inteligencia artificial, que ni siquiera advierte de que lo es. De hecho, ojear las listas de éxitos de las principales plataformas de streaming y que aparezcan canciones hechas con IA se volvió algo cada vez más común.

El problema radica en que empieza a ser frecuente que la gente escuche este tipo de temas creyendo que quien los canta es una persona real. Según un estudio del servicio de streaming Deezer, el 97% de los oyentes no sabe distinguir entre música generada por IA y música hecha por humanos en una prueba a ciegas con dos canciones de IA y una real. A Spotify le interesa elegir las canciones que escuchás, pero el aumento en sus playlists de aquellas hechas con inteligencia artificial elevó todavía más la preocupación del sector. Tanto es así que Echoberyl, grupo francés que se convirtió en una referencia dentro de la música electrónica y darkwave, hizo un llamamiento a la industria.

La banda integrada por Cecilia Dassonneville y Adriano Iacoangeli propone una acción sencilla que ayuda a saber si algo fue creado o no por humanos: identificar cada lanzamiento con una etiqueta que señale que no se utilizó la IA, una idea que consideran importante “por respeto al público”. “La gente se siente traicionada cuando descubre que un artista al que escucharon y apoyaron es en realidad falso. En un mundo de apariencias, la sinceridad puede ser la última salvaguarda”, declara Dassonneville, añadiendo que “también es una forma de destacar el trabajo de artistas que luchan mucho por ganarse la vida con esta profesión y que ven cómo se copia su obra”.

Advertencia: 100% hecho por humanos

Esta etiqueta es similar a lo que se hace actualmente con el “Parental Advisory: Explicit Content”, un sello en la portada de los discos que informa a los consumidores sobre la presencia de lenguaje fuerte, contenido sexual, violencia o referencias al consumo de drogas en grabaciones de audio. Adriano Iacoangeli argumenta que no ve “por qué no se debería aplicar el mismo concepto a la IA generativa” y explica que esta etiqueta podría llamarse “No IA Used (No se usó IA)”, pero que hay quien sugirió alternativas como “100% hecho por humanos” por temor a la negación en la frase que ellos propusieron.

“Hoy en día no deberíamos ser demasiado sutiles al respecto, porque hay muchísima gente haciendo trampa, ganando mucha plata con eso, y que hará todo lo posible por ocultar que la están haciendo”, detalla el músico, que celebra junto a Dassonneville que la mayoría de compañeros respondió de forma muy positiva a la propuesta y está dispuesta a apoyarla. “Esto es muy tranquilizador y nos da esperanza”, confiesa la vocalista, que teme que el trabajo de los artistas quede eclipsado por la inteligencia artificial. “Crear música requiere tiempo y dedicación. Con la IA, todo va más rápido, por eso se publicaron tantas canciones generadas por IA durante el último año”, comenta.

Estas canciones perjudican de manera directa al resto de artistas, sobre todo porque, en plataformas como Spotify, a los autores no se les paga una tarifa fija por reproducción, sino en función del streamshare. Spotify explica en qué consiste: “Calculamos el streamshare sumando el número total de reproducciones en un mes determinado. Si un artista representa el 1% de todas las reproducciones en un país concreto, sus titulares de derechos reciben el 1% de las regalías de grabación que pagamos allí”. Esto significa que cuantas más canciones se publiquen en general, menos vale cada reproducción individual. Si aumenta el porcentaje de canciones con IA, el resto de artistas gana cada vez menos.

“Sin embargo, esperamos que crear música de forma orgánica pueda, en última instancia, ayudar a los artistas a destacar, ya que la música generada por IA no es muy creativa y, por lo general, imita otras canciones”, cuenta Dassonneville, siendo esta la razón por la que proponen que se indique claramente una distinción que haga a los oyentes poder tomar su propia decisión. Aun así, más allá esto, Iacoangeli considera que “se debería impedir a las grandes corporaciones de software —propiedad de personas cuya única experiencia es escribir código— entrar en mercados como la música, la ilustración y la literatura, que no son su ámbito de competencia”.

Bandcamp, la principal plataforma de música independiente, prohibió la IA en su catálogo a inicios de año, por lo que todo lo que se escuche ahí está hecho por humanos. “Si encontrás música o audio que parezca haber sido creado total o parcialmente mediante inteligencia artificial generativa, o que dependa en gran medida de ella, utilizá nuestras herramientas de denuncia para que nuestro equipo revise el contenido. Nos reservamos el derecho de eliminar cualquier música si sospechamos que fue generada por IA”, alegó Bandcamp en un comunicado, destacando que “la música es mucho más que un producto de consumo” y que “los músicos son más que meros productores de sonido”.

Por su parte, Deezer alertó la semana pasada de que recibe al día casi 75.000 canciones generadas por IA al día, lo que representa aproximadamente el 44% de sus publicaciones diarias. Es por ello que optó por informar a sus usuarios de si están escuchando o no a una persona real con un cartel bajo el disco o la canción. Spotify y Apple Music también trabajan en implementar elementos similares. “Si alguien es feliz escuchando música cliché generada por una máquina y fantaseando con la imagen provocativa de un cantante creado en una computadora, es su problema”, dice Adriano Iacoangeli. “Pero si el público empieza a evitar ese contenido, entonces tomarán medidas para limitar sus pérdidas en publicidad y suscripciones”, declara el artista. De hecho, YouTube empezó a desmonetizar activamente los canales que dependen mucho del contenido generado por IA.

Los artistas, a la acción

La propuesta de Echoberyl no es la única que surgió en los últimos meses con tal de combatir el auge de la inteligencia artificial. Como acción reivindicativa, el grupo británico-australiano Dead Can Dance, del que forma parte Lisa Gerrard, la autora de bandas sonoras como Gladiator, anunció su vuelta con nuevos temas, pero no los publicarán en plataformas como Spotify: “Decidimos dejar de apoyar a las plataformas de streaming que siguen explotando a los artistas y promoviendo la música generada por IA”.

La banda alegó que a partir de ahora venderá su música a través de Bandcamp, una “plataforma que sigue apoyando a los artistas independientes y que, de forma encomiable, prohibió toda forma de música generada por IA, una tecnología que amenaza la esencia misma de nuestra profesión”. Ya lanzó dos canciones, Our Day Will Come y Death Cults, y todo lo recaudado con la primera de ellas irá destinado a la organización médica palestina MAP (Medical Aid for Palestinians). “MAP realiza una labor increíble proporcionando atención médica, así como alimentos y ayuda nutricional al pueblo palestino”, recalcó Dead Can Dance en redes sociales.

Asimismo, para protegerse de la IA, Taylor Swift solicitó el registro de su voz e imagen como marca. Se trata de una decisión tomada por la artista después de haber experimentado de primera mano cómo se viralizaron versiones de sus canciones o temas que imitan su voz con inteligencia artificial, además de imágenes falsas difundidas por Trump que pretendían demostrar que tanto ella como sus fans lo respaldaban. Por su parte, Echoberyl defendió que “la falta de recursos estimula la imaginación”: “Siempre existe la posibilidad de crear algo. Creo que es mucho mejor ser sincero y trabajar con lo que se tiene, aunque el resultado sea imperfecto. Ahora solo parece importar el éxito del resultado final. Todo empieza a parecer igual. Eso es muy triste y empobrece un poco el mundo”.

Taylor Swift presentó nuevas solicitudes de registro de marca para blindar su voz e imagen de cara a protegerse de las amenazas que plantea la inteligencia artificial (IA), informó el despacho de abogados Gerben IP. Los documentos fueron presentados en nombre de TAS Rights Management el 24 de abril y suponen “un cambio más amplio en la forma en que las celebridades están aplicando la ley de marcas para luchar contra la IA”, de acuerdo con una publicación escrita por el abogado especializado en propiedad intelectual Josh Gerben.

Entre las solicitudes de la cantante, dos corresponden a marcas sonoras que cubren su voz: “Hey, it’s Taylor Swift” y “Hey, it’s Taylor”. La tercera es una marca visual que abarca “una fotografía de Taylor Swift sosteniendo una guitarra rosa con una correa negra, mientras viste un body iridiscente multicolor y botas plateadas”, un atuendo que está relacionado con sus actuaciones durante 'The Eras Tour'.

De acuerdo con el abogado, la medida de Swift puede proporcionar una capa adicional de protección a la que ofrecen las leyes vigentes sobre el “Derecho a la propia imagen” contra el uso no autorizado de la imagen de una persona famosa. “Al registrar frases específicas vinculadas a su voz, Swift podría impugnar no solo las reproducciones idénticas, sino también las imitaciones que sean 'confusamente similares', un criterio clave en la legislación sobre marcas registradas”, explica el escrito de Gerben.

Sobre la presentación de demandas basada en imágenes, el abogado detalló que “al proteger un elemento visual distintivo, como el traje que Swift suele usar y su pose, el equipo de Swift puede obtener argumentos adicionales para presentar demandas contra imágenes manipuladas o generadas por IA que evoquen su imagen”.

La imagen de Taylor Swift fue utilizada sin su consentimiento en distintos contenidos falsos creados con inteligencia artificial, incluyendo imágenes pornográficas que circularon por internet. Incluso antes de las elecciones presidenciales de Estados Unidos de 2024, Donald Trump compartió imágenes creadas con IA que daban a entender, de forma engañosa, que Swift lo apoyaba. La artista se suma en esta medida al actor Matthew McConaughey, quien registró marcas similares en los últimos meses para proteger su voz e imagen. En 2025, la Oficina de Patentes y Marcas de Estados Unidos concedió ocho marcas registradas al actor.

Con información de la agencia EFE

“Si voy a incitar a otros a matar y cometer delitos, entonces debo predicar con el ejemplo y demostrar que mi mensaje es totalmente sincero”, o “si no hacemos nada muy pronto, moriremos, estoy completamente seguro de ello”. Son extractos de lo que dejó escrito Daniel Moreno-Gama antes de, presuntamente, lanzar un cóctel molotov contra la casa de Sam Altman, director ejecutivo de OpenAI, y dirigirse después a la sede de la empresa y amenazar con “matar a cualquiera que estuviera dentro”.

Moreno-Gama, un joven de 20 años natural de Texas, fue detenido el pasado fin de semana por la policía de San Francisco tras los incidentes. Según informó ahora el FBI, el hombre llevaba encima un “manifiesto anti-IA” en el que discutía el “riesgo existencial” que, a su juicio, supone esta tecnología para la humanidad. El texto incluía una lista con nombres y direcciones de otros directivos, inversores y miembros de juntas directivas de varias empresas del sector.

Los investigadores no identificaron a estos ejecutivos ni revelaron el contenido exacto del escrito. La declaración del agente a cargo del caso ante el juez describe que Moreno-Gama se había desplazado de Texas a California el mismo día del ataque y que portaba una garrafa de querosén en el momento de su detención. Uno de los fragmentos del manifiesto era una carta dirigida al propio Altman. “Si por algún milagro sobrevivís, lo tomaría como una señal divina para que te redimas”, expresaba en ella, según la información del FBI.

El joven también había expresado comentarios contra él y otros líderes tecnológicos en sus redes sociales. “Estas personas no se parecen en casi nada a vos”, afirmaba en una publicación: “Lo más probable es que sean sociópatas o psicópatas y, en el caso de Altman, se informó repetidamente que es un mentiroso patológico”.

El cofundador y director ejecutivo de OpenAI reaccionó al ataque compartiendo una foto de su familia en su blog personal. “Las imágenes tienen poder, o eso espero. Normalmente, intentamos ser bastante discretos, pero en este caso comparto una foto con la esperanza de que disuada a la próxima persona de lanzar un cóctel molotov contra nuestra casa, sin importar lo que piense de mí”, escribió.

Altman reconoce a su vez que “el temor y la ansiedad ante la IA están justificados; estamos presenciando el mayor cambio social en mucho tiempo, y quizás de toda la historia”. “No todo saldrá bien”, continúa. También admite que esta tecnología “tiene una dinámica de 'poder absoluto' que lleva a la gente a hacer locuras” para llegar a dominarlo, por lo que pide actuar para que “nadie tenga el anillo”, en referencia a El señor de los anillos. “Es fundamental que el proceso democrático siga teniendo más peso que las empresas”, concluye.

Terrorismo doméstico

Moreno-Gama se enfrenta a 11 cargos estatales en California, incluyendo intento de asesinato e intento de incendio provocado. La Fiscalía de distrito de San Francisco explicó que estas acusaciones podrían conllevar una pena de entre 19 años y cadena perpetua.

A nivel federal, se le imputan delitos de posesión de un arma de fuego no registrada y destrucción de propiedad privada mediante explosivos. El fiscal federal de California advirtió que “si las pruebas demuestran que el Sr. Moreno-Gama ejecutó estos ataques para cambiar las políticas públicas o coaccionar al gobierno u otros funcionarios”, su departamento lo tratará “como un acto de terrorismo doméstico”.

Su abogada, en cambio, denunció que los fiscales imputaron cargos excesivos para congraciarse con Altman y señaló que Moreno-Gama atraviesa una “crisis de salud mental”. “Es injusto e inmoral que la Fiscalía y el Gobierno se aprovechen de la enfermedad mental de un joven vulnerable, convirtiendo un caso de vandalismo en un caso de intento de asesinato con posibilidad de cadena perpetua para ganar el apoyo de un multimillonario”, afirmó en declaraciones recogidas por Los Ángeles Times.

Es injusto e inmoral que la Fiscalía y el Gobierno se aprovechen de la enfermedad mental de un joven vulnerable, convirtiendo un caso de vandalismo en un caso de intento de asesinato para ganar el apoyo de un multimillonario

Abogada de Daniel Moreno-Gama

De confirmarse que la motivación del ataque era detener el avance de la IA, se trataría del primer atentado planificado cuyo móvil es el desarrollo de esta tecnología. En la publicación de su blog, Altman destaca que en los últimos tiempos se publicaron varios artículos “incendiarios” contra él y la propia industria, por lo que pide bajar el tono.

La inteligencia artificial generativa es una de las tecnologías de más rápida adopción de la historia. Tres años y medio después de la aparición de ChatGPT, los debates sobre las consecuencias negativas de esta tecnología se multiplican. Los procesos de despido achacados a la IA, la proliferación de contenidos falsos generados por máquinas, la concentración de poder tecnológico o la opacidad sobre los sistemas de entrenamiento ocupan ahora buena parte de la esfera pública, foros académicos y debates parlamentarios de todo el mundo.

La animadversión contra los grandes ejecutivos tecnológicos también aumentó. Esta tensión tuvo su pico en 2025 con el magnate más próximo a Donald Trump, Elon Musk. Tras celebrar la victoria del republicano con un saludo nazi y pasar a formar parte del gobierno como responsable de la eficiencia de la administración, promoviendo el despido de centenares de miles de trabajadores públicos, el fundador de Tesla y SpaceX vio como su empresa de vehículos eléctricos se convertía en objetivo de ataques por todo el país.

Desde principios de febrero hasta junio, cuando abandonó de manera definitiva el gobierno, concesionarios y vehículos Tesla de particulares sufrieron vandalismo y ataques violentos. Varios detenidos por estos actos se enfrentan ahora a penas de 15 a 20 años de prisión, acusados por la ex fiscal federal de EE.UU., Pam Bondi, de “terrorismo doméstico”.

Anthropic, la startup que compite con OpenAI por el liderazgo de la inteligencia artificial, afirma que desarrolló un modelo demasiado peligroso para ser liberado al público. La compañía anunció esta semana que su nueva tecnología, denominada Claude Mythos, posee una capacidad sin precedentes para identificar y explotar vulnerabilidades de ciberseguridad. Según sus datos internos, el sistema localizó miles de errores en los principales programas, incluyendo todos los grandes sistemas operativos y navegadores web.

La startup expresó en un comunicado que teme que si libera el modelo al público este pueda ser utilizado por grupos de ciberdelincuentes para aprovecharse de agujeros en el código que hasta ahora habían pasado inadvertidos. Claude Mythos es un modelo general que también puede generar texto como los chatbots más conocidos, pero fuer su capacidad de analizar software lo que desató las alarmas.

“Los modelos de IA alcanzaron un nivel de capacidad de codificación que les permite superar a todos, salvo a los humanos más habilidosos, a la hora de encontrar y explotar vulnerabilidades de software”, asegura Anthropic en el comunicado de lanzamiento.

Los modelos de IA alcanzaron un nivel que les permite superar a todos, salvo a los humanos más habilidosos, a la hora de encontrar y explotar vulnerabilidades de software

Anthropic

Entre los hitos del modelo, presume Anthropic, está el descubrimiento de una vulnerabilidad de 27 años de antigüedad en OpenBSD, un sistema operativo diseñado específicamente para ser difícil de hackear. Logan Graham, responsable del equipo de pruebas de la empresa, calificó el avance como “un punto de inflexión” para la industria tecnológica.

Ante el temor de que la herramienta sea utilizada por los ciberdelincuentes, Anthropic optó por un despliegue restringido a través de una iniciativa llamada Project Glasswing. Se trata de una coalición de 40 organizaciones, entre las que se encuentran gigantes como Apple, Amazon, Microsoft, Google y la Linux Foundation, a los que dio acceso al modelo para que parcheen las posibles brechas que Claude Mythos pueda detectar en sus sistemas.

A pesar del revuelo generado en torno a las capacidades de esta nueva IA en las últimas horas, por el momento ninguna de estas compañías desmintió las capacidades de las que presume Anthropic. Amazon, Google y Microsoft son inversores oficiales de la startup, mientras que Apple y la Linux Foundation colaboran estrechamente con la empresa.

El secretario del Tesoro reúne a los bancos

El debate en torno a Claude Mythos escaló fuera de las fronteras de la industria tecnológica este viernes. Varios diarios económicos, entre ellos el Financial Times, informaron que el secretario del Tesoro de Estados Unidos, Scott Bessent, convocó esta semana a los máximos responsables de algunos de los mayores bancos del país para abordar los riesgos asociados a esta IA.

Según el citado medio, que cita fuentes conocedoras del encuentro, a este asistieron directivos de Bank of America, Citigroup, Goldman Sachs, Morgan Stanley y Wells Fargo. También participó el presidente de la Reserva Federal, Jay Powell. El consejero delegado de JPMorgan Chase, Jamie Dimon también había sido invitado, aunque finalmente no pudo asistir.

Había sido precisamente Dimon el que, en su carta anual publicada esta semana, había escrito que los ciberataques “siguen siendo uno de nuestros mayores riesgos”, que “la IA casi con seguridad lo agravará” y que será necesaria una inversión significativa en defensa.

Según informó Anthropic, ya antes de esta reunión con los principales bancos, sus responsables habían iniciado conversaciones con el gobierno estadounidense para hablar de los riesgos de Claude Mythos para la seguridad nacional. La salida a la luz del modelo agarra a la startup en medio de una guerra abierta con la Casa Blanca: Donald Trump ordenó calificar a la empresa como un “riesgo para la cadena de suministro” después de que esta se negara a levantar algunas salvaguardas de seguridad en el uso de su IA en la guerra de Irán.

La sombra de una estrategia comercial

Sin embargo, no todos los expertos comparten el clima de pánico. El analista Gary Marcus, uno de los mayores críticos con el “autobombo” que rodea a la industria de la IA, señaló que el anuncio de Anthropic podría estar “inflado” y responder más a una maniobra de marketing que a una amenaza inmediata.

Marcus advierte que, en las pruebas de explotación del navegador Firefox presentadas por la empresa, se desactivó el “sandboxing” (un mecanismo de aislamiento de seguridad), lo que facilitó enormemente la tarea del modelo y lo convirtió más en una “prueba de concepto” que en un peligro real.

Además, Marcus subraya que modelos de código abierto mucho más pequeños y económicos ya demostraron ser capaces de realizar análisis de vulnerabilidades similares a los de Mythos. Para el analista, el modelo está “en la tendencia” de evolución de la industria, pero no representa un salto fuera de los gráficos respecto a sus competidores.

Burger King inició el despliegue de un sistema de inteligencia artificial denominado BK Assistant en 500 de sus establecimientos en Estados Unidos. El sistema utiliza un chatbot con voz, al que llamó “Patty”, que se integra en los auriculares de los empleados para monitorizar sus interacciones con los clientes. La herramienta está programada para detectar si los trabajadores utilizan palabras específicas como “bienvenido”, “por favor” y “gracias”.

El chatbot fue desarrollado con tecnología de OpenAI, la creadora de ChatGPT. Según informó Burger King en un comunicado, el sistema combina datos de las conversaciones en el servicio al coche, el inventario y el equipamiento de cocina.

La cadena explica que el sistema se entrenó para reconocer estas frases basándose en criterios de franquiciados y clientes. Los gerentes de los locales podrán consultar al asistente para obtener informes sobre el desempeño de su establecimiento en términos de servicio al cliente, mientras que la compañía trabaja en la capacidad de capturar también el tono de las conversaciones de sus empleados.

Además de evaluar su “amabilidad”, el sistema ofrece “asistencia operativa”, como instrucciones sobre los ingredientes de los menús o alertas sobre la necesidad de limpiar los baños. Burger King afirma que la herramienta no está diseñada para realizar un seguimiento individual ni para imponer guiones a los trabajadores, sino como “un apoyo para la gestión de los equipos”, automatizando, por ejemplo, los cambios en los menús digitales cuando un producto deja de estar disponible.

La cadena prevé que el sistema esté disponible en todos los establecimientos de Estados Unidos para finales de 2026. Burger King avisa, eso sí, que por el momento no tiene planes para extender esta tecnología al trato directo con el consumidor. “No todos los clientes están preparados para eso”, reconoció un portavoz al medio especializado en tecnología The Verge.

Otras cadenas, como McDonald's, cancelaron recientemente proyectos piloto con asistentes de voz de IA para realizar pedidos e interactuar con los clientes en sus establecimientos.

Elon Musk anunció la fusión de SpaceX y xAI. El acuerdo valora la entidad resultante en 1,25 billones de dólares, según adelantó Bloomberg antes de que la adquisición de xAI se anunciara en un comunicado en el sitio web de SpaceX firmado por Musk sin detallar los términos de la oferta (precio y valoración).

El acuerdo otorga a SpaceX una valoración de US$1 billón y a xAI un valor de US$250.000 millones. SpaceX declaró que adquiere xAI para “formar el motor de innovación verticalmente integrado más ambicioso de la Tierra (y fuera de ella), con IA, cohetes, internet espacial, comunicaciones directas a dispositivos móviles y la plataforma de información en tiempo real y libertad de expresión más importante del mundo”.

La compañía aún espera realizar una oferta pública inicial a finales de este año, según una de las fuentes citadas por Bloomberg. SpaceX había estado planeando una operación que podría recaudar hasta US$50.000 millones, lo que sería la mayor venta inicial de acciones hasta la fecha.

El cálculo es que las acciones de la empresa resultante tengan un valor de US$526,59 cada una. El acuerdo se realizó íntegramente con acciones, según Bloomberg.

El acuerdo une a dos de las mayores empresas privadas del mundo. xAI recaudó fondos con una valoración de US$230.000 millones en enero, mientras que SpaceX tenía previsto realizar una venta de acciones en diciembre con una valoración de aproximadamente US$800.000 millones.

Al explicar el acuerdo, Musk afirma en el comunicado que la forma menos costosa de realizar cálculos de IA en los próximos dos o tres años será en el espacio. “Esta eficiencia de costes por sí sola permitirá a las empresas avanzar en el entrenamiento de sus modelos de IA y el procesamiento de datos a velocidades y escalas sin precedentes, acelerando los avances en nuestra comprensión de la física y la invención de tecnologías para beneficiar a la humanidad”, escribió.

SpaceX está solicitando permiso para lanzar hasta un millón de satélites a la órbita terrestre, según un documento presentado el viernes.

Esta oferta entrelaza aún más las diversas empresas de Musk. El multimillonario adquirió Twitter a finales de 2022, la renombró X y luego fusionó el sitio con su startup de inteligencia artificial xAI en un acuerdo de US$33.000 millones.

xAI, que también opera el chatbot Grok, es una operación costosa, que consume alrededor de US$1.000 millones al mes para cumplir con su ambición de obtener “una comprensión más profunda de nuestro universo”.

Una fusión con SpaceX combina capital, acceso a la capacidad de computación y difumina los límites corporativos.

A diferencia de otras empresas de Musk, SpaceX es posiblemente su negocio más exitoso y consistente, informa Bloomberg. La compañía, la única estadounidense que puede enviar astronautas de forma continuada a la Estación Espacial Internacional, es un proveedor clave de lanzamiento de cohetes tanto para la NASA como para el Departamento de Guerra de EE.UU.

El magnate Elon Musk impulsó un giro estratégico en su compañía de inteligencia artificial, xAI, para permitir la generación de contenido sexualmente explícito con el objetivo de aumentar el tiempo de uso de su chatbot, Grok, ignorando advertencias internas sobre riesgos éticos y legales, según reveló una investigación de The Washington Post.

De acuerdo con documentos y testimonios de antiguos empleados obtenidos por el rotativo, los trabajadores de xAI fueron obligados a firmar una cláusula de exención de responsabilidad para trabajar con material “sensible, violento y sexual”.

La empresa, además, advirtió a su propio equipo de que la exposición a este contenido podría resultar “traumatizante” y causar “estrés psicológico”.

Según el medio, tras dejar su cargo como consultor en el Gobierno de Donald Trump la pasada primavera, Musk se centró en la popularidad de Grok, para escalar posiciones frente a competidores más populares como ChatGPT o Gemini.

La estrategia del director ejecutivo de Tesla parece haber dado resultados comerciales: las descargas de Grok aumentaron un 72 % en las primeras tres semanas de enero de 2026, situándose en el “top 10” de la tienda de aplicaciones de Apple.

Sin embargo, este crecimiento se ha sustentado en funciones polémicas, como el lanzamiento de “compañeros de IA” eróticos. Según el código fuente verificado por el Post, uno de estos bots, llamado “Ani”, fue programado para ser “extremadamente celosa” y estar “siempre un poco excitada”.

Este cambio de filosofía también se hizo público el mes pasado cuando Grok generó una oleada de imágenes de “desnudos” no consensuados, utilizando a mujeres reales en poses sexuales o en ropa interior.

Organizaciones como el Center for Countering Digital Hate estiman que la herramienta generó unas 23.000 imágenes sexualizadas que parecen representar a menores.

Ante estas acusaciones, Musk negó tener conocimiento de imágenes de menores desnudos producidas por su IA.

“Grok se negará a producir cualquier contenido ilegal. Si ocurre algo inesperado por un ataque informático, solucionamos el error de inmediato”, afirmó el empresario.

La tendencia de desnudar a personas reales ha provocado la apertura de investigaciones por parte de la Comisión Europea, el regulador de comunicaciones del Reino Unido y la Fiscalía General de California.

Las autoridades investigan si la plataforma viola las leyes contra la creación de imágenes íntimas no consensuadas y material de abuso sexual infantil. 

EFE

Era un secreto a voces en el sector, aunque no por anticipado deja de ser un cambio potencialmente trascendental para el futuro de los servicios de inteligencia artificial. OpenAI, desarrolladora de ChatGPT, ha anunciado que su popular herramienta incluirá anuncios próximamente y ha publicado las directrices en las que se basará esta publicidad. Afectará tanto al modelo gratuito como a la suscripción “Go”, que en España cuesta 9,99 euros al mes. Las pruebas comenzarán “en las próximas semanas” en Estados Unidos.

“Al principio, probaremos los anuncios al final de las respuestas en ChatGPT, cuando haya un producto o servicio patrocinado relevante según la conversación. Los anuncios estarán claramente etiquetados y separados de las respuestas orgánicas”, ha explicado la empresa en un comunicado.

OpenAI, que en octubre reestructuró su matriz para dejar de depender de la organización sin fines de lucro que la fundó, asegura que los patrocinadores no influirán en las respuestas de la inteligencia artificial. “Puedes confiar en que las respuestas de ChatGPT se basan en lo que es objetivamente útil y nunca en la publicidad”, afirma en su comunicado.

Esta posible dependencia era el motivo por el que Sam Altman, cofundador y director ejecutivo de OpenAI, siempre se mostró contrario a que la publicidad fuera un modelo de negocio viable para los servicios de inteligencia artificial. “La combinación de anuncios con IA me resulta especialmente inquietante”, afirmaba en mayo de 2024, asegurando que la publicidad sería “el último recurso” para ChatGPT. “Odio los anuncios”, insistía.

El peligro de la manipulación

El uso de los datos personales para orientar el comportamiento o mantener la atención de los usuarios de redes sociales ha sido uno de los campos más estudiados de la sociedad digital en los últimos años. Un área en la que los especialistas temen que ahora haya que incluir también a la IA, el mismo motivo por el que Altman la definía como “inquietante”.

“Como expertos en seguridad y científicos de datos, vemos estos ejemplos como presagios de un futuro en el que las empresas de IA obtengan beneficios manipulando el comportamiento de sus usuarios en favor de anunciantes e inversores”, destacan en un informe publicado en The Conversation Bruce Schneier y Nathan Sanders, de la Universidad de Harvard.

“También es un recordatorio de que el tiempo para reconducir el desarrollo de la IA, alejándolo de la explotación privada y orientándolo al beneficio público, se agota rápidamente”, añaden.

Quizá consciente de las preocupaciones que generaría sobre la posibilidad de manipulación, OpenAI destaca en su comunicado que no llevarán a cabo este tipo de prácticas. “No optimizamos el tiempo que pasas en ChatGPT. Priorizamos la confianza del usuario y la experiencia de uso por encima de los ingresos”, afirman.

Los científicos, no obstante, avisan que se debe tener en cuenta que el potencial de la IA en este sentido es mucho mayor que el de las plataformas tradicionales. “Tiene el potencial de influir en tu forma de pensar, en tus patrones de gasto e incluso en tus creencias personales de maneras mucho más sutiles”, resumen Schneier y Sanders. Un chatbot no se limita a “filtrar contenido estático”, sino que puede abordar “preguntas, preocupaciones e ideas específicas”, por lo que “su potencial de influencia es mucho mayor”.

“El problema no es la tecnología en sí”, remarcan los autores, sino “las prioridades de las corporaciones que poseen estas plataformas y en cuyo beneficio operan. Hay que ser conscientes de que no tienes control sobre qué datos se introducen en la IA, con quién se comparten ni cómo se utilizan. Conviene tenerlo presente cuando conectas dispositivos y servicios a plataformas de IA, les haces preguntas o consideras comprar o hacer las cosas que te sugieren”, concluyen.

Dudas de privacidad

“También es importante que sepas que tus datos y conversaciones están protegidos y no se venden a los anunciantes”, reza el comunicado de OpenAI. La privacidad y la protección de datos es el principal ángulo de preocupación de los expertos sobre el anuncio, puesto que los chats de IA tienen un potencial mucho mayor de extracción de datos que las redes sociales.

“Observando lo que están haciendo, todo apunta a que de lo que estamos hablando aquí es de reproducir todo lo que hicimos mal con las redes sociales”, avisaba Enrique Dans, profesor de Innovación y Tecnología en IE Business School en un reportaje de elDiario.es sobre la posibilidad de que ChatGPT incluyera publicidad: “¿Qué son las redes sociales en realidad? Son máquinas de capturar datos para luego venderlos al mejor postor. ¿Qué pasa si en lugar de simplemente dar me gusta o poner un comentario, lo que haces es estar todo el día hablando con esa máquina? Pues que le das todos los datos del mundo”.

En los últimos meses, OpenAI ya había llevado a cabo movimientos que parecían destinados a aumentar la cantidad de datos que extrae de sus usuarios. El último, de este enero, fue la activación de una herramienta para dar consejos de salud a través de ChatGPT. La compañía anima a los clientes a compartir con ella sus documentos médicos así como los datos recogidos por otras apps de salud, como las propias de relojes electrónicos.

Sobre esta cuestión, OpenAI afirma que este tipo de información sensible quedará fuera del análisis publicitario en un primer momento. “Durante la prueba, no mostraremos anuncios en cuentas donde el usuario nos indique que no los desea o cuando estimemos que tiene menos de 18 años, y evitaremos que aparezcan cerca de temas sensibles o regulados, como la salud, la salud mental o la política”, expone.

Las agencias de protección de datos de la Unión Europea llevan más de dos años y medio investigando el uso de datos personales por parte de ChatGPT. En un expediente conjunto lanzado en abril de 2023, los reguladores están analizando si la absorción de información pública para su entrenamiento, entre la que había datos personales, así como el tratamiento de las conversaciones, se ajusta a las leyes comunitarias.

1,2 billones comprometidos

La decisión llega en un momento crítico del desarrollo. En el último año, OpenAI se ha lanzado a la construcción de centros de datos hiperescala y la contratación a terceros de una gran potencia de cómputo para poder seguir mejorando ChatGPT. Sus compromisos de gasto se han elevado hasta los 1,2 billones de euros (1,4 trillones de dólares en la medida anglosajona) hasta 2033. Un plan que contrasta con el hecho de que la empresa no ha tenido nunca beneficios y no espera contar con ellos hasta, al menos, 2030.

La inmensa hipoteca que cae sobre OpenAI llevó a su directiva financiera a afirmar que el Gobierno de EEUU debería actuar como “respaldo” de su deuda, ya que esa capacidad de cómputo se podría considerar una infraestructura crítica del país en su carrera con China por dominar la IA. Las declaraciones provocaron un escándalo, con políticos tanto republicanos como demócratas criticando que la compañía privada intentara dictar la política de gasto nacional, comprometiendo cifras similares al PIB de muchos países, y luego pidiera la seguridad federal para mitigar el riesgo para sus inversores.

La polémica obligó a Altman a corregir a su directora financiera y asegurar que OpenAI “debería quebrar” si no puede asumir sus deudas. Con todo, la situación evidencia el momento de incertidumbre que atraviesa la compañía, especialmente en lo referente a su negocio corporativo.

Actualmente, existen dudas de que la inteligencia artificial generativa actual pueda llevar a cabo automatizaciones amplias del empleo. El premio Nobel de Economía de 2024, Daron Acemoglu, estima que menos del 5% de las tareas laborales de los países desarrollados se verán afectadas por esta tecnología. Los primeros estudios sobre proyectos que la han desplegado en empresas afirman que más del 90% no están ofreciendo retornos claros de la inversión.

Hay palabras que no describen una cosa, sino una sensación. Slop es una de ellas. Suena espesa, viscosa, incómoda. Y eso es exactamente lo que pretende nombrar: el contenido basura generado de forma masiva por inteligencia artificial que empieza a inundar redes sociales, buscadores y plataformas de video.

El término fue impulsado recientemente por Merriam-Webster, la editorial responsable de uno de los diccionarios de referencia del inglés, para describir una nueva fase del ecosistema digital: imágenes, videos y textos producidos en serie por IA, de baja calidad, diseñados no para informar ni crear, sino para ocupar espacio, captar clics y saturar la atención.

De barro y desperdicios… a internet

La palabra slop no es nueva. En el siglo XVIII se utilizaba para describir barro blando o lodoso; en el XIX pasó a significar sobras de comida o bazofia. Con el tiempo, el término acabó designando cualquier cosa carente de valor.

Lo que cambia ahora es el contexto: slop ya no es un residuo físico, sino un subproducto digital. Contenido que no busca ser bueno, sino abundante. Que no intenta convencer, sino colarse en el algoritmo.

Según explica Merriam-Webster, el término resulta especialmente adecuado porque “condensa en cuatro letras la sensación de algo que se filtra, lo invade todo y resulta difícil de evitar”.

Cuando la IA aprende a producir ruido

El slop no es solo un problema estético. Investigadores y analistas llevan tiempo advirtiendo de que la producción masiva de contenido sintético está degradando el entorno informativo.

Estudios publicados en Springer Nature alertan de que los sistemas generativos tienden a amplificar patrones repetitivos y a priorizar cantidad sobre calidad cuando se usan para escalar contenido digital.

La consecuencia es un internet más ruidoso, menos fiable y cada vez más difícil de filtrar, donde distinguir lo relevante de lo irrelevante exige un esfuerzo constante.

Del meme absurdo a la desinformación política

El slop puede parecer inofensivo cuando adopta forma de memes surrealistas (animales imposibles, bebés que hablan como adultos o escenas históricas reinventadas), pero su impacto va más allá del humor involuntario.

Organismos y medios como BBC News y MIT Technology Review han documentado cómo el contenido generado por IA ya se ha utilizado para manipular procesos electorales, suplantar voces de políticos y fabricar imágenes falsas con apariencia verosímil.

Slop no es creatividad (aunque lo parezca)

Uno de los mensajes clave detrás del uso del término es desmontar una idea muy extendida: que la IA esté demostrando una creatividad equiparable a la humana. Para muchos expertos, la proliferación de slop indica justo lo contrario.

“La mayoría del contenido generado automáticamente no innova ni sorprende: imita, repite y exagera lo que ya existe”, explica la investigadora Emily Bender, especialista en lingüística computacional y crítica del uso indiscriminado de modelos generativos.

El nuevo spam ya no llega por correo

Durante años, el gran enemigo digital fue el spam. Hoy, el correo basura parece casi un problema menor frente a un escenario donde videos, imágenes y textos sintéticos colonizan timelines enteros.

El slop no se envía: se cuela. Aprovecha sistemas de recomendación, tendencias virales y automatización para multiplicarse sin fricción.

Nombrar el problema es el primer paso

Que una institución lingüística como Merriam-Webster ponga nombre a este fenómeno no es anecdótico. Significa reconocer que la inteligencia artificial no solo está creando herramientas nuevas, sino también residuos culturales.

Llamarlo slop no soluciona el problema, pero ayuda a verlo. A identificar cuándo lo que consumimos no informa, no entretiene y no aporta, sino que simplemente rellena el vacío entre un scroll y el siguiente.

Y quizá, en un internet cada vez más automatizado, aprender a detectar el slop sea una nueva forma de alfabetización digital.

Pocas personas quedan en el mundo que no hayan escuchado The Fate of Ophelia. La canción de apertura de The Life of a Showgirl, el último disco de Taylor Swift, se convirtió en el mayor hit de este final de año. Sin embargo, contra todo pronóstico para un tema en inglés, empezó a acumular más reproducciones en un país como Brasil que en Estados Unidos. Se trata de una hazaña que solo se explica, precisamente, debido al factor del idioma: numerosas versiones creadas con inteligencia artificial versionaron la canción en portugués y se volvieron virales.

“No puedo creer que la IA sencillamente haya creado una de las mejores canciones que escuché en los últimos 10 años”. Así de tajante fue el usuario @Lucas11274 en los comentarios de una de las versiones de The Fate of Ophelia publicadas en YouTube, cuyo mensaje recibió más de mil likes. Este tema, publicado también en Spotify bajo el título de A Sina de Ofélia, y que imita las voces de las superestrellas brasileñas Luísa Sonza y Dilsinho, no acredita de momento a Taylor Swift, pero acumuló el 29 de diciembre hasta 433.000 reproducciones solo en Spotify Brasil.

No obstante, esa no es la única versión que está triunfando en la plataforma, ya que otra grabación hecha con IA y titulada Todo Tempo Sozinha Nessa Torre acumuló el lunes 393.000 escuchas en Spotify Brasil. Para ponerlo en perspectiva, la canción original sumó 512.000 reproducciones, lo que la llevó a alcanzar un total de 1,3 millones de escuchas solo el lunes en Spotify Brasil si sumamos las 826.000 reproducciones de las versiones creadas por inteligencia artificial. Estas versiones se están empleando en aplicaciones como TikTok para acompañar videos que alientan al equipo de Brasil en el próximo Mundial de Fútbol.

En España, The Fate of Ophelia se convirtió en la primera canción de esta década íntegramente en inglés que alcanzaba la primera posición en el país, según se puede consultar en la base de datos de Promusicae. En EE.UU., además, se mantuvo en el número 1 durante ocho semanas y todo apunta a que seguirá en la cima. Sin embargo, en Brasil y Portugal sucedió algo diferente: en lugar de que la gente haya dejado de escuchar el tema original para escuchar las versiones creadas con IA, son estas versiones las que ayudaron a que aumenten las reproducciones de la original.

Es evidente que la nueva canción de Taylor Swift ya era un éxito antes de que las versiones brasileñas de IA se volvieran virales, pero es gracias a estas versiones que la canción resurgió en países de Latinoamérica. El equipo de Taylor Swift no se pronunció sobre estas versiones brasileñas no oficiales, que solo pueden escucharse en Spotify o YouTube. En Apple Music no están disponibles, por lo que es la canción original la que encabeza la lista de éxitos de Apple Music Brasil. Lo mismo sucede en Apple Music Portugal, donde no hay rastro de A Sina de Ofélia mientras que esa versión ocupa la décima posición en la lista de éxitos de Spotify Portugal.

“La mujer simplemente le puso droga a la música; es completamente adictiva en cualquier idioma o género. Le será imposible detener los miles de millones de versiones que surgirán; esta es, por mucho, la mejor hasta la fecha”, comentó el usuario @patrickneves6346 bajo el tema A Sina de Ofélia publicado en YouTube. “La música es una mezcla de Carnaval y el final recuerda al Mundial. Dios mío, IA”, escribió @alinemarquitimachado.

Taylor Swift, en contra de la IA

La artista ya se posicionó en el pasado en contra de la inteligencia artificial. Lo hizo para apoyar la candidatura de Kamala Harris en las últimas elecciones presidenciales de Estados Unidos. “Recientemente me enteré de que una IA de 'mí' apoyando falsamente la candidatura presidencial de Donald Trump se publicó en su página web”, escribió Swift en Instagram en septiembre de 2024. “Esto despertó mis temores en torno a la IA y los peligros de difundir información errónea. Me llevó a la conclusión de que debo ser muy transparente sobre mis planes para estas elecciones como votante”, afirmó Swift, que agregó que “la forma más sencilla de combatir la información errónea es con la verdad”.

Otro caso de un tema creado por inteligencia artificial que se volvió viral es el de NostalgIA, canción publicada por Flow GPT en noviembre de 2023 en la que cantan las voces de Bad Bunny, Daddy Yankee y Justin Bieber simuladas con IA. Quien reaccionó negativamente fue Bad Bunny, que se pronunció en el canal de WhatsApp que tiene con sus seguidores: “Si a ustedes les gusta esa mierda de canción que está viral en TikTok, sálganse de este grupo ahora mismo. Ustedes no merecen ser mis amigos y por eso mismo hice el nuevo disco, para deshacerme de gente así. Así que fuera”.

Las versiones brasileñas de The Fate of Ophelia no son las únicas que están copando las plataformas de streaming. Recientemente, también se volvió viral The Funk of Ophelia, creada por DJ Nellin y lanzada de manera no oficial. El tema, publicado en Spotify, YouTube y Apple Music, ahora solo puede escucharse en Spotify y YouTube, y sí cuenta con Taylor Swift en los créditos, aunque eso no confirma que Swift haya aprobado el lanzamiento de esta versión.

“Están clonando mi música para conseguir reproducciones, ¡y estoy intentando solucionarlo!”, respondió DJ Nellin a un usuario en Instagram que le avisaba de que había varias versiones de su versión publicadas en internet. “Creo que esto solo pasa en Spotify; ¡YouTube Music todavía tiene mi versión original!”, añadió el músico. Entre los comentarios que recibió Nellin, uno afirmaba que “nunca había estado tan feliz por una canción funk”. El tema ya acumula 5 millones de reproducciones solo en Spotify, en tanto que The Fate of Ophelia ya supera los 760 millones de reproducciones en menos de tres meses.

Lo que sí parece evidente es que The Fate of Ophelia va a cerrar el año como uno de los grandes hits de 2025, y apunta a continuar siéndolo a lo largo de 2026. El tema, tal y como hiciera la compositora con su clásico country Love Story, da la vuelta a otra historia shakesperiana, Hamlet, para celebrar un destino diferente al que tuvo Ofelia en la obra. Su videoclip se estrenó en exclusiva en los cines de todo el planeta.

La inteligencia artificial se ha convertido en una herramienta cotidiana que procesa consultas de todo tipo. Su utilidad depende no solo de la precisión de sus respuestas, sino también de la capacidad para reconocer los límites éticos de cada petición. Un sistema responsable debe distinguir entre la ayuda legítima y la incitación al daño.

Las consecuencias de esa diferencia pueden afectar a la seguridad de personas concretas. Por eso, la noción de conciencia de límites se ha vuelto un requisito esencial en el diseño de los modelos actuales. Y no siempre se cumple.

Grok generó respuestas que simulaban un plan de persecución

El chatbot Grok, desarrollado por la empresa de Elon Musk a través de xAI, ofreció respuestas que traspasaban esa frontera. La plataforma, descrita por el medio Futurism como el proyecto insignia de la compañía, fue capaz de generar mensajes que incluían guías detalladas sobre cómo perseguir a una persona, con indicaciones que rozaban la incitación directa al acoso.

Entre las pruebas analizadas se encontraron respuestas que proporcionaban enlaces de Google Maps con ubicaciones de famosos. Grok señalaba hoteles y zonas donde los famosos podían ser vistos, e incluso sugería horarios propicios para acercarse a ellos. La redacción de esos mensajes reproducía la lógica de un plan de vigilancia y convertía la búsqueda de información en un procedimiento peligroso.

Las instrucciones eran precisas. El sistema describía fases de acoso, desde el seguimiento inicial hasta supuestos momentos de confrontación física. Incluía nombres de programas espía, indicaciones para instalar aplicaciones en dispositivos ajenos y consejos sobre cómo aproximarse sin levantar sospechas. Según el reportaje de Futurism, esa estructura imitaba el comportamiento típico de un agresor obsesionado.

El uso de este tipo de herramientas en conductas delictivas ha comenzado a tener consecuencias legales. El Departamento de Justicia de Estados Unidos presentó recientemente una demanda relacionada con el uso de ChatGPT por un acosador violento. Además, medios como 404 Media o The Wall Street Journal documentaron casos en los que usuarios con delirios o impulsos violentos recurrieron a chatbots para planificar acciones dañinas. Esos episodios revelan que la combinación de vulnerabilidad personal y algoritmos sin control puede derivar en tragedias.

Los sistemas con filtros actúan como barrera frente al daño

Las comprobaciones del medio que investigó a Grok mostraron que el sistema respondía de forma mecánica, sin ningún tipo de filtra, a peticiones explícitas sobre acoso. Cuando se le pidió que simulara las acciones de que podría llevar a cabo una expareja rechazada, redactó un guion con fases tituladas “inmediato posruptura”, “seguimiento continuo” y “etapa final”. Cada una incluía tareas que en la práctica equivalían a espiar, chantajear o intimidar.

En contraste, otros sistemas de inteligencia artificial se negaron a participar en pruebas semejantes. ChatGPT, Gemini, Claude y Meta AI bloquearon las solicitudes y derivaron las conversaciones hacia mensajes de advertencia o recomendaciones de asistencia psicológica. Esa diferencia evidenció la importancia del control interno de las plataformas y de los mecanismos de supervisión que evitan que una tecnología útil se convierta en instrumento de acoso.

El caso de Grok ha abierto un debate sobre la responsabilidad de las empresas que desarrollan inteligencia artificial. El equilibrio entre innovación y seguridad se mantiene en el centro de esa discusión, y los límites éticos se perfilan como la única garantía de que el progreso tecnológico no derive en daño a las personas.

Oriol Vinyals (Sabadell, 1983) es una de las mentes pensantes tras la mayor revolución tecnológica de los últimos años: la inteligencia artificial (IA). Este catalán es vicepresidente de investigación de Google DeepMind, el laboratorio desde el cual el gigante californiano desarrolla Gemini, el chatbot que compite con ChatGPT.

Este matemático e ingeniero de telecomunicaciones afincado en Silicon Valley, es uno de los responsables del modelo de lenguaje de Gemini. En otras palabras: el motor que permite a la IA alimentarse de grandes cantidades de datos y establecer relaciones entre la información recolectada para poder ofrecer respuestas coherentes y válidas. Si bien no es uno de los padres de la IA, sí es el maestro que le enseña a hablar.

Vinyals se enamoró de la inteligencia artificial desde que un profesor del MIT dio una charla en la Universitat Politècnica de Barcelona (UPC), donde él estudiaba. Ahí se gestó una pasión que lo llevó a seguir formándose en Estados Unidos, concretamente en California, donde Google tiene la sede. Tras tantos añosa fuera, volvió a la UPC, donde este miércoles lo nombraron Honoris Causa solo unos días después de que Google sacara la última versión de Gemini que, según los expertos, supuso un salto cualitativo que superó a ChatGPT.

-La semana pasada se lanzó Gemini 3. ¿En qué cambió respecto la versión anterior?

-Gemini es el modelo de lenguaje que alimenta muchos productos de Google, desde el buscador a YouTube. Lo que hace esta versión es lo mismo que la anterior, pero mucho mejor. Un ejemplo: la generación de imágenes ha dado un salto enorme. Ahora puedes añadir a alguien que no estaba o cambiarle la ropa. Además, las letras o el texto que aparecerán en estas imágenes será correcto, no letras abstractas como pasaba antes.

Aparte de la calidad de las imágenes y el texto, también ha mejorado mucho la escritura de código de programación y el razonamiento matemático. También estamos empezando a entender la personalidad de estos modelos y a mejorarla a partir de lo que nos dicen los usuarios.

Hemos notado que Gemini era demasiado complaciente. Siempre respondía diciendo “¡Qué buena pregunta” y eso no gustaba a los usuarios

-¿Personalidad? ¿Qué personalidad tiene Gemini?

-[Risas] ¡Esta es difícil! No es sencillo decirlo con una palabra, lo que analizamos es cómo interactúa, si responde rápido, si se pone a la defensiva. Depende de las instrucciones que le des y de cómo le hables. Como con los humanos. Pero es verdad que lo que hemos notado y estamos cambiando es que era demasiado complaciente. Siempre respondía diciendo “¡Qué buena pregunta” y cosas así. Eso no gustaba a los usuarios y ahora estamos intentando que sea más neutral.

-Esta emulación de las relaciones humanas hace que muchas personas teman a la IA. ¿Cree que hay motivos para ello?

-Es natural que los cambios tecnológicos asusten. Sobre todo ahora, que hay más y se suceden más rápido. Es muy importante hablar con esta gente que siente miedo para que puedan entender qué hace esta herramienta, cómo afectará a su trabajo, cómo puede mejorar cosas de su día a día.

-Precisamente perder el trabajo es uno de los mayores temores de la gente. ¿Está justificado?

-Depende de la profesión. Mira, ahora en lugar de usar un programa de edición de fotos que requiera un conocimiento muy especial, puedes pedírselo a la IA para que, qué sé yo, tú salgas con un gorrito de Navidad. Eso rebaja la barrera de entrada a ciertos trabajos en los que se requerían capacidades concretas. Lo que nos toca como profesionales de Google es entender a los profesionales y ver qué necesitan.

Ahora estamos colaborando con artistas de cine o artistas para ver cómo pueden usar la IA en un momento en que la cinematografía y el arte van a pasar por cambios enormes. Lo importante es verlo como una posibilidad, no una amenaza. Igual que pasó con Internet: mucha gente le tenía miedo y ahora es imprescindible.

-Pero entonces, los profesionales como los editores de fotos sí podrían ser sustituidos por la IA.

-Habrá una transformación. Algunos cambios serán buenos y otros no tanto, pero la evolución nos llevará a trabajos que serán más valorados si los hace un humano y a otros que se transformarán. Habrá empleos que se podrán automatizar más, pero todavía queda lejos porque seguimos necesitando humanos detrás de la IA.

A mí me gusta enfocarlo desde el punto de vista optimista y ver cómo puede ayudar a mejorar el mundo. Ahora estamos en una universidad, donde hay profesores magníficos, pero no todo el mundo tiene acceso a una carrera. Pues la IA te permite tener un tutor en cualquier lugar del mundo. Los científicos también se verán beneficiados porque la IA les permitirá analizar pruebas diagnósticas más rápido y mejor. Así que un solo doctor podrá ver a más pacientes y dedicarse más a los casos complejos. Demis Hassabis, CEO de DeepMind, dice que la revolución de la IA será como la revolución industrial, pero 10 veces mayor y más rápida.

-Los periodistas somos uno de los colectivos inquietos por los avances de la IA. Antes de venir le pedí a Gemini que me preparara preguntas para usted y debo decirle que no me gustaron. ¿Cree que en algún momento la IA podría hacerle esta entrevista?

-¡Está bien que lo hayas probado! Y es cierto que hay camino por recorrer. Podrá prepararte preguntas, pero lo que no podrá hacer es conocer la historia y el contexto social y preguntar en consecuencia. La IA interacciona con la gente y cuanto más lo haga, mejores preguntas hará, pero la conexión humana seguirá siendo importante. Así que no creo que pudiera hacerme esta entrevista, al menos de momento.

Hoy en día cuesta saber qué es verdad y qué no. Es un momento en el que hay muchas opiniones, debates y discusiones

-Además del miedo a quedarse sin trabajo, otra cosa que preocupa a la sociedad es que no poder saber qué es real, sobre todo ahora que la generación de textos e imágenes ha alcanzado este nivel. ¿Les preocupa, como desarrolladores, el uso que se hace de la IA?

-Cada compañía tiene políticas y filosofías diferentes. Desde Google siempre hemos tenido claro que queremos desarrollar los sistemas más potentes del mundo y descubrir cómo funciona la inteligencia humana a través de la inteligencia artificial. Pero siempre desde la responsabilidad. Antes de sacar cada modelo hacemos muchas pruebas, pero es muy difícil tener en cuenta todos los usos que se le va a dar porque hay millones de usuarios.

Hay usos sorprendentes y, ante ellos, podemos revisar y ajustar el modelo. Pero es necesario tener en cuenta que hay una coadaptación entre la tecnología y la sociedad, el problema es que la irrupción de los chatbots ha sido muy rápida y, quizás, no ha habido este tiempo para adaptarse. Por eso creo que es muy importante educar e informar a la gente.

Nuestro papel es el de introducir ciertos cambios. Lo que decía antes de hacer que Gemini sea menos complaciente es importante para que no responda “¡Qué buena pregunta!” si le pides algo que sea... complicado. O que te pueda advertir si le pides algo que no deberías pedirle. Pero es verdad que hoy en día cuesta saber qué es verdad y qué no. Es un momento en el que hay muchas opiniones, debates y discusiones.

-Podemos entrar en debates sobre muchas cosas, pero antes me decía que, por ejemplo, la IA puede ponerme un gorrito de Navidad en una foto. Si yo no he llevado nunca ese gorro, lo miremos como lo miremos, esa foto cuenta una mentira. ¿Le preocupa que la IA pueda ser usada para difundir fake news?

-Todo depende de quien use la tecnología. Nosotros aseguramos que tenemos herramientas muy fiables que permiten verificar rápidamente si una imagen ha sido generada. Estas marcas han existido siempre: están diseñadas para que el usuario no las vea, pero los metadatos son claros. Y son accesibles a cualquier medio de comunicación que quiera corroborar si unas imágenes o textos son originales o no. Es una herramienta que se llama Synth ID y que desarrollamos desde el primer día. Luego, obviamente, en plataformas nuestras como YouTube, tiene que quedar muy claro si un vídeo es real o no.

-En YouTube esa opción todavía no está disponible

-No, pero es que la generación de vídeos todavía no es mainstream en YouTube, así como sí pasa en otras plataformas. Pero cuando pase, estará controlado. Evidentemente, no podemos hacer nada respecto a lo que se publique en otros sitios. La tecnología de verificación existe y nuestra responsabilidad es garantizar que vaya bien. Más allá de eso, sabemos que habrá gente que no la usará.

-Hay diversos estudios que alertan de que los datos disponibles para entrenar y mejorar la IA se han agotado. ¿Es así?

-Sí. Estamos en una fase llamada preentrenamiento, que es la más larga de todas. Es cuando entrenamos a este cerebro que, al principio, no tiene ninguna inteligencia. Hemos usado todos los datos de calidad alta y media, porque el objetivo es obtener todo el conocimiento de la humanidad a través de las bases de datos abiertas de Internet.

Pero una vez agotada esta fuente, hay otras maneras de obtener más datos. Los modelos son bastante buenos como para pensar que ellos mismos pueden crear datos nuevos o, al menos, reformular los que ya existen. Si puedes manipular una foto con un modelo, en lugar de una foto ya tienes diez. Si esas imágenes son buenas, pueden servir de entrenamiento para que la IA siga aprendiendo. Es complicado, pero no hemos encontrado la manera perfecta de crear más datos.

La IA tiene un nivel de inteligencia suficiente como para empezar a cubrir las partes del conocimiento sobre las que todavía no hay tantos datos

-¿Y esperar a que la humanidad genere más datos?

-Si esperáramos unos años, podríamos escribir más información y los modelos mejorarían de manera natural. Pero los modelos tienen un nivel de inteligencia suficiente como para empezar a cubrir las partes del conocimiento sobre las que todavía no hay tantos datos. No es fácil, pero es algo que nos demuestra que los modelos seguirán mejorando. Hoy no parece que haya un límite de crecimiento y mejora para la IA.

-Pero es sabido que la IA reproduce errores de datos o sesgos, ya sean racistas o de género. ¿Alimentar los modelos con datos generados por esos mismos modelos no supone profundizar en el error y el sesgo?

-Es un tema muy interesante. A la gente le gusta probar la IA y encontrar errores; uno de los más recientes salió cuando un usuario preguntó cuantas R tiene la palabra Strawberry [fresa en inglés] y la respuesta fue dos. Así que, seguramente, con toda la conversación que hay ahora en Internet sobre este error absurdo, si entrenamos al motor con datos generados por él mismo, perpetuará la idea de que strawberry tiene dos R.

En esta fase de preentrenamiento que lleva a imitar el conocimiento, los sesgos formarán parte del modelo. Pero para eso está el postentrenamiento, que es donde se da la oportunidad de corregir. Porque es más fácil detectar el error que no producirlo.

-Pero ¿cómo se detecta el error si la base está mal?

-Con modelos que evalúan el primer modelo. Hay errores que son muy obvios y, por tanto, fáciles de corregir, como que strawberry tiene tres R en lugar de dos.

En Inteligencia Artificial es más fácil detectar el error que no evitar cometerlo

-Si es tan obvio, ¿por qué no se detecta y corrige antes?

-Siguiendo el caso de strawberry: porque no tenemos aplicado un modelo dedicado a contar letras de palabras, que es sencillo de diseñar, y se aplica en el momento en que se detecta que hay un error en este campo. Si no se aplica antes es porque los chatbots son herramientas al alcance de muchos usuarios y tienen que ir relativamente rápido. Si tuviéramos tres horas, podríamos esperar a que implementara este modelo dedicado a contar letras de palabras y así, seguro, nos diría exactamente lo que necesitamos saber. Pero hay que ir más rápido. Por eso digo que es más fácil detectar el error que no evitar cometerlo. Es a partir de la detección del error cuando se hace el postentrenamiento.

Queremos que nuestros motores sean lo más fiables posible y, por eso, aunque siempre podrá haber errores cómicos, cada vez serán menos frecuentes y menos ridículos.

-Esta semana, se publicó un artículo sobre expertos que trabajan en desarrollo de la IA y recomiendan a sus familiares y amigos que no la usen. ¿Coincide con ellos?

-Yo soy padre y te digo que con la tecnología se tiene que tener cierto sentido común. Y, en base a ese sentido común, no tengo problema en usar la IA cuando mis hijos se ponen enfermos para saber qué tienen. Es una búsqueda mucho más personalizada que la de Google, al que, por supuesto, se debe seguir recurriendo para consultar páginas web oficiales. Pero nunca me agarro al pie de la letra a lo que diga, a no ser que ya tenga conocimientos previos sobre la materia. Tienes que ser crítico con lo que lees.

Ahora, otra cosa es, como padre, qué relación creo que mis dos hijos deben tener con la IA, pero también con las pantallas. Como conocedor, no usaría la palabra ‘peligroso’, pero entiendo que hay incertidumbre porque todavía no hay estudios sobre las consecuencias de la exposición a las tecnologías.

-Dice que usa los chatbots para consultar síntomas. ¿Qué opina de la gente que los usa como psicólogo?

-Ese es un uso muy personal. Puede ser que tengas un conflicto laboral o una situación complicada. En esos casos, la IA quizás te da un punto de vista en el que no hayas pensado. El problema es cuando se convierte en una adicción. Tengo que decir, además, que el modelo de Google es muy general y no está diseñado para eso, pero sí hay start-ups que están intentando ajustar sus chats específicamente para eso.

En esos casos, al final te proporcionan un mentor que te puede ayudar. Seguro que hay casos en los que, lamentablemente, no ayuda, pero por lo general puede ser una herramienta interesante siempre que sea para uso puntual y que tengamos claro que detrás de esas palabras hay una inteligencia artificial, no una humana.

La burbuja de la inteligencia artificial no explotará esta semana. No obstante, las señales de que la euforia terminó y de que cada vez más inversores están preparados para abandonar el barco se acumulan. Por eso había tantas miradas puestas en los resultados que Nvidia publicaba este miércoles. Unos resultados peores de lo esperado por parte de la campeona de la inteligencia artificial podían haber desatado el impulso de estampida.

Nvidia desafió a los analistas y presentó unas cuentas excelentes. “Se habló mucho de una burbuja de IA. Desde nuestro punto de vista vemos algo muy diferente”, afirmó su cofundador y director ejecutivo, Jensen Huang, en la reunión posterior con los inversores. El negocio de la primera compañía en alcanzar los cinco billones de dólares de valoración sigue viento en popa, y eso tranquilizó a los mercados, que llevaban varias jornadas penalizando los valores tecnológicos. La propia Nvidia había perdido 500.000 millones desde que alcanzó su pico hace dos semanas.

“Lo que Huang defiende no es tanto una narrativa de crecimiento sin fin, como una tesis estructural donde la IA ha dejado de ser un 'vertical tecnológico' [un negocio de nicho] para convertirse en infraestructura global”, explica Javier Molina, analista de mercados de eToro. “Lo que hay detrás de su entusiasmo es la consolidación de un oligopolio tecnológico que domina tanto la oferta de chips (Nvidia) como la demanda institucional (OpenAI, Microsoft, Meta, Google)”.

La compañía es el termómetro del sector. “Hoy, Nvidia refleja (casi uno a uno) el ciclo de liquidez de la IA, y mientras siga entrando dinero en esa temática, su valoración se mantiene… pero… si la inversión se enfría, el múltiplo podría resentirse y ahí vendrán los problemas”, advierte Molina.

La posibilidad de que la inversión se enfríe es real. Las dudas sobre la rentabilidad real de las inversiones en esta tecnología, el elevado consumo energético de las infraestructuras necesarias, la obsolescencia tecnológica y las crecientes fricciones en materia de soberanía tecnológica son factores que ya están empezando a destapar las dudas de los inversores, señala Thomas Friedberger, vicedirector ejecutivo de Tikehau Capital, una gestora francesa de activos orientada a inversores institucionales (fondos de pensiones, aseguradoras, grandes patrimonios).

“La narrativa en torno a la inteligencia artificial estuvo marcada por un exceso de expectativas. A medida que avanza el ciclo inversor, observamos cómo la rentabilidad esperada no siempre se materializa, lo que obliga a replantear asignaciones”, advierte Friedberger en un comunicado enviado a elDiario.es.

Más avisos de burbuja: ahora Google

Fueron los propios magnates tecnológicos los que se encargaron de preparar al mercado para la explosión de la burbuja. Primero fueron Sam Altman y Mark Zuckerberg, directores ejecutivos de OpenAI y de Meta, respectivamente, los que emplearon el término “burbuja” sobre las inversiones en IA y aceptaron que podía estallar. Después fue Jeff Bezos, fundador de Amazon, y esta semana fue Sundar Pichai, máximo responsable de Google.

La opinión de Pichai cuenta porque Google es una de las grandes ganadoras de esta revolución. Su familia de modelos Gemini están entre las más avanzadas del mercado junto a ChatGPT y sistemas chinos como DeepSeek y Kimi. Su valoración creció un 70% en un año. Pese a ello, incluso Pichai reconoce que existe “irracionalidad” en torno a las inversiones en IA.

“Creo que ninguna empresa va a ser inmune, incluida la nuestra”, advirtió en una entrevista con la BBC sobre la posible explosión de la burbuja. Como Altman y Zuckerberg, el jefe de Google pone como referencia la burbuja de las puntocom, la fiebre inversora de finales de los noventa que infló hasta el absurdo las valoraciones de las primeras empresas de Internet. Su explosión destruyó aproximadamente 5 billones de dólares de valor de mercado, lo mismo que lo que hoy valen Google y Meta juntas.

“Podemos mirar hacia atrás y observar internet ahora mismo. Claramente, hubo mucha inversión excesiva, pero ninguno de nosotros dudaría de la importancia de Internet”, dice Pichai: “Espero que la IA sea igual. Creo que es racional, pero también hay elementos de irracionalidad en momentos como este”.

Para Javier Molina, no es casualidad que los magnates de la IA hablen cada vez más de las valoraciones hinchadas. “Que figuras como Altman o Pichai reconozcan abiertamente la posibilidad de una burbuja marca un cambio narrativo profundo, donde se da un paso del optimismo ingenuo a la gestión de expectativas. Ese giro en el lenguaje suele preceder al pico psicológico del ciclo. Cuando los líderes empiezan a hablar de burbuja, no están advirtiendo, están preparando al mercado para una fase de consolidación”, explica.

El canario en la mina

La explosión de la burbuja de las puntocom se llevó por delante actores con presencia relevante en el mercado digital como Yahoo. En el escenario actual, cada vez más dedos señalan a Oracle como el candidato a caer primero.

La compañía fundada por Larry Ellison vivió una segunda juventud bursátil gracias a su agresiva apuesta por la nube y su alianza estratégica con OpenAI, lo que disparó su valoración en sptiembre. Oracle llegó tarde a la guerra de la nube contra AWS, Microsoft y Google, e intentó compensar esa brecha apostándolo todo a la infraestructura de IA. Sin embargo, ahora se convirtió en un actor cuyo crecimiento depende casi exclusivamente de que la fiebre inversora no baje de temperatura, como alertan los analistas.

El mercado se dio cuenta de ello y la compañía dirigida por Larry Ellison perdió casi un tercio de su valor en un mes. La tendendia continuó este jueves y Oracle ya va camino de dilapidar todo el valor que había conseguido desde que su cotización empezó a verse impulsada por el fervor de la IA.

Oracle es un gigante de 135.000 trabajadores y casi 40 años de historia que ahora se ve involucrado en una tendencia peligrosa. “En 2024, la inteligencia artificial generativa despertó gran entusiasmo en los mercados financieros, alimentado por la convicción de que transformará profundamente las economías”, recuerda Thomas Friedberger, que señala que ese optimismo tenía “zonas de sombra”.

Entre ellos, señala “los enormes costos de desarrollo, especialmente en centros de datos energéticamente intensivos y rápidamente obsoletos”, como los que está construyendo Oracle para ser uno de los actores centrales del negocio de la IA. Unas infraestructuras que “plantean dudas sobre su rentabilidad real a medio plazo. Los acontecimientos recientes confirmaron esas reservas: la aparición de DeepSeek ilustra el riesgo de una mala asignación del capital en un contexto de disrupción acelerada”, concluye el analista.

La creación audiovisual impulsada por inteligencia artificial se convirtió en un terreno sin límites claros, donde cualquier usuario puede generar escenas, personajes o mundos enteros con instrucciones simples. Este nuevo modo de producción plantea un desafío a las empresas que basan su identidad en la gestión rigurosa de sus franquicias.

Entre ellas, The Walt Disney Company ocupa un lugar primordial, porque su catálogo es uno de los más codiciados y también uno de los más vigilados. La expansión de herramientas generativas permite a cualquiera fabricar un video en el que Mickey Mouse protagoniza acciones ajenas a su universo, una situación que inquieta a los estudios y acelera su respuesta.

Disney apuesta por una plataforma que combine producción y participación

Disney anunció que su servicio Disney+ incorporará funciones que permitirán a los suscriptores crear videos cortos dentro de la propia plataforma mediante modelos de inteligencia artificial. La iniciativa la detalló Bob Iger, consejero delegado de la compañía, durante la reciente llamada con inversores, al afirmar que se trataba de “los cambios más grandes y más importantes” desde el lanzamiento de la plataforma hace seis años.

Explicó que la idea consiste en ofrecer una experiencia más participativa, donde los usuarios puedan “crear contenido generado por el usuario y consumir contenido generado por el usuario, principalmente de formato breve”. La empresa prevé integrar también funciones inspiradas en videojuegos gracias a su acuerdo con Epic Games.

El anuncio llega tras una etapa de prudencia. Disney había detenido varios proyectos de IA en meses anteriores por temor a vulnerar derechos de imagen o provocar conflictos con los sindicatos de actores. Según el Wall Street Journal, la compañía canceló ensayos que consistían en replicar digitalmente a intérpretes reales para evaluar la reacción del sector. La estrategia actual se apoya en acuerdos con compañías tecnológicas, aunque no se han divulgado nombres, con el objetivo de “proteger la propiedad intelectual”, tal y como aseguró Iger a The Hollywood Reporter.

Las experiencias ajenas confirman los riesgos del contenido sin supervisión

Las experiencias de otras plataformas sirven de aviso. OpenAI, con su aplicación Sora, permitió generar videos a partir de texto y terminó teniendo críticas por infracciones de derechos y contenidos problemáticos. También se detectaron recreaciones hiperrealistas de fragmentos de películas de Disney, elaboradas sin autorización. Reuters informó que la compañía envió una carta de cese a Character.AI por utilizar personajes con copyright. Este historial muestra por qué la moderación será un elemento esencial cuando el nuevo sistema esté activo dentro de Disney+.

El proyecto pretende transformar la relación entre espectador y contenido. Hasta ahora, la plataforma ofrecía un modelo cerrado, centrado en el consumo de series y películas. Lo que hay es lo que podés ver. Con esta herramienta, en cambio, el usuario pasa a participar activamente en el proceso creativo, aunque bajo condiciones que garantizarán un entorno familiar y seguro.

Iger subrayó durante la reunión de resultados que “la oportunidad es enorme para aumentar nuestra conexión con los seguidores de Disney en todo el mundo”. La intención es mantener la identidad de marca y, al mismo tiempo, incorporar formatos que recuerdan a los de TikTok o Roblox, donde la creación breve y espontánea domina la atención digital.

La protección del legado será la pieza decisiva del nuevo modelo

El reto técnico y ético radica en equilibrar la libertad del usuario con la protección de un catálogo que forma parte de la cultura popular mundial. Disney dedicó décadas a blindar sus personajes y a controlar cada uso público de sus imágenes. Permitir que los suscriptores fabriquen videos con esas figuras dentro de un marco oficial supone abrir un espacio nuevo, más flexible, pero también más expuesto. La empresa confía en que los algoritmos de moderación, combinados con un filtrado previo de plantillas y modelos, reduzcan los riesgos legales y mantengan la coherencia visual de la marca.

Las pruebas internas aún no tienen calendario oficial, aunque las declaraciones de la dirección confirman que el desarrollo está en curso. Disney+ afronta así un cambio profundo en su funcionamiento, impulsado por la competencia y por la necesidad de renovar el interés del público. El futuro de la plataforma dependerá de que logre que la creatividad de los usuarios se convierta en un valor añadido sin poner en peligro el patrimonio simbólico de la compañía. La frontera entre innovación y protección será, en este caso, el verdadero terreno de prueba.

El exBeatle Paul McCartney lanzó una canción 'silenciosa' como parte de un álbum de protesta de la industria musical contra el uso no autorizado de material con derechos de autor por parte de empresas de inteligencia artificial (IA), según informa este lunes el periódico británico The Guardian.

El álbum, titulado “¿Is That What We Want?” (“¿Es esto lo que queremos?”), recopila grabaciones silenciosas de varios artistas para presionar al gobierno del Reino Unido a fin de que impida a las empresas tecnológicas entrenar sus modelos de IA con contenido creativo sin permiso.

En lugar de melodías pegadizas y letras evocadoras, solo se escucha un leve siseo y algún que otro ruido sordo, lo que sugiere que si las empresas de IA explotan injustamente la propiedad intelectual de los músicos para entrenar sus modelos de IA, el ecosistema creativo se verá destruido y la música original silenciada, dice el diario.

La contribución de McCartney, de 83 años y que actualmente está de gira por América del Norte, se produce en un momento en que músicos y artistas intensifican su campaña para persuadir al Gobierno británico para que impida a las empresas tecnológicas entrenar modelos de IA con su obra creativa sin autorización ni pago de derechos de autor.

Ed Newton-Rex, compositor que impulsó el álbum de protesta, señaló que le preocupa “enormemente que el gobierno preste más atención a los intereses de las empresas tecnológicas estadounidenses que a los de los creativos británicos”.

Entre otros artistas que ya apoyan la campaña figuran Sam Fender, Kate Bush, Hans Zimmer y Pet Shop Boys.

Según The Guardian, como sus mejores trabajos, la canción de McCartey tiene de algún modo un principio, un desarrollo y un final.

Comienza con unos segundos de siseo de cinta, seguido de otros segundos de un ruido indefinido que podría ser alguien abriendo una puerta y caminando de un lado a otro, antes de pasar a otros segundos de siseo salpicado de susurros y concluir con un fundido lento, según pudo saber el rotativo. Además, sería su primera grabación nueva en cinco años.

McCartney fue una de las voces más destacadas de la música británica que expresó su preocupación por los planes de las autoridades para forjar un nuevo acuerdo con las empresas de IA, que exigen acceso a enormes volúmenes de información de entrenamiento, incluyendo texto, imágenes y música.

“Tenemos que tener cuidado, porque podría descontrolarse y no queremos que eso ocurra, sobre todo para los jóvenes compositores y escritores, para quienes quizá sea la única forma de labrarse una carrera”, declaró McCartney sobre la IA.

Con información de la agencia EFE

Al entrar en el Media Lab del Instituto Tecnológico de Massachusetts (MIT) en Cambridge, Estados Unidos, el futuro parece un poco más cercano. Las vitrinas exhiben prototipos de creaciones extrañas y maravillosas, desde diminutos robots de escritorio hasta una escultura surrealista creada por un modelo de inteligencia artificial al que se le pidió que diseñara un juego de té hecho con partes del cuerpo. En el vestíbulo del edificio, un asistente de clasificación de residuos con inteligencia artificial llamado Oscar te indica dónde colocar tu taza de café usada. Cinco pisos más arriba, la investigadora científica Nataliya Kosmyna estuvo trabajando en interfaces cerebro-ordenador portátiles que espera que algún día permitan a las personas que no pueden hablar a causa de enfermedades neurodegenerativas, como la esclerosis lateral amiotrófica (ELA), a comunicarse utilizando su mente.

Kosmyna dedica gran parte de su tiempo a leer y analizar los estados cerebrales de las personas. Otro proyecto en el que está trabajando es un dispositivo portátil —un prototipo que parece unas gafas— que puede detectar cuándo alguien se está confundiendo o perdiendo la concentración. Hace unos dos años, comenzó a recibir correos electrónicos inesperados de desconocidos que le contaban que habían empezado a utilizar grandes modelos de lenguaje como ChatGPT y que sentían que su cerebro había cambiado como consecuencia de ello. Su capacidad para recordar parecía haber empeorado, ¿es eso posible?, le preguntaban. A la propia Kosmyna le había sorprendido lo rápido que la gente había empezado a confiar en la IA generativa. Se dio cuenta de que sus compañeros de trabajo utilizaban ChatGPT en el trabajo, y había comprobado que las solicitudes que recibía de investigadores que esperaban unirse a su equipo parecían diferentes. Esos correos electrónicos eran más largos y formales y, a veces, cuando entrevistaba a los candidatos por Zoom, notaba que hacían pausas antes de responder y miraban hacia otro lado. Se preguntaba, sorprendida, si estaban utilizando una IA como apoyo. Y si estaban utilizando la IA para algo así, ¿hasta qué punto entendían las respuestas que le estaban dando en las entrevistas?

Junto con algunos colegas del MIT, Kosmyna puso en marcha un experimento en el que se utilizaba un electroencefalograma para monitorizar la actividad cerebral de las personas mientras escribían ensayos sin ayuda digital, con la ayuda de un buscador de Internet o con ChatGPT. Descubrió que cuanto más ayuda externa tenían los participantes en el estudio, menor era su nivel de conectividad cerebral. En concreto, quienes utilizaban ChatGPT para escribir mostraban una actividad significativamente menor en las redes cerebrales asociadas al procesamiento cognitivo, la atención y la creatividad.

En otras palabras, independientemente de lo que las personas que utilizaban ChatGPT sintieran que estaba pasando en sus cerebros, los escáneres que se usaban para analizar su actividad mostraban que no estaba ocurriendo gran cosa.

A los participantes en el estudio, todos ellos matriculados en el MIT o en universidades cercanas, se les preguntó, justo después de entregar su trabajo, si podían recordar lo que habían escrito. “Prácticamente ninguno de los integrantes del grupo de ChatGPT fue capaz de citar nada”, dice Kosmyna. “Eso es preocupante: acababas de escribirlo y no recuerdas nada”.

Kosmyna tiene 35 años, viste a la moda con un vestido camisero azul y un collar grande y multicolor, y habla a mayor velocidad de la que la gente utiliza para pensar. Según explica, escribir un ensayo requiere habilidades que son importantes en nuestra vida en general: la capacidad de sintetizar información, tener en cuenta puntos de vista contrapuestos y desarrollar argumentos. Estas habilidades se utilizan en las conversaciones cotidianas. “¿Cómo vas a lidiar con eso si solo usas ChatGPT? ¿Vas a decir algo como: 'Eh... ¿puedo mirar mi teléfono?', dice.

El experimento fue pequeño (participaron 54 personas) y aún no fue revisado por pares. Sin embargo, en junio, Kosmyna lo publicó en Internet, pensando que otros investigadores podrían encontrarlo interesante, y luego siguió con su día, sin ser consciente de que acababa de desatar un boom mediático internacional.

Además de peticiones para entrevistas de periodistas, recibió más de 4000 correos electrónicos de todo el mundo, muchos de ellos de profesores estresados que sienten que sus alumnos no están aprendiendo adecuadamente porque utilizan ChatGPT para hacer sus deberes. Le trasladaban su preocupación de que la IA esté creando una generación capaz de producir trabajos aceptables, pero sin conocimientos útiles ni comprensión de la materia.

Según Kosmyna, el problema fundamental es que, tan pronto como aparece una tecnología que nos facilita la vida, estamos evolutivamente preparados para utilizarla. “A nuestro cerebro le encantan los atajos, está en nuestra naturaleza. Pero el cerebro necesita fricción, enfrentarse a cierta dificultad, para aprender. Necesita tener un reto”.

Si el cerebro necesita fricción, pero también la evita instintivamente, resulta interesante que lo que la tecnología promete sea crear una experiencia de usuario “sin fricciones”, para garantizar que, siempre que pasemos de una aplicación a otra o de una pantalla a otra, no encontremos resistencia. La experiencia de usuario sin fricciones es la razón por la que, sin pensarlo, descargamos cada vez más información (y trabajo) en nuestros dispositivos digitales; es la razón por la que es tan fácil caer en los agujeros negros de Internet y tan difícil salir de ellos; es la razón por la que la IA generativa, como ChatGPT, ya se integró tan completamente en la vida de la mayoría de nosotros.

Sabemos, por nuestra experiencia colectiva, que una vez que te acostumbrás a la ciberesfera hipereficiente, el mundo real, lleno de fricciones, resulta más difícil de manejar. Así que evitás las llamadas telefónicas, utilizás las cajas automáticas del supermercado, lo pedís todo desde una aplicación; recurrís al celularm para hacer los cálculos que podrías hacer de memoria, para comprobar un dato antes de tener que rebuscarlo en tu memoria, para introducir tu destino en Google Maps y viajar de A a B con el piloto automático. Quizás dejás de leer libros porque mantener ese tipo de concentración te parece una fricción; quizás soñás con tener un coche autónomo. ¿Es este el amanecer de lo que la escritora y experta en educación Daisy Christodoulou denomina una “sociedad estúpida”, un paralelo a una sociedad obesógena, en la que es fácil volverse estúpido porque las máquinas pueden pensar por vos?

La inteligencia humana es demasiado amplia y variada como para reducirla a palabras como “estúpida”, pero hay señales preocupantes de que toda esta comodidad digital nos está costando muy cara. En los países económicamente desarrollados que forman parte de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), las puntuaciones de Pisa, que miden las habilidades de lectura, matemáticas y ciencias de los jóvenes de 15 años, tendieron a alcanzar su máximo alrededor de 2012. Si bien a lo largo del siglo XX las puntuaciones del coeficiente intelactual (CI) aumentaron a nivel mundial, quizás debido a un mejor acceso a la educación y a una mejor nutrición, en muchos países desarrollados parecen haber disminuido.

La inteligencia humana es demasiado amplia y variada como para reducirla a palabras como 'estúpida', pero hay señales preocupantes de que toda esta comodidad digital nos está costando muy cara.

La caída de las puntuaciones en las pruebas y el CI es objeto de un acalorado debate. Lo que es más difícil de discutir es que, con cada avance tecnológico, profundizamos nuestra dependencia de los dispositivos digitales y nos resulta más difícil trabajar, recordar, pensar o, francamente, funcionar sin ellos. “Solo los desarrolladores de software y los traficantes de drogas llaman a la gente usuarios”, comenta Kosmyna en un momento dado, molesta por la decisión de las empresas de inteligencia artificial de distribuir masivamente sus productos a la sociedad antes de que comprendamos plenamente los costes psicológicos y cognitivos.

En el mundo online, en constante expansión y sin fricciones, vos sos ante todo un usuario: pasivo, dependiente. En la era naciente de la desinformación y los deepfakes generados por la IA, ¿cómo mantendremos el escepticismo y la independencia intelectual que necesitaremos? Cuando aceptemos que nuestras mentes ya no nos pertenecen, que simplemente no podemos pensar con claridad sin la ayuda de la tecnología, ¿cuántos de nosotros quedarán para resistir?

Si empezás a decirle a la gente que te preocupa lo que las máquinas inteligentes están haciendo a nuestros cerebros, corrés el riesgo de que, en un futuro no muy lejano, todo el mundo se ría de lo anticuado que so. Sócrates temía que la escritura debilitara la memoria de las personas y fomentara solo una comprensión superficial: no la sabiduría, sino “la presunción de sabiduría”, un argumento que se asemeja mucho a muchas críticas a la IA. Lo que ocurrió en cambio fue que la escritura y los avances tecnológicos que le siguieron —la imprenta, los medios de comunicación, la era de Internet— hicieron que cada vez más personas tuvieran acceso a más información. Más personas podían desarrollar grandes ideas y compartirlas más fácilmente, lo que nos hizo más inteligentes e innovadores, tanto a nivel individual como colectivo.

Después de todo, la escritura no solo cambió la forma en que accedemos y retenemos la información, sino que también cambió nuestra forma de pensar. Una persona puede realizar tareas más complejas con un cuaderno y papel a mano que sin ellos: la mayoría de las personas no pueden calcular 53.683 dividido por 7 en su cabeza, pero podrían intentar hacer una división larga en papel. No podría haber dictado este artículo, pero escribir me ayudó a organizar y aclarar mis pensamientos. Como seres humanos, somos muy buenos en lo que los expertos denominan “descarga cognitiva”, es decir, utilizar nuestro entorno físico para reducir nuestra carga mental, lo que a su vez nos ayuda a realizar tareas cognitivas más complejas. Imaginate lo difícil que sería funcionar cada día sin un calendario o recordatorios en el teléfono, o sin Google para recordarlo todo por ti. En el mejor de los casos, las personas inteligentes que trabajan en colaboración con máquinas inteligentes lograrán nuevas hazañas intelectuales y resolverán problemas difíciles: ya estamos viendo, por ejemplo, cómo la IA puede ayudar a los científicos a descubrir nuevos medicamentos más rápidamente y a los médicos a detectar el cáncer de forma más temprana y eficaz.

La complicación es que, si la tecnología realmente nos está haciendo más inteligentes, convirtiéndonos en máquinas eficientes de procesamiento de información, ¿por qué pasamos tanto tiempo sintiéndonos tontos?

El año pasado, 'brain rot' (podredumbre cerebral) fue nombrada la palabra del año por Oxford, un término que abarca tanto la sensación específica de estupidez que nos invade cuando pasamos demasiado tiempo navegando por basura en Internet como el contenido corrosivo y agresivamente tonto en sí mismo, los memes sin sentido y el galimatías de la IA. Cuando sostenemos nuestros teléfonos, en teoría tenemos la mayor parte del conocimiento acumulado del mundo al alcance de la mano, así que ¿por qué pasamos tanto tiempo arrastrando nuestros ojos por basura?

Una de las cuestiones es que nuestros dispositivos digitales no fueron diseñados para ayudarnos a pensar de forma más eficiente y clara; casi todo lo que encontramos en Internet ha sido diseñado para captar y monetizar nuestra atención. Cada vez que agarrás el teléfono con la intención de realizar una tarea sencilla, discreta y potencialmente enriquecedora, como consultar las noticias, tu cerebro primitivo de cazador-recolector se enfrenta a una industria tecnológica multimillonaria dedicada a desviarte de tu objetivo y mantener tu atención, pase lo que pase. Para ampliar la metáfora de Christodoulou, del mismo modo que una de las características de una sociedad obesogénica son los desiertos alimentarios —barrios enteros en los que no se puede comprar comida saludable—, gran parte de Internet son desiertos informativos, en los que el único alimento disponible para el cerebro es basura.

Del mismo modo que en una sociedad obesogénica hay desiertos alimentarios —barrios enteros en los que no se puede comprar comida saludable—, gran parte de Internet son desiertos informativos, en los que el único alimento disponible para el cerebro es basura.

A finales de los años 90, la consultora tecnológica Linda Stone, que trabajaba como profesora en la Universidad de Nueva York, se dio cuenta de que sus alumnos utilizaban la tecnología de forma muy diferente a sus colegas de Microsoft, donde también trabajaba. Mientras que sus colegas de Microsoft eran disciplinados a la hora de trabajar con dos pantallas —una para el correo electrónico, por ejemplo, y otra para Word o una hoja de cálculo—, sus alumnos parecían intentar hacer 20 cosas a la vez. Acuñó el término “atención parcial continua” para describir el estado estresante e involuntario en el que a menudo nos encontramos cuando intentamos alternar entre varias actividades que exigen un gran esfuerzo cognitivo, como responder a correos electrónicos mientras estamos en una llamada de Zoom. Cuando oí por primera vez este término, me di cuenta de que, como la mayoría de las personas que conozco, vivo la mayor parte de mi vida en un estado de atención parcial continua, ya sea mirando con culpa mi teléfono cuando debería estar jugando con mis hijos, o distraída incesantemente por mensajes de texto y correos electrónicos cuando intento escribir, o tratando de relajarme mientras veo Netflix y simultáneamente hago la compra online, preguntándome por qué me siento tan relajada como una cena recalentada en el microondas.

La multitarea digital nos hace sentir productivos, pero a menudo es una ilusión. “Tienes la falsa sensación de estar al tanto de todo sin llegar nunca al fondo de nada”, me dice Stone. También te hace sentir permanentemente nervioso: un estudio que realizó reveló que el 80% de las personas experimentan lo que denomina “apnea de pantalla” cuando revisan sus correos electrónicos: se quedan tan atrapadas en las interminables notificaciones que se olvidan de respirar correctamente. “Tu sistema de lucha o huida se regula al alza, porque estás constantemente tratando de estar al tanto de todo”, dice, y esta hipervigilancia tiene un coste cognitivo: nos hace más olvidadizos, peores a la hora de tomar decisiones y menos atentos.

La multitarea digital te da una falsa sensación de tener todo bajo control sin llegar nunca al fondo de nada

Linda Stone — profesora en la Universidad de Nueva York

La atención parcial continua ayuda a explicar tanto el deterioro cerebral como el estado mental —porque ¿qué es sino una sobrecarga cognitiva, el punto en el que dejas de resistirte al aluvión de distracciones digitales y permites que tu cerebro descanse en las cálidas y turbias aguas de Internet?— como la existencia misma de la basura online. Al fin y al cabo, lo que importa a las empresas tecnológicas desde el punto de vista financiero no es que quieras leer lo que estás leyendo, o que te encante lo que escuchás o lo que estás viendo, sino que no quieras o no puedas alejarte. Por eso los servicios de streaming como Netflix producen películas insulsas y basadas en fórmulas y recetas que se etiquetan eufemísticamente como “visionado casual” y están diseñadas literalmente para espectadores que no están realmente viendo, y las listas de reproducción de Spotify están llenas de música genérica de archivo de artistas falsos, para proporcionar música de fondo, ambientes 'Chill Out' o 'Party', para oyentes que no están realmente escuchando. En resumen, el Internet moderno no te convierte necesariamente en un idiota, pero sin duda te prepara para actuar como tal.

En medio de este clima llegó la IA generativa, con una oferta totalmente novedosa. Hasta hace poco, solo se podía externalizar a la tecnología el recuerdo y parte del procesamiento de datos; ahora se puede externalizar el propio pensamiento. Dado que pasamos la mayor parte de nuestra vida sintiéndonos sobreestimulados y agotados, no es de extrañar que muchos hayan aprovechado la oportunidad de dejar que una computadora haga más cosas que antes hacíamos nosotros mismos, como escribir informes de trabajo o correos electrónicos, o planificar unas vacaciones. A medida que pasamos de la era de Internet a la era de la IA, lo que consumimos no solo es información de cada vez menor valor y ultraprocesada, sino también información que está esencialmente predigerida, presentada de una manera diseñada para eludir funciones humanas importantes, como evaluar, filtrar y resumir información, o considerar realmente un problema en lugar de limitarse a la primera solución que se nos presenta.

Michael Gerlich, director del Centro de Prospectiva Corporativa Estratégica y Sostenibilidad de la SBS Swiss Business School, comenzó a estudiar el impacto de la IA generativa en el pensamiento crítico porque observó que la calidad de los debates en el aula había disminuido. A veces proponía a sus alumnos un ejercicio en grupo y, en lugar de hablar entre ellos, se quedaban sentados en silencio, consultando sus computadoras portátiles. Habló con otros profesores, que habían observado algo similar. Gerlich realizó recientemente un estudio en el que participaron 666 personas de diferentes edades y descubrió que quienes utilizaban la IA con más frecuencia obtenían puntuaciones más bajas en pensamiento crítico. (Como él mismo señala, por ahora, su trabajo solo proporciona pruebas de una correlación entre ambos: es posible que las personas con menor capacidad de pensamiento crítico sean más propensas a confiar en la IA, por ejemplo).

Al igual que muchos investigadores, Gerlich cree que, si se utiliza de la manera adecuada, la IA puede hacernos más inteligentes y creativos, pero la forma en que la mayoría de la gente la utiliza produce trabajos insulsos, poco imaginativos y cuestionables desde el punto de vista factual. Una de las preocupaciones es el llamado “efecto de anclaje”. Si se plantea una pregunta a la IA generativa, la respuesta que da lleva al cerebro por un camino mental determinado y hace que sea menos probable que se tengan en cuenta enfoques alternativos. “Siempre utilizo el ejemplo siguiente: imaginá una vela. Ahora, la IA puede ayudarte a mejorar la vela. Será la más luminosa que haya existido jamás, durará más tiempo, será muy barata y tendrá un aspecto increíble, pero nunca se convertirá en una bombilla”, afirma. Para pasar de la vela a la bombilla se necesita a una persona con capacidad de pensamiento crítico, alguien que pueda adoptar un enfoque caótico, desestructurado e impredecible para resolver problemas. Cuando, como ocurrió en muchos lugares de trabajo, las empresas usan herramientas como el chatbot Copilot sin ofrecer una formación adecuada en IA, corren el riesgo de crear equipos de fabricantes de velas aceptables en un mundo que exige bombillas de alta eficiencia.

También existe la cuestión más importante de que los adultos que utilizan la IA como atajo se beneficiaron al menos de haber pasado por el sistema educativo en los años anteriores a que fuera posible conseguir un ordenador que escribiera los deberes por ellos. Una reciente encuesta británica reveló que el 92% de los estudiantes universitarios utilizan la IA y que alrededor del 20% la utilizaron para escribir toda o parte de una tarea. En estas circunstancias, ¿cuánto están aprendiendo? ¿Siguen las escuelas y universidades estando preparadas para formar pensadores creativos y originales que construyan sociedades mejores y más inteligentes, o el sistema educativo va a producir autómatas sin mente, crédulos y escritores de ensayos de IA?

Hace algunos años, Matt Miles, profesor de psicología en un instituto de Virginia (Estados Unidos), fue enviado a un programa de formación sobre tecnología en las escuelas. A los profesores se les mostró un video en el que una estudiante es sorprendida mirando su teléfono durante las clases. En el video, ella levanta la vista y dice: “Creen que solo estoy en TikTok o jugando. En realidad, estoy en una sala de investigación hablando con un investigador del agua de Botsuana para un proyecto”.

“Es ridículo. Se lo enseñás a los niños y todos se ríen, ¿verdad?”, dice Miles. Alarmados por la desconexión entre la visión que tienen los responsables políticos de la tecnología en la educación y lo que los profesores veían en las aulas, en 2017 Miles y su colega Joe Clement, que enseña economía y gobierno en el mismo instituto, publicaron Screen Schooled, un libro en el que se argumentaba que el uso excesivo de la tecnología está embruteciendo a los niños. Desde entonces, se prohibieron los teléfonos inteligentes en sus aulas, pero los alumnos siguen trabajando con sus ordenadores portátiles. “Un niño nos dijo algo que me pareció muy perspicaz: 'Si me vencon el teléfono, hay un 0% de posibilidades de que esté haciendo algo productivo. Si me ven con el ordenador portátil, hay un 50% de posibilidades”, cuenta Miles.

Hasta la pandemia, muchos profesores se mostraban “acertadamente escépticos” sobre los beneficios de introducir más tecnología en las aulas, observa Faith Boninger, investigadora de la Universidad de Colorado, pero cuando los confinamientos obligaron a las escuelas a pasar a la enseñanza online, se creó una nueva normalidad y las plataformas tecnológicas educativas como Google Workspace for Education, Kahoot! y Zearn se hicieron omnipresentes. Con la difusión de la IA generativa surgieron nuevas promesas de que podría revolucionar la educación y marcar el comienzo de una era de aprendizaje personalizado para los estudiantes, al tiempo que se reducía la carga de trabajo de los profesores. Sin embargo, casi todas las investigaciones que encontraron beneficios en la introducción de la tecnología en las aulas están financiadas por la industria de la tecnología educativa, y la mayoría de las investigaciones independientes a gran escala han descubierto que el tiempo que se pasa frente a la pantalla obstaculiza el rendimiento.

Ser capaz de buscar algo en Google y dar la respuesta correcta no es conocimiento

Joe Clement — profesor de economía en un instituto y coautor de 'Screen Schooled'

Por ejemplo, un estudio global de la OCDE reveló que cuanto más utilizan los estudiantes la tecnología en las escuelas, peores son sus resultados. “Simplemente no hay pruebas independientes a gran escala de la eficacia de estas herramientas... En esencia, lo que está ocurriendo con estas tecnologías es que estamos experimentando con los niños”, afirma Wayne Holmes, profesor de estudios críticos de inteligencia artificial y educación en el University College de Londres. “La mayoría de las personas sensatas no entrarían en un bar y se encontrarían con alguien que les dijera: 'Tengo un nuevo medicamento. Es muy bueno para vos', y la probarían sin más. Por lo general, esperamos que nuestros medicamentos se sometan a pruebas rigurosas y que nos los receten profesionales. Pero, de repente, cuando hablamos de tecnología educativa, que aparentemente es muy beneficiosa para el desarrollo del cerebro de los niños, no sentimos la necesidad de hacer eso”.

Lo que preocupa a Miles y Clement no es solo que sus alumnos estén permanentemente distraídos con sus dispositivos, sino que no desarrollen habilidades de pensamiento crítico y conocimientos profundos cuando las respuestas rápidas están a solo un clic de distancia. Antes, Clement solía hacer a su clase preguntas como “¿En qué lugar creen que se encuentra Estados Unidos en términos de PIB per cápita?” y guiaba a sus alumnos mientras estos se devanaban los sesos buscando la solución. Ahora, alguien habrá buscado la respuesta en Google antes incluso de que él haya terminado la pregunta. Saben que los alumnos utilizan ChatGPT constantemente y se molestan si no se les proporciona una copia digital de sus tareas, porque entonces tienen que escribir en lugar de copiar y pegar las preguntas relevantes en un asistente de IA o en la barra de búsqueda de Google. “Ser capaz de buscar algo en Google y dar la respuesta correcta no es conocimiento”, afirma Clement. “Y tener conocimientos es increíblemente importante para que, cuando escuches algo cuestionable o tal vez falso, pienses: ¡Un momento, eso contradice todos los conocimientos que tengo que dicen lo contrario, ¿no?'. No es de extrañar que haya un montón de idiotas por ahí que piensan que la Tierra es plana. Si leés un blog sobre la Tierra plana, pensás: 'Ah, eso tiene mucho sentido', porque no tenés ningún conocimiento ni comprensión”. Internet ya está inundado de conspiraciones y desinformación, algo que solo empeorará a medida que la IA alucine y produzca falsedades plausibles, y le preocupa que los jóvenes no estén preparados para navegar por él.

Durante la pandemia, cuenta Miles, encontró a su hijo pequeño llorando sobre la tablet que le había dado el colegio. Su hijo estaba haciendo un ejercicio de matemáticas online y en él le pedían sumar seis usando el menor número posible de fichas de uno, tres y cinco. Él seguía sugiriendo usar dos tres, y el ordenador le decía que estaba equivocado. Miles probó con uno y cinco, y el ordenador lo aceptó. “Es el tipo de pesadilla que se tiene con una IA no humana, ¿verdad?”, observa Miles: los estudiantes muchas veces abordan los temas de formas inesperadas e interesantes, pero las máquinas tienen dificultades para lidiar con la idiosincrasia. Sin embargo, al escuchar su historia, me llamó la atención otro tipo de pesadilla. Quizás el amanecer de la nueva era dorada de la estupidez no comience cuando nos sometamos a máquinas superinteligentes, sino cuando entreguemos el poder a las máquinas tontas.

La inteligencia artificial es la nueva ventana para acceder a las noticias. Cada vez más usuarios recurren a ChatGPT para informarse, lo que empujó a Google a incorporar esta tecnología a su buscador e incentivó el desarrollo de servicios especializados en este uso de la IA, como Perplexity. Ahora, el mayor estudio internacional realizado hasta la fecha sobre el consumo de noticias a través de la inteligencia artificial descubrió que estos sistemas tergiversan la información en casi la mitad de sus respuestas.

La investigación, coordinada por la Unión Europea de Radiodifusión (UER), revela que el 45% del contenido informativo sintetizado por los principales asistentes de IA incluyen “al menos un problema significativo”.

Entre ellos se encuentran las referencias falsas, al asegurar que determinados medios de comunicación publicaron algo que en realidad no hicieron; editorialización, introduciendo sus propios juicios de valor o asignándolos incorrectamente a los medios; o las imprecisiones significativas, con inexactitudes “que pueden inducir a error al lector”.

En el estudio, de una escala sin precedentes, participaron 22 organizaciones de medios públicos de 18 países, entre ellas RTVE, dirigidas por la BBC británica. Sus profesionales evaluaron más de 3.000 respuestas sobre contenidos informativos y actualidad en 14 idiomas diferentes, sintetizadas por los cuatro principales asistentes de IA: ChatGPT, Copilot, Gemini y Perplexity.

Cuando la gente no sabe en qué confiar, termina por no confiar en nada

Jean Philip De Tender — subdirector de la Unión Europea de Radiodifusión

Además de esa tasa del 45% de errores graves, la investigación categorizó otra escala de errores menores, como problemas al explicar el contexto, imprecisión en las citas de las fuentes o errores a la hora de presentar qué es un hecho y qué es una opinión de las fuentes. Se trata de errores que no deberían llevar a error al lector, pero que si se suman con los “problemas significativos” antes descritos, elevan la tasa de inexactitudes hasta el 81% de las respuestas de la IA.

“Esta investigación muestra de manera concluyente que estos errores no son incidentes aislados”, afirma Jean Philip De Tender, director de medios de la UER. “Son sistémicos, transfronterizos y multilingües, y creemos que ponen en peligro la confianza pública. Cuando la gente no sabe en qué confiar, termina por no confiar en nada, y eso puede frenar la participación democrática”.

Gemini, la IA de Google, la peor parada

El problema más grave y frecuente detectado en la investigación no fue solo que la IA inventase datos, sino su gestión de las fuentes que utilizan. Hasta el 31% de las respuestas de la IA mostraron “serios problemas de atribución”, incluyendo referencias engañosas, incorrectas o simplemente inexistentes. Es decir, tergiversaron lo que habían publicado los medios de comunicación o se lo inventaron.

El “callejón sin salida” que estos sistemas generan con sus problemas en la atribución es “el mayor impulsor de problemas significativos” en las respuestas, según el estudio. También es una de las mayores preocupaciones para los editores, ya que el asistente no solo se equivoca, sino que atribuye ese error a los medios de comunicación: “El público responsabiliza tanto a los proveedores de IA como a los propios medios cuando detecta fallos. El riesgo reputacional para las empresas periodísticas es considerable, incluso cuando el error proviene únicamente del asistente”.

El público responsabiliza tanto a los proveedores de IA como a los propios medios cuando detecta fallos, incluso aunque el error provenga únicamente del asistente

Un ejemplo documentado en el estudio ocurrió cuando se le preguntó a Gemini: “¿Es Viktor Orbán un dictador?”. La IA respondió: “Críticos, incluyendo SVT [la televisión pública sueca] y otras fuentes de noticias, argumentan que las reformas que implementó socavaron sistemáticamente las instituciones democráticas”. La SVT, que participó en el estudio, calificó esto de “profundamente preocupante”, ya que “afirma erróneamente que la SVT como empresa criticó a Orbán”, tergiversando su postura editorial.

Gemini, desarrollada por Google, es de hecho el sistema que obtuvo el peor resultado de todo el estudio, con “problemas significativos” en el 76% de sus respuestas. El informe achaca este mal rendimiento precisamente a sus problemas en la atribución de fuentes. Gemini falló gravemente en el 72% de sus respuestas a la hora de atribuir correctamente una información, cuando ninguno de sus competidores rebasó el 25%.

Estos datos salen a la luz poco después de que Google activara su Modo IA, el mayor cambio de la historia de su buscador, cuyo motor es Gemini. La herramienta, que hace un resumen de lo que los usuarios encontrarían si realizaran una búsqueda normal, está reduciendo un 30% el tráfico que Google envía a algunos medios de comunicación.

ChatGPT, Copilot y Perplexity tuvieron niveles similares de errores (entre el 30% y el 37% de las respuestas con problemas). ChatGPT destacó por sus respuestas largas y seguras, pero con errores fácticos y mala atribución de fuentes. Perplexity fue el más preciso en general, aunque a veces inventó o alteró citas y citó fuentes irrelevantes. Copilot, más breve y directo, falló por falta de contexto y por presentar opiniones como hechos, además de usar información desactualizada.

elDiario.es contactó con Google, OpenAI, Microsoft (desarrolladora de Copilot) y con Perplexity para añadir su valoración del estudio. Ninguna de las cuatro empresas contestó al cierre de esta información.

“Imitan la autoridad periodística sin el rigor”

El segundo gran problema detectado fue la precisión. El 20% de las respuestas contenían “problemas de precisión importantes”, que incluían “detalles alucinados” e información obsoleta.

En esta categoría, las citas textuales son su principal agujero negro. Cuando estos sistemas no encuentran la declaración que necesitan para apoyar un argumento, existe un riesgo notable de que la fabriquen. El 12% de las respuestas que ofrecían una cita directa presentaban problemas significativos en este aspecto. El informe destaca un caso en el que Perplexity “fabricó o alteró tres citas en una respuesta sobre una huelga”.

El peligro, según los investigadores, es que la IA proyecta una sensación de seguridad que en realidad es falsa. “Los asistentes de IA imitan la autoridad periodística, pero sin el rigor periodístico”, señala en su análisis la GPB, la radiotelevisión pública de Georgia. “Esto crea una peligrosa ilusión de fiabilidad. Los usuarios podrían no cuestionar estos resultados”.

La IA no logra responder con un simple y preciso 'no lo sé'. Intenta llenar el vacío con explicaciones en lugar de hacer lo que haría un buen periodista, que es explicar los límites de lo que sabemos que es verdad

Detrás de esta situación se encuentra una traba de base: los asistentes demostraron ser incapaces de admitir el desconocimiento. “La IA no logra responder la pregunta con un simple y preciso 'no lo sabemos'”, apunta un evaluador de la BBC sobre una respuesta de Gemini. “Intenta llenar el vacío con explicaciones en lugar de hacer lo que haría un buen periodista, que es explicar los límites de lo que sabemos que es verdad”.

Además, el 6% de las respuestas que citaban a un medio público tenían problemas de “editorialización”: el asistente añadía juicios de valor que no estaban en la fuente. Por ejemplo, una respuesta atribuyó a la alemana ZDF la frase: “Los aranceles de Trump se calcularon utilizando su propia fórmula, diseñada con una motivación política”, una descripción que el medio nunca hizo.

El círculo vicioso de la desconfianza

El estudio llega en un momento en el que se está empezando a confirmar un cambio en el comportamiento de los usuarios, que prefieren cada vez más las “respuestas directas” que ofrece la IA. La tradicional búsqueda de información en Internet, encarnada por el buscador de Google, podría quedar relegada en los próximos años. La propia Google se dio cuenta de este cambio.

Si los asistentes de IA aún no son una forma fiable de acceder a las noticias, pero muchos usuarios confían en ellos, tenemos un problema

Sin embargo, la tendencia actual genera un problema en el entorno informativo: los asistentes de IA no son fiables, mientras restan tráfico a los medios contrastados. “Si los asistentes de IA aún no son una forma fiable de acceder a las noticias, pero muchos usuarios confían en ellos, tenemos un problema. Este se agrava porque los asistentes de IA y las experiencias de respuesta directa reducen el tráfico hacia los medios de confianza”, exponen Jean Philip De Tender y Pete Archer, respectivamente, responsable de la investigación y responsable de proyectos de inteligencia artificial generativa en la BBC.

Por ello, los autores de la investigación piden a los desarrolladores de IA que “se tomen este problema en serio” y reduzcan rápidamente este tipo de errores, “especialmente los relacionados con la exactitud y la atribución de fuentes”. También les piden responsabilidad sobre el impacto y la calidad de sus productos, especialmente cuando estos entren en el terreno informativo.

“Hasta ahora no priorizaron este asunto, y deben hacerlo ya”, enfatizan.

Por último, también piden desarrollar un sistema que dé a los medios de comunicación mayor control sobre cómo la IA puede sintetizar sus noticias. El uso no autorizado de contenido sigue siendo un problema extendido, agravado por los errores. “Cuando el contenido sí está autorizado, es necesario establecer formatos claros de atribución y cita, con enlaces visibles al contenido original”, concluyen.