El primer pedido le pareció normal, el segundo ya lo hizo sospechar. Marçal Font, propietario de la librería de segunda mano Fènix de Badalona, lleva semanas viendo cómo una misteriosa empresa canadiense le compra libros extraños: principalmente ejemplares en catalán que llevan años en su almacén, todos de no ficción y sin apenas salida comercial.

“Me pueden llegar siete pedidos seguidos del mismo comprador, con un minuto de diferencia entre ellos”, apuntó este librero, que sospecha que quien hace las compras es un robot.

No es el único al que le ocurrió. Hay una veintena de librerías en España que también han vendido ejemplares a esta compañía desde finales de abril. Algunas incluso recibieron pedidos de más de mil libros, muchos de ellos descatalogados. Lo mismo está ocurriendo en tiendas de Alemania, Estados Unidos, Nueva Zelanda, Australia…

Los libros elegidos van desde una edición sobre el mundo de los castellers en Granollers (Barcelona) en los años '70, hasta un manual técnico sobre cómo hacer vino, actas de congresos celebrados hace 50 años o dietarios de la Guerra Civil.

“De media suelen ser libros de unos cinco o diez euros, con poco valor”, apuntó Font, “y muchos son prácticamente imposibles de encontrar”.

El sector está desconcertado. ¿Para quién está comprando esta empresa decenas de miles de libros y los hace mandar a un centro logístico de EE.UU.? ¿Para qué quiere estos ejemplares que llevan años pillando polvo?

Este viernes, otra compañía de Silicon Valley (EE.UU.) vinculada a la IA contactó con una libreria de viejo española, que prefiere no revelar su nombre, y le planteó un un pedido de más de 3.000 libros.

El objetivo, según apuntan diversas fuentes, es entrenar modelos de Inteligencia Artificial (IA) antes de destruir estos volúmenes y reciclar su papel.

La apuesta no es nueva. Una investigación de The Washington Post desveló en enero un proyecto secreto de la startup Anthropic, que opera la herramienta de IA Claude, para “escanear y destruir todos los libros del mundo”, según señalaba un informe interno de la compañía.

 “No queremos que se sepa que estamos trabajando en esto”, remarcó el documento.

La estrategia se enmarca en la necesidad de seguir alimentando esta tecnología una vez ya nutrida de toda la información disponible en Internet. 

“Cuando el conocimiento gratuito se agotó, las empresas corrieron a repositorios piratas de e-books para seguir alimentando sus modelos”, explicó Xavier Vinaixa, experto en IA y una de las personas que tiró del hilo de este caso. “El uso de estos recursos desencadenó demandas millonarias por violación de derechos de autor”, añadió. 

Las tecnológicas se enfrentaron entonces, explicó Vinaixa, a lo que se conoce como el “data wall”: sin textos nuevos, inéditos y largos para entrenar el algoritmo, la IA corría el riesgo de sufrir un estancamiento cognitivo y acabar incluso alimentándose de documentos creados por su propia tecnología. 

La solución que encontraron estas compañías fue comprar en librerías de segunda mano de todo el mundo, normalmente ejemplares totalmente marginales de no ficción.

Un juez federal de EE.UU. dictaminó que la práctica es legal porque el uso que se hace de los libros es “transformativo”. Es decir, que no sustituye a las obras originales, sino que las emplea para crear algo nuevo: en este caso, un modelo de inteligencia artificial. El magistrado llegó a comparar el entrenamiento del algoritmo con “enseñar a escribir a estudiantes”.

La práctica, sin embargo, genera rechazo en parte del sector porque implica la destrucción física de los ejemplares para optimizar el proceso: cuando los libros llegan a la planta de procesamiento, se les corta el lomo, las páginas se escanean de forma automatizada y, posteriormente, los volúmenes se trituran para convertirlos en pasta de papel.

Contradicciones en el sector

Los libreros de segunda mano llevan semanas inmersos en una profunda contradicción: por un lado, nunca habían vendido tantos libros. Por otro, tienen serias dudas sobre el destino de estos ejemplares. Hasta el punto de que alertaron al Ministerio de Cultura de lo que está ocurriendo.

“No somos sólo comerciantes sino que tenemos funciones de preservación, conservación y restauración del patrimonio bibliográfico”, apuntó Miguel Ángel Ortega, librero y presidente de la Asociación Profesional del Libro y Coleccionismo Antiguo. “Resultaría muy contradictorio que estuviéramos vendiendo libros con la finalidad de destruirlos”.

“Estamos ante una forma de expolio literario”, opinó Font, el librero de Badalona, que mientras habla con este periódico recibió otro pedido de la empresa canadiense. “Estamos viendo el tsunami que viene, creo que las instituciones deben intervenir”.

Font explicó que con estas prácticas no se perderá, por ejemplo, lo que publicó Mercè Rodoreda. “Lo que está en riesgo es el libro que explica qué hizo Rodoreda el día que fue a algún lugar”, precisó. “De lo que se alimenta esta IA es de esta literatura secundaria”.

En foros especializados de todo el mundo hay cientos de mensajes de libreros asustados ante un aumento inusual de los pedidos. Los mensajes en Reddit, de libreros americanos, empezaron en enero. Al principal foro de Alemania las dudas llegaron a finales de abril.

“Ayer recibí un pedido (un libro). Lo envié. Durante la noche, recibí diez pedidos distintos, cada uno de un libro, algunos de los cuales eran consecutivos y estaban relacionados temáticamente”, escribió un librero alemán en un foro especializado.

Las primeras publicaciones versaban sobre si las compras podían ser un engaño. Pasadas unas semanas y tras constatar que el dinero llegaba a los vendedores, el debate se centró en quién está comprando miles de volúmenes sin recorrido comercial y por qué lo hace de una manera tan extraña: de manera escalonada y con costes de envío que en ocasiones triplican el precio de un ejemplar. 

“Puede que no nos demos cuenta y estemos perdiendo una parte muy importante del patrimonio bibliográfico para siempre”, alertó Ortega, que definió como “perversa” la situación a la que se enfrentan. “Te entran escalofríos si te hacen un gran pedido y no sabes qué ocurrirá con los libros”.

Carlos Hernández, propietario de la librería de viejo Mautalos en Madrid, vendió a esta empresa unos 200 libros en el último mes y no es tan pesimista. “Mucha parte de nuestro stock son libros que la gente quiere tirar”, explicó por teléfono. “Incluso muchos de los que vendo los recoge gente en los contenedores”.

Puede que no nos demos cuenta y estemos perdiendo una parte muy importante del patrimonio bibliográfico para siempre

La compañía no responde a las preguntas

La empresa que está adquiriendo de forma masiva estos libros, Zoom Books, tampoco explica abiertamente cuál es el destino final de estos ejemplares que, en muchos casos, carecen de salida comercial.

Formalmente, Zoom Books se dedica al reciclaje y la compraventa de libros, pero la empresa tenía hasta cinco publicaciones en su web sobre comprar ejemplares de segunda mano para alimentar algoritmos de IA y después destruirlos. Los posts también recordaban que a través de su plataforma se cumplían los requisitos legales para hacerlo.

Ninguna de estas publicaciones está ya disponible en la web de Zoom Books, pero esta redacción pudo acceder a su contenido tras introducir las direcciones en tres modelos de IA —Gemini, ChatGPT y Claude: todos coinciden a la hora de describir el contenido eliminado. 

“Zoom Books es una librería de segunda mano; compramos excedentes y existencias usadas y las revendemos”, explicó la empresa en un comunicado remitido a elDiario.es, en el que niega colaborar directamente con Anthropic.

Este periódico preguntó a la compañía si podía confirmar que sus libros no se destruían o se utilizaban para entrenar modelos de IA. También preguntó por las publicaciones eliminadas de la web en las que defendían estas prácticas. 

“No hacemos comentarios sobre nuestros clientes ni sobre nuestros acuerdos comerciales, que están sujetos a acuerdos de confidencialidad”, se limitó a responder la compañía. 

Oriol Vinyals (Sabadell, 1983) es una de las mentes pensantes tras la mayor revolución tecnológica de los últimos años: la inteligencia artificial (IA). Este catalán es vicepresidente de investigación de Google DeepMind, el laboratorio desde el cual el gigante californiano desarrolla Gemini, el chatbot que compite con ChatGPT.

Este matemático e ingeniero de telecomunicaciones afincado en Silicon Valley, es uno de los responsables del modelo de lenguaje de Gemini. En otras palabras: el motor que permite a la IA alimentarse de grandes cantidades de datos y establecer relaciones entre la información recolectada para poder ofrecer respuestas coherentes y válidas. Si bien no es uno de los padres de la IA, sí es el maestro que le enseña a hablar.

Vinyals se enamoró de la inteligencia artificial desde que un profesor del MIT dio una charla en la Universitat Politècnica de Barcelona (UPC), donde él estudiaba. Ahí se gestó una pasión que lo llevó a seguir formándose en Estados Unidos, concretamente en California, donde Google tiene la sede. Tras tantos añosa fuera, volvió a la UPC, donde este miércoles lo nombraron Honoris Causa solo unos días después de que Google sacara la última versión de Gemini que, según los expertos, supuso un salto cualitativo que superó a ChatGPT.

-La semana pasada se lanzó Gemini 3. ¿En qué cambió respecto la versión anterior?

-Gemini es el modelo de lenguaje que alimenta muchos productos de Google, desde el buscador a YouTube. Lo que hace esta versión es lo mismo que la anterior, pero mucho mejor. Un ejemplo: la generación de imágenes ha dado un salto enorme. Ahora puedes añadir a alguien que no estaba o cambiarle la ropa. Además, las letras o el texto que aparecerán en estas imágenes será correcto, no letras abstractas como pasaba antes.

Aparte de la calidad de las imágenes y el texto, también ha mejorado mucho la escritura de código de programación y el razonamiento matemático. También estamos empezando a entender la personalidad de estos modelos y a mejorarla a partir de lo que nos dicen los usuarios.

Hemos notado que Gemini era demasiado complaciente. Siempre respondía diciendo “¡Qué buena pregunta” y eso no gustaba a los usuarios

-¿Personalidad? ¿Qué personalidad tiene Gemini?

-[Risas] ¡Esta es difícil! No es sencillo decirlo con una palabra, lo que analizamos es cómo interactúa, si responde rápido, si se pone a la defensiva. Depende de las instrucciones que le des y de cómo le hables. Como con los humanos. Pero es verdad que lo que hemos notado y estamos cambiando es que era demasiado complaciente. Siempre respondía diciendo “¡Qué buena pregunta” y cosas así. Eso no gustaba a los usuarios y ahora estamos intentando que sea más neutral.

-Esta emulación de las relaciones humanas hace que muchas personas teman a la IA. ¿Cree que hay motivos para ello?

-Es natural que los cambios tecnológicos asusten. Sobre todo ahora, que hay más y se suceden más rápido. Es muy importante hablar con esta gente que siente miedo para que puedan entender qué hace esta herramienta, cómo afectará a su trabajo, cómo puede mejorar cosas de su día a día.

-Precisamente perder el trabajo es uno de los mayores temores de la gente. ¿Está justificado?

-Depende de la profesión. Mira, ahora en lugar de usar un programa de edición de fotos que requiera un conocimiento muy especial, puedes pedírselo a la IA para que, qué sé yo, tú salgas con un gorrito de Navidad. Eso rebaja la barrera de entrada a ciertos trabajos en los que se requerían capacidades concretas. Lo que nos toca como profesionales de Google es entender a los profesionales y ver qué necesitan.

Ahora estamos colaborando con artistas de cine o artistas para ver cómo pueden usar la IA en un momento en que la cinematografía y el arte van a pasar por cambios enormes. Lo importante es verlo como una posibilidad, no una amenaza. Igual que pasó con Internet: mucha gente le tenía miedo y ahora es imprescindible.

-Pero entonces, los profesionales como los editores de fotos sí podrían ser sustituidos por la IA.

-Habrá una transformación. Algunos cambios serán buenos y otros no tanto, pero la evolución nos llevará a trabajos que serán más valorados si los hace un humano y a otros que se transformarán. Habrá empleos que se podrán automatizar más, pero todavía queda lejos porque seguimos necesitando humanos detrás de la IA.

A mí me gusta enfocarlo desde el punto de vista optimista y ver cómo puede ayudar a mejorar el mundo. Ahora estamos en una universidad, donde hay profesores magníficos, pero no todo el mundo tiene acceso a una carrera. Pues la IA te permite tener un tutor en cualquier lugar del mundo. Los científicos también se verán beneficiados porque la IA les permitirá analizar pruebas diagnósticas más rápido y mejor. Así que un solo doctor podrá ver a más pacientes y dedicarse más a los casos complejos. Demis Hassabis, CEO de DeepMind, dice que la revolución de la IA será como la revolución industrial, pero 10 veces mayor y más rápida.

-Los periodistas somos uno de los colectivos inquietos por los avances de la IA. Antes de venir le pedí a Gemini que me preparara preguntas para usted y debo decirle que no me gustaron. ¿Cree que en algún momento la IA podría hacerle esta entrevista?

-¡Está bien que lo hayas probado! Y es cierto que hay camino por recorrer. Podrá prepararte preguntas, pero lo que no podrá hacer es conocer la historia y el contexto social y preguntar en consecuencia. La IA interacciona con la gente y cuanto más lo haga, mejores preguntas hará, pero la conexión humana seguirá siendo importante. Así que no creo que pudiera hacerme esta entrevista, al menos de momento.

Hoy en día cuesta saber qué es verdad y qué no. Es un momento en el que hay muchas opiniones, debates y discusiones

-Además del miedo a quedarse sin trabajo, otra cosa que preocupa a la sociedad es que no poder saber qué es real, sobre todo ahora que la generación de textos e imágenes ha alcanzado este nivel. ¿Les preocupa, como desarrolladores, el uso que se hace de la IA?

-Cada compañía tiene políticas y filosofías diferentes. Desde Google siempre hemos tenido claro que queremos desarrollar los sistemas más potentes del mundo y descubrir cómo funciona la inteligencia humana a través de la inteligencia artificial. Pero siempre desde la responsabilidad. Antes de sacar cada modelo hacemos muchas pruebas, pero es muy difícil tener en cuenta todos los usos que se le va a dar porque hay millones de usuarios.

Hay usos sorprendentes y, ante ellos, podemos revisar y ajustar el modelo. Pero es necesario tener en cuenta que hay una coadaptación entre la tecnología y la sociedad, el problema es que la irrupción de los chatbots ha sido muy rápida y, quizás, no ha habido este tiempo para adaptarse. Por eso creo que es muy importante educar e informar a la gente.

Nuestro papel es el de introducir ciertos cambios. Lo que decía antes de hacer que Gemini sea menos complaciente es importante para que no responda “¡Qué buena pregunta!” si le pides algo que sea... complicado. O que te pueda advertir si le pides algo que no deberías pedirle. Pero es verdad que hoy en día cuesta saber qué es verdad y qué no. Es un momento en el que hay muchas opiniones, debates y discusiones.

-Podemos entrar en debates sobre muchas cosas, pero antes me decía que, por ejemplo, la IA puede ponerme un gorrito de Navidad en una foto. Si yo no he llevado nunca ese gorro, lo miremos como lo miremos, esa foto cuenta una mentira. ¿Le preocupa que la IA pueda ser usada para difundir fake news?

-Todo depende de quien use la tecnología. Nosotros aseguramos que tenemos herramientas muy fiables que permiten verificar rápidamente si una imagen ha sido generada. Estas marcas han existido siempre: están diseñadas para que el usuario no las vea, pero los metadatos son claros. Y son accesibles a cualquier medio de comunicación que quiera corroborar si unas imágenes o textos son originales o no. Es una herramienta que se llama Synth ID y que desarrollamos desde el primer día. Luego, obviamente, en plataformas nuestras como YouTube, tiene que quedar muy claro si un vídeo es real o no.

-En YouTube esa opción todavía no está disponible

-No, pero es que la generación de vídeos todavía no es mainstream en YouTube, así como sí pasa en otras plataformas. Pero cuando pase, estará controlado. Evidentemente, no podemos hacer nada respecto a lo que se publique en otros sitios. La tecnología de verificación existe y nuestra responsabilidad es garantizar que vaya bien. Más allá de eso, sabemos que habrá gente que no la usará.

-Hay diversos estudios que alertan de que los datos disponibles para entrenar y mejorar la IA se han agotado. ¿Es así?

-Sí. Estamos en una fase llamada preentrenamiento, que es la más larga de todas. Es cuando entrenamos a este cerebro que, al principio, no tiene ninguna inteligencia. Hemos usado todos los datos de calidad alta y media, porque el objetivo es obtener todo el conocimiento de la humanidad a través de las bases de datos abiertas de Internet.

Pero una vez agotada esta fuente, hay otras maneras de obtener más datos. Los modelos son bastante buenos como para pensar que ellos mismos pueden crear datos nuevos o, al menos, reformular los que ya existen. Si puedes manipular una foto con un modelo, en lugar de una foto ya tienes diez. Si esas imágenes son buenas, pueden servir de entrenamiento para que la IA siga aprendiendo. Es complicado, pero no hemos encontrado la manera perfecta de crear más datos.

La IA tiene un nivel de inteligencia suficiente como para empezar a cubrir las partes del conocimiento sobre las que todavía no hay tantos datos

-¿Y esperar a que la humanidad genere más datos?

-Si esperáramos unos años, podríamos escribir más información y los modelos mejorarían de manera natural. Pero los modelos tienen un nivel de inteligencia suficiente como para empezar a cubrir las partes del conocimiento sobre las que todavía no hay tantos datos. No es fácil, pero es algo que nos demuestra que los modelos seguirán mejorando. Hoy no parece que haya un límite de crecimiento y mejora para la IA.

-Pero es sabido que la IA reproduce errores de datos o sesgos, ya sean racistas o de género. ¿Alimentar los modelos con datos generados por esos mismos modelos no supone profundizar en el error y el sesgo?

-Es un tema muy interesante. A la gente le gusta probar la IA y encontrar errores; uno de los más recientes salió cuando un usuario preguntó cuantas R tiene la palabra Strawberry [fresa en inglés] y la respuesta fue dos. Así que, seguramente, con toda la conversación que hay ahora en Internet sobre este error absurdo, si entrenamos al motor con datos generados por él mismo, perpetuará la idea de que strawberry tiene dos R.

En esta fase de preentrenamiento que lleva a imitar el conocimiento, los sesgos formarán parte del modelo. Pero para eso está el postentrenamiento, que es donde se da la oportunidad de corregir. Porque es más fácil detectar el error que no producirlo.

-Pero ¿cómo se detecta el error si la base está mal?

-Con modelos que evalúan el primer modelo. Hay errores que son muy obvios y, por tanto, fáciles de corregir, como que strawberry tiene tres R en lugar de dos.

En Inteligencia Artificial es más fácil detectar el error que no evitar cometerlo

-Si es tan obvio, ¿por qué no se detecta y corrige antes?

-Siguiendo el caso de strawberry: porque no tenemos aplicado un modelo dedicado a contar letras de palabras, que es sencillo de diseñar, y se aplica en el momento en que se detecta que hay un error en este campo. Si no se aplica antes es porque los chatbots son herramientas al alcance de muchos usuarios y tienen que ir relativamente rápido. Si tuviéramos tres horas, podríamos esperar a que implementara este modelo dedicado a contar letras de palabras y así, seguro, nos diría exactamente lo que necesitamos saber. Pero hay que ir más rápido. Por eso digo que es más fácil detectar el error que no evitar cometerlo. Es a partir de la detección del error cuando se hace el postentrenamiento.

Queremos que nuestros motores sean lo más fiables posible y, por eso, aunque siempre podrá haber errores cómicos, cada vez serán menos frecuentes y menos ridículos.

-Esta semana, se publicó un artículo sobre expertos que trabajan en desarrollo de la IA y recomiendan a sus familiares y amigos que no la usen. ¿Coincide con ellos?

-Yo soy padre y te digo que con la tecnología se tiene que tener cierto sentido común. Y, en base a ese sentido común, no tengo problema en usar la IA cuando mis hijos se ponen enfermos para saber qué tienen. Es una búsqueda mucho más personalizada que la de Google, al que, por supuesto, se debe seguir recurriendo para consultar páginas web oficiales. Pero nunca me agarro al pie de la letra a lo que diga, a no ser que ya tenga conocimientos previos sobre la materia. Tienes que ser crítico con lo que lees.

Ahora, otra cosa es, como padre, qué relación creo que mis dos hijos deben tener con la IA, pero también con las pantallas. Como conocedor, no usaría la palabra ‘peligroso’, pero entiendo que hay incertidumbre porque todavía no hay estudios sobre las consecuencias de la exposición a las tecnologías.

-Dice que usa los chatbots para consultar síntomas. ¿Qué opina de la gente que los usa como psicólogo?

-Ese es un uso muy personal. Puede ser que tengas un conflicto laboral o una situación complicada. En esos casos, la IA quizás te da un punto de vista en el que no hayas pensado. El problema es cuando se convierte en una adicción. Tengo que decir, además, que el modelo de Google es muy general y no está diseñado para eso, pero sí hay start-ups que están intentando ajustar sus chats específicamente para eso.

En esos casos, al final te proporcionan un mentor que te puede ayudar. Seguro que hay casos en los que, lamentablemente, no ayuda, pero por lo general puede ser una herramienta interesante siempre que sea para uso puntual y que tengamos claro que detrás de esas palabras hay una inteligencia artificial, no una humana.

Google anunció nuevas funciones para Gemini que fueron presentadas durante el último I/O. Por un lado, la implementación de “Gems”, la funcionalidad que permite personalizar Gemini para crear asistentes de Inteligencia Artificial (IA) en cualquier tema, para usuarios de Gemini Advanced, Business y Enterprise. Además, el nuevo modelo de generación de imágenes “Imagen 3” que estará disponible en Gemini, Gemini Advanced, Business y Enterprise.

Gems permite a las personas crear asistentes de IA y así recibir ayuda para realizar tareas como pensar en un proyecto, aportar ideas para un próximo evento o escribir el pie de foto para una publicación en las redes sociales. También puede recordar un conjunto detallado de instrucciones para ayudar a ahorrar tiempo en tareas tediosas, repetitivas o difíciles. Imagen 3 genera imágenes con unas pocas palabras. Incluso puede crear imágenes de distintos estilos, como paisajes fotorrealistas, pinturas al óleo con textura o escenas de plastilina. Además, ofrece funciones avanzadas de generación de imágenes con medidas de seguridad integradas.

Google retrasó para enero el lanzamiento de Gemini, su nueva IA de lenguaje de última generación. La plataforma, que se había anunciado originalmente para los primeros días de diciembre, fue retrasada unos días para solucionar algunos inconvenientes técnicos.

Gemini está entrenado en un conjunto de datos de texto y código de 1,56 billones de parámetros, lo que lo convierte en uno de los modelos de IA de lenguaje más grandes del mundo. Esto le permite generar texto, traducir idiomas, escribir diferentes tipos de contenido creativo y responder a preguntas de manera informativa.

Según Google, Gemini está diseñado para ser más preciso y confiable que otros modelos de IA de lenguaje, como GPT-4 de OpenAI. La plataforma también está diseñada para ser más segura, con mecanismos para evitar que se genere contenido dañino o engañoso.

En un comunicado, Google aseguró que Gemini tiene el potencial de revolucionar la forma en que interactuamos con la tecnología. La plataforma podría usarse para crear nuevos tipos de aplicaciones y servicios, así como para mejorar los existentes.

Gemini tiene el potencial de ser utilizado en una amplia gama de aplicaciones, incluidas:

Con información de Luciano Datsira, para NA.

IG