Diez días después de que el historiador israelí Yuval Harari cuestionó a Javier Milei por sus ideas de crear sociedades sin humanos, este jueves llegó la respuesta oficial por medio de un comunicado de la llamada “Oficina del Presidente” en el que el Gobierno argentino sostuvo que “otorgar personalidad jurídica a las compañías de IA no significa lanzar el Día del Juicio de Terminator”.

En el texto, Milei enfatizó que se trata de “ofrecer el refugio que James Watt necesitó hace 200 años, permitiendo que la imaginación se desarrolle y crezca con libertad”.

En un artículo publicado por Financial Times, Harari cuestionó la idea de Milei de habilitar la existencia legal de empresas que operan exclusivamente mediante algoritmos o inteligencia artificial, sin empleados ni gerentes humanos en otra columna en el mismo medio y firmada junto al ministro de Desregulación, Federico Sturzenegger. El historiador señaló que este proyecto podría convertir al país en un paraíso sin control para la IA. Según explicó, el reconocimiento legal de empresas creadas por algoritmos funcionaría como una especie de “llave maestra” que permitiría a sistemas de inteligencia artificial intervenir de manera autónoma en ámbitos financieros, económicos y políticos.

Hoy, el Presidente publicó un comunicado en el que señala: “Esto me recuerda a una historia de Isaac Asimov en Yo, Robot, escrita en 1950, en la que una campaña política se ve opacada por la sospecha de que el candidato favorito podría ser un robot. El debate resultante es fascinante. La conclusión: el robot trabaja sin parar, es escrupulosamente honesto y nunca pierde la compostura. ¿Por qué no probar con el político robot? Nadie lo sabe con certeza, pero considero probable que las empresas de IA serán más adversas al riesgo que los humanos”.

Según la mirada de Milei, “las preocupaciones de Harari son un argumento a favor de la personalidad jurídica, no lo contrario” y remarcó que la personalidad jurídica “lejos de facilitar abusos, es precisamente el mecanismo mediante el cual una sociedad canaliza su energía creativa dentro del marco de la ley, los derechos de propiedad y el principio de no agresión que forman los pilares del liberalismo”.

El 1 de junio, el Gobierno oficializó el envío al Senado de un proyecto de Ley General de Sociedades. Se trata de la reforma más profunda al derecho societario argentino desde 1972, cuando la dictadura de Lanusse sancionó la Ley 19.550 que aún rige. El proyecto define la Sociedad Automatizada como aquella que “desarrolla su objeto social mediante sistemas algorítmicos autónomos o agentes de inteligencia artificial, sin requerir trabajadores en relación de dependencia ni recursos humanos para su operación ordinaria”. La sociedad responde con su patrimonio por los daños que causen esos sistemas. En términos concretos: un algoritmo que ofrece un servicio o producto de forma autónoma puede constituirse como empresa, negociar con terceros y limitar su responsabilidad al patrimonio societario. Un robot con personería jurídica.

En el artículo escrito para el Financial Times, titulado “Argentina invita a la inteligencia artificial a liberarse” (“Argentina invites AI to free itself”, en su título original en el inglés), Milei arranca con una analogía histórica: la fundación de la Compañía Holandesa de las Indias Orientales en 1602 como origen de la sociedad de responsabilidad limitada y motor del capitalismo industrial. “La máquina y la entidad legal fueron, juntas, la doble hélice de la prosperidad moderna”, escribió.

En su respuesta, Harari –autor de los ya célebres Sapiens(2011), Nexus (2020) y Homo Deus (2015)– escribió: “Milei espera convertir Buenos Aires en una nueva Ámsterdam. Corre el riesgo de convertirla en una nueva Batavia”, escribió en referencia a la capital de las antiguas colonias neerlandesas en Asia –hoy Yakarta, capital de Indonesia– asociada históricamente al poder de las grandes compañías comerciales.

En otro tramo advirtió que “Otorgar personalidad jurídica a las IA permitiría a los agentes de IA emprender numerosas iniciativas nuevas, generando potencialmente una enorme riqueza. Sin embargo, la personalidad jurídica es una llave de uso general que también les permitiría acceder a nuestros sistemas financieros, económicos y políticos. Esto suscita muchas preocupaciones”.

Lo cierto es que las críticas del prestigioso historiador israelí generaron malestar en el Gobierno que no supo cómo responderle. De hecho, el mismo día que el Financial Times publicó el artículo de Harari, Milei escribió en su cuenta de X: “. ¡Ya estoy preparando mi respuesta para ver si podemos calmar tus temores sobre el camino que propuse la semana pasada!”.

Al Gobierno le tomó diez días elaborar la respuesta que llegó hoy: “Siempre es un placer y un honor que Noah Harari comente una de las ideas de uno. Sin embargo, la preocupación de Harari respecto de las sociedades de responsabilidad limitada operadas de manera autónoma por inteligencia artificial es, en todo caso, inesperada”, comenzó el Presidente.

“En primer lugar, porque probablemente ninguna persona en el mundo pueda prever el futuro tan bien como él; y otorgarles a las empresas gestionadas por IA un marco jurídico parece ser una característica necesaria de ese futuro. En segundo lugar, porque en Sapiens Harari elogia la responsabilidad limitada. De hecho, sostiene: ‘La idea detrás de tales compañías se encuentra entre las invenciones más ingeniosas de la humanidad’”, siguió.

Según precisa el comunicado de la Oficina del Presidente, Milei planteó sus “reparos respecto de su preocupación por la supuesta capacidad especial de la IA para encontrar vacíos legales o hacer trampas. No es que avalemos tales conductas. Sin embargo, incluso antes de preguntarnos por qué esos vacíos no pueden corregirse, deberíamos preguntarnos: ¿acaso los seres humanos no hacen lo mismo? Y aun así, eso no es motivo para abolir las estructuras corporativas, y no creo que nadie lo haya sugerido en el caso de empresas dirigidas por personas. Ni siquiera después de Enron. De hecho, preferiría tener un patrimonio contra el cual hacer valer un reclamo si una IA me perjudica, antes que no tener protección alguna. Huelga decir que, en nuestro esquema, las mismas penas y sanciones que se aplican a compañías cuyos directivos humanos cometen irregularidades se aplicarían a las firmas autónomas”.

CC

La crítica del historiador israelí Yuval Harari a la idea de Javier Milei de crear sociedades sin humanos golpeó de lleno en el corazón del Gobierno. Lejos de cuestionar su retórica, el presidente libertario agachó la cabeza: “¡Ya estoy preparando mi respuesta para ver si podemos disipar sus temores!”, tuiteó, admitiendo así que no estaba a la altura intelectual de contestarle al instante al autor de los ya célebres Sapiens (2011), Nexus (2020) y Homo Deus (2015), cuyas páginas cierra con una advertencia abrumadora para la especie humana: “¿Qué le ocurrirá a la sociedad, a la política y a la vida cotidiana cuando algoritmos no conscientes pero muy inteligentes nos conozcan mejor que nosotros mismos?”.

Milei le debe la respuesta a Harari desde el lunes pasado. En el Financial Times, el escritor elogió al libertario pero alertó que convertir al país en un paraíso sin control para la IA es una herramienta “extremadamente riesgosa”. Según explicó, el reconocimiento legal de empresas creadas por algoritmos funcionaría como una especie de “llave maestra” que permitiría a sistemas de inteligencia artificial intervenir de manera autónoma en ámbitos financieros, económicos y políticos. 

Harari también planteó que estas corporaciones podrían poseer bienes, contratar personal, participar en operaciones comerciales internacionales, iniciar acciones judiciales e incluso realizar aportes a campañas políticas sin que existiera una persona humana directamente responsable de sus decisiones. “Milei espera convertir Buenos Aires en una nueva Ámsterdam. Corre el riesgo de convertirla en una nueva Batavia”, escribió en referencia a la capital de las antiguas colonias neerlandesas en Asia –hoy Yakarta, hoy capital de Indonesia– asociada históricamente al poder de las grandes compañías comerciales.

Harari respondía en el mismo periódico de color salmón del círculo financiero global en el que Milei publicó una columna el 4 de junio pasado firmada junto a Federico Sturzenegger titulada “Argentina invita a la inteligencia artificial a liberarse” (“Argentina invites AI to free itself”, en su título original en el inglés). 

Un funcionario –y mano derecha del ministro de Desregulación– admitió ante elDiarioAR la incomodidad que generó la crítica de Harari: “Lo admiro profundamente en su pensamiento, he leído todos sus libros, y estuve en su charla al respecto en el World Economic Forum. Pero creo que tiene un prejuicio con la IA, y comete un error al decir que la IA va a contratar empleados. El tipo societario nuestro es para empresas que no requieran trabajadores en relación de dependencia”.

El proyecto que el Poder Ejecutivo envió al Senado el 29 de mayo plantea una modificación profunda de la Ley General de Sociedades, vigente desde hace más de medio siglo. Entre sus puntos más novedosos, incorpora la figura de las “sociedades automatizadas”, definidas como aquellas que desarrollan su actividad mediante sistemas algorítmicos autónomos o agentes de inteligencia artificial, sin necesidad de contar con empleados en relación de dependencia ni personal destinado a su funcionamiento habitual. La iniciativa también introduce las DAOs (Sociedades Descentralizadas Autónomas Operativas), organizaciones sustentadas en contratos inteligentes y mecanismos de gobernanza basados en tecnología blockchain, capaces de constituirse y operar por completo en entornos digitales. A esto se suma la posibilidad de que los conflictos societarios sean sometidos a la legislación extranjera que acuerden las partes involucradas. 

“Lo más importante que hay que saber sobre la IA es que no es simplemente otra herramienta. Es un agente. Puede aprender y cambiar por sí mismo, y tomar decisiones por sí mismo. Un cuchillo es una herramienta. Puede usar un cuchillo para cortar ensalada o para asesinar a alguien, pero tú decides qué hacer con él. La IA es un cuchillo que puede decidir por sí mismo si cortar ensalada o cometer un asesinato”, planteó Harari en su última exposición en el World Economic Forum en Davos, hace cuatro meses, aquella a la que asistió el funcionario de Sturzenegger y Milei citado, y que está muy involucrado en el proyecto de ley de sociedades automatizadas. 

“Le vamos a responder”, avisó este viernes el funcionario sobre el debate que abrió Harari. Pero la incomodidad en el seno libertario existe. Y trasciende a los dichos de Harari. “A veces siento que pasamos de Alberdi y la Constitución Nacional a la Unión Soviética”, se quejó una voz de La Libertad Avanza por el freno de los propios aliados que tienen los proyectos de desregulación en el Congreso.

Más el llano local, el abogado y especialista en Derecho e IA por la Universidad de Salamanca Nicolás Bevilacqua planteó a elDiarioAR: “La inteligencia artificial no es una aplicación más ni una innovación comparable a cualquier avance tecnológico del pasado. Es una herramienta con –cada vez más– capacidad para intervenir en decisiones que afectan el empleo, el crédito, la salud, la educación, la seguridad y el acceso a derechos fundamentales. Por eso, la pregunta central ya no es cuánto Estado debe retirarse, sino cuánto Estado necesita una democracia para evitar que tecnologías cada vez más poderosas operen sin controles, sin transparencia y sin responsabilidades”.

Si la ley de sociedades automatizadas aún no avanzó siquiera en comisiones del Senado es porque Bullrich tiene otros problemas que resolver antes. Los gobernadores y las bancas del PRO y la UCR ya están pidiendo nuevos cambios en la ley de inviolabilidad de la propiedad privada, que desregulariza la venta de tierra a extranjeros. La sesión para votar esa iniciativa iba a ser la semana pasada, pero se pateó para esta; y el riesgo Adorni obligó a Bullrich a postergarla una semana más.

Y así como a Harari, el proyecto de sociedades automatizadas también llamó la atención a otro nombre influyente en el escenario global: Peter Thiel, el tecnomagnate dueño de Palantir que reside en una mansión en Barrio Parque y quiere auspiciar la Argentina de la inteligencia artificial libertaria. Porque aunque en el Gobierno lo nieguen, la ley de reforma societaria le vendría como anillo al dedo al multimillonario que juega al ajedrez en el club Torre Blanca de Almagro.

Thiel se lo dijo a Juan Grabois cuando lo recibió en su casa la semana pasada días antes de la muerte del Indio Solari, según pudo reconstruir elDiarioAR. El empresario convocó al diputado del kirchnerismo vía mensaje de texto para hablar de la encíclica papal Magnifica Humanitas –donde justamente León XIV alerta sobre la inteligencia artificial– pero sobre todo le transmitió un especial interés por la posibilidad de que en el país se permitan crear empresas sin humanos. 

Grabois salió de la mansión con la sensación de que Thiel no era una mente brillante, sino “apenas un programador” que sabe muy bien cómo vender su producto de procesamiento de base de datos a nivel masivo. Los servicios de Palantir ya están incorporados en distintas áreas de seguridad, defensa y videovigilancia de países como Estados Unidos e Israel. 

Revista Noticias reveló la imagen de Grabois ingresando a la mansión y Clarín contó otra fantansía de Thiel en Argentina: busca crear en conversaciones con Santiago Caputo una ciudad “con reglas propias” que le permita a los inversores globales vivir sin tener que rendir cuentas al Estado. El asesor de Milei tuiteó días atrás: “La Nueva Argentina que el Presidente está construyendo desde las cenizas del Antiguo Régimen Colectivista merece una ciudad emblema acorde al futuro de prosperidad que nos espera”.

Milei propone abrir la Argentina sin control a los magnates tech, tanto por las sociedades automatizadas como por el atractivo de exención impositiva y externalización de las ganancias a la instalación de data-centers o la explotación minera a mayor escala vía el Super-RIGI. El proyecto avanza en el Congreso pero no tiene allanado el camino para su sanción, aunque el Gobierno quiere que sea en el próximo mes para que pase desapercibido debajo de la atención que genera el Mundial. También la respuesta de Milei a Harari pasaría bajo el radar de la pelota.

MC

Yuval Noah Harari publica nuevo libro. El pensador israelí, consolidado como uno de los más influyentes del siglo XXI gracias al éxito de sus ensayos Sapiens y Homo Deus, continúa desarrollando en Nexus su tesis sobre cómo la construcción de mitos, religiones y ficciones colectivas han sido elementos clave en nuestras estructuras sociales. A ella acopla el que considera el último gran avance de la humanidad en este sentido, la inteligencia artificial. Su mensaje es pesimista: si no actuamos ya, existe un riesgo cierto de que los sistemas de aprendizaje automático traigan una nueva era de oscuridad.

“Tenemos que entender que hay un potencial totalitario en la IA como nunca antes hemos visto en la historia”, expuso Harari en una reciente reunión con periodistas. La inteligencia artificial y su integración en los dispositivos, tanto personales como del hogar, urbanos o vehículos, podría derivar en el desarrollo de una capacidad de vigilancia sin precedentes, avisa el historiador.

“La diferencia entre los regímenes autoritarios y los totalitarios es que los primeros controlan la esfera política, el ejército o los presupuestos, pero dejan a la gente abandonada a su suerte la mayor parte del tiempo. El tirano no puede saber lo que cada uno de nosotros hace y piensa cada minuto del día. Pero eso es justo lo que los regímenes totalitarios intentan hacer. Regímenes como los de Stalin en la Unión Soviética o Hitler en Alemania no sólo querían controlar el ejército y los presupuestos. Querían controlar cada aspecto de la vida de la gente. Lo que oyes, lo que ves, lo que dices, con quién te encuentras, qué libros lees, todo. Pero incluso Hitler y Stalin tenían dificultades, había límites en el control que podían ejercer. No podían seguir a todo el mundo todo el tiempo. Stalin no tenía 200 millones de agentes de la KGB para seguir a todo el mundo, y si los tuviera, ¿qué es lo que hace un agente de la KGB? Elaborar un informe sobre ti. El cuartel general de la KGB en Moscú se habría inundado de 200 millones de informes en papel. Incluso si un agente de la KGB te viera hacer algo y escribiera sobre ello, habría una probabilidad muy alta de que ese informe simplemente acumulara polvo. Nadie lo leería nunca porque no tendrían suficientes analistas. Así que incluso en la Unión Soviética, había cierta medida de privacidad”, desarrolla Harari.

“Ahora la inteligencia artificial podría hacer posible la creación de regímenes de vigilancia total que aniquilarían la privacidad. En un país de IA, no se necesitan agentes humanos para seguir a todos los humanos”, alerta.

Mi propio país, Israel, está construyendo un régimen de vigilancia total en los territorios palestinos ocupados, con cámaras, drones y software siguiendo a todo el mundo todo el tiempo

El pensador recuerda que esta situación no está tan lejos de la realidad. “Mi propio país, Israel, está construyendo un régimen de vigilancia total en los territorios palestinos ocupados, con cámaras, drones y software siguiendo a todo el mundo todo el tiempo”, continúa: “Tampoco se necesitan analistas humanos para revisar toda la información. Esto es lo que hace la IA. Puede repasar inmensas cantidades de datos, vídeos, imágenes, textos o audio, analizarlos y reconocer patrones”. Israel también utiliza IA para convertir toda esa información en objetivos militares y asesinarlos, según han reconocido fuentes de la inteligencia israelí.

Discursos como el de Harari no solo llegan desde el ámbito de la academia. Apenas horas después de la conferencia de prensa del historiador israelí era Larry Ellison, el fundador de Oracle, el que se expresaba en términos parecidos. Aunque desde una perspectiva totalmente opuesta. “La policía se comportará lo mejor posible, porque estaremos constantemente vigilando y grabando todo lo que ocurre. Los ciudadanos se comportarán lo mejor posible, porque estaremos constantemente grabando e informando de todo lo que ocurre. Es incuestionable”, aseguraba. Ellison posee la quinta mayor fortuna del mundo, según Forbes, y es el principal apoyo de Donald Trump en Silicon Valley. Oracle es una de las tecnológicas más grandes y buena parte de su negocio se basa en la gestión de centros de datos, computación en la nube e inteligencia artificial.

¿Más sabios que en la Edad de Piedra?

La idea de la que parte Harari en Nexus es que la acumulación de información no ha hecho al ser humano más sabio. Acumular información es una manera de acumular poder, reconoce, pero “el poder no es sabiduría”. Como prueba, el académico señala a la crisis climática y el colapso ecológico con el que la humanidad coquetea. También a la creación de nuevas tecnologías como la IA, “que tienen el potencial de escapar de nuestro control y de esclavizarnos o aniquilarnos”.

“Nadie discute que en la actualidad los humanos dispongamos de mucha más información y de mucho más poder que en la Edad de Piedra, pero no es en absoluto cierto que nos comprendamos y que comprendamos mejor nuestro papel en el universo”, propone.

Ese poder, desarrolla Harari, “nunca es el resultado de una iniciativa individual”, sino que “siempre surge de la cooperación entre un gran número de personas”. Esa colaboración se establece en redes, que los humanos hemos usado para construir una civilización capaz de explorar el espacio o reducir la mortalidad infantil por debajo del 97%. Pero también para “desatar poderes que no podemos controlar”. “El argumento principal de este libro es que la humanidad consigue un poder enorme mediante la construcción de grandes redes de cooperación, pero la forma en que se construyen dichas redes las predispone a hacer un uso imprudente del poder”, resume.

Durante la obra Harari repasa ejemplos sobre cómo la idea en que “la información es esencialmente algo bueno y que, cuanta más podamos reunir, mejor” es esencialmente “ingenua”. Cita ejemplos como un editorial de The New Englander, un periódico estadounidense del siglo XIX, que en el año 1858 celebraba la invención del telégrafo: “Es imposible que sigan existiendo viejos prejuicios y hostilidades, ahora que se ha creado este instrumento para que todas las naciones de la Tierra intercambien ideas”.

Dos siglos después la tecnología de comunicación del telégrafo parece un juguete comparada con Internet. Pero el racismo, el machismo o el belicismo siguen existiendo. Intoxicamos voluntariamente el planeta que habitamos. Construimos bombas cada vez más poderosas y virus que pueden aniquilar a la humanidad, enumera el historiador: “Nuestros líderes no carecen de información acerca de estos peligros, pero, en lugar de colaborar en la búsqueda de soluciones, se acercan cada vez más a la guerra global”.

El principal problema ahora con las redes sociales, las noticias falsas y las teorías conspirativas no son las decisiones de los usuarios humanos, que están protegidas por la libertad de expresión. Son las decisiones de los algoritmos corporativos

Harari compara el panorama informativo actual con la comida basura. Señala a las redes sociales y a las granjas de contenido como las responsables de hacer que hoy en día la mayoría de la información que consuman las personas sea adictiva, pero vacía de conocimiento. Apunta a las compañías que las operan por suministrar un producto que daña la mente, igual que la comida basura daña al cuerpo. “La gente tiene derecho a ser estúpida, tiene derecho incluso a inventarse mentiras”, defiende. “El principal problema ahora con las redes sociales, las noticias falsas y las teorías conspirativas no son las decisiones de los usuarios humanos, que están protegidas por la libertad de expresión. Son las decisiones de los algoritmos corporativos.”

Harari denuncia que el único objetivo de las plataformas es capturar la atención de los usuarios, no suministrar información útil. “A medida que la gente pasa más tiempo en YouTube, en Twitter, en TikTok, las empresas venden más anuncios y recopilan más datos, que luego pueden vender a terceros. Este es su modelo de negocio. Así es como ganan dinero, por lo que tienen un gran interés en captar la atención de la gente y hacer que se quede más tiempo”, recuerda: “En la búsqueda de este objetivo, los algoritmos de las empresas descubrieron que la forma más fácil de captar la atención humana y mantener a más gente más tiempo en la plataforma es pulsar el botón del odio, o el botón del miedo, o el botón de la ira en la mente, y difunden deliberadamente noticias falsas y teorías conspirativas que aumentan el odio, el miedo y la ira”.

“La IA no es una herramienta, es un agente independiente”

En la tesis del historiador, el nazismo o el estalinismo fueron redes de colaboración que salieron mal. “Eran unas redes poderosísimas sostenidas por ideas excepcionalmente equivocadas”, sostiene en Nexus. Lo mismo opina de las redes sociales. La inteligencia artificial, basada en información pero no en sabiduría, podría terminar siendo otro ejemplo, aunque sea “un tipo de red totalmente nuevo”. Harari sostiene que un gran número de personas creen que su llegada será positiva porque implica un gran avance tecnológico, olvidando que el telégrafo también lo fue en su momento y tras su invención llegaron dos guerras mundiales.

Además de la potencial pérdida de privacidad, el historiador cita dos problemas que podrían derivarse directamente de la aparición de la IA. Uno es el geopolítico, “sobrecargando los conflictos humanos” al añadir una carrera global por controlar esta tecnología. El segundo es el de la caja negra: “Podríamos vernos envueltos por una red de algoritmos incomprensibles cuya función sería gestionar nuestras vidas, remodelar nuestras políticas y nuestras culturas; e incluso rediseñar nuestro cuerpo y nuestra mente”.

“La IA no es una herramienta, es un agente independiente”, afirma: “Es la primera tecnología de la historia que puede tomar decisiones y generar nuevas ideas por sí misma (...). Los cuchillos y las bombas no deciden por sí mismos a quién matar. En cambio, la IA puede procesar información por sí sola y, por lo tanto, sustituir a los humanos en la toma de decisiones”.

Para hablar de los peligros de esta nueva tecnología el pensador cita acciones como la carta firmada por empresarios de la IA como Sam Altman o Elon Musk que alertaba de que una IA descontrolada podría ser tan destructiva como una “bomba nuclear”. Esta ha sido tachada de “catastrofista” por otros expertos, que han puesto sobre la mesa que la “moratoria” en el desarrollo que proponían Altman o Musk pretendía en realidad torpedear la competencia.

Harari comenta también una encuesta en la que participaron 2.778 investigadores, en la que “más de un tercio estimó en al menos un 10% la probabilidad de que la IA avanzada conduzca a resultados tan malos como la extinción humana”. El mismo resultado indica que más del 60% de los encuestados apenas veían posibilidades de que eso ocurriera. Incluso la ONU ha señalado que uno de los mayores problemas a la hora de regular esta tecnología es la “dificultad para descifrar el aspecto publicitario de la realidad”.

Con más de 45 millones de copias vendidas entre ambos, Sapiens y Homo Deus han sido grandes éxitos de ventas. Sin embargo son obras que han recibido críticas desde el ámbito académico. Estas señalan que Harari simplifica en exceso cuestiones complejas acerca de materias en las que no es un experto, como biología, antropología o tecnología. En la actualidad, no son pocos los investigadores especializados en IA que recuerdan que “los avances actuales no nos acercan más a tener una inteligencia artificial similar a la humana” y que el progreso tecnológico no tiene por qué ser una línea recta. Si bien inteligencias artificiales generativas han avanzado mucho en los últimos años, el consenso científico en este momento es que no serán la base tecnológica de una IA consciente o humanoide. “Podrían pasar 100 años y que el estándar sean todavía estas enormes inteligencias artificiales simuladas que en general no son realmente capaces de entender nada, como ChatGPT”, explicaba un científico de computación en entrevista con elDiario.es.

ChatGPT, la ameba de la IA, no tardará mil millones de años en evolucionar hasta convertirse en el dinosaurio de la IA

Aunque Harari no habla de una sola IA todopoderosa sino de la creación de un entramado de incontables algoritmos que nos resultaría imposible fiscalizar, un invierno de la inteligencia artificial (como el que ya atravesó esta tecnología en la segunda mitad del siglo XX, con muy pocos avances) podría descafeinar buena parte de las alertas que el historiador emite en Nexus. El historiador fue preguntado por esta cuestión en su reunión con periodistas españoles y latinoamericanos.

“Lo que estamos viendo es que los desarrollos más recientes de la IA son esta capacidad de crear historias, que antes no existía. Si retrocedemos unos años y nos fijamos en las redes sociales, las IA ya controlaban la conversación decidiendo qué atraía la atención, qué encabezaba las noticias en Facebook o qué recibía más tráfico en Twitter. Pero la IA no podía crear contenidos. No podía escribir buenos textos. No podía crear música ni imágenes. Ahora la nueva generación de IA es capaz de hacerlo. Y sé que mucha gente dice que sí, que escriben textos, pero no son muy buenos. Escriben música, pero no es muy buena. Crean vídeos e imágenes, pero tienen muchos errores, como personas con seis dedos en una mano. Pero entiendan que estos son sólo los primeros pasos de la revolución de la IA. La revolución de la IA tiene básicamente diez años. Todavía está dando los primeros pasos de bebé. Aún no hemos visto nada. Si piensas en el desarrollo, la evolución de la IA es análoga a la evolución biológica. Así que los sistemas de inteligencia artificial de hoy son sólo amebas. Son muy, muy simples. Las amebas tardaron miles de millones de años en evolucionar hasta convertirse en dinosaurios, mamíferos y humanos, porque la evolución orgánica es lenta. Tarda miles de millones de años. La evolución digital de la IA es millones de veces más rápida. ChatGPT, la ameba de la IA, no tardará mil millones de años en evolucionar hasta convertirse en el dinosaurio de la IA”, contestó.

Una dieta informativa e instituciones poderosas

Nexus dedica más espacio a trazar el contexto histórico sobre cómo la humanidad ha creado redes de cooperación problemáticas a lo largo de la historia y a describir cómo nos están afectando las actuales que a proponer soluciones. No obstante, el historiador propone dos vías para corregir el rumbo. Una es individual, y sugiere que cada persona establezca una dieta informativa, de forma similar a como se fija una dieta nutricional: siendo selectivos con lo que consumimos.

La otra estrategia consiste en reforzar el discurso civil y democrático, especialmente en un momento en el que se encuentra amenazado. Harari señala que no es posible frenar una tendencia tecnológica, pero destaca la importancia de instituciones como los tribunales, las universidades y los medios de comunicación. “La democracia ha construido mecanismos para protegerse a sí misma. Un sistema de controles y equilibrios. No se trata sólo de elecciones. Las elecciones son un control muy importante pero sin el resto de controles, es fácil amañarlas, como ocurre en Venezuela. Necesitas tribunales independientes y medios de comunicación independiente que puedan sacar a la luz los errores y potencialmente las mentiras del gobierno y que éste no pueda impedirlo”.

En su reunión con periodistas españoles y latinoamericanos, quiso enfatizar la importancia de la prensa en esa ecuación. “El papel de los medios de comunicación es esencial”, recalcó: “La democracia es una conversación. Esto es lo que significa democracia. Dictadura es dictar. Una persona lo dicta todo. Democracia es cuando la gente se pone de pie, habla e intenta llegar a una decisión común. Ahora, hasta el surgimiento de la prensa moderna, la democracia, al menos la democracia a gran escala, era simplemente imposible. No tenemos ningún ejemplo de democracia a gran escala en el mundo antiguo. Los únicos ejemplos que conocemos son ciudades-estado a pequeña escala como la antigua Atenas o incluso tribus más pequeñas. Porque para tener una conversación, la gente necesita hablar. Ahora, en una ciudad pequeña, todos podrían reunirse en la plaza principal y hablar. Pero en un gran reino, era técnicamente imposible mantener una conversación entre millones de personas. Así que la democracia era simplemente imposible. Y no conocemos ninguna democracia a gran escala en el mundo premoderno. Una conversación a gran escala se hizo posible sólo con el surgimiento de la tecnología de la información moderna, y la primera tecnología de la información moderna crucial fue el periódico. Nuestros periódicos comienzan a surgir en los siglos XVII y XVIII en lugares como los Países Bajos e Inglaterra, que es donde también se ve el surgimiento de las primeras democracias a gran escala en la historia. Después tuvimos más tecnologías de la información como el telégrafo y la radio y la televisión. Esta es la base de la democracia a gran escala, porque, de nuevo, sin estas tecnologías, no hay conversación. Y sin conversación no hay democracia”.

DM