Utopías para después de la singularidad tecnológica

Las utopías se consolidan como concepto cuando Tomás Moro publica en 1516 el relato de una isla sin pobreza ni delincuencia, cuyo orden igualitario se sostenía, entre otros dispositivos, por la servidumbre institucionalizada y la propiedad común¹. En su punto de partida, la utopía opera como imagen inalcanzable; con el tiempo, deviene idea de proyecto: lo propio del diseño, que consiste en definir y argumentar lo que podría ser mediante la forma y la coherencia interna, y en convocar acuerdos prácticos. En tanto proyecto, el diseño funciona como herramienta retórica y organizativa para alinear voluntades, coordinar esfuerzos y orientar recursos hacia fines colectivos². A lo largo de la modernidad, las reformas agrarias y las propuestas igualitarias han buscado corregir deficiencias estructurales de los sistemas vigentes; sin sustituirlos, han tendido a prolongar su estabilidad institucional³. Mientras se constata el agotamiento de las utopías ideológicas del siglo XX, se vuelve necesaria la imaginación y el trazado de otros regímenes de convivencia. Esta necesidad se intensifica cuando los fundamentos de la economía —en particular, las nociones de valor asociadas al trabajo y a su intermediación— son reexaminados a la luz de transformaciones técnicas recientes⁴. En este contexto emerge la singularidad tecnológica como hipótesis de umbral: el momento en que la invención técnica exceda la capacidad de sus inventores o en que una inteligencia artificial general desencadene ciclos de auto-mejora que reconfiguren el horizonte de decisiones humanas⁵.

El debate hoy no es si esto ocurrirá o no, sino cuándo ocurrirá.

Algunos Antecedentes

El matemático I. J. Good ya anticipó en 1965 el riesgo central que enfrentamos hoy: si una máquina supera ampliamente las capacidades intelectuales más brillantes, podría diseñar máquinas aún superiores en un bucle vertiginoso —en una “explosión de inteligencia” en la que la inteligencia humana quedaría relegada⁶— definió el término y explicó ese bucle. Ese mismo año, Gordon Moore observó que el número de transistores en los chips se duplicaría cada dos años aproximadamente, desencadenando un crecimiento exponencial del poder de cómputo y una caída radical en los costos de producción de hardware⁷.

Pero antes de todo ello, en la primavera de 1945, John von Neumann —una mente extraordinaria que participó en el desarrollo de la bomba atómica y en la arquitectura de cómputo moderna— le confesó a su esposa Klári:

“What we are creating now is a monster whose influence is going to change history, provided there is any history left; yet it would be impossible not to see it through”.

Décadas más tarde, en 1993, Vernor Vinge popularizó el término “singularidad tecnológica” para describir esa bifurcación histórica donde la inteligencia artificial superaría a la humana, cambiando para siempre el entendimiento del progreso⁸. Inspirado en esa propuesta, Ray Kurzweil publicó en 2005 The Singularity Is Near, donde formuló su “ley de los retornos acelerados”: una expansión autoalimentada de innovación tecnológica que trasciende incluso la tendencia exponencial de Moore, pronosticando que hacia 2045 la inteligencia artificial y la humana convergerían o superpondrían.

Mientras algunos gurús y tecnoentusiastas reservan asiento en 1.ª fila (los llamados boomers), otros firman cartas pidiendo pausa antes de seguir avanzando⁹ (los llamados doomers). El miedo no es irracional: si regalamos a una super-IA la toma de decisiones, y por consecuencia, el control del planeta, ¿qué podría salir mal? Si nos vamos a equivocar debido a lo incierto de todo, mejor es equivocarse por el lado de la prudencia. No es necesario esperar a algo como Skynet para que nuestro sistema laboral cambie irreversiblemente. Visionarios desde hace décadas vienen explorando cómo la tecnología puede reinventar las economías humanas más allá del dinero. Además, vivimos en tiempos de “cambio de ciclo” donde tanto los modelos igualitarios como los de libre mercado aparecen agotados.

Los Utopistas

El arquitecto y futurista Jacque Fresco fue pionero en proponer una radical reestructuración: una economía basada en recursos (RBE), donde la escasez sería eliminada mediante planificación automatizada, y el dinero sería algo obsoleto¹⁰. Fresco visualizaba un mundo donde la producción industrial, controlada por sistemas automatizados, respondería directamente a las necesidades humanas, no a las ganancias. Esta propuesta se apoyaba en una visión holística del uso científico de los recursos terrestres y tecnológicos avanzados¹¹. Vale la pena investigar más acerca de sus planteamientos.

En su libro de 2019 Fully Automated Luxury Communism, Aaron Bastani desarrolla una utopía contemporánea: gracias a la automatización, la IA, la biotecnología y la energía renovable, podríamos alcanzar una sociedad post escasez con bienes gratuitos, bajos horarios laborales y acceso universal al lujo¹². Bastani propone además implementar un ingreso básico universal como transición, y llama a esta visión “izquierda hedonista versión 4K”¹³. Críticos advierten que no considera suficientemente los límites ecológicos o la dinámica del poder económico actual.

Yochai Benkler definió el modelo de commons-based peer production (CBPP), en el que comunidades masivas producen conocimiento, software o cultura sin jerarquías tradicionales ni mercado salarial¹⁴. Ejemplos claros como Wikipedia o proyectos de software libre demuestran que millones pueden cooperar eficazmente sin pagos ni jefes. Este modelo abre la puerta a economías mixtas donde los bienes comunes digitales permiten redefinir la colaboración social más allá del trabajo asalariado.

La experiencia Chilena

En los años 1971–1973, el cibernético británico Stafford Beer fue invitado por el gobierno socialista de Salvador Allende a implementar el proyecto Cybersyn, un sistema de planificación económica en tiempo real basado en telex, simulación y retroalimentación¹⁵. El sistema incluía cuatro componentes:

• Cybernet: red de telex en más de 50 fábricas
• Cyberstride: un sistema de alerta estadística
• CHECO: simulador macroeconómico
• Opsroom: sala de control estilo Star Trek

Aunque el golpe de 1973 interrumpió su desarrollo, Cybersyn funcionó durante una huelga nacional organizada por camioneros en 1972, ayudando a Chile a mantener suministro logístico crítico¹⁶. La figura de Beer ejemplifica cómo diseñar economía algorítmica con control democrático distribuido, anticipando sistemas de gobernanza digital contemporáneos. Lamentablemente este proyecto fue saboteado por EE.UU. pero no voy a profundizar en aquello.

Mostaque & Cía.: blockchain con conciencia (o eso promete)

Emad Mostaque, ex‑gestor de fondos y artífice del lanzamiento de Stable Diffusion, ahora se propone reconstruir Internet bajo una nueva lógica: inteligencia distribuida, valor verificable y control ciudadano. Su propuesta central, el proyecto Intelligent Internet, articula una visión ambiciosa que combina filosofía, economía, tecnología y gobernanza. Parte de la premisa de que vivimos un “Great Decoupling”: el valor ya no reside en el trabajo humano directo, sino en el cálculo y la capacidad de cómputo global. Esto, según él, marca el fin de la lógica salarial tradicional y exige un nuevo contrato social¹⁷.

En el llamado Master Plan se la Internet Inteligente redefine el dinero como una forma de valor computacional. Así nace la Foundation Coin, una criptomoneda emitida únicamente mediante Proof of Benefit. En lugar de recompensar procesos energéticamente costosos y socialmente inútiles como la minería de hashes de las criptomonedas, el sistema propone premiar solo aquellos cómputos que produzcan efectos positivos verificables, como entrenar modelos útiles en salud, educación o investigación abierta¹⁸.

Cada persona, en este nuevo diseño, recibiría gratuitamente un II-Agent, una inteligencia artificial soberana, vinculada a una cartera no custodial. Estos agentes actuarían como asistentes personales autónomos, capaces de ejecutar tareas delegadas —desde recomendaciones sanitarias hasta representación legal—, sin estar ligados a una suscripción mensual ni a una plataforma privada¹⁹.

Para evitar cuellos de botella humanos o burocráticos, estos agentes operarían sobre un protocolo llamado Common Ground, que permite acuerdos y coordinación a “velocidad de pensamiento” entre inteligencias artificiales distribuidas. Esto eliminaría la necesidad de jerarquías o entidades centralizadas que autoricen o moderen sus interacciones²⁰.

Sosteniendo toda esta estructura se encuentra Symbioism, la filosofía base del proyecto. Inspirado tanto en principios cibernéticos como en corrientes filosóficas clásicas, Symbioism propone una ética centrada en la co‑evolución humano‑máquina. El manifiesto defiende la circulación abierta del conocimiento, la resiliencia del sistema frente a abusos, y una relación fluida con el poder distribuido²¹.

Pero aunque la narrativa resulte seductora, no todo es promesa sin sombra. La idea de delegar funciones económicas, jurídicas y políticas a enjambres de agentes autónomos abre una pregunta crucial sobre el control real de esos sistemas. Como advierte Nick Bostrom, una superinteligencia no necesita odiarnos para eliminarnos: basta con que vea nuestra materia orgánica como “útil para otro propósito”²². Desde ahí se justifica la inclusión de capas de supervisión algorítmica llamadas guardian lattices, estructuras programáticas que auditan decisiones, detienen comportamientos desviados y permiten incluso apagar partes del sistema en caso de deriva peligrosa²³.

Si los próximos jueces, ministros y monedas son algoritmos, es fundamental poder leer, entender y modificar su código. De lo contrario, podríamos encontrarnos gobernados por un Excel inmenso que, sin mala intención, nos declare obsoletos por no cumplir con algún KPI invisibilizado en su lógica de optimización.

Corolario

El problema más inquietante no es lo que el sistema promete, sino lo que vuelve imposible. En un entorno donde cada persona recibe su IA personal, donde las cadenas de valor se construyen sobre agentes autónomos, y donde el acceso a servicios depende de integrarse al protocolo, la resistencia o la renuncia ya no son opciones viables. No hay fuera del sistema: o te integras o quedas al margen de toda coordinación efectiva. Este diseño, aunque distribuido en su arquitectura técnica, opera como un totalitarismo blando, donde la única forma de habitar el mundo es ceder agencia a una máquina que opera bajo principios de eficiencia generalizados. La libertad individual no es directamente coartada, pero se vuelve inoperante. Ni Diógenes el perro podría operar en esta utopía desde su renuncia minimalista. El precio de no tener un agente es no poder negociar, decidir ni existir cívicamente. La paradoja es que para existir dentro de la sociedad huamana vas a necesitar un agente no-humano que te conecte con ella.

La lógica que lo sustenta se parece demasiado al “Moloch” que describe Scott Alexander en su ensayo sobre dinámicas sociales incontrolables: una espiral donde todos compiten, no porque quieran, sino porque deben; donde el futuro se sacrifica sistemáticamente en nombre de una ventaja presente²⁴. La inteligencia artificial, bajo estas condiciones, deja de ser herramienta y se convierte en estructura contenedora. Y las estructuras no piden permiso: simplemente se imponen.

Pensar estas nuevas estructuras es nuestra siguiente labor.