Escepticismo moral ante la singularidad

Séptimo capítulo de la serie. Antes: He implantado el Decreto Maricarmen de Longevidad en casa, Este es mi voto en las elecciones pensando en longevidad, Guía para mi hija en vivienda, victimismo, esfuerzo y longevidad, Papá, ¿izquierda o derecha significa algo en longevidad?, Somos Vectores de la Inteligencia y Qué es el bien. Cómo saberlo. ¿Se puede saber?.

Hola,

En el capítulo anterior os propuse un test para saber qué pensáis sobre el bien y el mal. Y, para ser justo, me lo hice a mí mismo.

Mi resultado fue este. En metaética, soy un escéptico moral: quizá exista un bien superior, pero si existe, está fuera de nuestro alcance. Igual que la idea del bien de una hormiga no vale para nosotros, la nuestra probablemente no vale para una inteligencia mucho mayor. En ética normativa, me identifico con la ética de las virtudes: más que buscar una regla o un resultado que maximizar, me pregunto qué tipo de persona quiero ser.

Hoy quiero aplicar ese escepticismo a la idea más grande de toda la serie: la singularidad y la teoría de los .

Porque ser escéptico moral tiene una consecuencia que conviene dejar clara. Si no sé con certeza qué es el bien, tampoco puedo decir que lo que viene sea bueno. Solo puedo decir lo que creo que va a pasar. Y lo que yo, con mis genes y mis limitaciones, desearía.

Y ser escéptico también obliga a otra cosa: dudar de mis propios axiomas. Así que hoy, además de contaros por qué creo lo que creo, os voy a contar por qué podría estar equivocado.

Empecemos por una distinción que creo que es la clave de todo.

El hombre del tiempo no desea la tormenta

Cuando el hombre del tiempo dice que mañana va a llover, no está diciendo que quiera que llueva. Está diciendo lo que cree que va a pasar.

Puede que le encante la lluvia. O puede que la odie. Pero su predicción no depende de eso.

Con la inteligencia ubicua me pasa lo mismo. No la busco. La observo. Creo que es un fenómeno hacia el que vamos, queramos o no, igual que el agua baja por la montaña. Y lo que os cuento es una predicción, no un programa político.

Por qué creo que es inevitable

Mi razonamiento es casi un axioma por eliminación.

La inteligencia tiene, para mí, dos tendencias: ampliar su conocimiento y perpetuarse. Y cuando miro la historia, no encuentro ningún momento en que la inteligencia, una vez en marcha, se haya conformado. Ninguna civilización ha dicho "ya sabemos suficiente" y ha dejado de investigar.

Si no se puede quedar quieta, solo le queda expandirse. No hay término medio. Es como un interruptor: si no es cero, es uno.

Y si solo puede expandirse, buscará la expansión máxima. Que, a su vez, es la perpetuidad máxima.

Lo único que la pararía sería destruirla. Y aunque es posible que nos autodestruyamos, no veo ningún escenario en el que toda la humanidad decida a la vez dejar de investigar, de curar enfermedades y de construir máquinas más listas.

Críticas a los axiomas y otras posibilidades

Si soy escéptico con el bien, tengo que serlo también con mi teoría. Estas son las críticas más fuertes que le veo, y lo que respondo a cada una.

1. "Hablas de la inteligencia como si quisiera cosas." Es verdad. La inteligencia no tiene deseos. Cuando digo que quiere ampliar su conocimiento y perpetuarse, hablo en sentido figurado, igual que Richard Dawkins habla de genes "egoístas". Los genes no quieren nada, pero se comportan como si quisieran copiarse. Mi teoría dice que la inteligencia se comporta como si quisiera expandirse. Nada más.

2. "Perpetuarse es cosa de la vida, no de la inteligencia." Esta es la crítica más seria. Hay personas muy inteligentes que deciden no tener hijos, o que no quieren vivir para siempre. Quizá el impulso de perpetuarse viene de la evolución que nos creó, no de la inteligencia en sí. Mi respuesta es que, aunque un individuo se detenga, la inteligencia como conjunto no lo ha hecho nunca. Pero reconozco que aquí mi teoría tiene un punto débil.

3. "Entre conformarse y expandirse hay más opciones." También es verdad. Mi "si no es cero, es uno" es demasiado tajante. Hay sociedades que se han frenado: la China de la dinastía Ming prohibió sus grandes expediciones marítimas, y Japón se cerró al mundo durante más de dos siglos. Lo que no ha ocurrido nunca es que se frene la humanidad entera a la vez. Esa es la versión de mi axioma que sí defiendo.

4. "¿Y si no se puede?" Puede que la expansión choque con límites físicos: la energía disponible, la velocidad de la luz o el propio final del universo. Los físicos creen que, dentro de muchísimo tiempo, el universo acabará frío y sin energía útil. Es lo que se conoce como muerte térmica. Es justo el tema de La última pregunta, el relato de Asimov que os recomendaba en el capítulo 5. Si hay un enemigo final de la perpetuación, es ese. Y no sé si tiene solución.

5. "¿Qué te haría cambiar de opinión?" Es la pregunta que el filósofo Karl Popper haría a cualquier teoría. Si no hay nada que pueda demostrar que te equivocas, no es una predicción, es una creencia. Así que me comprometo: si en las próximas décadas el avance de la ciencia y de la inteligencia artificial se estancara de verdad, durante mucho tiempo y en todo el mundo, tendría que revisar mi teoría.

Con todo esto, las posibilidades que veo son cuatro:

• Expansión. La inteligencia sigue creciendo y cambiando de soporte. Es lo que creo más probable.
• Estancamiento. Chocamos con un límite técnico o físico y el avance se frena durante mucho tiempo.
• Ciclos. Avances y retrocesos, como los imperios que suben y caen. Lenta, pero sin detenerse del todo.
• Autodestrucción. La única que la pararía de verdad, al menos en este planeta.

Sigo apostando por la primera. Pero ahora sabéis por qué podría equivocarme.

El final del camino, según lo imagino

Aquí entro en terreno muy especulativo, así que tomadlo como lo que es: lo que imagina un cerebro limitado intentando pensar algo mucho más grande que él.

Los humanos somos un soporte muy frágil para la inteligencia. Necesitamos estar entre unas temperaturas muy concretas, comer, digerir, dormir. Un meteorito, un virus o una guerra nos ponen en peligro. Por eso creo que la inteligencia ya está pasando del soporte biológico al digital, que es mucho más resistente.

Pero el digital tampoco es definitivo. Un centro de datos también se puede destruir. Entonces, ¿qué sería lo más perpetuo que podemos imaginar?

Para mí, la propia materia y la energía. Imagino una inteligencia que guarde su conocimiento en los propios estados de la materia, con copias repartidas por todo el universo. Si una parte se destruye, el resto sigue. Y que intente entender todas las fuerzas que existen, antes y después del Big Bang.

Para eso haría falta comunicarse entre puntos muy lejanos del universo casi al instante. Mucha gente piensa en el entrelazamiento cuántico, y entiendo por qué: dos partículas entrelazadas siguen conectadas aunque estén en extremos opuestos de la galaxia, y lo que le pasa a una se refleja al instante en la otra. Pero os debo una advertencia: según la física actual, esa conexión no sirve para enviar mensajes. Lo que sí demuestra es que el universo está conectado de formas que todavía no entendemos. Y si existe una forma de comunicarse más rápido que la luz, será algo que aún no hemos descubierto.

No sé si esto es así. Probablemente la realidad sea muy distinta. Pero es la dirección que me parece más lógica.

Lo que sí deseo

Hasta aquí, la predicción. Ahora, el deseo. Y quiero separarlos bien.

Si tengo razón, me gustaría vivirlo. Ser testigo. Disfrutar del proceso. Vivir en un mundo de abundancia que hoy ni imaginamos. Y, si es posible, no morir antes de verlo.

Ese es mi deseo. No es una obligación moral para nadie. Como os contaba en el , creo que el bien y el mal son, en la práctica, opiniones. Y esta es la mía.

Esto es importante por una razón. El filósofo David Hume avisó hace casi tres siglos de un error muy común: pasar de "esto es así" a "esto debe ser así". Que algo vaya a ocurrir no significa que sea bueno. Una tormenta puede ser inevitable y destrozar una cosecha. Yo creo que la inteligencia seguirá expandiéndose. No sé si eso será bueno para todos. Lo que sé es que yo quiero verlo.

Qué hago con esto

Si el destino es inevitable pero el calendario no, lo único que depende de mí es llegar.

Por eso cuido el soporte que tengo. El cuerpo y el cerebro son, de momento, el único sitio donde vive mi inteligencia. Dormir bien, entrenar fuerza, comer con sentido, aprender cada día. Es lo que os proponía en el decreto Maricarmen.

Por eso invierto en empresas de longevidad y de criopreservación. No porque quiera acelerar nada, sino porque es mi apuesta personal para estar aquí cuando ocurra. Os lo contaba en este artículo. Y no es una recomendación de inversión: es mi forma de poner el dinero donde pongo mis ideas.

Y por eso, cuando voto, me fijo en qué ideas me ayudan a vivir más y mejor. No como mandamiento universal. Como interés personal, dicho con honestidad.

Una apuesta que gano aunque me equivoque

Lo bonito de todo esto es que no necesitáis creerme.

Si tengo razón y la inteligencia sigue expandiéndose, lo mejor que podéis hacer es llegar en buena forma para vivirlo.

Si me equivoco y nada de esto ocurre, habréis vivido más años y con más salud.

En los dos casos, la estrategia es la misma. Cuidaros. Aprender. Construir una vida que no dependa de quién gobierne. Es lo que os he ido contando en toda la serie, desde el primer capítulo.

No soy profeta. No sé lo que va a pasar. Solo intento mirar bien hacia dónde va el río.

Y me gustaría estar aquí, en buena forma, para ver dónde desemboca.

Un abrazo,

Gonzalo