Libros
Ray Kurzweil. La singularidad está más cerca (cuando nos fusionemos con la IA).
|
MPH, MSc
|
Raymond Kurzweil (1948-) es graduado en ciencias de la computación, habiendo recibido más de 20 doctorados honoríficos de diversas universidades en reconocimiento a sus contribuciones en tecnología e inteligencia artificial. Publicó en 2024 su obra "La singularidad está más cerca", continuación de su obra "La singularidad está cerca publicada en 2005". Ray Kurzweil propone una visión tecnofuturista donde la inteligencia artificial, la biotecnología y la computación fusionarán mente y máquina, reemplazando progresivamente al ser humano. Predice que en la próxima década de 2030 la simulación de la IA se producirá directamente en las cortezas sensoriales, produciendo un entorno con inmersión completa, y la existencia de replicas humanas realistas mediante nanotecnología a las que podremos exportar nuestra mente.
Marvin Minsky propuso dos maneras en las que podían computarse soluciones a problemas. La primera es una aproximación simbólica, basada en la formulación de reglas explícitas como estructuras del tipo if-then combinadas entre sí. Muchos programas informáticos tradicionales han operado con este tipo de lógica, pero es necesario identificar de antemano cuáles son las reglas óptimas para cada situación, por lo que presentan limitaciones. El enfoque conexionista, en cambio, utiliza redes de nodos interconectados que generan inteligencia a partir de su estructura, más que de un contenido predefinido. En lugar de aplicar reglas explícitas, estas redes detectan patrones, aprendiendo mediante entrenamiento con grandes volúmenes de datos. Esta arquitectura se inspira en el modo en que opera el sistema nervioso humano, donde se refuerzan las conexiones sinápticas exitosas mediante procesos de potenciación e inhibición sináptica, replicando la lógica del aprendizaje por refuerzo. Para Minsky, un ordenador de 1990 disponía ya de potencia suficiente para emular una inteligencia humana, el problema era que no existía el programa o algoritmo adecuado. Kurzweil defendía la postura inversa. Para él, la inteligencia es proporcional a la capacidad de procesamiento. Ninguno de los dos pudo demostrar su tesis en aquel momento, Minsky no tenía el algoritmo, y Kurzweil no tenía computadoras con la potencia necesaria. Sin embargo, Kurweil piensa que el desarrollo reciente de tecnología refuerza su postura. Existen superordenadores que han superado la barrera del exaFLOP, alcanzando niveles de cómputo que serían del orden de 10.000 veces superiores a la velocidad de procesamiento del cerebro humano. Para Kurzweil, la parte no biológica de nuestro cerebro tendrá una capacidad de computación mucho mayor que la parte biológica.
Nuestro cuerpo biológico es subóptimo, pues es el producto de procesos aleatorios, determinados por circunstancias ambientales y azar durante la evolución de los organismos. La misma limitación estructural encontramos en el sistema nervioso, el cual impide un mayor procesamiento de la información. De la misma manera que la evolución de las especies ha ido añadiendo capas de procesamiento, desde estructuras subcorticales a las capas de la neocorteza, pueden añadirse capas de procesamiento de la información mediante hardware. Esto implica la expansión del sistema nervioso a unidades prostéticas, primero externas (ya nos apoyamos en ellas), pero finalmente internas. La nanotecnología culminará directamente en la expansión de nuestro cerebro, con capas de neuronas virtuales en la nube. En este momento nos fusionaremos completamente con la IA, expandiendo nuestra inteligencia y nuestra consciencia de una manera tan profunda, que es en realidad difícil de comprender. De la misma manera que un animal difícilmente puede comprender la información simbólica y metacognitiva que no está procesando, el ser humano tampoco puede comprender todos aquellos grados de posibilidad que no está procesando. Por tanto, para Kurzweil debemos cuestionar lo que es el ser humano y salir de una biología que nos limita, abriendo la puerta a una evolución dirigida mediante bioingeniería e inteligencia artificial. Esto implica que es posible explorar el rango de posibilidades genéticas no seleccionadas mediante procesos de bioingeniería, o incluso mediante simple computación de la consciencia, trascendiendo la propia estructura biológica de los cuerpos.
Fue el profesor de matemáticas John McCarthy quien propuso el término inteligencia artificial en 1956. Kurzweil predice que en la década de 2030 la IA no será algo externo con lo que interactuamos mediante una pantalla, sino que nos conectaremos directamente a ella, integrándose con nuestro cerebro mediante una experiencia inmersiva. Esto implica que la IA será progresivamente parte de nuestra actividad cerebral, de nuestra cognición y de nuestra experiencia sensorial. Con ello, será una extensión de nuestra mente y de nuestra consciencia, y por ello, de nuestra identidad. John von Neumann anticipó la idea de una "singularidad tecnológica" hacia 1960. La singularidad es el momento en que la inteligencia artificial superará a la inteligencia humana, automejorándose a una velocidad exponencial, transformando radicalmente la civilización, y poniendo fin a la era humana.
El primer problema de la identidad es que nos encontramos con la paradoja del barco de Teseo, que expusieron los griegos hace 2000 años. Si sustituimos una pieza de un barco, el barco ha cambiado, aunque también sigue siendo el mismo barco. De la misma manera, un río tiene agua completamente diferente en cada momento, pero consideramos que sigue siendo el mismo río. Del mismo modo, las personas no somos molecularmente iguales ni una décima de segundo de nuestra vida. Este sentido de la permanencia fue por esta razón visto por los budistas como un engaño de la mente. Del mismo modo, podríamos cambiar todas las piezas de un barco, y seguiría siendo el mismo barco. Lo mismo sucede con nuestro cerebro. Las neuronas persisten, aunque su maquinaria celular se renueva a cada momento, recambiándose mitocondrias, receptores, proteínas sinápticas, etc. Nuestro cerebro puede ser completamente nuevo cada pocos meses. Y sin embargo, el sentido de la consciencia permanece a pesar de que toda la maquinaria que la produce es diferente.
Habría dos aspectos diferentes a entender sobre la consciencia. El primero, es como una cualidad fundamental, algo que se tiene o no se tiene. En general asumimos que la materia inerte no tiene consciencia, mientras que los seres vivos la poseen. A partir de que un ser vivo tiene consciencia, se experimentarían diferentes grados de esa consciencia según el organismo. Muchas personas piensan que un insecto debe tener algún tipo de consciencia de experiencia en primera persona sobre su medio por rudimentaria que sea. Cierta sintiencia mínima. Algunos autores consideran que esto se extiende incluso a niveles microscópicos, o también a las plantas. Más aún, un número creciente de filósofos piensan que toda la materia que nos rodea en realidad puede tener algún grado de consciencia, y que la única diferencia es la complejidad de lo que esa agregación de materia procesa. Desde este punto de vista, incluso un átomo tendría un mínimo de consciencia de su existencia, aunque fuera residual.
Algunas personas creen en una visión completamente materialista, bajo la cual la consciencia es causada por procesos físicos, por la materia, con sus distintos niveles de complejidad. En el extremo opuesto, las visiones idealistas presuponen que solo existe la consciencia. La percepción de mundo material es algo que, podríamos decir, alucinamos (sería el argumento de la famosa saga Matrix). Las visiones dualistas entienden que la consciencia es algo completamente separado de la materia muerta, pudiendo encajar con una visión de alma, además de otras ideas vitalistas. El principal problema que plantea el dualismo es que no tenemos ninguna teoría para explicar cómo el alma supranatural afecta a la materia. El fisicalismo por su parte no permite explicar el hard problem de la consciencia, es decir, la existencia de la consciencia en primer lugar. Otras visiones, podríamos decir intermedias, sitúan la consciencia en un plano diferente a la materia. Algunos autores como Roger Penrose sitúan la consciencia en nivel cuántico. Otros creen que la consciencia es otra cosa diferente, completamente separada de los procesos físicos, algo que no emerge de procesos inferiores de la materia, sino que precede a la misma, siendo creada por Dios. Las visiones de tipo panteísta ven en todas las formas materiales la expresión de un Dios que se expresa en todo, formando partes integrantes de una consciencia absoluta que forma parte de todo. Para David Chalmers la consciencia no sería un fenómeno biológico sino más bien algo así como una fuerza fundamental del universo que la materia biológica procesa. Bajo esta idea, el panprotopsiquismo, la consciencia es algo que existe fuera de los organismos, y fuera de la física material. Los organismos vivos simplemente nos "conectamos" o interactuamos con ella desde un plano físico. La complejidad de la materia procesaría ese campo de la consciencia de formas distintas. Kurzweil es receptivo al marco de Chalmers. Esto supone que el tipo de materia realmente no tiene importancia, sea carbono de la biología o silicona de hardware, se produciría consciencia igualmente.
Volviendo al barco de Teseo, nuestro cerebro está formado por núcleos y redes neuronales, y éstos por neuronas funcionalmente activas a nivel individual. Las neuronas finalmente son aminoácidos, átomos, protones, electrones, etc. Por tanto, nada que no se pueda crear y reproducir físicamente. La percepción unitaria de la consciencia como persona también es algo intrigante. Parece que el cerebro está compuesto por subunidades de consciencia, y sabemos que pueden fragmentarse. Por tanto, la consciencia unificada en un único flujo es parte de un agregado de partes de consciencia. En estudios de mediante cirujía, es conocido que las personas pueden mostrar consciencias separadas con distintos intereses, y que se puede acceder a cada lóbulo cerebral por separado, mostrando gustos y opiniones diferentes. Los estudios de Gazzaniga son conocidos a este respecto. Por tanto la consciencia parece funcionar de manera no solo emergente en sentido unitario, sino mediante subprocesos con consciencia autónoma en cada nivel que se agregan formando niveles superiores de complejidad.
De forma contraria a la inercia determinista de gran parte de los científicos, Kurzweil piensa que los procesos básicos cerebrales dan lugar a procesos que no funcionan de manera linealmente reducible. Esto implica que podemos vivir en un mundo físico a partir de leyes fundamentales, a la vez que existe la libre voluntad. Wolfram propuso que sistemas extremadamente simples pueden generar comportamientos increíblemente complejos e impredecibles con ejemplos de autómatas celulares, desafiando las versiones reduccionistas del determinismo. Para Wolfram, la complejidad surge de programas deterministas, pero producen patrones complejos, por lo que el resultado es algo más allá del programa. Replicar la función cerebral no equivale a la capacidad de pre-computar sus estados futuros. Por tanto, un mundo determinista en sus procesos, con causación mecanicista, puede tener libre voluntad. Los procesos cerebrales no nos controlan, somos nosotros. Desde procesos básicos emergen a la consciencia con la que nos expresamos en el mundo mediante acciones. Sin embargo, la apertura causal produce cierto indeterminismo, que no supone necesariamente libre albedrío en sentido de agencia autónoma derivada de la autoconsciencia y la autorreflexividad. El hecho de que algo sea impredecible no supone que sea libre ni demuestra intencionalidad en sentido de experiencia subjetiva, por tanto, no resolvería el hard problem.
Para la década de 2040, Kurzweil piensa que habrá nanobots que penetrarán en el cerebro mediante los capilares sanguíneos con capacidad para realizar una copia de todos los datos. Entonces habrá una réplica completa de la mente de cada persona. Esto es un primer tipo de inmortalidad. Queda por resolver la cuestión de si es una réplica de la persona o la propia autoconsciencia con capacidad para ser exportada. Esto no solo expandirá nuestra capacidad cerebral exponencialmente, sino que supone el primer tipo de inmortalidad. Para Kurtzweil esto es liberarnos de nuestro cráneo. No solo nos afectaría a nosotros. Podríamos hacer que un animal expandiera su consciencia. En este supuesto, teóricamente seríamos capaces de hablar con nuestra mascota, porque su capacidad cognitiva sería expandida en la nube y su actividad neural transformada en lenguaje mediante software. También supone que podríamos controlar totalmente la conducta mediante la activación de patrones neuronales, algo que ya conocemos mediante experimentos de activación neuronal con optogenética en animales.
Copiar nuestra mente en dispositivos de backup será una protección contra cualquier accidente o enfermedad. Podríamos tener una réplica de una persona, progresivamente indistinguible de la misma. Sin embargo, estamos ante la problemática que se denomina zombie filosófico, la creación de una réplica sin consciencia en primera persona. Solo la réplica podría saber si tiene una consciencia al experimentarla en primera persona. El problema se plantea al no existir una manera científica de objetivar y demostrar externamente si esa réplica tiene o no tiene consciencia. No podemos demostrar si ese ser eso no es consciente tampoco podemos demostrarlo de un insecto por ejemplo, pese a que podemos manipular sus neuronas y cambiar su conducta. Pero no conocemos lo que está experimentando subjetivamente.
Para Kurzweil, esto es una razón para tratar a la inteligencia artificial como un ser consciente, aunque no podamos demostrarlo. Sería la manera correcta de obrar moralmente. El test de Turing no serviría únicamente para establecer capacidades cognitivas al nivel humano, sino que también sería una prueba de consciencia subjetiva y con ello, de derechos morales. Esto quizá implique derechos legales para la IA. No aborda Kurtzweil una cuestión que me resulta auto evidente: ¿y que sucede si el propio modelo computación dice que no es consciente? ¿Debemos actuar a priori como si tuviera consciencia, o debemos hacer caso de lo que nos dice?
Las simulaciones cerebrales se podrían resumir en cinco categorías: funcional, conectómico, celular molecular y cuántico. Las emulaciones funcionales procesarían la información tratando de simular la mente. Los modelos conectómicos replicarían las conexiones jerárquicas entre grupos de neuronas, emulando la actividad mental a nivel de estructura. El modelo celular replicaría el procesamiento de la información a nivel de células. El modelo bio-molecular replicaría el procesamiento de la información a nivel de su maquinaria celular interna. La fase más avanzada sería posiblemente la emulación cuántica que reproduciría el procesamiento a nivel subatómico, sin embargo, según Kurzweil, necesitaría una potencia que no se alcanzaría ni siquiera en este siglo. Hay autores que creen que la consciencia comienza precisamente en un nivel cuántico. Kurzweil piensa que la consciencia es independiente de la maquinaria que lo produce, y que el nivel cuántico no es en realidad necesario.
Un clásico de la propaganda médica y cientificista es confundir salud pública (o salud a secas) con medicina. Es de hecho uno de los grandes mitos fundacionales de nuestras sociedades occidentales, elemento central de los falsos esquemas de la población, y de la violencia racionalizante del sistema. Kurzweil da a entender que la mejoría en la esperanza de vida de la población se debe esencialmente a los avances médicos y farmacológicos. Esto es completamente falso, e ignorante. Pese a que ocupe un lugar mayoritario en la imaginación colectiva, la medicina solo ha contribuido a un porcentaje mínimo de la esperanza de vida.
https://www.annfammed.org/content/17/3/267
La esperanza de vida ha aumentado ante todo por la separación de agua de consumo y aguas sucias, la recogida de basuras, el alcantarillado y la limpieza general de las ciudades, la mejor alimentación, etc. Es más, la mayor parte de la ganancia en la esperanza de vida es anterior a 1950, mientras que la farmacología a la que se suele aludir es posterior a 1950. El propio epidemiólogo Archie Cochrane, uno de los padres de la medicina basada en la evidencia, mostró a finales de la década de 1960´s que no se produce la correlación positiva esperada entre la oferta de tratamiento médico de un pais y la esperanza de vida
https://jech.bmj.com/content/32/3/200
Por otro lado, la esperanza de vida no son los años que viven las personas adultas, sino que está determinada sobre todo por la mortalidad infantil. La enfermedad infecciosa infantil determina la mayor parte de la estadística de esperanza de vida de una sociedad. No obstante, las causas de la mortalidad infantil no son solo biológicas, y el neonaticidio e infanticidio ha sido común ante enfermedades, impedimentos, o circunstancias de vida difíciles. En nuestras sociedades desplazamos esto hacia cientos de miles de abortos, aumentando con ello las estadísticas de esperanza de vida. Aspectos reproductivos, lo que queramos clasificar como "muerte temprana" o "aborto", y otras decisiones respecto al nacimiento de personas con problemas severos, son una parte importante de las estadísticas de esperanza de vida. Incluso existe evidencia de que algunos sistemas manejan las propias decisiones reproductivas con el objetivo explícito de mejorar la apariencia estadística respecto a la mortalidad y esperanza de vida.
https://academic.oup.com/heapol/article/33/6/755/5035051
Adicionalmente, un porcentaje importante de la reducción de la mortalidad infantil se debe a la reducción de riesgos ambientales (por ejemplo trabajo infantil), y la reducción de muertes derivadas de violencia, no al tratamiento médico de enfermedades. La esperanza de vida también se ve influenciada al alargar la vida biológica de personas, sin que necesariamente se prolongue la vida funcional o siquiera la vida consciente. De hecho, superada la infancia, los adultos de muchas sociedades sin medicina tienen esperanzas de vida cercanas a la de muchos países desarrollados
https://onlinelibrary.wiley.com/doi/full/10.1111/obr.12785
Por otro lado, la mayoría de lo que hacemos en medicina y en los sistemas de salud a día de hoy no tiene evidencia, y algunos de los artículos más citados en epidemiología y metodología científica cuestionan la evidencia existente de la propia investigación en medicina
https://www.sciencedirect.com/science/article/abs/pii/S089543562200...
https://journals.plos.org/plosmedicine/article?id=10.1371/journal.p...
La medicina ha tenido un papel disminuyendo la mortalidad infantil, pero la mayor parte de la sociedad sobrevalora groseramente el papel de la medicina en la salud de la población, hasta un extremo irracional y mitológico. A veces pánico de masas. La mayor parte de la esperanza de vida no se debe a factores médicos, sino sobre todo ambientales y culturales, y reducir la esperanza de vida a la medicina como hace Kurzweil es erróneo e ignorante.
La misma lógica siguen Pinker y Kurzweil con las estadísticas de violencia y criminalidad, confundiendo la bajada de estadisticas de crimen con la bajada del crimen. Por ejemplo la ciberdelincuencia no para de subir exponencialmente, pero solo una parte decimal de los delitos son perseguidos, por lo que no computan en ninguna estadística de "crimen". El crimen se traslada de la calle a internet, donde aumenta la oportunidad con menor exposición. Si en algunos contextos disminuye la agresión física, también aumenta la agresión psicológica, el chantaje y la extorsión, y de hecho, la evidencia muestra que las consecuencias psicológicas son más traumáticas que las físicas. Esto es completamente ignorado por Kurzweil.
En algún momento del libro el autor menciona, sorprendidísimo, que quizás el COVID salió de un laboratorio. Han muerto posiblemente 20 o 30 millones de personas si computamos el exceso de mortalidad, que tampoco entran en las estadísticas de "crimenes", simplemente porque no se investiga a sus responsables y a quienes de manera coordinada han intentado taparlo. Sin embargo, lo llamamos "COVID" y no "crimen", y listo. Fuera de las estadísticas. Evidentemente occidente no se va a hacer un Nuremberg para investigarse a sí mismo. Sobre todo porque hay mucha gente poderosa implicada que evidentemente no va a investigarse. Mientras Pinker o Kurzweil celebran por todo lo alto estadísticas diseñadas para sacar los crímenes de la estadística de crimen. Muchas de las personas más peligrosas del mundo no computan en estadística alguna de crimen, pero forman parte de nuestras más selectas instituciones y corporaciones.
La misma falacia se aplica a nuestros intereses geoestratégicos y "operaciones militares", las cuales por supuesto no son "crímenes", ni lo computamos en nuestras estadísticas de "criminalidad". Las muertes indirectas por hambrunas, desplazamientos, enfermedades, o las estrategias de guerra más sofisticadas como la asfixia económica por supuesto tampoco son "crímenes" que poner en una gráfica à la Pinker-Kurzweil. En definitiva, existen toda clase de acciones violentas que producen daños pero que no computamos como "crímenes", porque las estructuras de poder y burocracias que realizan estas clasificaciones juegan a malabares conceptuales y estadísticos que autores como Kurzweil y Pinker reproducen con un amateurismo sociológico sonrojante.
Adicionalmente, el problema epistémico al que se enfrenta Kurzweil con su positivismo numérico es que nos conduce al hecho de que Corea del Norte es un gran modelo de sociedad pacífica, dado que es uno de los países con menos delincuencia del mundo si atendemos a las estadísticas de robos, asaltos, homicidios, etc. El hecho de que bajen ciertos números no implica que exista mayor bienestar o menor sufrimiento, o que incluso no sea la muestra de una sociedad sometida que no puede ni reaccionar a los abusos que sufre. El modelo de "paz" de Kurweil y Pinker confunde virtud moral y control social. Bajo la fachada de progreso numérico, Pinker y Kurzweil legitiman la distopía del tecno-panóptico de Bentham. La disminución de la violencia en occidente es paralela al aumento de la violencia institucional, algo que Kurzweil tampoco quiere mencionar. Millones de personas son privadas de libertad en cárceles de forma cotidiana, en su mayoría por delitos no violentos, algo que ha sido normalizado por la sociedad, sin que nadie haga preguntas por su razón de ser, y sin que exista evidencia sobre su efecto sobre el crimen a nivel individual ni social. En contra de lo que quieren afirmar Pinker y Kurzweil, la violencia no desaparece; se institucionaliza, se normaliza y se aparta de la vista. Esto no es una mejora de la sociedad, sino un cambio de estrategia del control social. Es la más pura definición de monopolio de la violencia del sociólogo Max Weber. Aún con todo, la violencia física sigue existiendo, dentro de los muros. Y vuelve a quedar fuera de la estadística de Pinker y Kurzweil. Adicionalmente, un porcentaje alto de la población reclusa tiene algún trastorno mental severo diagnosticado. Algún profesor de psiquiatría forense se ha preguntado de forma valiente si las cárceles no son en realidad los nuevos psiquiátricos. La destrucción del derecho para producir un progresivo positivismo legal autoritario escapa completamente a la consciencia de los autores.
El concepto de pobreza de Kurweil es igualmente numérico, economicista, sesgado y etnocéntrico. Se le olvida mencionar que el concepto de pobreza es ante todo relativo al ajuste sociocultural de la persona al grupo y al marco ecológico. Tampoco se atreve a mencionar que en realidad hoy hay mas esclavitud en términos absolutos que hace 500 años, algo espectacularmente censurado en todas partes. De manera nada sorprendente, Kurzweil afirma que la culpa del hambre en África se debe a no plantar organismos genéticamente modificados. La falacia de este argumento es que África solo necesita agricultura normal como tenemos en el resto del mundo, o simplemente que dejáramos de hacerles dumping económico con los alimentos. Aprovechar para meter los organismos genéticamente modificados con calzador es intentar aprovechar una situación de vulnerabilidad política de un continente, para transformar un problema político en un problema de organismos genéticamente modificados como un troyano. Esto además les haría dependientes de las oligarquías corporativas y tecnocráticas occidentales, que aumentarían su control sobre el continente a nivel político, económico y tecnológico. Se me hace difícil pensar que el razonamiento de Kurzweil sea ingenuo. Adicionalmente, supondría someter un continente a un experimento masivo que implica riesgos sistémicos y consecuencias impredecibles sobre la biosfera.
Es evidente que la tecnología progresa, pero este mismo progreso tecnológico supone que, por primera vez en la historia de la humanidad, una sola persona puede destruir el mundo entero con un laboratorio no muy caro. Los coches autónomos conducen solos, y ciertamente es algo fascinante. Pero no nos explica el bueno de Ray la amenaza evidente de todo esto. La automatización de los vehículos conlleva el control de todos ellos por parte del Estado. Ahora es el sistema central el que decide quien puede utilizar su coche y quien no, quizás porque no tiene su cartilla de inyecciones biomédicas al día, no tiene los puntos del carnet de ciudadano obediente, o porque hay una gripe fuerte ese invierno y encierran a todo el mundo por aquello de "la salud pública", "la ciencia", y el "bien común". Estamos normalizando el fin de la libertad, y el uso de las leyes de forma autoritaria. En su celebración de la democracia, Kurzweil omite la cuestión de si todo esto es siquiera compatible con cualquier concepto de democracia. El propio Pinker ha firmado en los últimos años un manifiesto contra la censura existente en las universidades, y la persecución y "cancelación". A su favor, ha criticado abiertamente el silenciamiento y persecución de profesores de salud pública contrarios a las políticas del COVID. Sin embargo, defiende contradictoriamente el mismo sistema que está produciendo estas dinámicas.
El aumento de la alfabetización entusiasma a Kurzweil. Se le olvida mencionar la aparente caída del cociente intelectual en occidente (efecto Flynn inverso), la caída de los hábitos de lectura, etc. Sin embargo, debemos preguntarnos para que sirve saber leer si vivimos en un sistema totalitario que controla toda la información al más puro estilo 1984. Increiblemente, Kurzweil habla de la "desinformación" durante el COVID. Pero no parece referirse a quienes han impuesto con censura y violencia una falsa historia sobre el COVID, sino a quienes correctamente sospecharon que lo que se estaba contando era opaco, manipulado o falso, y sabían que la mayoría de las medidas que se estaban tomando no tenían evidencia científica alguna. 1984: la mentira pasa a ser la verdad, y entonces la verdad pasa a ser la mentira. Yo mismo no puedo publicar cosas de las que tengo cientos de estudios científicos para demostrarlo, y solo puedo hacerlo en privado. Otros pueden mentir abiertamente y nunca se les censura.
Otro argumento usado por Kurzweil es el aumento del PIB en occidente. Se le olvida mencionar que gran parte de esa producción es de cosas superfluas, contrario al paradigma de eficiencia y ecología que luego intenta defender de forma frontalmente contradictoria. También debe explicar por qué, si la capacidad económica de las personas es progresivamente mayor, las personas antes lograban vivir de su propio ahorro, mientras que ahora tienen que vivir mediante endeudamiento. Debe explicar por qué aquellas personas de tiempos pasados con PIB per cápita inferior tenían la capacidad de pagar una vivienda en unos pocos años con su sueldo, y por qué las personas de hoy, que disfrutan de mayor PIB per cápita, crecientemente viven en casa de sus padres porque no pueden permitirse una vivienda. La economía nominal de los gráficos de Kurzweil no es la economía real de las personas. El PIB per cápita no muestra quien se beneficia de esa economía. Contrariamente, esos gráficos ocultan la creciente redistribución y concentración del capital hacia las oligarquías estatales y corporativas que han construido esquemas financieros, fiscales y legales que facilitan la extracción de valor de rentas y la dependencia de las personas hacia el sistema. Aunque las personas se hayan querido convencer de lo contrario.
Es fácilmente objetivable el hecho de que las tecnologías tienden a bajar de precio, dado que el mercado tiende a disminuirlos al mejorar la eficiencia de los procesos de producción. Kurzweil vuelve a exhibir su ingenuidad hablando de las casas prefabricadas baratas. Eso existe desde hace mucho, el problema del precio de la vivienda no está en la producción, sino en la política. El problema de la vivienda está lejos de ser el precio de los ladrillos o de los materiales de construcción que se quieran usar. El precio de la vivienda es fundamentalmente un esquema de extracción de rentas planificado que afectan al precio del suelo mediante ingeniería inflacionaria, los activos de base que sostienen los balances de los bancos, la emisión de crédito mediante reserva fraccionaria, y el coste de oportunidad recaudatorio. El sistema quien impide que las personas vivan barato, porque entonces dejaría de recibir sus cuotas. Para aumentar su poder sobre la sociedad, el sistema debe maximizar la extracción de rentas que obtiene de ésta. El Estado no va a permitir el abaratamiento de la vivienda, porque perdería su propio sistema de financiación. Contra la visión de Kurzweil, no es un problema de producción de vivienda, sino el sistema político con el que las oligarquías estatales y financieras extraen dinero de la sociedad de forma sistemática. El Estado no va a soltar sus mecanismos recaudatorios para dejar de autoengordarse y perder capacidad económica y poder sobre la sociedad. Evidentemente. La subida del precio del suelo es el pilar con el que se ha levantado nuestro sistema económico. No se me ocurre si la automatización completa de los procesos de producción puede suponer el fin de esta economía. El mercado clásico de personas intercambiando bienes y servicios desaparecerá progresivamente, por lo que la economía real se dirige a ser una mera abstracción centralizada de asignación crediticia social. Sin embargo, el Estado buscará una hipoteca simbólica que encadene a la persona. El estado no va a favorecer la autonomía de las personas, sino su dependencia. La casa prefabricada barata de Kurzweil vendrá con una hipoteca de crédito social, la presentación de la cartilla de productos biomédicos al día, etc.
La automatización acaba necesariamente en una renta básica, algo que sí menciona Kurzweil. Yo mismo suelo poner este ejemplo: pensemos en una comunidad pequeña en una isla. Cada miembro tiene como trabajo pescar 3 o 4 peces cada día, para satisfacer nuestra única necesidad en este entorno, que es disponer de alimento para comer. Un día, alguien inventa unas redes fijas que atrapan a los peces sin que nadie tenga que estar pendiente de ellas. Desde ese momento se interrumpe abruptamente el esquema de trabajo de nuestra pequeña comunidad. ¿Cual es el problema de quedarse sin trabajo?. Ninguno. Simplemente debe realizarse un acuerdo para repartir el pescado. Estamos ante la misma situación, pero a gran escala. La automatización del trabajo no supone ningún problema. La cuestión es como se va a repartir aquello que los procesos automatizados producen. No obstante, dado que la automatización afectará a los empleos de manera diferenciada y progresiva, la cuestión es como ir implementando el derecho a esa renta básica según el sector laboral y las circunstancias particulares de las personas. Quizás algunas personas cobren esa renta básica, y puede haber quien cobre una renta básica y además trabaje cobrando un sueldo extra. Guste o no, vamos a un sistema socializado. Por eso el sistema de pronto ha cambiado el discurso hacia ideas fuertemente estatalistas e intervencionistas para ir acostumbrando a las personas a un sistema autoritario. Las ideas antiglobalización de algunos de los políticos más importantes de la izquierda del último medio siglo, como Julio Anguita, han pasado a ser de "ultraderecha".
La automatización de los procesos productivos no debe confundirse con que el Estado de dinero gratis a la gente, que es lo que intentarán vender. La automatización ha sido posible gracias a quienes han pasado su vida trabajando, y de las empresas y tecnologías. Sin embargo, existe una amenaza grave. Esta situación supone aumentar la dependencia de las personas hacia el Estado. Implica una centralización absoluta, en la que el "crédito social" es la herramienta de legitimación política de la misma. Es la situación perfecta de control a la que aspira todo gobernante, la compra del voto mediante el chantaje de recibir una renta. Supone hacer de toda la sociedad una red clientelar que recibe una renta socializada, cambiando la soberanía y la libertad por una cuota de dinero. El Estado se interpone entre lo que se produce y las personas de forma estratégica, creando la ilusión de beneficiencia y una divina providencia laica. El fruto del esfuerzo social es apropiado y transformado en la ilusión de un favor político que el gobernante produce y otorga al gobernado. Esta idea es falsa, y produce una situación extremadamente peligrosa, y en realidad supone el fin de cualquier grado de "democracia" que pudiera existir. Se acabó.
Pinker y Kurzweil despachan con meros datos cuestiones que son mucho más complejas. Los números no son neutrales como tanta gente asume. La verdad está condenada ante la persuasión, de esto se dio cuenta ya Sócrates. Presentar ideas simples es más convincente que tener que dar toda clase de explicaciones. Por ello, vivimos en sociedades que son inevitablemente corruptas. Los números son persuasivos por su apariencia de racionalidad matematizante, pero a menudo, los números son utilizados para ocultar realidades que quitan la razón a esos números. Kurzweil se queja de los "sesgos cognitivos" de quienes no compramos los números de las casi 100 páginas dedicadas a este apartado. El bueno de Ray no ve su propia pila de sesgos (yo te los digo): falacia inductiva, sesgos de clasificación, presentismo, reduccionismo, economicismo, positivismo, confusión de lo nominal y lo real, etnocentrismo, autoconfirmación, historicismo, solucionismo tecnológico... y en definitiva, un amateurismo en salud pública, ciencia política y social en general poco disimulable. Por supuesto, son ideas complejas y debatibles, pero eso es precisamente lo que le falta en la obra, y de aquí la merecida crítica. Perdonaríamos a Ray si no hubiera dedicado un tercio entero de su libro a hacernos pasar por semejante ejercicio de amateurismo y superficialidad, más viniendo de alguien a quien se le presupone ser un portento intelectual que parece ser cobra entre 50.000 y 100.000 euros la charla.
Kurzweil reconoce que los psicofármacos funcionan pobremente, o no funcionan en absoluto, además de generar muchos problemas. Sin embargo, piensa que se pueden reparar los problemas de salud mental desde la base. Kurzweil solo piensa en procesos de abajo a arriba, sin entender bien que muchos "trastornos" son problemas de arriba a abajo. En otras palabras, ningún neurotransmisor ni proceso fisiológico puede hacer que una persona sienta que su vida está llena de propósito y trascendencia simplemente aumentando el tono hedónico u otro proceso simple. El resto es pensar en una ingeniería afectiva, que solo supondría la creación de un fantasma narcotizado, que ya no es una consciencia humana que vive una vida, sino un ente computerizado a nivel experiencial. Es problemático pensar que el sentido de la vida debe ser ir en una dirección de eficiencia. Entonces puedo poner una palanca con electrodos directamente a mi vía mesolimbica y activarla para autogratificarme sin tener que realizar experiencia vital alguna. Los estudios de Olds y Milner mostraban que este camino de eficiencia activando neuronas conducía a los animales experimentales a la reducción de su vida, hasta la muerte.
Dado que muchos de los patógenos que suponen una amenaza vienen de animales que comenzamos a domesticar hace apenas unos pocos miles de años, nuestro sistema inmune no ha evolucionado para combatirlos suficientemente. Kurzweil predice nanobots que destruirán todos los patógenos necesarios y repararán células una a una. Aunque antes de esto, es cierto que vamos hacia un sistema biomédico que hace cuestionable la necesidad de lo que hacen muchos médicos actualmente. Ya hay estudios comparando IA con médicos en la valoración de pruebas de imagen, etc. También se teoriza una traslación importante de ensayos clínicos a simulaciones in silico con poblaciones masivas.
Tampoco nos cuenta Kurzweil lo que va a suceder con la sexualidad, cuando tener un hijo, si es que puede llamarse así, sea cuestión de cultivar una célula dérmica en el laboratorio. Ya no hacen falta 2 personas. Es una producción de bioingeniería. Esto ya es prácticamente una realidad. El culto a la tecnología es la misma desaparición del ser humano a medida que crece la máquina. La ciencia ficción siempre ha salvado al hombre separándolo de la máquina, pero esto es ingenuo. No sabemos si quedará algo de ser humano después de todo esto. Es más, este proyecto transhumano y posthumano se está haciendo a espaldas de la población, que no tiene ni idea de donde va todo, ni se le ha invitado a participar de ello. Será eso que Pinker y Ray llaman "la democracia". Que las personas apenas puedan llegar a entenderlo, bien. Yo mismo he tenido alumnos que casi se me han puesto a llorar completamente confundidos.
No habla mucho de riesgos sistémicos Ray Kurzweil, algo que han desarrollado de forma más clara autores como Martin Rees. No obstante, Kurzweil siempre ha reconocido la existencia de riesgos que son potencialmente catastróficos para la existencia de la humanidad. Tanto la biotecnología, como la nanotecnología, o la inteligencia artificial, pueden conducir a nuestra extinción. Sea una pandemia devastadora de un virus de síntesis, sea una reacción en cadena de nanobots autorreplicantes. Se plantean muchos escenarios en los que nuestra supervivencia está en entredicho. No cuenta Ray que no estamos ante una carrera de emprendimiento para vender aplicaciones con filtros para entretener a la gente. El desarrollo de estas tecnologías forma parte de la más terrible escalada de tecnología militar de la historia de la humanidad. La carrera es el control social de la humanidad. Intentar ser el primero que rompe todas las encriptaciones de las telecomunicaciones, el primero en construir el ejército de robots más sofisticado, y el primero en monopolizar el control de todas las comunicaciones. Con ello, lograr el control de la consciencia de toda la humanidad, no en el sentido simbólico clásico, sino en sentido código, procesual y programático.
El cerebro biológico es para Kurzweil simplemente un accidente evolutivo. "No puedo reprogramarlo para liberarme de mis miedos, traumas y dudas que se que me están previniendo de alcanzar todo lo que me gustaría alcanzar". La paradoja de Moravec expone que lo que es difícil para los humanos, como hacer cálculos matemáticos complejos, es fácil para las máquinas, y contrariamente, aquello que es fácil para los humanos, lo que hacemos de manera automática e inconsciente como cualquier movimiento coordinado, es difícil para una máquina. Esto sucede porque el procesamiento de las acciones que tenemos automatizadas es fundamentalmente conexionista, programándose mediante selección darwiniana a lo largo de millones de años de nuestra evolución. La ciencia ficción siempre ha salvado al ser humano separando lo de la máquina, pero esto es ingenuo. Más bien debemos preguntarnos si quedará algo de humano tras la implantación progresiva en el organismo, o la réplica directa de nuestra mente exportada a hardware. En ambos casos, supone la desaparición de lo orgánico del organismo.
La existencia misma del universo tal como lo conocemos parece depender de una serie de condiciones increíblemente precisas, por ello improbables. Tan solo pequeñas variaciones en las constantes físicas fundamentales como la masa de los quarks, la carga del electrón, o la gravedad, habrían impedido la formación de átomos estables, de carbono, de moléculas complejas, y, por tanto, de las agrupaciones con distintos niveles de complejidad que conforman la vida. Lo mismo sucede con la fuerza nuclear fuerte, "quien sea que diseñó las reglas del universo creó esta fuerza adicional, o de otra manera, la evolución de los átomos habría sido imposible". El astrónomo Hugh Ross compara la probabilidad de un universo como el nuestro con la de que un tornado pasando por un vertedero dejara ensamblado un Boeing 747 listo para volar. La vida es posible, pero a partir de unas reglas del juego cósmico sorprendentemente precisas para ello. Esto lleva al principio antrópico: solo podemos observar un universo que sea en primer lugar compatible con nuestra existencia como observadores. Sin embargo, si asumimos que la realidad existe independientemente de nuestra percepción, no tenemos una explicación satisfactoria para ello. Para Kurzweil la etapa final es cuando toda la materia del universo sea transformada en “Computronium”, materia organizada con el propósito exclusivo de computar, expandiéndose por la galaxia. Todo será mente. El momento finalista de Kurzweil es una especie de panteismo tecno-spinozista. El desarrollo de la carrera espacial mediante nanobots diseminados por toda la galaxia fue recogido en su obra de 2005, y no es mencionada en su escrito más reciente. No obstante, muchas de sus predicciones concretas para estas dos décadas no se cumplieron.
Para Kurtzweil, el cerebro biológico está programado para destruir todos los patrones de información que son las personas. Una prolongación de la vida 1.0 ya es posible mediante una emulación de los contenidos de la consciencia. Puedo subir el medio centenar de comentarios críticos de obras filosóficas que tengo en la web, junto con las miles de páginas de mis capítulos de psicología y neurociencia, salud pública, otras cosas escritas de manera privada, etc. A partir de este contenido, una IA ya podría analizar mis líneas de pensamiento, y mantener una conversación como si fuera yo. Podría clonar mi voz y mi aspecto físico y reproducirme en una pantalla. Esto ya es una realidad. Posiblemente en los próximos años exista un humanoide progresivamente personalizable, hasta poder ser editado su aspecto con un tejido programable célula a célula. Una réplica completa de mi persona podría continuar existiendo de manera autónoma, aunque yo deje de existir. Falta por resolver la cuestión de la autoconsciencia. Yo no soy solo los contenidos de mi mente, sino sobre todo una percepción de mí mismo en primera persona. El hard problem hace referencia a esta cuestión de experiencia interna del self. Kurzweil cree que solo es necesaria computación, independientemente de estructura alguna. Pero otra posibilidad es que fuera necesaria alguna unidad básica en sentido neuroanatómico como protoself que expandir prostéticamente, o al menos una réplica estructural de algunos niveles de mi conectoma mediante biotecnología para que pueda emerger a partir de ellas el sentido del yo como ser vivo llamado Alfonso. Esto sería una prolongación de la vida 2.0 autoconsciente.
La vieja relación entre consciencia y materia sigue sin llegar a una explicación satisfactoria. Las categorías de espacio, tiempo, color, objeto, causalidad, necesitan una construcción perceptiva, no son simplemente “cosas dadas en sí mismas” como un realismo ingenuo expuesto por nuestros órganos sensoriales desnudos nos hacen sentir y creer. El cerebro no capta la realidad, sino que la produce. Está por ver en que grado y sobre que base. En cualquier caso, parece claro que nuestros sentidos han evolucionado para hacernos ver un fragmento de posibilidades de realidad, lo cual implica que el realismo materialista clásico es una visión falsa de la existencia. La materia no "es" en un sentido de primacía ontológica sobre el ser. Nuestro sistema nervioso ha dibujado una adaptación perceptual, una construcción metafórica, pero no tenemos un acceso ontológico a la realidad externa, tal como es, a través de nuestra mente. No vemos el mundo externo, vemos lo que produce nuestro cerebro. Esto es claro. Queda por resolver la vieja cuestión kantiana de si existe una "cosa en sí" fuera de la percepción del sistema nervioso, o si estamos ante una experiencia inmaterial más en la línea del idealismo de Berkeley. En palabras modernas, una simulación, y no un mundo material. Que vivimos cierto grado de simulación es claro, la cuestión es la base material o algorítmica de la misma. El motor primero aristotélico, el Dios cristiano, o el mecanismo primario. Sin embargo, efectivamente, llega el momento filosófico de poner en duda el carácter antropomórfico que forma la base de nuestra consciencia y de nuestra existencia. Estamos ante el fin del ser humano. Vamos hacia un ser humano hiperreal, sin forma. Consciencia en un soporte.
No sabemos qué es la vida ni cuál es el locus de la misma. Sabemos que la percepción a partir de nuestros sentidos, el realismo ingenuo que ven nuestros ojos, es solo una capa de realidad (o quizás mejor dicho, de experiencia consciente). Las religiones que pensaron que nuestros cuerpos son una especie de creación temporal o de avatar tuvieron un pensamiento sofisticado, aunque se quiera decir lo contrario. Contrariamente, algunos ven el fundamento de la vida un proceso material, y los organismos simplemente son una maquinaria proteica que tiene como misión transportar genes. Bajo modelos físicalistas, seríamos la consecuencia de una evolución atómica a nivel de partículas primitivas. Otros quieren retar frontalmente la termodinámica, para sustraer el algoritmo de pura información. Otras posiciones ven la vida directamente como un engaño de la consciencia. Independientemente del origen de las cosas, muchos ven claro que nos dirigimos a un proceso de digitalización de la consciencia. Una Matrix, una experiencia interoceptiva y exteroceptiva completamente programada. Una vida código vivida bajo personas avatar en mundos virtuales de diseño. ¿Resucitaremos pronto animales, o réplicas de los mismos, a lo Jurassic Park?
"Mi cerebro biológico evolucionó para un tipo muy diferente de vida prehistórica y me predispone a hábitos que no tendría". Ray Kurzweil.
MÁQUINAS PENSANTES Y SINGULARIDAD
La idea de máquinas pensantes está en la mitología griega, por ejemplo en el autómata de bronce de talos, sin embargo, fue en 1950 cuando el matemático británico Alan Turing publicó un artículo en Mind titulado "computing Machinery and Intelligence", en el que se preguntó si las máquinas podían pensar, proponiendo una manera de testarlo. En su obra "El año de las máquinas espirituales" en 1999, Kurzweil lanzó la predicción de que las máquinas podrían pasar el test de Turing en el año 2029, lo que supone la capacidad de dar respuestas indistinguibles a las que daría un ser humano. En este momento, no podríamos saber cuando estamos hablando con una máquina o con una persona. De hecho, la IA debe fingir que realiza cálculos de manera más lenta de lo que lo hace. Para Turing, la imitación exitosa de una máquina, suponía evidencia suficiente de su capacidad para pensar. No obstante, un chatbot avanzado podría pasar el test contestando mediante patrones de respuesta probabilísticos, sin que suponga una comprensión simbólica de lo que responde, por lo que sigue sin resolverse el problema de la inteligencia real de estos dispositivos, ni mucho menos el de la consciencia. El test de Turing mide imitación, no entendimiento, y menos aún experiencia subjetiva. Por tanto, el hecho de que una máquina lo supere no implica que esa máquina esté realizando una elaboración del proceso de razonamiento de las respuestas. Solo existe una imitación de patrones de respuesta humano. Una máquina puede contar un chiste, pero esto no supone que sea capaz de comprender el proceso que produce humor, ni por qué el chiste es gracioso aunque nos responda “jajaja”. Del mismo modo, puede dar respuestas complejas sin la comprensión de las mismas mediante un proceso cognitivo. No entienden una respuesta correcta, simplemente la reconocen y seleccionan.Marvin Minsky propuso dos maneras en las que podían computarse soluciones a problemas. La primera es una aproximación simbólica, basada en la formulación de reglas explícitas como estructuras del tipo if-then combinadas entre sí. Muchos programas informáticos tradicionales han operado con este tipo de lógica, pero es necesario identificar de antemano cuáles son las reglas óptimas para cada situación, por lo que presentan limitaciones. El enfoque conexionista, en cambio, utiliza redes de nodos interconectados que generan inteligencia a partir de su estructura, más que de un contenido predefinido. En lugar de aplicar reglas explícitas, estas redes detectan patrones, aprendiendo mediante entrenamiento con grandes volúmenes de datos. Esta arquitectura se inspira en el modo en que opera el sistema nervioso humano, donde se refuerzan las conexiones sinápticas exitosas mediante procesos de potenciación e inhibición sináptica, replicando la lógica del aprendizaje por refuerzo. Para Minsky, un ordenador de 1990 disponía ya de potencia suficiente para emular una inteligencia humana, el problema era que no existía el programa o algoritmo adecuado. Kurzweil defendía la postura inversa. Para él, la inteligencia es proporcional a la capacidad de procesamiento. Ninguno de los dos pudo demostrar su tesis en aquel momento, Minsky no tenía el algoritmo, y Kurzweil no tenía computadoras con la potencia necesaria. Sin embargo, Kurweil piensa que el desarrollo reciente de tecnología refuerza su postura. Existen superordenadores que han superado la barrera del exaFLOP, alcanzando niveles de cómputo que serían del orden de 10.000 veces superiores a la velocidad de procesamiento del cerebro humano. Para Kurzweil, la parte no biológica de nuestro cerebro tendrá una capacidad de computación mucho mayor que la parte biológica.
Nuestro cuerpo biológico es subóptimo, pues es el producto de procesos aleatorios, determinados por circunstancias ambientales y azar durante la evolución de los organismos. La misma limitación estructural encontramos en el sistema nervioso, el cual impide un mayor procesamiento de la información. De la misma manera que la evolución de las especies ha ido añadiendo capas de procesamiento, desde estructuras subcorticales a las capas de la neocorteza, pueden añadirse capas de procesamiento de la información mediante hardware. Esto implica la expansión del sistema nervioso a unidades prostéticas, primero externas (ya nos apoyamos en ellas), pero finalmente internas. La nanotecnología culminará directamente en la expansión de nuestro cerebro, con capas de neuronas virtuales en la nube. En este momento nos fusionaremos completamente con la IA, expandiendo nuestra inteligencia y nuestra consciencia de una manera tan profunda, que es en realidad difícil de comprender. De la misma manera que un animal difícilmente puede comprender la información simbólica y metacognitiva que no está procesando, el ser humano tampoco puede comprender todos aquellos grados de posibilidad que no está procesando. Por tanto, para Kurzweil debemos cuestionar lo que es el ser humano y salir de una biología que nos limita, abriendo la puerta a una evolución dirigida mediante bioingeniería e inteligencia artificial. Esto implica que es posible explorar el rango de posibilidades genéticas no seleccionadas mediante procesos de bioingeniería, o incluso mediante simple computación de la consciencia, trascendiendo la propia estructura biológica de los cuerpos.
Fue el profesor de matemáticas John McCarthy quien propuso el término inteligencia artificial en 1956. Kurzweil predice que en la década de 2030 la IA no será algo externo con lo que interactuamos mediante una pantalla, sino que nos conectaremos directamente a ella, integrándose con nuestro cerebro mediante una experiencia inmersiva. Esto implica que la IA será progresivamente parte de nuestra actividad cerebral, de nuestra cognición y de nuestra experiencia sensorial. Con ello, será una extensión de nuestra mente y de nuestra consciencia, y por ello, de nuestra identidad. John von Neumann anticipó la idea de una "singularidad tecnológica" hacia 1960. La singularidad es el momento en que la inteligencia artificial superará a la inteligencia humana, automejorándose a una velocidad exponencial, transformando radicalmente la civilización, y poniendo fin a la era humana.
CONSCIENCIA E IDENTIDAD
Kurzweil replantea radicalmente el significado de ser humano. No es la estructura biológica antropoide, algo accidental, sino básicamente la consciencia y la identidad. Somos seres humanos fundamentalmente por la percepción de una experiencia autobiográfica particular, ser humano significa ante todo ser el centro de nuestra experiencia. Con la res cogitans de Descartes como punto fijo, la res extensa puede construirse de la manera más eficiente con los grados de libertad que permitan las leyes de la física. Los filósofos de la consciencia llaman qualias a los contenidos de la experiencia consciente que experimentamos. Aquí se da un problema, para muchos irresoluble, y es que la consciencia solo puede experimentarse en primera persona, por lo que no se puede estudiar científicamente en tercera persona, es decir, desde la perspectiva empírica de la observación externa. Esto es lo que David Chalmers llamó el hard problem de la consciencia. La consciencia no es verificable, salvo por quien la experimenta, en primera persona.El primer problema de la identidad es que nos encontramos con la paradoja del barco de Teseo, que expusieron los griegos hace 2000 años. Si sustituimos una pieza de un barco, el barco ha cambiado, aunque también sigue siendo el mismo barco. De la misma manera, un río tiene agua completamente diferente en cada momento, pero consideramos que sigue siendo el mismo río. Del mismo modo, las personas no somos molecularmente iguales ni una décima de segundo de nuestra vida. Este sentido de la permanencia fue por esta razón visto por los budistas como un engaño de la mente. Del mismo modo, podríamos cambiar todas las piezas de un barco, y seguiría siendo el mismo barco. Lo mismo sucede con nuestro cerebro. Las neuronas persisten, aunque su maquinaria celular se renueva a cada momento, recambiándose mitocondrias, receptores, proteínas sinápticas, etc. Nuestro cerebro puede ser completamente nuevo cada pocos meses. Y sin embargo, el sentido de la consciencia permanece a pesar de que toda la maquinaria que la produce es diferente.
Habría dos aspectos diferentes a entender sobre la consciencia. El primero, es como una cualidad fundamental, algo que se tiene o no se tiene. En general asumimos que la materia inerte no tiene consciencia, mientras que los seres vivos la poseen. A partir de que un ser vivo tiene consciencia, se experimentarían diferentes grados de esa consciencia según el organismo. Muchas personas piensan que un insecto debe tener algún tipo de consciencia de experiencia en primera persona sobre su medio por rudimentaria que sea. Cierta sintiencia mínima. Algunos autores consideran que esto se extiende incluso a niveles microscópicos, o también a las plantas. Más aún, un número creciente de filósofos piensan que toda la materia que nos rodea en realidad puede tener algún grado de consciencia, y que la única diferencia es la complejidad de lo que esa agregación de materia procesa. Desde este punto de vista, incluso un átomo tendría un mínimo de consciencia de su existencia, aunque fuera residual.
Algunas personas creen en una visión completamente materialista, bajo la cual la consciencia es causada por procesos físicos, por la materia, con sus distintos niveles de complejidad. En el extremo opuesto, las visiones idealistas presuponen que solo existe la consciencia. La percepción de mundo material es algo que, podríamos decir, alucinamos (sería el argumento de la famosa saga Matrix). Las visiones dualistas entienden que la consciencia es algo completamente separado de la materia muerta, pudiendo encajar con una visión de alma, además de otras ideas vitalistas. El principal problema que plantea el dualismo es que no tenemos ninguna teoría para explicar cómo el alma supranatural afecta a la materia. El fisicalismo por su parte no permite explicar el hard problem de la consciencia, es decir, la existencia de la consciencia en primer lugar. Otras visiones, podríamos decir intermedias, sitúan la consciencia en un plano diferente a la materia. Algunos autores como Roger Penrose sitúan la consciencia en nivel cuántico. Otros creen que la consciencia es otra cosa diferente, completamente separada de los procesos físicos, algo que no emerge de procesos inferiores de la materia, sino que precede a la misma, siendo creada por Dios. Las visiones de tipo panteísta ven en todas las formas materiales la expresión de un Dios que se expresa en todo, formando partes integrantes de una consciencia absoluta que forma parte de todo. Para David Chalmers la consciencia no sería un fenómeno biológico sino más bien algo así como una fuerza fundamental del universo que la materia biológica procesa. Bajo esta idea, el panprotopsiquismo, la consciencia es algo que existe fuera de los organismos, y fuera de la física material. Los organismos vivos simplemente nos "conectamos" o interactuamos con ella desde un plano físico. La complejidad de la materia procesaría ese campo de la consciencia de formas distintas. Kurzweil es receptivo al marco de Chalmers. Esto supone que el tipo de materia realmente no tiene importancia, sea carbono de la biología o silicona de hardware, se produciría consciencia igualmente.
Volviendo al barco de Teseo, nuestro cerebro está formado por núcleos y redes neuronales, y éstos por neuronas funcionalmente activas a nivel individual. Las neuronas finalmente son aminoácidos, átomos, protones, electrones, etc. Por tanto, nada que no se pueda crear y reproducir físicamente. La percepción unitaria de la consciencia como persona también es algo intrigante. Parece que el cerebro está compuesto por subunidades de consciencia, y sabemos que pueden fragmentarse. Por tanto, la consciencia unificada en un único flujo es parte de un agregado de partes de consciencia. En estudios de mediante cirujía, es conocido que las personas pueden mostrar consciencias separadas con distintos intereses, y que se puede acceder a cada lóbulo cerebral por separado, mostrando gustos y opiniones diferentes. Los estudios de Gazzaniga son conocidos a este respecto. Por tanto la consciencia parece funcionar de manera no solo emergente en sentido unitario, sino mediante subprocesos con consciencia autónoma en cada nivel que se agregan formando niveles superiores de complejidad.
De forma contraria a la inercia determinista de gran parte de los científicos, Kurzweil piensa que los procesos básicos cerebrales dan lugar a procesos que no funcionan de manera linealmente reducible. Esto implica que podemos vivir en un mundo físico a partir de leyes fundamentales, a la vez que existe la libre voluntad. Wolfram propuso que sistemas extremadamente simples pueden generar comportamientos increíblemente complejos e impredecibles con ejemplos de autómatas celulares, desafiando las versiones reduccionistas del determinismo. Para Wolfram, la complejidad surge de programas deterministas, pero producen patrones complejos, por lo que el resultado es algo más allá del programa. Replicar la función cerebral no equivale a la capacidad de pre-computar sus estados futuros. Por tanto, un mundo determinista en sus procesos, con causación mecanicista, puede tener libre voluntad. Los procesos cerebrales no nos controlan, somos nosotros. Desde procesos básicos emergen a la consciencia con la que nos expresamos en el mundo mediante acciones. Sin embargo, la apertura causal produce cierto indeterminismo, que no supone necesariamente libre albedrío en sentido de agencia autónoma derivada de la autoconsciencia y la autorreflexividad. El hecho de que algo sea impredecible no supone que sea libre ni demuestra intencionalidad en sentido de experiencia subjetiva, por tanto, no resolvería el hard problem.
INTERFAZ CEREBRO IA
Los registros cerebrales son actualmente muy limitados, tanto a nivel de la resolución espacial de la electroencefalografía como de las limitaciones de resolución temporal de la neuroimagen funcional. Podemos hacer registros de neuronas, incluso a nivel individual, sin embargo, son técnicas invasivas que requieren hacer cirugía, y no están exentas de producir daños. No obstante, hay varias tecnologías en desarrollo. Se han realizado estudios con diccionarios de unos cuantos cientos de palabras, y se ha mostrado que se puede determinar la palabra que una persona piensa a partir de la actividad eléctrica cortical. No obstante, esto es un modelo simple con un grupo de palabras limitado, que no recoge la compleja sintaxis del lenguaje ordinario. Sin embargo, muestra que es posible decodificar los patrones de la actividad cerebral de manera predictiva. El neuralink de Elon Musk es uno de los proyectos más ambiciosos en este sentido. Se ha implantado el neura link a un mono, quien fue capaz de jugar al Pong en una pantalla con su pensamiento tras decodificar sus patrones neuronales a partir del movimiento de un joystick. Tras la aprobación de la FDA, se ha implantado el primer dispositivo en humanos con 1024 electrodos de registro. Se están intentando producir dispositivos que registran la actividad de 1 millón de neuronas. El proceso es bidireccional, también implica activar cientos de miles de neuronas. Se buscaría crear una capa cortical que hiciera de interface con una intranet, mediante sensores. Es posible que no se necesite mapear todo el cerebro, dada la gran cantidad de procesos inferiores que no son de interés para el procesamiento cognitivo, y los sistemas neuronales redundantes que pueden crearse más directamente de lo que la evolución ha creado el cerebro.Para la década de 2040, Kurzweil piensa que habrá nanobots que penetrarán en el cerebro mediante los capilares sanguíneos con capacidad para realizar una copia de todos los datos. Entonces habrá una réplica completa de la mente de cada persona. Esto es un primer tipo de inmortalidad. Queda por resolver la cuestión de si es una réplica de la persona o la propia autoconsciencia con capacidad para ser exportada. Esto no solo expandirá nuestra capacidad cerebral exponencialmente, sino que supone el primer tipo de inmortalidad. Para Kurtzweil esto es liberarnos de nuestro cráneo. No solo nos afectaría a nosotros. Podríamos hacer que un animal expandiera su consciencia. En este supuesto, teóricamente seríamos capaces de hablar con nuestra mascota, porque su capacidad cognitiva sería expandida en la nube y su actividad neural transformada en lenguaje mediante software. También supone que podríamos controlar totalmente la conducta mediante la activación de patrones neuronales, algo que ya conocemos mediante experimentos de activación neuronal con optogenética en animales.
Copiar nuestra mente en dispositivos de backup será una protección contra cualquier accidente o enfermedad. Podríamos tener una réplica de una persona, progresivamente indistinguible de la misma. Sin embargo, estamos ante la problemática que se denomina zombie filosófico, la creación de una réplica sin consciencia en primera persona. Solo la réplica podría saber si tiene una consciencia al experimentarla en primera persona. El problema se plantea al no existir una manera científica de objetivar y demostrar externamente si esa réplica tiene o no tiene consciencia. No podemos demostrar si ese ser eso no es consciente tampoco podemos demostrarlo de un insecto por ejemplo, pese a que podemos manipular sus neuronas y cambiar su conducta. Pero no conocemos lo que está experimentando subjetivamente.
Para Kurzweil, esto es una razón para tratar a la inteligencia artificial como un ser consciente, aunque no podamos demostrarlo. Sería la manera correcta de obrar moralmente. El test de Turing no serviría únicamente para establecer capacidades cognitivas al nivel humano, sino que también sería una prueba de consciencia subjetiva y con ello, de derechos morales. Esto quizá implique derechos legales para la IA. No aborda Kurtzweil una cuestión que me resulta auto evidente: ¿y que sucede si el propio modelo computación dice que no es consciente? ¿Debemos actuar a priori como si tuviera consciencia, o debemos hacer caso de lo que nos dice?
Las simulaciones cerebrales se podrían resumir en cinco categorías: funcional, conectómico, celular molecular y cuántico. Las emulaciones funcionales procesarían la información tratando de simular la mente. Los modelos conectómicos replicarían las conexiones jerárquicas entre grupos de neuronas, emulando la actividad mental a nivel de estructura. El modelo celular replicaría el procesamiento de la información a nivel de células. El modelo bio-molecular replicaría el procesamiento de la información a nivel de su maquinaria celular interna. La fase más avanzada sería posiblemente la emulación cuántica que reproduciría el procesamiento a nivel subatómico, sin embargo, según Kurzweil, necesitaría una potencia que no se alcanzaría ni siquiera en este siglo. Hay autores que creen que la consciencia comienza precisamente en un nivel cuántico. Kurzweil piensa que la consciencia es independiente de la maquinaria que lo produce, y que el nivel cuántico no es en realidad necesario.
"LA VIDA SE VUELVE EXPONENCIALMENTE MEJOR"
Kurzweil dedica un tercio del libro a exponer su idea de progreso y bienestar, siendo en buena parte un refrito de Pinker. Los argumentos oscilan entre el reduccionismo, la ignorancia y la frivolidad, por tanto este apartado es una crítica a sus puntos centrales.Un clásico de la propaganda médica y cientificista es confundir salud pública (o salud a secas) con medicina. Es de hecho uno de los grandes mitos fundacionales de nuestras sociedades occidentales, elemento central de los falsos esquemas de la población, y de la violencia racionalizante del sistema. Kurzweil da a entender que la mejoría en la esperanza de vida de la población se debe esencialmente a los avances médicos y farmacológicos. Esto es completamente falso, e ignorante. Pese a que ocupe un lugar mayoritario en la imaginación colectiva, la medicina solo ha contribuido a un porcentaje mínimo de la esperanza de vida.
https://www.annfammed.org/content/17/3/267
La esperanza de vida ha aumentado ante todo por la separación de agua de consumo y aguas sucias, la recogida de basuras, el alcantarillado y la limpieza general de las ciudades, la mejor alimentación, etc. Es más, la mayor parte de la ganancia en la esperanza de vida es anterior a 1950, mientras que la farmacología a la que se suele aludir es posterior a 1950. El propio epidemiólogo Archie Cochrane, uno de los padres de la medicina basada en la evidencia, mostró a finales de la década de 1960´s que no se produce la correlación positiva esperada entre la oferta de tratamiento médico de un pais y la esperanza de vida
https://jech.bmj.com/content/32/3/200
Por otro lado, la esperanza de vida no son los años que viven las personas adultas, sino que está determinada sobre todo por la mortalidad infantil. La enfermedad infecciosa infantil determina la mayor parte de la estadística de esperanza de vida de una sociedad. No obstante, las causas de la mortalidad infantil no son solo biológicas, y el neonaticidio e infanticidio ha sido común ante enfermedades, impedimentos, o circunstancias de vida difíciles. En nuestras sociedades desplazamos esto hacia cientos de miles de abortos, aumentando con ello las estadísticas de esperanza de vida. Aspectos reproductivos, lo que queramos clasificar como "muerte temprana" o "aborto", y otras decisiones respecto al nacimiento de personas con problemas severos, son una parte importante de las estadísticas de esperanza de vida. Incluso existe evidencia de que algunos sistemas manejan las propias decisiones reproductivas con el objetivo explícito de mejorar la apariencia estadística respecto a la mortalidad y esperanza de vida.
https://academic.oup.com/heapol/article/33/6/755/5035051
Adicionalmente, un porcentaje importante de la reducción de la mortalidad infantil se debe a la reducción de riesgos ambientales (por ejemplo trabajo infantil), y la reducción de muertes derivadas de violencia, no al tratamiento médico de enfermedades. La esperanza de vida también se ve influenciada al alargar la vida biológica de personas, sin que necesariamente se prolongue la vida funcional o siquiera la vida consciente. De hecho, superada la infancia, los adultos de muchas sociedades sin medicina tienen esperanzas de vida cercanas a la de muchos países desarrollados
https://onlinelibrary.wiley.com/doi/full/10.1111/obr.12785
Por otro lado, la mayoría de lo que hacemos en medicina y en los sistemas de salud a día de hoy no tiene evidencia, y algunos de los artículos más citados en epidemiología y metodología científica cuestionan la evidencia existente de la propia investigación en medicina
https://www.sciencedirect.com/science/article/abs/pii/S089543562200...
https://journals.plos.org/plosmedicine/article?id=10.1371/journal.p...
La medicina ha tenido un papel disminuyendo la mortalidad infantil, pero la mayor parte de la sociedad sobrevalora groseramente el papel de la medicina en la salud de la población, hasta un extremo irracional y mitológico. A veces pánico de masas. La mayor parte de la esperanza de vida no se debe a factores médicos, sino sobre todo ambientales y culturales, y reducir la esperanza de vida a la medicina como hace Kurzweil es erróneo e ignorante.
La misma lógica siguen Pinker y Kurzweil con las estadísticas de violencia y criminalidad, confundiendo la bajada de estadisticas de crimen con la bajada del crimen. Por ejemplo la ciberdelincuencia no para de subir exponencialmente, pero solo una parte decimal de los delitos son perseguidos, por lo que no computan en ninguna estadística de "crimen". El crimen se traslada de la calle a internet, donde aumenta la oportunidad con menor exposición. Si en algunos contextos disminuye la agresión física, también aumenta la agresión psicológica, el chantaje y la extorsión, y de hecho, la evidencia muestra que las consecuencias psicológicas son más traumáticas que las físicas. Esto es completamente ignorado por Kurzweil.
En algún momento del libro el autor menciona, sorprendidísimo, que quizás el COVID salió de un laboratorio. Han muerto posiblemente 20 o 30 millones de personas si computamos el exceso de mortalidad, que tampoco entran en las estadísticas de "crimenes", simplemente porque no se investiga a sus responsables y a quienes de manera coordinada han intentado taparlo. Sin embargo, lo llamamos "COVID" y no "crimen", y listo. Fuera de las estadísticas. Evidentemente occidente no se va a hacer un Nuremberg para investigarse a sí mismo. Sobre todo porque hay mucha gente poderosa implicada que evidentemente no va a investigarse. Mientras Pinker o Kurzweil celebran por todo lo alto estadísticas diseñadas para sacar los crímenes de la estadística de crimen. Muchas de las personas más peligrosas del mundo no computan en estadística alguna de crimen, pero forman parte de nuestras más selectas instituciones y corporaciones.
La misma falacia se aplica a nuestros intereses geoestratégicos y "operaciones militares", las cuales por supuesto no son "crímenes", ni lo computamos en nuestras estadísticas de "criminalidad". Las muertes indirectas por hambrunas, desplazamientos, enfermedades, o las estrategias de guerra más sofisticadas como la asfixia económica por supuesto tampoco son "crímenes" que poner en una gráfica à la Pinker-Kurzweil. En definitiva, existen toda clase de acciones violentas que producen daños pero que no computamos como "crímenes", porque las estructuras de poder y burocracias que realizan estas clasificaciones juegan a malabares conceptuales y estadísticos que autores como Kurzweil y Pinker reproducen con un amateurismo sociológico sonrojante.
Adicionalmente, el problema epistémico al que se enfrenta Kurzweil con su positivismo numérico es que nos conduce al hecho de que Corea del Norte es un gran modelo de sociedad pacífica, dado que es uno de los países con menos delincuencia del mundo si atendemos a las estadísticas de robos, asaltos, homicidios, etc. El hecho de que bajen ciertos números no implica que exista mayor bienestar o menor sufrimiento, o que incluso no sea la muestra de una sociedad sometida que no puede ni reaccionar a los abusos que sufre. El modelo de "paz" de Kurweil y Pinker confunde virtud moral y control social. Bajo la fachada de progreso numérico, Pinker y Kurzweil legitiman la distopía del tecno-panóptico de Bentham. La disminución de la violencia en occidente es paralela al aumento de la violencia institucional, algo que Kurzweil tampoco quiere mencionar. Millones de personas son privadas de libertad en cárceles de forma cotidiana, en su mayoría por delitos no violentos, algo que ha sido normalizado por la sociedad, sin que nadie haga preguntas por su razón de ser, y sin que exista evidencia sobre su efecto sobre el crimen a nivel individual ni social. En contra de lo que quieren afirmar Pinker y Kurzweil, la violencia no desaparece; se institucionaliza, se normaliza y se aparta de la vista. Esto no es una mejora de la sociedad, sino un cambio de estrategia del control social. Es la más pura definición de monopolio de la violencia del sociólogo Max Weber. Aún con todo, la violencia física sigue existiendo, dentro de los muros. Y vuelve a quedar fuera de la estadística de Pinker y Kurzweil. Adicionalmente, un porcentaje alto de la población reclusa tiene algún trastorno mental severo diagnosticado. Algún profesor de psiquiatría forense se ha preguntado de forma valiente si las cárceles no son en realidad los nuevos psiquiátricos. La destrucción del derecho para producir un progresivo positivismo legal autoritario escapa completamente a la consciencia de los autores.
El concepto de pobreza de Kurweil es igualmente numérico, economicista, sesgado y etnocéntrico. Se le olvida mencionar que el concepto de pobreza es ante todo relativo al ajuste sociocultural de la persona al grupo y al marco ecológico. Tampoco se atreve a mencionar que en realidad hoy hay mas esclavitud en términos absolutos que hace 500 años, algo espectacularmente censurado en todas partes. De manera nada sorprendente, Kurzweil afirma que la culpa del hambre en África se debe a no plantar organismos genéticamente modificados. La falacia de este argumento es que África solo necesita agricultura normal como tenemos en el resto del mundo, o simplemente que dejáramos de hacerles dumping económico con los alimentos. Aprovechar para meter los organismos genéticamente modificados con calzador es intentar aprovechar una situación de vulnerabilidad política de un continente, para transformar un problema político en un problema de organismos genéticamente modificados como un troyano. Esto además les haría dependientes de las oligarquías corporativas y tecnocráticas occidentales, que aumentarían su control sobre el continente a nivel político, económico y tecnológico. Se me hace difícil pensar que el razonamiento de Kurzweil sea ingenuo. Adicionalmente, supondría someter un continente a un experimento masivo que implica riesgos sistémicos y consecuencias impredecibles sobre la biosfera.
Es evidente que la tecnología progresa, pero este mismo progreso tecnológico supone que, por primera vez en la historia de la humanidad, una sola persona puede destruir el mundo entero con un laboratorio no muy caro. Los coches autónomos conducen solos, y ciertamente es algo fascinante. Pero no nos explica el bueno de Ray la amenaza evidente de todo esto. La automatización de los vehículos conlleva el control de todos ellos por parte del Estado. Ahora es el sistema central el que decide quien puede utilizar su coche y quien no, quizás porque no tiene su cartilla de inyecciones biomédicas al día, no tiene los puntos del carnet de ciudadano obediente, o porque hay una gripe fuerte ese invierno y encierran a todo el mundo por aquello de "la salud pública", "la ciencia", y el "bien común". Estamos normalizando el fin de la libertad, y el uso de las leyes de forma autoritaria. En su celebración de la democracia, Kurzweil omite la cuestión de si todo esto es siquiera compatible con cualquier concepto de democracia. El propio Pinker ha firmado en los últimos años un manifiesto contra la censura existente en las universidades, y la persecución y "cancelación". A su favor, ha criticado abiertamente el silenciamiento y persecución de profesores de salud pública contrarios a las políticas del COVID. Sin embargo, defiende contradictoriamente el mismo sistema que está produciendo estas dinámicas.
El aumento de la alfabetización entusiasma a Kurzweil. Se le olvida mencionar la aparente caída del cociente intelectual en occidente (efecto Flynn inverso), la caída de los hábitos de lectura, etc. Sin embargo, debemos preguntarnos para que sirve saber leer si vivimos en un sistema totalitario que controla toda la información al más puro estilo 1984. Increiblemente, Kurzweil habla de la "desinformación" durante el COVID. Pero no parece referirse a quienes han impuesto con censura y violencia una falsa historia sobre el COVID, sino a quienes correctamente sospecharon que lo que se estaba contando era opaco, manipulado o falso, y sabían que la mayoría de las medidas que se estaban tomando no tenían evidencia científica alguna. 1984: la mentira pasa a ser la verdad, y entonces la verdad pasa a ser la mentira. Yo mismo no puedo publicar cosas de las que tengo cientos de estudios científicos para demostrarlo, y solo puedo hacerlo en privado. Otros pueden mentir abiertamente y nunca se les censura.
Otro argumento usado por Kurzweil es el aumento del PIB en occidente. Se le olvida mencionar que gran parte de esa producción es de cosas superfluas, contrario al paradigma de eficiencia y ecología que luego intenta defender de forma frontalmente contradictoria. También debe explicar por qué, si la capacidad económica de las personas es progresivamente mayor, las personas antes lograban vivir de su propio ahorro, mientras que ahora tienen que vivir mediante endeudamiento. Debe explicar por qué aquellas personas de tiempos pasados con PIB per cápita inferior tenían la capacidad de pagar una vivienda en unos pocos años con su sueldo, y por qué las personas de hoy, que disfrutan de mayor PIB per cápita, crecientemente viven en casa de sus padres porque no pueden permitirse una vivienda. La economía nominal de los gráficos de Kurzweil no es la economía real de las personas. El PIB per cápita no muestra quien se beneficia de esa economía. Contrariamente, esos gráficos ocultan la creciente redistribución y concentración del capital hacia las oligarquías estatales y corporativas que han construido esquemas financieros, fiscales y legales que facilitan la extracción de valor de rentas y la dependencia de las personas hacia el sistema. Aunque las personas se hayan querido convencer de lo contrario.
Es fácilmente objetivable el hecho de que las tecnologías tienden a bajar de precio, dado que el mercado tiende a disminuirlos al mejorar la eficiencia de los procesos de producción. Kurzweil vuelve a exhibir su ingenuidad hablando de las casas prefabricadas baratas. Eso existe desde hace mucho, el problema del precio de la vivienda no está en la producción, sino en la política. El problema de la vivienda está lejos de ser el precio de los ladrillos o de los materiales de construcción que se quieran usar. El precio de la vivienda es fundamentalmente un esquema de extracción de rentas planificado que afectan al precio del suelo mediante ingeniería inflacionaria, los activos de base que sostienen los balances de los bancos, la emisión de crédito mediante reserva fraccionaria, y el coste de oportunidad recaudatorio. El sistema quien impide que las personas vivan barato, porque entonces dejaría de recibir sus cuotas. Para aumentar su poder sobre la sociedad, el sistema debe maximizar la extracción de rentas que obtiene de ésta. El Estado no va a permitir el abaratamiento de la vivienda, porque perdería su propio sistema de financiación. Contra la visión de Kurzweil, no es un problema de producción de vivienda, sino el sistema político con el que las oligarquías estatales y financieras extraen dinero de la sociedad de forma sistemática. El Estado no va a soltar sus mecanismos recaudatorios para dejar de autoengordarse y perder capacidad económica y poder sobre la sociedad. Evidentemente. La subida del precio del suelo es el pilar con el que se ha levantado nuestro sistema económico. No se me ocurre si la automatización completa de los procesos de producción puede suponer el fin de esta economía. El mercado clásico de personas intercambiando bienes y servicios desaparecerá progresivamente, por lo que la economía real se dirige a ser una mera abstracción centralizada de asignación crediticia social. Sin embargo, el Estado buscará una hipoteca simbólica que encadene a la persona. El estado no va a favorecer la autonomía de las personas, sino su dependencia. La casa prefabricada barata de Kurzweil vendrá con una hipoteca de crédito social, la presentación de la cartilla de productos biomédicos al día, etc.
La automatización acaba necesariamente en una renta básica, algo que sí menciona Kurzweil. Yo mismo suelo poner este ejemplo: pensemos en una comunidad pequeña en una isla. Cada miembro tiene como trabajo pescar 3 o 4 peces cada día, para satisfacer nuestra única necesidad en este entorno, que es disponer de alimento para comer. Un día, alguien inventa unas redes fijas que atrapan a los peces sin que nadie tenga que estar pendiente de ellas. Desde ese momento se interrumpe abruptamente el esquema de trabajo de nuestra pequeña comunidad. ¿Cual es el problema de quedarse sin trabajo?. Ninguno. Simplemente debe realizarse un acuerdo para repartir el pescado. Estamos ante la misma situación, pero a gran escala. La automatización del trabajo no supone ningún problema. La cuestión es como se va a repartir aquello que los procesos automatizados producen. No obstante, dado que la automatización afectará a los empleos de manera diferenciada y progresiva, la cuestión es como ir implementando el derecho a esa renta básica según el sector laboral y las circunstancias particulares de las personas. Quizás algunas personas cobren esa renta básica, y puede haber quien cobre una renta básica y además trabaje cobrando un sueldo extra. Guste o no, vamos a un sistema socializado. Por eso el sistema de pronto ha cambiado el discurso hacia ideas fuertemente estatalistas e intervencionistas para ir acostumbrando a las personas a un sistema autoritario. Las ideas antiglobalización de algunos de los políticos más importantes de la izquierda del último medio siglo, como Julio Anguita, han pasado a ser de "ultraderecha".
La automatización de los procesos productivos no debe confundirse con que el Estado de dinero gratis a la gente, que es lo que intentarán vender. La automatización ha sido posible gracias a quienes han pasado su vida trabajando, y de las empresas y tecnologías. Sin embargo, existe una amenaza grave. Esta situación supone aumentar la dependencia de las personas hacia el Estado. Implica una centralización absoluta, en la que el "crédito social" es la herramienta de legitimación política de la misma. Es la situación perfecta de control a la que aspira todo gobernante, la compra del voto mediante el chantaje de recibir una renta. Supone hacer de toda la sociedad una red clientelar que recibe una renta socializada, cambiando la soberanía y la libertad por una cuota de dinero. El Estado se interpone entre lo que se produce y las personas de forma estratégica, creando la ilusión de beneficiencia y una divina providencia laica. El fruto del esfuerzo social es apropiado y transformado en la ilusión de un favor político que el gobernante produce y otorga al gobernado. Esta idea es falsa, y produce una situación extremadamente peligrosa, y en realidad supone el fin de cualquier grado de "democracia" que pudiera existir. Se acabó.
Pinker y Kurzweil despachan con meros datos cuestiones que son mucho más complejas. Los números no son neutrales como tanta gente asume. La verdad está condenada ante la persuasión, de esto se dio cuenta ya Sócrates. Presentar ideas simples es más convincente que tener que dar toda clase de explicaciones. Por ello, vivimos en sociedades que son inevitablemente corruptas. Los números son persuasivos por su apariencia de racionalidad matematizante, pero a menudo, los números son utilizados para ocultar realidades que quitan la razón a esos números. Kurzweil se queja de los "sesgos cognitivos" de quienes no compramos los números de las casi 100 páginas dedicadas a este apartado. El bueno de Ray no ve su propia pila de sesgos (yo te los digo): falacia inductiva, sesgos de clasificación, presentismo, reduccionismo, economicismo, positivismo, confusión de lo nominal y lo real, etnocentrismo, autoconfirmación, historicismo, solucionismo tecnológico... y en definitiva, un amateurismo en salud pública, ciencia política y social en general poco disimulable. Por supuesto, son ideas complejas y debatibles, pero eso es precisamente lo que le falta en la obra, y de aquí la merecida crítica. Perdonaríamos a Ray si no hubiera dedicado un tercio entero de su libro a hacernos pasar por semejante ejercicio de amateurismo y superficialidad, más viniendo de alguien a quien se le presupone ser un portento intelectual que parece ser cobra entre 50.000 y 100.000 euros la charla.
MEDICINA Y POSTHUMANISMO
Las líneas futuristas de la salud de Kurzweil fueron mejor expuestas en su obra de 2005 "La singularidad está cerca". El ser humano no necesita un corazón que se estropea y consume calorías para oxigenar tejidos. Ray piensa que se pueden oxigenar directamente los tejidos, por lo que el futuro es prescindir del corazón. Lo mismo sucedería con el resto de órganos. Esto nos haría energéticamente eficientes, ya que los alimentos que comemos van destinados básicamente a la actividad ineficiente de todos los órganos de nuestro cuerpo. Esto sin embargo no aparece en esta obra. Sin embargo, es claro que Ray nos quiere convertir en un replicante, un fantasma sin órganos. Seguramente Kurzweil me respondería que se puede crear una simulación interoceptiva de aquellos aspectos relacionados con la corteza parietal e insular, y los aspectos interoceptivos de la percepción del cuerpo. Pero yo pienso en el hombre de hojalata que anhelaba un corazón para poder sentirse vivo en El mago de Oz.Kurzweil reconoce que los psicofármacos funcionan pobremente, o no funcionan en absoluto, además de generar muchos problemas. Sin embargo, piensa que se pueden reparar los problemas de salud mental desde la base. Kurzweil solo piensa en procesos de abajo a arriba, sin entender bien que muchos "trastornos" son problemas de arriba a abajo. En otras palabras, ningún neurotransmisor ni proceso fisiológico puede hacer que una persona sienta que su vida está llena de propósito y trascendencia simplemente aumentando el tono hedónico u otro proceso simple. El resto es pensar en una ingeniería afectiva, que solo supondría la creación de un fantasma narcotizado, que ya no es una consciencia humana que vive una vida, sino un ente computerizado a nivel experiencial. Es problemático pensar que el sentido de la vida debe ser ir en una dirección de eficiencia. Entonces puedo poner una palanca con electrodos directamente a mi vía mesolimbica y activarla para autogratificarme sin tener que realizar experiencia vital alguna. Los estudios de Olds y Milner mostraban que este camino de eficiencia activando neuronas conducía a los animales experimentales a la reducción de su vida, hasta la muerte.
Dado que muchos de los patógenos que suponen una amenaza vienen de animales que comenzamos a domesticar hace apenas unos pocos miles de años, nuestro sistema inmune no ha evolucionado para combatirlos suficientemente. Kurzweil predice nanobots que destruirán todos los patógenos necesarios y repararán células una a una. Aunque antes de esto, es cierto que vamos hacia un sistema biomédico que hace cuestionable la necesidad de lo que hacen muchos médicos actualmente. Ya hay estudios comparando IA con médicos en la valoración de pruebas de imagen, etc. También se teoriza una traslación importante de ensayos clínicos a simulaciones in silico con poblaciones masivas.
Tampoco nos cuenta Kurzweil lo que va a suceder con la sexualidad, cuando tener un hijo, si es que puede llamarse así, sea cuestión de cultivar una célula dérmica en el laboratorio. Ya no hacen falta 2 personas. Es una producción de bioingeniería. Esto ya es prácticamente una realidad. El culto a la tecnología es la misma desaparición del ser humano a medida que crece la máquina. La ciencia ficción siempre ha salvado al hombre separándolo de la máquina, pero esto es ingenuo. No sabemos si quedará algo de ser humano después de todo esto. Es más, este proyecto transhumano y posthumano se está haciendo a espaldas de la población, que no tiene ni idea de donde va todo, ni se le ha invitado a participar de ello. Será eso que Pinker y Ray llaman "la democracia". Que las personas apenas puedan llegar a entenderlo, bien. Yo mismo he tenido alumnos que casi se me han puesto a llorar completamente confundidos.
COMENTARIOS FINALES
El evangelio tecnoracionalista de Kurzweil ve la evolución técnica el motor del conocimiento y el destino de la vida como una inevitabilidad, y no como una opción política que se ha querido llevar a cabo. Es evidente que para Kurzweil la tecnología es más importante que la libertad o la autonomía, o que la propia vida humana en sentido natural. Para Kurzweil, la sociedad debe guiarse por la tecnología. Es algo que en realidad ya está sucediendo. Vamos en el Titanic, sacando pecho con la hybris de la ideología científico-tecnocrática. Ya veremos si no son aquellos indios de los que hablaba Pierre Clastres quienes ríen los últimos.No habla mucho de riesgos sistémicos Ray Kurzweil, algo que han desarrollado de forma más clara autores como Martin Rees. No obstante, Kurzweil siempre ha reconocido la existencia de riesgos que son potencialmente catastróficos para la existencia de la humanidad. Tanto la biotecnología, como la nanotecnología, o la inteligencia artificial, pueden conducir a nuestra extinción. Sea una pandemia devastadora de un virus de síntesis, sea una reacción en cadena de nanobots autorreplicantes. Se plantean muchos escenarios en los que nuestra supervivencia está en entredicho. No cuenta Ray que no estamos ante una carrera de emprendimiento para vender aplicaciones con filtros para entretener a la gente. El desarrollo de estas tecnologías forma parte de la más terrible escalada de tecnología militar de la historia de la humanidad. La carrera es el control social de la humanidad. Intentar ser el primero que rompe todas las encriptaciones de las telecomunicaciones, el primero en construir el ejército de robots más sofisticado, y el primero en monopolizar el control de todas las comunicaciones. Con ello, lograr el control de la consciencia de toda la humanidad, no en el sentido simbólico clásico, sino en sentido código, procesual y programático.
El cerebro biológico es para Kurzweil simplemente un accidente evolutivo. "No puedo reprogramarlo para liberarme de mis miedos, traumas y dudas que se que me están previniendo de alcanzar todo lo que me gustaría alcanzar". La paradoja de Moravec expone que lo que es difícil para los humanos, como hacer cálculos matemáticos complejos, es fácil para las máquinas, y contrariamente, aquello que es fácil para los humanos, lo que hacemos de manera automática e inconsciente como cualquier movimiento coordinado, es difícil para una máquina. Esto sucede porque el procesamiento de las acciones que tenemos automatizadas es fundamentalmente conexionista, programándose mediante selección darwiniana a lo largo de millones de años de nuestra evolución. La ciencia ficción siempre ha salvado al ser humano separando lo de la máquina, pero esto es ingenuo. Más bien debemos preguntarnos si quedará algo de humano tras la implantación progresiva en el organismo, o la réplica directa de nuestra mente exportada a hardware. En ambos casos, supone la desaparición de lo orgánico del organismo.
La existencia misma del universo tal como lo conocemos parece depender de una serie de condiciones increíblemente precisas, por ello improbables. Tan solo pequeñas variaciones en las constantes físicas fundamentales como la masa de los quarks, la carga del electrón, o la gravedad, habrían impedido la formación de átomos estables, de carbono, de moléculas complejas, y, por tanto, de las agrupaciones con distintos niveles de complejidad que conforman la vida. Lo mismo sucede con la fuerza nuclear fuerte, "quien sea que diseñó las reglas del universo creó esta fuerza adicional, o de otra manera, la evolución de los átomos habría sido imposible". El astrónomo Hugh Ross compara la probabilidad de un universo como el nuestro con la de que un tornado pasando por un vertedero dejara ensamblado un Boeing 747 listo para volar. La vida es posible, pero a partir de unas reglas del juego cósmico sorprendentemente precisas para ello. Esto lleva al principio antrópico: solo podemos observar un universo que sea en primer lugar compatible con nuestra existencia como observadores. Sin embargo, si asumimos que la realidad existe independientemente de nuestra percepción, no tenemos una explicación satisfactoria para ello. Para Kurzweil la etapa final es cuando toda la materia del universo sea transformada en “Computronium”, materia organizada con el propósito exclusivo de computar, expandiéndose por la galaxia. Todo será mente. El momento finalista de Kurzweil es una especie de panteismo tecno-spinozista. El desarrollo de la carrera espacial mediante nanobots diseminados por toda la galaxia fue recogido en su obra de 2005, y no es mencionada en su escrito más reciente. No obstante, muchas de sus predicciones concretas para estas dos décadas no se cumplieron.
Para Kurtzweil, el cerebro biológico está programado para destruir todos los patrones de información que son las personas. Una prolongación de la vida 1.0 ya es posible mediante una emulación de los contenidos de la consciencia. Puedo subir el medio centenar de comentarios críticos de obras filosóficas que tengo en la web, junto con las miles de páginas de mis capítulos de psicología y neurociencia, salud pública, otras cosas escritas de manera privada, etc. A partir de este contenido, una IA ya podría analizar mis líneas de pensamiento, y mantener una conversación como si fuera yo. Podría clonar mi voz y mi aspecto físico y reproducirme en una pantalla. Esto ya es una realidad. Posiblemente en los próximos años exista un humanoide progresivamente personalizable, hasta poder ser editado su aspecto con un tejido programable célula a célula. Una réplica completa de mi persona podría continuar existiendo de manera autónoma, aunque yo deje de existir. Falta por resolver la cuestión de la autoconsciencia. Yo no soy solo los contenidos de mi mente, sino sobre todo una percepción de mí mismo en primera persona. El hard problem hace referencia a esta cuestión de experiencia interna del self. Kurzweil cree que solo es necesaria computación, independientemente de estructura alguna. Pero otra posibilidad es que fuera necesaria alguna unidad básica en sentido neuroanatómico como protoself que expandir prostéticamente, o al menos una réplica estructural de algunos niveles de mi conectoma mediante biotecnología para que pueda emerger a partir de ellas el sentido del yo como ser vivo llamado Alfonso. Esto sería una prolongación de la vida 2.0 autoconsciente.
La vieja relación entre consciencia y materia sigue sin llegar a una explicación satisfactoria. Las categorías de espacio, tiempo, color, objeto, causalidad, necesitan una construcción perceptiva, no son simplemente “cosas dadas en sí mismas” como un realismo ingenuo expuesto por nuestros órganos sensoriales desnudos nos hacen sentir y creer. El cerebro no capta la realidad, sino que la produce. Está por ver en que grado y sobre que base. En cualquier caso, parece claro que nuestros sentidos han evolucionado para hacernos ver un fragmento de posibilidades de realidad, lo cual implica que el realismo materialista clásico es una visión falsa de la existencia. La materia no "es" en un sentido de primacía ontológica sobre el ser. Nuestro sistema nervioso ha dibujado una adaptación perceptual, una construcción metafórica, pero no tenemos un acceso ontológico a la realidad externa, tal como es, a través de nuestra mente. No vemos el mundo externo, vemos lo que produce nuestro cerebro. Esto es claro. Queda por resolver la vieja cuestión kantiana de si existe una "cosa en sí" fuera de la percepción del sistema nervioso, o si estamos ante una experiencia inmaterial más en la línea del idealismo de Berkeley. En palabras modernas, una simulación, y no un mundo material. Que vivimos cierto grado de simulación es claro, la cuestión es la base material o algorítmica de la misma. El motor primero aristotélico, el Dios cristiano, o el mecanismo primario. Sin embargo, efectivamente, llega el momento filosófico de poner en duda el carácter antropomórfico que forma la base de nuestra consciencia y de nuestra existencia. Estamos ante el fin del ser humano. Vamos hacia un ser humano hiperreal, sin forma. Consciencia en un soporte.
No sabemos qué es la vida ni cuál es el locus de la misma. Sabemos que la percepción a partir de nuestros sentidos, el realismo ingenuo que ven nuestros ojos, es solo una capa de realidad (o quizás mejor dicho, de experiencia consciente). Las religiones que pensaron que nuestros cuerpos son una especie de creación temporal o de avatar tuvieron un pensamiento sofisticado, aunque se quiera decir lo contrario. Contrariamente, algunos ven el fundamento de la vida un proceso material, y los organismos simplemente son una maquinaria proteica que tiene como misión transportar genes. Bajo modelos físicalistas, seríamos la consecuencia de una evolución atómica a nivel de partículas primitivas. Otros quieren retar frontalmente la termodinámica, para sustraer el algoritmo de pura información. Otras posiciones ven la vida directamente como un engaño de la consciencia. Independientemente del origen de las cosas, muchos ven claro que nos dirigimos a un proceso de digitalización de la consciencia. Una Matrix, una experiencia interoceptiva y exteroceptiva completamente programada. Una vida código vivida bajo personas avatar en mundos virtuales de diseño. ¿Resucitaremos pronto animales, o réplicas de los mismos, a lo Jurassic Park?
"Mi cerebro biológico evolucionó para un tipo muy diferente de vida prehistórica y me predispone a hábitos que no tendría". Ray Kurzweil.
Últimas publicaciones
