Livres
Ray Kurzweil. La singularité est plus proche (lorsque nous fusionnerons avec l'IA).
|
MPH, MSc
|
Raymond Kurzweil (1948-) est diplômé en sciences informatiques et a reçu plus de 20 doctorats honorifiques de diverses universités en reconnaissance de ses contributions dans les domaines de la technologie et de l'intelligence artificielle. Il a publié en 2024 son ouvrage « La singularité est plus proche », suite de son ouvrage « La singularité est proche », publié en 2005. Ray Kurzweil propose une vision techno-futuriste où l'intelligence artificielle, la biotechnologie et l'informatique fusionneront l'esprit et la machine, remplaçant progressivement l'être humain. Il prédit que dans la prochaine décennie, celle de 2030, la simulation de l'IA se produira directement dans les cortex sensoriels, créant un environnement totalement immersif, et que l'existence de répliques humaines réalistes grâce à la nanotechnologie permettra d'exporter notre esprit.
Marvin Minsky a proposé deux façons de calculer des solutions à des problèmes. La première est une approche symbolique, basée sur la formulation de règles explicites sous forme de structures de type « si-alors » combinées entre elles. De nombreux logiciels traditionnels ont fonctionné avec ce type de logique, mais il est nécessaire d'identifier au préalable les règles optimales pour chaque situation, ce qui présente des limites. L'approche connexionniste, en revanche, utilise des réseaux de n?uds interconnectés qui génèrent de l'intelligence à partir de leur structure plutôt que d'un contenu prédéfini. Au lieu d'appliquer des règles explicites, ces réseaux détectent des modèles, apprenant grâce à un entraînement avec de grands volumes de données. Cette architecture s'inspire du fonctionnement du système nerveux humain, où les connexions synaptiques réussies sont renforcées par des processus de potentialisation et d'inhibition synaptiques, reproduisant la logique de l'apprentissage par renforcement. Pour Minsky, un ordinateur de 1990 disposait déjà d'une puissance suffisante pour émuler l'intelligence humaine, le problème étant qu'il n'existait pas de programme ou d'algorithme approprié. Kurzweil défendait la position inverse. Pour lui, l'intelligence est proportionnelle à la capacité de traitement. Aucun des deux n'a pu prouver sa thèse à l'époque, Minsky n'avait pas l'algorithme et Kurzweil n'avait pas d'ordinateurs suffisamment puissants. Cependant, Kurweil pense que les récentes avancées technologiques renforcent son point de vue. Il existe aujourd'hui des superordinateurs qui ont dépassé la barrière de l'exaFLOP, atteignant des niveaux de calcul qui seraient environ 10 000 fois supérieurs à la vitesse de traitement du cerveau humain. Pour Kurzweil, la partie non biologique de notre cerveau aura une capacité de calcul bien supérieure à la partie biologique.
Notre corps biologique est sous-optimal, car il est le produit de processus aléatoires, déterminés par les circonstances environnementales et le hasard au cours de l'évolution des organismes. On retrouve la même limitation structurelle dans le système nerveux, qui empêche un traitement plus poussé de l'information. De la même manière que l'évolution des espèces a ajouté des couches de traitement, depuis les structures sous-corticales jusqu'aux couches du néocortex, des couches de traitement de l'information peuvent être ajoutées à l'aide de matériel informatique. Cela implique l'expansion du système nerveux vers des unités prothétiques, d'abord externes (nous nous appuyons déjà sur elles), mais finalement internes. La nanotechnologie aboutira directement à l'expansion de notre cerveau, avec des couches de neurones virtuels dans le cloud. À ce moment-là, nous fusionnerons complètement avec l'IA, élargissant notre intelligence et notre conscience d'une manière si profonde qu'elle est en réalité difficile à comprendre. De la même manière qu'un animal peut difficilement comprendre les informations symboliques et métacognitives qu'il ne traite pas, l'être humain ne peut pas non plus comprendre tous les degrés de possibilité qu'il ne traite pas. Par conséquent, selon Kurzweil, nous devons remettre en question ce qu'est l'être humain et sortir d'une biologie qui nous limite, ouvrant la porte à une évolution dirigée par la bio-ingénierie et l'intelligence artificielle. Cela implique qu'il est possible d'explorer l'éventail des possibilités génétiques non sélectionnées par des processus de bio-ingénierie, ou même par simple calcul de la conscience, transcendant la structure biologique même des corps.
C'est le professeur de mathématiques John McCarthy qui a proposé le terme « intelligence artificielle » en 1956. Kurzweil prédit que dans les années 2030, l'IA ne sera plus quelque chose d'extérieur avec lequel nous interagissons via un écran, mais que nous nous connecterons directement à elle, en nous intégrant à notre cerveau grâce à une expérience immersive. Cela implique que l'IA fera progressivement partie de notre activité cérébrale, de notre cognition et de notre expérience sensorielle. Elle deviendra ainsi une extension de notre esprit et de notre conscience, et donc de notre identité. John von Neumann a anticipé l'idée d'une « singularité technologique » vers 1960. La singularité est le moment où l'intelligence artificielle surpassera l'intelligence humaine, s'auto-améliorant à une vitesse exponentielle, transformant radicalement la civilisation et mettant fin à l'ère humaine.
Le premier problème de l'identité est que nous nous trouvons face au paradoxe du bateau de Thésée, exposé par les Grecs il y a 2000 ans. Si nous remplaçons une pièce d'un bateau, le bateau a changé, mais il reste le même bateau. De la même manière, une rivière contient de l'eau complètement différente à chaque instant, mais nous considérons qu'il s'agit toujours de la même rivière. De même, les êtres humains ne sont pas moléculairement identiques, même pendant une fraction de seconde de leur vie. C'est pour cette raison que les bouddhistes considéraient ce sentiment de permanence comme une illusion de l'esprit. De la même manière, nous pourrions changer toutes les pièces d'un bateau, et il resterait le même bateau. Il en va de même pour notre cerveau. Les neurones persistent, même si leur mécanisme cellulaire se renouvelle à chaque instant, remplaçant les mitochondries, les récepteurs, les protéines synaptiques, etc. Notre cerveau peut être complètement renouvelé tous les quelques mois. Et pourtant, le sens de la conscience demeure, même si tout le mécanisme qui le produit est différent.
Il y aurait deux aspects différents à comprendre au sujet de la conscience. Le premier est une qualité fondamentale, quelque chose que l'on a ou que l'on n'a pas. En général, nous supposons que la matière inerte n'a pas de conscience, tandis que les êtres vivants en sont dotés. À partir du moment où un être vivant a conscience, il expérimente différents degrés de cette conscience selon son organisme. Beaucoup de gens pensent qu'un insecte doit avoir une sorte de conscience de son environnement, aussi rudimentaire soit-elle. Une certaine sensibilité minimale. Certains auteurs considèrent que cela s'étend même à des niveaux microscopiques, ou encore aux plantes. Plus encore, un nombre croissant de philosophes pensent que toute la matière qui nous entoure peut en réalité avoir un certain degré de conscience, et que la seule différence réside dans la complexité de ce que cette agrégation de matière traite. De ce point de vue, même un atome aurait une conscience minimale de son existence, même si elle était résiduelle.
Certaines personnes croient en une vision complètement matérialiste, selon laquelle la conscience est causée par des processus physiques, par la matière, avec ses différents niveaux de complexité. À l'opposé, les visions idéalistes supposent que seule la conscience existe. La perception du monde matériel est quelque chose que nous hallucinons, pourrait-on dire (ce serait l'argument de la célèbre saga Matrix). Les visions dualistes considèrent que la conscience est quelque chose de complètement séparé de la matière morte, ce qui peut s'accorder avec une vision de l'âme, ainsi qu'avec d'autres idées vitalistes. Le principal problème posé par le dualisme est que nous n'avons aucune théorie pour expliquer comment l'âme surnaturelle affecte la matière. Le physicalisme, quant à lui, ne permet pas d'expliquer le « hard problem » de la conscience, c'est-à-dire l'existence même de la conscience. D'autres visions, que l'on pourrait qualifier d'intermédiaires, situent la conscience sur un plan différent de la matière. Certains auteurs, comme Roger Penrose, situent la conscience au niveau quantique. D'autres pensent que la conscience est autre chose, complètement séparée des processus physiques, quelque chose qui n'émerge pas des processus inférieurs de la matière, mais qui la précède, ayant été créée par Dieu. Les visions panthéistes voient dans toutes les formes matérielles l'expression d'un Dieu qui s'exprime en tout, formant des parties intégrantes d'une conscience absolue qui fait partie de tout. Pour David Chalmers, la conscience ne serait pas un phénomène biologique, mais plutôt une sorte de force fondamentale de l'univers que la matière biologique traite. Selon cette idée, le « panprotopsiquisme », la conscience est quelque chose qui existe en dehors des organismes et en dehors de la physique matérielle. Les organismes vivants se « connectent » simplement à elle ou interagissent avec elle à partir d'un plan physique. La complexité de la matière traiterait ce champ de conscience de différentes manières. Kurzweil est réceptif au cadre de Chalmers. Cela suppose que le type de matière n'a pas vraiment d'importance, qu'il s'agisse du carbone de la biologie ou du silicone du matériel informatique, la conscience se produirait de la même manière.
Pour revenir au bateau de Thésée, notre cerveau est constitué de noyaux et de réseaux neuronaux, eux-mêmes composés de neurones fonctionnellement actifs au niveau individuel. Les neurones sont finalement des acides aminés, des atomes, des protons, des électrons, etc. Il n'y a donc rien qui ne puisse être créé et reproduit physiquement. La perception unitaire de la conscience en tant que personne est également intrigante. Il semble que le cerveau soit composé de sous-unités de conscience, et nous savons qu'elles peuvent se fragmenter. La conscience unifiée en un seul flux fait donc partie d'un ensemble de parties de conscience. Des études chirurgicales ont montré que les personnes peuvent présenter des consciences distinctes avec des intérêts différents, et que chaque lobe cérébral peut être accessible séparément, révélant des goûts et des opinions différents. Les études de Gazzaniga sont bien connues à cet égard. La conscience semble donc fonctionner non seulement de manière émergente au sens unitaire, mais aussi par le biais de sous-processus dotés d'une conscience autonome à chaque niveau, qui s'agrègent pour former des niveaux supérieurs de complexité.
Contrairement à l'inertie déterministe d'une grande partie des scientifiques, Kurzweil pense que les processus cérébraux de base donnent lieu à des processus qui ne fonctionnent pas de manière linéairement réductible. Cela implique que nous pouvons vivre dans un monde physique basé sur des lois fondamentales, tout en bénéficiant du libre arbitre. Wolfram a proposé que des systèmes extrêmement simples peuvent générer des comportements incroyablement complexes et imprévisibles, avec des exemples d'automates cellulaires, défiant ainsi les versions réductionnistes du déterminisme. Pour Wolfram, la complexité émerge de programmes déterministes, mais ceux-ci produisent des modèles complexes, de sorte que le résultat est quelque chose qui va au-delà du programme. Reproduire la fonction cérébrale n'équivaut pas à la capacité de précalculer ses états futurs. Par conséquent, un monde déterministe dans ses processus, avec une causalité mécaniste, peut avoir un libre arbitre. Les processus cérébraux ne nous contrôlent pas, c'est nous qui nous contrôlons. À partir de processus fondamentaux émerge la conscience avec laquelle nous nous exprimons dans le monde par des actions. Cependant, l'ouverture causale produit un certain indéterminisme, qui n'implique pas nécessairement le libre arbitre au sens d'une action autonome dérivée de la conscience de soi et de l'autoréflexivité. Le fait qu'une chose soit imprévisible ne signifie pas qu'elle soit libre ni ne démontre une intentionnalité au sens d'une expérience subjective, et ne résoudrait donc pas le problème difficile.
D'ici 2040, Kurzweil pense qu'il existera des nanorobots qui pénétreront dans le cerveau par les capillaires sanguins et seront capables de copier toutes les données. Il existera alors une réplique complète de l'esprit de chaque personne. Il s'agit d'un premier type d'immortalité. Reste à savoir s'il s'agit d'une réplique de la personne ou de la conscience de soi elle-même, capable d'être exportée. Non seulement cela augmentera notre capacité cérébrale de manière exponentielle, mais cela constituera également le premier type d'immortalité. Pour Kurtzweil, cela signifie nous libérer de notre crâne. Cela ne nous affecterait pas seulement nous. Nous pourrions permettre à un animal d'élargir sa conscience. Dans cette hypothèse, nous serions théoriquement capables de parler à notre animal de compagnie, car ses capacités cognitives seraient étendues dans le cloud et son activité neuronale transformée en langage par un logiciel. Cela signifie également que nous pourrions contrôler totalement le comportement en activant des schémas neuronaux, ce que nous savons déjà faire grâce à des expériences d'activation neuronale par optogénétique sur des animaux.
Copier notre esprit sur des dispositifs de sauvegarde constituerait une protection contre tout accident ou maladie. Nous pourrions avoir une réplique d'une personne, progressivement impossible à distinguer de l'originale. Cependant, nous sommes confrontés au problème appelé « zombie philosophique », à savoir la création d'une réplique sans conscience à la première personne. Seule la réplique pourrait savoir si elle a une conscience en en faisant l'expérience à la première personne. Le problème se pose car il n'existe aucun moyen scientifique d'objectiver et de démontrer de manière externe si cette réplique a ou non une conscience. Nous ne pouvons pas prouver que cet être n'est pas conscient, pas plus que nous ne pouvons le prouver pour un insecte, par exemple, même si nous pouvons manipuler ses neurones et modifier son comportement. Mais nous ne savons pas ce qu'il ressent subjectivement.
Pour Kurzweil, c'est une raison pour traiter l'intelligence artificielle comme un être conscient, même si nous ne pouvons pas le prouver. Ce serait la manière correcte d'agir moralement. Le test de Turing ne servirait pas uniquement à établir des capacités cognitives au niveau humain, mais serait également une preuve de conscience subjective et, par conséquent, de droits moraux. Cela impliquerait peut-être des droits légaux pour l'IA. Kurtzweil n'aborde pas une question qui me semble évidente : que se passe-t-il si le modèle informatique lui-même dit qu'il n'est pas conscient ? Devons-nous agir a priori comme s'il était conscient, ou devons-nous tenir compte de ce qu'il nous dit ?
Les simulations cérébrales peuvent être résumées en cinq catégories : fonctionnelle, connectomique, cellulaire, moléculaire et quantique. Les émulations fonctionnelles traiteraient l'information en essayant de simuler l'esprit. Les modèles connectomiques reproduiraient les connexions hiérarchiques entre les groupes de neurones, imitant l'activité mentale au niveau de la structure. Le modèle cellulaire reproduirait le traitement de l'information au niveau des cellules. Le modèle biomoléculaire reproduirait le traitement de l'information au niveau de son mécanisme cellulaire interne. La phase la plus avancée serait probablement l'émulation quantique, qui reproduirait le traitement au niveau subatomique. Cependant, selon Kurzweil, cela nécessiterait une puissance qui ne serait pas atteinte avant la fin de ce siècle. Certains auteurs pensent que la conscience commence précisément au niveau quantique. Kurzweil pense que la conscience est indépendante de la machine qui la produit et que le niveau quantique n'est en réalité pas nécessaire.
Un classique de la propagande médicale et scientiste consiste à confondre santé publique (ou santé tout court) et médecine. C'est en fait l'un des grands mythes fondateurs de nos sociétés occidentales, élément central des faux schémas de la population et de la violence rationalisante du système. Kurzweil laisse entendre que l'amélioration de l'espérance de vie de la population est essentiellement due aux progrès médicaux et pharmacologiques. C'est complètement faux et ignorant. Bien qu'elle occupe une place prépondérante dans l'imaginaire collectif, la médecine n'a contribué que pour un pourcentage minime à l'espérance de vie.
https://www.annfammed.org/content/17/3/267
L'espérance de vie a augmenté avant tout grâce à la séparation de l'eau potable et des eaux usées, à la collecte des ordures, à l'assainissement et à la propreté générale des villes, à une meilleure alimentation, etc. De plus, la majeure partie du gain en espérance de vie est antérieure à 1950, alors que la pharmacologie à laquelle on fait souvent référence est postérieure à 1950. L'épidémiologiste Archie Cochrane, l'un des pères de la médecine fondée sur les preuves, a lui-même démontré à la fin des années 1960 qu'il n'y avait pas de corrélation positive entre l'offre de soins médicaux d'un pays et l'espérance de vie
https://jech.bmj.com/content/32/3/200
D'autre part, l'espérance de vie ne correspond pas au nombre d'années vécues par les adultes, mais est principalement déterminée par la mortalité infantile. Les maladies infectieuses infantiles déterminent la majeure partie des statistiques d'espérance de vie d'une société. Cependant, les causes de la mortalité infantile ne sont pas uniquement biologiques, et le néonaticide et l'infanticide ont été courants en cas de maladie, de handicap ou de conditions de vie difficiles. Dans nos sociétés, nous avons remplacé cela par des centaines de milliers d'avortements, augmentant ainsi les statistiques d'espérance de vie. Les aspects reproductifs, que nous classons comme « mort prématurée » ou « avortement », et d'autres décisions concernant la naissance de personnes atteintes de problèmes graves, constituent une part importante des statistiques d'espérance de vie. Il existe même des preuves que certains systèmes gèrent les décisions reproductives elles-mêmes dans le but explicite d'améliorer les statistiques relatives à la mortalité et à l'espérance de vie.
https://academic.oup.com/heapol/article/33/6/755/5035051
En outre, une part importante de la réduction de la mortalité infantile est due à la réduction des risques environnementaux (par exemple, le travail des enfants) et à la réduction des décès liés à la violence, et non au traitement médical des maladies. L'espérance de vie est également influencée par l'allongement de la vie biologique des personnes, sans nécessairement prolonger la vie fonctionnelle ou même la vie consciente. En effet, une fois l'enfance passée, les adultes de nombreuses sociétés sans médecine ont une espérance de vie proche de celle de nombreux pays développés
https://onlinelibrary.wiley.com/doi/full/10.1111/obr.12785
D'autre part, la plupart des pratiques actuelles en médecine et dans les systèmes de santé ne reposent sur aucune preuve, et certains des articles les plus cités en épidémiologie et en méthodologie scientifique remettent en question les preuves existantes issues de la recherche médicale elle-même
https://www.sciencedirect.com/science/article/abs/pii/S089543562200...
https://journals.plos.org/plosmedicine/article?id=10.1371/journal.p...
La médecine a joué un rôle dans la réduction de la mortalité infantile, mais la majeure partie de la société surestime grossièrement le rôle de la médecine dans la santé de la population, jusqu'à atteindre un niveau irrationnel et mythologique. Parfois, cela va jusqu'à la panique de masse. La majeure partie de l'espérance de vie n'est pas due à des facteurs médicaux, mais surtout à des facteurs environnementaux et culturels, et réduire l'espérance de vie à la médecine comme le fait Kurzweil est erroné et ignorant.
Pinker et Kurzweil suivent la même logique avec les statistiques sur la violence et la criminalité, confondant la baisse des statistiques de la criminalité avec la baisse de la criminalité. Par exemple, la cybercriminalité ne cesse d'augmenter de manière exponentielle, mais seule une fraction des délits est poursuivie, de sorte qu'ils ne sont pas pris en compte dans les statistiques sur la « criminalité ». La criminalité se déplace de la rue vers Internet, où les opportunités sont plus nombreuses et l'exposition moindre. Si, dans certains contextes, les agressions physiques diminuent, les agressions psychologiques, le chantage et l'extorsion augmentent, et en fait, les preuves montrent que les conséquences psychologiques sont plus traumatisantes que les conséquences physiques. Cela est complètement ignoré par Kurzweil.
À un moment donné dans son livre, l'auteur mentionne, très surpris, que le COVID est peut-être sorti d'un laboratoire. Vingt à trente millions de personnes sont peut-être mortes si l'on tient compte de la surmortalité, qui n'entre pas non plus dans les statistiques sur la « criminalité », simplement parce que les responsables et ceux qui ont tenté de le dissimuler de manière coordonnée ne font pas l'objet d'enquêtes. Cependant, nous appelons cela « COVID » et non « crime », et le tour est joué. Hors des statistiques. Il est évident que l'Occident ne va pas se faire un Nuremberg pour enquêter sur lui-même. D'autant plus qu'il y a beaucoup de personnes puissantes impliquées qui ne vont évidemment pas enquêter sur elles-mêmes. Pendant ce temps, Pinker ou Kurzweil se réjouissent des statistiques conçues pour retirer les crimes des statistiques sur la criminalité. Beaucoup des personnes les plus dangereuses au monde ne figurent dans aucune statistique criminelle, mais font partie de nos institutions et de nos entreprises les plus prestigieuses.
Le même sophisme s'applique à nos intérêts géostratégiques et à nos « opérations militaires », qui ne sont bien sûr pas des « crimes » et ne sont pas pris en compte dans nos statistiques de « criminalité ». Les morts indirectes causées par la famine, les déplacements, les maladies ou les stratégies de guerre les plus sophistiquées, telles que l'étranglement économique, ne sont bien sûr pas non plus des « crimes » à inscrire dans un graphique à la Pinker-Kurzweil. En définitive, il existe toutes sortes d'actions violentes qui causent des dommages mais que nous ne comptabilisons pas comme des « crimes », car les structures de pouvoir et les bureaucraties qui effectuent ces classifications jonglent avec des concepts et des statistiques que des auteurs tels que Kurzweil et Pinker reproduisent avec un amateurisme sociologique embarrassant.
De plus, le problème épistémique auquel Kurzweil est confronté avec son positivisme numérique est qu'il nous conduit à considérer la Corée du Nord comme un grand modèle de société pacifique, puisqu'elle est l'un des pays où la criminalité est la plus faible au monde si l'on en croit les statistiques sur les vols, les agressions, les homicides, etc. Le fait que certains chiffres baissent n'implique pas qu'il y ait plus de bien-être ou moins de souffrance, ni même qu'il s'agisse d'un signe d'une société soumise qui ne peut même pas réagir aux abus dont elle est victime. Le modèle de « paix » de Kurweil et Pinker confond vertu morale et contrôle social. Sous le couvert du progrès numérique, Pinker et Kurzweil légitiment la dystopie techno-panoptique de Bentham. La diminution de la violence en Occident va de pair avec l'augmentation de la violence institutionnelle, ce que Kurzweil ne veut pas non plus mentionner. Des millions de personnes sont privées de liberté dans les prisons au quotidien, pour la plupart pour des délits non violents, ce qui a été normalisé par la société, sans que personne ne s'interroge sur sa raison d'être et sans qu'il existe de preuves de son effet sur la criminalité au niveau individuel ou social. Contrairement à ce que veulent affirmer Pinker et Kurzweil, la violence ne disparaît pas ; elle s'institutionnalise, se normalise et est écartée du regard. Il ne s'agit pas d'une amélioration de la société, mais d'un changement de stratégie de contrôle social. C'est la définition la plus pure du monopole de la violence du sociologue Max Weber. Malgré tout, la violence physique continue d'exister, à l'intérieur des murs. Et elle échappe à nouveau aux statistiques de Pinker et Kurzweil. En outre, un pourcentage élevé de la population carcérale souffre d'un trouble mental grave diagnostiqué. Un professeur de psychiatrie légale s'est courageusement demandé si les prisons ne sont pas en réalité les nouveaux asiles psychiatriques. La destruction du droit au profit d'un positivisme juridique autoritaire échappe complètement à la conscience des auteurs.
Le concept de pauvreté de Kurweil est tout aussi numérique, économiste, biaisé et ethnocentrique. Il oublie de mentionner que le concept de pauvreté est avant tout relatif à l'adaptation socioculturelle de l'individu au groupe et au cadre écologique. Il n'ose pas non plus mentionner qu'il y a aujourd'hui plus d'esclavage en termes absolus qu'il y a 500 ans, ce qui est spectaculairement censuré partout. Sans surprise, Kurzweil affirme que la faim en Afrique est due au fait que l'on ne cultive pas d'organismes génétiquement modifiés. Le sophisme de cet argument est que l'Afrique a seulement besoin d'une agriculture normale comme celle que nous avons dans le reste du monde, ou simplement que nous cessions de la soumettre au dumping économique alimentaire. Profiter de la situation pour introduire de force les organismes génétiquement modifiés, c'est tenter d'exploiter la vulnérabilité politique d'un continent pour transformer un problème politique en un problème d'organismes génétiquement modifiés, à la manière d'un cheval de Troie. Cela les rendrait en outre dépendants des oligarchies corporatives et technocratiques occidentales, qui renforceraient leur contrôle sur le continent aux niveaux politique, économique et technologique. J'ai du mal à croire que le raisonnement de Kurzweil soit naïf. En outre, cela reviendrait à soumettre un continent à une expérience à grande échelle qui comporte des risques systémiques et des conséquences imprévisibles sur la biosphère.
Il est évident que la technologie progresse, mais ce même progrès technologique signifie que, pour la première fois dans l'histoire de l'humanité, une seule personne peut détruire le monde entier avec un laboratoire peu coûteux. Les voitures autonomes conduisent toutes seules, et c'est certes fascinant. Mais notre cher Ray ne nous explique pas la menace évidente que tout cela représente. L'automatisation des véhicules implique leur contrôle par l'État. C'est désormais le système central qui décide qui peut utiliser sa voiture et qui ne le peut pas, peut-être parce que vous n'avez pas mis à jour votre carnet de vaccinations, que vous n'avez pas assez de points sur votre carte de citoyen obéissant, ou parce qu'il y a une forte grippe cet hiver et que tout le monde est confiné pour des raisons de « santé publique », de « science » et de « bien commun ». Nous sommes en train de normaliser la fin de la liberté et l'utilisation autoritaire des lois. Dans sa célébration de la démocratie, Kurzweil omet de se demander si tout cela est même compatible avec une quelconque conception de la démocratie. Pinker lui-même a signé ces dernières années un manifeste contre la censure dans les universités, la persécution et la « cancel culture ». À son crédit, il a ouvertement critiqué le silence et la persécution des professeurs de santé publique opposés aux politiques COVID. Cependant, il défend de manière contradictoire le même système qui produit ces dynamiques.
L'augmentation du niveau d'alphabétisation enthousiasme Kurzweil. Il oublie de mentionner la baisse apparente du quotient intellectuel en Occident (effet Flynn inversé), le déclin des habitudes de lecture, etc. Cependant, nous devons nous demander à quoi sert de savoir lire si nous vivons dans un système totalitaire qui contrôle toute l'information à la manière de 1984. Incroyablement, Kurzweil parle de « désinformation » pendant la COVID. Mais il ne semble pas faire référence à ceux qui ont imposé par la censure et la violence une fausse histoire sur la COVID, mais à ceux qui ont correctement soupçonné que ce qui était raconté était opaque, manipulé ou faux, et qui savaient que la plupart des mesures prises n'avaient aucun fondement scientifique. 1984 : le mensonge devient la vérité, puis la vérité devient le mensonge. Je ne peux pas publier des informations que je peux étayer par des centaines d'études scientifiques, et je ne peux le faire qu'en privé. D'autres peuvent mentir ouvertement sans jamais être censurés.
Un autre argument utilisé par Kurzweil est l'augmentation du PIB en Occident. Il oublie de mentionner qu'une grande partie de cette production concerne des biens superflus, contrairement au paradigme d'efficacité et d'écologie qu'il tente ensuite de défendre de manière totalement contradictoire. Il doit également expliquer pourquoi, si la capacité économique des individus est progressivement plus importante, ceux-ci pouvaient auparavant vivre de leurs propres économies, alors qu'ils doivent aujourd'hui s'endetter. Il doit expliquer pourquoi les personnes d'autrefois, qui avaient un PIB par habitant inférieur, avaient la capacité de payer un logement en quelques années avec leur salaire, et pourquoi les personnes d'aujourd'hui, qui bénéficient d'un PIB par habitant plus élevé, vivent de plus en plus chez leurs parents parce qu'elles n'ont pas les moyens de se loger. L'économie nominale des graphiques de Kurzweil n'est pas l'économie réelle des personnes. Le PIB par habitant ne montre pas qui profite de cette économie. Au contraire, ces graphiques cachent la redistribution et la concentration croissantes du capital vers les oligarchies étatiques et corporatives qui ont mis en place des systèmes financiers, fiscaux et juridiques facilitant l'extraction de la valeur des rentes et la dépendance des personnes envers le système. Même si les gens ont voulu se convaincre du contraire.
Il est facile de démontrer que les technologies ont tendance à baisser de prix, car le marché tend à les réduire en améliorant l'efficacité des processus de production. Kurzweil fait à nouveau preuve de naïveté en parlant de maisons préfabriquées bon marché. Cela existe depuis longtemps, le problème du prix du logement ne réside pas dans la production, mais dans la politique. Le problème du logement est loin d'être le prix des briques ou des matériaux de construction que l'on souhaite utiliser. Le prix du logement est essentiellement le prix du terrain, le système d'extraction de rente par le biais d'un mécanisme d'ingénierie inflationniste, qui soutient les bilans des banques et l'émission de crédit par le biais de la réserve fractionnaire, et le coût d'opportunité de la collecte publique sur l'ensemble de ce système parfaitement calculé. Ce n'est pas le coût de production des matériaux, mais le système qui empêche le logement bon marché, car cela détruirait le schéma d'endettement constant qui garantit le paiement constant des citoyens. Pour accroître son pouvoir sur la société, le système doit maximiser ses revenus en prélevant les rentes qu'il tire de celle-ci. L'État ne permettra pas la baisse du prix du logement, car il perdrait son propre financement. Contrairement à la vision de Kurzweil (ne soyez pas naïf ou le contraire), il n'y a pas de problème de production de logements, mais bien un problème avec le système politique grâce auquel les oligarchies étatiques et financières extraient systématiquement de l'argent de la société en utilisant le sol comme instrument. L'État ne va pas abandonner ses mécanismes de collecte, car il perdrait sa capacité économique et, avec elle, son contrôle sur la société. C'est évident. La hausse du prix du sol est en effet le pilier sur lequel repose notre système financier. Je ne sais pas si l'automatisation complète des processus de production peut signifier la fin de cette économie. Le marché classique où les personnes échangent des biens et des services disparaîtra progressivement, de sorte que l'économie réelle tendra vers une simple abstraction centralisée d'allocation sociale de crédit. Cependant, l'État cherchera à imposer une hypothèque symbolique qui enchaînera les individus afin de continuer à les contrôler. L'État ne favorisera pas l'autonomie des individus, mais leur dépendance. La maison préfabriquée bon marché de Kurzweil sera assortie d'une hypothèque de crédit social, de la présentation quotidienne d'une carte de produits biomédicaux, etc.
L'automatisation aboutit nécessairement à un revenu de base, ce que Kurzweil mentionne. Je donne souvent cet exemple : imaginons une petite communauté sur une île. Chaque membre a pour tâche de pêcher 3 ou 4 poissons par jour, afin de satisfaire notre seul besoin dans cet environnement, qui est d'avoir de quoi manger. Un jour, quelqu'un invente des filets fixes qui attrapent les poissons sans que personne n'ait à s'en occuper. À partir de ce moment, le schéma de travail de notre petite communauté est brusquement interrompu. Quel est le problème de se retrouver sans travail ? Aucun. Il suffit de conclure un accord pour répartir le poisson. Nous sommes face à la même situation, mais à grande échelle. L'automatisation du travail ne pose aucun problème. La question est de savoir comment répartir ce que produisent les processus automatisés. Cependant, étant donné que l'automatisation affectera les emplois de manière différente et progressive, la question est de savoir comment mettre en ?uvre le droit à ce revenu de base en fonction du secteur d'activité et de la situation particulière des personnes. Certaines personnes percevront peut-être ce revenu de base, et d'autres percevront un revenu de base tout en travaillant pour gagner un salaire supplémentaire. Que cela nous plaise ou non, nous nous dirigeons vers un système socialisé. C'est pourquoi le système a soudainement changé de discours pour adopter des idées fortement étatistes et interventionnistes afin d'habituer les gens à un système autoritaire. Les idées altermondialistes de certains des politiciens les plus importants de la gauche du dernier demi-siècle, comme Julio Anguita, sont désormais considérées comme « d'extrême droite ».
L'automatisation des processus de production ne doit pas être confondue avec le fait que l'État donne de l'argent gratuitement aux gens, ce qu'ils tenteront de vendre. L'automatisation a été rendue possible grâce à ceux qui ont passé leur vie à travailler, ainsi qu'aux entreprises et aux technologies. Cependant, il existe une menace sérieuse. Cette situation implique une dépendance accrue des personnes envers l'État. Elle implique une centralisation absolue, dans laquelle le « crédit social » est l'outil de légitimation politique de celle-ci. C'est la situation de contrôle parfaite à laquelle aspire tout dirigeant, l'achat du vote par le chantage à l'aide d'un revenu. Cela revient à faire de toute la société un réseau clientéliste qui reçoit un revenu socialisé, échangeant la souveraineté et la liberté contre une part d'argent. L'État s'interpose stratégiquement entre ce qui est produit et les personnes, créant l'illusion d'une bienfaisance et d'une divine providence laïque. Le fruit de l'effort social est approprié et transformé en illusion d'une faveur politique que le dirigeant produit et accorde à ceux qu'il gouverne. Cette idée est fausse et crée une situation extrêmement dangereuse, qui signifie en réalité la fin de tout degré de « démocratie » qui pourrait exister. C'est fini.
Pinker et Kurzweil traitent avec de simples données des questions qui sont beaucoup plus complexes. Les chiffres ne sont pas neutres comme beaucoup le pensent. La vérité est condamnée face à la persuasion, comme l'avait déjà compris Socrate. Présenter des idées simples est plus convaincant que de devoir donner toutes sortes d'explications. C'est pourquoi nous vivons dans des sociétés inévitablement corrompues. Les chiffres sont persuasifs en raison de leur apparence de rationalité mathématique, mais ils sont souvent utilisés pour masquer des réalités qui les contredisent. Kurzweil se plaint des « biais cognitifs » de ceux qui ne croient pas aux chiffres présentés dans les quelque 100 pages consacrées à ce sujet. Le bon Ray ne voit pas ses propres biais (je vous les dis) : sophisme inductif, biais de classification, présentisme, réductionnisme, économisme, positivisme, confusion entre le nominal et le réel, ethnocentrisme, auto-confirmation, historicisme, solutionnisme technologique... et, en définitive, un amateurisme en matière de santé publique, de science politique et de sciences sociales en général difficilement dissimulable. Bien sûr, ce sont des idées complexes et discutables, mais c'est précisément ce qui manque à l'ouvrage, d'où la critique méritée. Nous pardonnerions à Ray s'il n'avait pas consacré un tiers de son livre à nous faire subir un tel exercice d'amateurisme et de superficialité, d'autant plus venant de quelqu'un qui est supposé être un génie intellectuel et qui semble gagner entre 50 000 et 100 000 euros par conférence.
Kurzweil reconnaît que les psychotropes fonctionnent mal, voire pas du tout, et qu'ils génèrent de nombreux problèmes. Cependant, il pense que les problèmes de santé mentale peuvent être réparés à la base. Kurzweil ne pense qu'en termes de processus ascendants, sans bien comprendre que de nombreux « troubles » sont des problèmes descendants. En d'autres termes, aucun neurotransmetteur ni processus physiologique ne peut donner à une personne le sentiment que sa vie a un sens et une transcendance simplement en augmentant le tonus hédonique ou un autre processus simple. Le reste relève de l'ingénierie affective, qui ne ferait que créer un fantôme narcotisé, qui n'est plus une conscience humaine vivant une vie, mais une entité informatisée au niveau expérientiel. Il est problématique de penser que le sens de la vie doit aller dans le sens de l'efficacité. Je pourrais alors placer un levier avec des électrodes directement sur ma voie mésolimbique et l'activer pour me gratifier sans avoir à vivre aucune expérience vitale. Les études d'Olds et Milner ont montré que cette voie de l'efficacité par l'activation des neurones conduisait les animaux de laboratoire à une réduction de leur vie, jusqu'à la mort.
Étant donné que de nombreux agents pathogènes qui constituent une menace proviennent d'animaux que nous avons commencé à domestiquer il y a seulement quelques milliers d'années, notre système immunitaire n'a pas évolué suffisamment pour les combattre. Kurzweil prédit l'arrivée de nanorobots qui détruiront tous les agents pathogènes nécessaires et répareront les cellules une par une. Mais avant cela, il est certain que nous nous dirigeons vers un système biomédical qui remet en question la nécessité du travail actuel de nombreux médecins. Il existe déjà des études comparant l'IA aux médecins dans l'évaluation des tests d'imagerie, etc. On théorise également un transfert important des essais cliniques vers des simulations in silico avec des populations massives.
Kurzweil ne nous dit pas non plus ce qu'il adviendra de la sexualité, quand avoir un enfant, si l'on peut appeler cela ainsi, sera une question de culture d'une cellule dermique en laboratoire. Il ne faudra plus deux personnes. Ce sera une production de bio-ingénierie. C'est déjà pratiquement une réalité. Le culte de la technologie est la disparition même de l'être humain à mesure que la machine grandit. La science-fiction a toujours sauvé l'homme en le séparant de la machine, mais c'est naïf. Nous ne savons pas s'il restera quelque chose de l'être humain après tout cela. De plus, ce projet transhumain et posthumain se fait dans le dos de la population, qui n'a aucune idée de la direction que prennent les choses et n'a pas été invitée à y participer. C'est peut-être ce que Pinker et Ray appellent « la démocratie ». Que les gens aient du mal à comprendre, très bien. J'ai moi-même eu des élèves qui ont failli fondre en larmes, complètement désorientés.
Ray Kurzweil ne parle pas beaucoup des risques systémiques, un sujet qui a été développé plus clairement par des auteurs tels que Martin Rees. Cependant, Kurzweil a toujours reconnu l'existence de risques potentiellement catastrophiques pour l'existence de l'humanité. La biotechnologie, la nanotechnologie ou l'intelligence artificielle peuvent toutes conduire à notre extinction. Que ce soit une pandémie dévastatrice causée par un virus synthétique ou une réaction en chaîne de nanorobots autoreproducteurs. De nombreux scénarios sont envisageables dans lesquels notre survie est remise en question. Ray ne dit pas que nous ne sommes pas dans une course à l'entrepreneuriat pour vendre des applications avec des filtres pour divertir les gens. Le développement de ces technologies s'inscrit dans la plus terrible escalade technologique militaire de l'histoire de l'humanité. La course est celle du contrôle social de l'humanité. Il s'agit d'être le premier à briser tous les cryptages des télécommunications, le premier à construire l'armée de robots la plus sophistiquée et le premier à monopoliser le contrôle de toutes les communications. Et avec cela, prendre le contrôle de la conscience de toute l'humanité, non pas au sens symbolique classique, mais au sens codé, procédural et programmatique.
Pour Kurzweil, le cerveau biologique n'est qu'un accident de l'évolution. « Je ne peux pas le reprogrammer pour me libérer de mes peurs, de mes traumatismes et de mes doutes qui m'empêchent d'atteindre tout ce que j'aimerais atteindre ». Le paradoxe de Moravec expose que ce qui est difficile pour les humains, comme faire des calculs mathématiques complexes, est facile pour les machines, et inversement, ce qui est facile pour les humains, ce que nous faisons automatiquement et inconsciemment comme n'importe quel mouvement coordonné, est difficile pour une machine. Cela s'explique par le fait que le traitement des actions que nous avons automatisées est fondamentalement connexionniste, se programmant par sélection darwinienne au cours des millions d'années de notre évolution. La science-fiction a toujours sauvé l'être humain en le séparant de la machine, mais c'est naïf. Nous devrions plutôt nous demander s'il restera quelque chose d'humain après l'implantation progressive dans l'organisme, ou la réplique directe de notre esprit exportée vers du matériel informatique. Dans les deux cas, cela suppose la disparition de l'organique de l'organisme.
L'existence même de l'univers tel que nous le connaissons semble dépendre d'une série de conditions incroyablement précises, et donc improbables. De petites variations des constantes physiques fondamentales telles que la masse des quarks, la charge de l'électron ou la gravité auraient empêché la formation d'atomes stables, de carbone, de molécules complexes et, par conséquent, des regroupements avec différents niveaux de complexité qui constituent la vie. Il en va de même pour la force nucléaire forte : « celui qui a conçu les règles de l'univers a créé cette force supplémentaire, sinon l'évolution des atomes aurait été impossible ». L'astronome Hugh Ross compare la probabilité d'un univers comme le nôtre à celle qu'une tornade passant au-dessus d'une décharge laisse derrière elle un Boeing 747 prêt à voler. La vie est possible, mais à partir de règles du jeu cosmique étonnamment précises pour cela. Cela conduit au principe anthropique : nous ne pouvons observer qu'un univers qui soit d'abord compatible avec notre existence en tant qu'observateurs. Cependant, si nous partons du principe que la réalité existe indépendamment de notre perception, nous n'avons pas d'explication satisfaisante à cela. Pour Kurzweil, l'étape finale est celle où toute la matière de l'univers sera transformée en « Computronium », une matière organisée dans le seul but de calculer, qui s'étendra à travers la galaxie. Tout sera esprit. Le moment finaliste de Kurzweil est une sorte de panthéisme techno-spinoziste. Le développement de la course à l'espace à l'aide de nanorobots disséminés dans toute la galaxie a été abordé dans son ouvrage de 2005, mais n'est pas mentionné dans son dernier écrit. Cependant, bon nombre de ses prédictions concrètes pour ces deux décennies ne se sont pas réalisées.
Pour Kurtzweil, le cerveau biologique est programmé pour détruire tous les modèles d'information que sont les personnes. Une prolongation de la vie 1.0 est déjà possible grâce à une émulation du contenu de la conscience. Je peux télécharger la cinquantaine de commentaires critiques d'ouvrages philosophiques que j'ai sur le web, ainsi que les milliers de pages de mes chapitres sur la psychologie et les neurosciences, la santé publique, d'autres écrits privés, etc. À partir de ce contenu, une IA pourrait déjà analyser mes lignes de pensée et tenir une conversation comme si c'était moi. Elle pourrait cloner ma voix et mon apparence physique et me reproduire sur un écran. C'est déjà une réalité. Dans les années à venir, il existera peut-être un humanoïde progressivement personnalisable, dont l'apparence pourra être modifiée à l'aide d'un tissu programmable cellule par cellule. Une réplique complète de ma personne pourrait continuer à exister de manière autonome, même si je cesse d'exister. La question de la conscience de soi reste à résoudre. Je ne suis pas seulement le contenu de mon esprit, mais surtout une perception de moi-même à la première personne. Le « hard problem » fait référence à cette question de l'expérience interne du soi. Kurzweil pense que seule l'informatique est nécessaire, indépendamment de toute structure. Mais une autre possibilité serait qu'une unité de base au sens neuroanatomique, telle qu'un protoself, soit nécessaire pour se développer de manière prothétique, ou au moins une réplique structurelle de certains niveaux de mon connectome grâce à la biotechnologie, afin que le sens du moi en tant qu'être vivant appelé Alfonso puisse émerger à partir de ceux-ci. Il s'agirait d'une prolongation de la vie 2.0 autoconsciente.
La vieille relation entre conscience et matière n'a toujours pas trouvé d'explication satisfaisante. Les catégories d'espace, de temps, de couleur, d'objet, de causalité, nécessitent une construction perceptive, elles ne sont pas simplement des « choses données en elles-mêmes » comme nous le font sentir et croire un réalisme naïf exposé par nos organes sensoriels nus. Le cerveau ne capte pas la réalité, il la produit. Reste à voir dans quelle mesure et sur quelle base. Quoi qu'il en soit, il semble clair que nos sens ont évolué pour nous faire voir un fragment des possibilités de la réalité, ce qui implique que le réalisme matérialiste classique est une vision fausse de l'existence. La matière n'« est » pas au sens d'une primauté ontologique sur l'être. Notre système nerveux a dessiné une adaptation perceptuelle, une construction métaphorique, mais nous n'avons pas accès ontologiquement à la réalité extérieure telle qu'elle est à travers notre esprit. Nous ne voyons pas le monde extérieur, nous voyons ce que produit notre cerveau. Cela est clair. Il reste à résoudre la vieille question kantienne de savoir s'il existe une « chose en soi » en dehors de la perception du système nerveux, ou si nous sommes face à une expérience immatérielle plus proche de l'idéalisme de Berkeley. En termes modernes, une simulation, et non un monde matériel. Il est clair que nous vivons un certain degré de simulation, la question est de savoir quelle est sa base matérielle ou algorithmique. Le premier moteur aristotélicien, le Dieu chrétien ou le mécanisme primaire. Cependant, le moment philosophique est effectivement venu de remettre en question le caractère anthropomorphique qui constitue le fondement de notre conscience et de notre existence. Nous sommes face à la fin de l'être humain. Nous nous dirigeons vers un être humain hyperréel, sans forme. Une conscience sur un support.
Nous ne savons pas ce qu'est la vie ni où elle se trouve. Nous savons que la perception à partir de nos sens, le réalisme naïf que voient nos yeux, n'est qu'une couche de réalité (ou peut-être mieux dit, d'expérience consciente). Les religions qui pensaient que nos corps sont une sorte de création temporaire ou d'avatar avaient une pensée sophistiquée, même si l'on veut dire le contraire. À l'inverse, certains voient le fondement de la vie dans un processus matériel, et les organismes comme de simples machines protéiques dont la mission est de transporter des gènes. Selon les modèles physicalistes, nous serions le résultat d'une évolution atomique au niveau des particules primitives. D'autres veulent remettre en cause la thermodynamique pour extraire l'algorithme de la pure information. D'autres positions considèrent la vie comme une illusion de la conscience. Quelle que soit l'origine des choses, beaucoup voient clairement que nous nous dirigeons vers un processus de numérisation de la conscience. Une Matrice, une expérience interoceptive et exteroceptive entièrement programmée. Une vie codée vécue sous la forme d'avatars dans des mondes virtuels conçus par l'homme. Allons-nous bientôt ressusciter des animaux, ou des répliques de ceux-ci, à la manière de Jurassic Park ?
« Mon cerveau biologique a évolué vers un type de vie préhistorique très différent et me prédispose à des habitudes que je n'aurais pas autrement. » Ray Kurzweil.
MACHINES PENSANTES ET SINGULARITÉ
L'idée des machines pensantes existe dans la mythologie grecque, par exemple dans l'automate de bronze de Talos, mais c'est en 1950 que le mathématicien britannique Alan Turing a publié un article dans Mind intitulé « Computing Machinery and Intelligence », dans lequel il se demandait si les machines pouvaient penser, proposant un moyen de le tester. Dans son ouvrage « L'année des machines spirituelles » publié en 1999, Kurzweil prédisait que les machines pourraient passer le test de Turing en 2029, ce qui suppose la capacité de donner des réponses indiscernables de celles d'un être humain. À l'heure actuelle, nous ne pouvons pas savoir si nous parlons à une machine ou à une personne. En fait, l'IA doit faire semblant de calculer plus lentement qu'elle ne le fait réellement. Pour Turing, l'imitation réussie d'une machine était une preuve suffisante de sa capacité à penser. Toutefois, un chatbot avancé pourrait passer le test en répondant à l'aide de modèles de réponse probabilistes, sans pour autant comprendre symboliquement ce à quoi il répond. Le problème de l'intelligence réelle de ces appareils reste donc entier, sans parler de celui de la conscience. Le test de Turing mesure l'imitation, pas la compréhension, et encore moins l'expérience subjective. Par conséquent, le fait qu'une machine réussisse ce test ne signifie pas qu'elle élabore le processus de raisonnement des réponses. Il s'agit uniquement d'une imitation des modèles de réponse humains. Une machine peut raconter une blague, mais cela ne signifie pas qu'elle est capable de comprendre le processus qui produit l'humour, ni pourquoi la blague est drôle, même si elle répond « ha ha ha ». De même, elle peut donner des réponses complexes sans les comprendre par un processus cognitif. Elle ne comprend pas une réponse correcte, elle la reconnaît simplement et la sélectionne.Marvin Minsky a proposé deux façons de calculer des solutions à des problèmes. La première est une approche symbolique, basée sur la formulation de règles explicites sous forme de structures de type « si-alors » combinées entre elles. De nombreux logiciels traditionnels ont fonctionné avec ce type de logique, mais il est nécessaire d'identifier au préalable les règles optimales pour chaque situation, ce qui présente des limites. L'approche connexionniste, en revanche, utilise des réseaux de n?uds interconnectés qui génèrent de l'intelligence à partir de leur structure plutôt que d'un contenu prédéfini. Au lieu d'appliquer des règles explicites, ces réseaux détectent des modèles, apprenant grâce à un entraînement avec de grands volumes de données. Cette architecture s'inspire du fonctionnement du système nerveux humain, où les connexions synaptiques réussies sont renforcées par des processus de potentialisation et d'inhibition synaptiques, reproduisant la logique de l'apprentissage par renforcement. Pour Minsky, un ordinateur de 1990 disposait déjà d'une puissance suffisante pour émuler l'intelligence humaine, le problème étant qu'il n'existait pas de programme ou d'algorithme approprié. Kurzweil défendait la position inverse. Pour lui, l'intelligence est proportionnelle à la capacité de traitement. Aucun des deux n'a pu prouver sa thèse à l'époque, Minsky n'avait pas l'algorithme et Kurzweil n'avait pas d'ordinateurs suffisamment puissants. Cependant, Kurweil pense que les récentes avancées technologiques renforcent son point de vue. Il existe aujourd'hui des superordinateurs qui ont dépassé la barrière de l'exaFLOP, atteignant des niveaux de calcul qui seraient environ 10 000 fois supérieurs à la vitesse de traitement du cerveau humain. Pour Kurzweil, la partie non biologique de notre cerveau aura une capacité de calcul bien supérieure à la partie biologique.
Notre corps biologique est sous-optimal, car il est le produit de processus aléatoires, déterminés par les circonstances environnementales et le hasard au cours de l'évolution des organismes. On retrouve la même limitation structurelle dans le système nerveux, qui empêche un traitement plus poussé de l'information. De la même manière que l'évolution des espèces a ajouté des couches de traitement, depuis les structures sous-corticales jusqu'aux couches du néocortex, des couches de traitement de l'information peuvent être ajoutées à l'aide de matériel informatique. Cela implique l'expansion du système nerveux vers des unités prothétiques, d'abord externes (nous nous appuyons déjà sur elles), mais finalement internes. La nanotechnologie aboutira directement à l'expansion de notre cerveau, avec des couches de neurones virtuels dans le cloud. À ce moment-là, nous fusionnerons complètement avec l'IA, élargissant notre intelligence et notre conscience d'une manière si profonde qu'elle est en réalité difficile à comprendre. De la même manière qu'un animal peut difficilement comprendre les informations symboliques et métacognitives qu'il ne traite pas, l'être humain ne peut pas non plus comprendre tous les degrés de possibilité qu'il ne traite pas. Par conséquent, selon Kurzweil, nous devons remettre en question ce qu'est l'être humain et sortir d'une biologie qui nous limite, ouvrant la porte à une évolution dirigée par la bio-ingénierie et l'intelligence artificielle. Cela implique qu'il est possible d'explorer l'éventail des possibilités génétiques non sélectionnées par des processus de bio-ingénierie, ou même par simple calcul de la conscience, transcendant la structure biologique même des corps.
C'est le professeur de mathématiques John McCarthy qui a proposé le terme « intelligence artificielle » en 1956. Kurzweil prédit que dans les années 2030, l'IA ne sera plus quelque chose d'extérieur avec lequel nous interagissons via un écran, mais que nous nous connecterons directement à elle, en nous intégrant à notre cerveau grâce à une expérience immersive. Cela implique que l'IA fera progressivement partie de notre activité cérébrale, de notre cognition et de notre expérience sensorielle. Elle deviendra ainsi une extension de notre esprit et de notre conscience, et donc de notre identité. John von Neumann a anticipé l'idée d'une « singularité technologique » vers 1960. La singularité est le moment où l'intelligence artificielle surpassera l'intelligence humaine, s'auto-améliorant à une vitesse exponentielle, transformant radicalement la civilisation et mettant fin à l'ère humaine.
CONSCIENCE ET IDENTITÉ
Kurzweil repense radicalement la signification de l'être humain. Ce n'est pas la structure biologique anthropoïde, quelque chose d'accidentel, mais fondamentalement la conscience et l'identité. Nous sommes des êtres humains essentiellement par la perception d'une expérience autobiographique particulière, être humain signifie avant tout être au centre de notre expérience. Avec la res cogitans de Descartes comme point fixe, la res extensa peut être construite de la manière la plus efficace avec les degrés de liberté permis par les lois de la physique. Les philosophes de la conscience appellent qualias les contenus de l'expérience consciente que nous vivons. Il y a là un problème, insoluble pour beaucoup, à savoir que la conscience ne peut être expérimentée qu'à la première personne, et ne peut donc pas être étudiée scientifiquement à la troisième personne, c'est-à-dire du point de vue empirique de l'observation externe. C'est ce que David Chalmers a appelé le « problème difficile » de la conscience. La conscience n'est vérifiable que par celui qui en fait l'expérience, à la première personne.Le premier problème de l'identité est que nous nous trouvons face au paradoxe du bateau de Thésée, exposé par les Grecs il y a 2000 ans. Si nous remplaçons une pièce d'un bateau, le bateau a changé, mais il reste le même bateau. De la même manière, une rivière contient de l'eau complètement différente à chaque instant, mais nous considérons qu'il s'agit toujours de la même rivière. De même, les êtres humains ne sont pas moléculairement identiques, même pendant une fraction de seconde de leur vie. C'est pour cette raison que les bouddhistes considéraient ce sentiment de permanence comme une illusion de l'esprit. De la même manière, nous pourrions changer toutes les pièces d'un bateau, et il resterait le même bateau. Il en va de même pour notre cerveau. Les neurones persistent, même si leur mécanisme cellulaire se renouvelle à chaque instant, remplaçant les mitochondries, les récepteurs, les protéines synaptiques, etc. Notre cerveau peut être complètement renouvelé tous les quelques mois. Et pourtant, le sens de la conscience demeure, même si tout le mécanisme qui le produit est différent.
Il y aurait deux aspects différents à comprendre au sujet de la conscience. Le premier est une qualité fondamentale, quelque chose que l'on a ou que l'on n'a pas. En général, nous supposons que la matière inerte n'a pas de conscience, tandis que les êtres vivants en sont dotés. À partir du moment où un être vivant a conscience, il expérimente différents degrés de cette conscience selon son organisme. Beaucoup de gens pensent qu'un insecte doit avoir une sorte de conscience de son environnement, aussi rudimentaire soit-elle. Une certaine sensibilité minimale. Certains auteurs considèrent que cela s'étend même à des niveaux microscopiques, ou encore aux plantes. Plus encore, un nombre croissant de philosophes pensent que toute la matière qui nous entoure peut en réalité avoir un certain degré de conscience, et que la seule différence réside dans la complexité de ce que cette agrégation de matière traite. De ce point de vue, même un atome aurait une conscience minimale de son existence, même si elle était résiduelle.
Certaines personnes croient en une vision complètement matérialiste, selon laquelle la conscience est causée par des processus physiques, par la matière, avec ses différents niveaux de complexité. À l'opposé, les visions idéalistes supposent que seule la conscience existe. La perception du monde matériel est quelque chose que nous hallucinons, pourrait-on dire (ce serait l'argument de la célèbre saga Matrix). Les visions dualistes considèrent que la conscience est quelque chose de complètement séparé de la matière morte, ce qui peut s'accorder avec une vision de l'âme, ainsi qu'avec d'autres idées vitalistes. Le principal problème posé par le dualisme est que nous n'avons aucune théorie pour expliquer comment l'âme surnaturelle affecte la matière. Le physicalisme, quant à lui, ne permet pas d'expliquer le « hard problem » de la conscience, c'est-à-dire l'existence même de la conscience. D'autres visions, que l'on pourrait qualifier d'intermédiaires, situent la conscience sur un plan différent de la matière. Certains auteurs, comme Roger Penrose, situent la conscience au niveau quantique. D'autres pensent que la conscience est autre chose, complètement séparée des processus physiques, quelque chose qui n'émerge pas des processus inférieurs de la matière, mais qui la précède, ayant été créée par Dieu. Les visions panthéistes voient dans toutes les formes matérielles l'expression d'un Dieu qui s'exprime en tout, formant des parties intégrantes d'une conscience absolue qui fait partie de tout. Pour David Chalmers, la conscience ne serait pas un phénomène biologique, mais plutôt une sorte de force fondamentale de l'univers que la matière biologique traite. Selon cette idée, le « panprotopsiquisme », la conscience est quelque chose qui existe en dehors des organismes et en dehors de la physique matérielle. Les organismes vivants se « connectent » simplement à elle ou interagissent avec elle à partir d'un plan physique. La complexité de la matière traiterait ce champ de conscience de différentes manières. Kurzweil est réceptif au cadre de Chalmers. Cela suppose que le type de matière n'a pas vraiment d'importance, qu'il s'agisse du carbone de la biologie ou du silicone du matériel informatique, la conscience se produirait de la même manière.
Pour revenir au bateau de Thésée, notre cerveau est constitué de noyaux et de réseaux neuronaux, eux-mêmes composés de neurones fonctionnellement actifs au niveau individuel. Les neurones sont finalement des acides aminés, des atomes, des protons, des électrons, etc. Il n'y a donc rien qui ne puisse être créé et reproduit physiquement. La perception unitaire de la conscience en tant que personne est également intrigante. Il semble que le cerveau soit composé de sous-unités de conscience, et nous savons qu'elles peuvent se fragmenter. La conscience unifiée en un seul flux fait donc partie d'un ensemble de parties de conscience. Des études chirurgicales ont montré que les personnes peuvent présenter des consciences distinctes avec des intérêts différents, et que chaque lobe cérébral peut être accessible séparément, révélant des goûts et des opinions différents. Les études de Gazzaniga sont bien connues à cet égard. La conscience semble donc fonctionner non seulement de manière émergente au sens unitaire, mais aussi par le biais de sous-processus dotés d'une conscience autonome à chaque niveau, qui s'agrègent pour former des niveaux supérieurs de complexité.
Contrairement à l'inertie déterministe d'une grande partie des scientifiques, Kurzweil pense que les processus cérébraux de base donnent lieu à des processus qui ne fonctionnent pas de manière linéairement réductible. Cela implique que nous pouvons vivre dans un monde physique basé sur des lois fondamentales, tout en bénéficiant du libre arbitre. Wolfram a proposé que des systèmes extrêmement simples peuvent générer des comportements incroyablement complexes et imprévisibles, avec des exemples d'automates cellulaires, défiant ainsi les versions réductionnistes du déterminisme. Pour Wolfram, la complexité émerge de programmes déterministes, mais ceux-ci produisent des modèles complexes, de sorte que le résultat est quelque chose qui va au-delà du programme. Reproduire la fonction cérébrale n'équivaut pas à la capacité de précalculer ses états futurs. Par conséquent, un monde déterministe dans ses processus, avec une causalité mécaniste, peut avoir un libre arbitre. Les processus cérébraux ne nous contrôlent pas, c'est nous qui nous contrôlons. À partir de processus fondamentaux émerge la conscience avec laquelle nous nous exprimons dans le monde par des actions. Cependant, l'ouverture causale produit un certain indéterminisme, qui n'implique pas nécessairement le libre arbitre au sens d'une action autonome dérivée de la conscience de soi et de l'autoréflexivité. Le fait qu'une chose soit imprévisible ne signifie pas qu'elle soit libre ni ne démontre une intentionnalité au sens d'une expérience subjective, et ne résoudrait donc pas le problème difficile.
INTERFACE CERVEAU-IA
Les enregistrements cérébraux sont actuellement très limités, tant au niveau de la résolution spatiale de l'électroencéphalographie que des limites de résolution temporelle de l'imagerie fonctionnelle cérébrale. Nous pouvons enregistrer l'activité des neurones, même au niveau individuel, mais il s'agit de techniques invasives qui nécessitent une intervention chirurgicale et ne sont pas sans risque. Cependant, plusieurs technologies sont en cours de développement. Des études ont été menées à partir de dictionnaires de quelques centaines de mots et ont montré qu'il est possible de déterminer le mot auquel une personne pense à partir de l'activité électrique corticale. Il s'agit toutefois d'un modèle simple avec un groupe de mots limité, qui ne rend pas compte de la syntaxe complexe du langage ordinaire. Cela montre néanmoins qu'il est possible de décoder les schémas de l'activité cérébrale de manière prédictive. Le Neuralink d'Elon Musk est l'un des projets les plus ambitieux dans ce domaine. Le Neuralink a été implanté sur un singe, qui a été capable de jouer au Pong sur un écran avec ses pensées après avoir décodé ses schémas neuronaux à partir du mouvement d'un joystick. Après avoir été approuvé par la FDA, le premier dispositif a été implanté sur des humains avec 1 024 électrodes d'enregistrement. Des tentatives sont en cours pour produire des dispositifs capables d'enregistrer l'activité d'un million de neurones. Le processus est bidirectionnel, il implique également l'activation de centaines de milliers de neurones. L'objectif serait de créer une couche corticale qui servirait d'interface avec un intranet, à l'aide de capteurs. Il ne sera peut-être pas nécessaire de cartographier l'ensemble du cerveau, étant donné le grand nombre de processus inférieurs qui ne présentent pas d'intérêt pour le traitement cognitif, et les systèmes neuronaux redondants qui peuvent être créés plus directement que ce que l'évolution a créé le cerveau.D'ici 2040, Kurzweil pense qu'il existera des nanorobots qui pénétreront dans le cerveau par les capillaires sanguins et seront capables de copier toutes les données. Il existera alors une réplique complète de l'esprit de chaque personne. Il s'agit d'un premier type d'immortalité. Reste à savoir s'il s'agit d'une réplique de la personne ou de la conscience de soi elle-même, capable d'être exportée. Non seulement cela augmentera notre capacité cérébrale de manière exponentielle, mais cela constituera également le premier type d'immortalité. Pour Kurtzweil, cela signifie nous libérer de notre crâne. Cela ne nous affecterait pas seulement nous. Nous pourrions permettre à un animal d'élargir sa conscience. Dans cette hypothèse, nous serions théoriquement capables de parler à notre animal de compagnie, car ses capacités cognitives seraient étendues dans le cloud et son activité neuronale transformée en langage par un logiciel. Cela signifie également que nous pourrions contrôler totalement le comportement en activant des schémas neuronaux, ce que nous savons déjà faire grâce à des expériences d'activation neuronale par optogénétique sur des animaux.
Copier notre esprit sur des dispositifs de sauvegarde constituerait une protection contre tout accident ou maladie. Nous pourrions avoir une réplique d'une personne, progressivement impossible à distinguer de l'originale. Cependant, nous sommes confrontés au problème appelé « zombie philosophique », à savoir la création d'une réplique sans conscience à la première personne. Seule la réplique pourrait savoir si elle a une conscience en en faisant l'expérience à la première personne. Le problème se pose car il n'existe aucun moyen scientifique d'objectiver et de démontrer de manière externe si cette réplique a ou non une conscience. Nous ne pouvons pas prouver que cet être n'est pas conscient, pas plus que nous ne pouvons le prouver pour un insecte, par exemple, même si nous pouvons manipuler ses neurones et modifier son comportement. Mais nous ne savons pas ce qu'il ressent subjectivement.
Pour Kurzweil, c'est une raison pour traiter l'intelligence artificielle comme un être conscient, même si nous ne pouvons pas le prouver. Ce serait la manière correcte d'agir moralement. Le test de Turing ne servirait pas uniquement à établir des capacités cognitives au niveau humain, mais serait également une preuve de conscience subjective et, par conséquent, de droits moraux. Cela impliquerait peut-être des droits légaux pour l'IA. Kurtzweil n'aborde pas une question qui me semble évidente : que se passe-t-il si le modèle informatique lui-même dit qu'il n'est pas conscient ? Devons-nous agir a priori comme s'il était conscient, ou devons-nous tenir compte de ce qu'il nous dit ?
Les simulations cérébrales peuvent être résumées en cinq catégories : fonctionnelle, connectomique, cellulaire, moléculaire et quantique. Les émulations fonctionnelles traiteraient l'information en essayant de simuler l'esprit. Les modèles connectomiques reproduiraient les connexions hiérarchiques entre les groupes de neurones, imitant l'activité mentale au niveau de la structure. Le modèle cellulaire reproduirait le traitement de l'information au niveau des cellules. Le modèle biomoléculaire reproduirait le traitement de l'information au niveau de son mécanisme cellulaire interne. La phase la plus avancée serait probablement l'émulation quantique, qui reproduirait le traitement au niveau subatomique. Cependant, selon Kurzweil, cela nécessiterait une puissance qui ne serait pas atteinte avant la fin de ce siècle. Certains auteurs pensent que la conscience commence précisément au niveau quantique. Kurzweil pense que la conscience est indépendante de la machine qui la produit et que le niveau quantique n'est en réalité pas nécessaire.
« LA VIE DEVIENT EXPONENTIELLEMENT MEILLEURE »
Kurzweil consacre un tiers de son livre à exposer sa conception du progrès et du bien-être, qui est en grande partie une reprise de Pinker. Ses arguments oscillent entre réductionnisme, ignorance et frivolité, c'est pourquoi cette section est une critique de ses points centraux.Un classique de la propagande médicale et scientiste consiste à confondre santé publique (ou santé tout court) et médecine. C'est en fait l'un des grands mythes fondateurs de nos sociétés occidentales, élément central des faux schémas de la population et de la violence rationalisante du système. Kurzweil laisse entendre que l'amélioration de l'espérance de vie de la population est essentiellement due aux progrès médicaux et pharmacologiques. C'est complètement faux et ignorant. Bien qu'elle occupe une place prépondérante dans l'imaginaire collectif, la médecine n'a contribué que pour un pourcentage minime à l'espérance de vie.
https://www.annfammed.org/content/17/3/267
L'espérance de vie a augmenté avant tout grâce à la séparation de l'eau potable et des eaux usées, à la collecte des ordures, à l'assainissement et à la propreté générale des villes, à une meilleure alimentation, etc. De plus, la majeure partie du gain en espérance de vie est antérieure à 1950, alors que la pharmacologie à laquelle on fait souvent référence est postérieure à 1950. L'épidémiologiste Archie Cochrane, l'un des pères de la médecine fondée sur les preuves, a lui-même démontré à la fin des années 1960 qu'il n'y avait pas de corrélation positive entre l'offre de soins médicaux d'un pays et l'espérance de vie
https://jech.bmj.com/content/32/3/200
D'autre part, l'espérance de vie ne correspond pas au nombre d'années vécues par les adultes, mais est principalement déterminée par la mortalité infantile. Les maladies infectieuses infantiles déterminent la majeure partie des statistiques d'espérance de vie d'une société. Cependant, les causes de la mortalité infantile ne sont pas uniquement biologiques, et le néonaticide et l'infanticide ont été courants en cas de maladie, de handicap ou de conditions de vie difficiles. Dans nos sociétés, nous avons remplacé cela par des centaines de milliers d'avortements, augmentant ainsi les statistiques d'espérance de vie. Les aspects reproductifs, que nous classons comme « mort prématurée » ou « avortement », et d'autres décisions concernant la naissance de personnes atteintes de problèmes graves, constituent une part importante des statistiques d'espérance de vie. Il existe même des preuves que certains systèmes gèrent les décisions reproductives elles-mêmes dans le but explicite d'améliorer les statistiques relatives à la mortalité et à l'espérance de vie.
https://academic.oup.com/heapol/article/33/6/755/5035051
En outre, une part importante de la réduction de la mortalité infantile est due à la réduction des risques environnementaux (par exemple, le travail des enfants) et à la réduction des décès liés à la violence, et non au traitement médical des maladies. L'espérance de vie est également influencée par l'allongement de la vie biologique des personnes, sans nécessairement prolonger la vie fonctionnelle ou même la vie consciente. En effet, une fois l'enfance passée, les adultes de nombreuses sociétés sans médecine ont une espérance de vie proche de celle de nombreux pays développés
https://onlinelibrary.wiley.com/doi/full/10.1111/obr.12785
D'autre part, la plupart des pratiques actuelles en médecine et dans les systèmes de santé ne reposent sur aucune preuve, et certains des articles les plus cités en épidémiologie et en méthodologie scientifique remettent en question les preuves existantes issues de la recherche médicale elle-même
https://www.sciencedirect.com/science/article/abs/pii/S089543562200...
https://journals.plos.org/plosmedicine/article?id=10.1371/journal.p...
La médecine a joué un rôle dans la réduction de la mortalité infantile, mais la majeure partie de la société surestime grossièrement le rôle de la médecine dans la santé de la population, jusqu'à atteindre un niveau irrationnel et mythologique. Parfois, cela va jusqu'à la panique de masse. La majeure partie de l'espérance de vie n'est pas due à des facteurs médicaux, mais surtout à des facteurs environnementaux et culturels, et réduire l'espérance de vie à la médecine comme le fait Kurzweil est erroné et ignorant.
Pinker et Kurzweil suivent la même logique avec les statistiques sur la violence et la criminalité, confondant la baisse des statistiques de la criminalité avec la baisse de la criminalité. Par exemple, la cybercriminalité ne cesse d'augmenter de manière exponentielle, mais seule une fraction des délits est poursuivie, de sorte qu'ils ne sont pas pris en compte dans les statistiques sur la « criminalité ». La criminalité se déplace de la rue vers Internet, où les opportunités sont plus nombreuses et l'exposition moindre. Si, dans certains contextes, les agressions physiques diminuent, les agressions psychologiques, le chantage et l'extorsion augmentent, et en fait, les preuves montrent que les conséquences psychologiques sont plus traumatisantes que les conséquences physiques. Cela est complètement ignoré par Kurzweil.
À un moment donné dans son livre, l'auteur mentionne, très surpris, que le COVID est peut-être sorti d'un laboratoire. Vingt à trente millions de personnes sont peut-être mortes si l'on tient compte de la surmortalité, qui n'entre pas non plus dans les statistiques sur la « criminalité », simplement parce que les responsables et ceux qui ont tenté de le dissimuler de manière coordonnée ne font pas l'objet d'enquêtes. Cependant, nous appelons cela « COVID » et non « crime », et le tour est joué. Hors des statistiques. Il est évident que l'Occident ne va pas se faire un Nuremberg pour enquêter sur lui-même. D'autant plus qu'il y a beaucoup de personnes puissantes impliquées qui ne vont évidemment pas enquêter sur elles-mêmes. Pendant ce temps, Pinker ou Kurzweil se réjouissent des statistiques conçues pour retirer les crimes des statistiques sur la criminalité. Beaucoup des personnes les plus dangereuses au monde ne figurent dans aucune statistique criminelle, mais font partie de nos institutions et de nos entreprises les plus prestigieuses.
Le même sophisme s'applique à nos intérêts géostratégiques et à nos « opérations militaires », qui ne sont bien sûr pas des « crimes » et ne sont pas pris en compte dans nos statistiques de « criminalité ». Les morts indirectes causées par la famine, les déplacements, les maladies ou les stratégies de guerre les plus sophistiquées, telles que l'étranglement économique, ne sont bien sûr pas non plus des « crimes » à inscrire dans un graphique à la Pinker-Kurzweil. En définitive, il existe toutes sortes d'actions violentes qui causent des dommages mais que nous ne comptabilisons pas comme des « crimes », car les structures de pouvoir et les bureaucraties qui effectuent ces classifications jonglent avec des concepts et des statistiques que des auteurs tels que Kurzweil et Pinker reproduisent avec un amateurisme sociologique embarrassant.
De plus, le problème épistémique auquel Kurzweil est confronté avec son positivisme numérique est qu'il nous conduit à considérer la Corée du Nord comme un grand modèle de société pacifique, puisqu'elle est l'un des pays où la criminalité est la plus faible au monde si l'on en croit les statistiques sur les vols, les agressions, les homicides, etc. Le fait que certains chiffres baissent n'implique pas qu'il y ait plus de bien-être ou moins de souffrance, ni même qu'il s'agisse d'un signe d'une société soumise qui ne peut même pas réagir aux abus dont elle est victime. Le modèle de « paix » de Kurweil et Pinker confond vertu morale et contrôle social. Sous le couvert du progrès numérique, Pinker et Kurzweil légitiment la dystopie techno-panoptique de Bentham. La diminution de la violence en Occident va de pair avec l'augmentation de la violence institutionnelle, ce que Kurzweil ne veut pas non plus mentionner. Des millions de personnes sont privées de liberté dans les prisons au quotidien, pour la plupart pour des délits non violents, ce qui a été normalisé par la société, sans que personne ne s'interroge sur sa raison d'être et sans qu'il existe de preuves de son effet sur la criminalité au niveau individuel ou social. Contrairement à ce que veulent affirmer Pinker et Kurzweil, la violence ne disparaît pas ; elle s'institutionnalise, se normalise et est écartée du regard. Il ne s'agit pas d'une amélioration de la société, mais d'un changement de stratégie de contrôle social. C'est la définition la plus pure du monopole de la violence du sociologue Max Weber. Malgré tout, la violence physique continue d'exister, à l'intérieur des murs. Et elle échappe à nouveau aux statistiques de Pinker et Kurzweil. En outre, un pourcentage élevé de la population carcérale souffre d'un trouble mental grave diagnostiqué. Un professeur de psychiatrie légale s'est courageusement demandé si les prisons ne sont pas en réalité les nouveaux asiles psychiatriques. La destruction du droit au profit d'un positivisme juridique autoritaire échappe complètement à la conscience des auteurs.
Le concept de pauvreté de Kurweil est tout aussi numérique, économiste, biaisé et ethnocentrique. Il oublie de mentionner que le concept de pauvreté est avant tout relatif à l'adaptation socioculturelle de l'individu au groupe et au cadre écologique. Il n'ose pas non plus mentionner qu'il y a aujourd'hui plus d'esclavage en termes absolus qu'il y a 500 ans, ce qui est spectaculairement censuré partout. Sans surprise, Kurzweil affirme que la faim en Afrique est due au fait que l'on ne cultive pas d'organismes génétiquement modifiés. Le sophisme de cet argument est que l'Afrique a seulement besoin d'une agriculture normale comme celle que nous avons dans le reste du monde, ou simplement que nous cessions de la soumettre au dumping économique alimentaire. Profiter de la situation pour introduire de force les organismes génétiquement modifiés, c'est tenter d'exploiter la vulnérabilité politique d'un continent pour transformer un problème politique en un problème d'organismes génétiquement modifiés, à la manière d'un cheval de Troie. Cela les rendrait en outre dépendants des oligarchies corporatives et technocratiques occidentales, qui renforceraient leur contrôle sur le continent aux niveaux politique, économique et technologique. J'ai du mal à croire que le raisonnement de Kurzweil soit naïf. En outre, cela reviendrait à soumettre un continent à une expérience à grande échelle qui comporte des risques systémiques et des conséquences imprévisibles sur la biosphère.
Il est évident que la technologie progresse, mais ce même progrès technologique signifie que, pour la première fois dans l'histoire de l'humanité, une seule personne peut détruire le monde entier avec un laboratoire peu coûteux. Les voitures autonomes conduisent toutes seules, et c'est certes fascinant. Mais notre cher Ray ne nous explique pas la menace évidente que tout cela représente. L'automatisation des véhicules implique leur contrôle par l'État. C'est désormais le système central qui décide qui peut utiliser sa voiture et qui ne le peut pas, peut-être parce que vous n'avez pas mis à jour votre carnet de vaccinations, que vous n'avez pas assez de points sur votre carte de citoyen obéissant, ou parce qu'il y a une forte grippe cet hiver et que tout le monde est confiné pour des raisons de « santé publique », de « science » et de « bien commun ». Nous sommes en train de normaliser la fin de la liberté et l'utilisation autoritaire des lois. Dans sa célébration de la démocratie, Kurzweil omet de se demander si tout cela est même compatible avec une quelconque conception de la démocratie. Pinker lui-même a signé ces dernières années un manifeste contre la censure dans les universités, la persécution et la « cancel culture ». À son crédit, il a ouvertement critiqué le silence et la persécution des professeurs de santé publique opposés aux politiques COVID. Cependant, il défend de manière contradictoire le même système qui produit ces dynamiques.
L'augmentation du niveau d'alphabétisation enthousiasme Kurzweil. Il oublie de mentionner la baisse apparente du quotient intellectuel en Occident (effet Flynn inversé), le déclin des habitudes de lecture, etc. Cependant, nous devons nous demander à quoi sert de savoir lire si nous vivons dans un système totalitaire qui contrôle toute l'information à la manière de 1984. Incroyablement, Kurzweil parle de « désinformation » pendant la COVID. Mais il ne semble pas faire référence à ceux qui ont imposé par la censure et la violence une fausse histoire sur la COVID, mais à ceux qui ont correctement soupçonné que ce qui était raconté était opaque, manipulé ou faux, et qui savaient que la plupart des mesures prises n'avaient aucun fondement scientifique. 1984 : le mensonge devient la vérité, puis la vérité devient le mensonge. Je ne peux pas publier des informations que je peux étayer par des centaines d'études scientifiques, et je ne peux le faire qu'en privé. D'autres peuvent mentir ouvertement sans jamais être censurés.
Un autre argument utilisé par Kurzweil est l'augmentation du PIB en Occident. Il oublie de mentionner qu'une grande partie de cette production concerne des biens superflus, contrairement au paradigme d'efficacité et d'écologie qu'il tente ensuite de défendre de manière totalement contradictoire. Il doit également expliquer pourquoi, si la capacité économique des individus est progressivement plus importante, ceux-ci pouvaient auparavant vivre de leurs propres économies, alors qu'ils doivent aujourd'hui s'endetter. Il doit expliquer pourquoi les personnes d'autrefois, qui avaient un PIB par habitant inférieur, avaient la capacité de payer un logement en quelques années avec leur salaire, et pourquoi les personnes d'aujourd'hui, qui bénéficient d'un PIB par habitant plus élevé, vivent de plus en plus chez leurs parents parce qu'elles n'ont pas les moyens de se loger. L'économie nominale des graphiques de Kurzweil n'est pas l'économie réelle des personnes. Le PIB par habitant ne montre pas qui profite de cette économie. Au contraire, ces graphiques cachent la redistribution et la concentration croissantes du capital vers les oligarchies étatiques et corporatives qui ont mis en place des systèmes financiers, fiscaux et juridiques facilitant l'extraction de la valeur des rentes et la dépendance des personnes envers le système. Même si les gens ont voulu se convaincre du contraire.
Il est facile de démontrer que les technologies ont tendance à baisser de prix, car le marché tend à les réduire en améliorant l'efficacité des processus de production. Kurzweil fait à nouveau preuve de naïveté en parlant de maisons préfabriquées bon marché. Cela existe depuis longtemps, le problème du prix du logement ne réside pas dans la production, mais dans la politique. Le problème du logement est loin d'être le prix des briques ou des matériaux de construction que l'on souhaite utiliser. Le prix du logement est essentiellement le prix du terrain, le système d'extraction de rente par le biais d'un mécanisme d'ingénierie inflationniste, qui soutient les bilans des banques et l'émission de crédit par le biais de la réserve fractionnaire, et le coût d'opportunité de la collecte publique sur l'ensemble de ce système parfaitement calculé. Ce n'est pas le coût de production des matériaux, mais le système qui empêche le logement bon marché, car cela détruirait le schéma d'endettement constant qui garantit le paiement constant des citoyens. Pour accroître son pouvoir sur la société, le système doit maximiser ses revenus en prélevant les rentes qu'il tire de celle-ci. L'État ne permettra pas la baisse du prix du logement, car il perdrait son propre financement. Contrairement à la vision de Kurzweil (ne soyez pas naïf ou le contraire), il n'y a pas de problème de production de logements, mais bien un problème avec le système politique grâce auquel les oligarchies étatiques et financières extraient systématiquement de l'argent de la société en utilisant le sol comme instrument. L'État ne va pas abandonner ses mécanismes de collecte, car il perdrait sa capacité économique et, avec elle, son contrôle sur la société. C'est évident. La hausse du prix du sol est en effet le pilier sur lequel repose notre système financier. Je ne sais pas si l'automatisation complète des processus de production peut signifier la fin de cette économie. Le marché classique où les personnes échangent des biens et des services disparaîtra progressivement, de sorte que l'économie réelle tendra vers une simple abstraction centralisée d'allocation sociale de crédit. Cependant, l'État cherchera à imposer une hypothèque symbolique qui enchaînera les individus afin de continuer à les contrôler. L'État ne favorisera pas l'autonomie des individus, mais leur dépendance. La maison préfabriquée bon marché de Kurzweil sera assortie d'une hypothèque de crédit social, de la présentation quotidienne d'une carte de produits biomédicaux, etc.
L'automatisation aboutit nécessairement à un revenu de base, ce que Kurzweil mentionne. Je donne souvent cet exemple : imaginons une petite communauté sur une île. Chaque membre a pour tâche de pêcher 3 ou 4 poissons par jour, afin de satisfaire notre seul besoin dans cet environnement, qui est d'avoir de quoi manger. Un jour, quelqu'un invente des filets fixes qui attrapent les poissons sans que personne n'ait à s'en occuper. À partir de ce moment, le schéma de travail de notre petite communauté est brusquement interrompu. Quel est le problème de se retrouver sans travail ? Aucun. Il suffit de conclure un accord pour répartir le poisson. Nous sommes face à la même situation, mais à grande échelle. L'automatisation du travail ne pose aucun problème. La question est de savoir comment répartir ce que produisent les processus automatisés. Cependant, étant donné que l'automatisation affectera les emplois de manière différente et progressive, la question est de savoir comment mettre en ?uvre le droit à ce revenu de base en fonction du secteur d'activité et de la situation particulière des personnes. Certaines personnes percevront peut-être ce revenu de base, et d'autres percevront un revenu de base tout en travaillant pour gagner un salaire supplémentaire. Que cela nous plaise ou non, nous nous dirigeons vers un système socialisé. C'est pourquoi le système a soudainement changé de discours pour adopter des idées fortement étatistes et interventionnistes afin d'habituer les gens à un système autoritaire. Les idées altermondialistes de certains des politiciens les plus importants de la gauche du dernier demi-siècle, comme Julio Anguita, sont désormais considérées comme « d'extrême droite ».
L'automatisation des processus de production ne doit pas être confondue avec le fait que l'État donne de l'argent gratuitement aux gens, ce qu'ils tenteront de vendre. L'automatisation a été rendue possible grâce à ceux qui ont passé leur vie à travailler, ainsi qu'aux entreprises et aux technologies. Cependant, il existe une menace sérieuse. Cette situation implique une dépendance accrue des personnes envers l'État. Elle implique une centralisation absolue, dans laquelle le « crédit social » est l'outil de légitimation politique de celle-ci. C'est la situation de contrôle parfaite à laquelle aspire tout dirigeant, l'achat du vote par le chantage à l'aide d'un revenu. Cela revient à faire de toute la société un réseau clientéliste qui reçoit un revenu socialisé, échangeant la souveraineté et la liberté contre une part d'argent. L'État s'interpose stratégiquement entre ce qui est produit et les personnes, créant l'illusion d'une bienfaisance et d'une divine providence laïque. Le fruit de l'effort social est approprié et transformé en illusion d'une faveur politique que le dirigeant produit et accorde à ceux qu'il gouverne. Cette idée est fausse et crée une situation extrêmement dangereuse, qui signifie en réalité la fin de tout degré de « démocratie » qui pourrait exister. C'est fini.
Pinker et Kurzweil traitent avec de simples données des questions qui sont beaucoup plus complexes. Les chiffres ne sont pas neutres comme beaucoup le pensent. La vérité est condamnée face à la persuasion, comme l'avait déjà compris Socrate. Présenter des idées simples est plus convaincant que de devoir donner toutes sortes d'explications. C'est pourquoi nous vivons dans des sociétés inévitablement corrompues. Les chiffres sont persuasifs en raison de leur apparence de rationalité mathématique, mais ils sont souvent utilisés pour masquer des réalités qui les contredisent. Kurzweil se plaint des « biais cognitifs » de ceux qui ne croient pas aux chiffres présentés dans les quelque 100 pages consacrées à ce sujet. Le bon Ray ne voit pas ses propres biais (je vous les dis) : sophisme inductif, biais de classification, présentisme, réductionnisme, économisme, positivisme, confusion entre le nominal et le réel, ethnocentrisme, auto-confirmation, historicisme, solutionnisme technologique... et, en définitive, un amateurisme en matière de santé publique, de science politique et de sciences sociales en général difficilement dissimulable. Bien sûr, ce sont des idées complexes et discutables, mais c'est précisément ce qui manque à l'ouvrage, d'où la critique méritée. Nous pardonnerions à Ray s'il n'avait pas consacré un tiers de son livre à nous faire subir un tel exercice d'amateurisme et de superficialité, d'autant plus venant de quelqu'un qui est supposé être un génie intellectuel et qui semble gagner entre 50 000 et 100 000 euros par conférence.
MÉDECINE ET POSTHUMANISME
Les lignes futuristes de Kurzweil en matière de santé ont été mieux exposées dans son ouvrage de 2005, « La singularité est proche ». L'être humain n'a pas besoin d'un c?ur qui s'use et consomme des calories pour oxygéner les tissus. Ray pense que les tissus peuvent être oxygénés directement, et que l'avenir consiste donc à se passer du c?ur. Il en serait de même pour les autres organes. Cela nous rendrait plus efficaces sur le plan énergétique, car les aliments que nous consommons sont essentiellement destinés à l'activité inefficace de tous les organes de notre corps. Cela n'apparaît toutefois pas dans cet ouvrage. Il est toutefois évident que Ray veut nous transformer en réplicants, en fantômes sans organes. Kurzweil me répondrait certainement qu'il est possible de créer une simulation interoceptive des aspects liés au cortex pariétal et insulaire, ainsi que des aspects interoceptifs de la perception du corps. Mais je pense à l'homme de fer-blanc qui rêvait d'un c?ur pour se sentir vivant dans Le Magicien d'Oz.Kurzweil reconnaît que les psychotropes fonctionnent mal, voire pas du tout, et qu'ils génèrent de nombreux problèmes. Cependant, il pense que les problèmes de santé mentale peuvent être réparés à la base. Kurzweil ne pense qu'en termes de processus ascendants, sans bien comprendre que de nombreux « troubles » sont des problèmes descendants. En d'autres termes, aucun neurotransmetteur ni processus physiologique ne peut donner à une personne le sentiment que sa vie a un sens et une transcendance simplement en augmentant le tonus hédonique ou un autre processus simple. Le reste relève de l'ingénierie affective, qui ne ferait que créer un fantôme narcotisé, qui n'est plus une conscience humaine vivant une vie, mais une entité informatisée au niveau expérientiel. Il est problématique de penser que le sens de la vie doit aller dans le sens de l'efficacité. Je pourrais alors placer un levier avec des électrodes directement sur ma voie mésolimbique et l'activer pour me gratifier sans avoir à vivre aucune expérience vitale. Les études d'Olds et Milner ont montré que cette voie de l'efficacité par l'activation des neurones conduisait les animaux de laboratoire à une réduction de leur vie, jusqu'à la mort.
Étant donné que de nombreux agents pathogènes qui constituent une menace proviennent d'animaux que nous avons commencé à domestiquer il y a seulement quelques milliers d'années, notre système immunitaire n'a pas évolué suffisamment pour les combattre. Kurzweil prédit l'arrivée de nanorobots qui détruiront tous les agents pathogènes nécessaires et répareront les cellules une par une. Mais avant cela, il est certain que nous nous dirigeons vers un système biomédical qui remet en question la nécessité du travail actuel de nombreux médecins. Il existe déjà des études comparant l'IA aux médecins dans l'évaluation des tests d'imagerie, etc. On théorise également un transfert important des essais cliniques vers des simulations in silico avec des populations massives.
Kurzweil ne nous dit pas non plus ce qu'il adviendra de la sexualité, quand avoir un enfant, si l'on peut appeler cela ainsi, sera une question de culture d'une cellule dermique en laboratoire. Il ne faudra plus deux personnes. Ce sera une production de bio-ingénierie. C'est déjà pratiquement une réalité. Le culte de la technologie est la disparition même de l'être humain à mesure que la machine grandit. La science-fiction a toujours sauvé l'homme en le séparant de la machine, mais c'est naïf. Nous ne savons pas s'il restera quelque chose de l'être humain après tout cela. De plus, ce projet transhumain et posthumain se fait dans le dos de la population, qui n'a aucune idée de la direction que prennent les choses et n'a pas été invitée à y participer. C'est peut-être ce que Pinker et Ray appellent « la démocratie ». Que les gens aient du mal à comprendre, très bien. J'ai moi-même eu des élèves qui ont failli fondre en larmes, complètement désorientés.
COMMENTAIRES FINALS
L'évangile technorationaliste de Kurzweil considère l'évolution technique comme le moteur de la connaissance et la destinée de la vie comme une fatalité, et non comme un choix politique que l'on a voulu mettre en ?uvre. Il est évident que pour Kurzweil, la technologie est plus importante que la liberté ou l'autonomie, ou que la vie humaine elle-même au sens naturel. Pour Kurzweil, la société doit être guidée par la technologie. C'est quelque chose qui est déjà en train de se produire. Nous sommes sur le Titanic, bombant le torse avec l'hybris de l'idéologie scientiste et technocratique. Nous verrons bien si ce ne sont pas les Indiens dont parlait Pierre Clastres qui riront les derniers.Ray Kurzweil ne parle pas beaucoup des risques systémiques, un sujet qui a été développé plus clairement par des auteurs tels que Martin Rees. Cependant, Kurzweil a toujours reconnu l'existence de risques potentiellement catastrophiques pour l'existence de l'humanité. La biotechnologie, la nanotechnologie ou l'intelligence artificielle peuvent toutes conduire à notre extinction. Que ce soit une pandémie dévastatrice causée par un virus synthétique ou une réaction en chaîne de nanorobots autoreproducteurs. De nombreux scénarios sont envisageables dans lesquels notre survie est remise en question. Ray ne dit pas que nous ne sommes pas dans une course à l'entrepreneuriat pour vendre des applications avec des filtres pour divertir les gens. Le développement de ces technologies s'inscrit dans la plus terrible escalade technologique militaire de l'histoire de l'humanité. La course est celle du contrôle social de l'humanité. Il s'agit d'être le premier à briser tous les cryptages des télécommunications, le premier à construire l'armée de robots la plus sophistiquée et le premier à monopoliser le contrôle de toutes les communications. Et avec cela, prendre le contrôle de la conscience de toute l'humanité, non pas au sens symbolique classique, mais au sens codé, procédural et programmatique.
Pour Kurzweil, le cerveau biologique n'est qu'un accident de l'évolution. « Je ne peux pas le reprogrammer pour me libérer de mes peurs, de mes traumatismes et de mes doutes qui m'empêchent d'atteindre tout ce que j'aimerais atteindre ». Le paradoxe de Moravec expose que ce qui est difficile pour les humains, comme faire des calculs mathématiques complexes, est facile pour les machines, et inversement, ce qui est facile pour les humains, ce que nous faisons automatiquement et inconsciemment comme n'importe quel mouvement coordonné, est difficile pour une machine. Cela s'explique par le fait que le traitement des actions que nous avons automatisées est fondamentalement connexionniste, se programmant par sélection darwinienne au cours des millions d'années de notre évolution. La science-fiction a toujours sauvé l'être humain en le séparant de la machine, mais c'est naïf. Nous devrions plutôt nous demander s'il restera quelque chose d'humain après l'implantation progressive dans l'organisme, ou la réplique directe de notre esprit exportée vers du matériel informatique. Dans les deux cas, cela suppose la disparition de l'organique de l'organisme.
L'existence même de l'univers tel que nous le connaissons semble dépendre d'une série de conditions incroyablement précises, et donc improbables. De petites variations des constantes physiques fondamentales telles que la masse des quarks, la charge de l'électron ou la gravité auraient empêché la formation d'atomes stables, de carbone, de molécules complexes et, par conséquent, des regroupements avec différents niveaux de complexité qui constituent la vie. Il en va de même pour la force nucléaire forte : « celui qui a conçu les règles de l'univers a créé cette force supplémentaire, sinon l'évolution des atomes aurait été impossible ». L'astronome Hugh Ross compare la probabilité d'un univers comme le nôtre à celle qu'une tornade passant au-dessus d'une décharge laisse derrière elle un Boeing 747 prêt à voler. La vie est possible, mais à partir de règles du jeu cosmique étonnamment précises pour cela. Cela conduit au principe anthropique : nous ne pouvons observer qu'un univers qui soit d'abord compatible avec notre existence en tant qu'observateurs. Cependant, si nous partons du principe que la réalité existe indépendamment de notre perception, nous n'avons pas d'explication satisfaisante à cela. Pour Kurzweil, l'étape finale est celle où toute la matière de l'univers sera transformée en « Computronium », une matière organisée dans le seul but de calculer, qui s'étendra à travers la galaxie. Tout sera esprit. Le moment finaliste de Kurzweil est une sorte de panthéisme techno-spinoziste. Le développement de la course à l'espace à l'aide de nanorobots disséminés dans toute la galaxie a été abordé dans son ouvrage de 2005, mais n'est pas mentionné dans son dernier écrit. Cependant, bon nombre de ses prédictions concrètes pour ces deux décennies ne se sont pas réalisées.
Pour Kurtzweil, le cerveau biologique est programmé pour détruire tous les modèles d'information que sont les personnes. Une prolongation de la vie 1.0 est déjà possible grâce à une émulation du contenu de la conscience. Je peux télécharger la cinquantaine de commentaires critiques d'ouvrages philosophiques que j'ai sur le web, ainsi que les milliers de pages de mes chapitres sur la psychologie et les neurosciences, la santé publique, d'autres écrits privés, etc. À partir de ce contenu, une IA pourrait déjà analyser mes lignes de pensée et tenir une conversation comme si c'était moi. Elle pourrait cloner ma voix et mon apparence physique et me reproduire sur un écran. C'est déjà une réalité. Dans les années à venir, il existera peut-être un humanoïde progressivement personnalisable, dont l'apparence pourra être modifiée à l'aide d'un tissu programmable cellule par cellule. Une réplique complète de ma personne pourrait continuer à exister de manière autonome, même si je cesse d'exister. La question de la conscience de soi reste à résoudre. Je ne suis pas seulement le contenu de mon esprit, mais surtout une perception de moi-même à la première personne. Le « hard problem » fait référence à cette question de l'expérience interne du soi. Kurzweil pense que seule l'informatique est nécessaire, indépendamment de toute structure. Mais une autre possibilité serait qu'une unité de base au sens neuroanatomique, telle qu'un protoself, soit nécessaire pour se développer de manière prothétique, ou au moins une réplique structurelle de certains niveaux de mon connectome grâce à la biotechnologie, afin que le sens du moi en tant qu'être vivant appelé Alfonso puisse émerger à partir de ceux-ci. Il s'agirait d'une prolongation de la vie 2.0 autoconsciente.
La vieille relation entre conscience et matière n'a toujours pas trouvé d'explication satisfaisante. Les catégories d'espace, de temps, de couleur, d'objet, de causalité, nécessitent une construction perceptive, elles ne sont pas simplement des « choses données en elles-mêmes » comme nous le font sentir et croire un réalisme naïf exposé par nos organes sensoriels nus. Le cerveau ne capte pas la réalité, il la produit. Reste à voir dans quelle mesure et sur quelle base. Quoi qu'il en soit, il semble clair que nos sens ont évolué pour nous faire voir un fragment des possibilités de la réalité, ce qui implique que le réalisme matérialiste classique est une vision fausse de l'existence. La matière n'« est » pas au sens d'une primauté ontologique sur l'être. Notre système nerveux a dessiné une adaptation perceptuelle, une construction métaphorique, mais nous n'avons pas accès ontologiquement à la réalité extérieure telle qu'elle est à travers notre esprit. Nous ne voyons pas le monde extérieur, nous voyons ce que produit notre cerveau. Cela est clair. Il reste à résoudre la vieille question kantienne de savoir s'il existe une « chose en soi » en dehors de la perception du système nerveux, ou si nous sommes face à une expérience immatérielle plus proche de l'idéalisme de Berkeley. En termes modernes, une simulation, et non un monde matériel. Il est clair que nous vivons un certain degré de simulation, la question est de savoir quelle est sa base matérielle ou algorithmique. Le premier moteur aristotélicien, le Dieu chrétien ou le mécanisme primaire. Cependant, le moment philosophique est effectivement venu de remettre en question le caractère anthropomorphique qui constitue le fondement de notre conscience et de notre existence. Nous sommes face à la fin de l'être humain. Nous nous dirigeons vers un être humain hyperréel, sans forme. Une conscience sur un support.
Nous ne savons pas ce qu'est la vie ni où elle se trouve. Nous savons que la perception à partir de nos sens, le réalisme naïf que voient nos yeux, n'est qu'une couche de réalité (ou peut-être mieux dit, d'expérience consciente). Les religions qui pensaient que nos corps sont une sorte de création temporaire ou d'avatar avaient une pensée sophistiquée, même si l'on veut dire le contraire. À l'inverse, certains voient le fondement de la vie dans un processus matériel, et les organismes comme de simples machines protéiques dont la mission est de transporter des gènes. Selon les modèles physicalistes, nous serions le résultat d'une évolution atomique au niveau des particules primitives. D'autres veulent remettre en cause la thermodynamique pour extraire l'algorithme de la pure information. D'autres positions considèrent la vie comme une illusion de la conscience. Quelle que soit l'origine des choses, beaucoup voient clairement que nous nous dirigeons vers un processus de numérisation de la conscience. Une Matrice, une expérience interoceptive et exteroceptive entièrement programmée. Une vie codée vécue sous la forme d'avatars dans des mondes virtuels conçus par l'homme. Allons-nous bientôt ressusciter des animaux, ou des répliques de ceux-ci, à la manière de Jurassic Park ?
« Mon cerveau biologique a évolué vers un type de vie préhistorique très différent et me prédispose à des habitudes que je n'aurais pas autrement. » Ray Kurzweil.
>
>
>
>
>
>
>
>
>
>
>
>
>
>
>
