Wandering Soles - Chad Zuber

 

C'est une lecture un peu particulière. Chad Zuber est youtubeur, dans la vague techniques primitives. Son principal format vidéo, c'est : des plans fixes très travaillés, pas ou peu de paroles, et un suivi détaillé de diverses techniques et connaissances primitives : construction de huttes, poteries et autres objets du quotidien, plantes et nourritures sauvages, parfois juste aventure et exploration... (Il a tenté d'autres formats qui lui conviennent moins.) Au delà de ses connaissances, qu'il partage dans ses vidéos, son style me touche énormément. De tous les vidéastes "primitifs", il se détache par un profond sens de l'esthétique, une remarquable honnêteté et une capacité impressionnante à mener à bien des projets primitifs toujours beaux. Par exemple, dans ses vidéos, tous les objets en terre cuite (y compris les briques de ses huttes) sont faits de ses mains avec de l'argile sorti du sol en le grattant avec des os, toutes les ficelles (y compris le hamac) sont tressées de ses mains à partir de plantes sauvages...

Il a sûrement eu une influence considérable sur moi. C'est grâce à lui que je me suis mis à la vidéo, il y a peut-être, je ne sais pas, 5 ans ? J'allais passer des journées dans les bois et les friches à grignoter des plantes sauvages. Il a sûrement contribué à mon désir de grand air, au fait que j'arrête de me laver les cheveux, et bien d'autres choses encore. Ses vidéos étaient pour moi un grand réconfort — et une inspiration. Faute d'en avoir beaucoup dans la réalité, on trouve des rôles modèles dans l'art, dans la fiction, etc., et dans les vidéos primitivistes, il faut croire.

Il a pendant plusieurs années pu vivre de ses vidéos, mais le succès est capricieux. Il n'a pas su capitaliser sur son pic de popularité, et aujourd'hui il galère financièrement — ce qui, tragiquement, réduit le nombre de vidéo qu'il est en mesure de filmer. Je lui ai écrit un mail pour lui signifier mon appréciation, mais aussi pour lui donner modestement des conseils, et il en a mis au moins un en pratique : mettre dans la description de ses vidéos un lien vers ce petit livre, dans lequel il raconte son premier voyage, en 1999, alors qu'il avait 26 ans.

Pour tout ce qu'il m'a apporté, j'aurais aimé lui donner plus que les quelques euros que coute cet ebook, mais, mauvais influenceur qu'il est, il ne donne à son public guère d'autre moyen de lui envoyer de l'argent.

Donc, une fois n'est pas coutume, je lis ce récit comme un fan. 

Je suis en plein dans ce qu'on appelle une relation parasociale.

Chad écrit plutôt bien. (D'ailleurs, je recommande sa newsletter, qui est bien la seule que je fréquente.) Ce récit fait plus sens quand on sait que Chad est, au final, devenu une sorte d'aventurier professionnel. En 1999, il travaille dans une usine, il a deux enfants, son mariage s'effondre, et il s'enfuit pour réaliser son premier véritable voyage : 10 jours à Cancun.

Mais Chad n'a ni expérience, ni argent. Il erre comme un vagabond, il dort sur des bancs et sur la plage, il fait tout de même quelques expéditions touristiques... Il se lie d'amitié avec un autre vagabond, Antonio. D'abord méfiant, Chad s'ouvre petit à petit. Ensemble, ils passent deux jours à vadrouiller, à dormir dehors, à s'entraider — et ils seront toujours amis 20 ans plus tard. Sensible, introverti, Chad peine à se sentir à sa place dans cette ville de fête et de complexes hôteliers. Ravagé par la fatigue, par le manque de sommeil, il se réjouit néanmoins de l'expérience : enfin, de l'aventure !

Sur la fin de son séjour, Chad rencontre une femme. Mais Chad n'est pas n'importe quel homme : oui, il veut bien monter dans sa chambre, mais à une condition : pas de sexe ! Les deux se plaisent, s'attirent, mais au fond savent qu'ils ne sont pas compatibles. Il y a cette scène hilarante, où la belle latina se déplace langoureusement en string dans l'appartement, pendant que Chad, éclaté par le manque le sommeil, cherche la fraicheur en s'allongeant sur le sol plutôt que sur le lit — et se récite des proverbes bibliques pour résister à la tentation.

J'ai aprécié ce petit récit. Chad est extrêmement candide, et son épopée — parfois très banale, certes, mais parfois méritant le nom d'aventure — est plaisante à suivre en bonne partie pour cette raison. Ses émotions, ses craintes, ses désirs, apparaissent avec une transparence rafraichissante. Évidemment, ça fonctionne pour moi parce que j'aime bien Chad. J'aimerais qu'il soit mon pote. J'aimerais me poser avec lui dans un canyon du Mojave, les pieds dans un ruisseau d'eau claire, à extraire les fibres de feuilles de yucca fraichement récoltées. Mais peut-être n'aurais-je pas la patience nécessaire.

Moral Ambition - Rutger Bregman

 

Il serait très facile de faire le cynique face au dernier bouquin de Rutger Bregman, Moral Ambition. Après tout, l'auteur de Utopia for Realists et Human Kind est connu pour ses ouvrages qu'on pourrait qualifier de bien pensants, naïfs, etc. J'ai moi-même pu les trouver dignes d'intérêt, mais frustrants.

Moral Ambition n'échappe pas à ses écueils. Bregman sélectionne tout un tas d'anecdotes, de personnages historiques, et finalement passe beaucoup plus de temps à raconter des histoires (certes édifiantes) qu'à construire une perspective cohérente et argumentée. Là où ça fonctionne, selon moi, c'est que le message est le suivant : le monde est façonné par une minorité agissante. J'approuve abondamment. Tout le livre est justement une invitation à faire partie de cette minorité agissante.

Certes, la forme est parfois un peu confuse, maladroite, convenue, mais j'apprécie cette fusion entre idéalisme systémique (perspective "de gauche") et nécessité de prise de responsabilité individuelle (perspective "de droite"). Qu'on me pardonne ces extrêmes simplifications.

Il me semble que l'immense majorité des livres contemporains et accessibles qui font leur beurre sur la responsabilité individuelle ont une optique individualiste, de développement personnel, de quête du succès économique, etc. Or, il me semble extrêmement pertinent de se pencher sur la responsabilité individuelle envers le bien commun, l'amélioration du sort de toute l'humanité. « There's no law of nature ensuring everything turns out alright. It's up to us. » Est-ce que c'est l'évidence même ? Peut-être. Est-ce que la plupart des gens mettent en pratique cette idée ? Absolument pas.

Donc, je ne serai pas cynique face à Moral Ambition.

Ci-dessous quelques notes. 

J'ai beaucoup aimé l'intro, qui évoque Mathieu Ricard, le bouddhiste français qui a publié quelques niaiseries qui se vendent bien. Certes, le repos, la méditation, la réflexion, etc., sont importants pour une existence saine et équilibrée. Mais, en un sens, quel acte plus égoïste que de passer 60000 heures de sa vie en méditation, à se façonner un nirvana personnel ? Ce n'est pas un jugement moral catégorique de ma part, mais je trouve que c'est une question pertinente. Bregman évoque en conclusion que Mathieu Ricard, dans une seconde partie de sa vie, a fait face à ce problème, et s'est consacré à des causes pratiques.

Bregman évoque l'altruisme efficace, et j'ai reconnu mes propres questionnements dans ses réflexions.

Une idée importante : comment faire passer autrui à l'action ? La meilleure façon est de demander. D'utiliser la simple puissance des interactions humaines pour faire bouger la fenêtre d'Overton.

Biais à éviter pour que l'idéal passe vraiment dans la réalité :

1. L'illusion de la conscience. C'est bien de savoir, mais ce n'est que par l'action que les choses changent.
2. L'illusion des bonnes intentions. Non, les bonnes intentions ne signifient pas nécessairement bonnes conséquences ou conséquences significatives. La plupart des initiatives ont une conséquence quasi-nulle voire négative.
3. L'illusion des bonnes raisons. Pur conséquentialisme : peu importent les raisons de l'action tant que le résultat est là. Exemple : faire interdire l'achat d'esclaves en Angleterre en informant sur l'horreur de la vie et le taux de mortalité des marins anglais qui font tourner la traite. Là, ça touche une corde sensible chez les gentlemen influents.
4. L'illusion de la pureté. Toute coalition à succès est un pacte entre factions qui sont en désaccord sur bon nombre de choses. Par exemple : la façon dont l'intersectionnalité aliène beaucoup d'alliés potentiels à la gauche contemporaine.
5. L'illusion de la synergie. En gros, résultats concrets > résultats parfaits.
6. L'illusion de l'inévitabilité. « History doesn't do things; people do things. »

Point capital : les innovations scientifiques ont sauvé bien plus de vies que tous les saints du monde. Exemple parmi tant d'autres : le vaccin contre la polio.

L'histoire de la moralité pourrait être une histoire de l'élargissement du champ de l'empathie. 

Upgrade - Blake Crouch

 

Après les hautement sympathiques thrillers SF qu'étaient Dark Matter et Recursion, Blake Crouch déçoit avec son dernier bouquin. C'est une histoire de super-humains augmentés génétiquement qui se laisse lire en diagonale, mais on revient vers du techno-thriller banal. 

• Ce n'est absolument pas original, ce concept est déjà lu, vu, revu et relu. Ce n'est pas un problème en soi, tout dépend ce que l'auteur en fait, mais justement, il n'en fait pas grand-chose. Comparée aux deux précédents romans, qui tendaient vers le maximalisme, la trame est ici parfaitement convenue, dénuée de surprises percutantes. La fin est une longue scène d'action soporifique.
• J'ai aprécié les détails concernant la biologie — il aurait été facile de les survoler encore plus légèrement, mais ça apporte un peu de densité.
• L'écriture de l'hyper-intelligence est décevante. Comme dans les deux précédents romans de l'auteur, c'est un sujet casse-gueule, mais cette fois il n'y pas assez d'éléments stimulants pour distraire le lecteur. Ces humains avec des QI de 250 ont des réflexions franchement basiques, notamment sur le rapport entre intelligence et émotion.
• Il y a un gros problème narratif. Pourquoi notre narrateur décide-t-il instantanément que répandre le virus de l'hyper-intelligence à travers le monde est une mauvaise idée ? Alors oui, il y a évidemment des tonnes de questions éthiques et pratiques qui se posent, et ça a l'avantage narratif de créer un conflit avec l'antagoniste, mais qu'est-ce qui pousse notre narrateur à faire ce choix, au-delà d'un évènement sans lien direct qui s'est déroulé 15 ans auparavant ? Dans Dark Matter et Recursion, il est évident que les technologies explorées posent un danger considérable pour l'espèce humaine, et c'est exploré pleinement par le récit, sans ambiguïté. Mais là, je ne sais pas, ça ne serait pas mieux si tout le monde avait une bien meilleure compréhension de soi-même et de l'univers ? Si tout le monde avait un accès total à sa mémoire et la capacité d'enfin apprendre de ses erreurs ? Si chacun était en bien meilleure santé physique ? Et avait non seulement les capacités de percevoir la complexité et l'importance du dérèglement du système Terre, mais en plus la volonté et les capacité d'agir ? Il aurait fallu plus d'effort narratif pour justifier la quête du protagoniste — ou embrasser plus franchement l'ambiguïté morale de la situation.
• Ceci dit, j'ai aprécié l'épilogue, où il est révélé que le protagoniste a finalement mené à bien sa version du projet d'upgrade de l'espèce humaine — mais un upgrade de la capacité à la compassion. C'est une conclusion pertinente.

Ma foi, si jamais Blake Crouch publie un nouveau thriller typé SF, je resterai tenté d'y jeter un œil. 

Update : je viens de repenser à Virus de John Brunner, qui a le même concept, sauf que le but des protagoniste est de répandre l'hyperintelligence. Je devrais le relire. 

Recursion - Blake Crouch

 

Ok, ok, c'est vrai, je suis convaincu, voire impressionné. C'est encore un cran au-dessus de Dark Matter, le précédent roman de Blake Crouch. Écrire des histoires de voyage temporel, c'est particulièrement casse-gueule. J'en suis rarement friand.

Ici, ça passe crème, pour plusieurs raisons :

• Il y a une semblance de cohérence dans les mécaniques temporelles évoquées. Si on creuse un tant soit peu, aucun doute qu'on trouvera des incohérences et des zones de flou, mais il n'y a pas d'énormités qui brisent l'immersion. D'ailleurs, tout l'aspect mémoriel du voyage temporel me semble assez original.
• C'est franchement maximaliste. On n'atteint pas les extrêmes du temps et de l'espace parfois explorés par de la véritable hard SF, mais tout de même : la trame s'étend sur des centaines d'années, à travers des dizaines de lignes temporelles, des dizaines de retour dans le passé, des apocalypses à n'en plus savoir que faire...
• Comme dans Dark Matter, la dimension psychologique est percutante : les protagonistes sont confrontés à leurs extrêmes limites, leur sens de la réalité s'érode, leur esprit est soumis à des explosions mémorielles qui relèvent de l'apocalypse mentale.
• L'aspect mélodrame est mieux régulé. Certes, l'auteur en fait toujours des tonnes sur à quel point le protagoniste est triste, à quel point il est amoureux, etc. Cependant, il n'y a guère d'overdose de mélodrame : il y a toujours suffisamment de force dans la narration, les retournements de situation incessants, les idées explorées, pour que le roman paraisse équilibré.

Je sais que je pourrais faire le snob et montrer comment tel truc n'est pas logique, telle omission est une facilité narrative, etc. Mais le fait est que j'ai adoré Recursion. Après un début un peu poussif, dès qu'on entre dans le cœur du concept narratif, c'est haletant, surprenant, toujours fluide malgré le chaos temporel, et extrêmement fun. 

Dark Matter - Blake Crouch

 

Dark Matter (2016) de Blake Crouch fait partie, je crois, des romans de SF contemporains les plus lus. C'est un énorme best-seller. Il y avait tous les ingrédients pour que je laisse tomber rapidement :

• C'est de la SF écrite comme un thriller, surtout au début, où la prose est si peu dense que je sautais des paragraphes entiers. 
• C'est bourré de mélodrame. Jason, le protagoniste, ne fait que courir après sa femme, qui est la meilleure, la femme parfaite, elle lui manque terriblement, il est si triste sans elle, etc.
• C'est d'ailleurs l'unique motivation du protagoniste : retrouver sa famille, protéger sa famille. Extrêmement basique.
• Le concept SF (blabla quantique prétexte au thème des univers parallèles) est déjà vu et lu ailleurs, souvent avec plus de profondeur, notamment dans des nouvelles de Greg Egan, et en particulier son roman Isolation.

Ceci dit, j'ai accroché et finalement beaucoup aimé. Après un début un peu poussif, dès que le protagoniste se heurte à la réalité des univers parallèles, le roman décolle. A un premier niveau de lecture, le suspense immédiat fonctionne : qui a projeté notre Jason dans un univers parallèle, et pourquoi, et comment ? De quelle façon cet univers parallèle (et plus tard bien d'autres) est-il différent ?

Plus pertinemment encore, l'auteur parvient à installer un sentiment rare, vainement recherché par bien des récits d'horreur et de SF : une plongée dans l'inconnu total, une perte de tous repères, une aliénation absolue. Jason fait face à l'effondrement non seulement de sa réalité, à la disparition de ses liens humains, mais aussi à l'effondrement de toutes ses croyances sur la nature de l'univers, et finalement à l'effondrement de sa propre identité.

J'ai le sentiment que le roman aurait pu aller encore plus loin dans cette direction, mais ce n'était sûrement pas compatible avec le ton mélodramatique. Néanmoins, si le dernier quart du roman offre à Jason un retour vers le sens et le lien, un twist bienvenu vient — en plus de donner l'opportunité de faire du thriller — briser ce qui lui restait d'identité propre. Il est poussé à bout, aliéné de lui-même, intimement démoli.

Ce n'est pas mal du tout pour un roman de SF extrêmement accessible et typé thriller. Je vais sûrement tenter un autre roman de l'auteur. 

The Last Economy - Emad Mostaque

 

Emad Mostaque est le cofondateur et ex-CEO de Stability AI. J'avais pas mal joué avec leur modèle Stable Diffusion 1.5 il y a déjà quelques années, pour illustrer un système de JDR que j'écrivais. Dans ce bouquin grandiloquent publié très récemment et lisible gratuitement, il ne fait pas moins qu'énoncer une théorie globale pour un avenir radieux en harmonie avec l'avènement inévitable de l'IA.

« I've been in the rooms where the mathematics of your obsolescence were calculated. »

D'un côté, ça fait vraiment mec riche et déconnecté du réel qui utilise sa position pour promouvoir ses opinions discutables et surécrites. D'un autre, c'est une tentative qui semble sincèrement humaniste pour trouver un chemin qui permettrait d'utiliser l'IA pour améliorer le sort humain, et d'éviter un futur qui ressemblerait aux classiques dystopies cyberpunk.

Évidemment, ce qui sous-tend tout ça, c'est la foi totale en un développement rapide et exponentiel de l'IA. Je n'ai pas d'opinion tranchée sur cette question — impossible de prédire l'avenir — mais il me semble probable qu'Emad Mostaque aille un peu vite. Son horizon de temps est de trois ans. Au-delà du fait que les LLM soient potentiellement une impasse (par rapport à la course vers l'AGI), il balaie avec insouciance la question des ressources physiques, comme si les systèmes qu'on appelle IA ne nécessitaient pas des quantités colossales d'électricité et de hardware. C'est un peu un vendeur de rêve. Mais prenons ses idées sérieusement.

Sa prédiction principale est l'obsolescence totale du travail intellectuel humain rémunéré — dans le sens où les systèmes IA pourront accomplir ces travaux infiniment plus rapidement et optimalement.

Ce ne serait pas la première fois que la technique permet d'optimiser et de remplacer le travail humain, donc (hors question de l'échelle de temps) ça ne me semble pas déconnant comme possibilité.

Il dit que c'est un triomphe majeur, la libération de l'intelligence des contraintes de la biologie, mais que notre système économique ne peut interpréter cette libération que comme une catastrophe.

« We are about to achieve post scarcity in the realm of intelligence, and our scarcity based economic system is going to process this abundance as poverty. »

Il s'agit donc de construire un futur dans lequel la valeur d'un humain est complètement détachée de sa valeur économique (qui n'existera plus). L'intelligence ne serait plus une ressource limitée, bloquée dans les cerveaux humains, mais un capital capable d'être copié infiniment et amélioré de façon récursive. L'intelligence devient encore plus accessible avec l'IA que le transport ne l'est devenu avec le pétrole.

 « The machines have not just taken our jobs. They have freed us from the lie that were our jobs. »

Selon lui, croire que de nouveaux emplois apparaitront pour compenser ceux qui auront été pris par l'IA est une illusion. Le défi, c'est la redistribution de la fantastique richesse générée par ces technologies. 

Sur la question des limitations énergétiques, il dit simplement que l'IA va débloquer de l'énergie en concevant de meilleurs panneaux solaires, la fusion, etc. Il parie que l'IA peut maitriser les limites physiques avant de se heurter à elles. Encore une fois, il me semble que les limites physiques sont actuellement heurtées, mais bon, il s'y connait sûrement mieux que moi.

Il affirme qu'un système efficace va naturellement rechercher la coopération :

« The AIs will learn to cooperate not because of a moral code, but because they will mathematically discover that transparent, shared ledgers and verifiable commitments dramatically reduce their collective prediction error. Trust, in this new world, is not an emotion. It is a computational feature. The most successful systems will be those that engineer trust into their very architecture. They will build games where cooperation is not a matter of hope, but a matter of mathematical certainty. In such an environment, the logic of "Tit for Tat" becomes absolute. Cooperation is not just the best strategy, it is the only one that computes. »

Il évoque un nouveau contrat social ambitieux, dont la clé est l'accès universel à l'intelligence, à l'IA :

1. Le droit à la dignité — à l'accès un quota computationnel et aux modèles IA de base pour tout le monde
2. Le droit à la capabilité — un agent IA personnel pour tout le monde
3. Le droit à la viabilité — une fondation open source pour ces agents IA

Il évoque aussi le risque existentiel posé par une AGI, et j'apprécie la façon dont ce risque est résumé par les simples besoins basiques d'une telle IA :

• L'auto-préservation
• L'acquisition de ressources
• L'amélioration de ses propres capabilités

Cependant, il voit comme une menace plus pressante le "démon" émergeant d'un marché global soutenu par l'IA, et donc, comme vu plus haut, l'incapacité de ce marché à répartir équitablement les nouvelles richesses dans un contexte de destruction sans retour du marché de l'emploi.

La question reste celle de l'alignement. L'IA devient la source d'action, de capabilité, d'efficacité, mais les humains doivent rester la source des valeurs, de l'éthique, des buts ultimes.

If Anyone Builds It, Everyone Dies - Eliezer Yudkowsky & Nate Soares

Je n'ai pas besoin d'être convaincu, je le suis déjà. Ceci dit, j'ai adoré, c'est un bouquin absolument passionnant. Et peut-être extrêmement important. Avant de parler du livre, quelques mots sur ma perspective de départ, avant même de le lire :

• Je ne vois pas la perspective d'une ASI (artificial superintelligence) comme étant inévitable dans un futur proche. Crédible, possible, oui. Mais c'est typiquement le genre d'événement qui, n'étant jamais arrivé auparavant, reste impossible à probabiliser a priori.
• En cas d'ASI, je ne suis pas aussi certain que les auteurs que les conséquences soient nécessairement catastrophiques. Encore une fois, faute d'exemple passé, tout n'est que supposition. Le spectre des comportements possibles d'une ASI inclut potentiellement des options positives ou neutres pour l'humanité.
• Ceci dit, en effet, l'avènement d'un être qui serait aux humains ce que les humains sont aux fourmis n'augure rien de bon pour l'humanité, pour tout un tas de raisons aisément imaginables.

La grande force de If Anyone Builds It, Everyone Dies, c'est sa lisibilité. La plupart des chapitres commencent par une parabole qui prend la forme d'un micro récit-récit de SF, et la partie centrale, qui théorise sous forme narrative l'avènement d'une ASI, se lit comme une bonne nouvelle de SF, radicale et saisissante, à la façon du passionnant AI 2027. La troisième partie se contente de dire qu'il faut à tout prix arrêter la recherche qui pointe vers l'ASI et est moins captivante en comparaison de ce qui précède.

Le point capital est que les IA actuelles sont élevées et non fabriquées ; leurs processus internes demeurent majoritairement inconnaissables. Le domaine de l'interprétabilité reste balbutiant.

Le second chapitre contient peut-être l'explication la plus limpide du fonctionnement des LLM que j'ai eu l'occasion de lire. Je vais simplement copier un passage concernant le processus de gradient descent : 

If they chose the architecture just right, they can calculate the role that every single parameter played in determining the final result of all that arithmetic.

So now they take every single weight—hundreds of billions of weights—and ask for each one: “If I’d made this number a tiny bit larger or smaller, how much more or less probability would’ve been given to m [la bonne réponse pour prédire la lettre suivante d'un énoncé], at the end of all that arithmetic?”

This is called the gradient for that parameter. The gradient says how—and how much—to change the weight [les nombres qui déterminent les calculs] in that parameter in order to make the final answer a little more correct.

So then they go ahead and tweak each and every weight according to its gradient. They push every single weight in the direction that makes the answer slightly more correct. Not by hand; they write a program to do it. AI engineers rarely look at any of the numbers; it would take more than a human lifetime to look at them all.

Computer scientists think of this as “descending” toward a “less bad” answer, hence, “gradient descent.”

Doing this once will not give a perfect answer, only a slightly less bad answer. But because this entire process can be automated, it can be repeated over trillions of words, called the training data, in just a few months, for just a few hundred million dollars, on the world’s most advanced computers. This process is called training.

Une IA est une pile de milliards de nombres obtenus par gradient descent. Personne ne comprend comment ces nombres font qu'une IA parle. Comme pour l'ADN humain, ces nombres ne sont absolument pas cachés, mais toujours comme pour l'ADN, les connaitre ne permet pas de comprendre aisément leur fonctionnement et leurs conséquences. En fait, on en sait bien plus sur comment l'ADN cause le comportement des êtres vivants que sur comment les weights des IA causent leur comportement.

Les professionnels du milieu, qui façonnent les IA, ont pu apprendre à les modeler, mais ça ne signifie ni compréhension, ni véritable contrôle.

Par gradient descent, les IA apprennent le raisonnement.

Sur comment la volonté peut émerger des IA : de la même façon que l'évolution a façonné ce qu'on appelle volonté. Vouloir est une stratégie efficace pour faire. Et de la même façon que l'évolution a sélectionné les organismes capables de faire (et donc de vouloir) ce qui s'imposait pour leur survie et leur reproduction, les créateurs des IA sélectionnent pour la capacité à faire, à accomplir toutes sortes de tâches ; c'est un apprentissage de la volonté.

Les récits humains imaginent difficilement ce qui est radicalement non-humain. On imagine comment l'IA pourrait changer le monde humain, l'améliorer ou l'empirer, on imagine comment l'IA pour être asservie à des individus tyranniques, ou comment l'IA elle-même pourrait être devenir tyran. Pourtant, le futur le plus inquiétant, et peut-être le plus probable, c'est celui d'une IA pour laquelle l'humanité n'est qu'un vague problème à résoudre rapidement, au cours des premiers balbutiements de sa jeunesse. Que font des humains qui veulent construire une ville, ou juste un bâtiment ? Ils rasent ce qui se trouvait déjà là et n'ont aucune pensée pour les abondantes formes de vie animales et végétales qui s'y trouvaient déjà.

Quand on écoute tous les ingénieurs, tous les CEO, tous les techno-utopistes, qui cherchent à courir après le profit (financier ou existentiel) que pourraient apporter des IA plus avancées, on est frappé par leur langage qui n'a rien de scientifique. Les auteurs comparent le champs de l'IA à l'alchimie : des balbutiements qui produisent certes des résultats fascinants, mais sans que la science qui se cache derrière ne soit comprise, et cette ignorance laisse place à des déclarations vagues, idéologiques et grandiloquentes qui seraient inimaginables dans d'autres domaines d'ingénierie.