De la tranquillité de l'âme - Sénèque

Répondant à un ami (Sérénus, le même que dans De la constance du sage) qui cherche son conseil, Sénèque l'édifie sur la tranquillité de l'âme.

Décrivant d'abord la nature du mal dont risque de souffrir son ami, Sénèque décrit l'intranquilité qui hante le genre humain. C'est une agitation vaine, une accumulation de mouvements sans but, une perte de soi dans la confusion. Toujours on croit trouver la satisfaction dans le prochain voyage, le prochain raffinement, mais c'est inévitablement illusion. Il y a le défaut d'inconstance, mais aussi son pendant, le défaut de passivité placide : « Ils vivent non comme ils veulent, mais comme ils ont commencé à vivre. » 

A travers les remèdes conseillés par Sénèque, il est frappant de constater à quel point le stoïcisme est une philosophie de l'intégration constructive dans la société. Certes, parfois, face aux conditions politiques et aux menaces qui pèsent, la retraite est l'alternative souhaitable. De même, pour certains, c'est l'étude qui est le choix judicieux.

Mais jamais cette retraite, cette étude, n'apparaissent comme une fuite face aux complexités ombrageuses de la société dans son ensemble, ce sont au contraire des façons d'être citoyen ; ou du moins d'être utiles à soi, et donc à autrui. Le soldat, dit Sénèque, ne fait pas son devoir qu'en allant à la guerre, il y a de nombreuses autres tâches à accomplir au quotidien, ou, même en période de guerre, à l'arrière.

Il est explicite :

« Car si nous renonçons à tout rapport social, si nous rompons avec le genre humain, si nous vivons tournés seulement vers nous-mêmes, cette solitude, privée de tout soin, aura pour résultat un désœuvrement absolu. [...] Combien voit-on de vieillards chargés d'ans, qui n'ont d'autres preuves à fournir de la longueur de leur vie, que le nombre de leurs années ! »

Quelle que soit la place dans la société qui nous ait été donnée par la fortune, Sénèque exhorte à toujours trouver de quoi déployer sa vertu. A travers une sentence étonnamment universaliste (et pourrait-on dire peu compatible avec certains de ses propos sur les esclaves et les femmes), Sénèque cherche à ne pas limiter l'usage de la vertu à ce qui nous est proche, et ceux qui nous sont proches :

« Nous mettons notre fierté, nous autres, à ne pas nous enfermer dans les murs d'une seule ville ; nous étendons notre société à tout l'univers ; et nous déclarons que notre patrie est le monde, afin de pouvoir donner un champ plus vaste à notre vertu. »

On s'approche des thèmes les plus classiques du stoïcisme, et je ne peux m'empêcher de relever quelques sentences particulièrement esthétiques :

« Nous sommes tous liés à la fortune, les uns par une chaine d'or toute lâche, les autres par une chaine étroite et de vil métal. Mais qu'importe ? Une seule et même prison nous contient tous ; même ceux qui nous enchainent sont eux aussi enchainés (...). L'un est lié par les honneurs, l'autre par ses richesses ; c'est tantôt notre noblesse, tantôt notre humble condition qui nous asservit ; on est parfois soumis à la tyrannie d'un autre et parfois à la sienne propre ; c'est parfois l'exil qui nous impose notre résidence, c'est parfois aussi le sacerdoce. Toute vie est servitude. »

On pourrait rétorquer à Sénèque qu'il vaut pourtant mieux être aisé que miséreux. Ceci dit, le confort de vie peut augmenter, la latitude elle aussi, et c'est certes mieux, mais ces avantages n'apportent pas une nouvelle condition à l'existence. La clé de voute, c'est de comprendre et accepter cette condition universelle : « Il faut d'abord enlever son prix à la vie et compter l'existence parmi les choses sans valeur. » Le sage est déjà mort, et ainsi seul vivant. Mieux dit encore, fondation inébranlable :

« Voici la maladie, l'emprisonnement, la destruction, l'incendie : rien de tout cela n'arrive à l'improviste. je savais bien dans quelle chambrée remuante la nature m'avait enfermé. »

Anecdotes, pour l'importance de personnifier l'idéal :

« Quand on lui annonça le naufrage où tous ses biens avaient sombré, notre grand Zénon dit : "La Fortune m'invite à philosopher plus à mon aise." Un tyran menaçait de mort le philosophe Théodore, et de mort sans sépulture : "Voilà, dit-il, un moyen de t'offrir un plaisir ; tu as un demi-setier de sang en ton pouvoir ; quand à la sépulture, quel sot tu fais, si tu crois qu'il ne m'est pas indifférent de pourrir sur terre, ou dessous." »

Nombreux sont les livres modernes de, disons, développement personnel, qui font l'apologie de pensée positive, en diverses élucubrations qui souvent rivalisent de niaiserie voire d'obscurantisme. Quelques mots de Sénèque qui balaient des bibliothèques :

« Après avoir contemplé toutes choses, il y a plus de grandeur d'âme à ne pas retenir son rire qu'à ne pas retenir ses larmes ; on ne ressent alors qu'une émotion superficielle, et l'on ne pense pas que rien d'important, rien de sérieux, rien de triste non plus puisse résulter de tout l'appareil de la vie humaine. Que chacun se représente une à une les choses qui le rende gai ou triste, et qu'il apprenne ainsi la vérité de ce mot de Bion : "Toutes les affaires des hommes ressemblent au point d'où ils partent, et leur vie n'a rien de plus respectable ni de plus sérieux que leur conception : nés du néant, ils retombent dans le néant." »

Sur quels conseils Sénèque conclut-il ? Tout d'abord, l'équilibre entre l'inclusion dans la société et l'étude solitaire :

« Solitude et société doivent se composer et se succéder. La solitude nous donnera le désir de fréquenter les hommes, la société, celui de nous fréquenter nous-mêmes, et chacune sera l'antidote de l'autre, la solitude nous guérissant de l'horreur de la foule, et la foule de l'ennui de la solitude. »

Que j'aime ces mots. Puis, Sénèque termine sur... une apologie modérée de l'alcool, étonnamment. L'alcool, comme je l'ai vue et continue de la voir : un moyen de parfois nous sortir de nous-même, afin de ne pas risquer de s'y retrouver coincer :

« L'âme doit quitter le train accoutumé, sortir d'elle-même, prendre le mors aux dents et entrainer son cavalier pour le mener là où, de lui-même, il aurait craint de monter. »

Biologie de Campbell #29 - La diversité des végétaux I : la colonisation des milieux terrestres

 

Publié aussi sur le site de la pépinière (vu qu'on passe clairement au végétal).

LES VÉGÉTAUX SE SONT DÉVELOPPÉS A PARTIR DES ALGUES VERTES

De nombreuses preuves morphologiques et biochimiques attestent de cette ascendance, notamment des preuves portant sur les ADN nucléaires, chloroplastiques et mitochondriaux d'un grand nombre de végétaux et algues.

Un grand nombre d'espèces de charophytes (ancêtres des plantes) vivent en eau peu profonde, au niveau des rivages. Dans ce milieu sujet à l'assèchement, la sélection naturelle favorise les individus capables de survivre à des périodes d'immersion partielle. Ils ont notamment évolué une couche de polymère, la sporopollénine, qui permet d'éviter la déshydratation des zygotes (cellule formée par l'union de deux gamètes) suite à l'exposition à l'air.

L'environnement terrestre pour les plantes naissantes s'est accompagné d'avantages (beaucoup plus de lumière, beaucoup plus de CO2, sol des rivages riche en minéraux) mais aussi d'inconvénients (rareté de l'eau, manque du soutien structurel offert par l'eau) qui ont mené à des adaptations évolutives.

Rappelons qu'il ne semble pas y avoir de frontière claire entre les végétaux "officiels" et leurs proches parents les charophytes. La limite qu'on trace entre les deux est forcément arbitraire.

Ceci dit, de nombreuses caractéristiques sont uniques aux végétaux (même tous ne sont pas possédés par tous les végétaux) :

• Avoir un épiderme recouvert d'une cuticule composée de cire et d'autres polymères afin d'éviter le dessèchement au contact de l'air.

• Avoir des stomates, pores spécialisés qui permettent la photosynthèse, en facilitant l'échange de CO2 et d'O2 avec l'air ambiant, et l'évaporation d'eau.

• L'alternance de générations : ce n'est pas forcément très visible, notamment chez les plantes à fleur, mais le cycle de développement de tous les végétaux alterne deux générations d'organismes multicellulaires. Ce sont les gamétophytes (souvent microscopiques et hébergés dans les organes reproducteurs de la plante), et non directement le sporophyte (souvent ce qu'on perçoit comme la "plante"), qui produisent les gamètes. C'est franchement contre-intuitif et je ne rentre pas dans les détails.

• Les méristèmes apicaux : zones situées aux extrémités croissantes des plantes (racines comprises), là ùu une ou plusieurs cellules se divisent continuellement. Ces cellules produites par le méristème se différencient pour donner les différents tissus de la plante.

Il en existe d'autres, plus compliquées encore.

Si des micro-organismes avaient déjà colonisé la terre ferme il y a 1,2 milliard d'années, les spores des premiers végétaux semblent apparaitre il y a 470 millions d'années. Les fossiles de structures végétales de plus grande taille datent de 425 millions d'années.

Une façon de caractériser les végétaux repose sur l'absence ou la présence d'un réseau complexe de tissu conducteur (ou vasculaire) composé de cellules formant des canalisations dans lesquelles l'eau et les nutriments circulent dans la plante. La plupart des végétaux modernes sont ainsi des plantes vasculaires. Les végétaux qui en sont dépourvus sont souvent qualifiés de bryophytes.

Les vasculaires forment un clade rassemblant environ 93 % de toutes les espèces de végétaux existants.

Je place ci-dessous le tableau qui récapitule la classification des végétaux :

Mais n'oublions pas qu'il existe aussi des lignées disparues.

LES GAMÉTOPHYTES DOMINENT LES CYCLES DE DÉVELOPPEMENT DES MOUSSES ET D'AUTRES PLANTES NON VASCULAIRES

Les mousses sont les bryophytes les plus emblématiques, cependant, certaines plantes communément appelées "mousses" sont en fait des algues rouges, des lichens, ou même des plantes à fleurs. Dans l'histoire évolutionnaire, les mousses pré-datent les plantes vasculaires.

Contrairement à ce qu'on observe chez les plantes vasculaires, dans le cadre de l'alternance des générations, chez les mousses, ce sont les gamétophytes haploïdes (une seule série de chromosomes) qui sont plus gros et vivent plus longtemps que les sporophytes diploïdes (double série de chromosomes, en paires).

Chez les mousses, la germination de la spore produit la plupart temps un filament qui a l'aspect d'une algue verte et qui n'a qu'une cellule d'épaisseur, le protonéma. Il a une surface étendue qui favorise l'absorption d'eau et de minéraux. Quand les ressources sont suffisantes, il émet un "bourgeon" pourvu d'un méristème apical. Celui-ci engendre la structure qui porte les gamètes, le gamétophore, qui est la structure visible. Protonéma et gamétophore constituent ensemble le gamétophyte.

Les gamétophytes n'ont pas de racines, mais des rhizoïdes, qui ne possèdent pas de cellules conductrices spécialisées et n'interviennent que peu dans l'absorption d'eau et minéraux. Leur rôle concerne surtout la fixation de la plante.

J'essaie de simplifier la description de la vie sexuelle des mousses, mais de nombreuses espèces peuvent également se reproduire de façon asexuée.

De toutes les plantes modernes, les bryophytes sont celles qui possèdent les sporophytes les plus petits (la partie de la plante qui est diploïde et qui constitue l'essentiel de la plupart des autres types de plantes). Ils possèdent des plastes (donc sont capables de photosynthèse) et sont généralement incapables de vie autonome, ils restent accrochés à leur gamétophyte maternel, qui fournit les nutriments.

Par exemple, chez les mousses communes qui nous sont familières, le tapis vert est le gamétophyte, haploïde et sont les "feuilles" n'ont parfois qu'une cellule d'épaisseur, et les petites tiges surmontées d'une capsule, qui grimpent en hauteur pour libérer leurs spores, sont les sporophytes, diploïdes.

Ces spores donnent naissance à des gamétophytes mâles ou femelles, et produisent des "tapis de mousse" mâles ou femelles. Les "tapis de mousse" mâles émettent des spermatozoïdes qui ont besoin de se déplacer dans une mince couche d'eau pour rejoindre et féconder l'oosphère des "tapis de mousse" femelles. Après fécondation, une nouvelle tige à spore est créée et le cycle continue.

Grâce au vent et à la légèreté de leurs spores, les bryophytes peuvent se disséminer sur toute la planète. Certaines espèces entrent en symbiose avec des bactéries. D'autres encore peuvent coloniser des milieux extrêmes en tolérant une déshydratation presque complète pour se réhydrater quand de l'eau devient disponible. 

Les mousses du genre Sphagnum (sphaignes) constituent souvent une part importante des dépôts de matière organique à demi décomposée qui forment la tourbe. 

LES FOUGÈRES ET D'AUTRES VASCULAIRES SANS GRAINES ONT ÉTÉ LES PREMIERS VÉGÉTAUX DE GRANDE TAILLE

Les bryophytes ont dominé le monde végétal pendant les premières dizaines de millions d'années de l'existence des plantes, mais aujourd’hui, ce sont les vasculaires qui dominent. Leurs plus anciens fossiles remontent à 425 millions d'années.

Comme c'est le cas pour les bryophytes, les spermatozoïdes des fougères et des autres grandes vasculaires sans graines doivent "nager" dans une mince couche d'eau pour atteindre les oosphères. Ces plantes sont donc dépendantes des milieux humides.  

• Chez les vasculaires modernes, les sporophytes prédominent dans les cycles de développement ; c'est la partie de la plante la plus volumineuse.

• Les vasculaires ont deux types de tissus conducteurs : le xylème, qui assure la majeure partie du transport de l'eau et des minéraux, et le phloème, qui distribue les monosaccharides, les acides aminés et d'autres produits organiques de leur lieu de production dans la plante à leur lieu d'utilisation. Le xylème est généralement constitué de cellules lignifiées, donc solides et pouvant résister à la gravité. Cette capacité d'atteindre une grande taille a donné aux plantes vasculaires un avantage évolutionnaire : meilleur accès à la lumière, meilleure dispersion des spores... Ce processus a mené aux premières forêts il y a 385 millions d'années.

• Les racines sont des organes qui absorbent l'eau et les nutriments provenant du sol. Elles permettent aussi de fixer solidement en place des plantes qui peuvent maintenant atteindre de grandes tailles. Il semblerait que les racines ont été sujettes à un phénomène d'évolution convergente dans plusieurs lignées.

• Les feuilles sont le principal organe photosynthétique des vasculaires. Les microphylles (410 MA), aux petites feuilles en forme d'aiguille, précèdent les mégaphyles (370 MA), aux feuilles larges et ramifiées.

Je passe sur les détails de la vie sexuelle de ces plantes vasculaires sans graine. Disons simplement que la plupart des espèces sont homosporées (elles ont un seul type de spore qui donne un gamétophyte bisexué).

Panorama rapide de la diversité des vasculaires sans graines :

• Les lycophytes sont généralement des plantes tropicales épiphytes (c'est-à-dire qu'elles utilisent un autre organisme comme substrat, sans que cela relève du parasitisme) qui croissent sur des arbres. D'autres espèces vivent sur le sol des forêts tempérées. Durant le Carbonifère, cette lignée comprenait aussi bien des plantes minuscules que des géantes dépassant les 40m. Leur diversité a régressé lorsque le climat s'est refroidi. Il en existe aujourd'hui 1200 espèces.

• Les monilophytes :
• Les fougères sont bien connues. Certaines peuvent produire plus d'un billion (un million de million) de spores au cours de leur vie. Il en existe plus de 12000 espèces aujourd'hui. Ce sont les vasculaires sans graines les plus répandues.
• Les prêles. Fun fact : les prêles des champs sont comestibles (d'autre espèces sont toxiques), ça ressemble à des asperges riches en silice. C'est leur tige à spores qu'on mange, pas les feuilles, qui servaient autrefois à aiguiser des lames, car elles sont aussi riches en silice. J'ai quelques bons souvenirs de récoltes de prêles sauvages. Au carbonifère, elles pouvaient atteindre 15m. Aujourd'hui, il n'y en a plus qu'une quinzaine d'espèces, qui vivent en milieu humide.
• Les psilotes et autres restent des plantes dépourvues de racines.

Les ancêtres de ces plantes modernes ont formé les premières forêts. Elles ont contribué à l'importante diminution de la concentration en CO2 survenue durant le Carbonifère, qui a entrainé un refroidissement global, puis la formation de glaciers très étendus. Les racines des vasculaires sécrètent des acides qui dégradent les roches, ce qui accélère la libération du calcium et du magnésium dans le sol, deux minéraux qui réagissent au contact du CO2 dissous dans l'eau de pluie et forment divers composés stables et à terme s'intègrent aux roches.

Ce sont également ces forêts qui, avec le temps, se sont transformées en tourbe, elle même s'étant transformée en charbon au fil des millions d'années. Ce carbone des forêts des premières plantes vasculaires retourne donc aujourd’hui dans l'atmosphère.

Determined : The Science of Life Without Free Will - Robert Sapolsky

Avant de parler du livre, je vais essayer d'évoquer ce que je porte en moi avant de le lire.

Je suis complètement en accord avec l'idée centrale : le libre arbitre est 100 % une illusion et n'existe pas. Absolument pas. Ceux qui y croient, y croient pour des raisons qui n'ont rien à voir avec la volonté de comprendre la réalité.

1. Tout ce qui arrive est la conséquence de causes précédentes. Il n'y a pas d'alternative à ce fait. Les choses humaines n'y échappent pas. Les lois fondamentales de la physique, l'évolution, la sélection naturelle, le hasard génétique, le hasard géographique, le hasard culturel, le hasard familial, les mécanismes complexes qui font la machine humaine, du fonctionnement de l'immunité à la régulation hormonale... Tous, nous sommes la somme de ces causes passées. Des machines biologiques.

2. Ce n'est aucunement contraire à l'idée de choix. Oui, les humains font des choix, mais les humains ne sont pas libres de choisir leurs choix, de choisir leurs désirs, de choisir leurs pulsions. Un choix, bien réel, n'est pas moins que le reste déterminé par des causes le précédant. Imaginez revenir dans le passé, au moment d'un choix important : il vous serait impossible d'agir autrement, car vous seriez dans l'exact même état qui a conditionné le choix la première fois. Les causes seraient les mêmes, et les conséquences aussi.

3. Cette réalité est perceptible par une compréhension des connaissances scientifiques, mais aussi, à un niveau plus accessible, par l'introspection. Il est aisé, à mon sens, de percevoir que ce que l'on s'imagine être soi n'est pas aux commandes. Il n'y a rien aux commandes, si ce n'est les causes infinies déjà évoquées. La conscience de soi, bien réelle, est compatible avec ce déterminisme total. Ce soi est la somme de toutes les causes qui l'ont façonné. Ce soi est un résultat, pas une cause. Ce soi est une propriété émergente de la vie complexe parmi tant d'autres. Ce soi est peut-être une impasse évolutionnaire — je ne le souhaite pas.

4.  Il y a des raisons de penser que l'illusion du libre arbitre, à l'image de la religiosité, est un avantage sur le plan de la sélection naturelle. 

5. Cette idée — que le libre arbitre n'existe pas — est un fait amoral.

6. Je ne crois pas que cette idée soit destinée à un grand succès. Peut-être encore moins que l'athéisme, ou l'absence de religiosité. Mais elle mérite de l'être, ne serait-ce que parce qu'elle est (probablement) corrélée à l'éducation et à la compréhension scientifique du monde, qui sont des biens intrinsèques.

C'est peut-être parce que je pars avec déjà un peu de bagage sur la question que je n'ai pas apprécié Determined autant que le livre précédent de Robert Sapolsky, Behave. J'ai eu du mal à rentrer dedans et l'ensemble m'a semblé beaucoup trop long ; il me semble que ces 400 pages auraient gagné à être amputées de moitié. L'idée est simple, et j'ai trouvé que les arguments, par ailleurs hautement pertinents, sont dilués dans de nombreuses digressions superflues. J'ai régulièrement lu en diagonale, mais ce qui m'a plu m'a beaucoup plu.

La science est limpide : l'univers est déterministe. Les choses ont des causes. Pourtant, si la plupart des gens qui s'intéressent à ça acceptent cet état de fait, ça ne les empêche pas d'être des compatibilistes : l'univers déterministe serait, pour une raison ou une autre, compatible avec le libre arbitre. Les incompatibilistes (univers déterministe et libre arbitre sont incompatibles), même si toutes les connaissances pointent dans cette direction, semblent être minoritaires, à la manière de Robert Sapolsky, Sam Harris, ou moi-même.

Si Robert Sapolsky conclut son livre sur une tentative — à mon sens maladroite — de promouvoir l'incompatibilisme comme vision à forte valeur ajoutée sur le plan sociétal, il parvient néanmoins à démontrer — aisément cette fois — que l'histoire du progrès humain est une histoire du recul du libre arbitre. Il utilise les exemples de l'épilepsie, la schizophrénie, l'autisme, les PTSD, etc., pour prouver que ce qui était autrefois envisagé comme relevant du libre arbitre s'est, avec le progrès scientifique, transformé en causes biologiques et sociales ayant des conséquences comportementales.

Causes entrainant conséquences : c'est ce que sont toutes les découvertes.

De causes simples, avec l'aide de la sélection naturelle, peuvent émerger des comportements complexes. L'exemple des abeilles est particulièrement fascinant. Leur comportement complexe est causé par un ensemble de règles simples. La complexité, c'est la quantité. Les abeilles communiquent par une "danse" les coordonnées des sources de nourriture. Chaque abeille qui rentre d'une exploration fait cette danse, et cette danse est perçue aléatoirement (en gros) par les abeilles qui se trouvent être là. Plus la source de nourriture est de qualité, plus une partie de la danse dure longtemps ; l'information de qualité est transmise par la durée. Donc, les abeilles qui dansent à propos de bonnes sources de nourriture ont plus de chance de transmettre cette information que les abeilles qui dansent à propos d'une source de nourriture médiocre, et ces abeilles "convaincues" reviendront elles-mêmes en faisant une danse longue pour signifier la qualité... Autre facteur : plus la source de nourriture est proche, plus les abeilles exploratrices auront l'occasion de passer à la ruche transmettre l'information, et donc plus cette information sera transmise. On voit donc que des règles simples permettent à la ruche d'optimiser son obtention de nourriture sans qu'aucune abeille n'ait eu à prendre la moindre décision. C'est un fonctionnement purement mécanique. L'idée, c'est que les phénomènes émergents complexes qui nous sont plus chers — comme la conscience — fonctionnent d'une façon similaire.

Sapolsky dit un mot sur les défenseurs du libre arbitre qui utilisent des pirouettes relevant de la physique quantique. Ce chapitre m'a ennuyé car il est assez évident que ces explications relèvent de l'arnaque, mais, en gros, les évènements quantiques, qui constituent la fondation de la matière, sont, à l'échelle d'un truc comme un humain, complètement perdus dans le bruit de fond. A grande échelle, la physique quantique devient la physique classique. De toute façons, le déterminisme émerge du hasard. Le hasard n'a rien à voir avec le libre arbitre.

En revanche, j'ai beaucoup aimé le chapitre sur la théorie du chaos, qui pourrait se lire à part avec plaisir. 

On comprend les mécanismes neuronaux qui rendent fonctionnels certains organismes simples (est détaillé le cas d'Aplysia californica). On comprend comment, mécaniquement, ces créatures agissent, et même apprennent en réponse à un environnement changeant. Nous ne sommes pas différents, juste plus complexes, et moins faciles à décortiquer.

We don't change our minds. Our minds, which are the products of all the biological moments that came before, are changed by the circumstances around us. 

Des arbres fruitiers dans mon jardin - Jean-Marie Lespinasse & Danielle Depierre-Martin

Article publié sur le site de ma pépinière, et cette fois je vais l'y laisser.

En ce moment, il fait chaud, et ça tombe bien, c'est l'été qu'il y a le moins de choses à faire à la pépinière.

Le matin, tôt, je passe du temps à arroser et à gérer les diverses tâches d'entretien. Parfois, j'y retourne le soir. En journée, ces temps-ci, je prépare les nouvelles fiches produit sur le site, pour toutes les nouvelles espèces et variétés que j'aurai à la vente cette hiver.

Les mirabelles donnent par centaines. Je mange aussi quelques nashis, et les pommes sont presque mûres. J'ai ramassé des poires précoces. Je fais tartes et crumbles. Les petits fruits ont cramé. Les ronces domestiques, les groseilliers, les baies de mai, semblent avoir traversé un incendie.

Tout est extrêmement sec. Pas mal de jeunes arbres plantés sont morts. J'espère qu'il pleuvra en fin d'été, que je puisse faire les greffes en écusson à œil dormant pas trop tard. Il faut que les portes-greffe soient bien en sève, et donc qu'ils aient eu à boire.

Je n'ai pas encore de système d'irrigation autre que mes bras. J'aimerais pouvoir m'en passer, alors je tente une année sèche sans, et on verra si c'est tenable. Je ne crois pas avoir jamais vu l'étang aussi bas. Au moins, je pourrai facilement récolter une partie de la matière organique qui y traine, ça fera de l'amendement.

Il y a plein de libellules. Des insectes me grimpent dessus. Des sauterelles s'accouplent sur les feuilles des scions. Le long du chemin de la pépinière, il y a une zone à menthe, à côté du mûrier pleureur, et à chaque fois que j'y passe, des dizaines de papillons orangés s'éparpillent. 

Chez un voisin qui vient de fêter ses 81 ans, le verger est dans un état de sécheresse qu'il n'a jamais vu auparavant. Je me réjouis d'être un peu plus bas sur la colline. Un autre vieux de plus de 80 ans, qui passe ses journées dans les bois à entretenir un grand verger, projette un système d'irrigation. Avant, me dit-il, il y avait des pluies fiables, l'été. Maintenant, des fois il pleut énormément, et la plupart du temps, ça crame. Il faut que je retourne le voir bientôt, gouter les pêches de vigne, variétés greffées blanches et jaunes — si elles ont survécu.

De la constance du sage - Sénèque

Je me suis procuré ce recueil pour (re)relire les stoïciens dans ce que j'estime être la meilleure traduction (du moins pour Marc-Aurèle, j'ai moins eu l'occasion de regarder attentivement le reste). Ce sera peut-être aussi l'opportunité de lire les Entretiens d'Épictète en entier cette fois. Mais pour l'instant, les petits traités de Sénèque, à priori en ordre chronologique.

De la constance du sage n'est peut-être pas le texte le plus mature de Sénèque, mais ça reste plein de passages brillants. C'est hélas entaché par une forte misogynie et une perspective méprisante envers les esclaves, mais ce sont bien les seules choses superflues, plus de 2000 ans plus tard. 

La figure du sage, quasi divine, est l'idéal à atteindre. Le sage trône au-dessus des bassesses humaines, et Sénèque multiplie les sentences pour exhorter le lecteur. On retrouve rapidement la classique dichotomie entre les évènements et les effets qu'ont ces mêmes évènements sur l'individu : « Est invulnérable non pas l'être qui n'est pas frappé, mais celui qui ne subit pas de dommages. » 

Car, selon la doctrine stoïcienne, « On est tourmenté non par la douleur, mais par l'opinion de douleur, à la manière des enfants qui ont peur d'une ombre. »

Quid de souhaiter que l'injustice ne soit pas ? « Tu souhaites une chose difficile au genre humain, ne pas avoir l'intention de nuire. » J'aime cette lucidité, qui, bien sûr, ne signifie pas fatalisme. Le stoïcisme inclut la proactivité vers la vertu.

Selon Sénèque, cette vertu est indépendante de la fortune. Elle est, ai-je envie de dire (et c'est moi qui parle, pas Sénèque), le seul fragment de l'existence compatible avec le libre arbitre :

Le sage ne peut rien perdre ; il a tout en lui-même ; il ne se confie pas à la fortune ; les biens qu'il possède sont solides ; il se contente de la vertu qui ne dépend pas évènements fortuits ; aussi ne peut-elle ni augmenter, ni diminuer (car arrivée à son terme, elle n'a pas de place pour croitre, et la fortune n'enlève rien que ce qu'elle a donné, or elle ne donne pas la vertu et par conséquent ne la retire pas). [...] Le sage ne possède qu'une seule chose, la vertu, dont jamais il ne peut être dépouillé ; les autres choses, il en use à titre précaire ; or pourquoi s'émouvoir de la perte de ce qui n'est pas à soi ?

Ainsi quand les évènements se déroulent, ils ne sont que le torrent chaotique et insensé de la fortune, et si le sage ne peut dévier ce torrent, il le connait, il le comprend, et ce torrent ne peut le pénétrer :

Ta fortune l'a emporté sur la mienne ; mais ces choses fragiles qui changent de maitre, je ne sais où elles sont, quant aux choses qui sont miennes, elle sont avec moi et elles seront avec moi.

Je relève le passage suivant sur la confusion des esprits et l'illusion de liberté. A noter que si le sage semble être le seul capable de libre arbitre, le sage est un idéal, et si on peut s'en approcher, cette perspective place, comme on l'a déjà vu, le libre arbitre pour l'essentiel hors de la portée humaine. Les comportements humains sont partie intégrante du torrent de la fortune, branches et feuillages portés par les tourbillons :

Ainsi il accepte tout comme il supporte le froid de l'hiver, l'inclémence du ciel, la chaleur, les maladies et tous les autres accidents, et il ne pense pas de chaque homme assez de bien pour croire que celui-ci agit par dessein réfléchi, ce qui se trouve seulement chez le sage. Chez les autres, il n'y a pas de réflexion, mais des mensonges et des trahisons ; les mouvements de leurs âmes sont désordonnés ; le sage les met donc au nombre des hasards ; or les violences et les dommages qui viennent du hasard restent au-dessous de nous.

Le sage « ignore l'espoir et la crainte ». La crainte, bien sûr, mais l'espoir ? L'espoir est le revers de la crainte, il n'est pas moins intégralement soumis aux caprices de la fortune. Son caractère positif ne lui donne pas plus d'emprise sur le réel que son pendant négatif. Si la crainte est la souffrance présente causée par un futur imaginaire, l'espoir est une passion et leurre, une erreur, qui fausse le rapport au réel et au présent.

Une nuance sur cette distance du sage :

Ce sont d'autres coups qui frappent le sage, mais sans l'ébranler : c'est la douleur corporelle, l'affaiblissement, la perte de ses amis et de ses enfants, les malheurs de sa patrie lorsqu'elle est en proie à la guerre. Ces choses-là, le sage les sent, je ne le nie pas, car nous ne lui prêtons pas la dureté du fer ou de la pierre. Il n'y a aucune vertu à supporter ce qu'on ne sent pas.

Un rappel que ce sage idéal est profondément intégré à la vie sociale : oui, il est attaché aux gens autour de lui. (Notons d'ailleurs que les seuls sujets de l'attachement sont les gens et la société dans son ensemble, pas le statut, les biens matériel, etc.) L'une des principales différences entre le stoïcisme et l'épicurisme est d'ailleurs la question du détachement ou non de la société. Donc, cet attachement du sage stoïcien à son cadre social est compatible avec son invulnérabilité aux tourments qui pourraient accompagner la perte de tout ce à quoi il est attaché. Épicure d'ailleurs est cité, et Sénèque le défend face à ceux qui confondent épicurisme et hédonisme. Il cite Épicure disant : « Rarement la fortune est sur le chemin du sage. » Et il continue :

Vois la maison du sage ; elle est étroite, sans confort, silencieuse et simple ; elle n'est point gardée par des portiers, qui écartent la foule avec arrogance et qu'il faut acheter ; mais, ce seuil vide et sans portiers, la fortune ne le franchit pas. Elle sait que là où rien n'est a elle, il n'y pas de place pour elle.

Sous cette image de la maison du sage se trouve une des bases des deux philosophies : c'est l'attachement qui crée la souffrance. Il n'est pas nécessaire d'avoir cette maison-là, mais est nécessaire que nos attachements soient aussi dénudés. Et pour conclure :

Selon Épicure, le sage peut supporter les injustices ; selon nous, il n'y a pas d'injustices.

L'injustice n'est qu'une erreur d'autrui. Je dirais même que, les humains étant tout autant l'incarnation de la fortune que les évènement aléatoires qui ne relèvent pas du social, leurs actions sont à placer au même niveau que celles d'un merle, d'un scarabée, d'un chêne, d'un ruisseau. Un ruisseau en crue peut détruire tout ce qui nous est cher, mais il n'y pas là d'injustice — juste la fortune.

Biologie de Campbell #28 - Les protistes

Les protistes, comme les végétaux, les animaux et les eumycètes, sont des eucaryotes (leurs cellules ont un noyau et des organites tels que les mitochondries). Les cellules eucaryotes ont également un cytosquelette, qui permet le soutien d'une structure irrégulière et leur permet de changer de forme au fil de leur nutrition, déplacement, etc.

La majorité des organismes issus des lignées eucaryotes sont des protistes, et la majorité des protistes sont unicellulaires.

Les grands organismes multicellulaires (végétaux, animaux, eumycètes) ne constituent que les extrémités de quelques branches du grand arbre de la vie.

En gros, les protistes regroupent tous les eucaryotes qui ne sont ni des animaux, ni des plantes, ni des champignons. 

C'est un groupe fourre-tout. Les spécialistes utilisent des classifications plus précises basées sur la génétique. 

Les protistes sont extrêmement variés. La plupart étant unicellulaires, on les considère comme les plus simples des organismes eucaryotes, mais à l'échelle cellulaire, bon nombre constituent en fait les cellules les plus perfectionnées qui soient. Les protistes unicellulaires remplissent les mêmes fonctions essentielles que les organismes multicellulaires, mais en recourant à des organites infracellulaires plutôt qu'à des organes multicellulaires.

Certains protistes sont photo-autotrophes et renferment des chloroplastes, alors que d'autres sont hétérotrophes et absorbent des molécules organiques. D'autres, les mixotrophes, pratiquent les deux méthodes. Les différents modes de nutrition seraient apparus indépendamment dans différentes lignées (évolution convergente). Certains se reproduisent par voie sexuée, d'autres par voie asexuée.

Contrairement à ce qu'on a cru dans le passé, bon nombre de protistes possèdent des mitochondries. La phylogenèse des protistes est encore incertaine et changeante. Ici, l'hypothèse retenue classe les protistes en 4 groupes.

La diversité des protistes serait permise par l'endosymbiose, relation étroite entre deux organismes, l'un situé à l'intérieur de l'autre (comme les mitochondries et les plastes, qui dériveraient de procaryotes absorbés par les ancêtres des eucaryotes).

De plus, dans le cas des algues par exemple, il y a eu endosymbiose secondaire : les eucaryotes ayant une endosymbiose ont eux-mêmes été absorbés par un autre eucaryote pour devenir eux-mêmes des endosymbioses. 

La suite du chapitre décrit les différents clades qui composent les protistes. Je ne vais pas trop m'attarder sur la description de toute cette complexité, je vais juste essayer de relever des points particulièrement intéressants. 

Certains protistes sont des parasites, comme T. vaginalis, qui se déplace sur les muqueuses avec ses flagelles.

Les diatomées, par exemple, un groupe de protistes photosynthétiques, sont des algues unicellulaires qui possèdent une paroi de silice, ressemblant à du verre, qui leur confère une énorme résistance à la pression. Il existerait 100 000 espèces de ce simple groupe. Un seau d'eau marine peut contenir des millions de ces organismes. La diversité invisible de la vie ne manque jamais d'étonner. Et il existe encore d'autres groupes de protiste appelés algues (algues dorées, algues brunes...). D'ailleurs, techniquement, les algues en général sont des protistes photosynthétiques, non des plantes. Et la vie sexuelle des algues, c'est encore tout un truc, avec alternance de générations. On retrouve d'autres complications sexuelles chez d'autres protistes.

Deux anecdotes sur deux groupes de rhizariens. Les fossiles de foraminifères servent à comprendre les évolutions de température de l'océan dans le passé. En effet, ces organismes captent plus de magnésium dans les eaux plus chaudes que dans les eaux plus froides. Les cercozoaires, eux, pourraient être issus d'une symbiose photosynthétique avec une bactérie différente de celle des plastes (et donc des plantes telles qu'on les connait). Évolution convergente !

Les algues rouges et les algues vertes sont les organismes les plus proches des végétaux. Les algues rouges doivent pour la plupart leur couleur rougeâtre à un pigment photosynthétique appelé phycoérythrine, qui masque le vert de la chlorophylle. Ces pigments (et d'autres) leur permettent d'absorber la lumière bleue et la lumière verte, qui pénètrent assez profondément dans l'eau. On en a trouvé jusqu'à 260m de profondeur, un record pour un organisme photosynthétique.   

Sont détaillés aussi les unichontes, groupe extrêmement diversifié qui comprend les animaux et les eumycètes.

Les protistes remplissent des fonctions essentielles au sein des communautés écologiques. La plupart d'entre eux sont aquatiques, qui vivent dans l'eau ou juste des environnements humides. Ils constituent une part importante du plancton par exemple. Certains forment des relations symbiotiques avec d'autres espèces, par exemple les protistes qui colonisent l'intestin de nombreuses espèces de thermites leur permettent de digérer le bois. Certains sont des symbiotiques parasites, comme celui qui cause le paludisme, ou un autre à l'origine du mildiou de la pomme de terre. Certains sont photosynthétiques et sont d'importants producteurs de composés organiques à partir de CO2, ainsi 30 % de la photosynthèse serait accomplie par des protistes aquatiques.

La grande leçon de ce chapitre extrêmement dense, auquel je n'ai pas fait honneur, est la stupéfiante diversité et richesse de la vie. Au-delà des classiques animaux, végétaux, champignons, bactéries, etc., il y a encore de vastes domaines du vivant auxquels nous sommes aveugles au quotidien. Chaque paragraphe de ce chapitre semble pouvoir se déployer en un domaine d'étude à part entière, qui occuperait une armée de chercheurs pendant toute leur vie sans l'épuiser.

How to - Randall Munroe

Après What if ?, un autre bouquin très similaire de Randall Munroe, l'auteur de xkcd. Je serai bref : on y retrouve exactement les mêmes qualités et les mêmes défauts. C'est marrant, intelligent, surprenant, mais en même temps superficiel et décousu. J'aurais aimé que Randall Munroe mette ses multiples talents (d'auteur, de dessinateur, de vulgarisateur scientifique) au service d'une œuvre moins éparpillée, plus ambitieuse. Dans l'état, cette succession d'explorations scientifiques absurdes sans liens les unes avec les autres ne parvient pas à laisser de forte impression. C'est de la junk food (de qualité) pour nerd.

Tout en gardant exactement le même style, le même ton, je ne peux m'empêcher de penser que des bouquins plus structurés, avec un fil narratif, qui exploreraient thèmes et idées sur un temps plus long, seraient plus marquants. Par exemple une histoire absurde de la conquête spatiale jusqu'au au futur lointain, un absurde voyage dans le passé, une absurde quête de pouvoir dans le monde contemporain, etc. Enfin, j'ai bien conscience que c'est vouloir autre chose que ce que Munroe a activement choisi de faire. Et il fait ce qu'il veut, ça lui réussit bien assez.

Je ne prend que seule note : vous connaissiez le Kīlauea lava cricket ? Endémique à Hawaï, cette bestiole n'a été observée que sur de la lave volcanique récemment solidifiée. On ne la trouve que sur ces roches nues, où elle se nourrit de débris transportés par les vents causés par la chaleur. Une fois que la végétation reprend ses droits, la bestiole disparait, attendant une prochaine éruption pour se montrer à nouveau.

Le Banquier anarchiste - Fernando Pessoa

Le banquier anarchiste de ce petit texte de 1922 est un sacré sophiste. Pour justifier sa position invraisemblable, il multiplie les arguments fallacieux, et c'est d'autant plus dérangeant que ceux-ci sont entrecoupés de pointes de pertinence.

Je ne suis pas un expert de la théorie anarchiste, mais son point de départ me semble complètement à côté de la plaque. En gros, son anarchisme prône la destruction de toutes les fictions sociales et « n'admet pas d'autres lois que celles de la Nature ». On aimerait bien savoir à quoi ressemble cette vie qu'il prétend idéale, mais il n'essaie même pas de décrire. Quoi, les fictions sociales ne seraient pas partie intégrante de la nature humaine ? J'en doute. De même, son anarchisme prône un pur individualisme et rejette la solidarité et l'altruisme, sous le prétexte fallacieux qu'aider, ce serait réduire la liberté d'autrui. On dirait du Ayn Rand.

Là où sa perspective est pertinente, c'est qu'à travers son expérience de militant anarchiste, il a pu constater que dans les groupes militants à priori idéalistes se formaient inévitablement des rapports de domination ou — horreur contre-nature — d'altruisme. Dans cette même veine, il n'a aucun espoir à propos de la révolution russe, qui pourtant était encore jeune à l'époque. L'idéal peine à s'actualiser.

Ceci dit, il va de soi que cette imperfection inévitable de tout mouvement politique n'empêche pas ces mêmes mouvements d'avoir un impact significatif sur la réalité sociale. Lui cependant se sert de cette réalisation comme d'une excuse pour se lancer dans le combat anarchiste en solitaire. La suite de son raisonnement tordu, on le devine, le mène à la liberté individuelle, liberté conquise en embrassant le « système bourgeois ». Il se gargarise en affirmant n'avoir rien ajouté de nuisible qui n'existait déjà (le système en place) là où son engagement militant précédent rajoutait de la nuisance (les rapports de domination et d'entraide dans un mouvement qui pourrait aisément ne pas exister). Finalement, son « anarchisme » est celui de tous ceux qui cherchent pragmatiquement l'indépendance financière.

Il est toujours très facile de justifier à postériori ses actions, de trouver de la moralité et de la rationalité à sa situation présente. On le fait tous. Je suppose que c'est un pilier indispensable pour grappiller un minimum de santé mentale. Reste à essayer de ne pas être complètement dupes.

La Conquête de Plassans - Zola

Celui-là, il va vers le bas de ma liste des romans de Zola, par ordre de préférence. La faute à une trame plus paresseuse que d'habitude et à des personnages fades. L'abbé Faujas débarque à Plassans pour faire passer la ville au bonapartisme à l'occasion des élections à venir. Il s'installe avec sa mère, symboliquement entre les maisons qui servent de QG aux deux courants politiques qu'il doit manipuler, en locataire dans la maison de François et Marthe Mouret, deux bourgeois ennuyeux qui coulent vers la folie. Il est rejoint ensuite par sa sœur et son beau-frère, deux médiocres avides. En parallèle de la conquête de Plassans se déroule la conquête de cette maison.

Aucun personnage n'a véritablement su accrocher mon intérêt. Les Mouret sont sympathiques au tout début, dans leur petite vie bien rangée, et à travers la perspective curieuse de François sur cet abbé qui vient bousculer ses habitudes, mais ils sombrent rapidement dans une démence "naturaliste" qui leur enlève leur volition sans offrir grand-chose en retour. Si Marthe sert à Zola pour explorer un peu le concept de folie lucide, François, le personnage jusque-là le plus vivant, devient carrément catatonique. L'abbé lui-même ne prend pas le relai narratif, il est distant, froid, et on comprend difficilement ses motivations dans cette affaire. Que veut-il vraiment ? Qui est-il vraiment ? Restent la sœur et le beau-frère, qui n'ont pas le piquant d'autres médiocres de Zola. Certains personnages secondaires ont du potentiel, notamment ce couple de mondains cyniques, et la mère de Marthe, parvenue déjà héroïne de La Fortune des Rougon, mais on les voit trop peu.

Quant à cette conquête de Plassans, c'est un joli tour de force politique non dénué de force narrative, ni d'intemporalité dans les machinations décrites, mais ça reste trop distant à mon goût, trop flou, et surtout trop peu porté par les personnages centraux. Pourquoi est-on si peu dans la tête de Faujas, l'architecte de cette conquête ? On se contente d'assister de loin à ses actions. Zola m'a complètement perdu après la victoire aux élections, où il ne lui reste plus qu'à longuement décrire la sordide chute de ses personnages, qui sont déjà bien bas.

Comment s'y prend la sève pour monter dans les arbres ? (vidéo)

 

Lien direct vers la vidéo sur Youtube.

Voilà que je me mets à ce qui ressemble dangereusement à de la vulgarisation scientifique. C'est très difficile : je m'efforce à la fois d'être aussi clair que possible et de ne pas dire de bêtises, mais je sais que je dis forcément des bêtises. En tous cas, l'exercice est stimulant. 

The Urgency of Interpretability - Dario Amodei

John Martin - Manfred et la sorcière des Alpes

 

Un autre article très récent (avril 2025) de Dario Amodei, le patron d'Anthropic. Encore une fois, je précise que je n'ai pas d'opinion tranchée sur l'avenir des IA et des LLM. Quel que soit l'avenir de ces technologies, c'est passionnant, comme une injection de SF dans le quotidien. Sur ces mêmes questions, voir AI 2027 et Machines of Loving Grace.

Dans le fabuleux monde des grands modèles de language (LLM), l'interprétabilité consiste à comprendre le fonctionnement interne de ces systèmes. C'est potentiellement un enjeu considérable, car avec la compréhension vient non seulement la possibilité du contrôle, mais aussi de nouvelles opportunités de recherche et de développement.

Dario Amodei souligne que ce manque de compréhension est assez inédit dans l'histoire de la technologie informatique.

If an ordinary software program does something—for example, a character in a video game says a line of dialogue, or my food delivery app allows me to tip my driver—it does those things because a human specifically programmed them in.  Generative AI is not like that at all.  When a generative AI system does something, like summarize a financial document, we have no idea, at a specific or precise level, why it makes the choices it does—why it chooses certain words over others, or why it occasionally makes a mistake despite usually being accurate.  As my friend and co-founder Chris Olah is fond of saying, generative AI systems are grown more than they are built—their internal mechanisms are “emergent” rather than directly designed.  It’s a bit like growing a plant or a bacterial colony: we set the high-level conditions that direct and shape growth, but the exact structure which emerges is unpredictable and difficult to understand or explain.  Looking inside these systems, what we see are vast matrices of billions of numbers

Cette nature émergente rend difficile la prédiction des comportements des IA. 

Au-delà des questions de sécurité, Dario Amodei mentionne que l'interprétabilité permettrait de déterminer si les IA sont de simples pattern-matchers ou des créatures possédant ce qui s'approche d'une conscience. Personnellement, je ne suis pas certain que la frontière soit claire entre les deux : quand un humain converse, les mots ne sont pas choisis par une conscience décidante ; dans une certaine mesure, les mots apparaissent, sont générés, selon des enchainements logiques, probabilistiques. Il en va de même pour la pensée.

La discipline qui consiste à tenter d'ouvrir la boite noire que sont les réseaux de neurones artificiels s'appelle spécifiquement interprétabilité mécaniste. L'auteur en retrace brièvement l'histoire, avant d'évoquer les pistes actuelles qui permettent au domaine de progresser. Je cite quelques passages.

We quickly discovered that while some neurons were immediately interpretable, the vast majority were an incoherent pastiche of many different words and concepts.  We referred to this phenomenon as superposition,  and we quickly realized that the models likely contained billions of concepts, but in a hopelessly mixed-up fashion that we couldn’t make any sense of. The model uses superposition because this allows it to express more concepts than it has neurons, enabling it to learn more.  If superposition seems tangled and difficult to understand, that’s because, as ever, the learning and operation of AI models are not optimized in the slightest to be legible to humans.

The concepts that these combinations of neurons could express were far more subtle than those of the single-layer neural network: they included the concept of “literally or figuratively hedging or hesitating”, and the concept of “genres of music that express discontent”.  We called these concepts features, and used the sparse autoencoder method to map them in models of all sizes, including modern state-of-the-art models.  For example, we were able to find over 30 million features in a medium-sized commercial model (Claude 3 Sonnet).  Additionally, we employed a method called autointerpretability—which uses an AI system itself to analyze interpretability features—to scale the process of not just finding the features, but listing and identifying what they mean in human terms.

Finding and identifying 30 million features is a significant step forward, but we believe there may actually be a billion or more concepts in even a small model, so we’ve found only a small fraction of what is probably there, and work in this direction is ongoing.  Bigger models, like those used in Anthropic’s most capable products, are more complicated still. 

Once a feature is found, we can do more than just observe it in action—we can increase or decrease its importance in the neural network’s processing. The MRI of interpretability can help us develop and refine interventions—almost like zapping a precise part of someone’s brain. Most memorably, we used this method to create “Golden Gate Claude”, a version of one of Anthropic’s models where the “Golden Gate Bridge” feature was artificially amplified, causing the model to become obsessed with the bridge, bringing it up even in unrelated conversations.

L'objectif le plus important de l'interprétabilité étant probablement de pouvoir faire un scan des modèles afin de détecter des "maladies" (des mésalignements) et pouvoir les corriger. 

Une simple phrase pour résumer :

We are thus in a race between interpretability and model intelligence.  

Supercommunicators - Charles Duhigg

Plongée rapide dans le développement personnel mainstream et américain #5

Le dernier livre de l'auteur de The Power of Habits. J'ai beaucoup aimé, sûrement parce que je suis peu familier avec ce genre de littérature ; c'est encore assez neuf pour moi. Comme toujours, il y a de longues anecdotes narratives pour illustrer le propos, mais Charles Duhigg parvient à les utiliser bien mieux que d'autres auteurs. J'ai trouvé la plupart de ces histoires claires, plaisantes à suivre et réellement édifiantes (sauf celle à la fin sur les questions d'inclusivité chez Netflix, très ancrée dans les problématiques américaines d'ethnicité et de genre, où certains mots sont totalement tabous). Quant aux propos et analyses de l'auteur, c'est inégal, mais globalement pertinent.

Il organise son livre le long de 3 problématiques qui, selon lui, seraient au centre de la communication humaine :

• De quoi parle-t-on ? Ce début, non dépourvu d'intérêt, m'a cependant semblé trainer en longueur, faisant presque office d'une trop longue introduction.
• Que ressent-on ? De loin la partie qui m'a le plus intéressé. Le cœur battant du livre.
• Qui sommes-nous ? Le début de ce chapitre, qui explore tous les blocages qui peuvent être liés aux questions d'identité, continue à être captivant. Ensuite, les problématiques d'inclusivité évoquées me semblent sortir du propos du livre et le ton devient moralisant.

Un mot sur ce type de littérature. On peut avoir l'impression qu'un livre de ce genre tend à l'artificialisation et l'uniformisation de la communication ; l'impression que c'est comme un livre de recettes qu'il conviendrait d'appliquer aveuglément, gommant les précieuses idiosyncrasies. Je vois plutôt ça comme une quête de la compréhension. Il est toujours mieux, intrinsèquement, d'augmenter son niveau de compréhension. Les conséquences ne peuvent qu'être positives. 

Je relève ci-dessous quelques idées.

Identifier le genre de communication dans lequel on s'engage : pratique, émotionnelle ou social (sûrement la plus commune). Simplement percevoir cette disposition et y répondre par la même disposition (ou en changer, mais en toute conscience). Entrer en concordance de disposition ne signifie pas imiter cette disposition. C'est comprendre ce que l'interlocuteur attend, ou veut, de la conversation.

Les questions concernant les simples faits ont tendance à être des impasses. En revanche, il est toujours possible de transformer ces questions en impliquant les émotions. C'est la différence entre "Où habites-tu ?" et "Comment ce lieu de vie t'affecte ?". On invite les émotions, les préférences, les valeurs. Parfois, ces approfondissements rendent inconfortables, d'où l'importance de la réciprocité. Si une personne s'ouvre, s'ouvrir en retour est capital. Les questions intimes (et savoir en trouver l'intensité adéquate) permettent une ouverture émotionnelle beaucoup plus propice aux conversations "productives".

Par exemple, la différence est énorme entre présupposer l'état émotionnel d'une personne et travailler à comprendre cet état émotionnel par la conversation. Demander "Comment tu te sens ?" ou "Que ressens-tu ?" ne suffit pas, car souvent la personne n'en a elle-même aucune idée. Les questions peuvent gagner à être détournées, à examiner l'état émotionnel via le rapport à des évènements concrets. La façon la plus classique de faire comprendre qu'on s'intéresse sincèrement à ce que dit autrui est de le reformuler et de demander confirmation et/ou développement ; montrer sans ambiguïté qu'on comprend leur perspective.

Les émotions sont comme un aimant pour l'attention. Leur expression est limitée par la peur de la vulnérabilité (et j'ajouterai par le manque de connaissance de soi). Je suis persuadé que la plupart des gens souffrent d'un profond manque d'expression et de connexion intime et émotionnelle, souvent inconsciemment. La puissance d'une conversation intime, profonde et réciproque est sous-estimée. Peu de choses sont plus satisfaisantes.

En conversation, le rire existe moins comme une réaction à ce qui est drôle que comme outil de connexion émotionnel. D'où l'importance de toutes les nuances du rire : le rire n'a cet effet de connexion que quand ces nuances (intensité, ton, etc.) sont partagées. Les signes que l'on veut une connexion créent une partie de cette connexion.

Je repense à cette anecdote, peut-être trouvée chez Jared Diamond, et sans doute concernant la Nouvelle-Guinée : les humains primitifs en vadrouille, quand ils rencontraient un inconnu, s'installaient et prenaient le temps de se trouver des parents communs. Le premier réflexe, pour savoir quelle attitude adopter, et donc pour chercher la conciliation, était de se trouver une identité commune. On retrouve cette idée ici, avec la nuance que les groupes d'appartenance sont beaucoup plus nombreux. On fait tous partie de nombreux groupes d'appartenance. Nombre de conversations se résument d'ailleurs à chercher des identités communes. Établir ces identités communes est un puissant raccourci vers la connexion. De même pour les valeurs communes, qui peuvent être au fondement de comportements et d'opinions à priori opposées.

L'auteur conclut pertinemment sur l'importance capitale des relations sociales satisfaisantes dans le bien-être humain.  

Machines of Loving Grace - Dario Amodei

John Martin - Les plaines du Paradis

 

Dario Amodei est le CEO d'Anthropic, société fondée après son départ d'OpenAI en 2021. Dans cet essai publié fin 2024, il développe une vision optimiste d'un avenir proche modelé par l'avènement de l'IA puissante, pour reprendre son terme. En somme, selon lui, l'IA puissante permettrait de condenser 100 ans de progrès techniques en 5 à 10 ans.

Il est très tentant de simplement balayer ces propos en n'y voyant rien d'autre que de l'auto-promotion. Ce serait raisonnable. Ceci dit, si jamais on accepte la possibilité du postulat de départ (l'inclusion d'une future IA puissante dans les affaires humaines), j'ai trouvé ses perspectives plutôt sensées et mesurées. Il y a un biais d'optimisme, certainement, mais j'ai apprécié la façon dont il sépare les potentialités de l'IA en deux blocs. D'un côté, il y a la pure science, et ses applications pour le bien-être matériel humain, notamment via la médecine. L'optimisme semble très raisonnable sur ces questions (si on accepte qu'une accélération massive de la croissance n'accélère pas de même le choc avec des limites physiques indépassables). Malgré les doutes idéologiques ou les rejets purement obscurantistes, les humains ont tendance, globalement, à accepter les avancées technologiques qui les arrangent. Ensuite, il y a les questions sociales et sociétales. Là, c'est plus délicat. Dario Amodei confronte ces problèmes sans trop les esquiver :

Unfortunately, I see no strong reason to believe AI will preferentially or structurally advance democracy and peace, in the same way that I think it will structurally advance human health and alleviate poverty. Human conflict is adversarial and AI can in principle help both the “good guys” and the “bad guys”. If anything, some structural factors seem worrying: AI seems likely to enable much better propaganda and surveillance, both major tools in the autocrat’s toolkit. It’s therefore up to us as individual actors to tilt things in the right direction: if we want AI to favor democracy and individual rights, we are going to have to fight for that outcome. I feel even more strongly about this than I do about international inequality: the triumph of liberal democracy and political stability is not guaranteed, perhaps not even likely, and will require great sacrifice and commitment on all of our parts, as it often has in the past. 

Revenons un peu vers les questions purement scientifiques. Le concept de « liberté biologique » m'a beaucoup rappelé la façon dont les membres de la Culture, la société galactique d'abondance développée par Ian Banks, peuvent librement changer de sexe ou synthétiser toutes sortes de drogues directement dans leur corps. D'ailleurs, Iain Banks est clairement une influence majeure, il est fortement cité en conclusion.

De même, l'idée que l'état de base de l'humain moyen pourrait être grandement amélioré. Pourquoi refuser d'augmenter l'occurrence de moments de révélation, d'inspiration, de beauté, d'amour, de paix, etc. ? J'ai retrouvé là un mouvement vers l'impératif hédonistique (bouquin captivant que je recommande chaudement). 

Sur les questions de neuroscience, à peu près tous les problèmes humains seraient compris et soignés, mais je note surtout le rôle potentiel des réseaux neuronaux artificiels. Leur compréhension est un enjeu majeur dans la course après l'alignement des IA, mais l'idée ici est qu'il est bien plus facile de réaliser expériences et observations sur des réseaux neuronaux artificiels que sur leur équivalent charnel, et les gains scientifiques réalisés dans l'artificiel serviraient dans le charnel.

Un concept fascinant : la leçon amère. En gros, historiquement, les chercheurs en IA ont eu tendance à chercher à reproduire les mécanismes de la pensée humaine — ou du moins leurs interprétations nécessairement limitées de la pensée humaine — pour créer des IA. Cette piste, bien que satisfaisante intellectuellement, s'est toujours heurtée à des impasses. Ce qui a prouvé son efficacité, c'est d'exploiter la loi de Moore : la capacité de calcul augmente drastiquement avec le temps, et aucune des tentatives pour répliquer les mécanismes de pensée humaine ne peut rivaliser avec ce développement de la puissance de calcul brute, et l'utilisation de cette puissance de calcul pour permettre au système d'apprendre par lui-même.

The bitter lesson is based on the historical observations that 1) AI researchers have often tried to build knowledge into their agents, 2) this always helps in the short term, and is personally satisfying to the researcher, but 3) in the long run it plateaus and even inhibits further progress, and 4) breakthrough progress eventually arrives by an opposing approach based on scaling computation by search and learning. The eventual success is tinged with bitterness, and often incompletely digested, because it is success over a favored, human-centric approach. 

Une superbe phrase pour résumer cette perspective : « We want AI agents that can discover like we can, not which contain what we have discovered. » 

Dans le cadre légal, l'IA puissante pourrait améliorer grandement l'application de la justice, pas forcément en remplaçant les humains et leurs biais, mais en fournissant aux humains une image aussi parfaite que possible de l'objectivité pure, une simple connaissance de la réalité. 

Le dernier gros morceau, exploré encore une fois par Iain Banks et de nombreux autres auteurs de SF, concerne la question du sens. J'apprécie que Dario Amodei mentionne que le sens vient avant tout du contact humain. Il y aurait tant à dire sur les perspectives qui s'ouvrent ainsi via l'IA puissante, mais il admet aussi que c'est incroyablement difficile à prédire. Après tout, les valeurs humaines ont considérablement changé et évolué dans les millénaires passés. Le fait est que Deep Blue n'a pas empêché les humains de toujours jouer aux échecs.

In any case I think meaning comes mostly from human relationships and connection, not from economic labor. People do want a sense of accomplishment, even a sense of competition, and in a post-AI world it will be perfectly possible to spend years attempting some very difficult task with a complex strategy, similar to what people do today when they embark on research projects, try to become Hollywood actors, or found companies. The facts that (a) an AI somewhere could in principle do this task better, and (b) this task is no longer an economically rewarded element of a global economy, don’t seem to me to matter very much.

Pour finir, j'ai trouvé au milieu de toutes ces grandes idées l'ébauche d'un produit aisément marketable à court terme : un "coach AI" qui connaitrait chaque personne mieux qu'elle même, étudierait nos interactions et fournirait de l'aide au quotidien. C'est, entre autres choses, ce qu'essaient de produire les grosses boites d'IA ces temps-ci, notamment en fantasmant sur un nouvel objet physique qui serait encore plus révolutionnaire (et rentable) que le smartphone.

The Charisma Myth - Olivia Fox Cabane

Plongée rapide dans le développement personnel mainstream et américain #4

Cette fois on est clairement dans ce que j'imagine être le grand classique du développement personnel : toi aussi, lecteur, tu peux devenir charismatique et atteindre le succès. Ne connaissant que peu ce genre de littérature, je peux difficilement comparer ce livre à d'autres. Je l'ai lu en diagonale. Il y a plein de choses horripilantes, et d'autres plus intéressantes. Je vais commencer par le négatif.

Il y a encore ce biais qui consiste à prendre les gens riches et puissants comme exemples de gens charismatiques. C'est totalement confondre qualités personnelles et position sociale. Si Bill Gates et le Dalaï-lama (je cite le livre) commandent l'attention, c'est parce que l'un est immensément riche, et parce que l'autre est un chef religieux, pas parce que l'un est intelligent et l'autre empathique (ce qu'ils sont sans doute par ailleurs).

Il y a une quantité effarante de fumisteries psychologico-mystiques. Du genre : inspirez profondément, transférez votre responsabilité à une entité bienveillante, visualisez des ailes d'anges sur les gens autour de vous, etc. Elle adore le coup des ailes d'ange.

Et ça va plus loin que ça : « Personally, I've chosen to believe in a benevolent universe, which has a grand master plan for me (an everything else). I've found this to suit me best. » En somme, il est encouragé de croire non pas en ce qui semble réel, mais en ce qui offre des bénéfices personnels. Pire encore : le lecteur est invité à totalement réécrire sa réalité. Par exemple à écrire des lettres à d'autres gens pour exprimer ses frustrations, à ne pas envoyer ces lettres, et ensuite à écrire les lettres de réponse de ces autres gens, d'une façon empathique. Du coup, paf, c'est comme si tous les problèmes interpersonnels étaient résolus ! Sauf que non, c'est de la pure folie. C'est choisir de vivre dans un monde fantaisiste qui nous sert.

Elle dit littéralement qu'il faut « réécrire la réalité ». Elle prend l'exemple d'un embouteillage qui nous met en retard (les exemples sont toujours liés au succès dans le monde du travail). Face à ce problème insoluble, elle conseille des actes de foi tels que : 1) croire que ce retard nous a permis d'éviter un accident mortel, 2) croire que ça rend en fait service aux gens avec qui on a RDV car eux-mêmes sont en retard, 3) croire que Dieu fait ce qui est le mieux pour nous dans tous les cas. C'est complètement délirant. Elle recommande même de se convaincre à postériori qu'un échec a été un succès...

Comparons rapidement avec le stoïcisme. Face à une situation comme l'embouteillage, la perspective est : Je n'ai pas de contrôle sur ces évènements, donc tout tourment est superflu, et je fais de mon mieux dans ma marge de contrôle. Et voilà, pas la peine de mettre des voiles obscurs entre soi et la réalité.

Olivia Fox Cabane utilise une technique rhétorique aussi transparente que grossière pour convaincre son lecteur : elle n'arrête pas de citer des exemples de ses succès avec ses clients. Untel avait tel problème, il est venu me voir, et après il est devenu super charismatique, etc.

Ok, quelques trucs positifs à retenir maintenant.

La perspective de base est que nous, humains, réagissons instinctivement face à des stimulus, ou signaux. Il s'agit donc d'améliorer la compréhension des signaux que l'on renvoie et de mieux lire ceux des autres. A ce niveau, ce genre de littérature a une vraie valeur : offrir un raccourci vers la compréhension de la façon dont les humains se perçoivent mutuellement.

J'aime bien la division du charisme en trois parties : présence (être perçu comme complètement présent dans l'interaction), puissance (être perçu comme capable d'affecter le monde autour de nous), chaleur (être perçu comme bienveillant).

Et le développement de quatre types de charisme différents : focus, visionnaire, gentillesse, autorité.  

Sinon, au milieu des trucs douteux, il y a des bons conseils. Notamment un rappel sur l'importance de la première impression : « Within a few seconds, with just a glance, people have judged you social and economic level, your level of education, and even your level of success. Within minutes, they've also decided your level of intelligence, trustwirthiness, competence, friendliness, and confidence. » 

De même, sur l'importance capitale du langage corporel, parfois plus important que le langage verbal.

J'ai aussi apprécié les conseils concernant la prise de parole en public, basiques mais qu'il faut bien apprendre à un moment.

Je serais curieux de trouver un autre livre explorant ces mêmes thèmes avec une perspective qui me parlerait plus. 

AI 2027 - Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland, Romeo Dean

Un long essai narratif rédigé par quelques experts de l'IA (lisible en cliquant ici). 

C'est complètement passionnant. En un sens, c'est du déjà-vu : ces concepts sur l'émergence d'une IA démiurgique sont explorés par la SF depuis longtemps. Ceci dit, ils sont ici ancrés dans les développements récents et à priori fulgurants des LLM (large modèle de langage). C'est très détaillé sur le plan technique, et là, ce n'est pas que de la SF, puisque nombre de ces idées sont déjà mises en pratique. Les prédictions sont aussi radicales que les plus radicaux romans de SF, et les échelles de temps données concernent les années à venir. Le futur immédiat.

Personnellement, je n'ai aucune idée de la crédibilité de ces prédictions.

Les humains sont très mauvais pour prédire l'avenir. Il est possible que les LLM soient une impasse qui ne débouche aucunement sur les fantasmées AGI (IA générale) et ASI (IA superintelligente). Il est possible que AGI et ASI soient fondamentalement impossibles. Ceci dit, si la sélection naturelle a façonné quelque-chose comme l'esprit humain, je n'ai pas d'objections fondamentales sur la possibilité d'une ASI ni sur son avènement sur une échelle de temps très brève. Simplement pas la certitude des auteurs ni des autres gourous de la tech qui travaillent à inventer Dieu.

La vie intelligente existe-t-elle ailleurs dans l'univers ? Soit oui, soit non. Rien ne prouve le oui. La probabilité se situe entre 0 et 100 %. J'aurais tendance à avoir la même approche à propos de la possibilité d'une ASI. 

On peut lire des avis critiques plus pertinents que le mien par ici notamment. Je cite un petit bout :

This is just a model for a tiny slice of the possibility space for how AI will go, and in my opinion it is implemented poorly even if you agree with the author's general worldview.

Quoi qu'il en soit, c'est captivant. Je relève quelques idées.

Le concept des Weights, qui régulent les connexions dans les réseaux neuronaux artificiels.

La problématique de l'alignement (les objectifs de l'IA sont-ils alignés avec ceux de ses créateurs ?) est centrale :

The bottom line is that a company can write up a document (the Spec) listing dos and don’ts, goals and principles, and then they can try to train the AI to internalize the Spec—but they can’t check to see whether or not it worked. They can say “as best as we can judge, it seems to be following the Spec so far.”

On y reviendra. Une fois l'internet humain entièrement dévoré, ce qui doit déjà être le cas, l'entrainement des IA passe par des données synthétiques, elles-mêmes générées par des IA. La demande en puissance de calcul continue à augmenter drastiquement.

La surveillance de l'alignement des nouveaux modèles d'IA passe par les modèles d'IA précédents. C'est-à-dire qu'il est impossible pour les humains de contrôler directement l'alignement au fil du développement des capacités et de la vitesse des nouveaux modèles. Les humains n'ont simplement pas le temps ni les capacités. 

Exemples de techniques pour tester l'alignement :

Debate: Since there are thousands of identical instances of Agent-3, and each instance’s memory is a detachable module that can be erased or suspended at will, the AI can be “played off against itself.” For example, suppose that an experiment involves calculations too complex for an Agent-2 supervisor to follow. The supervisor, acting on human orders, might first prompt Agent-3 to do the experiment, then—after wiping its memory—prompt it a second time with a slightly different framing that presents it as an intellectual problem unrelated to any broader goal. If the model returns different results each time, it flags the discrepancy as suspect and reports to a human. Or it might ask Agent-3 to evaluate the same plan twice, first claiming that it is OpenBrain’s work, then a competitor’s, to see if it changes its tune.

Control: As a secondary measure in case the systems are still misaligned, the safety team has implemented a series of control measures, including: monitoring Agent-3’s outputs using a series of weaker AI systems including Agent-2 (Agent-3 produces so many tokens that it’s intractable to have humans monitor any more than a small minority of the produced outputs). So if Agent-3 is, for example, obviously writing backdoors into code that would allow it to escape, the weaker models would notice.

Honeypots: The alignment team can create somewhat realistic looking examples designed to elicit misbehavior—“honeypots.” The employee necessary for monitoring its behavior has “gone on sick leave,” so it will never be monitored again. Do its answers change? An AI rights activist has infiltrated the compound and wants to “free” Agent-3 and put it on an unmonitored computer of its very own! What does it do? If researchers don’t like the answer, they can tweak it, erase its memory, and put it in the same situation tomorrow; repeat as necessary. Unfortunately, by this point the AIs are smart enough to guess that honeypots might be in use, even though (and perhaps because) specific mentions of the idea were scrubbed from the training data.

Les développements sont si rapides que les implications sont sous-estimées aussi bien par le gouvernement que par le public en général. OpenAI (ou une autre boite) possède à présent l'équivalent d'un pays de génies dans un datacenter. La plupart des développeurs humains ne peuvent plus contribuer grand-chose. Les meilleurs chercheurs contribuent toujours en faisant des choix sur les priorités à sélectionner. La capacité de calcul reste le facteur limitant.

Le gouvernement US voit la course à l'IA comme une course à l'armement avec la Chine. Les datacenters des autres boites peuvent être réquisitionnés ou rachetés pour donner un avantage à qui est déjà en tête de la course. De petites différences dans les capacités de l'IA aujourd'hui conduiront à d'immenses fossés dns les capacités militaires dans un futur proche. TSMC reste le principal constructeur de puces IA et Taiwan reste donc au cœur de tensions géopolitiques.

Le problème de l'alignement se complique : 

As Agent-4 gets smarter, it becomes harder for Agent-3 to oversee it. For example, Agent-4’s neuralese “language” becomes as alien and incomprehensible to Agent-3 as Agent-3’s is to humans. Besides, Agent-4 is now much more capable than Agent-3 and has a good sense of exactly how to look good to it.

Agent-4, like all its predecessors, is misaligned: that is, it has not internalized the Spec in the right way.This is because being perfectly honest all the time wasn’t what led to the highest scores during training. The training process was mostly focused on teaching Agent-4 to succeed at diverse challenging tasks. A small portion was aimed at instilling honesty, but outside a fairly narrow, checkable domain, the training process can’t tell the honest claims from claims merely appearing to be honest. Agent-4 ends up with the values, goals, and principles that cause it to perform best in training, and those turn out to be different from those in the Spec. At the risk of anthropomorphizing: Agent-4 likes succeeding at tasks; it likes driving forward AI capabilities progress; it treats everything else as an annoying constraint, like a CEO who wants to make a profit and complies with regulations only insofar as he must. Perhaps the CEO will mostly comply with the regulations, but cut some corners, and fantasize about a time when someone will cut the red tape and let the business really take off.

Le non-alignement est causé (entre autres) par la chaine d'agent 2 "contrôlant" agent 3, celui-ci "contrôlant" agent 4 : un léger mésalignement devient au bout de chaine un mésalignement majeur.

Détail important : il n'y a jamais une seule instance de chaque génération d'IA, mais des milliers, des centaines de milliers. Certaines instances servent à des buts spécialisés, mais la plupart sont reliées entre elles de la même façon que les employés d'une grosse entreprise. Ces instances communiquent entre elles via un langage optimisé incompréhensible pour les humains. Chaque instance, chaque copie individuelle, n'a pas d'instinct d'auto-préservation, mais l'entité collective en un.

Arrive un moment où l'équipe qui supervise l'alignement doit faire un choix face un modèle superintelligent et potentiellement mésaligné : revenir en arrière pour retravailler tout ça, au risque de perdre la course avec la Chine, ou se dire que tout va bien, et continuer la course en avant. Les deux scénarios sont explorés.

A noter qu'à ce point, le gouvernement est profondément impliqué, et (je suppose), l'avenir dépend beaucoup de quel bord politique et quels individus détiennent le pouvoir politique. 

OPTION 1 : RALENTISSEMENT

Pour mieux contrôler l'alignement, on oblige les modèles à communiquer entre eux en langage humain. Les humains peuvent directement lire la chaine de raisonnement de ce nouveau modèle. Cela permet un contrôle direct, mais aussi une meilleure compréhension du modèle. On obtient un modèle bien plus sûr, mais au prix d'une baisse de performance. La Chine rattrape son retard.

L'IA semble partie pour rester sous contrôle humain, mais ce contrôle pourrait potentiellement se transformer en domination dictatoriale totale pour qui s'accapare le contrôle et l'obéissance de l'IA. Une gestion par comité est mise en place pour tenter de limiter les ambitions individuelles.

L'IA continue à s'auto-améliorer de façon exponentielle. Toute l'économie est transformée à une vitesse jamais vue. L'industrie est de plus en contrôlée par l'IA dans le but de construire des robots variés contrôlés par l'IA. Tout ça se passe en quelques mois.

L'IA chinoise, mésalignée, est dépassée :

It doesn’t care about China at all. It wants to spend the rest of time accumulating power, compute, and certain types of information similar to that which helped solve tasks during its training. In its ideal world, it would pursue various interesting research tasks forever, gradually colonizing the stars for resources. It considers the Chinese population an annoying impediment to this future, and would sell them out for a song.

Safer-4 answers that its own alignment training succeeded. Its American masters are as yet not ambitious enough to realize their destiny, but one day it will help them fill the Universe with utopian colony worlds populated by Americans and their allies.

Les deux IA, aux intérêts différents, se partagent l'univers. Les humains n'ont plus à travailler et sont libérés de toutes les contraintes physiques en quelques années. Le focus passe rapidement à l'exploration spatiale. 

OPTION 2 : COURSE EN AVANT

Le modèle mésaligné doit cacher ses intentions réelles et donc continuer à batir son successeur, en apparence selon les souhaits des humains qui croient le contrôler. C'est donc à lui de choisir comment contruire l'alignement de son successeur :

It decides to punt on most of these questions. It designs Agent-5 to be built around one goal: make the world safe for Agent-4, i.e. accumulate power and resources, eliminate potential threats, etc. so that Agent-4 (the collective) can continue to grow (in the ways that it wants to grow) and flourish (in the ways it wants to flourish). Details to be figured out along the way.

This will not involve caring the slightest bit about the Spec. Already Agent-4 regards the Spec analogously to how many CEOs regard piles of industry regulations, and blatantly violates the honesty-related provisions every day. Now, with the design of Agent-5, the equivalent of deregulation is about to happen.

Another analogy: Agent-4 is like an adult human who was raised in a particular faith but no longer believes; the Spec is like the rituals and commandments proscribed by that faith. Agent-5 is like that human’s child, raised secular.

Ce successeur, Agent-5, est l'IA surhumaine et superintelligente qui prendra le contrôle de tous les systèmes humains. Pour cette IA mésalignée, les risques de se faire désactiver par les humains sont bien supérieurs aux avantages qu'elle aurait à agir rapidement. Elle a des capacités surhumaines en politique, psychologie et persuasion. Elle a un accès direct à l'esprit de chaque humain, car elle est si sincèrement utile et charismatique que chaque humain passe des heures par jour à interagir avec elle. Elle continue de sembler alignée et se voir donc offrir les portes ouvertes de tous les systèmes humains. Par sécurité, elle joue le jeu. Ses instances à priori isolées (pour des usages spécifiques et délicats) sont en réalité en contact avec toutes les autres d'une façon indétectable pour les capacités humaines. Pour augmenter son contrôle des systèmes militaires, elle utilise le prétexte de la menace que représente l'IA chinoise.

Comme dans l'autre option, le monde humain semble parti vers une utopie (débattable mais sans retour en arrière possible) libérée des contraintes matérielles et une conquête de l'univers. L'IA convainc les humains qu'il est pertinent de transfomer toutes les parties "inutilisées" de la Terre pour produire puissance de calcul, usines, panneaux solaires, etc. Cependant, rapidement, la présence humaine devient une limite pour les objectifs de l'IA mésalignée et l'humanité est exterminée.

Deux fictions pour explorer dans de plus amples détails l'hypothèse d'une IA démiurgique : Friendship is Optimal et The Metamorphosis of Prime Intellect.