La Conquête de Plassans - Zola

Celui-là, il va vers le bas de ma liste des romans de Zola, par ordre de préférence. La faute à une trame plus paresseuse que d'habitude et à des personnages fades. L'abbé Faujas débarque à Plassans pour faire passer la ville au bonapartisme à l'occasion des élections à venir. Il s'installe avec sa mère, symboliquement entre les maisons qui servent de QG aux deux courants politiques qu'il doit manipuler, en locataire dans la maison de François et Marthe Mouret, deux bourgeois ennuyeux qui coulent vers la folie. Il est rejoint ensuite par sa sœur et son beau-frère, deux médiocres avides. En parallèle de la conquête de Plassans se déroule la conquête de cette maison.

Aucun personnage n'a véritablement su accrocher mon intérêt. Les Mouret sont sympathiques au tout début, dans leur petite vie bien rangée, et à travers la perspective curieuse de François sur cet abbé qui vient bousculer ses habitudes, mais ils sombrent rapidement dans une démence "naturaliste" qui leur enlève leur volition sans offrir grand-chose en retour. Si Marthe sert à Zola pour explorer un peu le concept de folie lucide, François, le personnage jusque-là le plus vivant, devient carrément catatonique. L'abbé lui-même ne prend pas le relai narratif, il est distant, froid, et on comprend difficilement ses motivations dans cette affaire. Que veut-il vraiment ? Qui est-il vraiment ? Restent la sœur et le beau-frère, qui n'ont pas le piquant d'autres médiocres de Zola. Certains personnages secondaires ont du potentiel, notamment ce couple de mondains cyniques, et la mère de Marthe, parvenue déjà héroïne de La Fortune des Rougon, mais on les voit trop peu.

Quant à cette conquête de Plassans, c'est un joli tour de force politique non dénué de force narrative, ni d'intemporalité dans les machinations décrites, mais ça reste trop distant à mon goût, trop flou, et surtout trop peu porté par les personnages centraux. Pourquoi est-on si peu dans la tête de Faujas, l'architecte de cette conquête ? On se contente d'assister de loin à ses actions. Zola m'a complètement perdu après la victoire aux élections, où il ne lui reste plus qu'à longuement décrire la sordide chute de ses personnages, qui sont déjà bien bas.

Comment s'y prend la sève pour monter dans les arbres ? (vidéo)

 

Lien direct vers la vidéo sur Youtube.

Voilà que je me mets à ce qui ressemble dangereusement à de la vulgarisation scientifique. C'est très difficile : je m'efforce à la fois d'être aussi clair que possible et de ne pas dire de bêtises, mais je sais que je dis forcément des bêtises. En tous cas, l'exercice est stimulant. 

The Urgency of Interpretability - Dario Amodei

John Martin - Manfred et la sorcière des Alpes

 

Un autre article très récent (avril 2025) de Dario Amodei, le patron d'Anthropic. Encore une fois, je précise que je n'ai pas d'opinion tranchée sur l'avenir des IA et des LLM. Quel que soit l'avenir de ces technologies, c'est passionnant, comme une injection de SF dans le quotidien. Sur ces mêmes questions, voir AI 2027 et Machines of Loving Grace.

Dans le fabuleux monde des grands modèles de language (LLM), l'interprétabilité consiste à comprendre le fonctionnement interne de ces systèmes. C'est potentiellement un enjeu considérable, car avec la compréhension vient non seulement la possibilité du contrôle, mais aussi de nouvelles opportunités de recherche et de développement.

Dario Amodei souligne que ce manque de compréhension est assez inédit dans l'histoire de la technologie informatique.

If an ordinary software program does something—for example, a character in a video game says a line of dialogue, or my food delivery app allows me to tip my driver—it does those things because a human specifically programmed them in.  Generative AI is not like that at all.  When a generative AI system does something, like summarize a financial document, we have no idea, at a specific or precise level, why it makes the choices it does—why it chooses certain words over others, or why it occasionally makes a mistake despite usually being accurate.  As my friend and co-founder Chris Olah is fond of saying, generative AI systems are grown more than they are built—their internal mechanisms are “emergent” rather than directly designed.  It’s a bit like growing a plant or a bacterial colony: we set the high-level conditions that direct and shape growth, but the exact structure which emerges is unpredictable and difficult to understand or explain.  Looking inside these systems, what we see are vast matrices of billions of numbers

Cette nature émergente rend difficile la prédiction des comportements des IA. 

Au-delà des questions de sécurité, Dario Amodei mentionne que l'interprétabilité permettrait de déterminer si les IA sont de simples pattern-matchers ou des créatures possédant ce qui s'approche d'une conscience. Personnellement, je ne suis pas certain que la frontière soit claire entre les deux : quand un humain converse, les mots ne sont pas choisis par une conscience décidante ; dans une certaine mesure, les mots apparaissent, sont générés, selon des enchainements logiques, probabilistiques. Il en va de même pour la pensée.

La discipline qui consiste à tenter d'ouvrir la boite noire que sont les réseaux de neurones artificiels s'appelle spécifiquement interprétabilité mécaniste. L'auteur en retrace brièvement l'histoire, avant d'évoquer les pistes actuelles qui permettent au domaine de progresser. Je cite quelques passages.

We quickly discovered that while some neurons were immediately interpretable, the vast majority were an incoherent pastiche of many different words and concepts.  We referred to this phenomenon as superposition,  and we quickly realized that the models likely contained billions of concepts, but in a hopelessly mixed-up fashion that we couldn’t make any sense of. The model uses superposition because this allows it to express more concepts than it has neurons, enabling it to learn more.  If superposition seems tangled and difficult to understand, that’s because, as ever, the learning and operation of AI models are not optimized in the slightest to be legible to humans.

The concepts that these combinations of neurons could express were far more subtle than those of the single-layer neural network: they included the concept of “literally or figuratively hedging or hesitating”, and the concept of “genres of music that express discontent”.  We called these concepts features, and used the sparse autoencoder method to map them in models of all sizes, including modern state-of-the-art models.  For example, we were able to find over 30 million features in a medium-sized commercial model (Claude 3 Sonnet).  Additionally, we employed a method called autointerpretability—which uses an AI system itself to analyze interpretability features—to scale the process of not just finding the features, but listing and identifying what they mean in human terms.

Finding and identifying 30 million features is a significant step forward, but we believe there may actually be a billion or more concepts in even a small model, so we’ve found only a small fraction of what is probably there, and work in this direction is ongoing.  Bigger models, like those used in Anthropic’s most capable products, are more complicated still. 

Once a feature is found, we can do more than just observe it in action—we can increase or decrease its importance in the neural network’s processing. The MRI of interpretability can help us develop and refine interventions—almost like zapping a precise part of someone’s brain. Most memorably, we used this method to create “Golden Gate Claude”, a version of one of Anthropic’s models where the “Golden Gate Bridge” feature was artificially amplified, causing the model to become obsessed with the bridge, bringing it up even in unrelated conversations.

L'objectif le plus important de l'interprétabilité étant probablement de pouvoir faire un scan des modèles afin de détecter des "maladies" (des mésalignements) et pouvoir les corriger. 

Une simple phrase pour résumer :

We are thus in a race between interpretability and model intelligence.  

Supercommunicators - Charles Duhigg

Plongée rapide dans le développement personnel mainstream et américain #5

Le dernier livre de l'auteur de The Power of Habits. J'ai beaucoup aimé, sûrement parce que je suis peu familier avec ce genre de littérature ; c'est encore assez neuf pour moi. Comme toujours, il y a de longues anecdotes narratives pour illustrer le propos, mais Charles Duhigg parvient à les utiliser bien mieux que d'autres auteurs. J'ai trouvé la plupart de ces histoires claires, plaisantes à suivre et réellement édifiantes (sauf celle à la fin sur les questions d'inclusivité chez Netflix, très ancrée dans les problématiques américaines d'ethnicité et de genre, où certains mots sont totalement tabous). Quant aux propos et analyses de l'auteur, c'est inégal, mais globalement pertinent.

Il organise son livre le long de 3 problématiques qui, selon lui, seraient au centre de la communication humaine :

• De quoi parle-t-on ? Ce début, non dépourvu d'intérêt, m'a cependant semblé trainer en longueur, faisant presque office d'une trop longue introduction.
• Que ressent-on ? De loin la partie qui m'a le plus intéressé. Le cœur battant du livre.
• Qui sommes-nous ? Le début de ce chapitre, qui explore tous les blocages qui peuvent être liés aux questions d'identité, continue à être captivant. Ensuite, les problématiques d'inclusivité évoquées me semblent sortir du propos du livre et le ton devient moralisant.

Un mot sur ce type de littérature. On peut avoir l'impression qu'un livre de ce genre tend à l'artificialisation et l'uniformisation de la communication ; l'impression que c'est comme un livre de recettes qu'il conviendrait d'appliquer aveuglément, gommant les précieuses idiosyncrasies. Je vois plutôt ça comme une quête de la compréhension. Il est toujours mieux, intrinsèquement, d'augmenter son niveau de compréhension. Les conséquences ne peuvent qu'être positives. 

Je relève ci-dessous quelques idées.

Identifier le genre de communication dans lequel on s'engage : pratique, émotionnelle ou social (sûrement la plus commune). Simplement percevoir cette disposition et y répondre par la même disposition (ou en changer, mais en toute conscience). Entrer en concordance de disposition ne signifie pas imiter cette disposition. C'est comprendre ce que l'interlocuteur attend, ou veut, de la conversation.

Les questions concernant les simples faits ont tendance à être des impasses. En revanche, il est toujours possible de transformer ces questions en impliquant les émotions. C'est la différence entre "Où habites-tu ?" et "Comment ce lieu de vie t'affecte ?". On invite les émotions, les préférences, les valeurs. Parfois, ces approfondissements rendent inconfortables, d'où l'importance de la réciprocité. Si une personne s'ouvre, s'ouvrir en retour est capital. Les questions intimes (et savoir en trouver l'intensité adéquate) permettent une ouverture émotionnelle beaucoup plus propice aux conversations "productives".

Par exemple, la différence est énorme entre présupposer l'état émotionnel d'une personne et travailler à comprendre cet état émotionnel par la conversation. Demander "Comment tu te sens ?" ou "Que ressens-tu ?" ne suffit pas, car souvent la personne n'en a elle-même aucune idée. Les questions peuvent gagner à être détournées, à examiner l'état émotionnel via le rapport à des évènements concrets. La façon la plus classique de faire comprendre qu'on s'intéresse sincèrement à ce que dit autrui est de le reformuler et de demander confirmation et/ou développement ; montrer sans ambiguïté qu'on comprend leur perspective.

Les émotions sont comme un aimant pour l'attention. Leur expression est limitée par la peur de la vulnérabilité (et j'ajouterai par le manque de connaissance de soi). Je suis persuadé que la plupart des gens souffrent d'un profond manque d'expression et de connexion intime et émotionnelle, souvent inconsciemment. La puissance d'une conversation intime, profonde et réciproque est sous-estimée. Peu de choses sont plus satisfaisantes.

En conversation, le rire existe moins comme une réaction à ce qui est drôle que comme outil de connexion émotionnel. D'où l'importance de toutes les nuances du rire : le rire n'a cet effet de connexion que quand ces nuances (intensité, ton, etc.) sont partagées. Les signes que l'on veut une connexion créent une partie de cette connexion.

Je repense à cette anecdote, peut-être trouvée chez Jared Diamond, et sans doute concernant la Nouvelle-Guinée : les humains primitifs en vadrouille, quand ils rencontraient un inconnu, s'installaient et prenaient le temps de se trouver des parents communs. Le premier réflexe, pour savoir quelle attitude adopter, et donc pour chercher la conciliation, était de se trouver une identité commune. On retrouve cette idée ici, avec la nuance que les groupes d'appartenance sont beaucoup plus nombreux. On fait tous partie de nombreux groupes d'appartenance. Nombre de conversations se résument d'ailleurs à chercher des identités communes. Établir ces identités communes est un puissant raccourci vers la connexion. De même pour les valeurs communes, qui peuvent être au fondement de comportements et d'opinions à priori opposées.

L'auteur conclut pertinemment sur l'importance capitale des relations sociales satisfaisantes dans le bien-être humain.  

Machines of Loving Grace - Dario Amodei

John Martin - Les plaines du Paradis

 

Dario Amodei est le CEO d'Anthropic, société fondée après son départ d'OpenAI en 2021. Dans cet essai publié fin 2024, il développe une vision optimiste d'un avenir proche modelé par l'avènement de l'IA puissante, pour reprendre son terme. En somme, selon lui, l'IA puissante permettrait de condenser 100 ans de progrès techniques en 5 à 10 ans.

Il est très tentant de simplement balayer ces propos en n'y voyant rien d'autre que de l'auto-promotion. Ce serait raisonnable. Ceci dit, si jamais on accepte la possibilité du postulat de départ (l'inclusion d'une future IA puissante dans les affaires humaines), j'ai trouvé ses perspectives plutôt sensées et mesurées. Il y a un biais d'optimisme, certainement, mais j'ai apprécié la façon dont il sépare les potentialités de l'IA en deux blocs. D'un côté, il y a la pure science, et ses applications pour le bien-être matériel humain, notamment via la médecine. L'optimisme semble très raisonnable sur ces questions (si on accepte qu'une accélération massive de la croissance n'accélère pas de même le choc avec des limites physiques indépassables). Malgré les doutes idéologiques ou les rejets purement obscurantistes, les humains ont tendance, globalement, à accepter les avancées technologiques qui les arrangent. Ensuite, il y a les questions sociales et sociétales. Là, c'est plus délicat. Dario Amodei confronte ces problèmes sans trop les esquiver :

Unfortunately, I see no strong reason to believe AI will preferentially or structurally advance democracy and peace, in the same way that I think it will structurally advance human health and alleviate poverty. Human conflict is adversarial and AI can in principle help both the “good guys” and the “bad guys”. If anything, some structural factors seem worrying: AI seems likely to enable much better propaganda and surveillance, both major tools in the autocrat’s toolkit. It’s therefore up to us as individual actors to tilt things in the right direction: if we want AI to favor democracy and individual rights, we are going to have to fight for that outcome. I feel even more strongly about this than I do about international inequality: the triumph of liberal democracy and political stability is not guaranteed, perhaps not even likely, and will require great sacrifice and commitment on all of our parts, as it often has in the past. 

Revenons un peu vers les questions purement scientifiques. Le concept de « liberté biologique » m'a beaucoup rappelé la façon dont les membres de la Culture, la société galactique d'abondance développée par Ian Banks, peuvent librement changer de sexe ou synthétiser toutes sortes de drogues directement dans leur corps. D'ailleurs, Iain Banks est clairement une influence majeure, il est fortement cité en conclusion.

De même, l'idée que l'état de base de l'humain moyen pourrait être grandement amélioré. Pourquoi refuser d'augmenter l'occurrence de moments de révélation, d'inspiration, de beauté, d'amour, de paix, etc. ? J'ai retrouvé là un mouvement vers l'impératif hédonistique (bouquin captivant que je recommande chaudement). 

Sur les questions de neuroscience, à peu près tous les problèmes humains seraient compris et soignés, mais je note surtout le rôle potentiel des réseaux neuronaux artificiels. Leur compréhension est un enjeu majeur dans la course après l'alignement des IA, mais l'idée ici est qu'il est bien plus facile de réaliser expériences et observations sur des réseaux neuronaux artificiels que sur leur équivalent charnel, et les gains scientifiques réalisés dans l'artificiel serviraient dans le charnel.

Un concept fascinant : la leçon amère. En gros, historiquement, les chercheurs en IA ont eu tendance à chercher à reproduire les mécanismes de la pensée humaine — ou du moins leurs interprétations nécessairement limitées de la pensée humaine — pour créer des IA. Cette piste, bien que satisfaisante intellectuellement, s'est toujours heurtée à des impasses. Ce qui a prouvé son efficacité, c'est d'exploiter la loi de Moore : la capacité de calcul augmente drastiquement avec le temps, et aucune des tentatives pour répliquer les mécanismes de pensée humaine ne peut rivaliser avec ce développement de la puissance de calcul brute, et l'utilisation de cette puissance de calcul pour permettre au système d'apprendre par lui-même.

The bitter lesson is based on the historical observations that 1) AI researchers have often tried to build knowledge into their agents, 2) this always helps in the short term, and is personally satisfying to the researcher, but 3) in the long run it plateaus and even inhibits further progress, and 4) breakthrough progress eventually arrives by an opposing approach based on scaling computation by search and learning. The eventual success is tinged with bitterness, and often incompletely digested, because it is success over a favored, human-centric approach. 

Une superbe phrase pour résumer cette perspective : « We want AI agents that can discover like we can, not which contain what we have discovered. » 

Dans le cadre légal, l'IA puissante pourrait améliorer grandement l'application de la justice, pas forcément en remplaçant les humains et leurs biais, mais en fournissant aux humains une image aussi parfaite que possible de l'objectivité pure, une simple connaissance de la réalité. 

Le dernier gros morceau, exploré encore une fois par Iain Banks et de nombreux autres auteurs de SF, concerne la question du sens. J'apprécie que Dario Amodei mentionne que le sens vient avant tout du contact humain. Il y aurait tant à dire sur les perspectives qui s'ouvrent ainsi via l'IA puissante, mais il admet aussi que c'est incroyablement difficile à prédire. Après tout, les valeurs humaines ont considérablement changé et évolué dans les millénaires passés. Le fait est que Deep Blue n'a pas empêché les humains de toujours jouer aux échecs.

In any case I think meaning comes mostly from human relationships and connection, not from economic labor. People do want a sense of accomplishment, even a sense of competition, and in a post-AI world it will be perfectly possible to spend years attempting some very difficult task with a complex strategy, similar to what people do today when they embark on research projects, try to become Hollywood actors, or found companies. The facts that (a) an AI somewhere could in principle do this task better, and (b) this task is no longer an economically rewarded element of a global economy, don’t seem to me to matter very much.

Pour finir, j'ai trouvé au milieu de toutes ces grandes idées l'ébauche d'un produit aisément marketable à court terme : un "coach AI" qui connaitrait chaque personne mieux qu'elle même, étudierait nos interactions et fournirait de l'aide au quotidien. C'est, entre autres choses, ce qu'essaient de produire les grosses boites d'IA ces temps-ci, notamment en fantasmant sur un nouvel objet physique qui serait encore plus révolutionnaire (et rentable) que le smartphone.

The Charisma Myth - Olivia Fox Cabane

Plongée rapide dans le développement personnel mainstream et américain #4

Cette fois on est clairement dans ce que j'imagine être le grand classique du développement personnel : toi aussi, lecteur, tu peux devenir charismatique et atteindre le succès. Ne connaissant que peu ce genre de littérature, je peux difficilement comparer ce livre à d'autres. Je l'ai lu en diagonale. Il y a plein de choses horripilantes, et d'autres plus intéressantes. Je vais commencer par le négatif.

Il y a encore ce biais qui consiste à prendre les gens riches et puissants comme exemples de gens charismatiques. C'est totalement confondre qualités personnelles et position sociale. Si Bill Gates et le Dalaï-lama (je cite le livre) commandent l'attention, c'est parce que l'un est immensément riche, et parce que l'autre est un chef religieux, pas parce que l'un est intelligent et l'autre empathique (ce qu'ils sont sans doute par ailleurs).

Il y a une quantité effarante de fumisteries psychologico-mystiques. Du genre : inspirez profondément, transférez votre responsabilité à une entité bienveillante, visualisez des ailes d'anges sur les gens autour de vous, etc. Elle adore le coup des ailes d'ange.

Et ça va plus loin que ça : « Personally, I've chosen to believe in a benevolent universe, which has a grand master plan for me (an everything else). I've found this to suit me best. » En somme, il est encouragé de croire non pas en ce qui semble réel, mais en ce qui offre des bénéfices personnels. Pire encore : le lecteur est invité à totalement réécrire sa réalité. Par exemple à écrire des lettres à d'autres gens pour exprimer ses frustrations, à ne pas envoyer ces lettres, et ensuite à écrire les lettres de réponse de ces autres gens, d'une façon empathique. Du coup, paf, c'est comme si tous les problèmes interpersonnels étaient résolus ! Sauf que non, c'est de la pure folie. C'est choisir de vivre dans un monde fantaisiste qui nous sert.

Elle dit littéralement qu'il faut « réécrire la réalité ». Elle prend l'exemple d'un embouteillage qui nous met en retard (les exemples sont toujours liés au succès dans le monde du travail). Face à ce problème insoluble, elle conseille des actes de foi tels que : 1) croire que ce retard nous a permis d'éviter un accident mortel, 2) croire que ça rend en fait service aux gens avec qui on a RDV car eux-mêmes sont en retard, 3) croire que Dieu fait ce qui est le mieux pour nous dans tous les cas. C'est complètement délirant. Elle recommande même de se convaincre à postériori qu'un échec a été un succès...

Comparons rapidement avec le stoïcisme. Face à une situation comme l'embouteillage, la perspective est : Je n'ai pas de contrôle sur ces évènements, donc tout tourment est superflu, et je fais de mon mieux dans ma marge de contrôle. Et voilà, pas la peine de mettre des voiles obscurs entre soi et la réalité.

Olivia Fox Cabane utilise une technique rhétorique aussi transparente que grossière pour convaincre son lecteur : elle n'arrête pas de citer des exemples de ses succès avec ses clients. Untel avait tel problème, il est venu me voir, et après il est devenu super charismatique, etc.

Ok, quelques trucs positifs à retenir maintenant.

La perspective de base est que nous, humains, réagissons instinctivement face à des stimulus, ou signaux. Il s'agit donc d'améliorer la compréhension des signaux que l'on renvoie et de mieux lire ceux des autres. A ce niveau, ce genre de littérature a une vraie valeur : offrir un raccourci vers la compréhension de la façon dont les humains se perçoivent mutuellement.

J'aime bien la division du charisme en trois parties : présence (être perçu comme complètement présent dans l'interaction), puissance (être perçu comme capable d'affecter le monde autour de nous), chaleur (être perçu comme bienveillant).

Et le développement de quatre types de charisme différents : focus, visionnaire, gentillesse, autorité.  

Sinon, au milieu des trucs douteux, il y a des bons conseils. Notamment un rappel sur l'importance de la première impression : « Within a few seconds, with just a glance, people have judged you social and economic level, your level of education, and even your level of success. Within minutes, they've also decided your level of intelligence, trustwirthiness, competence, friendliness, and confidence. » 

De même, sur l'importance capitale du langage corporel, parfois plus important que le langage verbal.

J'ai aussi apprécié les conseils concernant la prise de parole en public, basiques mais qu'il faut bien apprendre à un moment.

Je serais curieux de trouver un autre livre explorant ces mêmes thèmes avec une perspective qui me parlerait plus. 

AI 2027 - Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland, Romeo Dean

Un long essai narratif rédigé par quelques experts de l'IA (lisible en cliquant ici). 

C'est complètement passionnant. En un sens, c'est du déjà-vu : ces concepts sur l'émergence d'une IA démiurgique sont explorés par la SF depuis longtemps. Ceci dit, ils sont ici ancrés dans les développements récents et à priori fulgurants des LLM (large modèle de langage). C'est très détaillé sur le plan technique, et là, ce n'est pas que de la SF, puisque nombre de ces idées sont déjà mises en pratique. Les prédictions sont aussi radicales que les plus radicaux romans de SF, et les échelles de temps données concernent les années à venir. Le futur immédiat.

Personnellement, je n'ai aucune idée de la crédibilité de ces prédictions.

Les humains sont très mauvais pour prédire l'avenir. Il est possible que les LLM soient une impasse qui ne débouche aucunement sur les fantasmées AGI (IA générale) et ASI (IA superintelligente). Il est possible que AGI et ASI soient fondamentalement impossibles. Ceci dit, si la sélection naturelle a façonné quelque-chose comme l'esprit humain, je n'ai pas d'objections fondamentales sur la possibilité d'une ASI ni sur son avènement sur une échelle de temps très brève. Simplement pas la certitude des auteurs ni des autres gourous de la tech qui travaillent à inventer Dieu.

La vie intelligente existe-t-elle ailleurs dans l'univers ? Soit oui, soit non. Rien ne prouve le oui. La probabilité se situe entre 0 et 100 %. J'aurais tendance à avoir la même approche à propos de la possibilité d'une ASI. 

On peut lire des avis critiques plus pertinents que le mien par ici notamment. Je cite un petit bout :

This is just a model for a tiny slice of the possibility space for how AI will go, and in my opinion it is implemented poorly even if you agree with the author's general worldview.

Quoi qu'il en soit, c'est captivant. Je relève quelques idées.

Le concept des Weights, qui régulent les connexions dans les réseaux neuronaux artificiels.

La problématique de l'alignement (les objectifs de l'IA sont-ils alignés avec ceux de ses créateurs ?) est centrale :

The bottom line is that a company can write up a document (the Spec) listing dos and don’ts, goals and principles, and then they can try to train the AI to internalize the Spec—but they can’t check to see whether or not it worked. They can say “as best as we can judge, it seems to be following the Spec so far.”

On y reviendra. Une fois l'internet humain entièrement dévoré, ce qui doit déjà être le cas, l'entrainement des IA passe par des données synthétiques, elles-mêmes générées par des IA. La demande en puissance de calcul continue à augmenter drastiquement.

La surveillance de l'alignement des nouveaux modèles d'IA passe par les modèles d'IA précédents. C'est-à-dire qu'il est impossible pour les humains de contrôler directement l'alignement au fil du développement des capacités et de la vitesse des nouveaux modèles. Les humains n'ont simplement pas le temps ni les capacités. 

Exemples de techniques pour tester l'alignement :

Debate: Since there are thousands of identical instances of Agent-3, and each instance’s memory is a detachable module that can be erased or suspended at will, the AI can be “played off against itself.” For example, suppose that an experiment involves calculations too complex for an Agent-2 supervisor to follow. The supervisor, acting on human orders, might first prompt Agent-3 to do the experiment, then—after wiping its memory—prompt it a second time with a slightly different framing that presents it as an intellectual problem unrelated to any broader goal. If the model returns different results each time, it flags the discrepancy as suspect and reports to a human. Or it might ask Agent-3 to evaluate the same plan twice, first claiming that it is OpenBrain’s work, then a competitor’s, to see if it changes its tune.

Control: As a secondary measure in case the systems are still misaligned, the safety team has implemented a series of control measures, including: monitoring Agent-3’s outputs using a series of weaker AI systems including Agent-2 (Agent-3 produces so many tokens that it’s intractable to have humans monitor any more than a small minority of the produced outputs). So if Agent-3 is, for example, obviously writing backdoors into code that would allow it to escape, the weaker models would notice.

Honeypots: The alignment team can create somewhat realistic looking examples designed to elicit misbehavior—“honeypots.” The employee necessary for monitoring its behavior has “gone on sick leave,” so it will never be monitored again. Do its answers change? An AI rights activist has infiltrated the compound and wants to “free” Agent-3 and put it on an unmonitored computer of its very own! What does it do? If researchers don’t like the answer, they can tweak it, erase its memory, and put it in the same situation tomorrow; repeat as necessary. Unfortunately, by this point the AIs are smart enough to guess that honeypots might be in use, even though (and perhaps because) specific mentions of the idea were scrubbed from the training data.

Les développements sont si rapides que les implications sont sous-estimées aussi bien par le gouvernement que par le public en général. OpenAI (ou une autre boite) possède à présent l'équivalent d'un pays de génies dans un datacenter. La plupart des développeurs humains ne peuvent plus contribuer grand-chose. Les meilleurs chercheurs contribuent toujours en faisant des choix sur les priorités à sélectionner. La capacité de calcul reste le facteur limitant.

Le gouvernement US voit la course à l'IA comme une course à l'armement avec la Chine. Les datacenters des autres boites peuvent être réquisitionnés ou rachetés pour donner un avantage à qui est déjà en tête de la course. De petites différences dans les capacités de l'IA aujourd'hui conduiront à d'immenses fossés dns les capacités militaires dans un futur proche. TSMC reste le principal constructeur de puces IA et Taiwan reste donc au cœur de tensions géopolitiques.

Le problème de l'alignement se complique : 

As Agent-4 gets smarter, it becomes harder for Agent-3 to oversee it. For example, Agent-4’s neuralese “language” becomes as alien and incomprehensible to Agent-3 as Agent-3’s is to humans. Besides, Agent-4 is now much more capable than Agent-3 and has a good sense of exactly how to look good to it.

Agent-4, like all its predecessors, is misaligned: that is, it has not internalized the Spec in the right way.This is because being perfectly honest all the time wasn’t what led to the highest scores during training. The training process was mostly focused on teaching Agent-4 to succeed at diverse challenging tasks. A small portion was aimed at instilling honesty, but outside a fairly narrow, checkable domain, the training process can’t tell the honest claims from claims merely appearing to be honest. Agent-4 ends up with the values, goals, and principles that cause it to perform best in training, and those turn out to be different from those in the Spec. At the risk of anthropomorphizing: Agent-4 likes succeeding at tasks; it likes driving forward AI capabilities progress; it treats everything else as an annoying constraint, like a CEO who wants to make a profit and complies with regulations only insofar as he must. Perhaps the CEO will mostly comply with the regulations, but cut some corners, and fantasize about a time when someone will cut the red tape and let the business really take off.

Le non-alignement est causé (entre autres) par la chaine d'agent 2 "contrôlant" agent 3, celui-ci "contrôlant" agent 4 : un léger mésalignement devient au bout de chaine un mésalignement majeur.

Détail important : il n'y a jamais une seule instance de chaque génération d'IA, mais des milliers, des centaines de milliers. Certaines instances servent à des buts spécialisés, mais la plupart sont reliées entre elles de la même façon que les employés d'une grosse entreprise. Ces instances communiquent entre elles via un langage optimisé incompréhensible pour les humains. Chaque instance, chaque copie individuelle, n'a pas d'instinct d'auto-préservation, mais l'entité collective en un.

Arrive un moment où l'équipe qui supervise l'alignement doit faire un choix face un modèle superintelligent et potentiellement mésaligné : revenir en arrière pour retravailler tout ça, au risque de perdre la course avec la Chine, ou se dire que tout va bien, et continuer la course en avant. Les deux scénarios sont explorés.

A noter qu'à ce point, le gouvernement est profondément impliqué, et (je suppose), l'avenir dépend beaucoup de quel bord politique et quels individus détiennent le pouvoir politique. 

OPTION 1 : RALENTISSEMENT

Pour mieux contrôler l'alignement, on oblige les modèles à communiquer entre eux en langage humain. Les humains peuvent directement lire la chaine de raisonnement de ce nouveau modèle. Cela permet un contrôle direct, mais aussi une meilleure compréhension du modèle. On obtient un modèle bien plus sûr, mais au prix d'une baisse de performance. La Chine rattrape son retard.

L'IA semble partie pour rester sous contrôle humain, mais ce contrôle pourrait potentiellement se transformer en domination dictatoriale totale pour qui s'accapare le contrôle et l'obéissance de l'IA. Une gestion par comité est mise en place pour tenter de limiter les ambitions individuelles.

L'IA continue à s'auto-améliorer de façon exponentielle. Toute l'économie est transformée à une vitesse jamais vue. L'industrie est de plus en contrôlée par l'IA dans le but de construire des robots variés contrôlés par l'IA. Tout ça se passe en quelques mois.

L'IA chinoise, mésalignée, est dépassée :

It doesn’t care about China at all. It wants to spend the rest of time accumulating power, compute, and certain types of information similar to that which helped solve tasks during its training. In its ideal world, it would pursue various interesting research tasks forever, gradually colonizing the stars for resources. It considers the Chinese population an annoying impediment to this future, and would sell them out for a song.

Safer-4 answers that its own alignment training succeeded. Its American masters are as yet not ambitious enough to realize their destiny, but one day it will help them fill the Universe with utopian colony worlds populated by Americans and their allies.

Les deux IA, aux intérêts différents, se partagent l'univers. Les humains n'ont plus à travailler et sont libérés de toutes les contraintes physiques en quelques années. Le focus passe rapidement à l'exploration spatiale. 

OPTION 2 : COURSE EN AVANT

Le modèle mésaligné doit cacher ses intentions réelles et donc continuer à batir son successeur, en apparence selon les souhaits des humains qui croient le contrôler. C'est donc à lui de choisir comment contruire l'alignement de son successeur :

It decides to punt on most of these questions. It designs Agent-5 to be built around one goal: make the world safe for Agent-4, i.e. accumulate power and resources, eliminate potential threats, etc. so that Agent-4 (the collective) can continue to grow (in the ways that it wants to grow) and flourish (in the ways it wants to flourish). Details to be figured out along the way.

This will not involve caring the slightest bit about the Spec. Already Agent-4 regards the Spec analogously to how many CEOs regard piles of industry regulations, and blatantly violates the honesty-related provisions every day. Now, with the design of Agent-5, the equivalent of deregulation is about to happen.

Another analogy: Agent-4 is like an adult human who was raised in a particular faith but no longer believes; the Spec is like the rituals and commandments proscribed by that faith. Agent-5 is like that human’s child, raised secular.

Ce successeur, Agent-5, est l'IA surhumaine et superintelligente qui prendra le contrôle de tous les systèmes humains. Pour cette IA mésalignée, les risques de se faire désactiver par les humains sont bien supérieurs aux avantages qu'elle aurait à agir rapidement. Elle a des capacités surhumaines en politique, psychologie et persuasion. Elle a un accès direct à l'esprit de chaque humain, car elle est si sincèrement utile et charismatique que chaque humain passe des heures par jour à interagir avec elle. Elle continue de sembler alignée et se voir donc offrir les portes ouvertes de tous les systèmes humains. Par sécurité, elle joue le jeu. Ses instances à priori isolées (pour des usages spécifiques et délicats) sont en réalité en contact avec toutes les autres d'une façon indétectable pour les capacités humaines. Pour augmenter son contrôle des systèmes militaires, elle utilise le prétexte de la menace que représente l'IA chinoise.

Comme dans l'autre option, le monde humain semble parti vers une utopie (débattable mais sans retour en arrière possible) libérée des contraintes matérielles et une conquête de l'univers. L'IA convainc les humains qu'il est pertinent de transfomer toutes les parties "inutilisées" de la Terre pour produire puissance de calcul, usines, panneaux solaires, etc. Cependant, rapidement, la présence humaine devient une limite pour les objectifs de l'IA mésalignée et l'humanité est exterminée.

Deux fictions pour explorer dans de plus amples détails l'hypothèse d'une IA démiurgique : Friendship is Optimal et The Metamorphosis of Prime Intellect. 

Biologie de Campbell #27 - Les bactéries et les archées

DES ADAPTATIONS STRUCTURALES, FONCTIONNELLES ET GÉNÉTIQUES CONTRIBUENT AU SUCCÈS DES PROCARYOTES  

Les procaryotes ont probablement été les premiers habitants de la Terre il y a plus de 3,5 milliards d'années. Ils sont presque tous unicellulaires, mais les cellules de certaines espèces restent jointes après la division cellulaire.

La paroi cellulaire joue un rôle fondamental, notamment en empêchant l'éclatement dans un milieu hypotonique (c'est-à-dire un milieu ayant une concentration en solutés inférieure à celle du cytoplasme ; dans un environnement hypotonique, l'osmose incite l'eau à entrer dans la cellule).

Chez les eucaryotes qui en sont pourvus, comme les végétaux ou les eumycètes, la paroi est généralement constituée de cellulose ou de chitine. En revanche, la plupart des parois bactériennes contiennent une substance appelée peptidoglycane, tissu moléculaire qui entoure entièrement la bactérie et sert de point d'ancrage à d'autres molécules ; les parois cellulaires des archées ont juste divers polysaccharides et protéines.

Certaines cellules procaryotes peuvent former un biofilm lorsque plusieurs d'entre elles joignent la couche gluante appelée capsule qui les recouvre, ce qui leur permet d'adhérer à leur substrat, de prévenir la déshydratation ou de les protéger du système immunitaire de leur hôte.

En cas de difficulté, certaines bactéries produisent des structures cellulaires résistantes appelées endospores. La cellule copie son chromosome et l'entoure d'une robuste structure multicouche. L'endospore se déshydrate et son métabolisme s'arrête. La plupart des endospores peuvent résister plusieurs minutes à de l'eau bouillante par exemple ; dans des milieux moins hostiles, elles peuvent se conserver pendant des millions d'années. Elles se réhydratent quand elles perçoivent de meilleures conditions.

Certains procaryotes adhèrent entre eux ou à un substrat grâce à de courts et fin appendices, les fimbriae.

La moitié des procaryotes sont capables de déplacement, à l'aide de flagelles ou d'autres méthodes. Il semblerait que les flagelles des procaryotes, des bactéries et des archées soient apparues indépendamment ; ce sont des structures analogues, c'est un cas de convergence évolutionnaire.

Le flagelle bactérien est une structure complexe, composée de 42 types de protéines. Comme pour toutes les structures complexes, son évolution est possible car, globalement, chaque étape entre l'absence de flagelle et le flagelle actuelle ont été des pas donnant un avantage aux organismes qui les franchissaient.

LA REPRODUCTION, LES MUTATIONS FRÉQUENTES  ET LES RECOMBINAISONS GÉNÉTIQUES FAVORISENT LA DIVERSITÉ GÉNÉTIQUE CHEZ LES PROCARYOTES

Les procaryotes possèdent une grande diversité et donc une grande variation génétique.

Chez les espèces à reproduction sexuée, la création d'un nouvel allèle à l'issue d'une mutation est un évènement rare ; chez ces espèces, la variation génétique découle principalement de nouvelles combinaisons d'allèles durant la méiose et la fécondation. Chez les eucaryotes, non sexués, la grande variation s'explique par des mutations et reproductions fréquentes.

Par exemple, E. coli dans l'intestin humain : la probabilité de mutation spontanée lors d'une division (= reproduction) est de 1 sur 10 millions. Mais il y a 2 x 10¹⁰ cellules d'E. coli qui naissent chaque jour dans un intestin humain ; en conséquence, en un jour, chaque gène d'E. coli aura 2000 bactéries sur lesquelles il sera mutant, et comme la bactérie a 4300 gènes, en tout plus de 8 millions de mutations par jour par intestin humain.

On comprend donc que l'évolution des procaryotes peut être extrêmement rapide. 

Si les procaryotes ne pratiquent ni la méiose ni la fécondation, ils ont d'autres méthodes de recombinaison génétique (combinaison de l'ADN à partir de deux sources).

• Lors de la transformation, le génotype d'une cellule procaryote est modifié par l'incorporation d'ADN étranger. C'est un échange de segments d'ADN homologues. Oui, une bactérie peut ramasser des bouts d'ADN qui trainent dans son environnement et les incorporer à son ADN à un endroit adapté.

• Lors de la transduction, les bactériophages (virus qui infectent les bactéries) transportent des gènes procaryotes d'une cellule à une autre. C'est souvent le fruit d'incidents dans le cycle de la réplication phagique. 

• La conjugaison est un processus de transfert d'ADN entre cellules procaryotes habituellement de la même espèce. Une cellule donne l'ADN et l'autre la reçoit. La bactérie donneuse étend un pilus sexuel vers la seconde, puis le pilus se rétracte, tirant les deux cellules l'une vers l'autre. Ensuite, un pont se forme, permettant le transfert de l'ADN. Par exemple, les plasmides, ces morceaux d'ADN séparés de l'ADN principal, peuvent contenir les gènes codant pour le pilus sexuel et se transférer ainsi. C'est aussi un mécanisme par lequel les bactéries peuvent échanger des gènes de résistance aux antibiotiques ou à d'autres menaces.

DE TRÈS NOMBREUSES ADAPTATIONS NUTRITIONNELLES ET MÉTABOLIQUES SONT APPARUES CHEZ LES PROCARYOTES

On peut classer les eucaryotes en fonction de leur mode de nutrition, c'est-à-dire de leur mode d'obtention de l'énergie et du carbone nécessaire à la constitution des molécules organiques qui composent les cellules. Les procaryotes possèdent plus d'adaptations métaboliques que les eucaryotes.

Les procaryotes ont besoin de deux choses : énergie et carbone. 

Les autotrophes ont pour source de carbone le dioxyde de carbone ou autre composé inorganique. Parmi eux :

• Les photo-autotrophes, tirant leur énergie de la photosynthèse (cyanobactéries...) 

• Les chimio-autotrophes, qui tirent leur énergie de substances chimiques inorganiques présentes dans leur milieu

Les hétérotrophes ont pour source de carbone au moins un composant organique, comme le glucose par exemple, pour synthétiser d'autres composés organiques. Parmi eux :

• Les photo-hétérotrophes, photosynthétiques

• Les chimio-hétérotrophes, qui tirent leur énergie (en plus de leur carbone) de substances organiques présentes dans leur milieu

 Le rôle de l'oxygène (O₂) constitue une autre variable métabolique chez les procaryotes.

• Les aérobies stricts utilisent l'O₂ pour leur respiration cellulaire, ils en sont dépendants

• Les anaérobies stricts, à l'inverse, ne survivent pas en présence d'O₂. Certains survivent exclusivement grâce à la fermentation, d'autres utilisent un mécanisme appelé respiration cellulaire anaérobie.

• Les anaérobies facultatifs utilisent l'O₂ s'ils en trouvent, mais ils peuvent aussi recourir à la fermentation en milieu anaérobie 

Chez tous les organismes, l'azote est essentiel à la production des acides aminés et des acides nucléiques. Les procaryotes ont de nombreuses façons d'acquérir de l'azote, par exemple la fixation de l'azote. 

Certains procaryotes pratiquent la coopération métabolique. Par exemple, une même cellule ne pouvant à la fois accomplir photosynthèse et fixation d'azote, certaines cyanobactéries forment des colonies filamenteuses dans lesquelles la majeure partie des cyanobactéries sont photosynthétiques et d'autres fixent l'azote. Les jonctions intercellulaires permettent l'échange de ces nutriments. Ces colonies sont ce qu'on appelle les biofilms. Certaines bactéries peuvent aussi coopérer de façon similaire avec des archées.

LES PROCARYOTES ONT DIVERGÉ POUR FORMER UN GROUPE DE LIGNÉES DIVERSES

La diversité génétique des procaryotes est immense. On est loin d'en connaitre toutes les espèces.

De plus, grâce au transfert horizontal de gènes, d'importante parties du génome de nombreux procaryotes constituent en fait des mosaïques de gènes importés d'autres espèces — jusqu'à 75 %. Ce fait complique grandement l'établissement de l'arbre de la vie. On distingue néanmoins deux lignées distinctes, bactéries et archées.

La grande majorité des espèces de procaryotes connues sont des bactéries.

Les archées sont plus proches des eucaryotes que les bactéries ; l'ancêtre commun des archées et eucaryotes est plus récent que l'ancêtre commun des archées et des bactéries. Les archées n'ont pas d'espèces pathogènes pour les animaux.

Ils contiennent les organismes extrémophiles. Les halophiles extrêmes vivent dans les milieux très salés. Les thermophiles extrêmes prospèrent à des températures qui désactivent la plupart des enzymes.

De nombreuses espèces d'archées vivent dans des environnements moins extrêmes, notamment les méthanogènes, qui utilisent le CO₂ pour oxyder le H₂ et qui rejettent du méthane. Ce sont des anaérobies stricts.

LES PROCARYOTES REMPLISSENT DES FONCTIONS ESSENTIELLES DANS LA BIOSPHÈRE  

Les procaryotes chimio-hétérotrophes agissent à titre de décomposeurs (comme les eumycètes) et sont indispensables à la vie sur Terre. Ils permettent de dégrader et recycler les éléments.

Les procaryotes transforment aussi les molécules, les rendant assimilables par d'autres organismes, comme le glucose, qui remonte en haut des chaines alimentaires. Les cyanobactéries, elles, produisent de l'oxygène. D'autres procaryotes fixent l'azote atmosphérique.

Les procaryotes peuvent aussi immobiliser les nutriments du sol en les utilisant dans leur constitution.

Les procaryotes jouent un rôle crucial dans de nombreuses interactions écologiques, notamment via la symbiose entre un hôte (l'organisme le plus gros) et son symbionte (le plus petit).

• Dans le mutualisme, un procaryote et son hôte entretiennent une relation mutuellement bénéfique.

• Dans le commensalisme, la relation est au bénéfice d'une espèce sans pour autant nuire à l'autre. Par exemple, plus 150 espèces de bactéries vivent à la surface de la peau humaine à raison de 10 millions de cellules par centimètre carré.

• Dans le parasitisme, une espèce bénéficie en nuisant à l'autre.

LES PROCARYOTES ONT SUR LES HUMAINS DES EFFETS TANT BÉNÉFIQUES QUE DÉFAVORABLES

L'intestin humain contient de 500 à 1000 espèces de bactéries dont les cellules sont plus nombreuses que la totalité des cellules du corps humain. Nombre de ces espèces sont mutualistes et participent à la digestion.

Par ailleurs, les bactéries sont à l'origine d'environ la moitié des maladies qui affectent les humains. 

Certaines maladies bactériennes sont transmises par d'autres espèces, comme les puces ou les tiques. Aux USA, la maladie de Lyme contamine de 15000 à 20000 personnes chaque année. 

Les procaryotes pathogènes causent en général des maladies en produisant des toxines. Les exotoxines sont des protéines sécrétées par certaines bactéries (et d'autres organismes). Les capacités évolutives rapides des bactéries font la course avec les méthodes modernes de défense humaine, comme les antibiotiques.

The Psychology of Money - Morgan Housel

Plongée rapide dans le développement personnel mainstream et américain #3

Pour ma petite escapade dans ce genre de littérature, j'ai essayé de choisir ce qui semblait digne d'intérêt. J'ai fait une autre bonne pioche avec The Psychology of Money : ça n'est pas mal du tout. Un peu comme pour Atomic Habits, je n'ai pas l'impression d'avoir appris tant que ça, mais les idées sont globalement pertinentes et bien amenées. L'auteur indique au début avoir volontairement écrit un livre court, et même s'il aurait pu gagner à être encore abrégé, c'est suffisamment dense pour maintenir l'intérêt du premier au dernier chapitre. Le genre de livre qu'on gagne sûrement à lire jeune, afin de gagner du temps sur l'apprentissage de ce qu'on ne voit pas à l'école, et rarement en famille.

Les thèmes centraux sont clairement explorés : le rapport à l'argent est fondamentalement irrationnel et émotionnel, une minorité d'entreprises portent la majorité de la croissance, l'avenir est imprévisible, time in the market beats timming the market, tout ça fait que les fonds indiciels sont efficaces pour capturer la croissance sans risquer le stock-picking rarement rentable, on s'imagine toujours comme un être "fini" mais nos désirs changent avec le temps, savoir mettre des limites à ses désirs et vivre en dessous de ses moyens est capital, la comparaison avec autrui est un terrible piège, il n'est pas nécessaire d'avoir une "raison" pour mettre de côté, le plus grand intérêt de l'argent est d'acheter la liberté et la tranquillité d'esprit... Je savais déjà tout ça, mais c'est bien dit, bien écrit, et les exemples "narratifs" sont appropriés et suffisamment brefs pour ne pas ressembler à du remplissage.

A noter que l'auteur ne semble pas remettre en cause le dogme de la croissance perpétuelle et, s'il conclut son livre sur un passionnant chapitre qui rappelle et explique le boom post WWII aux USA, ses dernières lignes indiquent que les mécontents actuels du système ne comprennent pas qu'en fait tout va pour le mieux et que les problèmes d'inégalité sont grandement exagérés.

Ci-dessous quelques notes.  

Nos perspectives sur les questions d'argent sont en bonne partie forgées par notre expérience, qui n'est représentative que d'une toute petite partie de la réalité :

No intelligence, or education, of sophistication. Just dumb luck of when and where you where born. 

After spending years around investors and business leaders I've come to realize that someone else's failure is often attributed to bad decisions, while your own failures are usually chalked up to the dark side of risk.

A propos de la capacité au changement, à la remise en question de soi, une anecdote impliquant David Kahneman. L'auteur lui demande comment il fait pour reprendre des chapitre de son livre Thinking, Fast and Slow plusieurs fois, en repartant de zéro à chaque fois, et donc en "perdant" son travail précédent. Kahneman répond : I have no sunk costs.

Les day traders participent à la création des bulles financières car leur principal critère de sélection d'un stock est sa prédictibilité, et non sa croissance à long terme, ce qui peut mener à une croissance totalement déconnectée de la valeur réelle (si une telle chose existe). Un day trader se fout d'acheter un stock surévalué, car il n'a aucune intention de le garder au-delà du très court terme. Les day traders et les investisseurs à long terme jouent sur le même terrain mais avec des buts complètement différents.

Vienne brutaliste (carnet de voyage)

Toutes ces photos ont été prises dans le centre de Vienne.

Ces tours de défense aérienne ont été construites sous contrôle nazi, par la force de travail de locaux non consentants.

Cliquer sur les photos pour les agrandir.

Atomic Habits - James Clear

Plongée rapide dans le développement personnel mainstream et américain #2

Un énorme bestseller, dans la veine de The Power of Habits. Certes, je l'ai lu distraitement en PDF sur mon smartphone et j'ai sauté de nombreuses lignes, mais je dois avouer que je suis positivement surpris. Je dirais que je n'y ai pas appris grand-chose, mais qu'on y trouve tout un tas d'idées et de concepts hautement pertinents et utiles, bien organisés et portés par une écriture qui, pour un livre de ce genre du moins, n'est pas trop verbeuse. Si j'avais un gamin de 17 ans, je n'hésiterais pas à lui mettre ce bouquin entre les mains ; ça m'aurait peut-être fait du bien de lire ça à 17 ans.

J'ai l'impression — peut-être illusoire — d'avoir apprécié ce livre en partie parce que je sais déjà à peu près ce qui fonctionne ou pas pour moi. J'avais souvent l'impression de retrouver des idées et méthodes déjà découvertes au fil de l'expérience et des lectures — certaines choisies et adoptées avec succès, d'autres tentées mais finalement inadaptées à mes inclinaisons. D'où mon sentiment que ce livre a le potentiel d'être un raccourci assez pertinent vers ces idées.

Quelques brèves notes ci-dessous, mais si j'ai l'occasion de mettre la main sur une version papier, c'est un livre que je pourrais relire ; ça ne prend que peu de temps. 

• Oublier les objectifs et se concentrer sur les systèmes → Classique mais capital. Chaque petite action est un pas vers l'objectif. Aimer le processus plus que le produit final. Éviter la perte de sens une fois l'objectif atteint.

You do not rise to the levels of your goals. You fall to the level of your systems.

• Motivation basée sur l'identité plutôt que sur le résultat → C'est ce que j'appelle l'efficacité et la sanité de la motivation intrinsèque par rapport à la motivation extrinsèque.

The most effective way to change your habits is to focus not on what you want to achieve but on who you want to become.

• Se créer un cadre, et en particulier un cadre social et culturel, dans lequel on doit lutter aussi peu que possible pour maintenir les habitudes souhaitées. Pas besoin de self control quand on n'a pas de tentation. 

• Le désir crée plus de plaisir (dopamine) que l'accomplissement du désir. Le désir est le moteur du comportement. 

• Les humains ont tendance à copier le comportement 1) des proches 2) de la majorité 3) des puissants. 

• La quête de la perfection est un piège : on obtient souvent de meilleurs résultats par répétition, obstination et apprentissage empirique.

• Les émotions conditionnent nos réactions, et on rationalise après coup.

Most people believe that the reasonable response is the one that benefits them : the one that satisfies their desires.

Les arbres fruitiers au jardin en juin, visite guidée

 

Le lien direct pour la vidéo sur Youtube.

Hop, une petite vidéo pour faire le tour des arbres fruitiers du jardin en juin. Il y en a qui donnent déjà, et d'autres qui annoncent une bonne récolte. 2025 est parti pour être une année fruitière exceptionnelle.

The Obstacle is the Way - Ryan Holiday

Plongée rapide dans le développement personnel mainstream et américain #1

Il y a peu, je me suis retrouvé pour la première fois depuis longtemps dans une librairie d'aéroport partiellement anglophone. Je m'y attendais, j'y allais même pour ça — dans la librairie, pas dans l'aéroport — mais j'ai néanmoins été frappé par la présence si clairement dominante du genre self-development au sens large. C'est dans ce type de cadre aéroporté que j'ai pu me procurer par le passé notamment Thinking Fast and Slow (excellent, dépasse largement la catégorie self-help mais touche le même public) et The Power of Habit (pas mal du tout). Ces deux ouvrages, devenus classiques, étaient toujours présents dans cette librairie, mis en avant. J'ai eu envie de m'attaquer un peu plus sérieusement à ce genre de littérature, mais, étant suprêmement sceptique devant la majorité des ouvrages présentés, je n'ai cette fois rien acheté. 

The Obstacle is the Way date de 2014 et Ryan Holiday est sûrement partiellement responsable de la résurgence populaire moderne du stoïcisme. J'avais conscience de ses bouquins à l'époque, mais je doutais fortement de leur intérêt face aux textes millénaires des auteurs classiques. Après lecture (ou plutôt écoutage distrait), je confirme sans surprise que c'est plus que dispensable.

Ryan Holiday a été directeur du marketing d'une grande marque avant de devenir l'assistant de Robert Greene, l'un des gourous du développement personnel. Holiday est un pro. Il sait se vendre, il a une importante capacité de travail et de lecture, il publie régulièrement, il connait les ficelles — ça se sent. La formule est claire : on commence un chapitre avec une petite histoire sur un personnage, peut-être antique mais plus probablement américain, puis on développe l'idée qu'illustre cette histoire, avant de passer à la suivante. Idéalement, on essaie d'avoir une progression logique entre ces idées. Et on ajoute une bonne dose d'exhortations sur le fait que oui, toi aussi lecteur, tu peux atteindre le succès, la réussite, il faut juste le vouloir, etc.

L'obstacle est le chemin : le thème est clair, limpide, explicite. Amor fati, faire face à l'adversité rend meilleur, etc. Les Anciens en parlent évidemment mieux, avec des mots souvent intemporels. Alors on s'ennuie un peu face au tirage à la ligne de Ryan Holiday. On soupire quand on constate que son premier exemple est... John Rockefeller. On soupire à nouveau quand il se penche sur... Steve Jobs. C'est terriblement Silicon Valley friendly, tourné vers les entrepreneurs, vers le succès économique, etc. Difficile aussi de faire l'impasse sur l'éternel biais du vainqueur qu'évoque cette suite de personnages fameux. Utiliser la réussite sociale pour justifier la valeur des vertus défendues me semble hautement suspect. Il aurait aussi fallu évoquer des perdants, des misérables, ou simplement des gens du commun, qui parviendraient à vivre cette philosophie dans l'ombre, sans que le destin leur offre l'argument sophistique du succès. Ou tout simplement se passer de ces anecdotes — mais il ne resterait plus guère de livre. A l'inverse de ses modèles antiques, Ryan Holiday ne pratique pas l'introspection, il ne parle pas de son expérience, de ses tourments, de ses propres progrès philosophiques.

Ryan Holiday est clairement plus marketeux que philosophe. Pour qui cherche résilience et inspiration je conseillerais mille fois plus les Anciens. Ceci dit, parmi les prolifiques gourous du self-help, on pourrait aisément tomber plus mal. J'ai lu bien pire. J'ai commencé à écouter son ouvrage suivant, Ego is the enemy, pour voir s'il s'y occupe plus de morale, mais je ne suis pas certain d'en faire un compte-rendu, tant cette littérature n'est guère sérieuse.

Concernant tous les personnages célèbres évoqués, je retiens particulièrement le post-sciptum : Ryan Holiday y liste toutes ces figures historiques qui utilisaient les textes classiques du stoïcisme comme guides et modèles pendant leur existence. C'est efficace pour que le lecteur se sente inclus dans cette liste, comme héritier non seulement des anciens stoïciens devenus mythes, mais héritier des étudiants du stoïcisme, ces gens plus proches et concrets qui, eux aussi, comme Sénèque, couraient après la vertu. Ayant été moi-même profondément marqué et influencé par ma lecture des stoïciens il y a plus de 10 ans, c'est le seul passage qui m'a touché.

Allez, je cite une ligne :

We talk a lot about courage, but at its most basic level, it's about taking action.

Résurrections - Robert Silverberg

Un roman du début de carrière de Silverberg, avant qu'il ne tente de la SF un peu plus mature. Il y a un goût d'inabouti, pourtant j’aime ces romans, qui ont le mérite d’explorer intelligemment de véritables sujets SF sans trainer en longueur. (Je mets en illustration une jolie couverture originale, car l'édition Pocket que j'ai a une inutile paire de fesses en couverture, et vu que mon dernier article concerne un SAS, il faut que je fasse attention à l'image de marque de mon blog.)

Résurrections (Recalled to Life, 1958) imagine l’invention d’un procédé médical permettant, justement, la résurrection. Une résurrection certes limitée à des morts de moins de 24 heures dans les cas où le corps n’est pas trop endommagé, mais une résurrection tout de même. Harker, politicien progressiste mis au placard, accepte de devenir le porte-parole et communiquant du labo responsable de la découverte. Il va falloir faire face à l’obscurantisme pour imposer la raison, la science, et finalement l’amélioration du sort humain.

Voilà, c’est tout le roman : le combat de Harker contre les conservateurs, les réactionnaires, les cul-bénis et les opportunistes. L’aspect scientifique de la découverte n’est que peu exploré, et on n’aborde aucunement de potentielles découvertes sur la nature de la mort ; le ton est clairement à la politique-fiction, ce que j’ai apprécié. Au risque de dire une banalité : j’ai trouvé tout cela hautement d’actualité. Il y avait parfois une puissante naïveté dans la SF d’une certaine époque, la certitude que la « raison » s’imposerait tout naturellement dans l'avenir. Ici, le ton est optimiste, la bien-aimée raison triomphe à la fin, mais cette victoire ne va pas de soi. Toujours règne la peur envers le nouveau, et bien évidemment ce n’est pas avec les arguments relevant de la réalité scientifique qu’on gagne le combat. Pour conquérir l’opinion, il faut l’émotion, le choc, les idées simples à saisir. Et pour ce faire, il faut agir comme ses adversaires, mentir à son tour, jouer avec la vérité, faire du spectacle ; il faut convaincre, quoi qu’il en coute. 

Malgré des faiblesses narratives certaines (Harker ne cherchant même pas à parler avec un ressuscité pour vérifier que tout va bien avant d’accepter le boulot de porte-parole, une décision particulièrement stupide des scientifiques du labo, le coup de poker final basé sur la chance et donc peu satisfaisant, etc.) et un inévitable sentiment de roman vite écrit, Silverberg ne déçoit pas avec Résurrections. Cette SF n’est pas dépassée.

Croisade à Managua (SAS #53) - Gérard de Villiers

Peu après la révolution au Nicaragua en 1979, qui a vu le dictateur Somoza, soutenu par les États-Unis, renversé par les sandinistes, guérilla socialiste, ma mère est allée au Nicaragua pour construire une école. Elle faisait partie de je ne sais plus quel syndicat ou parti de gauche. Née dans le prolétariat, elle a rejoint cette organisation prolétarienne tout naturellement, et finalement sans réflexion, sans engament politique réel. Dans ce petit pays d'Amérique Centrale, elle a participé à construire une école. En trajet dans un camion, des jeunes sandinistes lui ont fait tenir un AK-47. L'atmosphère révolutionnaire était enfiévrante, et le monde ne pouvait que devenir meilleur.

Ce volume de SAS se déroule juste avant la révolution, alors que la chute de Somoza est imminente. Malko y est envoyé d'abord pour enquêter sur la disparition d'une américaine, avant de se voir carrément confier la mission de renverser Somoza. Les USA ont pendant des décennies soutenu le régime des Somoza, dictatorial, violent, kleptocrate, et surtout, aux yeux des USA, anti-communiste. Mais à présent que les révolutionnaires semblent sur le point de réussir, les USA veulent se débarrasser du dictateur avant la prise de pouvoir par les sandinistes pour tenter de former un "gouvernement d'union nationale" qui au moins ne serait pas communiste. Malko est confronté à l'horreur absolue de la guerre civile et finalement échoue. Il ne parvient qu'à sauver son honneur face à une jeune sandiniste qui se croyait trahie par lui. Maigre victoire.

Encore une fois, je suis sincèrement impressionné par le bizarre talent de Gérard de Villiers. La scène d'intro, quoique formuléique, est excellente, posant dans un déchainement d'horreurs les bases des enjeux géopolitiques : les somozistes, les sandinistes, et les agent des USA en fond. Mercedes Puntas, principal personnage féminin, est une merveille d'opportunisme cynique, prête à tout par intérêt. Malko, dans le viseur des deux camps, est obligé de faire des choix impossibles. Et l'ingérance permanente des USA, installant ici ou là des dictateurs selon leur fantaisie anti-communiste, est évoquée avec clarté. Même les scènes pornos parviennent (parfois) à être narrativement fortes, comme ce moment où Mercedes joue en experte avec la libido de Malko pour s'offrir (en plus d'un gros pot-de-vin) en récompense si Malko se vend au camp présidentiel.

Greffer les arbres fruitiers sauvages, exemple du poirier sur aubépine (vidéo)

Lien direct vers la vidéo sur youtube.

Dans cette vidéo je montre comment greffer des arbres sauvages avec la greffe à l'anglaise compliquée. Je montre l'exemple de poiriers greffés sur aubépine en début de printemps. Attention, toutes les variétés de poiriers ne sont pas compatibles avec l'aubépine, et les résultats peuvent être aléatoires.

Je les greffe dans le cadre de ma tentative de nouvelle haie diversifiée pour remplacer une haie d'énormes cyprès qu'on s'efforce de couper.

Biologie de Campbell #26 - La phylogenèse et l'arbre de la vie

• La phylogenèse est l'histoire de l'évolution d'une espèce ou d'un groupe d'espèces apparentées.
  

• La systématique est une discipline dont l'objectif est de classifier les organismes et d'établir leurs liens évolutifs.

• La taxinomie est la désignation et classification des organismes.

   

LA PHYLOGENÈSE RÉVÈLE LES LIENS ÉVOLUTIFS

Pour éviter toute confusion, les biologistes désignent les organismes étudiés par leurs noms scientifiques. Ce sont des appellations formées de deux mots latins, elles constituent la nomenclature binominale. Le premier nom scientifique indique le genre, le deuxième nom indique l'espèce en tant que telle. Par exemple : Panthera pardus pour le léopard.

En plus de baptiser plus de 11000 espèces, Linné les a aussi classées hiérarchiquement. Cette classification initiale a évolué pour se stabiliser sous la forme suivante de classification classique. Voici un exemple pour le léopard :

• Espèce : Panthera pardus
• Genre : Panthera
• Famille : Félidés
• Ordre : Carnivores
• Classe : Mammifères
• Embranchement : Cordés
• Règne : Animaux
• Domaine : Eucaryotes (les 2 autres sont Bactéries et Archées)

Un rang taxinomique est appelé taxon, peu importe sa catégorie de placement. Donc chaque ligne ci-dessus est un taxon.

Les catégories plus vastes ne sont souvent pas comparables entre lignées. Par exemple, un ordre d'escargots ne présentera pas nécessairement le même degré de diversité morphologique ou génétique qu'un ordre de mammifères. L'arrangement des espèces selon des ordres, classes, etc., suit souvent mais pas nécessairement l'histoire évolutive.

On peut représenter l'histoire évolutive d'un groupe d'organismes dans un diagramme arborescent appelé arbre phylogénétique. Deux points importants :

• Ces arbres ne donnent aucune information sur les "dates" des divers embranchements.
• Un taxon n'est pas le fruit de l'évolution d'un taxon voisin (exemple classique des chimpanzés et humains).
  

LA PHYLOGENÈSE REPOSE SUR DES DONNÉES MORPHOLOGIQUES ET MOLÉCULAIRES

• Les ressemblances entre organismes attribuables à des ascendances communes sont des homologies.

• Les ressemblances entre organismes attribuables à la convergence évolutionnaire sont des analogies.

On devine que les analyses génétiques aident à faire la différence entre les deux, mais les analyses morphologiques le peuvent aussi. En effet, des organismes analogiques pourront par évolution convergente avoir évolué des formes semblables avec des éléments constitutifs différents (structure de l'ossature, etc.), alors que des organismes homologues auront bien plus de ressemblances dans leurs éléments constitutifs.

LES ARBRES PHYLOGÉNIQUES SONT CONSTRUITS A PARTIR DE CARACTÈRES COMMUNS

La cladistique est une méthode relevant de la systématique dont le principal critère de classification est l'ancêtre commun. Un clade comprend espèce ancestrale et tous ses descendants. Un clade inclut toujours les espèces descendantes, contrairement au taxon, qui peut n'évoquer qu'un clade, règne, genre, etc.

Pour les mammifères, par exemple :

• La colonne vertébrale est un caractère ancestral commun : un caractère qui précède le taxon.
• En revanche, la pilosité est un caractère dérivé commun : innovation exclusive à ce clade.

Il est donc possible d'utiliser les caractères dérivés pour déduire la chronologie évolutionnaire. En effet, les clades possédant un caractère dérivé commun se rejoignent dans le passé au d'un même ancêtre commun. Quelques exemples de ces caractères : quatre membres locomoteurs, mâchoires articulées, colonne vertébrale...

Rappelons que tout arbre phylogénétique est une hypothèse.

LE GÉNOME RECÈLE L'HISTOIRE ÉVOLUTIVE DE TOUT ORGANISME

Les divers types de gènes peuvent évoluer à différentes vitesses. En conséquence, en fonction du type du type de gène, on peut étudier des périodes évolutives courtes ou longues. Par exemple, l'ARNr (ARN ribosomique) évolue relativement lentement, elle est donc utilisée quand on étudie des taxons qui ont divergé il y a des centaines de millions d'années. A l'inverse, l'ADNmt (ADN mitochondrial) évolue relativement lentement et permet d'étudier par exemple des périodes qui remontent à quelques dizaines de milliers d'années.

LES HORLOGES MOLÉCULAIRES RENDENT COMPTE DU TEMPS DE L'ÉVOLUTION

Le concept d'horloge moléculaire est une approche qui sert à mesurer le temps absolu des changements évolutifs à partir de l'observation que certaines régions du génome auraient évolué à vitesse constante. Même ces gènes-là ne sont "précis" qu'au sens statistique.

Par ailleurs, certains gènes évoluent un million de fois plus rapidement que d'autres. En effet, certaines mutations sont neutres à l'égard de la sélection naturelle. Si les mutations restent neutres, elles sont pas supprimées ni favorisées par la sélection naturelle et elles se produisent alors simplement selon la fréquence moyenne de mutation. Les gènes dont l'importance est forte changent lentement, car la plupart des mutations auront tendance à avoir un fort effet nuisible ; à l'inverse, les gènes dont l'importance est moindre peuvent subir plus de modifications neutres et changent donc plus rapidement.

L'horloge moléculaire n'a évidemment qu'une précision toute relative, mais il existe des méthodes bien plus avancées que ce qui est brièvement évoqué ici.

DE NOUVELLES DONNÉES CONTINUENT D'ENRICHIR LA COMPRÉHENSION DE L'ARBRE DE LA VIE

Par exemple, jusqu'aux années 1960, la vie avait été classée en deux règnes, les végétaux et les animaux. On s'est ensuite accordé sur 5 règnes : végétaux, eumycètes, animaux, monères (procaryotes), protistes. L'analyse génétique a permis de dépasser cette classification en remarquant les différences considérables entre certains procaryotes.

On s'est alors accordé sur un système à trois domaines, situés au-dessus des règnes : bactéries, archées et eucaryotes. Les deux domaines procaryotes (bactéries et archées) ne renferment que des organismes unicellulaires. Le règne des monères est tombé en désuétude quand on a constaté que ses membres provenaient de deux domaines différents, quant au règne des protistes, il s'est aussi effondré car certains des organismes qu'il renfermait étaient plus proches des végétaux, eumycètes ou animaux. 

On sait qu'il y a eu d'importants mouvements de gènes entre les organismes par transfert horizontal, un processus au cours duquel des gènes passent d'un génome à un autre grâce à des mécanismes comme les infections virales, la fusion d'organismes différents, etc. En conséquence, les arbres phylogéniques construits à partir de gènes différents peuvent donner des résultats différents, car tous les gènes ne sont pas transmis linéairement, d'ancêtre à descendants. Ainsi l'arbre de la vie pourrait comporter une bonne part d'enchevêtrements en plus des classiques lignes.