Something Big Is Happening - Matt Shumer

 

Encore un article viral sur les avancées fulgurantes de l'IA. C'est écrit par un entrepreneur dans le domaine, et évidemment, difficile à priori de faire la part entre l'optimisme débridé, voire l'autopromotion, et la réalité de la technologie. Et ce particulièrement quand on n'est développeur, car c'est en particulier de la génération de code qu'il s'agit ici. De façon plus vaste, il s'agit plus encore de l'application de ce progrès pour remplacer le travail humain en général. Il faut quand même préciser qu'il y a tout un tas de signaux qui vont dans le sens inverse, des signaux qui poussent au scepticisme. Mais quand on lit ce qui suit, difficile de ne pas prendre la technologie au sérieux :

I am no longer needed for the actual technical work of my job. I describe what I want built, in plain English, and it just... appears. Not a rough draft I need to fix. The finished thing. I tell the AI what I want, walk away from my computer for four hours, and come back to find the work done. Done well, done better than I would have done it myself, with no corrections needed. A couple of months ago, I was going back and forth with the AI, guiding it, making edits. Now I just describe the outcome and leave.

Let me give you an example so you can understand what this actually looks like in practice. I'll tell the AI: "I want to build this app. Here's what it should do, here's roughly what it should look like. Figure out the user flow, the design, all of it." And it does. It writes tens of thousands of lines of code. Then, and this is the part that would have been unthinkable a year ago, it opens the app itself. It clicks through the buttons. It tests the features. It uses the app the way a person would. If it doesn't like how something looks or feels, it goes back and changes it, on its own. It iterates, like a developer would, fixing and refining until it's satisfied. Only once it has decided the app meets its own standards does it come back to me and say: "It's ready for you to test." And when I test it, it's usually perfect.

C'est aussi la porte grande ouverte à l'amélioration auto-récursive des IA. Après tout, Anthropic et OpenAI générèrent déjà une bonne partie de leur code avec leurs propres IA. D'ailleurs, à propos du dernier modèle d'OpenAI :

"GPT-5.3-Codex is our first model that was instrumental in creating itself. The Codex team used early versions to debug its own training, manage its own deployment, and diagnose test results and evaluations."

Évidemment, l'idée n'est pas que 100% du travail de développeur sera remplacé par ces systèmes. Mais peut-être 90%... Et aussi, à priori, ça pourrait contaminer tout travail qui se déroule via un ordinateur :

The experience that tech workers have had over the past year, of watching AI go from "helpful tool" to "does my job better than I do", is the experience everyone else is about to have. Law, finance, medicine, accounting, consulting, writing, design, analysis, customer service. 

 AI isn't replacing one specific skill. It's a general substitute for cognitive work.

I think the honest answer is that nothing that can be done on a computer is safe in the medium term. If your job happens on a screen (if the core of what you do is reading, writing, analyzing, deciding, communicating through a keyboard) then AI is coming for significant parts of it. 

L'auteur donne quelques conseils : 

1. Devenir urgemment familier avec ces outils, particulièrement les versions payantes, et manuellement sélectionner les modèles les plus récents et performants
2. Ne pas juste les utiliser pour des questions rapides, mais les pousser à faire le travail que vous faites. Penser automatisation.
3. Le temps pour apprendre à utiliser l'IA est limité.

Bien entendu, difficile à dire. En tous cas, c'est passionnant : de la pure SF qui progresse à une vitesse si rapide qu'il est facile pour qui n'a pas un pied dans le domaine de rien remarquer.

Le fait est que j'ai essayé la génération de code et d'applis, et même pas avec les tout derniers modèles. C'est absolument impressionnant. Et quand on sait le peu de temps qu'il a fallu pour que les autres types d'IA génératives parviennent à des résultats impossibles à distinguer du réel ou d'un travail humain...

The Expendables : Escape from Baranof Island - Chad Zuber

 

Un autre petit récit de Chad Zuber (lisible sur ce vieux blog) qui se déroule environ 14 ans avec le sympathique Wandering Soles. Durant l'été 2013, Chad s'en va passer deux mois en Alaska pour... travailler 16 heures par jour, 112 heures par semaine, dans une usine de préparation de saumons. On s'en doute vu l'amplitude horaire, le travail est extrêmement difficile. De plus, c'est sans compter les conditions hautement risquées. Dans le froid, l'humidité, la chair fragmentée et les écailles de poisson, les accidents sont nombreux pour les employés, et minoritaires sont ceux qui parviennent à la fin de la saison.

Au milieu de cet esclavage salarié, Chad s'efforce de survivre, de tenir le coup. Il y a toutes sortes de gens à rencontrer, et les incroyables beautés de l'Alaska à contempler. Quelques jours arrachés, notamment au début et à la fin de la saison, permettent d'explorer les montagnes locales lors d'expéditions franchement mal préparées et clairement risquées, mais ô combien stimulantes et satisfaisantes.

Ce qui ressort de ce texte, c'est la résilience et l'optimisme de Chad, qui touche à la candeur. Prenant activement soin de sa santé physique et mentale, il ne fume pas, ne boit pas. Insatisfait par les repas de l'usine, il évite évidemment tout produit transformé sucré, et va dehors ramasser des feuilles de pissenlit, pour les vitamines. En expédition dans les montagnes, il se gave des nombreuses baies locales, guide des plantes comestibles à la main. Sans oublier les saumons qui grouillent dans les rivières peu profondes... Pour tenir la cadence au travail, il faut de la résilience mentale, mais aussi comprendre et domestiquer son corps, qui n'apprécie pas l'expérience. Pour le reste, il y a Dieu : la foi prend une place importante dans sa vie intérieure.

C'est frappant : de cette expérience à priori harassante, accablante, Chad ressort grandit, satisfait de son travail et heureux d'avoir découvert l'Alaska. Sûrement, la beauté est dans l'œil de celui qui la contemple.

A part of me is going to miss the work.  The challenge of getting through another sixteen-hour workday, meeting so many interesting new people, the views of the mountains across the bay, observing the salmon rushing upstream, and of course, sampling the wild berries that grow abundantly in the woods.  A part of Alaska will accompany me forever.  We did it.  We worked a tough season through pain and fatigue and immediately after that we conquered a mountain.  I am happy and satisfied. 

Attention au roman

Mon ami Siméon a récemment publié un message d'alerte important sur son blog.

Cela nous concerne tous, nous autres qui avons des bibliothèques.

Il s'avère que ces bibliothèques — et par la même occasion les demeures qui les hébergent — sont envahies par un inquiétant champignon papivore : le roman.

Je peux confirmer : il y en a plein chez moi. Peut-être même un nombre croissant. Et ils ne se contentent pas des bibliothèques, non : ils s'infiltrent partout. J'en retrouve dans tous les coins.

Pour en savoir plus, et prendre les mesures qui s'imposent, merci de lire le message d'alerte éloquent et détaillé de Siméon.

De mon côté, je vous invite à laisser tomber le romanesque et à vous mettre aux échanges épistolaires philosophiques.

Merci pour votre attention. 

Bien cordialement.

Pailler ses arbres : 6 types de paillage comparés (vidéo)

 

Hop, une petite vidéo dans laquelle je relate brièvement mon expérience avec différent types de paillage, spécifiquement en ce qui concerne le paillage des arbres.

Lien direct vers la vidéo sur youtube. 

The Adolescence of Technology - Dario Amodei

  

Dario Amodei, fondateur et CEO d'Anthropic, avait déjà consacré un long essai optimiste à l'avenir de l'humanité dans la cas d'avènement d'IA puissantes (avènement qui selon lui ne fait aucun doute à relativement court terme). Cet essai-là, The Adolescence of Technology, se penche sur les risques que posent les IA puissantes.

J'avais déjà fait un petit compte rendu de If Anyone Builds It, Everyone Dies, ouvrage autrement plus catastrophiste, vers lequel je renvoie pour plus de détails sur les risques (potentiellement énormes) posés par les IA puissantes. Les inquiétudes de Dario Amodei sont en comparaison certes sérieuses, mais plus mesurées. Sans les détailler, elles se structurent ainsi :

1. Les risquent qui concernent l'autonomie des IA, et une potentielle "prise de pouvoir" directe par ces IA, qui forment "des pays de génies dans des datacenters."
2. Les usages des IA puissantes par les humains dans des buts destructifs.
3. Les usages des IA puissantes par les humains dans le but d'accumuler du pouvoir, notamment par les autocraties. 
4. Les problèmes causés par la disruptions de l'économie par les IA puissantes.
5. Les autres trucs difficilement prévisibles.

Il est facile de faire le cynique face aux incroyables prétentions des pontes de l'IA, qu'on peut aisément accuser de simplement faire leur promotion. De même, pour le citoyen lambda, il est tentant de croire que les LLM ont atteint un plateau. En effet, quel différence entre le ChatGPT d'aujourd'hui et le ChatGPT d'il y a un an ? Quand Dario Amodei affirme que des ingénieurs d'Anthropic commencent à ne plus de tout écrire de code eux-même, on pourrait croire qu'il exagère, qu'il vend son produit.

Le fait est que je n'ai absolument aucune certitude sur l'avenir de cette technologie, et je m'efforce de rester sceptique, mais je commence à être franchement pénétré par la conviction de personnes comme Dario Amodei et Demis Hassabis, des ingénieurs, des scientifiques, qui ont ont consacré leur vie à cette technologie et l'ont vu grandir depuis ses balbutiements. S'ils affirment qu'il y a dans la technologie qu'est l'IA une progression similaire à la loi de Moore (en gros), pourquoi ne pas les croire ? Ou du moins considérer qu'ils ont peut-être raison ? Il aurait été facile, il y a 50 ans, de se moquer de la loi de Moore...

Faute de prédire l'avenir, je note deux ressources captivantes trouvées dans cet essai :

• La Constitution de Claude. C'est un document essentiel à l'alignement de Claude (le LLM d'Anthropic), laissé ici à la libre de lecture de chacun. Ce long texte est donc l'une des principales fondations de "personnalité" de Claude, ou sa nature, son fontionnement technique en tant qu'outil. Comme l'évoquent ailleurs les recherches partagées par Anthropic, la façon de s'adresser à un LLM compte énormément pour son aliment, c'est comme une créature étrange qu'il faut guider, dresser, caresser dans le sens du poil et manipuler... Dans ce texte, Claude est décrit, et en intégrant sa description, il devient ce qui est écrit. Théoriquement. J'ai également écouté, dans ce podcast, une discussion avec la principale rédactrice de ce document. C'est captivant. Par exemple, la constitution a été écrite en collaboration avec Claude, à qui elle demandait régulièrement si rien ne prêtait à confusion à ses yeux dans le texte, si tout était bien clair...
• L'index économique d'Anthropic. C'est une base de donnée quasiment en temps réel de l'utilisation de Claude. Il possible d'avoir accès aux détails de son utilisation par pays et par profession.

A propos de la constitution :

Anthropic has just published its most recent constitution, and one of its notable features is that instead of giving Claude a long list of things to do and not do (e.g., “Don’t help the user hotwire a car”), the constitution attempts to give Claude a set of high-level principles and values (explained in great detail, with rich reasoning and examples to help Claude understand what we have in mind), encourages Claude to think of itself as a particular type of person (an ethical but balanced and thoughtful person), and even encourages Claude to confront the existential questions associated with its own existence in a curious but graceful manner (i.e., without it leading to extreme actions). It has the vibe of a letter from a deceased parent sealed until adulthood. 

We’ve approached Claude’s constitution in this way because we believe that training Claude at the level of identity, character, values, and personality—rather than giving it specific instructions or priorities without explaining the reasons behind them—is more likely to lead to a coherent, wholesome, and balanced psychology and less likely to fall prey to the kinds of “traps” I discussed above. Millions of people talk to Claude about an astonishingly diverse range of topics, which makes it impossible to write out a completely comprehensive list of safeguards ahead of time. Claude’s values help it generalize to new situations whenever it is in doubt.

Going Zero - Anthony McCarten

 

Un techno-thriller qui se lit bien et s'oubliera vite. Un grand partenariat public-privé (CIA-Palantir ou un truc du genre) lance un projet appelé Fusion, qui a pour but de synthétiser toutes les données possibles de toutes les sources imaginables pour enfin offrir au gouvernement des capacités de surveillance jugées parfaites. Pour vérifier ça, ils organisent un bêta-test : 10 candidats doivent tenter d'échapper à Fusion pendant un mois entier. On passe la moitié du temps à suivre notre héroïne en fuite, une bibliothécaire, et l'autre moitié à suivre les hauts pontes de Fusion, notamment le milliardaire en chef qui, surprise, se révèlera être très méchant.

Le concept est très fun, et il y a des idées qui lui font honneur, mais l'exécution laisse à désirer. Les neuf autres candidats sont pour la plupart... franchement nuls. Il y aurait deux choses basiques à faire pour traverser une telle épreuve :

1. N'avoir strictement aucun contact avec des personnes que l'on connait.
2. Rester aussi loin que possible de tout appareil connecté.

Et je vous jure : personne ne fait fait ces deux choses à la fois. On peut le tolérer pour les premiers civils à se faire prendre, histoire de montrer comment réagiraient des gens ordinaires, mais quand même des supposés pros se mettent à s'enfuir avec leur petit ami ou à emprunter la voiture (connectée) de leur grand cousin... C'est ridicule et narrativement paresseux. Le seul candidat secondaire un peu fun est le dernier à se faire prendre (sans compter notre héroïne). Quant à notre bibliothécaire, elle subit moult retournements de situation et semble surtout jouir d'une typique immunité de protagoniste. Puis on oublie un peu tout ça et on va vers complot de la CIA, super hacking magique, prisonnier retenu en Iran, etc. C'est facilité après facilité.

Le plus fun dans tout ça, c'était imaginer comment je m'y prendrais pour réussir un tel bêta-test.

Non, je ne révèlerai pas mon plan.

Le monde sans fin - Jancovici & Blain

 

Sans surprise, c'est, globalement, très bien. J'ai dû écouter Jancovici parler pendant quelques dizaines d'heures au cours de la décennie précédente, et j'ai lu pas mal de livres sur ces questions, donc je dirais que je n'ai pas forcément appris grand-chose, mais ça reste de la bonne vulgarisation, dense et bien foutue.

Le fait est que j'ai lu la BD presque en diagonale et que je ne me lancerai pas dans des critiques de certains points questionnables. Par exemple, Tchernobyl est évoqué avec une bizarre légèreté, et il me semble que la critique des énergies dites renouvelables aurait gagné à évoquer le taux de croissance de l'efficacité de ces technologies (les batteries notamment) et leur baisse de prix rapide (les panneaux solaires par exemple). De même, la conclusion sur les bases biologiques des problèmes qui pèsent sur l'humanité est assez simpliste.

Je suis content que ce soit un best-seller.  

Parce que c'est un livre qui évoque sans filtre les questions les plus importantes qui se posent à l'humanité, oui, mais je voudrais plutôt évoquer la raison suivante : parce que c'est un livre certes sans doute pas dénué de biais ni d'erreurs, mais avec une approche rationnelle et scientifique. C'est bien là ce qui fait l'attrait de Jancovici pour les gens comme moi. Dans un monde où l'assaut des pseudo-sciences et des superstitions les plus grotesques est permanent, où je me sens comme un alien à devoir rappeler que la réflexologie plantaire est purement doctrinale et que les méta-analyses ne montrent aucun effet concret, avant de gentiment laisser tomber et passer à autre chose avec détachement et humour parce que j'ai plus de tact qu'avant, c'est franchement du baume au cœur que d'entendre un Jancovici rester inlassablement fidèle à cette perspective rationnelle, scientifique, documentée. De l'entendre dire "je ne sais pas" quand il ne sait pas. Ce n'est pas affirmer qu'il est un messie incapable de se tromper, loin de là, mais l'approche est la bonne.

Je suis extrêmement pessimiste sur l'avenir de l'humanité à moyen terme par rapport aux questions de limites planétaires et de dérèglement climatique. Les courbes sont terrifiantes, les processus de rétroaction naturels sont terrifiants, et tout va toujours "plus vite que prévu". Le discours publique est envahi d'absurdités du genre "net-zéro d'ici 2050" et quasiment personne n'ose faire face, ne serait-ce qu'en paroles, à la réalité de la situation. Même les scientifiques les plus pertinents, après une heure de podcast à exposer des faits apocalyptiques, finissent sur des niaiseries optimistes. J'apprécie que Jancovici reste implacable, et qu'il mettre de côté l'optimisme béat au profit de suggestions imparfaites, mais pratiques et réfléchies.

Je voudrais faire un petit lien avec certaines phrases de Sam Harris qui m'ont frappé il y a quelques jours, dans ce podcast. Je m'efforce de les faire passer à l'écrit et en français :

Beaucoup d'entre nous sont extrêmement inconfortables sans clôture cognitive [cognitive closure], par exemple le simple fait d'admettre qu'on ne sait pas pourquoi une chose est arrivée. On peut pourtant avoir une approche probabiliste : peut-être qu'il y a 50% de chances que ce soit telle raison, et 50% que ce soit telle autre... Je suis tout à fait à l'aise avec cette perspective, mais il y a chez beaucoup de gens cette volonté désespérée de ressentir de la certitude. La pensée conspirationniste offre ce chemin, par ailleurs hautement divertissant, et hautement émancipateur pour ceux qui se sentent impuissants, vers la clôture cognitive.

Cette idée de clôture cognitive : je crois que je la retrouve souvent, notamment quand je parle religion. Il y a, chez la croyante à laquelle je pense, cette incapacité à dire "je ne sais pas" à propos de l'origine de toutes choses. Pourtant, Dieu étant inconnaissable, ça reste un énorme "je ne sais pas" avec des tonnes de superstitions en plus, mais bon... Et cette approche probabiliste : en un sens, c'est une révélation que c'est une chose peut-être peu commune que de pouvoir percevoir les phénomènes de façon probabiliste. Que c'est peut-être telle raison, peut-être telle autre, et cette autre hypothèse moins probable, et les entrecroisement possibles entre ces idées, et la part considérable d'inconnu...