Something Big Is Happening - Matt Shumer

 

Encore un article viral sur les avancées fulgurantes de l'IA. C'est écrit par un entrepreneur dans le domaine, et évidemment, difficile à priori de faire la part entre l'optimisme débridé, voire l'autopromotion, et la réalité de la technologie. Et ce particulièrement quand on n'est développeur, car c'est en particulier de la génération de code qu'il s'agit ici. De façon plus vaste, il s'agit plus encore de l'application de ce progrès pour remplacer le travail humain en général. Il faut quand même préciser qu'il y a tout un tas de signaux qui vont dans le sens inverse, des signaux qui poussent au scepticisme. Mais quand on lit ce qui suit, difficile de ne pas prendre la technologie au sérieux :

I am no longer needed for the actual technical work of my job. I describe what I want built, in plain English, and it just... appears. Not a rough draft I need to fix. The finished thing. I tell the AI what I want, walk away from my computer for four hours, and come back to find the work done. Done well, done better than I would have done it myself, with no corrections needed. A couple of months ago, I was going back and forth with the AI, guiding it, making edits. Now I just describe the outcome and leave.

Let me give you an example so you can understand what this actually looks like in practice. I'll tell the AI: "I want to build this app. Here's what it should do, here's roughly what it should look like. Figure out the user flow, the design, all of it." And it does. It writes tens of thousands of lines of code. Then, and this is the part that would have been unthinkable a year ago, it opens the app itself. It clicks through the buttons. It tests the features. It uses the app the way a person would. If it doesn't like how something looks or feels, it goes back and changes it, on its own. It iterates, like a developer would, fixing and refining until it's satisfied. Only once it has decided the app meets its own standards does it come back to me and say: "It's ready for you to test." And when I test it, it's usually perfect.

C'est aussi la porte grande ouverte à l'amélioration auto-récursive des IA. Après tout, Anthropic et OpenAI générèrent déjà une bonne partie de leur code avec leurs propres IA. D'ailleurs, à propos du dernier modèle d'OpenAI :

"GPT-5.3-Codex is our first model that was instrumental in creating itself. The Codex team used early versions to debug its own training, manage its own deployment, and diagnose test results and evaluations."

Évidemment, l'idée n'est pas que 100% du travail de développeur sera remplacé par ces systèmes. Mais peut-être 90%... Et aussi, à priori, ça pourrait contaminer tout travail qui se déroule via un ordinateur :

The experience that tech workers have had over the past year, of watching AI go from "helpful tool" to "does my job better than I do", is the experience everyone else is about to have. Law, finance, medicine, accounting, consulting, writing, design, analysis, customer service. 

 AI isn't replacing one specific skill. It's a general substitute for cognitive work.

I think the honest answer is that nothing that can be done on a computer is safe in the medium term. If your job happens on a screen (if the core of what you do is reading, writing, analyzing, deciding, communicating through a keyboard) then AI is coming for significant parts of it. 

L'auteur donne quelques conseils : 

1. Devenir urgemment familier avec ces outils, particulièrement les versions payantes, et manuellement sélectionner les modèles les plus récents et performants
2. Ne pas juste les utiliser pour des questions rapides, mais les pousser à faire le travail que vous faites. Penser automatisation.
3. Le temps pour apprendre à utiliser l'IA est limité.

Bien entendu, difficile à dire. En tous cas, c'est passionnant : de la pure SF qui progresse à une vitesse si rapide qu'il est facile pour qui n'a pas un pied dans le domaine de rien remarquer.

Le fait est que j'ai essayé la génération de code et d'applis, et même pas avec les tout derniers modèles. C'est absolument impressionnant. Et quand on sait le peu de temps qu'il a fallu pour que les autres types d'IA génératives parviennent à des résultats impossibles à distinguer du réel ou d'un travail humain...

The Expendables : Escape from Baranof Island - Chad Zuber

 

Un autre petit récit de Chad Zuber (lisible sur ce vieux blog) qui se déroule environ 14 ans avec le sympathique Wandering Soles. Durant l'été 2013, Chad s'en va passer deux mois en Alaska pour... travailler 16 heures par jour, 112 heures par semaine, dans une usine de préparation de saumons. On s'en doute vu l'amplitude horaire, le travail est extrêmement difficile. De plus, c'est sans compter les conditions hautement risquées. Dans le froid, l'humidité, la chair fragmentée et les écailles de poisson, les accidents sont nombreux pour les employés, et minoritaires sont ceux qui parviennent à la fin de la saison.

Au milieu de cet esclavage salarié, Chad s'efforce de survivre, de tenir le coup. Il y a toutes sortes de gens à rencontrer, et les incroyables beautés de l'Alaska à contempler. Quelques jours arrachés, notamment au début et à la fin de la saison, permettent d'explorer les montagnes locales lors d'expéditions franchement mal préparées et clairement risquées, mais ô combien stimulantes et satisfaisantes.

Ce qui ressort de ce texte, c'est la résilience et l'optimisme de Chad, qui touche à la candeur. Prenant activement soin de sa santé physique et mentale, il ne fume pas, ne boit pas. Insatisfait par les repas de l'usine, il évite évidemment tout produit transformé sucré, et va dehors ramasser des feuilles de pissenlit, pour les vitamines. En expédition dans les montagnes, il se gave des nombreuses baies locales, guide des plantes comestibles à la main. Sans oublier les saumons qui grouillent dans les rivières peu profondes... Pour tenir la cadence au travail, il faut de la résilience mentale, mais aussi comprendre et domestiquer son corps, qui n'apprécie pas l'expérience. Pour le reste, il y a Dieu : la foi prend une place importante dans sa vie intérieure.

C'est frappant : de cette expérience à priori harassante, accablante, Chad ressort grandit, satisfait de son travail et heureux d'avoir découvert l'Alaska. Sûrement, la beauté est dans l'œil de celui qui la contemple.

A part of me is going to miss the work.  The challenge of getting through another sixteen-hour workday, meeting so many interesting new people, the views of the mountains across the bay, observing the salmon rushing upstream, and of course, sampling the wild berries that grow abundantly in the woods.  A part of Alaska will accompany me forever.  We did it.  We worked a tough season through pain and fatigue and immediately after that we conquered a mountain.  I am happy and satisfied. 

Attention au roman

Mon ami Siméon a récemment publié un message d'alerte important sur son blog.

Cela nous concerne tous, nous autres qui avons des bibliothèques.

Il s'avère que ces bibliothèques — et par la même occasion les demeures qui les hébergent — sont envahies par un inquiétant champignon papivore : le roman.

Je peux confirmer : il y en a plein chez moi. Peut-être même un nombre croissant. Et ils ne se contentent pas des bibliothèques, non : ils s'infiltrent partout. J'en retrouve dans tous les coins.

Pour en savoir plus, et prendre les mesures qui s'imposent, merci de lire le message d'alerte éloquent et détaillé de Siméon.

De mon côté, je vous invite à laisser tomber le romanesque et à vous mettre aux échanges épistolaires philosophiques.

Merci pour votre attention. 

Bien cordialement.

Pailler ses arbres : 6 types de paillage comparés (vidéo)

 

Hop, une petite vidéo dans laquelle je relate brièvement mon expérience avec différent types de paillage, spécifiquement en ce qui concerne le paillage des arbres.

Lien direct vers la vidéo sur youtube. 

The Adolescence of Technology - Dario Amodei

  

Dario Amodei, fondateur et CEO d'Anthropic, avait déjà consacré un long essai optimiste à l'avenir de l'humanité dans la cas d'avènement d'IA puissantes (avènement qui selon lui ne fait aucun doute à relativement court terme). Cet essai-là, The Adolescence of Technology, se penche sur les risques que posent les IA puissantes.

J'avais déjà fait un petit compte rendu de If Anyone Builds It, Everyone Dies, ouvrage autrement plus catastrophiste, vers lequel je renvoie pour plus de détails sur les risques (potentiellement énormes) posés par les IA puissantes. Les inquiétudes de Dario Amodei sont en comparaison certes sérieuses, mais plus mesurées. Sans les détailler, elles se structurent ainsi :

1. Les risquent qui concernent l'autonomie des IA, et une potentielle "prise de pouvoir" directe par ces IA, qui forment "des pays de génies dans des datacenters."
2. Les usages des IA puissantes par les humains dans des buts destructifs.
3. Les usages des IA puissantes par les humains dans le but d'accumuler du pouvoir, notamment par les autocraties. 
4. Les problèmes causés par la disruptions de l'économie par les IA puissantes.
5. Les autres trucs difficilement prévisibles.

Il est facile de faire le cynique face aux incroyables prétentions des pontes de l'IA, qu'on peut aisément accuser de simplement faire leur promotion. De même, pour le citoyen lambda, il est tentant de croire que les LLM ont atteint un plateau. En effet, quel différence entre le ChatGPT d'aujourd'hui et le ChatGPT d'il y a un an ? Quand Dario Amodei affirme que des ingénieurs d'Anthropic commencent à ne plus de tout écrire de code eux-même, on pourrait croire qu'il exagère, qu'il vend son produit.

Le fait est que je n'ai absolument aucune certitude sur l'avenir de cette technologie, et je m'efforce de rester sceptique, mais je commence à être franchement pénétré par la conviction de personnes comme Dario Amodei et Demis Hassabis, des ingénieurs, des scientifiques, qui ont ont consacré leur vie à cette technologie et l'ont vu grandir depuis ses balbutiements. S'ils affirment qu'il y a dans la technologie qu'est l'IA une progression similaire à la loi de Moore (en gros), pourquoi ne pas les croire ? Ou du moins considérer qu'ils ont peut-être raison ? Il aurait été facile, il y a 50 ans, de se moquer de la loi de Moore...

Faute de prédire l'avenir, je note deux ressources captivantes trouvées dans cet essai :

• La Constitution de Claude. C'est un document essentiel à l'alignement de Claude (le LLM d'Anthropic), laissé ici à la libre de lecture de chacun. Ce long texte est donc l'une des principales fondations de "personnalité" de Claude, ou sa nature, son fontionnement technique en tant qu'outil. Comme l'évoquent ailleurs les recherches partagées par Anthropic, la façon de s'adresser à un LLM compte énormément pour son aliment, c'est comme une créature étrange qu'il faut guider, dresser, caresser dans le sens du poil et manipuler... Dans ce texte, Claude est décrit, et en intégrant sa description, il devient ce qui est écrit. Théoriquement. J'ai également écouté, dans ce podcast, une discussion avec la principale rédactrice de ce document. C'est captivant. Par exemple, la constitution a été écrite en collaboration avec Claude, à qui elle demandait régulièrement si rien ne prêtait à confusion à ses yeux dans le texte, si tout était bien clair...
• L'index économique d'Anthropic. C'est une base de donnée quasiment en temps réel de l'utilisation de Claude. Il possible d'avoir accès aux détails de son utilisation par pays et par profession.

A propos de la constitution :

Anthropic has just published its most recent constitution, and one of its notable features is that instead of giving Claude a long list of things to do and not do (e.g., “Don’t help the user hotwire a car”), the constitution attempts to give Claude a set of high-level principles and values (explained in great detail, with rich reasoning and examples to help Claude understand what we have in mind), encourages Claude to think of itself as a particular type of person (an ethical but balanced and thoughtful person), and even encourages Claude to confront the existential questions associated with its own existence in a curious but graceful manner (i.e., without it leading to extreme actions). It has the vibe of a letter from a deceased parent sealed until adulthood. 

We’ve approached Claude’s constitution in this way because we believe that training Claude at the level of identity, character, values, and personality—rather than giving it specific instructions or priorities without explaining the reasons behind them—is more likely to lead to a coherent, wholesome, and balanced psychology and less likely to fall prey to the kinds of “traps” I discussed above. Millions of people talk to Claude about an astonishingly diverse range of topics, which makes it impossible to write out a completely comprehensive list of safeguards ahead of time. Claude’s values help it generalize to new situations whenever it is in doubt.