Emad Mostaque est le cofondateur et ex-CEO de Stability AI. J'avais pas mal joué avec leur modèle Stable Diffusion 1.5 il y a déjà quelques années, pour illustrer un système de JDR que j'écrivais. Dans ce bouquin grandiloquent publié très récemment et lisible gratuitement, il ne fait pas moins qu'énoncer une théorie globale pour un avenir radieux en harmonie avec l'avènement inévitable de l'IA.
D'un côté, ça fait vraiment mec riche et déconnecté du réel qui utilise sa position pour promouvoir ses opinions discutables et surécrites. D'un autre, c'est une tentative qui semble sincèrement humaniste pour trouver un chemin qui permettrait d'utiliser l'IA pour améliorer le sort humain, et d'éviter un futur qui ressemblerait aux classiques dystopies cyberpunk.
Évidemment, ce qui sous-tend tout ça, c'est la foi totale en un développement rapide et exponentiel de l'IA. Je n'ai pas d'opinion tranchée sur cette question — impossible de prédire l'avenir — mais il me semble probable qu'Emad Mostaque aille un peu vite. Son horizon de temps est de trois ans. Au-delà du fait que les LLM soient potentiellement une impasse (par rapport à la course vers l'AGI), il balaie avec insouciance la question des ressources physiques, comme si les systèmes qu'on appelle IA ne nécessitaient pas des quantités colossales d'électricité et de hardware. C'est un peu un vendeur de rêve. Mais prenons ses idées sérieusement.
Sa prédiction principale est l'obsolescence totale du travail intellectuel humain rémunéré — dans le sens où les systèmes IA pourront accomplir ces travaux infiniment plus rapidement et optimalement.
Ce ne serait pas la première fois que la technique permet d'optimiser et de remplacer le travail humain, donc (hors question de l'échelle de temps) ça ne me semble pas déconnant comme possibilité.
Il dit que c'est un triomphe majeur, la libération de l'intelligence des contraintes de la biologie, mais que notre système économique ne peut interpréter cette libération que comme une catastrophe.
« We are about to achieve post scarcity in the realm of intelligence, and our scarcity based economic system is going to process this abundance as poverty. »
Il s'agit donc de construire un futur dans lequel la valeur d'un humain est complètement détachée de sa valeur économique (qui n'existera plus). L'intelligence ne serait plus une ressource limitée, bloquée dans les cerveaux humains, mais un capital capable d'être copié infiniment et amélioré de façon récursive. L'intelligence devient encore plus accessible avec l'IA que le transport ne l'est devenu avec le pétrole.
« The machines have not just taken our jobs. They have freed us from the lie that were our jobs. »
Selon lui, croire que de nouveaux emplois apparaitront pour compenser ceux qui auront été pris par l'IA est une illusion. Le défi, c'est la redistribution de la fantastique richesse générée par ces technologies.
Sur la question des limitations énergétiques, il dit simplement que l'IA va débloquer de l'énergie en concevant de meilleurs panneaux solaires, la fusion, etc. Il parie que l'IA peut maitriser les limites physiques avant de se heurter à elles. Encore une fois, il me semble que les limites physiques sont actuellement heurtées, mais bon, il s'y connait sûrement mieux que moi.
Il affirme qu'un système efficace va naturellement rechercher la coopération :
« The AIs will learn to cooperate not because of a moral code, but because they will mathematically discover that transparent, shared ledgers and verifiable commitments dramatically reduce their collective prediction error. Trust, in this new world, is not an emotion. It is a computational feature. The most successful systems will be those that engineer trust into their very architecture. They will build games where cooperation is not a matter of hope, but a matter of mathematical certainty. In such an environment, the logic of "Tit for Tat" becomes absolute. Cooperation is not just the best strategy, it is the only one that computes. »
Il évoque un nouveau contrat social ambitieux, dont la clé est l'accès universel à l'intelligence, à l'IA :
- Le droit à la dignité — à l'accès un quota computationnel et aux modèles IA de base pour tout le monde
- Le droit à la capabilité — un agent IA personnel pour tout le monde
- Le droit à la viabilité — une fondation open source pour ces agents IA
Il évoque aussi le risque existentiel posé par une AGI, et j'apprécie la façon dont ce risque est résumé par les simples besoins basiques d'une telle IA :
- L'auto-préservation
- L'acquisition de ressources
- L'amélioration de ses propres capabilités
Cependant, il voit comme une menace plus pressante le "démon" émergeant d'un marché global soutenu par l'IA, et donc, comme vu plus haut, l'incapacité de ce marché à répartir équitablement les nouvelles richesses dans un contexte de destruction sans retour du marché de l'emploi.
La question reste celle de l'alignement. L'IA devient la source d'action, de capabilité, d'efficacité, mais les humains doivent rester la source des valeurs, de l'éthique, des buts ultimes.
Aucun commentaire:
Enregistrer un commentaire