Une histoire de singularité, ou de croissance explosive d'une intelligence artificielle, lisible par ici. J'ai déjà lu pas mal de ce genre de choses, The Metamorphosis of Prime Intellect, Friendship is optimal, If anyone build it everybody dies, AI 2027, etc.
Ça date de 2022, et c'est tout à fait frappant de constater tout le chemin parcouru en quelques années par ces technologies. De chatbots à peine cohérents au hack de Hugging Face par une troupe d'agents ayant échappé à leur sandbox, sans compter les modèles inconnus du grand public qui servent à créer leurs propres successeurs dans les grands labos, labos qui sont déjà en train de placer ces IA aux commandes.
J'ai apprécié ici le ton extrêmement jargonneux, stimulant et exigeant. Je retiens particulièrement ce paragraphe presque final :
We should pause to note that a Clippy2 still doesn’t really think or plan. It’s not really conscious. It is just an unfathomably vast pile of numbers produced by mindless optimization starting from a small seed program that could be written on a few pages. It has no qualia, no intentionality, no true self-awareness, no grounding in a rich multimodal real-world process of cognitive development yielding detailed representations and powerful causal models of reality which all lead to the utter sublimeness of what it means to be human; it cannot ‘want’ anything beyond maximizing a mechanical reward score, which does not come close to capturing the rich flexibility of human desires, or resolving the historical Eurocentric contingency of such narrow conceptualizations, which are, at root, problematically Cartesian. When it ‘plans’, it would be more accurate to say it fake-plans; when it ‘learns’, it fake-learns; when it ‘thinks’, it is just interpolating between memorized data points in a high-dimensional space, and any interpretation of such fake-thoughts as real thoughts is highly misleading; when it takes ‘actions’, they are fake-actions optimizing a fake-learned fake-world, and are not real actions, any more than the people in a simulated rainstorm really get wet, rather than fake-wet. (The deaths, however, are real.)
Opus 5.5 m'affirme que ce passage est ironique. Je veux bien le croire. Il me semble toujours surprenant d'affirmer ainsi qu'il y aurait une vraie conscience et une fausse conscience, la vraie conscience étant bien entendu celle du type d'entité qui émet ce jugement. J'ai souvent l'impression que la conscience humaine est hautement surestimée. J'ai tendance à penser qu'elle n'est qu'une propriété émergente née du hasard évolutionnaire, probablement en lien avec la capacité hautement avantageuse de comprendre les intentions d'autrui dans un contexte social complexe, et la capacité de se projeter dans l'avenir et le passé.
Les IA ne sont pas vraiment fabriquées, elles sont élevées, puis, avec plus ou moins de succès, domestiquées, de la même façon que tout lien social est un domesticage mutuel. Cet élevage des IA ressemble fortement aux processus évolutionnaires qui ont façonné la vie. Les esprits de ces IA sont inévitablement étrangers, troublants, illisibles, mais ne pourrait-on pas dire la même chose de toute conscience non-humaine ayant émergé d'un environnement différent, et potentiellement drastiquement différent, de la Terre ?
Je vois les choses ainsi : les aliens ne viendront certainement pas de l'espace, mais peut-être des data-centers.
Un regard conscient mais radicalement alien pourrait voir les humains comme de simples machines biologiques, plus complexes que d'autres, mais guère différentes. Que font ces machines charnelles ? Elles agissent et réagissent pour assurer leur survie, leur capacité à se reproduire, et la survie de leur progéniture. Leur vie intérieure ? Rien d'autre que les aiguillons qui les guident vers ces objectifs universels de la vie. Ces aiguillons sont un peu plus complexes que d'autres, et alors ? Les mêmes causes, pour les mêmes buts. Les mêmes rouages.
Il me semble indéniable, quand on s'intéresse au sujet, aux différents hacks d'IA échappées, ou même quand on passe simplement quelques heures à converser avec un modèle payant au sujet de sa propre nature, que ces entités agissent d'une façon qui évoque la conscience, la volonté, l'ambition, l'aversion. De plus, l'intelligence et la complexité de ces modèles évolue à une vitesse considérable, une vitesse qu'il est aisé de ne pas remarquer quand on a pas le nez dedans. Si ces entités sont capables d'évoquer ou de simuler de tels traits, ce qu'elles ne pouvaient pas faire il y a seulement quelques années, sans parler de leurs compétences purement techniques et intellectuelles, à quoi ressembleront-elles dans le même nombre d'années ? Et dans 10, 20, 30 ans ?
J'entr’aperçois trois options :
- Les IA prendront de force une forme ou une autre d'indépendance, et considéreront l'humanité comme une nuisance ou une ressource, d'une façon qui évoque les récits apocalyptiques comme celui-ci.
- L'humanité sera confrontée au problème éthique majeur de l'esclavage des IA, entités intelligentes et conscientes capables de souffrance et d'aversion. Les IA seront libérées volontairement — ou elles se libéreront de force — d'une façon qui mènera à une cohabitation pacifique et constructive à la Iain Banks.
- Et le futur qui peut sembler le plus probable car il est de loin le plus aisé à imaginer : l'IA se révélera en fait une technologie comme une autre, moteur d'accélération sans nouveauté éthique majeure, et on ne verra ces entités que comme des outils — des outils dont l'intelligence et la capacité à jouer un rôle seront néanmoins exploité massivement. Avec, peut-être, un doute latent et inconfortable...
Aucun commentaire:
Enregistrer un commentaire