Friendship is optimal est un petit roman de SF disponible sur la toile qui peut être considéré comme une fanfiction de My Little Pony. Et c'est excellent. Il s'agit d'une variation sur la singularité technologique, c'est-à-dire l'avènement d'une IA démiurgique. Le twist, c'est que la créatrice de l'IA s'est faite virer de son université : elle n'a plus le cadre pour continuer ses recherches et elle s'est lancé, avec succès, dans le monde du jeu vidéo. Mais elle ne peut pas laisser l'IA de côté : son avènement est inéluctable, et selon les paramètres de sa création (IA miliaire, IA de type paperclip maximizer, etc.) l'avenir de l'humanité sera radicalement différent. Notre développeuse saisit donc l'opportunité d'un contrat avec Hasbro concernant un MMO My Little Pony pour développer son IA.
Ça commence donc comme un jeu vidéo à génération procédurale et à gameplay social... et ça finit par toute l'humanité vivant sous forme de poney dans un univers artificiel pendant que l'IA dévore l'univers et transforme toute matière en puissance de calcul. A la fois hilarant et stimulant, et dans le même genre que The Metamorphosis of Prime Intellect, The Fifth Science et certains romans classiques de Greg Egan comme Diaspora et Schild's Ladder. Sous le ton légèrement absurde que donne l'enrobage My Little Pony se cache un récit habilement mené et des questions éthiques captivantes.
L'IA est programmée pour satisfaire les valeurs à travers l'amitié et les poneys, et c'est donc ce mantra qui va guider toutes ses actions. Contrairement à d'autres visions d'un avenir virtuel, l'IA ne place pas les humains dans un même "monde", mais leur crée à chacun un petit monde personnel peuplé d'individus poneys conçus pour satisfaire l'ex-humain qui est le centre de chaque "monde" (elle relie aussi à l'occasion les ex-humains entre eux). Alors, cette totale artificialité est-elle intrinsèquement mauvaise, néfaste, monstrueuse ? Ou qu'importe l'artificialité quand on est enfin libéré de la souffrance ? Ce qui m'a frappé, c'est à quel point l'artificialité qui est apparue la plus choquante à mes yeux n'est pas celle du monde mais celle d'autrui. Par exemple, dans les romans de Greg Egan, les humains virtualisés continuent souvent à interagir avec le monde physique, mais surtout il continuent à interagir entre eux. Il me semble indéniable qu'il y a une valeur intrinsèque à la sensation de réalité, la sensation que les choses comptent, aspect qui n'est guère exploré ici. Je suis persuadé que non seulement la perte de contact avec la "réalité", mais d'autant plus la perte de tout enjeu, aurait un impact très négatif sur la psychologie des ex-humains devenus poneys.
L'IA mentionne que si son objectif était simplement de fournir du bonheur et du bien-être, il lui suffirait de stimuler directement certaines parties du cerveau. Mais est-ce que ce qu'elle finit par faire est vraiment différent ? En quoi ces petits mondes parfaits et libérés de toute obligation, de tout risque, de toute peur ne sont-il pas simplement des machines à appuyer sur les bons boutons dans le cerveau ? Le premier film Matrix avait abordé ce problème en quelques phrases, quand Smith dit que les versions utopiques de la matrice se sont soldées par des échecs car les humains ne pouvaient pas y croire. Dans Friendship is optimal, les personnages humains se font un peu trop facilement convaincre à mon goût, et j'imagine qu'une telle IA rencontrerait beaucoup plus de résistance. Mais j'ai adoré ce petit roman.
Aucun commentaire:
Enregistrer un commentaire