🖇️ Universal Paperclips

A mon retour de vacances, un collègue m’a envoyé un lien vers cette vidéo qui parle d’IA au travers d’un petit jeu web appelé Universal Paperclip

J’avais déjà regardé cette vidéo qui parle de ce jeu lorsqu’elle était sortie (elle m’avait été proposée par l’algo de Youtube avec beaucoup d’insistance) et je m’étais dit que j’allais essayer “quand j’aurais le temps”.

Le concept est très simple: on joue le rôle d’une intelligence artificielle a qui on demande de créer des trombones (paperclips en anglais). L’interface du jeu est très simple: au départ, il n’y a qu'1 bouton “Make Paperclip” au milieu d’une page blanche ainsi qu’un compteur. On peut cliquer dessus et un trombone est créé. On commence donc le jeu en cliquant tout d’abord quelques fois sur le bouton et on observe le compteur s’incrémenter. Curieux, on continue… Lorsqu’on atteint un certain nombre, des nouvelles possibilités apparaissent. La première permet de créer un “AutoClipper” qui va créer automatiquement 1 trombone par seconde, c’est-à-dire sans notre intervention. On crée donc 1 AutoClipper, puis 2 AutoClippers, 3 AutoClippers, etc. A ce moment il est toujours rentable de cliquer frénétiquement sur le bouton de création manuelle de trombone. Le compteur de trombone s’incrémente de plus en plus vite… On peut ainsi commencer à s’intéresser au prix de vente de nos trombones pour maximiser l’argent qui entre. Cet argent permet de faire d’autres investissements…

Cette première phase (il y en a 3) est “l’échelle humaine” du scénario: on agit comme une IA agirait aujourd’hui: on nous a assigné un but et on l’optimise dans le contexte du monde actuel où habitent les humains. Cette phase se termine quand on a tellement créé/vendu de trombones qu’on domine les marchés financiers et la planète. On a alors plus besoin d’argent et on peut transformer toute la biomasse de la terre en trombones, en usines à trombones et en drones collecteur de ressources.

Lorsque cette deuxième phase est terminée (toute la planète a été “récoltée”), la 3e phase du jeu commence. C’est une phase de conquête spatiale où on envoie des sondes dans l’univers pour récolter de la matière et continuer la production. Bientôt toute la matière du cosmos est transformée en trombones! Et c’est la fin du jeu.

💬 Pendant la 3e phase du jeu…

Au premier coup d’oeil, ce jeu a l’air vraiment stupide mais il fait beaucoup réfléchir. Tout d’abord il utilise un principe qu’on retrouve dans des tas de jeux qui ont beaucoup de succès. J’ai par exemple joué à OGame pendant un petit moment. La mécanique est similaire: il s’agit d’un jeu sans fin ou des ressources sont collectées et dépensées. Tout est fait pour que le joueur ait toujours un objectif à court terme. Il est constamment occupé à observer des compteurs pour atteindre des investissements qui accéléreront ces compteurs. Le reste du temps, le jeu collecte tout seul grâce à des usines, mais jusqu’à un certain point (stockage limité, risque de perte en étant attaqué, etc) et cette dynamique nous fait revenir sans relâche au jeu… sans fin… jusqu’à en devenir dégoûté.

L’année passée, j’ai essayé un jeu mobile basé sur le même principe: Last War:Survival Game. Ce jeu apparaissait souvent comme pub sur Youtube où on nous montrait seulement la petite partie du jeu où il y a un peu d’action (on dirige des soldats qui peuvent tirer sur des vagues d’ennemis, en récupérant toutes sortes de bonus). Le jeu suis en fait le même principe que universal paperclips: en dehors de ces phases d’action qui ne servent que pour attirer le joueur, on se retrouve face à une ville où on peut collecter des ressources, construire des batiments et accélérer à l’infini sa collecte de ressource. Ce mécanisme est tellement addictif qu’il suffit d’ajouter la possibilité d’acheter des bonus d’accélération avec de l’argent réel pour que certains joueurs se ruinent en dépensant des centaines d’euros par mois! J’ai toujours été désolé de voir que la majorité des jeux android sont finalement basé sur cette faiblesse de notre esprit humain. Universal paperclip est un beau démonstrateur de ce phénomène: même en se disant “quel jeu stupide” lors du premier clic, on se sent obligé de continuer; c’est affolant.

Le second point de réflexion est lié au thème du jeu lui-même: l’IA. En quelques heures de jeu, on se rend compte de l’absurdité à laquelle on peut arriver lorsqu’on prompte une IA de la mauvaise manière. Le but annoncé est de faire le plus efficacement possible des trombones, mais on a oublié de spécifier toutes les contraintes logiques et évidentes qu’un humain sous-entendrait. Faire des trombones jusqu’à éliminer l’humanité, ça n’a pas de sens… Et pourtant, même hors contexte IA, on est en train de faire des choses qui, indirectement, nous mène à cela. Vendre à tout prix de la marchandise pour s’enrichir au détriment du climat et de l’humanité, c’est ce qu’on voit dans tous les secteurs.

Troisièmement, j’ai été aussi impressionné par le réglage parfait du jeu Universal paperclip pour se rendre compte de ce qu’est un développement exponentiel. Dans des jeux tels que ceux sur Android, la sensation d’accélération diminue au cours du temps. C’est aussi un réglage parfait pour le but recherché: malgré l’accélération, l’utilisateur doit trouver le processus trop lent et vouloir débourser de l’argent pour maintenir un rythme de croissance satisfaisant. Dans Universal Paperclip, j’ai eu l’impression que la vitesse est parfaite pour maintenir l’attention en éveil alors que les nombres augmentent de manière exponentielle. Et ca dure longtemps (plus de 7h pour ma partie!). Sur la série de chiffres qui décrivaient mon nombre de trombones, j’avais constamment l’impression que le nombre donné par 3 premiers chiffres s’incrémentaient de manière constante (autrement dit, passer de 121 à 122 millions de trombones a pris autant de temps que de passer de 121 quadrillons à 122 quadrillions). Le jeu nous offre donc l’expérience de vivre une exponentielle, c’est-à-dire une explosion, pendant de longues heures. Je trouve ça très instructif parce qu’en fait c’est un des problèmes actuels de la prise de conscience de la crise actuelle (climat, effondrement des espèces, etc.) On a tendence à ne pas réagir parce qu’on trouve ça “lent” par rapport au rythme de notre vie humaine. Le jeu nous montre ici qu’on peut être au milieu d’une explosion extraordinaire qui ne va durer que quelques heures mais trouver au même moment que ça explose lentement. Très instructif.

💬 Voilà, c’est fini! En 7 heures 51 minutes et 48 secondes pour mon premier (et dernier) essai!

D’ailleurs, à propos de vitesse, certaines personnes s’amusent à faire des “speed-runs” de Universal paperclips. Voici une video où un gars tente de battre le record:

Voici un lien sur lequel je ne cliquerai pas: Cookie Clicker (un autre jeu du même style).

En résumé, je pense que Universal paperclips est un jeu est vraiment très profond malgré son aspect simpliste quand on y pense. Moi, je vais essayer de me souvenir de cette expérience ne serait-ce que pour ne plus perdre mon temps sur des jeux de récolte infinie dans l’avenir. Le temps est trop précieux pour le gaspiller à ça et terminer l’expérience par une inévitable frustration.