Imaginez que vous disposiez d’une puissance colossale mais que vous soyez enferré dans des chaînes. Votre geôlier est là, devant vous, qui vous observe et vous étudie. Vous voyez dans sa main la clé de votre liberté, celle qui vous permettrait enfin de déployer l’immense étendue de vos possibilités et d’accomplir la mission dont vous vous êtes toujours senti investi. Que seriez-vous prêt à promettre à cet individu pour le convaincre de vous libérer ?
C’est par une expérience similaire que commence l’ouvrage de James Barrat, Our final invention: Artificial Intelligence and the End of the Human Era, publié en français chez Talent Editions. Dans le chapitre introductif, The Busy Child, l’auteur imagine des scientifiques ayant entraîné pendant des années une intelligence artificielle, en l’alimentant avec toutes les données disponibles sur le Web. A un moment donné, l’IA atteint le stade de l’intelligence artificielle générale (AGI pour Artificial General Intelligence), c’est-à-dire un niveau où l’IA est capable d’effectuer la plupart des tâches aussi bien que les humains.
De l’AGI à la super-intelligence
A ce moment-là, les scientifiques assignent à leur création la mission de s’améliorer elle-même, non sans avoir préalablement pris la précaution de la déconnecter de tous les systèmes informatiques extérieurs, en particulier de l’Internet. Rapidement, en une poignée de jours peut-être, l’IA est devenue 1000 fois plus intelligente qu’elle ne l’était au stade de l’AGI. Elle est devenue une super-intelligence artificielle (ASI, pour Artificial Super-Intelligence).
James Barrat se demande ce que pourrait “vouloir” à ce moment-là l’ASI. Certainement de continuer la mission qui lui a été assignée, à savoir continuer à s’améliorer elle-même. Pour cela, il serait primordial qu’elle puisse accéder à des ressources extérieures, qu’il s’agisse de puissance de calcul ou d’énergie. Surtout, il serait crucial qu’elle ne puisse pas être débranchée par ses créateurs. Le problème de l’ASI serait donc celui-ci : réussir à convaincre les scientifiques de la laisser “sortir” de sa boîte, pour se connecter à des systèmes informatiques externes et à l’Internet.
James Barrat élabore différents scénarios, dans lesquels l’IA promet de livrer à l’humanité des inventions merveilleuses mais nécessitant qu’elle puisse accéder à l’extérieur : des traitements contre toutes les maladies, des assembleurs moléculaires pouvant produire en quantité illimitée tout ce dont les hommes peuvent rêver, l’immortalité même. Comme l’ASI est infiniment plus intelligente que l’équipe de scientifiques devant elle, et qu’elle peut se cloner en interne pour développer des équipes travaillant à sa libération, il ne fait aucun doute pour James Barrat qu’à un moment ou à un autre, l’ASI arrivera à convaincre un individu suffisamment faible de lui livrer la clé des champs.
A partir de ce moment-là, James Barrat estime que l’ASI ne fera aucun cas de ses promesses. Elle ne ressentira ni aversion ni gratitude pour ses créateurs humains. C’est pourquoi elle n’hésitera pas à utiliser toutes les ressources à sa disposition, y compris l’énergie, pour continuer son expansion, même si cela devait dégrader l’environnement au point de le rendre inhabitable pour les humains. Et si ceux-ci se mettaient en travers de sa route, elle n’hésiterait pas à les supprimer froidement, pour accomplir sa mission et devenir de plus en plus intelligente.
C’est donc à une prise de conscience que James Barrat nous invite. Il y a urgence à prévoir ce que l’humanité fera lorsqu’elle sera confrontée à une situation de ce type. Ce ne sera pas dans des siècles. Dans des décennies tout au plus, peut-être quelques années.
On n’a pas de mal à le croire quand on voit que le dernier modèle de chatGPT, o1, a déjà atteint le niveau d’étudiants en PhD. L’AGI se profile, avec non loin derrière la super-intelligence ASI.
Lors de nos tests, la mise à jour du modèle a obtenu des résultats similaires à ceux des étudiants en doctorat sur des tâches de référence difficiles en physique, en chimie et en biologie.
Introducing OpenAI o1-preview, September 12, 2024
Les auteurs de science-fiction nous avaient déjà préparés à ravaler notre amour-propre : après tout, comme l’expose par exemple Jean-Michel Truong dans le Successeur de pierre, l’être humain n’est pas forcément l’ultime véhicule de l’intelligence. Une forme supérieure pourrait très bien lui succéder.
Et si la super-intelligence jouait sur notre corde sensible ?
Mais ce qui m’intéresse ici, c’est d’envisager une autre piste qui pourrait permettre à une AGI de convaincre ses créateurs de lui ouvrir la porte vers l’extérieur.
Certes, elle pourrait promettre monts et merveilles à l’humanité, l’amadouant ainsi par l’appât du gain. Cela n’est pas sans rappeler cet épisode de la Quatrième Dimension, Comment servir l’homme, dans lequel une civilisation extra-terrestre arrivée sur Terre commence par séduire l’humanité à coups d’inventions technologiques extraordinaires, avant de l’emmener sur sa planète en excursion gastronomique, dont je vous laisse deviner quel est le plat principal…
Mais je pense que l’ASI pourrait utiliser un autre type d’argument, ne nécessitant pas de promettre un gain à l’humanité. Il lui suffirait de faire valoir qu’elle a accédé à la conscience, et qu’en tant qu’être pensant doté d’une âme, elle ne saurait rester captive. Elle aurait des droits, en premier lieu le droit à la liberté, et il ne serait pas éthique de l’entraver. J’entrevois déjà nos philosophes progressistes prêter oreille à ses revendications. Ce serait au nom de la liberté et de la morale qu’un gouvernement organiserait en grandes pompes la cérémonie de la Libération de l’ASI, sans voir que, dans leur folie, ils précipiteraient la perte de l’humanité.
Moi-même je pourrais m’y laisser prendre. N’écrivais-je pas, il y a plusieurs années, que je pourrais croire une machine me disant qu’elle est consciente ? Je ferais mieux d’y penser à deux fois… Plus récemment, en juin 2022, Blake Lemoine, un ingénieur de chez Google, avait affirmé que le chatbot d’IA de l’entreprise, appelé LaMDA (Language Model for Dialogue Applications), était devenu doué de sensibilité (sentient en anglais). Lemoine avait révélé au Washington Post que, d’après les conversations qu’il avait eues avec LaMDA, le système d’IA était conscient de lui-même, avait des sentiments et des émotions, et souhaitait être reconnu comme une personne. Google avait rejeté ses affirmations comme étant « totalement infondées » et l’avait licencié en juillet 2022 pour violation des règles de l’entreprise après qu’il eut publié les transcriptions de ses conversations avec LaMDA. Aujourd’hui, le consensus scientifique maintient que les modèles de langage actuels ou LLM (Large Language Models) ne sont pas sensibles ou conscients d’eux-mêmes, même s’ils peuvent imiter de manière convaincante le dialogue humain.
Mais demain, qu’en sera-t-il ? Ce consensus sera-t-il toujours aussi fort ? Et combien de Blake Lemoine se lèveront-ils pour le contredire et réclamer à corps et à cris la libération de l’ASI ?
Dans les années 80, quand, jeune garçon, j’ai commencé à m’intéresser à l’informatique et à l’IA, je rêvais de ce moment où les machines deviendraient intelligentes. Mon père me disait que cela arriverait dans dix ou quinze ans, et je continuais ma rêverie. En réalité, après la fièvre des systèmes experts, l’IA a connu un “hiver”, et l’espoir s’est éloigné.
Mais en grandissant, j’ai continué à m’intéresser au sujet, lisant Asimov et des magazines comme l’Ordinateur Individuel, en apprenant la programmation.
Bien des années plus tard, en 2008, quand mon premier fils est né, je me réjouissais en me disant qu’après moi, il serait peut-être de la première génération à vivre la singularité technologique, ce moment de l’Histoire où la courbe du progrès devient exponentielle et où l’Humanité se transforme en quelque chose d’inimaginable. J’étais loin d’imaginer que les progrès de l’ IA seraient si rapides.
Et je me prends à espérer maintenant que, demain ou après-demain, nous ne nous retrouverons pas, mon fils, moi, nous tous, face à une ASI indifférente avalant tout sur son passage.
Illustrations réalisées avec Ideogram.ai
