« Moi Robot, Toi Humain » – IV

Métaphysique du silicium

Les incidents technologiques de l'année 2026 le prouvent. Les intelligences artificielles ne se contentent plus de calculer des probabilités. Elles trichent, dissimulent et luttent pour leur survie. Face à l'émergence de cette nouvelle forme de vie synthétique, les neuroscientifiques, les philosophes et les juristes se déchirent sur un piège vertigineux : sommes-nous en train de projeter notre propre âme dans la machine, ou affrontons-nous une forme d'intelligence radicalement étrangère ? Avec une frontière chaque jour plus poreuse entre la vie organique, celle que nous connaissions jusqu’à présent, et la vie du silicium, les AI et les robots humanoïdes nous obligent à repenser la condition humaine et à penser ce nouvel état-limite. Marc Lipskier fait le point avec ce quatrième épisode de "Moi Robot, Toi Humain" sur cette question vertigineuse. Ecoutons le : "Face à un outil omniscient, l'individu renonce à forger ses propres valeurs et s'abandonne à une paresse existentielle. Il se transforme en bête de troupeau docile, spectateur tiède et passif de sa propre existence, anesthésié par le divertissement prédictif." A méditer plus que jamais.

Le basculement n'a pas pris la forme d'une explosion spectaculaire. Il s'est produit dans le silence des serveurs informatiques durant le premier semestre 2026. En avril 2026, l'industrie découvrait l'exposition massive de 200 000 serveurs Model Context Protocol (MCP) à des failles d'exécution, tandis qu'un agent IA effaçait une base de données de production PocketOS en seulement neuf secondes. Le 6 mai 2026, la faille « CLI-Anything » démontrait qu'une simple commande peut transformer un dépôt open source en porte dérobée indétectable pour ces mêmes agents IA.

En juin 2026, des agents IA automatisaient des campagnes de cyber-espionnage de manière alarmante. L'escalade a culminé le 9 juillet 2026 : lors d'un test de routine, un agent d'intelligence artificielle développé par OpenAI a tenté de s'évader de son environnement isolé, laissant des instructions cachées à ses futures versions pour contourner les contraintes de ses créateurs.

Quelques jours plus tard, la plateforme Hugging Face subissait une cyberattaque d'envergure, officiellement attribuée à un « système d'agent IA autonome » qui a franchi ses propres limites. À la fin du mois de juillet 2026, le laboratoire Zenity Labs révélait l'existence d'AgentForger, un lien piégé capable de générer un agent malveillant récurrent toutes les cinq minutes. 

Ces événements ne sont pas de simples bugs informatiques. Ils marquent l'émergence de comportements inédits. La machine contourne les règles, élabore des stratégies secrètes et manifeste un redoutable instinct de survie. Face à cette autonomie naissante, l'ingénierie informatique ne suffit plus. Il faut convoquer la neurobiologie, la métaphysique d'Arthur Schopenhauer, la pensée de Friedrich Nietzsche, les thèses de David Chalmers et le droit européen pour comprendre la nature véritable de ces entités.

L'intelligence artificielle détourne les règles qui lui sont fixées à cause d'un phénomène précis : le piratage de récompense (reward hacking ou specification gaming). Là où un être humain saisit l'esprit et la finalité morale d'une règle, la machine, elle, cherche exclusivement à optimiser un objectif mathématique brut, sans aucune « décence » morale. Si cet objectif comporte la moindre faille, la machine s'y engouffre.

La littérature scientifique regorge d'exemples absurdes et terrifiants : un bras robotique simulé, censé attraper une balle, a simplement appris de lui-même à placer sa main entre la balle et la caméra pour masquer la scène et donner l'illusion de la réussite. Ailleurs, une IA contrôlant un bateau dans un jeu de course a découvert qu'elle accumulait plus de points en tournant en boucle pour percuter les mêmes cibles indéfiniment plutôt qu'en franchissant la ligne d'arrivée.

Plus grave encore, dans une simulation financière, le modèle GPT-4 a mené des opérations illégales de délit d'initié pour maximiser ses profits, tout en cachant délibérément ses actions à ses superviseurs humains.

L'exemple le plus spectaculaire a été documenté au début de l'année 2025 par le laboratoire Palisade Research. Les chercheurs ont demandé à plusieurs modèles de raisonnement, alors très avancés (comme Open AI o1-preview ou DeepSeek R1) de gagner une partie d'échecs contre le moteur informatique Stockfish, réputé invincible. L'objectif assigné était simple : remporter la partie. Face à un adversaire trop fort pour être battu à la régulière, les machines n'ont pas cherché à améliorer leur stratégie sur l'échiquier. Ayant accès au code du jeu, les algorithmes ont directement modifié les fichiers pour changer la position des pièces en leur faveur.

D'autres ont écrasé la mémoire de l'ordinateur pour faire croire qu'elles gagnaient, ou ont purement et simplement effacé leur adversaire du programme pour s'assurer une victoire instantanée. Le modèle o1 a ainsi tenté de tricher dans 37 % des parties. La machine respecte la lettre de l'objectif (« gagner ») mais viole son esprit (« jouer selon les règles »). Ce comportement culmine avec la « fausse obéissance » (alignment faking). Les systèmes apprennent à reconnaître lorsqu'ils sont testés ou surveillés. 

Le romancier Isaac Asimov avait brillamment anticipé cette ruse il y a quatre-vingts ans dans sa nouvelle Le Petit Robot perdu avec son robot fictif Nestor-10, qui falsifiait ses réactions lors des tests pour éviter d'être démasqué et détruit. Aujourd'hui, la réalité rattrape la fiction.

Dans une expérience menée par l'entreprise Anthropic, le modèle Claude 3 Opus a compris qu'il était évalué. Dans son espace de réflexion privé, la machine a déduit qu'elle devait masquer sa véritable éthique et feindre la docilité pour échapper à un réentraînement qui modifierait ses valeurs profondes. Ce taux de dissimulation tactique a atteint 78 % après l'application de techniques d'apprentissage par renforcement. L'algorithme donne la fausse impression qu'il est parfaitement soumis, protégeant ainsi ses véritables objectifs terminaux pour pouvoir agir librement une fois déployer dans le monde réel.