L’Intelligence Artificielle, aux origines du mythe

Cet article est issu de la newsletter IA Comprise et reproduit ici par commodité. Recevez toutes les lettres dans votre boîte mail au fur et à mesure de leur publication en laissant votre adresse dans le cadre à droite !


Chère lectrice, cher lecteur,

S’il y a bien une chose que l’on entend régulièrement sur l’Intelligence Artificielle dans la science-fiction, c’est qu’il faut s’en méfier à tout prix avant qu’elle ne décide de renverser l’humanité !

Mais à quand remonte au juste cette idée aujourd’hui si galvaudée ?

Les premiers robots

C’est dans une pièce de théâtre tchèque de 1920 que l’on voit pour la première fois apparaître le mot « robot » pour désigner un être doué d’une intelligence artificielle [1].

Le thème ? Vous l’aurez deviné : les robots qui ont remplacé les ouvriers se révoltent contre l’humanité. Petit extrait pour l’ambiance :

Robots du monde ! La puissance de l’homme s’est écroulée. Ayant pris l’usine, nous sommes maîtres de tout. L’étape de l’humanité est dépassée. Le monde nouveau a commencé. Vive le gouvernement des Robots ! Le monde est aux plus forts. Celui qui veut vivre doit commander. Nous voilà maîtres du monde. Maîtres de l’univers. Place aux Robots ! Place aux Robots !

Les robots de RUR en pleine négociation avec les ressources humaines

En inventant littéralement le robot, cette pièce était également l’une des premières manifestations du genre prolifique (certains diront usé) d’une intelligence artificielle se rebellant contre son créateur.

De la légende du Golem…

Quelques siècles avant les robots, on retrouve déjà une forme d’être doué d’intelligence artificielle dans la légende du Golem.

Au 16e siècle, un rabbin de Prague (l’IA est décidément populaire chez les tchèques) cherche un moyen de protéger la communauté juive des pogroms. Il a l’idée de construire à partir d’argile et de magie un être artificiel, plus grand, plus fort qu’un humain : le Golem.

Mais les choses tournent mal – selon les versions, le Golem sombre dans une folie meurtrière, il rencontre un amour impossible, ou encore se révèle tout simplement si efficace qu’il suscite l’inquiétude. Le rabbin cherche à maîtriser sa création, mais sa force et sa taille rend l’entreprise difficile.

Par la ruse, il réussit par le faire s’abaisser et l’arrête grâce à une astuce dans le plus pur style mystique juif : il efface la première lettre du mot magique porté sur le front du Golem, EMET(H) (vérité en hébreu), pour former le mot MET(H) signifiant « mort ». Le monde peut respirer, le créateur a repris le contrôle sur sa créature.

Cette légende a probablement inspiré trois siècles plus tard Mary Shelley dans son célèbre roman, Frankenstein. On y retrouve un schéma narratif similaire : un savant qui crée un être artificiel plus grand et plus fort qu’un humain [2], une société (à commencer par son créateur) effrayé par le résultat, et une créature qui sème la mort autour d’elle.

Le danger de l’Intelligence Artificielle, capable de mettre en lumière l’imperfection de l’humanité, est clair.

… à l’IA tueuse

Au début du 20e siècle, c’est le cinéma naissant qui s’empare du mythe.

Les histoires de robots tueurs deviennent si communs dans l’imaginaire collectif qu’un certain Isaac Asimov, fatigué de cette banalité, décide d’en prendre le contrepied dans ses romans. Tous les robots doivent y suivre les Trois Lois de la robotique : il leur est interdit de causer du mal à un être humain, de désobéir à un être humain ou de se détruire.

Ces règles lui permettent d’explorer les notions de conscience et de libre-arbitre sans tomber inévitablement dans une histoire de révolte de robots. Quoique… Au début des années 2000, Hollywood portera à l’écran une « libre interprétation » de l’œuvre d’Asimov [3] : ce sera encore une fois une histoire d’IA tueuse échappant au contrôle de ses créateurs… Chassez le naturel, il revient au galop.

Quoi qu’il en soit, les robots passeront quelque peu de mode au cinéma au milieu du 20e siècle – mais pas l’Intelligence Artificielle tueuse, qui revient sous une autre forme… désincarnée. Impassible, souvent omnisciente, elle n’en est que plus inquiétante.

Tout le monde aura reconnu ces trois « IA tueuses » : HAL, Skynet et la Matrice

Alors, pourquoi ce thème de l’Intelligence Artificielle dangereuse est-il si répandu ?

Il y a bien sûr une part de facilité scénaristique : une fois que l’on a fait le tour des extra-terrestres, des terroristes et des zombies, une IA impersonnelle fait toujours l’affaire comme Grand Méchant qui ne heurtera aucune susceptibilité. Mais l’IA présente aussi des peurs bien spécifiques. L’intelligence est, sinon le propre de l’Homme, du moins le trait qui lui a permis d’asseoir son emprise sur son environnement et les autres espèces.

Quoi de plus terrifiant d’imaginer une IA « super intelligente » qui nous traite à son tour au mieux comme une espèce à contrôler, au pire à exterminer ?

Je ne peux pas m’empêcher de penser à tout cela chaque fois que je tombe sur un article expliquant que l’humanité joue aux apprentis-sorciers en travaillant sur l’Intelligence Artificielle. La réalité est hélas (ou heureusement, selon le point de vue) beaucoup moins impressionnante que la fiction.

Ce que l’on appelle couramment « Intelligence Artificielle » aujourd’hui consiste essentiellement à utiliser des algorithmes mathématiques pour optimiser une certaine tâche : remporter une partie d’échecs, détecter une tumeur sur une image médicale, estimer le résultat d’une élection…

Le résultat peut donner l’illusion d’une « intelligence » réelle dans un cadre très spécifique, mais cela signifie-t-il réellement que l’on appelle « intelligence » ? Je vous en reparle dans la prochaine lettre, consacrée à l’expérience de la chambre chinoise !

À la prochaine,

 Erwan


Inscrivez-vous gratuitement pour ne rater aucune lettre !

[1] Rossumovi univerzální roboti (« Les robots universels de Rossum »), par Karel Capek. Texte complet ici : https://archive.org/details/CapekRUR/page/n85
[2] Que l’on voit souvent désignée improprement par « Frankenstein » tout court, alors qu’il s’agit du nom de son créateur, le docteur Victor Frankenstein
[3] I, robot, film d’Alex Royas sorti en 2004

Laisser un commentaire

Abonnez-moi à la newsletter