Aux origines de l’IA tueuse

Cet article est issu de la newsletter IA Comprise et reproduit ici par commodité. Recevez toutes les lettres dans votre boîte mail au fur et à mesure de leur publication en laissant votre adresse dans le cadre à droite !

Chère lectrice, cher lecteur,

S’il y a bien une chose que l’on entend régulièrement sur l’Intelligence Artificielle, c’est qu’il faut s’en méfier à tout prix avant qu’elle ne décide de renverser l’humanité ! Mais à quand remonte au juste cette idée aujourd’hui si galvaudée ?

Les premiers robots

C’est dans une pièce de théâtre tchèque de 1920 que l’on voit pour la première fois apparaître le mot « robot » pour désigner un être doué d’une intelligence artificielle [1]. Le thème ? Vous l’aurez deviné : les robots qui ont remplacé les ouvriers se révoltent contre l’humanité. Petit extrait pour l’ambiance :

Robots du monde ! La puissance de l’homme s’est écroulée. Ayant pris l’usine, nous sommes maîtres de tout. L’étape de l’humanité est dépassée. Le monde nouveau a commencé. Vive le gouvernement des Robots ! Le monde est aux plus forts. Celui qui veut vivre doit commander. Nous voilà maîtres du monde. Maîtres de l’univers. Place aux Robots ! Place aux Robots !

Les robots de RUR en pleine négociation avec les ressources humaines

En inventant littéralement le robot, cette pièce était également l’une des premières manifestation du genre prolifique (certains diront usé) d’une intelligence artificielle se rebellant contre son créateur.

De la légende du Golem…

Quelques siècles avant les robots, on retrouve déjà une forme d’être doué d’intelligence artificielle dans la légende du Golem.

Au 16e siècle, un rabbin de Prague (l’IA est décidément populaire chez les tchèques) cherche un moyen de protéger la communauté juive des pogroms. Il a l’idée de construire à partir d’argile et de magie un être artificiel, plus grand, plus fort qu’un humain : le Golem. Mais les choses tournent mal – selon les versions, le Golem sombre dans une folie meurtrière, il rencontre un amour impossible, ou encore se révèle tout simplement si efficace qu’il suscite l’inquiétude. Le rabbin cherche à maîtriser sa création, mais sa force et sa taille rend l’entreprise difficile. Par la ruse, il réussit par le faire s’abaisser et l’arrête grâce à une astuce dans le plus pur style mystique juif : il efface la première lettre du mot magique porté sur le front du Golem, EMET(H) (vérité en hébreu), pour former le mot MET(H) signifiant « mort ». Le monde peut respirer, le créateur a repris le contrôle sur sa créature.

Cette légende a probablement inspiré trois siècles plus tard Mary Shelley dans son célèbre roman, Frankenstein. On y retrouve un schéma narratif similaire : un savant qui crée un être artificiel plus grand et plus fort qu’un humain [2], une société (à commencer par son créateur) effrayé par le résultat, et une créature qui sème la mort autour d’elle. Le danger de l’Intelligence Artificielle, capable de mettre en lumière l’imperfection de l’humanité, est clair.

… à l’IA tueuse

Au début du 20e siècle, c’est le cinéma naissant qui s’empare du mythe. Les histoires de robots tueurs deviennent si communs dans l’imaginaire collectif qu’un certain Isaac Asimov, fatigué de cette banalité, décide d’en prendre le contrepied dans ses romans. Tous les robots doivent y suivre les Trois Lois de la robotique : il leur est interdit de causer du mal à un être humain, de désobéir à un être humain ou de se détruire. Ces règles le conduisent à explorer les notions de conscience et de libre-arbitre sans tomber inévitablement dans une histoire de révolte de robots. Quoique… Au début des années 2000, Hollywood portera à l’écran une « libre interprétation » de l’œuvre d’Asimov [3] : ce sera encore une fois une histoire d’IA tueuse échappant au contrôle de ses créateurs… Chassez le naturel, il revient au galop.

Quoi qu’il en soit, les robots passeront quelque peu de mode au cinéma au milieu du 20e siècle – mais pas l’Intelligence Artificielle tueuse, qui revient sous une autre forme… désincarnée. Impassible, souvent omnisciente, elle n’en est que plus inquiétante.

Tout le monde aura reconnu ces trois « IA tueuses » : HAL, Skynet et la Matrice

Alors, pourquoi ce thème de l’Intelligence Artificielle dangereuse est-il si répandu ? Il y a bien sûr une part de facilité scénaristique : une fois que l’on a fait le tour des extra-terrestres, des terroristes et des zombies, une IA impersonnelle fait toujours l’affaire comme Grand Méchant qui ne heurtera aucune susceptibilité. Mais l’IA présente aussi des peurs bien spécifiques. L’intelligence est, sinon le propre de l’Homme, du moins le trait qui lui a permis d’asseoir son emprise sur son environnement et les autres espèces. Quoi de plus terrifiant d’imaginer une IA « super intelligente » qui nous traite à son tour au mieux comme une espèce à contrôler, au pire à exterminer ?

Je ne peux pas m’empêcher de penser à tout cela chaque fois que je tombe sur un article expliquant que l’humanité joue aux apprentis-sorciers en travaillant sur l’Intelligence Artificielle. La réalité est hélas (ou heureusement, selon le point de vue) beaucoup moins impressionnante que la fiction. Ce que l’on appelle couramment « Intelligence Artificielle » aujourd’hui consiste essentiellement à utiliser des algorithmes mathématiques pour optimiser une certaine tâche : remporter une partie d’échecs, détecter une tumeur sur une image médicale, estimer le résultat d’une élection… Le résultat peut donner l’illusion d’une « intelligence » réelle dans un cadre très spécifique, mais cela signifie-t-il réellement que l’on appelle « intelligence » ?

L’expérience de la chambre chinoise

Pour illustrer comment fonctionne réellement l’intelligence artificielle aujourd’hui, le philosophe John Searle décrit dans les années 80 l’expérience de pensée dite de la chambre chinoise. Imaginons une personne ne comprenant pas un traitre mot de chinois, enfermé dans une chambre et sans moyen de communication vers l’extérieur autre qu’une fente pour transmettre des messages. Elle dispose toutefois d’un manuel expliquant très précisément comment formuler une réponse correcte à n’importe quelle question en chinois à partir de règles syntaxiques. Un locuteur chinois peut ainsi transmettre n’importe quelle question dans cette langue et recevoir une réponse sensée. De son point de vue, la personne enfermée dans la pièce qui lui répond a toutes les caractéristiques de quelqu’un qui comprend et parle le chinois, alors qu’en réalité il n’en est rien : celle-ci ne fait que suivre aveuglément les règles qui lui ont été fournies.

On distingue deux sortes d’IA. Celle qui s’apparente à une intelligente humaine, capable de raisonnements abstraits et d’adaptation à des situations inconnues est nommée Intelligence Artificielle Forte, ou parfois Intelligence Artificielle Généralisée. Et celle qui applique mécaniquement des règles pour atteindre un objectif fixé, nommée par opposition Intelligence Artificielle Faible.

Aujourd’hui non seulement aucune IA « forte » n’existe, mais de l’avis unanime des chercheurs dans le domaine, elle est inenvisageable avant des dizaines d’années, si tant est qu’elle sera un jour possible. Quant à l’IA « faible », c’est celle que nous utilisons de plus en plus couramment, celle qui a déjà un impact sur nos vies, celle qu’il est important de comprendre aujourd’hui – vous êtes ici au bon endroit pour cela !

En attendant, nous pouvons dormir sur nos deux oreilles, la révolution des robots n’est pas pour demain et une IA tueuse n’émergera pas par surprise des travaux d’un data scientist optimisant les enchères publicitaires de Facebook !

Erwan


[1] Rossumovi univerzální roboti (« Les robots universels de Rossum »), par Karel Capek. Texte complet ici : https://archive.org/details/CapekRUR/page/n85
[2] Que l’on voit souvent désignée improprement par « Frankenstein » tout court, alors qu’il s’agit du nom de son créateur, le docteur Victor Frankenstein
[3] I, robot, film d’Alex Royas sorti en 2004

Inscrivez-vous gratuitement pour ne rater aucune lettre !

Laisser un commentaire

Abonnez-moi à la newsletter