L’expérience de la chambre chinoise

Cet article est issu de la newsletter IA Comprise et reproduit ici par commodité. Recevez toutes les lettres dans votre boîte mail au fur et à mesure de leur publication en laissant votre adresse dans le cadre à droite !


Chère lectrice, cher lecteur,

Je vous avais laissé dans ma dernière lettre sur une question fondamentale pour comprendre l’IA aujourd’hui : une Intelligence Artificielle suffisamment sophistiquée peut-elle être comparée à une intelligence humaine ?

Pour illustrer comment fonctionne réellement l’IA, le philosophe John Searle décrit dans les années 80 une expérience de pensée, la chambre chinoise.

Un prisonnier équipé d’un manuel

Imaginons un prisonnier, Paul, enfermé dans une chambre et sans moyen de communication vers l’extérieur autre qu’une fente pour recevoir et transmettre des messages écrits.

Paul ne comprend pas le chinois. En revanche, il dispose d’un manuel expliquant très précisément quelle réponse donner à n’importe quelle question à partir d’innombrables règles soigneusement classées.

Par exemple, si la séquence « 你叫什么名字 ? » apparaît, répondre par « 我的名字叫保罗 ».

Paul l’ignore, mais la première séquence signifie « comment t’appelles-tu ? » et la seconde « je m’appelle Paul ».

Avec un nombre suffisant de règles et de temps, il lui est ainsi théoriquement possible de répondre correctement à n’importe quelle question.

Qui est à l’intérieur ?

Hors de la chambre se trouve un interrogateur, Tao, comprenant vraiment le chinois. Il peut transmettre à Paul n’importe quelle question dans cette langue : il recevra une réponse sensée.

De son point de vue, la personne enfermée dans la pièce qui lui répond doit comprendre et parler le chinois.

Mais il n’en est rien : Paul ne fait que suivre aveuglément les règles qui lui ont été fournies.

Même l’Intelligence Artificielle la plus sophistiquée qui existe actuellement fonctionne comme Paul : en suivant « bêtement » une immense quantité de règles qu’elle a apprise par imitation.

IA forte et IA faible

Les chercheurs distinguent deux sortes d’Intelligence Artificielle.

Celle qui s’apparente à une intelligente humaine, capable de raisonnements abstraits et d’adaptation à des situations inconnues est nommée Intelligence Artificielle Forte, ou Intelligence Artificielle Généralisée.

Et celle qui applique mécaniquement des règles pour atteindre un objectif fixé est logiquement nommée Intelligence Artificielle Faible.

Aujourd’hui non seulement aucune IA « forte » n’existe, mais de l’avis unanime des chercheurs dans le domaine, elle est inenvisageable avant des dizaines d’années, si tant est qu’elle sera un jour possible.

Quant à l’IA « Faible », c’est celle que nous utilisons de plus en plus couramment, celle qui a déjà un impact sur nos vies, celle qu’il est important de comprendre aujourd’hui.

Nous pouvons dormir sur nos deux oreilles, la révolution des robots n’est pas pour demain et une IA tueuse n’émergera pas par surprise des travaux d’un ingénieur ayant développé une IA optimisant les enchères publicitaires de Facebook.

À la prochaine,

Erwan


[1] Rossumovi univerzální roboti (« Les robots universels de Rossum »), par Karel Capek. Texte complet ici : https://archive.org/details/CapekRUR/page/n85
[2] Que l’on voit souvent désignée improprement par « Frankenstein » tout court, alors qu’il s’agit du nom de son créateur, le docteur Victor Frankenstein
[3] I, robot, film d’Alex Royas sorti en 2004

Inscrivez-vous gratuitement pour ne rater aucune lettre !

Laisser un commentaire

Abonnez-moi à la newsletter