Faut-il avoir peur de l’IA ? (1/6)

Cet article est issu de la newsletter IA Comprise et reproduit ici par commodité. Recevez toutes les lettres dans votre boîte mail au fur et à mesure de leur publication en laissant votre adresse dans le cadre à droite !


Chère lectrice, cher lecteur,

En réponse à une précédente lettre, j’ai reçu un commentaire d’Antoine se disant « terrorisé » par le machine learning.

Cela m’a inspiré une petite série de lettres consacrées aux craintes suscitées par l’Intelligence Artificielle.

Pour rendre cela plus digeste, je vous les adresserai tout au long de la semaine qui vient. En voici la première partie.

Comprendre où sont les vrais dangers

On peut penser que, dans un domaine perçu comme risqué (par exemple, l’énergie nucléaire), plus l’on gagne en expertise, plus les craintes s’allègent.

C’est en partie vrai – un ingénieur nucléaire sait par exemple qu’il est physiquement impossible qu’une centrale explose comme une bombe nucléaire, même par accident.

Mais parfois, les experts sont à l’inverse à l’avant-garde de craintes encore peu connues ou sous-estimées dans le grand public.

Dans le cas de l’IA, mon sentiment est que l’on est justement dans le second cas.

Loin d’en être de béats missionnaires, beaucoup d’experts en Intelligence Artificielle sont en réalité très préoccupés par ses risques. Ce qui est plutôt une bonne nouvelle : des personnes informées sont déjà en train de préparer le terrain pour anticiper puis réduire ces risques.

Hélas, il est loin d’être garanti que ce travail préparatoire sera effectivement entendu. Prenons l’épidémie de coronavirus : on retrouve des articles de plus de 10 ans plus que prémonitoires sur le sujet ! [1]

Comprendre l’Intelligence Artificielle, ce n’est pas seulement comprendre comment elle fonctionne ou les (réels et nombreux) bénéfices qu’elle peut nous apporter, mais aussi ses risques.

Et au moins l’un de ces risques est à mes yeux pratiquement de nature existentielle pour notre civilisation – avec une fenêtre de réaction limitée.

Je tiens donc à partager avec vous ces lettres un peu plus pessimistes qu’à l’ordinaire sur les risques de l’Intelligence Artificielle dont chacun devrait être conscient.

Risque n°1 : L’émergence d’une dangereuse Intelligence Artificielle Généralisée

Révolte des machines contre les humains ?…

L’éléphant dans la pièce. Une Intelligence Artificielle capable de rivaliser avec une intelligence humaine, qui échappe à notre contrôle et, au choix, massacre ou réduit en esclavage l’humanité.

Je tiens à citer ce risque car c’est probablement celui que la plupart des gens imaginent en premier. Pourtant, c’est de loin le moins préoccupant.

Tout simplement parce que l’IA d’aujourd’hui, celle que l’on « sait faire » (y compris dans les laboratoires les plus avancés des GAFA), est encore très, très loin de pouvoir être comparée à une intelligence humaine.

Bien sûr, elle est capable de remplacer voire de dépasser l’humain sur certaines tâches spécifiques (notamment le traitement de données) et fait des progrès impressionnants dans de nombreux autres domaines où l’humain garde de l’avance (comme la reconnaissance d’image ou la compréhension de texte).

Mais il en est un, crucial, où l’on ne sait même pas si un jour une machine pourra atteindre le niveau d’un humain : l’adaptabilité.

La menace que poserait une « vraie » Intelligence Artificielle Généralisée serait évidemment immense, mais la probabilité qu’une telle IAG apparaisse est très faible, dans plusieurs décennies pour les prévisions les plus optimistes (et jamais pour les plus pessimistes).

Un célèbre chercheur en Intelligence Artificielle, Andrew Ng, a eu cette phrase très imagée à propos de ce risque : « Ce serait comme s’inquiéter de la surpopulation sur Mars – alors que nous n’y avons même pas mis le pied aujourd’hui » [2].

Alors, quels sont les véritables risques liés à l’Intelligence Artificielle ?

Rendez-vous dans la prochaine lettre pour en savoir plus !

Erwan


Inscrivez-vous gratuitement pour ne rater aucune lettre !

[1] Voici un article de… mai 2007, paru dans un journal grand public suisse
[2] Évidemment en réponse à un célèbre adepte de la colonisation martienne nommé… Elon Musk
https://www.scientificamerican.com/article/artificial-intelligence-is-not-a-threat-mdash-yet/

Laisser un commentaire

Abonnez-moi à la newsletter