La Singularité, entre la gnose et le complotisme

Le 23 décembre 2017, par Sylvie Taussig

Jean-Gabriel Ganascia , Le Mythe de la Singularité. faut-il craindre l’intelligence artificielle ?, Seuil, 144 p., 18 euros (2017)

Société. Dans ce livre indispensable pour armer son intelligence contre l’idée, massivement présentée dans les médias, que l’IA (Intelligence Artificielle) va inéluctablement remplacer les hommes et procéder à l’extinction de la race humaine au terme d’une hybridation fatale, autrement dit ce qu’on appelle la singularité (technologique), l’auteur mobilise un large spectre de connaissances et de références et se livre à une salutaire déconstruction des concepts trop vite assénés.
Dès le premier moment où il rend compte de ce qu’est la singularité technologique, il le fait en montrant que tous les scénarios de grand tournant qu’elle implique sont empruntés à la science fiction ; elle ne répond pas aux conditions scientifiques de faisabilité, puisque, par définition inobservable, elle nous happera tous, étant donné qu’elle transforme le temps. Après avoir procédé à la critique de la théorie de la catastrophe il s’attaque à celle de la loi de Moore sur laquelle s’appuient en grande partie, généralisée par la science fiction, ceux qui prophétisent cet autre grand remplacement. Mais rien ne prouve la validité inconditionnelle de cette loi, et le principe d’uniformité ne s’y applique pas. D’un point de vue strictement scientifique, en revanche, il existe des barrières physiques aux systèmes de traitement de l’information ainsi que le « mur du silicium » (des limites à la miniaturisation) si bien qu’on ne saurait abonder dans le sens d’un déterminisme technologique. En réalité on en reste toujours au même point : la capacité de stockage et l’accroissement de la puissance de calcul définissent-ils l’intelligence ?

L’auteur aura démontré que la singularité relève de l’impératif narratif et procède de l’imagination de la science fiction bien plus que de l’approche scientifique

Mais qu’en est-il de la faculté d’apprentissage des machines, qui, si elle existait de façon telle qu’on puisse parler d’autonomie, exigerait effectivement qu’on limite leur capacité pour qu’elles obéissent à des règles morales. Mais ce n’est pas le cas, contrairement à la croyance répandue qui découle des fonts baptismaux de l’IA elle-même, supposée modéliser l’intelligence humaine. Cependant les philosophes ont toujours critiqué cette approche cognitiviste. Il convient cependant d’aller plus loin et de montrer l’affinité du mythe de la singularité et de la gnose – de fait, l’auteur aura démontré que la singularité relève de l’impératif narratif et procède de l’imagination de la science fiction bien plus que de l’approche scientifique. La gnose elle aussi a une parole qui frôle la science, de telle sorte qu’il y a une confusion entre l’horion du mythe et celui d’une pensée rationnelle. Mais dans les deux cas, c’est comme si nous étions en présence d’une prosopopée de l’évolution, dont est évincée la rationalité humaine. La gnose se caractérise par un strict dualisme – l’esprit dissocié du corps – et c’est bien ce que promet l’IA avec la conscience qui se retrouve téléchargée dans une machine et poursuit son chemin hors le corps.

La singularité : des ressorts proches du complotisme

La singularité est, en termes scientifiques, totalement improbables : il y a un substantiel vice logique dans l’affirmation que le futur n’aura plus besoin de l’homme. Quant au temps brisé, conception commune au mythe de la singularité et à la gnose, il s’oppose à la fois au temps cyclique des traditions millénaires et au temps linéaire des lumières et du progrès, faisant voir le retour du tragique, autrement dit à nouveau un mélange des genres, tel que des fables populaires sont créditées de valeur scientifique. Avec le matraquage de la singularité, nous sommes à l’opposé du catastrophisme éclairé de Jean-Pierre Dupuy, puisque, de façon moralement répréhensible, il détourne d’autres scénarios possibles du futur. Sa façon de scinder l’humanité en deux opère une rupture avec l’humanisme voire la fin de la condition humaine. Mais à qui profite le crime ? La fin du livre prend un tour politique : pourquoi les géants du Web promeuvent-ils la singularité, tout en la dénonçant. On peut taxer leur hubris ou leur anxiété ou leur avidité, mais l’auteur désigne surtout leur volonté politique et leur désir de construire une novelle société, dont les États seraient évacués. Le récit de la singularité (auquel sans doute ils ne croient même pas) occulte les enjeux politiques réels du monde en devenir. Reste que la façon dont la science succombe au mythe est également un enjeu de taille.

Un livre indispensable : d’abord parce qu’il rompt la fascination exercée par la singularité, montrant à la fois ses ressorts politiques et son mode de fonctionnement qui le rapproche du complotisme (hybride de science et de mythe) ; il donne aussi les éléments de réponse à toute prétention qu’elle serait inéluctable et remet sur la voie de luttes à portée de l’homme : lutte contre l’irrationalité, lutte contre ces géants du web, lutte contre l’auto-tromperie portée par la gnose. Les moyens – culture scientifique, culture philosophique, invitation au raisonnement libre et éclairé – sont au contraire le triomphe de l’humanisme.




Poster un nouveau commentaire