Par Jean-Michel Besnier, professeur d’Université à Paris-Sorbonne, auteur de Demain les posthumains (2009) et de L’homme simplifié (2012) aux éditions Fayard.
L’intelligence des autres est parfois terrifiante. Quand elle vous surprend par sa clairvoyance dans une situation compliquée, quand elle suggère avec élégance des solutions à des problèmes qui vous décourageaient. Un sentiment d’injustice vous saisit alors : « le bon sens n’est pas la chose du monde la mieux partagée ». Mais on se console, en se félicitant que la nature humaine accueille aussi le génie.
L’intelligence exceptionnelle reste humaine, l’autre qu’on admire demeure un alter ego. Qu’en est-il, par contre, de cette intelligence dite artificielle dont Bill Joy, Stephen Hawkin, Elon Musk et Bill Gates redoutent qu’elle mette un terme à l’espèce humaine ?
On s’est amusé d’abord des prétentions des cybernéticiens des années 1950 qui envisageaient de fabriquer un humain artificiel. La reprise de vieux fantasmes issus du Golem s’inscrivait alors dans la dynamique d’un progrès technique dont on attendait qu’il satisfasse les attentes de l’humanité.
L’IA était un adjuvant qui devait fournir des moyens de nous épanouir: les premiers jeux électroniques assuraient les divertissements nécessaires aux hommes modernes ; les premiers systèmes-expert relayaient efficacement le savoir-faire des médecins ou des plombiers ; on attendait de machines à traduire qu’elles nous offrent de communiquer par-delà les frontières nationales…
L’artificialisation des comportements, réputés intelligents quand ils sont effectués par des humains, fut d’abord circonscrite à ces trois domaines. Mais l’enthousiasme déclina assez vite, notamment quand on s’aperçut que le traitement automatique du langage n’était pas aussi aisé que cela.
La victoire de Deep Blue sur Kasparov fut évidemment un choc : une machine triomphait du champion du monde d’échecs ! Mais on admit que les capacités humaines de calcul devraient rendre des points aux automatismes dont seront de plus en plus capables les ordinateurs, et l’on se dit que le jeu d’échecs était un terrain trop facile pour eux. Le jeu de Go serait, par exemple, une autre paire de manche !
L’idée s’imposa un temps que l’intelligence devrait se définir comme ce dont les machines ne seront jamais capables, qu’elle devrait donc être conçue comme le point de fuite que n’atteindront jamais les ingénieurs en informatique. Les conclusions du test de Turing n’impressionnèrent plus beaucoup : oui, c’est vrai, il est possible qu’une machine puisse être confondue avec un humain dans les réponses données à un questionnaire fermé.
Les prouesses d’Eliza, le programme informatique écrit par Joseph Weizenbaum pour démontrer qu’une machine peut très bien remplacer un psychanalyste, servirent surtout à railler les stratégies thérapeutiques à la mode dans les années soixante. Personne ne songeait alors à sonner l’alarme et à proclamer que nos technologies cognitives étaient en train de menacer les prérogatives de notre intelligence.
Il ne pouvait y avoir que les auteurs de science-fiction pour continuer à imaginer une prise de pouvoir par les robots et la mise en servage des humains. La société pouvait continuer à s’informatiser tranquillement, l’école à intégrer des plans « Informatique pour tous », les entreprises à investir dans les systèmes d’information. Nous étions bien aux commandes et nous développions de formidables outils pour améliorer le confort de notre quotidien.
Puis est venu le temps d’une certaine irritation : les administrations et les services se dotèrent d’infrastructures informatiques de plus en plus sophistiquées et encombrantes. Les usagers commencèrent à se plaindre de n’être plus accueillis que par des serveurs vocaux imbéciles. On leur expliqua que les contraintes de productivité imposaient qu’on écartât les standardistes à la voix suave et à l’humour narquois.
On justifia aussi abondamment les ratés de communication ou les délais de traitement de leurs demandes par des pannes informatiques bien compréhensibles n’est-ce pas ? La colère des otages de l’IA mise au service de la communication avec le public ne trouva jamais à s’exprimer autrement que sur un plan individuel, et les entreprises purent continuer à s’équiper de dispositifs de plus en plus déshumanisants. Reste que les choses sont peut-être en train de prendre une autre allure…
Le Krach boursier de 2008 a eu sur certains un effet traumatisant : quand on sut le rôle que jouèrent quelques robots traders qui prirent de vitesse les meilleurs courtiers, on dut se dire que nous n’étions plus au contrôle et que cela pouvait être encore plus conséquent que la remise des clés de l’avion de ligne au pilote automatique.
La prise de conscience d’une menace liée à la réactivité de nos machines devint tangible et l’on prit la mesure du fait que le sens du mot « intelligence » avait bel et bien changé : être intelligent, ce n’est plus être capable de se représenter un problème et de réfléchir, aux fins d’élaborer une solution adéquate – mais c’est seulement être capable de recevoir des signaux qui appelleront immédiatement une réponse comportementale susceptible de modifier un environnement.
L’ère des objets intelligents pouvait naître : nous serons bientôt entourés et envahis de capteurs d’informations qui rétroagiront et communiqueront entre eux et nous n’aurons d’autre solution que celle consistant à accepter d’être l’un d’eux. Notre richesse, dit-on déjà, tiendra à la quantité de data que nous pourrons porter et livrer à nos machines.
Quelle menace, donc ? Nous voulions être déchargés des tâches pénibles et répétitives. Nous sommes exposés à être mis sous tutelle et transformés en code-barre ambulants. Notre immersion dans le cyberespace se révèle comme ce qu’il est fondamentalement : l’instrument de notre assujettissement à des moteurs de recherche dont l’intelligence nous découpe le monde en segments et nous impose des formats réducteurs.
De proche en proche, c’est l’intégralité de notre existence qui sera bientôt touchée : nous ne lirons plus de journaux que rédigés par des robots-écrivains, nous ne recevrons plus d’affection réelle que de robots issus de l’informatique émotionnelle et nous découvrirons que les délices de la cybersexualité valaient bien les investissements de la recherche technologique dans l’Intelligence artificielle. Bref, nous serons enfin débarrassés de nous-mêmes !
L’intelligence non biologique annoncée par Ray Kurzweil en 2045 consacrera notre défaite…
