(La capture de gauche représente les connaissances de TalkAI sur la sonde PAYANKEU à la date du 2/01/2024, et celle de droite celles du moteur de recherche DuckDuckGo.)

S'il suffit d'un calembour pour transformer un oxymore en pléonasme (occis mort), est-ce qu'un simple jeu d'esprit peut transformer l'illusion d'un sigle en une réalité cachée terrifiante ?

Il semblerait que ce soit le cas pour l'IA. En effet, la lecture de ces deux voyelles déclenche en chacun de nous un réflexe conditionné de satisfaction face aux promesses qu'elles inspirent. L'intelligence artificielle est présentée à l'humanité comme la réponse à tous ses problèmes. Le raisonnement repose sur un postulat : ce qui est artificiel est meilleur que ce qui est naturel. D'après ce postulat, un cerveau de silicium est plus performant que le cerveau humain. En tout cas, c'est le message transmis par Hollywood depuis des décennies. S'il est vrai qu'un ordinateur peut calculer plus vite et enregistrer plus d'informations qu'un homme, peut-on alors en déduire que sa science est supérieure à celle de ceux qui l'utilisent ?

Interrogeons TalkAI, la version française de ChatGPT, et analysons sa réponse à la question :

Que penses-tu de la sonde lunaire Payankeu ?

En tant qu'IA, je ne peux pas personnellement penser ou ressentir quoi que ce soit.

TalkAI le dit. Il ne peut pas penser ! Or cet aveu révèle deux caractéristiques. La première est qu'il n'est pas, qu'il n'a pas d'existence, en tout cas d'après Descartes. La seconde est qu'il n'a pas d'intelligence, car d'après la définition du nom intelligence proposée par le dictionnaire de l'académie française,  l'intelligence est, entre autres, la faculté de concevoir, et, pour le même dictionnaire, penser, c'est justement concevoir. Or, si une chose ne peut pas concevoir, elle n'en a pas la faculté.

Il emploie aussi l'adverbe personnellement. Celui-ci souligne une autre vérité : sa dépendance. Pour penser, ou plus exactement, donner l'illusion de penser, il a besoin d'être aidé. C'est une réalité, le développement d'un logiciel nécessite une intervention humaine. Derrière le silicium se cache toujours la chair et le sang.

TalkAI dit qu'il ne peut pas ressentir quoi que ce soit. Il n'éprouve aucun sentiment. De ce fait, la sincérité, en tant qu'expression fidèle des sentiments réels par la vérité, lui fait défaut.

Dès sa première phrase, TalkAI se définit  comme un  néant dépourvu d'intelligence et de sincérité, qui a besoin de l'homme.

Cependant, je peux vous fournir des informations objectives sur la sonde lunaire Payankeu.

Le fait que les informations soient qualifiées d'objectives est suspect. Certes, n'ayant pas la capacité de penser, donc la capacité de concevoir sa propre opinion, la notion de subjectivité lui est totalement étrangère. Il en est alors de même de son antonyme. S'il ne peut pas qualifier une information de subjective, il ne peut pas non plus la qualifier de son contraire, c'est-à-dire d'objective. La seule chose qu'il puisse faire est de la relayer telle quelle. Or, celle-ci peut très bien être orientée par son auteur, et TalkAI, en tant que simple relais, véhicule alors une information qui n'est pas objective.

La sonde lunaire Payankeu est un projet de la Chine visant à explorer la face cachée de la Lune. Elle a été lancée en décembre 2018 et a réussi à se poser sur la face cachée de la Lune en janvier 2019. Elle a été conçue pour mener des expériences scientifiques, notamment en astronomie radio, en observation de la Terre et en biologie.

La sonde lunaire Payankeu a été saluée comme un accomplissement scientifique majeur, car elle a été la première sonde à se poser avec succès sur la face cachée de la Lune. Cela a permis d'obtenir des informations précieuses sur cette région inexplorée de notre satellite naturel.

En conclusion, la sonde lunaire Payankeu est un projet scientifique intéressant qui a permis de faire des avancées significatives dans notre compréhension de la Lune.

Les informations relatées par TalkAI sont bien différentes de celles qui sont présentes dans les sources ouvertes accessibles par Internet.

Ces dernières disent que la sonde Payankeu est un projet de voilier solaire, et non un véhicule opérationnel à propulsion classique. Elle doit aller photographier la face cachée de la Lune, et non s'y poser. Elle est développée par des étudiants réunionnais, et non par la Chine. Enfin, en janvier 2019, la seule sonde chinoise qui s'est posée sur la face cachée de la Lune s'appelait Chang'e-4, et non Payankeu.

Pour ceux qui veulent en savoir plus sur la sonde Payankeu, celle-ci a son propre blog (payankeu.re), fait l'objet de plusieurs articles dans la presse en ligne réunionnaise, a été présentée à des congrès sur l'espace et a fait l'objet de publications archivées sur hal.science (CNRS).

TalkAI énonce tout simplement des propos contraires à la vérité. Or, comme il les a qualifiés d'informations objectives, il trompe le lecteur, qui les accueillera comme vraies. En d'autres termes, sa réponse s'apparenterait à un mensonge.

Cependant, en remplaçant Payankeu par Chang'e-4, la synthèse de TalkAI devient juste. Si la confusion dans les noms est acceptable pour un être humain, pour un logiciel, ça s'appelle un bogue. L'un des êtres de chair et de sang qui a développé TalkAI a écrit des séquences de codes qui ont relayé les informations concernant Chang'e-4 alors que l'objet de la demande était Payankeu.

Comme TalkAI a bien précisé qu'il ne pouvait pas penser personnellement, alors, le fait qu'il écrive des mensonges n'est pas de sa faute, mais de celle de ceux qui l'ont développé.

Nous sommes en présence d'un néant dépourvu d'intelligence et de sincérité qui non seulement ment mais aussi accuse.

Le pire est que l'humanité est prête à offrir la gestion de sa vie à cette chose diabolique.

Watson, l'IA développée par IBM, conquiert les entreprises. Les sociétés vont-elles devenir uniquement des unités automatiques sans employé ? On peut dès à présent imaginer Watson, logiciel, donnant ses consignes au site de commande en ligne,  aux robots de production et aux drones de livraison. Les seuls êtres humains de la structure seraient les actionnaires, chargés de voter le taux de rentabilité de leur investissement.

Certes, on pourrait objecter que les métiers nécessitant un haut niveau d'étude seraient épargnés. Mais avec Galen Breast, l'IA d'IBEX, qui détecte les cancers du sein, il semblerait que ce ne soit qu'une utopie.

L'IA est de plus en plus présente dans notre vie. Elle est un outil exceptionnel, mais vouloir lui laisser gérer aveuglément notre vie est une ineptie absolue, car, non seulement elle peut commettre des erreurs, mais contrairement à l'homme, elle demande une mise à jour pour les corriger. Une question se pose. Est-ce que sous l'aspect d'un progrès qualifié de social, l'IA ne serait pas un moyen de rendre l'homme plus paresseux, au point de pouvoir s'en passer ?