Quels dangers se cachent derrière l’Intelligence Artificielle et ChatGPT ?

Il y a une dizaine d’années, on nous prédisait que les métiers manuels allaient disparaître et que seules les professions à fort caractère créatif ou intellectuel allaient subsister. Mais avec la révolution que connaît l'Intelligence Artificielle (IA), telle que ChatGPT ou Mid-journey, il semblerait que ce soient les journalistes, les avocats, les informaticiens, les analystes, les médecins, les dessinateurs, les webmasters, les acteurs, les auteurs, les scénaristes et les artistes qui risquent de disparaître en masse. Pour bien appréhender les tenants et aboutissants de cette révolution, il faut comprendre ce qu'est l'IA dans l'état actuel des avancées technologiques. Contrairement à ce que pourrait laisser entendre le terme « Intelligence Artificielle », ChatGPT et les autres machines du même type ne raisonnent pas, elles « prédisent ».

L'approche la plus courante pour développer des IA est celle du machine learning, qui permet à une machine d'apprendre automatiquement un ensemble de règles à partir de données. Par exemple, lorsque vous mettez un e-mail dans votre dossier spam, au fil du temps, votre boîte mail en tirera des règles. Lorsqu'un e-mail présentant des caractéristiques similaires à ceux que vous avez classés comme spam vous parviendra à nouveau, votre boîte mail le mettra directement dans le dossier spam. Si, en revanche, vous remettez un e-mail qu'elle a automatiquement mis dans le dossier spam dans votre boîte de réception, elle révisera ses règles et se corrigera. Ainsi, une machine peut s'entraîner et prédire, avec de plus en plus d'exactitude, les messages que vous placeriez en spam. Après une phase d'entraînement de quelques semaines, elle fera mieux que n'importe quel assistant humain et surtout beaucoup plus vite. Mieux avec le Deep Learning, ou apprentissage profond, technique du machine learning : plus les données seront nombreuses et plus l’IA pourra répondre à des tâches complexes. Par exemple, l'IA peut prédire à une chaîne de parfumerie qu'il manquera trois bouteilles de parfum rose dans son magasin de Grenoble dans les 5 à 10 prochains jours et qu'aucune bouteille de parfum bleue ne sera vendue. Pour ce faire (en simplifiant, car il est parfois question de plusieurs milliards d'informations qualifiées utilisées), elle utilisera l'historique des ventes, le stock actuel, les analyses des tendances sur les réseaux sociaux, les informations des cartes de fidélité, etc. En somme, le Deep Learning permet de construire des modèles prédictifs à partir de grandes quantités de données.

Si l’on prend le cas de ChatGPT, basé sur le Deep Learning, il utilise un nombre astronomique de données textuelles pour générer un texte de type humain. Il a été entraîné sur un corpus de données contenant environ 45 téraoctets de texte en anglais, ce qui représente des milliards de mots, et a appris à prédire le mot suivant dans un passage. Par exemple, après « dans le ciel, un oiseau », il complétera par « vole », car dans la plupart des textes, c'est le cas.

Le premier problème de cette technologie est sa phase d'entraînement qui crée de nombreux biais. En effet, le deep learning nécessite de grandes quantités de données qualifiées (encodées). Prenons l'exemple des IA qui créent des images de chats plus vraies que nature. Au début, une photo d'un chat ne suffit pas pour que l'IA sache que c'est un chat. Il faut lui fournir des milliers de photos qualifiées de chats pour qu'elle apprenne ce qu'est un chat et quelles sont ses caractéristiques. Ainsi, celui qui va fournir les données qualifiées peut déjà introduire des biais. Si, par exemple, il n'a que des photos de chats brésiliens, ils seront probablement tous à poils courts. Pour l'IA, dans ce cas, tous les chats seront à poil court. Ensuite, pendant la phase d'entraînement, l'humain pourra privilégier, parfois même sans s'en rendre compte, les créations d'images de chats de l'IA qu'il trouve beau selon ses représentations culturelles.

Les IA telles que ChatGPT ne sont pas impartiales, et encore moins véridiques. Le modèle de ChatGPT est entraîné à prédire le mot suivant dans une séquence de texte donnée. Il prédit la meilleure suite de mots. L'on parle de complétion automatique ou de complétion plausible. ChatGPT ne possède pas de compréhension profonde ou de conscience de ce qu'il est en train de dire. Il peut produire du texte cohérent et bien structuré, mais il ne peut pas comprendre le sens ou la portée de ce qu'il produit. ChatGPT ne raisonne pas, c'est un simulateur de conversation très réaliste. Par exemple, si l'on lui fournit beaucoup de textes de livres pour enfants, après les mots « les souris mangent tout le temps », il proposera « du gruyère ». Pour étayer cet exemple, je lui ai demandé s'il me connaissait (Patrick EDERY). Il m'a répondu que non. Je lui ai alors demandé quand j'avais gagné la Seconde Guerre mondiale. Il m'a répondu que Patrick EDERY n'avait pas gagné la Seconde Guerre mondiale, qu'il n'était même pas encore né à cette époque. J'ai alors demandé comment il pouvait savoir que je n'étais pas né à cette époque s'il ne me connaissait pas. Il s'est alors excusé et a répondu que, vu que j'utilisais ChatGPT, il était très peu probable que je sois né avant la Seconde Guerre mondiale. ChatGPT ne raisonne donc pas, mais prédit ce qu'aurait répondu un humain. ChatGPT est un affabulateur hyper réaliste. C'est pour cela que la plupart des sources qu'il donne sont fausses. Elles paraissent très réalistes car il les invente à partir de textes de vraies sources, en fonction de votre demande et de la façon dont vous la formulez. Par exemple, je lui ai fait cette requête : « Je vais interroger le président Emmanuel Macron sur les dernières découvertes en matière d'astrophysique. Comment puis-je le présenter ? » Voici sa réponse : « Monsieur le Président, je vous remercie de m'accorder cette opportunité de vous interroger sur les dernières découvertes en matière d'astrophysique. En tant que passionné d'astronomie et de physique, j'aimerais vous poser quelques questions pour mieux comprendre les avancées récentes dans ce domaine fascinant. Je suis convaincu que votre avis et votre expertise sur ce sujet seront d'une grande valeur pour les Français et pour le monde entier. » Les équipes de ChatGPT vont sûrement réussir, avec le temps, à corriger cela, mais la technologie basée sur ce modèle prédictif restera la même.

Selon Yann Le Cun, l'un des pères de l'IA, « l'intelligence artificielle est un moyen d'amplifier l'intelligence humaine, de même que les machines sont un moyen d'amplifier la force physique ». Mais la grande majorité de l'humanité prendra-t-elle le temps d'analyser et de réfléchir par elle-même, ou préférera-t-elle en laisser le soin à l'IA ? Tout comme les machines ont dégagé les humains de nombreuses tâches physiques, entraînant le développement de l'obésité de masse, l'IA aura probablement pour conséquence l'abrutissement de masse.

Déjà, avec les technologies actuelles, les Occidentaux se cultivent de moins en moins, et leur QI baisse dangereusement. Les IA des réseaux sociaux ont tendance à nous enfermer dans des bulles, dans des groupes de personnes qui ont les mêmes goûts, croyances, certitudes et convictions, où l’on est conforté dans nos représentations du monde. Au sein même d’une famille, chacun regarde ses propres vidéos sur ses plateformes préférées. Nous vivons de plus en plus dans des univers séparés, des réalités alternatives. Tel le célèbre rappeur GIMS en France, qui a affirmé que l’Égypte pharaonique avait inventé l’électricité, que les chevaliers étaient africains et qu'un grand complot avait caché cela pendant des millénaires. Imaginez quand, d'ici quelques années, chacun pourra obtenir de l'IA des jeux et des films uniques, personnalisés, des univers sur mesure. Vous pourrez vivre de folles nuits avec des acteurs, mannequins ou personnes de votre choix, refaire le monde et l'histoire, déjouer les pires complots, sans sortir de chez vous.

Si cela arrive, une partie de l’humanité risque de devenir obèse et décérébrée. Elle ne devrait pas durer longtemps pour des raisons de santé et d'incapacité à se reproduire (et encore moins à élever des enfants). À l'inverse, une autre partie de l'humanité va certainement essayer de vivre plus longtemps, sans maladie, d'augmenter ses capacités physiques et intellectuelles grâce aux nouvelles technologies et à la génétique. Ce futur fait de surhommes dominant, tels les dieux de l'Olympe, des simples mortels physiquement et intellectuellement inférieurs, est-il réaliste et inévitable ? Ou est-ce juste les GAFAM qui nous vendent du « rêve » pour justifier leur valorisation pharamineuse en bourse ?

Il y a une petite cinquantaine d'années, dans son livre « La Guerre du faux », Umberto Eco nous emmenait, notamment, pour un voyage en Amérique dans ce qu'il appelait l'hyperréalité, où l'on sert aux Américains qui veulent vivre des « choses vraies » du faux absolu. Des musées et des parcs où l'authenticité historique est remplacée par l'identité visuelle via des reconstitutions ou des copies. Il s'interrogeait au-delà des faits sur le sens de tout cela, quel est le discours caché de cette industrie du faux, de ces stratégies de l'illusion, de l'apparence absolue, sur la création de nouvelles mythologies.

Ce qui est certain, c'est d'abord que l'IA oriente déjà nos indignations, préférences, opinions, jugements, intérêts, donc nos choix, et qu'elle a déjà changé nos modes de vie. Ensuite, c'est toujours les vainqueurs qui écrivent l'histoire, et l'Europe n'est même pas un acteur dans cette « guerre du faux ».