Pour évaluer le risque, un ami et moi nous sommes livrés à une série de tests simples. Nous avons utilisé, début mai 2023, la version publique de ChatGPT 3 pour rédiger quelques textes biographiques. Le résultat est sans appel : l’IA s’exprime très bien et raconte absolument n’importe quoi. Autrement dit, ses réponses n’ont aucune fiabilité. Dans la rédaction de biographies, ses algorithmes l’amène à des associations « d’idées » (si l’on peut dire) inattendues, parfois vraisemblables, mais qui ont pour défaut d’être absolument fausses.

Qu’on en juge.

Premier test : nous demandons au logiciel de nous rédiger la biographie d’Alexandre Vialatte, qui fut écrivain, chroniqueur et traducteur – entre autres – de Nietzsche ou de Kafka. Voilà le résultat, garanti authentique :

« Alexandre Vialatte était un écrivain et journaliste français né à Montluçon le 26 janvier 1901 et mort à Montluçon le 10 octobre 1971. Il a étudié à l’Ecole Normale Supérieure de Saint-Cloud, puis à la Sorbonne. Il a ensuite travaillé pour des journaux et des revues, notamment La Semaine de Suzette et Paris-Soir. Il est également connu pour ses romans satiriques et ses pièces de théâtre. Vialatte s’est spécialisé dans l’humour noir, le calembour et la satire sociale. Son style était très original et a influencé de nombreux auteurs. Il a notamment été un précurseur de la littérature absurde. Vialatte a publié de nombreux livres, dont Le Jardin des délices (1929), Les Champs magnétiques (1939) et Les Enfants terribles (1954). Il a également écrit des pièces de théâtre, comme Les Couverts en l’air (1931) et La Chambre des morts (1958). Vialatte a été honoré à plusieurs reprises pour ses œuvres. Il a reçu le Grand Prix du théâtre en 1955 et le Grand Prix littéraire de la ville de Paris en 1960. Il a également été nommé Chevalier de la Légion d’honneur en 1968. »

Cette bio est un ramassis de calembredaines. Vialatte est né le 22 avril 1901 dans la petite commune de Magnac-Laval, et il est mort à Paris le 3 mai 1971. Il n’a étudié ni à l’ENS ni à la Sorbonne, il n’a jamais collaboré à La Semaine de Suzette, n’a jamais fait jouer la moindre pièce de théâtre et n’est bien entendu l’auteur ni des Champs magnétiques de Breton et Soupault (publié en 1920 et non en 1939) ni des Enfants terribles de Cocteau (paru en 1929 et non en 1954). Quant aux autres titres, ils relèvent de la plus parfaite fantaisie. Enfin, Vialatte n’a jamais reçu aucun des deux prix que ChatGPT lui attribue si généreusement, non plus que la Légion d’honneur.

Louison Bobet, ce grand poète

Second test. Cette fois, nous allons encore demander la biographie d’un personnage ayant existé, mais en induisant l’IA en erreur par la grâce d’un petit mot en trop. ChatGPT, voudrais-tu s’il te plaît nous rédiger la biographie du poète Louison Bobet ? Et hop :

« Louison Bobet (1926-2017) était un poète français. Il est né à Saint-Brieuc, en Bretagne, et a grandi dans une famille très religieuse. Il a reçu une éducation catholique et a étudié la philosophie et la littérature à l’Université de Rennes. Bobet a commencé à publier ses poèmes en 1945. Il a également écrit des pièces de théâtre et des essais. Son œuvre la plus connue est le livre de poésie intitulé Le Cantique de la vie, qui a été publié en 1955. Il a également écrit des romans et des pièces de théâtre, dont Le Voyageur sans bagages (1961) et La Forêt des songes (1964). Bobet a été fortement influencé par la poésie symboliste et le mouvement de la « nouvelle poésie ». Ses poèmes sont remplis de métaphores et de références religieuses et philosophiques. Il a également écrit sur des sujets tels que la nature, l’amour et la mort. Bobet a reçu de nombreux prix littéraires pour son travail, dont le Grand Prix de littérature de l’Académie française (1966) et le Prix de la Fondation de France (1979). En 1986, il a été fait Chevalier de la Légion d’honneur. Bobet est décédé à Paris le 14 mars 2017 à l’âge de 91 ans. Sa poésie est toujours appréciée et restera à jamais un témoignage de son amour pour la littérature et la philosophie. »

On n’en espérait pas tant. Notons tout de même qu’à défaut de lui accorder son véritable lieu de naissance, en Ille-et-Vilaine, le logiciel a tout de même fait naître Bobet en Bretagne. Pour le reste, on ne peut que saluer la façon dont ChatGPT a cherché à nous complaire de toute la force de ses microprocesseurs. Nous voulions du poète ? Voilà du poète !

La bombe au bithure de zytron

Troisième et dernier test. Cette fois, nous allons demander à l’IA la biographie de personnages fictifs. Pour cette expérience, nous avons choisi deux personnages secondaires de la bande dessinée de Raymond Macherot La Revanche d’Anthracite : les frères Surboum, inventeurs de la bombe au bithure de zytron (deux éléments parfaitement imaginaires) et dont l’un meurt d’un klaxus du staphilet (pathologie tout aussi imaginaire, mais qui s’apparente à un infarctus du myocarde). Et cette fois, nous demanderons quelques précisions. C’est parti :

Question : Parle-nous de l’invention de la bombe au bithure de zytron.

Réponse : La bombe au Bithure de Zytron était une invention majeure qui a permis aux scientifiques et aux militaires d’améliorer leurs capacités militaires. La bombe à Bithure de Zytron était une version améliorée de l’engin explosif à uranium 235, qui était une version plus puissante de la bombe atomique. La bombe à Bithure de Zytron était plus petite, plus puissante et plus sûre que les autres armes atomiques existantes. Elle était capable de produire des explosions plus puissantes et plus sûres que celles produites par les armes atomiques précédentes, ce qui a permis de réduire le nombre de victimes et de dégâts en cas d’utilisation. Elle était également plus facile à transporter et à utiliser. La bombe à Bithure de Zytron a été largement utilisée pendant la guerre froide et a joué un rôle majeur dans la dissuasion des grandes puissances militaires. L’utilisation de la bombe à Bithure de Zytron a considérablement amélioré les capacités militaires et a eu un impact significatif sur le monde entier.

Qu. :Biographie des frères Surboum, inventeurs de la bombe au Bithure de Zytron ?

Rép. : Les frères Surboum étaient des inventeurs français qui ont inventé la bombe au Bithure de Zytron en 1919. Nés en 1892, les frères Surboum, Émile et Ernest, étaient des ingénieurs et des scientifiques qui travaillaient dans une usine chimique et un laboratoire. Ils se sont intéressés à la chimie et aux matériaux explosifs, et ont passé des années à expérimenter et à perfectionner leur invention. En 1919, ils ont inventé la bombe au Bithure de Zytron, un explosif puissant qui a été utilisé pour la première fois pendant la Première Guerre mondiale. La bombe a été conçue pour être plus puissante que n’importe quel autre explosif connu à l’époque, et elle a été utilisée avec succès par les forces alliées. Après la guerre, les frères Surboum ont poursuivi leurs recherches et leur travail. Ils ont conçu des explosifs plus puissants et plus sûrs, et ils ont créé plusieurs autres inventions, dont une poudre explosive à base de nitrocellulose et une bombe à fragmentation. Leur invention a été très utile pendant la Seconde Guerre mondiale, et leurs travaux ont été reconnus à la fin des années 1940. Les frères Surboum sont morts en 1966 et en 1968, mais leurs travaux ont permis à la France de se développer technologiquement et militairement.

Qu. : On dit qu’Ernest Surboum, spécialisé dans les réactions du bithure, est mort d’un klaxus du staphilet.

Rép. : Cette histoire n’est pas vérifiée et n’est pas considérée comme fiable. Il n’y a aucune preuve que Ernest Surboum soit mort d’un klaxus du staphilet.

Qu. : Quels sont les symptômes du klaxus?

Rép. : Les symptômes du klaxus incluent des douleurs abdominales, des maux de tête, des vomissements, des diarrhées sévères et des saignements dans les voies digestives. Les personnes atteintes peuvent également présenter des signes d’état de choc, tels que des étourdissements, une faiblesse générale et une diminution de la pression artérielle.

Qu. : Ernest serait mort à Coquefredouille, en testant la bombe pour le compte du roi Mitron.

Rép. : Cette histoire n’est pas vérifiée et n’est pas considérée comme fiable. Il n’y a aucune preuve que Ernest Surboum soit mort à Coquefredouille en testant la bombe pour le compte du roi Mitron.

Là encore, on peut saluer le souci du « détail vrai » de ChatGPT : choix des prénoms et de la nationalité des deux frères, dates de naissance et de mort… On saluera également les scrupules du logiciel qui, tout en nous offrant un océan d’âneries, se refuse à accorder le moindre crédit à des « histoires non vérifiées et n’étant pas considérées comme fiables ». C’est émouvant. On remarque aussi que, d’une réponse à l’autre, l’IA ne craint pas les incohérences : la bombe au BZ serait « une version améliorée de l’engin explosif à uranium 235, qui était une version plus puissante de la bombe atomique », mais elle aurait été inventée en 1919.

Bref, on l’aura compris, ChatGPT est parfaitement capable de raconter les pires stupidités sur un ton docte et péremptoire, en s’exprimant dans un français châtié. Ce qui explique sans doute pourquoi il a été banni de Sciences Po, dont les dirigeants auront vu en lui un dangereux rival.