ChatGPT : Révolution technologique ou illusion marketing

Depuis son lancement il y a deux mois ChatGPT fait le buzz au point que plus de 100 millions de personnes l’ont déjà utilisé en deux mois. Qu’y a t il sous cette déferlante d’écume mélangeant information, communication et influence qui font rêver ou fantasmer les uns et qui inquiètent ou terrorisent les autres avec une logorrhée qui ne fait pas la part de l’intelligence et de l’artifice. Pas facile !

ChatGPT : de quoi parle-t-on ?

C’est quoi ?

ChatGPT est agent conversationnel, développé par la société californienne OpenAI. C’est un puissant programme informatique statistique affiné par un apprentissage qui modélise l’enchaînement de suites de mots dans une langue naturelle. Cette Intelligence artificielle (IA) est aussi appelée « modèle de langage »

Ça fait quoi ?

Actuellement, le prototype de ChatGPT auquel le public a accès peut rendre différents services : réponse à une question ; classement ou extraction de données ; génération de code ; transformation de contenus  (résumé, correction, traduction d’un texte) ; mise en phrase de mots clés ; rédaction de courrier (mail, lettre); composition de poème, d’histoire pour enfant, de contenu pour de réseaux sociaux, de note de synthèse, de script de film ou de série télé.  

Comment ça marche ?

ChatGPT fonctionne avec la technologie de deep-learning « Transformer » qui convertit une séquence donnée d’éléments, comme les mots d’une phrase, en une autre séquence. Dans ChatGPT cette technologie est complétée par de l’apprentissage supervisé et de l’apprentissage par renforcement qui font appel à des formateurs humains pour améliorer les performances du logiciel.

GPT-3 a été entraîné sur 570 gigaoctets de textes issus d’encyclopédies, de livres, et surtout de publications sur Internet, d’articles Wikipédia, de messages publiés sur les réseaux sociaux et de transcriptions de vidéos postées sur le web jusqu’en 2021. Cela représente un corpus 300 000 milliards de mots qui sont traités au moyen de 175 milliards de paramètres. Cette masse d’information semble énorme, pourtant c’est 100 à 1000 fois fois moins que ce que brasse le moteur de Google : 130 000 milliards de pages internet indexées, 20 milliards de sites visitées chaque jour qui alimentent la réponse à 7 milliards de requêtes par jour, avec les informations les plus récentes.

Le fonctionnement d’un tel modèle de langage nécessite une puissance de calcul phénoménale et consomme beaucoup d’énergie électrique. Ainsi la puissance nécessaire pour un seul entraînement de GPT 3 serait supérieure à 4 GWH, soit la production d’une tranche de centrale nucléaire pendant quatre heures.

ChatGPT : Innovation de rupture ou coup de com’ ?

Les technologies sur lesquelles s’appuie ChatGPT n’ont rien d’innovant.

Les essais de traitement automatique du langage ont commencé dans les années 1950 et le premier agent conversationnel, appelé ELIZA a été mis au point en 1964. Les algorithmes de machine-learning ont vu le jour à la fin des années 1980 et les réseaux neuronaux sont utilisés pour la lecture de textes depuis les années 1990. Les applications grand public du traitement du langages apparaissent d’abord sous forme de correcteurs automatiques ou de traducteurs de texte, puis comme des assistants vocaux, tels que Siri, Cortana, Google Home ou encore Alexa et comme des interlocuteurs virtuels sur les les sites internets commerciaux.

Le procédé «Transformers» a été développé par Google qui l’a présenté en 2017. Depuis, il est devenu la référence pour de nombreux programmes linguistiques comme LaMDA de Google AI, StructBERT d’Alibaba, Open Pretrained Transformer de Meta…et le Generative Pre-trained Transformers (GPT) de la société OpenAI dont la troisième génération, GPT3, est utilisé pour la version actuelle de son agent conversationel ChatGPT. Enfin la technique d’apprentissage par renforcement utilisée par OpenAI a été mise au point par Deepmind une filiale de Google.

On notera aussi que d’ autres solutions telles que Chatsonic ou Simplified AI Writer sont capables de produire du texte en réponse à des questions. Par ailleurs d’autres types de contenus peuvent être générés par IA : des images et même des vidéos avec des requêtes en langage naturel, avec les créateurs d’image de Craiyon ou Midjourney ou avec Dall-E d’OpenAI.

En fait, le programme ChatGPT n’est pas une rupture technologique, mais une ingénierie nouvelle reposant sur l’assemblage de modèles existants qui ont été adaptés pour améliorer la fluidité et l’ergonomie d’une interface conversationnelle multitâches qui peut aussi bien générer du code informatique que d’écrire des poèmes en quelques minutes.

Une promotion remarquable et très efficace

S’il fallait parler de prouesse au sujet de ChatGBT c’est au sujet de la rapidité avec laquelle il est devenu la coqueluche de tous les médias : publications professionnelles, presse grand public, médias audio-visuels, réseaux sociaux etc., grâce à quelques communiqués de la société OpenAi et de Microsoft, son principal bailleur de fond, (aidés par Bill Gates qui a fait savoir urbi et orbi tout le bien qu’il pense de l’IA en général et de ChatGPT en particulier). Et là, c’est du jamais vu : dans les deux mois qui ont suivi la mise en service plus de 100 millions de personnes se sont connectées au programme; pour mémoire il avait fallu neuf mois à TikTok et deux ans et demi à Instagram pour atteindre ce score.

Une chose est sûre : on aura jamais autant parlé d’intelligence artificielle, sur ce qu’elle produit (plus ou moins bien) et ce qu’elle changera (ou pas) dans nos vies

Performances et faiblesses de ChatGPT

Comme cela été exposé plus haut cet nouvel agent conversationnel repose sur une gigantesque quantité de données qui mobilise plus de 100 milliards de paramètres et dont l’entraînement comprend de nombreuses interventions humaines ordonnées par OpenAI, complétées par le fine tuning de masse qu’ont permis les millions de requêtes d’utilisateurs curieux attirés par l’extra-ordinaire buzz médiatique orchestré lors de son lancement. Cela suffit il à en faire un modèle de langage efficace et fiable ? Pas sûr !

Performances à géométrie variable

La diversité des textes qu’il peut produire quasi instantanément (rédaction de discours, traductions, génération de code informatique…) autant que sa capacité à détecter la tâche qu’on lui demande d’accomplir séduisent. Le plus souvent la réponse à la question posée est correcte (à condition de se rapporter à des données antérieures à 2021) et elle elle toujours exprimée avec une syntaxe parfaite.

Cependant, l’examen détaillé/approfondi des textes produits par ce chatbot montre que le style est uniforme, les réponses (quand elles sont exactes) sont parfois évasives, et toujours politiquement correctes. De plus, lorsque que la question posée est imprécise ou loufoque la réponse est généralement absurde sauf quand ChatGPT avoue qu’il ne sait pas y répondre . Ces approximations, inventions et autres « hallucinations » résultent d’un processus de réponse statistique qui brasse, sans raisonnement ni émotion, des informations au sein d’un corpus mémorisé non exhaustif qui couvre un très large éventail de disciplines et de thématiques ce qui limite inévitablement sa « profondeur ».

Les plus sévères affirment que ChatGPT peut dire n’importe quoi, vrai ou faux, avec une grammaire et une orthographe impeccables et un ton assuré voire péremptoire qui conditionnent la perception de sa performance au point de bluffer l’utilisateur aux deux sens du terme : éblouir et tromper.

ChatGPT n’est pas intelligent

A la différence de l’intelligence artificielle régénérative, l’intelligence humaine n’est pas restreinte à la maîtrise de multiples systèmes mathématiques composés des calculs probabilistes complexes et, dans l’assemblage des mots, le langage humain véhicule aussi de l’émotion, des sous entendus, des nuances aussi spontanées qu’incalculables.

L’application linguistique ChatGPT est totalement dénuée d’intuition, de sensibilité, d’affect dont l’imprévisibilité échappe à la modélisation statistique. Cet agent conversationnel ne comprend pas : il détecte ; il n’invente pas une phrase ou un texte, il assemble des mots, sans convictions ni sentiment, selon les règles que ses programmeurs lui ont assigné. Bref, ChatGPT n’est pas intelligent car il est incapable de faire preuve discernement, de jugement, de bon sens.

Qu’est-ce-que ChatGPT va (peut être) changer ?

Des bancs du collège aux salles de rédactions en passant par les cabinets d’avocats, les agences de marketing et les sociétés d’informatique ce nouvel outil séduit par ce qu’il peut faire autant qu’il questionne sur ce (et ceux) qu’il pourrait remplacer.

Défi pour le monde de l’enseignement

Peu après le lancement de ChatGPT, à l’école comme à l’université, les enseignants ont constaté que son utilisation incite à la paresse dans l’apprentissage du langage, dans la collecte, l’analyse et la mémorisation d’informations, ainsi que dans le travail de mobilisation des connaissances et de leur synthèse pour répondre à une question ou résoudre un problème. La médiocrité et le manque d’originalité du travail réalisé avec cette béquille mentale a été rapidement repérée aussi.

La parade la plus rapide, mais peut être la plus simpliste, a consisté à en interdire l’utilisation comme cela a été décidé dans les écoles de NewYork, à Sciences Po-Paris etc. Cela n’évacue en rien le fait que tout apprentissage peut être facile pour certains et difficile pour d’autres : dans ces conditions former à l’usage de l’intelligence artificielle qui colonise les objets numériques des petits et des grands est un « must » pour en monter, sans préjugés, l’utilité, les failles et les limites. Alors, plutôt qu’un substitut utilisé par facilité, un programme comme ChatGPT peut devenir outil pédagogique nouveau qui permet de gagner du temps dans l’acquisition des connaissances et élargir l’accès au(x) savoir(s) au plus grand nombre d’élèves ou d’étudiants.

Quant aux abus de cette anti-sèche numérique, il peuvent être neutralisés par un contrôle es connaissances qui privilégie l’expression orale et une notation basés sur des critères relatifs à l’argumentation et à la réflexion.

Dans la vie professionnelle

La capacité de ChatGPT à répondre sur de nombreux sujets techniques, juridiques, artistiques, etc en fait elle un concurrent sérieux pour des ingénieurs, des avocats, des journalistes ? Les codes informatiques qu’il débite à la demande peuvent ils rivaliser avec le travail des informaticiens ? Aujourd’hui la réponse est non (et ce n’est pas pour demain).

Aussi gigantesque soit il, le corpus de données compilées en silos dans sa « mémoire » est limité par la diversité de ses sources dont beaucoup sont de qualité médiocre et peu fiables, d’une part, et qui sont peu interconnectées d’autre part. Quant au traitement algorithmique statistique, fût il entraîné avec des milliards de critères (qui ne sont pas tous cohérents entre eux) et renforcé par une supervision humaine aidée par les retours utilisateurs, il est (très) loin d’atteindre ce ce que permet la plasticité cérébrale chez l’homme.

Les outils d’IA ne remplaceront pas les emplois intellectuels. Malgré leur puissance quantitative ces modèles ne sont pas capables de saisir les subtilités informelles du contexte dans lequel leur est posée une question pour produire une réponse cohérente et nuancée. Dit autrement ils nécessitent une intervention significative de leur utilisateur autant pour produire un résultat juste et fiable que pour le vérifier. Les agents conversationnels comme ChatGPT sont conçus fournir des assemblages de mots ou des lignes de code informatique, mais ils n’ont pas les moyens de garantir la pertinence de leur production. Cela en fait donc des assistants … qui déchargent leurs utilisateurs : journalistes, copywriters, informaticiens etc., de tâches fastidieuses à faible valeur ajoutée. Autant de temps gagné pour se consacrer à des activités plus créatives et donc plus valorisantes que le processus statistique du programme est incapable d’exécuter !

Quant à ChatGPT soi-même, sa conception et son développement ont généré des emplois plus ou moins qualifiés. D’après Time Magazine l’entraînement du chatbot sur des textes « modérés » par l’homme a mobilisé des dizaines de milliers de travailleurs du clic au Kenya payés 2 dollars de l’heure (dans le meilleur des cas). Au cours des derniers mois, OpenAI a recruté 1000 collaborateurs contractuels : 60 % d’entre eux sont affectés à l’étiquetage des données et 40 % sont des développeurs chargés de perfectionner la fonctionnalité de codage de ChatGPT.

Derrière l’arbre ChatGPT… une jungle artificiellement intelligente

L’engouement pour ce nouveau robot conversationnel comme le matraquage médiatique qu’il provoque ne doivent pas éluder les enjeux qu’il dessine déjà sur le plan économique et juridique et dans le spectre des risques prévisibles de son détournement à des fins politiques ou délictueuses.

Un nouveau rapport de forces dans le cercle des géants du numériques

Si le lancement a attiré un grand nombre d’utilisateurs et une notoriété éclair, la persistance de l’intérêt de ce nouvel outil, déjà controversé, est encore hypothétique. Il est trop tôt pour mesurer la proportion des technophiles qui accepteront d’adopter durablement la version payante (20 dollars par mois), en revanche on sait déjà que ce ne sera pas la seul source de revenus qu’il va générer. En effet ce programme peut être associé ou combiné à d’autres produits ou services numériques payants ou apparemment gratuits quand il sont au mis au service de la publicité ciblée. Microsoft, principal financeur d’OpenAI, a déjà annoncé l’intégration de ChatGPT dans son moteur de recherche Bing, dans les programme de la suite bureautique Office, dans l’appli de visioconférence Teams…

Le marché de l’intelligence a rapidement réagi entre annonce de nouveautés et surenchère technologique comme en témoignent les récentes déclarations des GAFA aux Etats-Unis et des BATX en Chine. Apparemment les appétits s’aiguisent à la vue ce nouveau gros gâteau commercial généré par l’immixtion de l’IA dans des les usages numériques quotidiens qu’ils soient grand public ou professionnels.

De nombreuses questions juridiques

Bien qu’il soit présenté comme un assistant, ChatGPT n’est pas au dessus des lois ce qui suscite bien des interrogations, par exemple :

-Qui a la propriété intellectuelle d’un contenu généré par un chatbot ?

-Le contenu produit par un chatbot est il véritablement original dans la mesure où il utilise les textes d’autres auteurs (sans leur autorisation) ?

-Qui est responsable des effets d’une réponse incomplète ou inexacte utilisée dans une activité professionnelle ?

D’autres outils d’IA (générateurs d’image) font actuellement l’objet de procédures judiciaires aux États-Unis et il est probable que de tels procès touchent aussi ChatGPT ou/et d’autres générateurs de texte : il va y avoir du pain sur la planche des avocats et des juges en attendant l’indispensable encadrement légal et réglementaire de cette technologie nouvelle.

Des captations de données à tous les niveaux

OpenAI a alimenté ChatGPT avec plus de 300 milliards de mots tirés du web. Dans cette ensemble d’informations on trouve des billets de blog, des publications de réseaux sociaux y compris des avis laissés sur des sites de vente en ligne, des commentaires postés sur des comptes individuels… Ce stockage d’une masse considérable de données personnelles interpelle car les personnes qu’elles concernent ne peuvent pas en demander la modification ou la suppression faute de procédure d’accès proposée par OpenAI qui s’affranchit là des obligations du RGPD.

Par ailleurs, chaque fois qu’un utilisateur de cette IA lui pose une question ou lui demande d’accomplir une tâche, il lui fournit son adresse IP, ses caractéristiques de navigations etc. Il lui livre aussi moult données personnelles, des plus banales (commentaire d’une erreur du chatbot) aux plus sensibles (référence à une anecdote personnelle).

Des biais inquiétants

Il est de notoriété publique que même l’intelligence artificielle la plus élaborée a ses failles dues aux biais causés par l’hétérogénéité des données compilées ou/et par les insuffisances des traitements algorithmiques : la machine ne fait pas autre que ce ses concepteurs lui ont ordonné et/ou permis de faire.

Parmi les anomalies observées jusqu’à maintenant on trouve de nombreuses fake-news, des réponses influencés par la culture nord-américaine ou des informations reproduisant les éléments de langage du Département d’État US qui alertent sur de possibles dérives sournoises vers de l’hégémonie culturelle ou de la propagande.

Enfin, les petits malins qui formulent leur questions par la tangente peuvent obtenir des réponses contenant des propos agressifs, des méthode de fabrications d’explosifs etc.

De nouveaux cyber-risques

Parce que ChatGPT est capable lire, générer ou corriger du code informatique, il peut détecter (et exploiter) des failles de sécurité, produire des logiciels malveillants : vol de fichiers, génération de faux contenus (sous forme de e-book ou de formations en ligne par exemple). Il peut aussi rédiger de messages de cyber-arnaque par détection de mots-clés et même mener une cyberattaque.

Et après ?

Bien malin qui pourra prédire les performances futures de l’intelligence artificielle et ce que l’homme acceptera d’en faire car nous ne sommes qu’au début de son utilisation par tout un chacun. A la lumière de ce qui a été observé autrefois (imprimerie, mécanisation) ou dans un passé récent (robotisation, internet des objets, virtualisation du monde) il apparaît que ce qui adviendra à moyen et long terme dans le domaine de l’assistance numérique dépend autant de nous (consommateurs et aussi citoyens) que de la technologie elle même et du maelstrom de marchandisation qu’elle suscite.

Que le progrès des sciences et techniques améliorent la vie de l’homme : tant mieux, à condition que la technologie ne prenne pas sa place tant pour créer que pour décider.

Cet article a été republié le 20/02/23 sur le site “Educavox, les acteurs de l’école” https://www.educavox.fr/alaune/chatgpt-revolution-technologique-ou-illusion-marketing

Vous avez pu lire cet article et naviguer sur le site sans être incommodé par de la publicité, des textes sponsorisés ou du traçage commercial alors que la rédaction des publications de ce blog demande un important travail de documentation et le recours à de nombreuses sources d’informations qui ne sont pas gratuites. Pour soutenir cette politique et permettre au blog de progresser avec plus illustrations didactiques : images et schémas animé(e)s ou non, c’est ICI

18 thoughts on “ChatGPT : Révolution technologique ou illusion marketing”

  1. Rigueur d Analyse qui démontre que la fonction seule de disposer de quantité d Informations ne suffit pas à doter openGPT de pertinence ! Quant au libre arbitre comment le coder 😉 ?
    Merci

  2. Merci beaucoup pour ce post réellement très intéressant et qui répond à de nombreuses questions !

  3. C est bien une IA évolutives , et qui par ce fait a beaucoup d avenir et offrira de nombreuses possibilités au fur et à mesure de son évolution …

    EXEMPLE projet en cours et essais :

    Et notamment pour le Web 3 , dont nous sommes en cours de développement, sur des bases et formules d innovations et d apports totalement inédits dans le Web et protégées APP (protection des programmes), et plusieurs associés en collaboratif et partage de parts, projets ouverts à tous , associés fondateurs avant MVP, ainsi que des enseignes complémentaires (de la startup aux leaders parmi les plus réactives, et en faveur des droits internautes Web 3),
    Et après MVP, à tout inscrits internautes, qui seront pour la 1ere fois leurs propres patrons, et associés précurseurs, sur un projet de partage avec mentalités de partage, évolutif et participatif, à but lucratif, soit les nouvelles directions du Web 3 : Et donc aussi inviter des associés (étudiants à CEO),, partenaires et talents complémentaires à participer à l élaboration finale, avant MVP et regrouper les plus intuitifs, avant ou si , ces nouveaux systèmes deviennent très populaires, pouvant être aussi développés et répandus par les internautes plus seulement clients Web 2, mais aussi devenus propriétaires sociétaires, bénéficiaires et gestionnaires, juges et partis Web 3, sans a avoir eu à investir leurs propres ressources , et par la suite, qui n auront plus besoin d investir …

    Et donc justement le types d application et : « IA évolutives » :
    dont je vous donne mon avis et conseil, est tout à fait complémentaires, je pense que le « Web 3 » en trouvera aussi de nombreuses utilité.

    Et ce tout en mettant en avant nos propres innovations : Pour rappel les systèmes web 3 ou même les Blockchains ne sont pas encore totalement définis, et leurs spécificités uniques pas encore découvertes , et ce sont les innovations que nous sommes en train de lancer, et dont nous sommes aussi en train de réunir les bons associés, avec les bonnes mentalités, et affinités avec la pré innovations – ANCIEN EXEMPLE d ouverture d esprit et compréhension pré innovation :
    Par exemple pour FaceBook, comprendre que de mélanger ses propres publications avec celles de ses contacts, peut créer une story collectives pouvant amplifier sa popularité et dépasser les frontières …, ou idem, pour Windows créer un portail pour pouvoir utiliser les ordinateurs, puis le Web, sans avoir besoin de connaître de langage informatique, puis le répandre gratuitement et en étant complémentaires, en partenariat avec IBM qui avait déjà son réseau , mais a l époque moqué par les médias, ex. épisode 1995 television showdown , et incompréhension de Letterman … Mais au vu des résultats par la suite, engendra de nouveaux créatifs et surtout en leurs laissant la possibilité de développer leurs idées à leurs pleins potentiels (les autres pays préfère racheter, puis « remercier les créatifs », et expérience personnellement vécue … Ce qui explique que je me suis lancé seul pour ce projet, et trouver les bons associés, puis de partager avec eux, puis avec les futurs internautes Web 3 …) Etc

    Et donc nous sommes en train d élargir le cercle du Web, et pas seulement de creuser plus profond, que les autres , mais offrir d autres possibilités inédites, où ils pourront aussi creuser, avec les mêmes approches que la Californie et « créatifs CEO »,
    ou que du Plan Marshall (European Recovery Program), mais avec le Digital à la place de l Europe, et les internautes internationaux Web 3, à la place des USA : s enrichir en enrichissant les autres, tout en ralliant les intérêts, les bénéfices et talents de chacun

    ATTENTION :

    Seulement faire attention de ne pas indiquer des pré innovations, sur cette IA évolutive, car elle est très efficace et peut les retenir, puis les révéler à d autres, même si il y a pas encore de précédents …

    Et donc éviter de l utiliser pour l innovations : Car par exemple je l ai essayé, mais il n a reconnu que ce qui existe déjà, et donc je suis réassuré, car au vu de ce qu il a compris et a exposés :
    nous sommes en effet plusieurs années en avance, sur le Web 3 ou les Blockchains, et il ne m à présenté que les 1eres bases connue et déjà définies , alors que je commençais à indiquer les nouvelles formules (référencées APP, affinées de 2017 à 2022, donc innovations pas encore révélés)

    Mais aussi, j ai remarqué qu il commençait a mémoriser ces innovations pourtant sans encore de précédent pour comparaison, et donc qu il pourrait ressortir ces approches novatrices a d autres

    Donc , a n utiliser que pour des bases déjà établies et connues, à partir de là, nous pouvons faciliter les mises en formes … Mais je vous conseil d éviter les innovations

    1. Merci pour ce commentaire car je m’interrogeais justement à ce sujet dans le cas d’une innovation, d’une idée de nouveau service ou d’un process de design thinking, cela reste à ce jour un champ non couvert par ChatGPT : la créativité !

  4. Article très bien écrit et documenté.
    Il est vrai que ChatGPT est avant tout un formidable outil de com pour Microsoft et Google… dont Bard a quelque peu “déraillé” lors de sa présentation ! D’où une concurrence effrénée entre les Gafam pour maitriser de tels outils.
    J’ai personnellement essayé ChatGPT.. du positif et du négatif à vrai dire… ça ressemble à du “Wikipédia” en push… avec beaucoup d’erreurs et d’approximations 🙂 c’est encore loin d’être parfait ! Comme indiqué ” Malgré leur puissance quantitative ces modèles ne sont pas capables de saisir les subtilités informelles du contexte dans lequel leur est posée une question pour produire une réponse cohérente et nuancée.” et c’est heureux !
    Toutefois, les défis pour le futur sont réels pour des secteurs/métiers comme l’enseignement mais aussi l’information et je pense à l’intelligence économique… pour ce qui est de la collecte, de l’analyse de l’information et d’anticipation t… On peut imaginer demain des travaux de prospective avec de tels outils qui proposeront des scénarios. Faut-il le craindre ou le souhaiter ?… Encore une fois, c’est l’usage que l’on en fera… Un peu “effrayant” quand même !

  5. Merci pour le partage de cet article. Vous avez fait un travail utile pour replacer ChatGPT dans son contexte et envisager ses utilisations, avec leurs avantages et leurs inconvénients.

  6. Encore une fois un très bon tour d’horizon du sujet. J’ajoute pour avoir commence à m’y intéresser qu’il y en a des dizaines d’autres tout aussi productifs en matière de génération de contenu textuel. C’est juste qu’ils ne fonctionnent pas avec ce modèle conversationnel. Merci Xavier !

  7. Dans un monde de jeunes perdreaux de l’année, le modèle Pipotron qui nous amusait dans les bureaux des années 2000, maintenant doté d’un domaine adressable largement élargi (Large Language Model) est pris au sérieux, ça passe comme une lettre à la poste et l’on nous dit que la machine n’a pas de discernement. Bad news, l’humain n’en a plus non plus – http://www.lepipotron.com/

  8. Pourquoi tant insister sur la mauvaise qualité, l’inintelligence des réponses de ChatGPT par rapport au cerveau humain ? Comme vous, tous les jours, j’entends et je lis des propos humains qui n’ont ni bon sens, ni logique, ni empathie. Ou des propos carrément faux. Un exemple : un article (d’un philosophe…) publié il y a quelques jours dans Les Échos (oui, Les Échos…) affirmant que ChatGPT et autres générateurs semblables étaient nullissimes car ils ne citaient pas leurs sources ! Mais, outre le fait que certains générateurs le font déjà (YouChat) et que bientôt tous le feront (Bard, etc.), il suffit déjà, s’agissant de ChatGPT, de les lui demander !

    Tous les jours, j’entends des journalistes ou des experts déformer les faits et leur interprétation, faire de la propagande dans un sens ou dans l’autre, parler sans savoir, n’avoir nul souci de la vérité, etc. À tel point qu’il m’arrive de demander à ChatGPT de contrôler telle ou telle affirmation humaine !

    Pour ma part, je me sers de ChatGPT tous les jours. Je commence à savoir comment lui poser les questions pour obtenir des réponses utiles. Le piéger est un jeu sans intérêt ! C’est pour moi un assistant de valeur. Mais comme pour tout assistant, humain ou non, je vérifie si nécessaire les réponses…

    Il me paraît sûr que les prochains générateurs seront bien meilleurs encore. Mais ils ne seront hélas ! pas français. C’est un sérieux problème.

    Les blâmes extrêmes envers ChatGPT me font penser à ceux qui, nombreux en France vers 1994, ne voyaient aucun avenir commercial à Internet. Relisez le rapport Théry au Premier ministre de 1994 !

    1. Bravo pour votre commentaire bien plus nuancé que tant d’autres.
      Des erreurs factuelles polluent de nombreux livres, articles de presse sans que cela émeuve grand monde…
      Trop d’articles sur chatGPT développent à la va-vite une thèse (avec des erreurs, notamment en ce qui concerne les sources soit disant absentes ou introuvables) sans souci de vérité scientifique.

  9. ChatGPT donne des réponses à des questions sans déclarer la source de l’information. Comment peut-on en faire confiance?

  10. Interessant. Savoir n’exige pas de discernement, connaître la verité, si. Ici nous avons a faire avec un outil du savoir.

  11. Bonjour,
    Merci pour cet article.
    Un argument clé est développé en début : la puissance électrique consommée. Cette information est-elle sourcée ? Certaine ? Au doigt mouillé ? Ce serait intéressant de creuser, non ?
    Et puis une réflexion perso : on s’est déjà fait avoir avec une mauvaise traduction en utilisant « ami » pour FB au lieu de « contact ». Pourrait-on éviter de recommencer en évitant de continuer à parler «d’intelligence » pour un truc qui ne l’est pas ! … je sais pas on pourrait dire « raisonnement assisté par ordinateur, RAO » ou «  Système d’Assistance à l’Intelligence Humaine, AIH » . On pourrait d’ailleurs lancer une consultation citoyenne pour le remplacement de ces quelques mots qui nous pourrissent le raisonnement ? Qu’en pensez-vous ?

  12. Bonjour
    Encore un énième outil de “conversation” qui va encore nous éloigner de l’autre
    Du vrai dialogue face à face

    Plus ils y a d’outils de communication moins on communique humainement
    C’est ce qui fait qu’il y a de plus en plus de personnes seules.

    En plus on est entrain de tuer la langue Française par des contractions de mots
    Bjr, Mdr, Tkp.
    C’est horrible, une si belle langue.

    Dans la lignée de ce Chatgpt
    Je vous conseille de regarder le film Her
    C’est ce vers quoi on arrive doucement mais sûrement…

    Conclusion
    Ce n’est ni une révolution technologique
    Ni une révolution technologique

  13. Vous citez “les réseaux neuronaux sont utilisés pour la lecture de texte depuis les années 1990”. Chat GPT, est-ce véritablement de l’IA (donc, pour moi, avec une capacité d’apprentissage, à l’aide de réseaux neuronaux bayésiens), ou une immense base de données avec des algorithmes et des méthodes statistiques ? De nombreux commentateurs font référence à Deep Blue, qui a battu Kasparov en 1997. C’était un ordinateur massivement parallèle capable d’évaluer jusqu’à 200 millions positions possibles par seconde grâce à sa base de données constituée de toutes les parties d’échecs du XXe siècle, y compris celles de Kasparov. Ma mémoire me dit qu’à l’époque, IBM avait misé sur la puissance brute, après avoir en vain cherché à battre l’homme avec de l’IA. Ma mémoire me joue peut-être des tours, mais je vous invite à lire un article de l’époque publié par Libération: https://www.liberation.fr/evenement/1997/05/13/les-secrets-d-une-machine-surpuissante-l-ordinateur-deep-blue-joue-aux-echecs-avec-une-memoire-alime_205645/

Leave a Reply

Your email address will not be published. Required fields are marked *