ChatGPT et autres LLM

[Jeuf]

Nouvelle vidéo de Mr. Phi, qui est quand même un de ceux qui parlent le mieux des LLM. Pas mal de trucs dont on a parlé, en particulier sur la notion de ce que "comprends" ChatGPT, est discuté.

https://www.youtube.com/watch?v=_XJsAQsT0Bo

Merci pour ce lien
j'ai découvert "la mise en abime" du jeu de la vie , voir une vidéo : https://www.thedudeminds.net/mise-en-abime/


Je me pose aussi la question de la compréhension. c'est quoi comprendre?
Par exemple, j'ai quelque connaissance sur la composition des atomes, ou la constituant de l'univers. Mais il n'y a pas d'application pratiques (surtout en évitant de regarder le ciel!Et les atomes sont trop petit). Est-ce que mon cerveau est une chambre chinoise en physique?

[tita]

Je me pose aussi la question de la compréhension. c'est quoi comprendre?

Une question pour le bac de philo?

En gros, c'est quelque chose de philosophico-neurologique. Et je pense sincèrement que ChatGPT fait quelque chose qui s'apparente à une partie de notre fonctionnement neurologique quand on manipule nous-même du langage (ou des données). Mais pas complètement non plus, il manque des trucs.

Je trouvais l'exemple du portable posé sur la table assez intéressant, et y'a plus ou moins l'idée qu'ils ont implémenté des algos de règles de physique simples (et d'autres algos) pour que ça puisse répondre correctement et que ça associe ces concepts à des mots. J'ai testé sous bing, et... Bon, ça a répondu faux mais ça restait ok.

Après, j'ai eu l'idée de remplacer le téléphone portable par un hippopotame dans la phrase. Et ça a pas du tout bronché sur l'idée qu'il était possible de mettre un hippopotame sur une table, ou qu'il était possible de pousser une table avec un hippopotame dessus. Ça a donné la même réponse qu'avec le téléphone portable.

[Jeuf]

Après, j'ai eu l'idée de remplacer le téléphone portable par un hippopotame dans la phrase. Et ça a pas du tout bronché sur l'idée qu'il était possible de mettre un hippopotame sur une table, ou qu'il était possible de pousser une table avec un hippopotame dessus. Ça a donné la même réponse qu'avec le téléphone portable.

Je viens de voir la suite de la vidéo et l'image de mouton ! j'ai bien ri.
plus sérieusement, il y a vraiment beaucoup d'informations, surtout si on veut prendre le temps de consulter les réf et les arrête sur image (je vois un peu par arrêt sur image) et j'admets ne pas prendre le temps de trop creuser... juste discuter de un peu ici.

oui, ce que montre cette vidéo, c'est Chat GPT sous un jour favorable, je suis impressionné par les propos produits.
C'est démoli par ton expérience l’hippopotame. d'ailleurs tu a posé la question avec un téléphone portable? Des fois, j'ai l'impression que chat gtp est truqué et répond bien avec ce youtubeur, mieux qu'avec moi . J'ai pas pensé à le tester sur les même question que monsieur phi

autre expérience que j'avais faite, j'ai demandé si j'aurai mal si un caillou de 500g me tombe sur la tête de 1 m de haut.
J'ai extrapolé avec un grain de sable de 0,1g, chatgGPT conseille quand même de voir un docteur "si j'ai des symptomes"

qu'es-ce qui pousse cet auteur à montrer ces si bonnes réponses?

[GillesH38]

le coup de l'hippopotame ça ne m'étonne pas du tout et c'est tout à fait logique par rapport à son fonctionnement. Il fonctionne par proximité formelle de testes, sans leur donner de signification. Le problème est que c'est tellement efficace que ça donne l'impression qu'il connait la signification de ce qu'il dit, et donc qu'il "pense". Mais à coté il fait des erreurs grossières de substitution qui prouvent qu'en fait il ne comprend pas du tout. Le coup de l'hippopotame est un exemple, la recette de spaghettis "farcis à la viande" (où il fait ouvrir en deux les spaghettis) en est un autre. Le problème est qu'on se laisse hypnotiser (y compris Mr Phi à mon avis) par les très nombreux cas où ça semble marcher et donner des bons résultats.

[energy_isere]

Du riz à l’eau de javel : ce ChatGPT déraille et recommande des recettes mortelles
11 août 2023
....................
Ne faites pas trop confiance à l’IA

Cette affaire illustre le plus gros problème des IA génératives. Comme Microsoft Bing, Google Bard ou ChatGPT, Savey Meal est susceptible de générer des réponses absurdes et irréalistes. En clair, l’IA se met parfois à dérailler et à faire preuve d’une créativité débridée. Dans ces moments-là, on dit que le chatbot « hallucine ». En clair, il génère des réponses qui imitent une partie des données de son corpus d’apprentissage, mais celles-ci restent déconnectées de la réalité. Les modèles de langage ne « réfléchissent » comme le ferait un cerveau humain. Ils appuient leurs réponses sur les données dont ils disposent en imaginant la suite de mots la plus logique. C’est pourquoi un chatbot ne se rend pas compte quand il raconte n’importe quoi ou propose des recettes absurdes à ses interlocuteurs.


Conscient des lacunes inhérentes à cette technologie, Pak ‘n’ Save met d’ailleurs en garde ses utilisateurs sur la page d’accueil du chatbot. Les recettes ne sont pas revues par un être humain, indique l’entreprise. Dès lors, elle ne peut pas garantir que les plats soient comestibles :

« nous ne faisons aucune déclaration quant à l’exactitude, la pertinence ou la fiabilité du contenu de la recette qui est généré, y compris que la taille des portions sera appropriée pour la consommation ou que toute recette sera un repas complet ou équilibré, ou propre à la consommation. Vous devez user de votre propre jugement avant de vous fier à ou de faire une recette produite par Savey Meal ».

https://www.01net.com/actualites/riz-ea ... e_vignette

[Jeuf]

La semaine dernière, j'ai utilisé pour la première fois chat GPT pour le travail. Je lui ai posé une question avec des mots, j'avais besoin d'une formule excel. Il a bien deviné que c'était la fonction nb.si.ens , et il m'a dit précisément comment remplir le champ.
Je savais que c'était cette fonction, mais j'ai beaucoup de mal à la manier, donc il a tout compris et m'a bien aidé. Contrairement au riz à l'eau de javel, je peux voir que c'est juste au résultat, et sans prendre de risque.

Cela est sans rapport avec le fait de dire que ce puisse être une entité qui pense.



Cependant, si la conscience est porté uniquement sur un support matériel et n'est qu'une affaire de puissance de calcul, je vois pas ce qui empêche à terme d'en créer une sur support numérique.

[GillesH38]

Oui pour les programmateurs ils sont assez contents . Mais justement là ce qu’on lui demande c’est des syntaxes formelles , il se fout du « sens » donné aux variables. Sinon la conscience ce n’est pas « juste une question de calcul » les humains ne sont pas très bon en calcul et les mammifères les plus proches encore moins, pourtant personne ne nie qu’ils ont une forme de conscience

[energy_isere]

Cependant, si la conscience est porté uniquement sur un support matériel et n'est qu'une affaire de puissance de calcul, je vois pas ce qui empêche à terme d'en créer une sur support numérique.

tu devrais être intéressé par cette vidéo de Monsieur Phi : Cette histoire va vous retourner le cerveau (encore) : le cerveau colossal , 16 mn https://www.youtube.com/@MonsieurPhi/videos

[energy_isere]

Quelqu'un à déjà essayé de générer avec chatGPT un mot croisé avec une liste de mots à y faire figurer ?

j' ai essayé avec un résultat très mauvais.

en relancant il me répond :

Les mots que vous avez fournis sont placés dans la grille sans cases noires pour les séparer. Si vous avez besoin d'une grille plus complexe avec des cases noires pour séparer les mots, je vous recommande d'utiliser un logiciel ou un générateur de mots croisés en ligne pour obtenir une représentation visuelle plus précise.

Quelqu'un connait un générateur en ligne gratuit ?

[GillesH38]

Il est très mauvais sur les lettres individuelles car il fonctionne avec des « tokens » qui sont des groupes de lettres signifiants . Par exemple aux dernières nouvelles il était incapable de sortir les initiales des mots d’un texte qu’il avait écrit (encore une illustration qu’il fonctionne très différemment d’une « conscience » car cette tâche ne présente bien sûr aucune difficulté particulière ) Je ne sais pas si il s’est amélioré j’ai un peu arrêté de jouer avec ..

[Jeudi]

Il est très mauvais sur les lettres individuelles car il fonctionne avec des « tokens » qui sont des groupes de lettres signifiants . Par exemple aux dernières nouvelles il était incapable de sortir les initiales des mots d’un texte qu’il avait écrit (encore une illustration qu’il fonctionne très différemment d’une « conscience » car cette tâche ne présente bien sûr aucune difficulté particulière ) Je ne sais pas si il s’est amélioré j’ai un peu arrêté de jouer avec ..

Tu pourrais fermer ta gueule deux minutes? Il y a probablement encore des gens qui croient que tu sais de quoi tu parles.

[GillesH38]

Il est très mauvais sur les lettres individuelles car il fonctionne avec des « tokens » qui sont des groupes de lettres signifiants . Par exemple aux dernières nouvelles il était incapable de sortir les initiales des mots d’un texte qu’il avait écrit (encore une illustration qu’il fonctionne très différemment d’une « conscience » car cette tâche ne présente bien sûr aucune difficulté particulière ) Je ne sais pas si il s’est amélioré j’ai un peu arrêté de jouer avec ..

Tu pourrais fermer ta gueule deux minutes? Il y a probablement encore des gens qui croient que tu sais de quoi tu parles.

à quoi ça te sert d'être grossier et insultant dis moi ? je ne fais que rapporter une expérience concrète que j'ai faite c'est tout. En plus chacun peut l'essayer, y compris toi :

User
qui es tu ?

ChatGPT
Je suis ChatGPT, un modèle de langage développé par OpenAI. Je suis conçu pour comprendre et générer du texte en fonction des informations que j'ai apprises au cours de mon entraînement. Comment puis-je vous aider aujourd'hui ?



User
Peux tu me donner la suite des initiales des mots de la phrase précédente ?

ChatGPT
Bien sûr ! Voici la suite des initiales des mots de la phrase précédente : "J S C G, u m d l d O."

c'est toujours comme ça : il démarre correctement, et ensuite il se perd.

Si il n'avait pas compris la question, pourquoi commence-t-il correctement ?

et si il l'a comprise, qu'est ce qui l'empêche de terminer ?

ça n'a aucun sens si tu imagines qu'il "comprend" ce qu'on lui demande et ce qu'il dit.

[Jeuf]

Cependant, si la conscience est porté uniquement sur un support matériel et n'est qu'une affaire de puissance de calcul, je vois pas ce qui empêche à terme d'en créer une sur support numérique.

tu devrais être intéressé par cette vidéo de Monsieur Phi : Cette histoire va vous retourner le cerveau (encore) : le cerveau colossal , 16 mn https://www.youtube.com/@MonsieurPhi/videos

J'avais juste vu une annonce de cette vidéo dans d'autres vidéos, j'avais imaginais ce qu'il racontait...alors , pas de surprise en la regardant, et je n'ai pas appris grand chose. Si ce n'est un processus pour aller progressivement d'un cerveau "normal" à un autre, remplacé.
Je pense qu'un "méga cerveau" pourrait déjà se réaliser avec des milliards de pc connectés à Internet, sans moyen matériels inaccessibles par rapport à ce qui existe déjà, mais il faudrait pour ça savoir comment les connecter comme pour un cerveau, et aussi doter le système de perceptions sensorielles.

[GillesH38]

il percevrait quoi le méga cerveau ?

déjà un vrai cerveau, avant de penser à des trucs intelligent, il gère les stimulis sensoriels d'un corps physique. C'est quoi le corps physique associé au "méga cerveau" et à quoi il s'occupe ? genre il pourrait avoir envie de faire pipi ?

[energy_isere]

ChatGPT vaincu ? Le grand rival d’OpenAI lance une IA plus rapide et moins chère
Anthropic lance la nouvelle version du rival de ChatGPT. Celle-ci se veut être une alternative moins chère à ChatGPT, mais non moins performante.

13 août 2023 lebigdata.fr

Est-ce le début du bras de fer entre Anthropic et OpenAI ? Rappelons que le premier a été fondé par des anciens du second. Ils ont ainsi à cœur de proposer un sérieux concurrent au très populaire ChatGPT de leur ancienne entreprise. Anthropic annonce son IA Claude Instant 1.2 qui est plus rapide, mais à un coût plus abordable.

La version 1.2 est ainsi une mise à jour de l’IA Claude Instant 1.1. Selon Anthropic, la nouvelle version du rival de ChatGPT intègre les points forts de Claude 2. Il s’agit de l’autre intelligence artificielle phare du concurrent d’OpenAI.

La mise à jour de Claude Instant montre des améliorations significatives dans des domaines comme les mathématiques, le codage, le raisonnement et la sécurité. Des tests internes ont clairement mis en évidence la supériorité de la nouvelle version. Dans un test de codage identique, Claude Instant 1.2 a obtenu un score de 58,7 % contre seulement 52,8 % pour la précédente version.

Une série de problèmes mathématiques a également servi à départager les deux modèles. l’ancien modèle est parvenu à un score de 80,9 %, tandis que la mise à jour a fait mieux avec une note de 86,7 %.

Le rival de ChatGPT moins sujet aux erreurs
Les réponses de la nouvelle version sont plus développées et mieux structurées, d’après Anthropic. Une meilleure disposition à se conformer aux instructions de formatage en serait l’explication. D’autre part, le modèle 1.2 améliore l’extraction des citations. Ses capacités multilingues ont bénéficié d’améliorations significatives.

Anthropic annonce également une mise à jour apportant davantage de fiabilité. Celle-ci est moins sujet aux hallucinations et plus résistante aux tentatives de jailbreak à en croire son concepteur.

Rappelons que dans le jargon de l’intelligence artificielle, “halluciner” signifie générer un texte incorrect ou absurde. Quant au “jailbreaking”, le terme fait référence aux manipulations pour contourner les paramètres du modèle de langage principal.
........................

https://www.lebigdata.fr/rival-chatgpt