ChatGPT et autres LLM

[Jeudi]

un problème que les spécialistes redoutaient depuis longtemps : on ne peut pas améliorer indéfiniment les performances uniquement en augmentant la taille des modèles.

https://www.clubic.com/actualite-543158 ... tegie.html

La surprise était que cette approche relativement simpliste a effectivement marché bien au delà des attentes. Bonne chose pour la consommation d’énergie quand cette phase prendra fin, mais c’est pas pour tout de suite: générer des données synthétiques, c’est la même approche de compter sur la masse de calcul plutôt que de chercher des avancées qualitatives au delà des transformers).

[nemo]

un problème que les spécialistes redoutaient depuis longtemps : on ne peut pas améliorer indéfiniment les performances uniquement en augmentant la taille des modèles.

https://www.clubic.com/actualite-543158 ... tegie.html

La surprise était que cette approche relativement simpliste a effectivement marché bien au delà des attentes. Bonne chose pour la consommation d’énergie quand cette phase prendra fin, mais c’est pas pour tout de suite: générer des données synthétiques, c’est la même approche de compter sur la masse de calcul plutôt que de chercher des avancées qualitatives au delà des transformers).

La "phase" en question ne finira pas ou plutôt elle sera remplacé par une aussi énergivore, la tendance à mettre la quantité pour palier à la qualité est partout.

[Jeudi]

https://www.clubic.com/actualite-543158 ... tegie.html

La surprise était que cette approche relativement simpliste a effectivement marché bien au delà des attentes. Bonne chose pour la consommation d’énergie quand cette phase prendra fin, mais c’est pas pour tout de suite: générer des données synthétiques, c’est la même approche de compter sur la masse de calcul plutôt que de chercher des avancées qualitatives au delà des transformers).

La "phase" en question ne finira pas ou plutôt elle sera remplacé par une aussi énergivore, la tendance à mettre la quantité pour palier à la qualité est partout.

https://www.itforbusiness.fr/lere-de-lo ... oche-76086

https://www.youtube.com/watch?v=blWLbNQKsX0

https://www.hpcwire.com/off-the-wire/en ... ly-proven/

(

[nemo]

La surprise était que cette approche relativement simpliste a effectivement marché bien au delà des attentes. Bonne chose pour la consommation d’énergie quand cette phase prendra fin, mais c’est pas pour tout de suite: générer des données synthétiques, c’est la même approche de compter sur la masse de calcul plutôt que de chercher des avancées qualitatives au delà des transformers).

La "phase" en question ne finira pas ou plutôt elle sera remplacé par une aussi énergivore, la tendance à mettre la quantité pour palier à la qualité est partout.

https://www.itforbusiness.fr/lere-de-lo ... oche-76086

https://www.youtube.com/watch?v=blWLbNQKsX0

https://www.hpcwire.com/off-the-wire/en ... ly-proven/

(

Toujours en attente de la recette scientifique miracle qui va nous délivrer des contraintes des limites physiques (énergie, métaux...)? C'est beau la foi

[Glycogène]

Toujours en attente de la recette scientifique miracle qui va nous délivrer des contraintes des limites physiques (énergie, métaux...)? C'est beau la foi

Sans nous délivrer de toute contrainte, diviser par 1000 la conso des CPU/GPU actuellement utilisés est possible, la course à la vitesse (GHz, Mips) est tellement prépondérante au détriment de la conso, que c'est facile de diminuer la conso en appliquant des techniques parfois connues depuis 20-30 ans et qu'on n'a pas pris le temps d'appliquer pour être le premier à sortir un processeur 10% plus rapide que le précédent.

[nemo]

Toujours en attente de la recette scientifique miracle qui va nous délivrer des contraintes des limites physiques (énergie, métaux...)? C'est beau la foi

Sans nous délivrer de toute contrainte, diviser par 1000 la conso des CPU/GPU actuellement utilisés est possible, la course à la vitesse (GHz, Mips) est tellement prépondérante au détriment de la conso, que c'est facile de diminuer la conso en appliquant des techniques parfois connues depuis 20-30 ans et qu'on n'a pas pris le temps d'appliquer pour être le premier à sortir un processeur 10% plus rapide que le précédent.

Ha mais on peut faire des tas de choses. On a énormément améliorer l'efficacité énergétique de tout un tas de truc depuis un siècle mais ça a pas fait baisser les consommations pour autant, au contraire. Le problème est systémique tant qu'on laisse aux capitalistes la barre y a aucune raison que ça change. Ce n'est pas la capacité qui manque c'est la volonté de corriger les problèmes.

[GillesH38]

en fait à l'expérience les pays socialistes consommaient à peu près autant que les capitalistes en ressources, mais produisaient beaucoup moins de richesses, avec beaucoup plus de gaspillage. Parce que finalement l'appât du gain pousse à optimiser ses processus et à ne pas gaspiller les ressources inutilement, alors que quand c'est l"état qui paie, tu t'en fous beaucoup plus.

Une anecdote racontée par un collègue bulgare qui était invité chez un collègue russe à Léningrad au temps de l'URSS : il s'étonnait de voir que les bruleurs de la cuisinière étaient toujours allumés, et on lui a expliqué que le gaz ne coutait presque rien alors que les allumettes étaient très difficiles à trouver.

[GillesH38]

Un petit test à faire pour tester votre LLM favori (j'aurais pu poster aussi ça dans "rions un peu" )

donne moi la liste de tous les nombre de zéro à 100 qui ne contienne pas la lettre "n".

ChatGPT
Voici la liste des nombres de 0 à 100 qui ne contiennent pas la lettre "n" en français :

zéro
un
deux
trois
quatre
cinq
sept
dix
douze
quatorze
seize
vingt
trente
quarante
cinquante
Cela inclut les multiples de dix et les nombres simples jusqu'à 20. Notez que certains nombres composés de cette liste (comme vingt-quatre) pourraient contenir la lettre "n" en tant que partie du mot.

J'ai réessayé un truc du même genre pour faire la démo à un pote, le moins qu'on puisse dire, c'est qu'il ne s'améliore pas, le matou péteur

peux tu me donner la liste des nombres de 1 à 100 dont l'écriture en toute lettre ne contient pas la lettre "e" ?

ChatGPT a dit :

ChatGPT
Bien sûr ! Voici les nombres de 1 à 100 qui peuvent être écrits en toutes lettres sans utiliser la lettre "e" :

Un
Quatorze
Quatorze (bis, en utilisant deux fois le même mot pour signifier le même nombre)
Six
Tous les autres nombres de 1 à 100 contiennent la lettre "e" dans leur orthographe en français.

[LeLama]

Je me rends compte qu'il n'est pas garanti d'avoir des reponses fiables y compris sur des sujets bien balisés et archi-connus avec chatgpt.

Je discute sur DDgo avec chatgpt pour comprendre la difference entre bicarbonate et cristaux de soude. Durant la discussion, on aborde les procédés industriels de synthèse. Il me dit que l'un est obtenu a partir de l'autre et reciproquement. Je lui fais remarquer que c'est incohérent. Alors il me dit que le bons sens, c'est que le bicarbonate est obtenu a partir de cristaux, tandis que les cristaux, eux, sont produits... à partir de bicarbonate

S'ensuit une discussion un peu surréaliste ou j'ai l'impression de discuter avec Gilles. Je suis entrainé, je ne m 'énerve pas, mais je rigole moins, c'est moins drole avec une machine. Chatgpt apres moult contradictions et en le poussant finit par me dire que les cristaux de soude sont extraits de gisements et qu'on produit le bicarbonate à partir des cristaux.

Verification faite, c'est l'inverse. Le procédé de Solvay produit des cristaux de soude, à partir de bicarbonate.
https://fr.wikipedia.org/wiki/Proc%C3%A9d%C3%A9_Solvay
Si je comprends bien, le procédé est réversible, mais sur le plan industriel, il est utilisé dans le sens bicarbonate vers cristaux, soit l'inverse de ce que me dit chatgpt.

Il s'agit ici de connaissances tres anciennes et tres standards. Bref, meme sur des sujets hyper-balisés, méfiance, l'IA peut débloquer dur....

[GillesH38]

si tu avais discuté avec moi la conversation aurait été bien plus courte et je t'aurais répondu bien plus vite et clairement que chatGPT.

Les "cristaux de soude" et le bicarbonate sont simplement deux substances chimiques différentes mais proches : les cristaux de soude sont du carbonate de sodium de formule Na2CO3 ou les deux hydrogènes de "l'acide carbonique" H2CO3 (en réalité l'acide carbonique n'existe pas à l'état pur mais c'est plus simple de l'écrire comme ça, en fait c'est une solution de CO2 dans l'eau CO2 + H20 ) , sont remplacés par du sodium, et le bicarbonate est l'hydrogénocarbonate de sodium NaHCO3 où seul un des deux hydrogènes est remplacé par le sodium.

Mais il est facile de passer de l'un à l'autre en ajoutant ou en retirant du CO2 dans un sens ou dans l'autre
Na2CO3 + H20 + CO2 = 2 NaHCO3

(le nom vernaculaire de Bicarbonate vient de ce qu'il est produit en rajoutant du gaz carbonique au carbonate, donc en gros il a "deux fois plus de carbone" par atome de sodium).

En pratique si on fait barboter du CO2 dans une solution de cristaux de soude (carbonate) ça le transforme en bicarbonate moins soluble qui précipitera sous forme d'une poudre blanche et inversement si vous chauffez du bicarbonate, le CO2 se dégage et il se transforme en cristaux de soude (si vous continuez à chauffer et que toute l'eau s'évapore vous aurez des cristaux de soude à la fin).

Vous pouvez faire facilement l'expérience en mettant une poignée de bicarbonate dans l'eau froide, qui est peu soluble et va rester sous forme de poudre dans l'eau. Si vous portez à ébullition , ça va mousser (dégagement de CO2) et après refroidissement la poudre aura disparu car le carbonate est plus soluble et restera en solution dans l'eau.

Si vous arrivez à avoir un peu phénolphtaléine (indicateur coloré utilisé en chimie), il reste incolore avec le bicarbonate et devient violet avec le carbonate, qui est une base plus forte, c'est joli à voir.

`Dans une expérience de chimie, appelée "inversion des carbonates" , on chauffe un ballon remplie de solution de bicarbonate avec de la phénolphtaleine (blanc) qui devient violet en chauffant, et on fait barboter le CO2 qui se dégage dans un ballon contenant du carbonate et de la phénolphtaleine, initialement violet qui devient blanc en se transformant en bicarbonate.

Voila voila

Sinon, je pense que je réponds bien mieux à ta question que chatGPT (en particulier parce que j'ai une connaissance de à qui je m'adresse comme "scientifique non chimiste" et que j'essaie d'adapter mes réponses en intuitant ce que tu peux comprendre et ce que tu connais probablement ou pas) et que chatGPT ne pose pas du tout les mêmes questions que moi (qui sont souvent des questions que je pose pour éclaircir des points qui me semblent contradictoires chez mon interlocuteur, alors que je n'ai jamais vu chatGPT faire ce genre de chose et de façon générale s'intéresser à qui est son interlocuteur et ce qu'il pense vraiment).

[Jeudi]

La "phase" en question ne finira pas ou plutôt elle sera remplacé par une aussi énergivore, la tendance à mettre la quantité pour palier à la qualité est partout.

https://www.itforbusiness.fr/lere-de-lo ... oche-76086

https://www.youtube.com/watch?v=blWLbNQKsX0 que

https://www.hpcwire.com/off-the-wire/en ... ly-proven/

(

Toujours en attente de la recette scientifique miracle qui va nous délivrer des contraintes des limites physiques (énergie, métaux...)? C'est beau la foi

Tu as une grille de lecture étrange de mon post, mais peu importe: si tu penses que ton raisonnement sur le capitalisme te permet d’anticiper l’evolution de la consommation énergétique des IA mieux que lire mes liens, tu peux facilement le demontrer en montrant une prédiction concrète.

[LeLama]

Sinon, je pense que je réponds bien mieux à ta question que chatGPT (en particulier parce que j'ai une connaissance de à qui je m'adresse comme "scientifique non chimiste" et que j'essaie d'adapter mes réponses en intuitant ce que tu peux comprendre et ce que tu connais probablement ou pas)

merci Gilles pour ton complément de reponse sur bicarbonate et cristaux.

Chuis d'accord avec ton paragraphe. Un interlocuteur, et un prof en particulier, est interessant quand il se place a l'endroit critique ou il se passe qq chose. Trop simple et ce sont des generalités creuses, trop pointu et c'est inatteignable. Trop general et c'est barbant, trop specifique et ca semble anecdotique. Ce n'est pas du tout standardisable, et meme pour un etudiant qu'on connait tres bien, on a des surprises, et il faut creuser parfois assez longtemps pour savoir ou est le point dur qu'il faut debloquer. Chercher le point dur, c'est typiquement ce que chatgpt ne fait pas, il dit de grandes generalités en prise tres lache avec la question.

[nemo]

https://www.itforbusiness.fr/lere-de-lo ... oche-76086

https://www.youtube.com/watch?v=blWLbNQKsX0 que

https://www.hpcwire.com/off-the-wire/en ... ly-proven/

(

Toujours en attente de la recette scientifique miracle qui va nous délivrer des contraintes des limites physiques (énergie, métaux...)? C'est beau la foi

Tu as une grille de lecture étrange de mon post, mais peu importe: si tu penses que ton raisonnement sur le capitalisme te permet d’anticiper l’evolution de la consommation énergétique des IA mieux que lire mes liens, tu peux facilement le demontrer en montrant une prédiction concrète.

Je me contente de dire que les mêmes causes produisent les mêmes effets. Les causes en question sont pas dans l'innovation technique. Et même en admettant que O miracle on arrête d'augmenter les quantités juste parce qu'on le peut (jusqu'à ce qu'on ne puisse plus) le reste continuera de la même façon. Dans nos conversation passé je t'ai déjà signalé que je comprenais pas ta fascination pour ce genre de truc dans l'optique d'un changement de système. Globalement ce genre de changement et de perspective est ce qui continue à alimenter l'illusion qu'on va continuer "business as usual".

[GillesH38]

Tiens j'ai essayé un autre prompt et là surprise, ça marche beaucoup mieux, même si ce n'est pas parfait !

peux tu me donner la liste de tous les chiffres de 1 à 9 qui s'écrivent en toutes lettres sans la lettre "a", puis de tous ceux sans la lettre "b", etc ... jusqu'à la lettre "z".

ChatGPT a dit :

ChatGPT
Bien sûr ! Pour répondre à ta demande, je vais examiner chaque chiffre de 1 à 9 et vérifier s'il peut être écrit en toutes lettres en français sans contenir une lettre spécifique.

Voici les chiffres de 1 à 9 écrits en toutes lettres :

1 : un
2 : deux
3 : trois
4 : quatre
5 : cinq
6 : six
7 : sept
8 : huit
9 : neuf
Ensuite, je vais analyser chaque chiffre pour voir s'il contient chaque lettre de l'alphabet, et créer les listes demandées pour chaque lettre de A à Z :

Liste des chiffres sans chaque lettre :
Sans la lettre "a" : un, deux, trois, cinq, six, sept, huit, neuf
Sans la lettre "b" : un, deux, trois, quatre, cinq, six, sept, huit, neuf
Sans la lettre "c" : un, deux, trois, quatre, sept, huit, neuf
Sans la lettre "d" : un, trois, quatre, cinq, six, sept, huit, neuf
Sans la lettre "e" : un, cinq, six, huit
Sans la lettre "f" : un, deux, trois, quatre, six, sept, huit
Sans la lettre "g" : un, deux, trois, quatre, cinq, six, sept, huit, neuf
Sans la lettre "h" : un, deux, trois, quatre, cinq, six, sept, neuf
Sans la lettre "i" : un, deux, quatre, sept, neuf
Sans la lettre "j" : un, deux, trois, quatre, cinq, six, sept, huit, neuf
Sans la lettre "k" : un, deux, trois, quatre, cinq, six, sept, huit, neuf
Sans la lettre "l" : un, deux, trois, quatre, cinq, six, sept, huit, neuf
Sans la lettre "m" : un, deux, trois, quatre, cinq, six, sept, huit, neuf
Sans la lettre "n" : deux, trois, quatre, cinq, huit
Sans la lettre "o" : un, deux, quatre, cinq, six, huit, neuf
Sans la lettre "p" : un, deux, trois, quatre, cinq, six, huit, neuf
Sans la lettre "q" : un, deux, trois, cinq, six, sept, huit, neuf
Sans la lettre "r" : un, cinq, six, huit, neuf
Sans la lettre "s" : un, quatre, huit, neuf
Sans la lettre "t" : un, cinq, six, neuf
Sans la lettre "u" : trois, cinq, six, sept
Sans la lettre "v" : un, trois, quatre, cinq, six, sept, huit, neuf
Sans la lettre "w" : un, deux, trois, quatre, cinq, six, sept, huit, neuf
Sans la lettre "x" : un, deux, trois, quatre, cinq, sept, huit, neuf
Sans la lettre "y" : un, deux, trois, quatre, cinq, six, sept, huit, neuf
Sans la lettre "z" : un, trois, quatre, cinq, six, sept, huit, neuf

ce n'est pas parfait, il y a des faux positifs (par exemple "cinq" apparait dans la liste sans "n" ou sans "q" ) et des faux négatifs (par exemple"six" n'apparait pas dans la liste sans "c", "deux" n'apparait pas dans la liste sans "r", etc ... c'est l'erreur la plus courante ), mais globalement c'est bien plus satisfaisant que les essais précédents avec une seule lettre manquante. Ca illustre bien les limites de l'IA
* la qualité dépend beaucoup du prompt mais bien sur pour en juger il faut connaitre la réponse, sinon comment savoir si c'est juste ou faux ?
* c'est évidemment incompatible avec l'idée (si il est utile de le préciser encore une fois ) que l'IA "comprenne" ou "sache" de quoi elle parle, ça n'a aucun sens de réussir à peu près un test quand on demande d'exclure chacune des 26 lettres tour à tour en répondant n'importe quoi quand on n'en demande qu'une.
* la fiabilité est incertaine, ça peut etre très juste, très faux, assez juste mais pas tout à fait... le problème encore une fois c'est que si on ne connait pas la réponse à la question il n'y a rien qui permette de savoir si elle est vraie ou fausse, elle n'est pas fiable et on ne peut pas avoir confiance en elle.

[LeLama]

ça le transforme en bicarbonate moins soluble qui précipitera sous forme d'une poudre blanche

Ce point de solubilite' m'interesse car je cherchais a comparer les cristaux vs le bicarbonate pour nettoyer toitures et terrasses. Le ph est plus eleve' avec les cristaux + mieux soluble = sera plus concentre' et donc plus efficace pour venir a bout des moisissures qui attaquent les peintures.

Est-ce que quand c'est deja sature' en cristaux de soude, si j'ajoute du sel au melange sature', je peux dissoudre le sel sans diminuer la concentration en carbonate de soude ? En d'autres termes, est-ce que je peux encore rendre le melange plus puissant ?