ChatGPT et autres LLM

[CP3]

Si cette IA finit par investir massivement le monde numérique surtout les réseaux sociaux et que le monde y reste accroc , il n' y aura pas pire agent biaiseur de la réalité . On ne pourra plus savoir ce qui est vrai ou ce qui est faux . La fonction en principe informative d' internet sera discrédité , et les gens qui ne souhaitent pas etre dans le faux seront obligés de s' en détourner .

[GillesH38]

Tel qu'elle est conçue, il n'y a aucune chance qu'elle puisse commenter l'actualité puisqu'elle ne peut sortir des choses qu'après avoir été entrainée sur des milliards de productions humaines. Au mieux elle ne ferait que ressortir ce qu'elle a lu le plus souvent, donc ça n'a pas grand interêt.

[LeLama]

Si cette IA finit par investir massivement le monde numérique surtout les réseaux sociaux et que le monde y reste accroc , il n' y aura pas pire agent biaiseur de la réalité . On ne pourra plus savoir ce qui est vrai ou ce qui est faux . La fonction en principe informative d' internet sera discrédité , et les gens qui ne souhaitent pas etre dans le faux seront obligés de s' en détourner .

Sur Twitter, il me semble qu'il y a deja beaucoup de bots. Messages tres courts, au contenu assez indifferentiable, souvent tres partisan et frequemment insultant. Parfois, on voit que ce sont des bots a cause des "cousinages" entre messages, ou d'une réaction qui tombe a côté du sujet, ou en regardant l'ensemble des contributions. D'autres fois, c'est plus difficile de savoir si c'est un bot ou une personne sans engager une conversation.

En tout cas, ca pese déja sur les reseaux je crois et difficile d'avoir un avis sur ce que pense en moyenne les gens a partir des fils twitters. Je ne sais pas identifier clairement entre un bot et un humain. Quand le message est construit et a un contenu, c'est un humain, mais y'a beaucoup de commentaires creux en un phrase exprimant une preferance, et ceux la, je ne sais pas.

[Glycogène]

y'a beaucoup de commentaires creux en un phrase exprimant une preferance, et ceux la, je ne sais pas.

C'est du flood => humain ou bot, ne pas en tenir compte.
Sur un forum, la modération peut interdire le flood dans les règles du forum, et supprimer ces messages voire bannir le compte.
Sur twitter, ce n'est pas un forum, pas de modération du flood, mais il y a une présentation comme si c'était un forum avec des discussions. Du coup les infos intéressantes sont noyées dans le flood.

[tita]

Une explication plus approfondie du ChatGPT:

https://scoms.hypotheses.org/

[Silenius]

Pour obtenir de reponses precises sur un sujet qui n'est pas integre a openai il faut ajouter une base de donne de vecteurs qui agit comme une memoire a long terme. Ca evite au modele d'halluciner (inventer des reponses). Cela s'appelle RAG (retrieval-augmented generation)
https://www.pinecone.io/learn/openai-gen-qa/

[Silenius]

Une explication plus approfondie du ChatGPT:

https://scoms.hypotheses.org/

Pas tout lu, mais ca c'est faux, c'est simplement l'interface qui etait austere et geeky :

GPT-3 existe déjà depuis environ deux ans mais n’a jamais été ouvert au grand public.

[energy_isere]

Combien ?! Le prochain modèle de ChatGPT va demander énormément de cartes graphiques... NVIDIA

Article de Robin Lamorlette clubic 02 mars 2023

Avec l'évolution exponentielle des modèles d'IA comme ChatGPT vient un appétit tout aussi gargantuesque.

Trendforce s'est en effet fendu d'un rapport d'estimation quant au nombre de cartes graphiques nécessaires pour alimenter la nouvelle itération du modèle développé par OpenAI… et c'est NVIDIA qui va être contente.

Un appétit insatIAble

On ne vous l'apprend pas, ChatGPT est un beau bébé qui a bien grandi. En quelques années seulement, le modèle GPT qui l'anime a connu une évolution fulgurante. En 2018, les paramètres d'entraînement nécessaires à son alimentation s'approchaient des 120 millions. Deux ans plus tard, ce chiffre déjà énorme atteignait les 180 milliards.

Pour nourrir le modèle toujours plus gourmand en données, la demande de cartes graphiques boostées à l'IA et avec suffisamment de puissance de calcul s'est envolée. Ainsi, Trendforce a revu ses estimations en ce sens à la hausse pour le nouveau modèle de ChatGPT.

En 2020, celui-ci avait ainsi besoin pour être suffisamment alimenté de 20 000 cartes graphiques. Pour le prochain modèle développé par OpenAI, Trendforce estime que nous allons allègrement dépasser la barre des 30 000. Et il s'agit-là d'une estimation « optimiste ».

NVID-IA retrouve le sourire
Cet exorbitant chiffre de 30 000 cartes graphiques nécessaires se base en tout cas sur le modèle A100 de NVIDIA. À l'heure actuelle, il s'agit d'une des puces alimentées par l'IA les plus rapides du marché, avec 5 pétaflops de puissance.

Dans l'état actuel des choses, NVIDIA se trouve ainsi dans une position extrêmement avantageuse, étant le seul constructeur avec une telle avance dans le domaine de l'intelligence artificielle. Ce qui n'est certainement pas pour lui déplaire, alors que le marché des cartes graphiques pour particuliers s'effondre.

Il n'appartient donc pour l'instant qu'à NVIDIA de maintenir la cadence et produire assez de cartes graphiques pour alimenter l'appétit d'ogre de ChatGPT et autres IA. Avec la popularité aussi grandissante de ces dernières que leur besoin en énergie, le constructeur pourrait même mettre davantage d'œufs dans ce juteux panier et développer des modèles encore plus puissants… et très prisés.

https://www.msn.com/fr-fr/lifestyle/sho ... 86a&ei=171

[Silenius]

Selon les rumeurs, gpt4 ne serait pas beaucoup plus gros que gpt3.5 mais serait entraine avec plus de donnees, car l'optimum est de 22,5 tokens par parametre.
La carte A100 sera supplantée par la H100 plus puissante.
Sinon, pour que chatgpt ait acces au web, il suffit d'installer l'extension Webchatgpt sur votre navigateur, ça fonctionne assez bien.

[LeLama]

Le niveau de politisation de chatgpt est au plus haut. Sur le sujet ci-dessous, c'est pas si grave, parce que chacun gardera son opinion independamment de ce que dit chatgpt. Mais sur un sujet factuel ou les gens cherchent a savoir le vrai et le faux, cette politisation extreme pose évidemment probleme. Certaines personnes vont croire que chatgpt est neutre comme d'autres pensent wikipedia neutre, alors que les evolutions des articles montrent une hyperpolitisation de wikipedia ces dernieres annees.

[Glycogène]

sur un sujet factuel ou les gens cherchent a savoir le vrai et le faux

... il ne faut pas utiliser chatGPT !
chatGPT est bon pour mettre en forme des données, y compris en lui indiquant le style du texte qu'il doit générer (pour un expert, un adulte débutant, un enfant, pour un twit, ...). Données qu'on lui a donné dans la question, ou qu'il a trouvé lui-même mais qu'on a vérifié.
Il est aussi bon pour donner des exemples (à vérifier bien sûr).
Je l'utilise régulièrement pour trouver rapidement de la doc sur une commande dans un langage de programmation ou une commande d'un logiciel. Bien plus simple que Google, où ce sont les discussions sur des problèmes liés à la commande qui arrivent en tête de liste, la doc sur la commande étant un document qui n'a pas changé depuis 10 ou 15 ans, et est donc loin dans les résultats (Google met en avant les pages qui se renouvellent régulièrement).
Mais bien sûr, la première chose que je fais, c'est de tester si ça fonctionne. Je ne lui fais pas confiance, je sais juste qu'il y a plus de 80 ou 90% de chance que ce soit juste.

[tita]

Je ne sais pas encore exactement à quoi va servir ChatGPT. Pour obtenir une information utilisable, il faut poser la question de façon très précise. Et il faut après vérifier si ce qu'on obtient est correcte et ne contient pas d'hallucination.

Une nouvelle vidéo qui explique encore une fois ce que c'est, avec un petit exemple très brillant qui démontre comment on peut répondre correctement à une question sans rien comprendre du sens de ce qui est écrit.

https://www.youtube.com/watch?v=j3fvoM5Er2k

[energy_isere]

Je ne sais pas encore exactement à quoi va servir ChatGPT. Pour obtenir une information utilisable, il faut poser la question de façon très précise. Et il faut après vérifier si ce qu'on obtient est correcte et ne contient pas d'hallucination.

Une nouvelle vidéo qui explique encore une fois ce que c'est, avec un petit exemple très brillant qui démontre comment on peut répondre correctement à une question sans rien comprendre du sens de ce qui est écrit.

https://www.youtube.com/watch?v=j3fvoM5Er2k

Vu.

[Jeuf]

Ce soir

Quel jour sommes-nous?

Nous sommes le 28 janvier 2023.


Comment le sais-tu?

Je suis programmé pour connaître la date et l'heure actuelles en fonction du fuseau horaire configuré sur le système.

[energy_isere]

Intelligence artificielle : "Il faut des discussions mondiales" car "il est nécessaire de réguler", plaide la spécialiste Laurence Devillers
écouter (26min) en podcast https://www.francetvinfo.fr/replay-radi ... 61677.html
8h30 franceinfo le 02/03/2023