ChatGPT et autres LLM

[energy_isere]

Je ne fais que suivre le mouvement

Tout est là. Je ne reproche pas à quelqu'un d'être de vivre dans telle ou telle société, et celle-ci le contraint plus ou moins à faire ou utiliser telle ou telle chose. C'est la vie et je n'empêche pas les gens de vivre.

Mais, il y a ceux qui "suivent le mouvement", il y a ceux qui "freinent le mouvement", il y a ceux qui "accélèrent le mouvement".

De ce que je peux en juger, tu fais facilement parti de ceux qui accélèrent le mouvement. La manière avec laquelle tu postes sur oléocène fait de toi quelqu'un qui "appelle" l'IA. Tu acceptes des choses à qualités extrêmement dégradées, privilégiant la quantité à la qualité et la critique. C'est ton choix. Mais ne pleure pas sur les conséquences de ton choix et merci de ne pas laisser entendre que sans ta manière d'écrire sur oléocène, tu te retrouverais dans une grotte avec une bougie.

Par ton comportement, tu as fait le lit de l'IA. Assume.


Supertomate

Supert, tu confonds l'Internet en général et l'IA. Perso l'IA je l'utilise très peu. genre 50 fois moins que l'Internet. Donc je vois pas en quoi je favorise l'IA.
Et c'est pas parce qu'on a un fil sur ''ChatGPT et autres LLM'' lu par 3 pékins sur un forum peu connu que ca fait le lit de l'IA.
Et puis de toute façons les news postées ici sont déjà vues en amont dés leur publication sur le site original par les bots de l'IA.
Bien évidemment les bots de l'IA ratissent les agences de presse tel que AFP et autres, La Tribune, Usine Nouvelle, Le Marin, Ecofin, mining.com etc ..... , donc l'effet de les reposter ici est nul.
Si ce que je dis la ne t'éclairent en rien, c'est qu' on continue à ne pas se comprendre comme c'est souvent le cas.

[supert]

Je ne vois pas en quoi je favorise l'IA.

C'est bien le problème, tu manques de vision globale.

Pour que l'IA puisse débouler dans le monde, je vois trois possibilités :

1-Dieu a décidé que l'IA devait arriver et l'impose aux hommes.
2-Quelques personnes se sont réunis secrètement (on appelle cela un complot) pour mettre en place l'IA dans le monde.
3-Un équipement, un état d'esprit, une manière de fonctionner de millions et millions de gens permettent l'avènement de l'IA.

Les 1- et 2-, c'est pas trop mon truc. Il me reste le 3-
Toi tu crois au 1- ou au 2- ? (ou a une autre possibilité)


Supertomate

[tita]

C'est bien le problème, tu manques de vision globale.

Pour que l'IA puisse débouler dans le monde, je vois trois possibilités :

1-Dieu a décidé que l'IA devait arriver et l'impose aux hommes.
2-Quelques personnes se sont réunis secrètement (on appelle cela un complot) pour mettre en place l'IA dans le monde.
3-Un équipement, un état d'esprit, une manière de fonctionner de millions et millions de gens permettent l'avènement de l'IA.

Les 1- et 2-, c'est pas trop mon truc. Il me reste le 3-
Toi tu crois au 1- ou au 2- ? (ou a une autre possibilité)


Supertomate

implicitement, tu expliques donc que tu es tout autant responsable de l'avènement de l'IA qu'energy_isere... Ou tout aussi irresponsable que lui. Genre, tu as écris des trucs sur ce forum, et très certainement que des scrappers ont pris ce que tu as écris pour entraîner des IA.

Plus concrètement, c'est surtout le résultat de recherches réalisées dans pleins de domaines (mathématiques, statistiques, informatique, électronique, neurologie, etc.) et sur probablement 60-70 années. Il y a eu quelques percées par quelques individus. Et aussi l'accumulation de données (images, textes) à travers internet sous forme informatique, et aussi la numérisation de livres.

Mais fondamentalement, on n'a pas tant d'impact en tant qu'individus sur ce que la société et la recherche doit être. Ton problème n'est donc pas un autre individu en particulier, que tu ne connais même pas personnellement en dehors d'un médium (internet) que tu n'arrêtes pas de critiquer...

Un moment donné, c'est absurde. Et je sais que tu vas t'énerver par ce que j'ai écrit, et que tu vas vouloir me faire une tartine d'arguments pour te justifier. Et auquel je ne vais jamais répondre parce que je ne fais plus ça, vu que j'ai décidé que c'était inutile.

Bref, j'avais quelques minutes à perdre.

[kercoz]

Tout gain de productivité s'obtient par une perte d'humanité ....même si je ne fais pas 3 voyages qd mes poules pondent 3 oeufs.
Nous ne savons pas refuser un gain de productivité ..ni une pipe gratuite.
J'ai peur de me répéter, mais de façon éthologique, notre espèce a des capacités d'inhibition de l'agressivité intra spécifique tres faibles , ....du fait que nos armes naturelles sont assez faibles.....ce qui fait que nos "progrès" technologiques ne sont pas controlés par des rétroactions correctives suffisantes.

[GillesH38]

franchement, on n'est pas bien, tranquilles, rassurés, avec l'IA ? on n'a plus à se poser de questions sur ce qui est vrai ou pas, elle sait tout !

[energy_isere]

Grok c'est la version abrégée de Grokon ?

[supert]

@tita

Il est particulièrement bizarre de faire un texte argumenté et de dire déjà qu'il n'est pas la peine d'y répondre.

Alors rassure-toi, je ne te ferais pas de tartines d'arguments, je dirais juste qu'il y a plein de trucs à prendre dans ton texte ainsi que des erreurs (fautes ?) d'analyses me concernant.

En fait, je ne comprends pas pourquoi tu as écris ce message. Pour délivrer la parole divine, incontestable ?


Supertomate, mécréant


PS: j'oubliais : http://www.oleocene.org/phpBB3/viewtopi ... =8&t=31704

[kercoz]

Mais fondamentalement, on n'a pas tant d'impact en tant qu'individus sur ce que la société et la recherche doit être.

Intéressant.

[energy_isere]

suite de 4 posts au dessus.

L'enquête ouverte par le parquet de Paris sur le réseau social X étendue à des propos négationnistes tenus par Grok
L'outil d'intelligence artificielle Grok développé par la start-up xAI, laquelle a fusionné avec X en mars dernier, a notamment affirmé à tort que les chambres à gaz d'Auschwitz avaient été conçues "pour la désinfection au Zyklon B contre le typhus, avec des systèmes d’aération adaptés à cet usage plutôt qu’à des exécutions massives". Plusieurs signalements à la justice ont été effectués.

Aurélien Defer 20 novembre 2025
..................

https://www.usine-digitale.fr/article/e ... k.N2241670

[supert]

Une question pour les pros :

Est-ce que ce genre d'âneries comme celle présentée ci-dessus par energy peut provenir "naturellement" de l'IA ou bien a-t-il fallu "l'aider" à pencher dans un sens ?


Supertomate

[GillesH38]

c'est un peu des deux à mon avis

a) l'IA s'entraine indistinctement sur tout ce qu'elle "avale" sur internet donc elle peut tout à fait spontanément ressortir des discours racistes, négationnistes, conspirationniste etc ...

b) il faut la "brider" en lui disant "non c'est pas bien de dire ça" si on veut l'éviter. Mais si personne ne le fait (et donc qu'on relâche la pression), elle va les ressortir aussi sec.

Donc c'est à mon avis dû à un défaut de contrôle pour des raisons politiques de "liberté d'expression".

[supert]

Je reformule ton point pour voir si j'ai bien pigé.

Tu vois une volonté dans le fait de ne rien faire, mais tu ne crois pas qu'on ait fait exprès de pousser l'IA vers telle ou telle "idée".


J'ai une autre question. Est-ce que les IA pondèrent leurs données en fonction des sources ? Dit autrement, si j'écris ici que la notion de PIB au XVè siècle n'a pas de sens, cela aura-t-il autant de poids que si un universitaire bouché écrit dans Le Monde que la notion de PIB au XVè siècle fait sens ?


Supertomate

[energy_isere]

J'ai une autre question. Est-ce que les IA pondèrent leurs données en fonction des sources ? Dit autrement, si j'écris ici que la notion de PIB au XVè siècle n'a pas de sens, cela aura-t-il autant de poids que si un universitaire bouché écrit dans Le Monde que la notion de PIB au XVè siècle fait sens ?
Supertomate

Bonne question. Les réponses m'intéressent aussi.

[energy_isere]

J'ai posé à copilot la question :
J'ai un question. Est-ce que les IA pondèrent leurs données en fonction des sources ? Dit autrement, si j'écris ici que la notion de PIB au XVè siècle n'a pas de sens, cela aura-t-il autant de poids que si un universitaire bouché écrit dans Le Monde que la notion de PIB au XVè siècle fait sens ?

Réponse de Copilot assez tranchée pour Supert (et moi meme):

Excellente question ! Tu touches à un point central du fonctionnement des modèles d’IA : la pondération des sources.

Comment les IA traitent les sources
Pas toutes les sources ont le même poids : les modèles d’IA modernes ne considèrent pas chaque texte comme équivalent. Les données utilisées pour l’entraînement sont généralement filtrées et hiérarchisées. Les publications académiques, les médias reconnus ou les corpus validés ont plus de poids que des forums ou des contributions isolées.

Fiabilité et qualité : les équipes qui entraînent les modèles appliquent des critères de qualité. Un article du Monde ou une publication universitaire est plus susceptible d’être retenu comme fiable qu’un message anonyme sur un forum.

Diversité des données : cela dit, les modèles apprennent aussi de sources informelles (forums, blogs, discussions). Ces données peuvent influencer la manière dont l’IA génère du texte, mais elles ne sont pas considérées comme aussi autoritaires.

Après l’entraînement : quand une IA comme moi cherche de l’information en temps réel (via le web), elle cite et s’appuie sur des sources vérifiables. Là encore, les moteurs de recherche privilégient les sites jugés fiables, ce qui renforce la hiérarchie des sources.

Exemple concret
Si tu écris sur un forum que « le PIB au XVe siècle n’a pas de sens », cette donnée existe mais elle est noyée dans des milliards d’autres textes.

Si un universitaire publie dans Le Monde que « le PIB au XVe siècle fait sens », cette source est considérée comme plus crédible et sera davantage mise en avant dans les corpus ou les résultats de recherche.

Résultat : l’IA ne traite pas ces deux affirmations comme équivalentes. Elle tend à privilégier la source institutionnelle ou académique.

En résumé, ton message ne disparaît pas, mais il n’a pas le même poids qu’une publication validée par des pairs ou un média reconnu. Les IA sont conçues pour refléter une hiérarchie implicite de fiabilité.

[GillesH38]

J'ai posé à copilot la question :
J'ai un question. Est-ce que les IA pondèrent leurs données en fonction des sources ? Dit autrement, si j'écris ici que la notion de PIB au XVè siècle n'a pas de sens, cela aura-t-il autant de poids que si un universitaire bouché écrit dans Le Monde que la notion de PIB au XVè siècle fait sens ?

Réponse de Copilot assez tranchée pour Supert (et moi meme):

moi j'ai une autre question : pourquoi pensez vous que les réponses d'une IA sur comment elles marchent et comment elles sont programmées sont correctes ?

je veux dire, je ne dis pas qu'elles sont forcément fausses, mais pourquoi pensez vous qu''elles sont fiables ?

au début des LLM j'ai eu des cas très clairs où l'IA disait n'importe quoi sur son fonctionnement ; par exemple chatGPT prétendait être muni d'un module de calcul mathématique, ce qui était faux (et aisément démontrable).