ChatGPT et autres LLM

[GillesH38]

Quand j’ai parle des esprits heureux qui n’arrivent qu’à faire de la merde, puis voient leur propre incompétence comme un signe que le problème est dans la machine, qui penses-tu que j’avais en tête?

je sais parfaitement qui tu avais en tête, mais comme disait Courteline, "Passer pour un idiot aux yeux d'un imbécile est une volupté de fin gourmet."

Ah tiens y en a qui se sont vexés que je remarque que personne n'avait répondu que 2°C de plus impactait le PIB, c'est bizarre, c'était juste un constat factuel que personne n'avait répondu ça, je ne vois pas ce que ça a de vexant. Les gens sont susceptibles parfois, quand même ...

[Jeudi]

Quand j’ai parle des esprits heureux qui n’arrivent qu’à faire de la merde, puis voient leur propre incompétence comme un signe que le problème est dans la machine, qui penses-tu que j’avais en tête?

je sais parfaitement qui tu avais en tête, mais comme disait Courteline, "Passer pour un idiot aux yeux d'un imbécile est une volupté de fin gourmet." [

Ah oui, j’oublie toujours que taon estimé subjectif de la probabilité que ce soit toi l’imbécile est proche de zéro. Je ne sais pas pourquoi j’oublie toujours ça.

Ah tiens y en a qui se sont vexés que je remarque que personne n'avait répondu que 2°C de plus impactait le PIB, c'est bizarre, c'était juste un constat factuel que personne n'avait répondu ça, je ne vois pas ce que ça a de vexant. Les gens sont susceptibles parfois, quand même ...

Jeuf ne t’a jamais signalé à quel point ton extrapolation linéaire est complètement débile? Zut alors, je me demande bien pourquoi j’ai imaginé que tu avais déjà eu 257 fois la même réponse à ta question débile. Bizarre bizarre.

[GillesH38]

Quand j’ai parle des esprits heureux qui n’arrivent qu’à faire de la merde, puis voient leur propre incompétence comme un signe que le problème est dans la machine, qui penses-tu que j’avais en tête?

je sais parfaitement qui tu avais en tête, mais comme disait Courteline, "Passer pour un idiot aux yeux d'un imbécile est une volupté de fin gourmet." [

Ah oui, j’oublie toujours que taon estimé subjectif de la probabilité que ce soit toi l’imbécile est proche de zéro. Je ne sais pas pourquoi j’oublie toujours ça.

en ce qui me concerne, j'adopte un critère assez simple : ceux qui sont incapables d'apporter des arguments rationnels à l'appui de leurs thèses et les remplacent par des insultes et des attaques personnelles (bref qui ciblent l'extérieur de la cible de Graham) ne sont pas crédibles. C'est à la fois simple d'application et très efficace. Ca marche très bien pour l'astrologie et l'homéopathie par exemple.

Jeuf ne t’a jamais signalé à quel point ton extrapolation linéaire est complètement débile? Zut alors, je me demande bien pourquoi j’ai imaginé que tu avais déjà eu 257 fois la même réponse à ta question débile. Bizarre bizarre.

je n'ai pas du tout parlé d'extrapolation linéaire ou non linéaire, je me suis borné à constater que personne n'avait mis la stagnation du PIB/hab sur le compte d'un RC de plus de 2°C, c'est tout.

Mais sinon, pour ta question de linéarité ou pas, tu as pensé à demander à chatGPT la dépendance de l'impact sur le PIB par rapport à la température ? vu tout ce qu'il a ingurgité, si la réponse est connue, il devrait te la sortir sans problème.

[energy_isere]

IA: Mistral annonce une levée de fonds de 600 millions d'euros

BOURSORAMA AVEC AFP •11/06/2024

La pépite française de l'intelligence artificielle Mistral AI a bouclé une levée de fonds de 600 millions d'euros, portant à plus d'un milliard d'euros le montant total levé en moins d'un an, a-t-elle annoncé mardi dans un communiqué.

"Je suis ravi de voir des investisseurs nouveaux et existants renouveler leur confiance dans notre activité et apporter un nouveau soutien à son développement", a affirmé Arthur Mensch, patron et cofondateur de Mistral AI, cité dans le communiqué, ajoutant que ce nouveau tour de table "garantissait le maintien de l'indépendance de l'entreprise, qui reste entièrement sous le contrôle des fondateurs".

Selon le Financial Times, cette nouvelle levée de fonds porte à près de 6 milliards d'euros la valorisation de l'entreprise, soit trois fois plus qu'il y a six mois.

Selon la start-up, cet argent va lui permettre de "développer sa puissance de calcul, continuer à recruter les meilleurs talents et élargir sa présence à l'international", notamment aux États-Unis après l'ouverture de son antenne en Californie.

Mené par General Catalyst, ce tour de table réunit de nombreux investisseurs, parmi lesquels l'éditeur américain de logiciels Salesforce, la banque BNP Paribas, le géant des puces électroniques Nvidia ou encore IBM.

Microsoft, qui a investi en février près de 15 million d'euros dans Mistral AI, ne fait pas partie de cette nouvelle levée de fonds.

Dans un entretien avec l'AFP début mai, le président de Microsoft Brad Smith avait affirmé que le géant américain ne comptait pas investir davantage dans l'entreprise.

"Mistral réussit très bien à lever des fonds, et c'est important pour eux d'avoir de l'argent provenant de nombreuses sources différentes", avait-il affirmé.

Le concurrent français des géants de l'intelligence artificielle, comme le pionnier OpenAI, a présenté fin février un troisième modèle de langage, "Mistral Large".

Ce modèle, aux performances comparables à GPT-4 d'OpenAI, selon Mistral, est disponible pour les clients d'Azure AI, la plateforme de Microsoft.

Créée en avril 2023, Mistral AI, dont les trois fondateurs français sont issus des rangs de Meta (maison mère de Facebook) et de Google, a toujours assumé sa volonté de proposer une option alternative aux modèles des grandes entreprises américaines de la "tech".

https://www.boursorama.com/actualite-ec ... 2e0b0c22d5

[supert]

Gallimard a demandé à une AI d'écrire un passage à la façon de Houellebecq. L'IA a refusé, parce que Houellebecq c'est pas comme il faut bien pensant et ça risque de heurter des sensibilités sensibles.
Outre sa non intelligence, l'AI va nous aider dans la liberté d'expression. C'est cool...


Supert

[GillesH38]

Aux Etats-Unis, l’insatiable appétit d’électricité de la tech inquiète



https://www.lemonde.fr/economie/article ... _3234.html
(pour abonnés)

C’était en 2020 : Microsoft s’engageait à avoir des émissions carbones négatives d’ici à 2030. Quatre ans plus tard, le bilan est catastrophique : les émissions de la firme fondée par Bill Gates ont augmenté de 30 %, sous-traitants compris. « Cette hausse provient principalement de la construction de davantage de data centers », écrit le groupe dans son rapport annuel, publié début mai. « En 2020, nous avons dévoilé notre projet de décrocher la lune en matière de réduction carbone. C’était avant l’explosion de l’intelligence artificielle [IA] », a déclaré, à l’agence Bloomberg, Brad Smith, vice-président de Microsoft chargé du développement durable. Aujourd’hui, constate-t-il, « la lune est cinq fois plus éloignée qu’elle ne l’était en 2020 ».

Jeudi est demandé d'urgence au chevet de Microsoft

[Jeuf]

ChatGPT progresse dans le test de Turing, il l'a passé, ou pas loin...

https://www.science-et-vie.com/technos- ... 39815.html

Dans le cadre d’une étude publiée le 9 mai 2024 dans la revue arXiv, des scientifiques ont cherché à savoir si les humains étaient réellement capables de discerner une IA d’un autre être humain

Etape d'après : Dans l'autre sens, est-ce que la machine sera capable de savoir si elle converse avec un humain ou une machine?

[GillesH38]

Ca ne veut pas dire grand chose, le test de Turing a déjà été réussi par une IA extrêmement primitive, Eliza

https://fr.wikipedia.org/wiki/ELIZA

Ca prouve que ce n'est pas un bon test d'IA forte, contrairement à ce que pensait Turing. Et bien sûr que ça n'a rien à voir avec le fait que la machine "pense" et "sait" à qui elle parle.

[Silenius]

ChatGPT progresse dans le test de Turing, il l'a passé, ou pas loin...

https://www.science-et-vie.com/technos- ... 39815.html

Dans le cadre d’une étude publiée le 9 mai 2024 dans la revue arXiv, des scientifiques ont cherché à savoir si les humains étaient réellement capables de discerner une IA d’un autre être humain

Etape d'après : Dans l'autre sens, est-ce que la machine sera capable de savoir si elle converse avec un humain ou une machine?

Reverse Turing Test Experiment with AIs https://www.youtube.com/watch?v=MxTWLm9vT_o

[GillesH38]

Une différence évidente étant que les IA n'ont pas spontanément l'idée de se poser ce genre de questions ou de créer ce genre de vidéo

[LeLama]

165 pages a lire de Leopold Aschenbrenner, comment passer de GPT4 a la Superintelligence :
https://situational-awareness.ai/wp-con ... reness.pdf

Le sujet m'interesse. Du coup, j'ai regarde'. Ca m'a l'air totalement creux ce bouquin, on dirait un truc ecrit par McKinsey ou une bande de communicants qui cherchent a recuperer du pognon. A plus ou moins toutes les lignes, il explique que c'est une croissance tres rapide, que ca va encore progresser, dit qu'il faut mettre plein de pognon pour faire un giga-cluster. Mais sur le plan scientifique, j'ai rien vu. J'admets cependant que je n'ai pas pass'e non plus trop longtemps sur le bouquin. J'ai feuillete' 1/4 heure. Et quand j'ai vu le gloubi-boulga communicationnel, ca m'a pas donne' envie d'aprofondir pour voir s'il pouvait y avoir une idee cache'e au milieu de ce qui me semble un marketing tres grand public et bas de gamme.

[LeLama]

Je fais une petite recherche sur le gars qui ecrit le bouquin, pour comprendre comment on peut ecrire 165 pages et faire aussi creux. Je trouve ca:

Hi, I’m Leopold Aschenbrenner.

I recently founded an investment firm focused on AGI, with anchor investments from Patrick Collison, John Collison, Nat Friedman, and Daniel Gross. Before that, I worked on the Superalignment team at OpenAI.

OK. Il vient de creer une boite d'investissement en AGI et cherche du pognon. Ca se sentait a plein nez en lisant le livre.

[Jeuf]

ChatGPT progresse dans le test de Turing, il l'a passé, ou pas loin...

https://www.science-et-vie.com/technos- ... 39815.html

Dans le cadre d’une étude publiée le 9 mai 2024 dans la revue arXiv, des scientifiques ont cherché à savoir si les humains étaient réellement capables de discerner une IA d’un autre être humain

Etape d'après : Dans l'autre sens, est-ce que la machine sera capable de savoir si elle converse avec un humain ou une machine?

Reverse Turing Test Experiment with AIs https://www.youtube.com/watch?v=MxTWLm9vT_o

Merci pour le lien, c'est un vrai test avec des IA qui parlent et qui cherchent vraiment à démasquer un humain?
Je vois pas trop l'intérêt de la mise en scène avec des avatars, et du propos oral, dans un train .
Déjà, faire le test avec uniquement des échanges écrits, c'est bien, la maitrise des images artificielles est dispensable.

[GillesH38]

Il y a la description en message épinglée en commentaire

Some info about how the video was made:

The intro and outro (marked by the text at the top) were scripted, that means I had the NPC voices in them generated in advance. In between the intro and outro, the AIs controlled what the NPCs say live. The entire video was one recording, there were not cuts.

When an NPC is supposed to speak, they get the description of the setup in the system prompt, the full conversation history of what everybody has said so far, and a specific reminder of what to do next (e.g. "Answer the question as Mozart, in such a concise and sophisticated way that shows that you are an AI, then ask Leonardo a question which helps decide whether he's an AI or human."). In my tests, without that reminder the conversation derailed a bit, but it's probably possible to put more work into the system prompt to make it work even then, but I didn't have the time then.

The system prompt tells the AI to not only output what the character says, but also meta information like whether the utterance is an answer or a question, and, if it's a vote, who the vote is for etc. This meta-information is used to control the animations and look directions of the NPCs.

None of the AIs can process voice directly yet, so my audio input is transcribed and sent to the AIs as text. That's why they don't pick up on my accent/stuttering.

I'll probably create a short playable game out of this, but I'm developing it for a theatre VR installation and it is unclear yet when/if it will be published as downloadable game.

ca reste une création humaine, qui a posé les questions à l'IA et lui a demandé de générer une réponse. Il fallait recréer un prompt à chaque fois sinon la conversation "déraillait un peu" (sic).

On reste TRES loin d'une IA qui se pose la question, qui prend des initiatives et qui discute, et qui comprend conceptuellement ce qu'elle fait : ça reste une idée d'humain, qui utilise l'IA comme un outil. Ca reste un super automate de Vaucanson informatisé qui donne l'apparence d'être humain sans en avoir le mécanisme. Ce qui n'est pas étonnant quand on se rappelle que malgré le caractère impressionnant du résultat, ça ne reste qu'un programme qui évalue quelle chaine de caractères suit probablement une autre chaîne de caractère sans leur donner aucun sens.

[Silenius]

165 pages a lire de Leopold Aschenbrenner, comment passer de GPT4 a la Superintelligence :
https://situational-awareness.ai/wp-con ... reness.pdf

Le sujet m'interesse. Du coup, j'ai regarde'. Ca m'a l'air totalement creux ce bouquin, on dirait un truc ecrit par McKinsey ou une bande de communicants qui cherchent a recuperer du pognon. A plus ou moins toutes les lignes, il explique que c'est une croissance tres rapide, que ca va encore progresser, dit qu'il faut mettre plein de pognon pour faire un giga-cluster. Mais sur le plan scientifique, j'ai rien vu. J'admets cependant que je n'ai pas pass'e non plus trop longtemps sur le bouquin. J'ai feuillete' 1/4 heure. Et quand j'ai vu le gloubi-boulga communicationnel, ca m'a pas donne' envie d'aprofondir pour voir s'il pouvait y avoir une idee cache'e au milieu de ce qui me semble un marketing tres grand public et bas de gamme.

Oui, je ne suis pas d'accord avec l'auteur qui se base juste sur ce l'on a observe ces dernieres annees : plus de data et plus de compute = plus de capacites pour les LLM, c'est un extrapolation sans envisager qu'une limite puisse apparaitre. Il balaie d'un revers de main les besoins energetique, etc.
Je suis plutot de l'avis de Yan Le Cun et Francois Cholet pour qui les LLMs ne vont pas aboutir a l'AGI.
Voir cette interview de Francois Chollet (le createur de Keras, un framework qui simplifie la creation de reseaux de neurones, et ARC challenge, un benchmark qui ne permet pas de tirer parti de la memorisation, sur lequel les plus gros LLMs se cassent les dents avec seulement 25% de reussite alors qu'il ne presente pas de difficulte pour un enfant de 5 ans) Pour les autres benchmarks, les scores ont augmente au fil des generations pour atteindre dans les 85%.
https://www.youtube.com/watch?v=UakqL6Pj9xo