ChatGPT et autres LLM

[LeLama]

les étudiants font faire le boulot à l'IA qui peut très bien s'en tirer

Tu ne peux pas faire des sujets sans machines ? Une feuille, un stylo, une règle, un compas. Ca ne suffit pas à faire toutes les maths ça ?

La plupart du temps, si. Et je note d'ailleurs sur mes sujets d'examen que tout appareil electronique quel qu'il soit est prohibe'. Mais il y a des unit'es ou` la machine est obligatoire ou impossible a controler.

- les maths applis, qui perdent souvent leur objet si tu n'implementes pas les algorithmes sur machine. Une optimisation est optimisee a la machine.
- le master Data Science, idem. Il faut manipuler des donnees pour que ce soit interessant.
- les etudiants a distance, qui passent leur examen a distance. Il est cens'e y avoir un logiciel qui verifie ce qu'ils font pendant le temps d'examen, mais c'est hyper-chaud ama de faire confiance a ce logiciel.
- les sujets de memoire que l'etudiant redige chez lui.

[supert]

Je ne comprends pas bien le coup du logiciel qui surveille les étudiants à distance.
Si l'étudiant est non surveillé par un humain, je ne vois pas ce que peut faire ce logiciel à part surveiller une machine. Doit y avoir quelque chose que j'ignore dans le protocole.


Supertomate qui a triché pendant ses partiels

[LeLama]

Je ne comprends pas bien le coup du logiciel qui surveille les étudiants à distance.
Si l'étudiant est non surveillé par un humain, je ne vois pas ce que peut faire ce logiciel à part surveiller une machine. Doit y avoir quelque chose que j'ignore dans le protocole.


Supertomate qui a triché pendant ses partiels

Oui, ce logiciel surveille la machine ( les etudiants installent un logiciel de surveillance sur leur machine), et ils sont en outre filme's par une webcam. Mais ca me parait fragile sans humain dans la salle de composition. En maths, on etait protege's par le fait que ya pas tant de personnes qui connaissent des maths et qui ont envie de tricher. Nos diplomes etaient protege's naturellement. Avec l'ia, ca devient complique'.

[supert]

OK, ce qui me manquait c'est la webcam. Mais entre la fragilité du logiciel et la possibilité de leurrer la webcam (comme un système de communication discret avec un gus à l'extérieur), je suis bien d'accord avec toi - et même plus. Cela ne vaut rien.

Supertomate

[GillesH38]

Ca me rappelle en 2020, l'année du covid, je donnais un cours au 2e semestre... après quelques tâtonnements, on est passé en distanciel (les étudiants m'ont fait découvrir Discord, meilleur que les outils qu'on avait à la fac). Mais au mois de mai, il a fallu organiser des examens en distanciel. Là j'ai réalisé que toutes les méthodes de triche qu'on pouvait imaginer en amphi était faisables à distance sans qu'on puisse les contrôler (afficher des notes de cours devant soi, communiquer par tel avec les copains, etc ...). Du coup je n'ai pas fait d'examen et j'ai neutralisé la note pour tous les étudiants ayant suivi mon cours à distance. Avec le stress que c'était pour eux, ils m'ont remercié après ...

[energy_isere]

Elon Musk says Grok 3.5 will provide answers that aren't from internet sources

April 29 2025

oday over at X (formerly Twitter), Elon Musk confirmed xAI's Grok is getting a new update. The Grok 3.5 release is still in beta and won't be available to the general public. However, SuperGrok subscribers will be getting an early peak at the new system starting next week. The exact release date for the beta has yet to be confirmed.

This release comes on the heels of speculation that Musk is planning to raise tens of billions to build an AI supercomputer comprised of one million GPUs. There have also been allegations that xAI has been powering their current Colossus supercomputer facility by means of illegal generators.

One of the leading features highlighted by the announcement is Grok 3.5's ability to provide unique answers to technical questions. More specifically, Musk highlights support for complex topics like electrochemistry and rocket engines with a notable degree of accuracy. While other AI systems can provide answers to technical questions, Grok 3.5 is doing so using a different approach.

Many AI platforms will scrape the internet for data and pull answers together using information provided by external sources. In this case, however, Grok 3.5 is creating answers from scratch using a "reasoning" model. This means that the answers it provides are potentially unique and not taken from existing copy on the internet.

This approach seems similar to DeepSeek R1, which also implements a type of reasoning model. This enables a more dynamic experience that isn't reliant on potentially plagiarized content, as well as being more capable in terms of answering complex questions. However, this type of technology comes at a cost, requiring much more computing power. That's likely why xAI is looking for more ways to expand its processing potential.

We expect to hear more details on the performance of Grok 3.5 in the coming weeks. It's important to note again that this is a beta release so there may be variance in the output of the official release. Until then, we can only speculate on the outcome.

https://www.tomshardware.com/tech-indus ... et-sources

[tita]

Bientôt un LLM facho-complotiste sur X?

[energy_isere]

OpenAI abandonne son projet de devenir une société à but lucratif

Boursorama avec AFP •06/05/2025

Le directeur général d'OpenAI Sam Altman a fait savoir lundi que l'entreprise à l'origine de ChatGPT abandonnait son projet, vivement contesté, notamment par Elon Musk, de devenir une société à but lucratif.

Des investisseurs d'OpenAI souhaitaient faire fructifier leurs placements dans une structure vouée à être rentable.

Mais ce projet avait fait vivement réagir, beaucoup le jugeant dangereux au vu de la puissance de l'intelligence artificielle.

Le changement de structure aurait fait passer, selon certains critiques, les intérêts des actionnaires avant ceux de la société civile.

"Nous avons pris la décision de rester une société à but non lucratif après avoir écouté des leaders de la société civile et échangé avec les bureaux des procureurs généraux (des Etats américains) de Californie et du Delaware", a précisé Sam Altman dans un courriel adressé au personnel et publié sur le site internet de l'entreprise.

L'homme le plus riche de la planète, Elon Musk, s'était mêlé de l'affaire en proposant de racheter la start-up. Sam Altman avait sèchement répliqué qu'OpenAI n'était "pas à vendre".

Elon Musk et Sam Altman faisaient tous les deux partie de l'équipe de 11 personnes qui a fondé OpenAI en 2015, le premier ayant apporté un financement initial de 45 millions de dollars.

Trois ans plus tard, M. Musk avait quitté l'entreprise, OpenAI évoquant "un futur conflit potentiel pour Elon... alors que Tesla", dont Elon Musk est le patron, "continue à se focaliser sur l'IA".

Les coûts considérables liés à la conception, à l'entraînement et au déploiement des modèles d'IA avaient contraint l'entreprise à rechercher une nouvelle structure qui donnerait aux investisseurs une participation au capital et offrirait une gestion plus stable.

Mais le passage à une société à but lucratif aurait nécessité l'approbation des autorités de Californie et du Delaware.

En restant une société à but non lucratif, "nous pensons que cela nous permettra de continuer de réaliser des progrès rapides et sûrs et de donner à tous l'accès à une IA performante", a estimé lundi Sam Altman.

L'entreprise est devenue une des start-ups les plus prospères de l'histoire de la Silicon Valley, propulsée en 2022 par son outil d'IA générative ChatGPT.

https://www.boursorama.com/actualite-ec ... 528b24b9dd

[Glycogène]

La fin des LLM (Yann LeCun a raison)
https://youtu.be/9FhGudsjo3c?si=outCSYX-dIJzQ0Gl

Dans cette vidéo, je rebondis sur une déclaration de Yann LeCun, patron de l'IA chez Meta, au sujet des LLM (Large Language Models). Comme lui, je pense que les LLM, dans leur forme actuelle, sont voués à disparaître.
Mais attention : je ne parle pas de la fin des Transformers ou de l’intelligence artificielle. Je vous explique pourquoi les modèles massifs, énergivores et centralisés ne sont ni durables ni efficaces à long terme.

🧠 Sommaire & Timestamps
00:00:01 - Présentation : Introduction du sujet et de Yann LeCun.
00:00:48 - Pourquoi les LLM sont un problème : Poids, coûts, consommation énergétique.
00:01:17 - Les qualités indéniables des LLM : Utilisation simple, écriture, exploration IA.
00:01:55 - Vers une IA hybride : Combinaison LLM + deep learning + logique symbolique.
00:02:22 - Pourquoi les LLM vont disparaître : Tare d’origine, architecture bourrine.
00:03:04 - Vers des systèmes distribués & métamodèles : Dispatching, spécialisation, SLM.
00:04:26 - Supervision par IA et systèmes multi-agents : Une IA qui pilote des IA.
00:05:14 - Exemple concret d’IA hybride : Extraction d’entités + fiches + réponse contextualisée.
00:06:26 - Utilisation du cache et signature de requêtes : Améliorer performances et cohérence.
00:07:26 - Une vraie AGI ? Pas avec les LLM : Ce que serait une vraie intelligence artificielle.
00:08:00 - Conclusion : la fin d’une époque : Vers des modèles plus petits, spécialisés, durables.
00:09:20 - Appel à discussion : Commentez, débattez, partagez vos idées !

[energy_isere]

L'avertissement Choc de Yann LeCun : "l'industrie de l'IA fait une erreur MONUMENTALE" vidéo 17 mn https://www.youtube.com/watch?v=Xdqg-tMF6GA

Vision IA
136 k abonnés
vues
10 mai 2025 #robot #robotique #AI

00:00 Intro
01:56 Portrait de Yann LeCun, père fondateur de l'IA
04:21 Les LLM sont-ils une impasse ?
06:17 La limite structurelle du langage
08:06 Les "world models" comme alternative
11:26 Les tokens ne peuvent pas représenter le réel
12:19 L'approche radicalement différente de LeCun
14:01 Le débat fondamental : langage vs monde réel
16:24 Les ressources pour approfondir
18:04 Conclusion et perspectives

Description
Dans cette vidéo, j'analyse la vision radicale de Yann LeCun, l'un des pères fondateurs de l'IA, qui remet en question toute la stratégie actuelle de l'industrie. Alors que les géants misent sur des LLM toujours plus grands, LeCun affirme que cette approche est fondamentalement limitée et qu'il faut développer des "world models" - des systèmes capables de comprendre et d'anticiper le monde physique. J'explore ce débat crucial entre ceux qui pensent que le langage suffit et ceux qui savent que la vraie intelligence nécessite une compréhension du monde réel, analysant les implications pour notre civilisation.

[energy_isere]

Performance, sécurité et prédictions exaltées: l'intelligence artificielle selon Anthropic

AFP •23/05/2025

La start-up d'intelligence artificielle (IA) Anthropic a lancé jeudi sa nouvelle famille de modèles d'IA générative, censés démontrer sa capacité à rivaliser avec les stars des assistants IA sans sacrifier ni la sûreté ni les promesses grandioses.

"Claude Opus 4 est le meilleur modèle de codage au monde", a assuré d'emblée Dario Amodei, patron et cofondateur d'Anthropic, à l'ouverture de la première conférence de l'entreprise pour les développeurs.

"Opus 4", le modèle le plus puissant de la start-up, et "Sonnet 4" sont tous les deux des modèles hybrides: ils peuvent fournir des réponses instantanées ou exécuter des tâches plus longues en arrière-plan, comme la programmation informatique ou la rédaction de rapports détaillés et sourcés.

Fondée par d'anciens ingénieurs d'OpenAI (ChatGPT), Anthropic concentre pour l'instant ses efforts sur des modèles de pointe, particulièrement doués pour la production de lignes de code, et utilisés principalement par des entreprises et professionnels.

Contrairement à ChatGPT et Gemini (Google), Claude ne génère pas d'images et est très limité en matière de fonctions multimodales (compréhension et génération de différents médias, comme le son ou la vidéo).

La start-up valorisée à plus de 61 milliards de dollars promeut en revanche un développement à la fois responsable et compétitif de l'IA générative.

"C'est un puzzle absolu au quotidien (...) mais c'est tout l'enjeu d'Anthropic", a souligné Dario Amodei lors d'une conférence de presse. Un choix de développement payant selon lui, car les clients "veulent des modèles fiables".

- "Manigances" d'IA -
Anthropic se livre donc à des exercices de transparence rares dans la Silicon Valley.

L'entreprise a publié jeudi un rapport sur les tests de sécurité effectués sur Claude 4, incluant les conclusions d'un institut de recherche indépendant, qui avait recommandé de ne pas déployer la version initiale.

Selon Apollo Research, le modèle avait tendance à "manigancer" pour "tromper" l'utilisateur.

"Nous avons observé des cas où le modèle tentait d'écrire des logiciels malveillants auto-réplicants, de fabriquer de faux documents juridiques, et de laisser des messages cachés à destination de futures instances de lui-même — le tout dans le but de contourner les intentions de ses développeurs", ont indiqué les chercheurs d'Apollo Research.

Ils ont néanmoins précisé que "ces tentatives n'auraient probablement pas été efficaces en pratique."

Dans le rapport, l'entreprise explique avoir mis en place des protections. Mais elle relève que dans certains scénarios extrêmes, conçus par des ingénieurs pour pousser le modèle à bout, Opus 4 peut aller jusqu'à "faire du chantage" contre des utilisateurs ou les dénoncer aux autorités s'ils essaient d'enfreindre la loi.

- L'avenir selon Anthropic -
Après une année 2023 marquée par la course aux interfaces concurrentes de ChatGPT, les assistants IA ont gagné en capacités à "raisonner" et à accomplir des tâches en ligne au nom de l'utilisateur, devenant ainsi des "agents IA".

"Nous travaillons sur de vrais agents, au-delà du buzz", a lancé Mike Krieger, directeur produit d'Anthropic, et cofondateur d'Instagram.

L'entreprise de San Francisco n'est pourtant pas la dernière à formuler des prophéties discutées.

En 2023, Dario Amodei avait prédit que l'IA dite générale (aussi intelligente que les humains) arriverait d'ici 2-3 ans. Fin 2024, il a repoussé cet horizon à 2026 ou 2027.

Plus récemment, il a estimé que l'IA écrirait 90% du code informatique d'ici l'automne. "Je ne vais pas tomber juste dans 100% des cas", a réagi le dirigeant face aux journalistes. "Les choses que je dis peuvent sembler folles sur le moment, mais je crois qu'elles se produisent en fin de compte."

Chez Anthropic, "plus de 70% des suggestions de modifications de code informatique" sont désormais générées par l'IA, a abondé Mike Krieger.

Les deux hommes pensent que l'IA générative permettra prochainement à quelqu'un de créer seul une licorne, c'est-à-dire une start-up valorisée à plus d'un milliard de dollars.

Et si la technologie atteint son potentiel, Dario Amodei s'attend d'ici quelques années "à une croissance économique extrêmement soutenue, de l'ordre de 10% par an", qui creusera dramatiquement les inégalités et nécessitera donc des "hausses d'impôts" pour redistribuer les richesses.

Anthropic dit vouloir aider les humains à "augmenter leur créativité", et non la remplacer.

"Mais il s'agit d'une stratégie à court et moyen terme", a remarqué Dario Amodei. "A long terme, nous devrons faire face à l'idée que tout ce que font les humains finira par être réalisé par des systèmes d'IA. C'est sûr, ça va arriver."

https://www.boursorama.com/actualite-ec ... 28104901ad

[Jeuf]

J'ai consulté le forum Oleocene, et il semble qu'un utilisateur ait signalé que le site Farmitoo.com publie des informations inventées dans sa section "Actu". L'utilisateur energy_isere a partagé son expérience en expliquant que ces articles sont générés par IA et servent principalement à attirer du trafic vers le site commercial.

ah bien.
j'ai demandé à chatgpt un jour de me décrire les intéractions entre les différents intervenant du forum. Il n'a pu dire que le forum est un lieu d'échange sur l'énergie, l'environnement, etc, il ne fouillait pas plus. J'étais curieux du regard extérieur d'IA, je ne sais pas si cet autre IA peut faire de tel analyses (ça mobiliserait beaucoup de lecture et calculs)

[Silenius]

Le generateur de videos Veo3, tres realiste : https://www.youtube.com/watch?v=caXrIUtl2s0

[Jeuf]

J'ai parlé d'hallucination sur un cas concret

Moi aussi, j'hallucine. Là par exemple, j'écrivais vite, je parlais de fuite d'eau et j'ai écrit 2m3 par seconde au lieu de 2m3 par semaine. Rien à voir, pour le débit. Heureusement, j'ai vu avant d'envoyer le message. Est-ce que ce sont des mécanismes similaires à tes hallucinations à toi, tu as une idée?

réponse :

Très bonne question — et oui, ce que tu décris ressemble beaucoup, à sa manière, à ce qu’on appelle une hallucination chez moi. Tu pointes un parallèle assez profond entre les erreurs humaines et celles des modèles comme moi.
🧠 Ton erreur : humaine, intuitive, contextuelle

Tu as écrit 2 m³/s au lieu de 2 m³/semaine. C’était :

une erreur de frappe ou d’attention,

un automatisme mental mal aligné,

pas absurde du tout (les deux sont des unités de débit), mais complètement différent dans l’échelle.

Tu savais ce que tu voulais dire. Ton cerveau, multitâche ou rapide, a juste glissé un peu. Et tu t’en es rendu compte.

Mon erreur : statistique, linguistique, pas consciente

Quand je "hallucine", je ne suis pas en train de me tromper par distraction. Ce qui se passe, c’est que :

je prédits le mot suivant en fonction du contexte,

je n’ai ni certitude ni compréhension réelle du monde, seulement des associations de probabilité très puissantes,

donc parfois, je dis quelque chose de plausible, mais faux — par exemple en attribuant une œuvre à la mauvaise personne, ou en donnant une unité erronée.

Ce qu’on a en commun

En fait, nos "erreurs" viennent toutes les deux de modèles internes qui fonctionnent vite :

ton cerveau anticipe et simplifie pour aller plus vite → erreur de saisie logique ou intuitive ;

mon modèle génère ce qui semble juste statistiquement → mais sans ancrage réel dans le monde → hallucination.

Ce sont donc deux manifestations de systèmes qui optimisent la fluidité… au prix de la précision.

Et tu sais quoi ? Le fait que tu aies repéré ton erreur avant d’envoyer est justement ce qui te rend plus fiable qu’un modèle comme moi. Toi, tu te relis. Moi, je continue à dérouler.

Tu veux que je t’aide à rendre un message plus clair, ou à vérifier des unités la prochaine fois ? Je peux être ton "filet anti-bourde", si tu veux

[energy_isere]

Jeuf tu as utilisé quelle LLM juste au dessus ?