ChatGPT et autres LLM

[GillesH38]

une autre différence fondamentale avec l'IA, qui répond toujours quelque chose, même quand c'est n'importe quoi

[energy_isere]

L'IA générative, une bulle prête à éclater ?

Chronique de Thibault Monteiro
le 10/09/24 17:50

Thibault Monteiro décrypte les enjeux de l'IA générative, en analysant ses défis techniques et économiques, et explore comment cette technologie pourrait évoluer face à des attentes parfois exagérées.
...................

long article à lire https://www.journaldunet.com/intelligen ... a-eclater/

en particulier :

Les différentes visions sur l'avenir de l'IA générative
L’avenir des modèles de langage (LLMs) divise les experts en intelligence artificielle en trois grandes écoles de pensée.


1/ D’un côté, les sceptiques, comme Noam Chomsky, considèrent ces modèles comme des outils statistiques très avancés qui, malgré leur efficacité, ne représentent pas une forme d’intelligence véritable. Selon eux, ces IA se limitent à calculer la probabilité des mots et des phrases sans comprendre réellement le sens de ce qu’elles produisent.

2/ À l’opposé, certains spécialistes, dont Ilya Sutskever, co-créateur de ChatGPT, estiment que ces modèles développent une compréhension du monde humain en imitant les schémas et structures du langage. Ils considèrent que, via leur entraînement massif sur des données issues de la société, ces IA génèrent une sorte de « modèle interne » du monde, ce qui les rapprocherait d’une forme d’intelligence.

3/ Enfin, une troisième voie, représentée par Yann LeCun, adopte une perspective plus pragmatique. Selon lui, bien que les LLMs soient impressionnants, ils ne constituent pas une avancée suffisante pour atteindre une intelligence comparable à celle de l’humain. LeCun souligne que ces modèles doivent être perçus comme des outils d'augmentation de nos capacités plutôt que comme une imitation parfaite de l’intelligence humaine. Il plaide pour le développement de technologies radicalement nouvelles, renforçant la capacité des machines à raisonner de manière plus complexe, en s’appuyant sur des principes différents de ceux des LLMs actuels.

Pour moi la position 1/ est incluse dans 3/

Je suis complétement en phase avec 3/

[Troti]

Youtube m'a proposé cette vidéo récemment :
https://www.youtube.com/watch?v=4lkWl6NL2wg

La description de la vidéo :

J'ai codé un système d'IA capable de discuter avec des milliers de personnes par jour. Dans cette vidéo je vous expliques les défis techniques, l'analyse de données, mais aussi ce que ca dit sur l'évolution du "sentiment amoureux" dans notre société..

Je ne connaissais pas ce youtubeur. Je ne sais pas si je préfère qu'il soit réellement arrivé à faire son robot, ou si je préfère qu'il invente.
Je ne suis pas spécialement étonné que les IA génératives arrivent à être assez convaincante, surtout face à des homme sur Tinder (il parait que les hommes cherchant à s'accoupler ne sont pas toujours très fins/réfléchis/attentifs à l'autre), mais je pense que ça va ouvrir la porte à nombre d'escrocs qui joueront très efficacement sur la détresse (affective ou autre) de leurs victimes à grande échelle (les brouteurs existent déjà, mais étaient naturellement limités sur leur capacité à traiter trop de victimes en parallèle).

[LeLama]

Youtube m'a proposé cette vidéo récemment :
https://www.youtube.com/watch?v=4lkWl6NL2wg

Tres interessant. Mais l'auteur manque a mon avis une hypothese : ses ia pourraient avoir parlé a bcp d'autres ia. Une entreprise qui vend de la rencontre a tout interet a laisser dans une certaine mesure des ia sur son reseau car ca fait du volume et de l'activité qui rend les gens accros. Sur X, j'ai assisté à un echange dont je suis persuadé qu'il etait un echange entre 2 robots ( le premier etait un robot et je l'ai fait débloquer, il disait n'importe quoi, le deuxieme, je ne suis pas certain, mais il s'est mis a repecher le premier et a le remettre en selle apres qu'il etait evident a mon sens qu'il s'engageait dans une conversation avec un robot).

Cette hypothese d'interactions qui sont majoritairement inter ia est en tout cas compatible avec les conversations qui sont montrees dans la video. Des echanges un peu creux de surface, qui font assez ado avec des smiley. Normal pour une prise de contact, les qq premiers messages, mais si t'essaies d'aller vers une personne, normalement t'essaies d'aller assez vite vers un type de conversation ou il se passe qq chose vraiment. Apres, j'ai vu des jeunes filles dans le train en face de moi qui discutaient sur les messages a renvoyer, et c'etait aussi assez compatible avec une conversation produite par IA Elles jouaient, exploraient, et envoyaient des messages sans aucun engagement perso.

Du coup, la question sur X comme sur les sites de rencontres : combien d'IA ?

[Glycogène]

Je ne sais pas si je préfère qu'il soit réellement arrivé à faire son robot, ou si je préfère qu'il invente.

Je le connais un peu via youtube, il ne bluffe pas.
C'est son boulot d'explorer les possibilités avec les IA, les big data, etc.
A la base il est "data scientist", qui peut se traduire par chercheur ou ingénieur en big data.
Et comme les IA ont besoin de beaucoup de data pour être entrainées, il s'est naturellement intéressé aux IAs.
Ce n'est pas le premier à faire ce genre de robot branché sur une appli de rencontre, mais il a poussé un cran plus loin apparemment.

[energy_isere]

Youtube m'a proposé cette vidéo récemment :
https://www.youtube.com/watch?v=4lkWl6NL2wg

c'est absolument effrayant. Des gars qui sont accro à la conversation avec l'IA, cette IA arrête la conversation au quarantième message et le gars continue d''envoyer 100 messages..........
Des photos de nanas complétement fictives générées par IA et retouchées sur demande.

[Jeudi]

c'est absolument effrayant. Des gars qui sont accro à la conversation avec l'IA, cette IA arrête la conversation au quarantième message et le gars continue d''envoyer 100 messages..........

Imagine si le pervers harcelait un humain plutôt qu’une IA ou, pire, que tu te retrouves toi-même en position d’être son complice actif ou passif..........

[GillesH38]

ouais-, genre un pervers qui n'arrêterait pas d'insulter un humain sur un forum et de lui effacer ses messages, en accompagnant les messages effacés d'insultes en guise d'explications, sans que la modération ne dise rien tu veux dire ?

[tita]

Youtube m'a proposé cette vidéo récemment :
https://www.youtube.com/watch?v=4lkWl6NL2wg

c'est absolument effrayant. Des gars qui sont accro à la conversation avec l'IA, cette IA arrête la conversation au quarantième message et le gars continue d''envoyer 100 messages..........
Des photos de nanas complétement fictives générées par IA et retouchées sur demande.

Il a plutôt créé des profils de filles assez sexy. Et il ne parle pas beaucoup du seul profil mâle.

Pas compliqué d'avoir des "matchs" donc. Mais très difficile de tirer des conclusions d'un tel exercice.

De plus, il aurait très bien pu conclure et couper la conversation après 40 messages. C’est généralement ce qu'il se passe bien plus tôt.

Ce que je retiens, c'est qu'il est possible de brancher une IA sur une appli (le truc qu'il maîtrise). Mais derrière, il joue la carte du sensationnel en prenant les exemples les plus surprenants. Et il semble écarter des données qui pourraient être intéressantes (combien ont détecté que c'était une IA, différences entre profils homme et femmes, etc).

On sait déjà qu'une IA LLM peut être capable d'écrire et répondre comme un humain.

[GillesH38]

en fait la capacité à détecter une IA dépend beaucoup de si tu sais que c'est ce que tu dois chercher ou si tu es dans un contexte où tu n'imagines pas a priori que c'est une IA. La plupart des conversations sont très routinières et assez aisément remplaçables par des IA.

[energy_isere]

en fait la capacité à détecter une IA dépend beaucoup de si tu sais que c'est ce que tu dois chercher ou si tu es dans un contexte où tu n'imagines pas a priori que c'est une IA. La plupart des conversations sont très routinières et assez aisément remplaçables par des IA.

ah, Gilles va proposer le test de compter les r dans '' je te propose un rendez vous''

[energy_isere]

OpenAI bannit les utilisateurs qui cherchent à comprendre Strawberry !

Harimaholy 19 septembre 2024

OpenAI a récemment lancé un avertissement. Les utilisateurs de son dernier modèle d’intelligence artificielle (IA), « Strawberry », doivent éviter de creuser son fonctionnement interne. Ceux qui essaient de comprendre les mécanismes derrière son raisonnement risquent l’interdiction. Des rapports circulent sur les réseaux sociaux à ce sujet.
.......................

https://www.lebigdata.fr/openai-bannit- ... strawberry

[LeLama]

La question en creux de ce test d'IA sur des sites de rencontres, c'est celle de l'avenir du web avec les IA. Dans les annees a venir, quelle est la part du web qui restera interessante et referencee par les moteurs de recherche ? Il me semble evident que les IA vont continuer de pourrir de plus en plus les contenus, et que la guerre du referencement rendra de plus en plus difficile l'acces a des conversations ou des productions humaines "normales". Mais il n'est pas clair de comprendre ou sera la limite.

Si on compare avec la radio, ca peut aller loin, jusqu'a etre un gigantesque espace commercial. Les fois ou on fait de l'autoroute, on s'apercoit qu'il n'y a sauf zone d'exception plus rien en dehors de stations commerciales ultra-pourries et des grandes chaines de radio nationale qui ont une expression tres convenue et formatee. Pour le web, l'espace n'est pas limite', mais le referencement l'est. Apparaitre en page 11 de google, c'est ne pas exister.

Ca peut etre une bonne ou mauvaise nouvelle. Si ca devient vraiment pourri, tu vas repartir dans la vraie vie. Si tu te rends compte que 5 conversations de suite, tu les as faites avec des IA, tu vas repond\'erer et faire davantage de rencontres dans la vraie vie.

[LeLama]

Il faudrait un moteur de recherche qui ne classe pas les sites les plus pertinents mais mette en avant les production humaines, avant les communications institutionnelles ou commerciales, et encore plus loin les robots. En ce moment, c'est un peu l'inverse dans le referencement, il faut faire un effort serieux pour sortir de la communication formatee institutionnelle. Je trouve que les deux pbs, le referencement qui donne une prime aux expressions convenues et l'apauvrissement des contenus, sont tres lie's.

[nemo]

Y a clairement quelque chose qui va pas dans les moteurs de recherche actuel mais je suis pas sur de quel modification serait nécessaire/utile dans le contexte de transformation des contenus et de leur mise en coupe par le commerce.