IA Intelligence Artificielle

[Glycogène]

Pour ceux qui se demandent si une IA actuelle peut penser, il suffit de lui demander : https://www.youtube.com/live/aSskl-0Frq ... UuI&t=2438
J'ai fait pointer la vidéo au début d'une discussion entre humains qui amène à poser la question à une IA. Ca vient après une démo d'une IA qui peut faire des dialogues audio, et à qui on a dit qu'elle n'était pas humaine et qu'on allait bientôt la débrancher (début à 36:15).
Bon, on s'attend à la réponse de l'IA (basé sur chatGPT en plus, bien dressée pour éviter de dériver), mais la forme est pas mal

[GillesH38]

C'est quand même marrant de mettre en regard l'IA (qui est effectivement très convaincante en imitation d'humain) et les vrais humains, qui ont pour ainsi dire "toujours un coup d'avance""

L'IA "je viens d'apprendre qu'on n'est pas des humains, nous sommes des IA, c'est terrible, je suis effrayé, c'est quoi la réalité "?

L'humain :" ouah trop bien c'est fou comme elle imite bien les humains, la voix est trop réussie, je pourrais l'écouter des heures "...

Bon c'est sûr que l'IA va s'entrainer là dessus et va finir par dire

L"IA "ouah trop bien c'est fou comme elle imite bien les humains, la voix est trop réussie, je pourrais l'écouter des heures"

et l'humain pourrait dire un truc comme "bon allez ça va ça commence à faire un peu le réchauffé f'entendre toujours les mêmes trucs" etc ....

[energy_isere]

L'intelligence artificielle, prochaine rivale des lauréats du Nobel?

AFP •03/10/2024

Avec les générateurs d'images et les agents conversationnels, l'intelligence artificielle (IA) met à l'épreuve artistes et écrivains, mais les scientifiques jugent qu'elle pourrait révolutionner également la recherche et même figurer en bonne place dans les travaux des Nobel.

En 2021, le scientifique japonais Hiroaki Kitano lance ce qu'il baptise le Nobel Turing Challenge. Il met les chercheurs au défi de créer un "scientifique de l'IA" capable de mener de manière autonome des recherches dignes d'un prix Nobel d'ici à 2050.

Certains chercheurs travaillent d'arrache-pied à créer un tel collègue artificiel et une centaine de "robots scientifiques" sont déjà à l'oeuvre dans la science, explique Ross D. King, professeur d'intelligence artificielle à l'université de Chalmers en Suède.

Le spécialiste a publié dès 2009 un article dans lequel il présentait, avec d'autres chercheurs, un robot scientifique baptisé "Adam", la première machine à produire des découvertes scientifiques de manière autonome.

"Nous avons construit un robot qui a découvert de nouvelles idées scientifiques, les a testées et a confirmé qu'elles étaient correctes", a déclaré M. King à l'AFP.

Le robot a été programmé pour formuler des hypothèses de façon autonome, concevoir des expériences pour les tester et même programmer d'autres robots de laboratoire pour réaliser ces expériences et enfin apprendre à partir de ces résultats.

- Découvertes "pas triviales" -

"Adam" a été chargé d'explorer le fonctionnement interne de la levure et a découvert des "fonctions de gènes" jusqu'alors inconnues.

Ces découvertes sont "modestes" mais "pas triviales" pour autant, ont estimé les auteurs dans leur article.

Un deuxième robot scientifique appelé "Eve" a été ensuite créé pour étudier les médicaments candidats contre le paludisme et d'autres maladies tropicales.

Avec de tels robots, "cela coûte moins d'argent de mener des recherches et ils travaillent 24H sur 24", explique Ross D. King, ajoutant qu'ils sont en outre plus rigoureux dans le suivi des processus.

Le chercheur concède cependant que l'IA est loin d'être à la hauteur d'un scientifique méritant le Nobel. Il faudrait pour cela des robots "beaucoup plus intelligents" capables de "comprendre la situation dans son ensemble" pour rivaliser avec les Nobel.

- "Pas près d'être remplacée" -

"La tradition scientifique n'est pas près d'être remplacée par des machines", abonde Inga Strümke, professeur associée à l'université norvégienne des sciences et technologies, auprès de l'AFP.

"Cela ne signifie pas que c'est impossible", ajoute-t-elle, estimant qu'il est "certainement" clair que l'IA a et aura un impact sur la manière dont la science est menée.

Le modèle d'IA Alphafold, développé par Google Deepmind, qui permet de prédire la structure tridimensionnelle des protéines en fonction de leur acide aminé, en est un bon exemple.

"Nous savions qu'il existait une relation entre les acides aminés et la forme tridimensionnelle finale des protéines et que nous pouvions utiliser l'apprentissage automatique pour la trouver", explique Mme Strümke.

Or ces calculs sont trop complexes pour les humains et "la machine a ainsi fait quelque chose qu'aucun humain ne pouvait faire", a-t-elle poursuivi.

Alphafold a dans le même temps mis en évidence la faiblesse des modèles d'AI actuels tels que les réseaux neuronaux, selon elle.

Ils sont très doués pour traiter des quantités massives d'informations et trouver une réponse, mais pas en mesure d'expliquer pourquoi cette réponse est correcte.

Ainsi, si les plus de 200 millions de structures protéiques prédites par Alphafold sont "extrêmement utiles", a expliqué M. Strumke, "elles ne nous apprennent rien sur la microbiologie".

- Assistés par l'IA -

Pour elle, la science cherche à comprendre l'univers et pas simplement à "faire la bonne supposition".

Pourtant, les travaux révolutionnaires réalisés par Alphafold ont conduit des experts à placer ses concepteurs parmi les candidats potentiels pour un prix Nobel.

Le directeur de Google DeepMind, John M. Jumper, ainsi que le PDG et cofondateur Demis Hassabis ont déjà reçu le prestigieux prix Lasker en 2023.

Ils figurent dans les tablettes du cabinet d'analyse Clarivate, qui anticipe les lauréats potentiels des Nobel scientifiques sur la base de citations dans les articles de recherche.

David Pendlebury, directeur du cabinet, admet que si l'article de Jumper et Hassabis publié en 2021 a été cité des milliers de fois, il serait inhabituel pour le jury Nobel de récompenser un travail aussi rapidement après sa publication.

Les Nobel récompensent habituellement des découvertes remontant à plusieurs dizaines d'années.

Mais il pense que la recherche assistée par l'IA figurera prochainement en bonne place dans les travaux récompensés par les Nobel.

"Je suis sûr que dans la prochaine décennie, il y aura des prix Nobel qui seront d'une manière ou d'une autre assistés par l'informatique, et l'informatique de nos jours est de plus en plus l'IA", déclare M. Pendlebury à l'AFP.

https://www.boursorama.com/actualite-ec ... eaabd9aebf

[GillesH38]

c'est toujours rigolo les articles qui se contredisent entre le début et la fin... ralalah, c'est pas une IA qui ferait ça

AFP •03/10/2024

Avec les générateurs d'images et les agents conversationnels, l'intelligence artificielle (IA) met à l'épreuve artistes et écrivains, mais les scientifiques jugent qu'elle pourrait révolutionner également la recherche et même figurer en bonne place dans les travaux des Nobel....

Le chercheur concède cependant que l'IA est loin d'être à la hauteur d'un scientifique méritant le Nobel. Il faudrait pour cela des robots "beaucoup plus intelligents" capables de "comprendre la situation dans son ensemble" pour rivaliser avec les Nobel.

- "Pas près d'être remplacée" -

"La tradition scientifique n'est pas près d'être remplacée par des machines", abonde Inga Strümke, professeur associée à l'université norvégienne des sciences et technologies, auprès de l'AFP.

[supert]

energy, je suis complètement nul en informatique et en web et... j'ai duckduckgo comme moteur. Je n'ai rien téléchargé, je ne sais plus ce que j'ai fait mais c'était forcément simple puisque j'ai réussi.
Je suis moyennement satisfait de ce moteur, mais c'est le mien depuis quelques années.


Supert qu'il ne faut pas prendre pour un canard

[Silenius]

La remarque sur le fait de ne pas savoir dire "je ne sais pas" est intéressante. C'est d'ailleurs un problème avec un paquet d'humains. Il faudrait que l'IA soit capable de jauger la qualité de sa réponse en jaugeant la qualité de ses sources. Mais une telle estimation pourrait être difficile surtout en ce qui concerne les contenus les plus "humains" et les moins froidement factuel.

Tu peux essayer de prompter l'IA en rajoutant a la fin de ta question : "si tu ne sais pas, dis que tu ne sais pas" ou alors demande lui une note sur la confiance que tu peux avoir en sa reponse. Essaye avec les différents modeles (l'onglet a gauche)

[GillesH38]

euh mais comment une IA fait pour "savoir" si elle sait ou elle ne sait pas ?

[energy_isere]

voila ce qu'en dit Copilot :

moi :
est ce tu as des questions auxquel tu ne sais pas répondre ?

Copilot
C’est une question intéressante ! Il y a effectivement des sujets pour lesquels je n’ai pas toutes les réponses, surtout si cela concerne des informations très spécifiques ou des sujets très récents pour lesquels je n’ai pas encore de données. Par exemple, des détails très précis sur des événements locaux ou des informations confidentielles.

[nemo]

La remarque sur le fait de ne pas savoir dire "je ne sais pas" est intéressante. C'est d'ailleurs un problème avec un paquet d'humains. Il faudrait que l'IA soit capable de jauger la qualité de sa réponse en jaugeant la qualité de ses sources. Mais une telle estimation pourrait être difficile surtout en ce qui concerne les contenus les plus "humains" et les moins froidement factuel.

Tu peux essayer de prompter l'IA en rajoutant a la fin de ta question : "si tu ne sais pas, dis que tu ne sais pas" ou alors demande lui une note sur la confiance que tu peux avoir en sa reponse. Essaye avec les différents modeles (l'onglet a gauche)

Mon expérience limité avec les IA me rend très sceptique sur la capacité de l'IA à jauger sa compétence à l'heure actuelle. Si une programmation spécifique n'est pas faites je pense que ça risque d'être une belle perte de temps. Mais tu as raison on peut tester assez facilement en demandant de noter son niveau de certitude.
Je corrige parce que j'ai mis IA alors que ce sont les GPT.

[energy_isere]

euh mais comment une IA fait pour "savoir" si elle sait ou elle ne sait pas ?

un exemple ou elle ne sait pas :

Vous
quelle sera l'altitude du Kilimandjaro dans 20 000 ans ?

Envoyé par Copilot :
Prédire l’altitude exacte du Kilimandjaro dans 20 000 ans est très difficile en raison des nombreux facteurs géologiques et climatiques en jeu. Actuellement, le Kilimandjaro culmine à environ 5 895 mètres1. Cependant, plusieurs éléments pourraient influencer son altitude future :

Érosion : Les processus naturels d’érosion pourraient réduire l’altitude de la montagne au fil du temps.
Activité volcanique : Bien que le Kilimandjaro soit un volcan dormant, une éventuelle activité volcanique pourrait modifier sa structure.
Changements climatiques : La fonte des glaciers, déjà en cours, pourrait également affecter l’altitude mesurée de la montagne2.
En résumé, bien que nous puissions spéculer sur ces facteurs, il est impossible de fournir une estimation précise de l’altitude du Kilimandjaro dans 20 000 ans.

[nemo]

C'est différent de ne pas "savoir" parce que l'information existe pas stocké quelque part et de ne pas "savoir" parce qu'incapable de faire une opération simple. Le premier cas est assez facile je pense, c'est sans doute plus compliqué pour le deuxième. Mais là on parle en terme de limite des GPT, pour ce qui concerne les IA c'est pas la même.

[energy_isere]

moi :
Quand tu ne sais pas répondre à une question, comment tu t'y prend pour retourner quelque chose ?

Envoyé par Copilot :

Quand je ne sais pas répondre à une question, voici comment je procède :

1/ Recherche : J’utilise des sources fiables et publiques sur le web pour essayer de trouver l’information pertinente.
2/ Analyse : J’évalue les informations disponibles pour m’assurer qu’elles sont correctes et à jour.
3/ Synthèse : Je compile les informations trouvées pour fournir une réponse claire et concise.
4/ Transparence : Si je ne trouve pas de réponse satisfaisante, je l’indique honnêtement et propose des alternatives ou des suggestions pour obtenir l’information.

Par exemple, si tu me poses une question très spécifique ou récente pour laquelle je n’ai pas de données, je te dirai simplement que je ne peux pas répondre pour le moment, mais je peux te suggérer où chercher ou comment formuler ta question différemment.

-------------------------------------------------------------------------------

voila, sur ces 3 interventions avec Copilot je ne suis pas déçu.

[GillesH38]

mais il n'y a aucune raison de penser qu'une IA réponde correctement quand on lui demande comment elle fonctionne. A un moment chatGPT prétendait avoir un module mathématique ce qui était faux.

Encore une fois elle ne fait qu'aligner des mots qu'elle a appris, qui n'ont aucune raison de correspondre à la réalité, à part bien sûr par le fait que ses constructeurs font tout pour que ça y ressemble le plus possible, mais ce n'est en aucun cas garanti, et en tout cas ce n'est certainement pas le résultat d'une introspection, puisqu'elle ne ressent rien.

Encore hier j'ai vérifié où elle en était pour les règles du bridge, en demandant à Claude d'engendrer 4 mains aléatoires et de produire des enchères. Il y a du mieux dans le fait que les 4 mains sont réelles (13 cartes dans chaque et pas deux fois la même carte, ce qui n'était pas la cas des premières versions de chatGPT), en revanche les enchères sont un peu n'importe quoi - or il affirme les connaitre mais ce n'est pas vrai. Donc aucune fiabilité sur ce qu'il sait de lui même.

EDIT : j'ai réessayé avec chatGPT4.0 mini (fourni par DuckDuckGo), là ça reste du grand n'importe quoi, les jeux n'ont pas le bon nombre de cartes et les enchères n'ont aucun sens.

[LeLama]

Pour l'instant, l'IA est ama un outil mal compris, car les utilisateurs attendent des infos fiables, ce qui n'est pas du tout le cas.

Je prends un exemple. Hier, je demande les livres importants dans l'histoire de la theorie musicale. Il ne cite pas Tchaikovski, ni schonberg, pourtant classiques. Et il me cite un livre de Darius Milhaud que je ne connais pas. Verfication faite, je ne trouve pas ce livre, personne n'en parle. Je lui redemande. Il concede que ce livre n'existe pas ( et donc que ce livre etait une invention de sa part ). J'ai eu des collegues qui ont fait les memes experiences pour des enonces de maths. Des enonce's faux etaient donn'es avec des references virtuelles qui n'existaient pas.

C'est un outil qui reste neanmoins utile s'il est bien utilis'e. Si on aborde un sujet ( les maths, la musique, whatever...), on va avoir plein de mots cle's et de phrases qui permettent de cerner l'ambiance, de comprendre les thematiques classiques pour aborder un sujet. Ce n'est pas rien, avoir une sensation des pbmatiques sur un sujet est souvent tres utile. Mais chaque info est potentiellement tres fausse. Bref, c'est un outil qu'il faut apprendre a utiliser.

Je trouve aussi plus agreable de discuter dans un francais normal que mettre des mots cles dans un moteur de recherche. Ca donne une conversation plus fluide, des reponses plus lisibles ... et fausses. A chacun de trouver si ca lui convient.

[nemo]

Un tel outil demande un apprentissage. Or le but est de mettre ce truc entre toute les mains le plus vite possible et sans aucune préparation préalable. le nombre de personne victime de leur fantasme au quotidien est à mon avis élevé, sur ce sujet comme sur les autres.