ChatGPT et autres LLM

[Glycogène]

Vidéo de Mr Phi : https://youtu.be/j2zv4jlo2Nw?si=eusD3Uhre9sJFKP8

Conscience et IA : que savons-nous vraiment ?

Cette vidéo est un partenariat avec le MESEC (Mediterranean Society for Consciousness Science) : https://mesec.co/

Le gros article dont je parle tout au long de la vidéo "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness" : https://arxiv.org/abs/2308.08708

Merci à Adrien Doerig ! Vous pouvez lire son article : "Hard criteria for empirical theories of consciousness" https://www.tandfonline.com/doi/full/10 ... 20.1772214

Sommaire

0:00 - Intro : pourquoi ChatGPT joue le rôle d'une IA dénuée de conscience ?
1:05 - Parce qu'on demande aux LLM de jouer ce rôle
4:46 - Le cas Blake Lemoine et le test de Turing
7:50 - L'article "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness"
10:53 - 1er présupposé : le fonctionnalisme
12:53 - 2e présupposé : des théories scientifiques de la conscience
15:52 - 3e présupposé : une approche chargée en théorie
17:38 - Présentation de la Global Workplace Theory (GWT) ou théorie de l'espace de travail global
20:58 - Sur le mécanisme de sélection
23:01 - Des données expérimentales à l'appui de GWT
25:57 - Les quatre propriétés indicatives de la consciences selon GWT
27:39 - Les transformers satisfont-ils les propriétés indicatives de la conscience selon GWT ?
30:00 - Des propriétés trop faciles à satisfaire : l'argument des "petits réseaux"
33:54 - Le système immunitaire ou une administration sont-elles conscientes selon les critères de GWT ?
36:24 - Le présent et l'avenir des sciences de la conscience
38:21 - Hermes-3 : les crises existentielles d'un LLM
40:50 - Observer le comportement et le fonctionnement interne d'un système ne suffit plus pour écarter la possibilité de la conscience
43:27 - Petite parenthèse sur l'interprétabilité des LLM
45:35 - Conclusion : de l'importance des théories de la conscience pour déterminer si un système IA est conscient
46:58 - Outro

[energy_isere]

Vidéo de Mr Phi : https://youtu.be/j2zv4jlo2Nw?si=eusD3Uhre9sJFKP8

Conscience et IA : que savons-nous vraiment ?

Cette vidéo est un partenariat avec le MESEC (Mediterranean Society for Consciousness Science) : https://mesec.co/

ah merci, OK, il vient de la mettre sur sa chaine aujourd'hui ! Vais regarder ça séance tenante.

[energy_isere]

donc (minute 40) on manque toujours de théories pour nous permettre d'identifier rigoureusement et précisément ce qui est conscient ou non.

Et ca fait l'objet de recherche actuelles. Merci pour la discussion avec le spécialiste (Adrien Doerig) .



et puis dans le passage de la vidéo ou il faut compter les passes du ballons entre les humains en T-shirt blanc je me suis fait avoir comme un bleu alors que j'avais lu par 2 fois cette expérience dans les bouquins au sujet de cette experience ! (je ne tease pas ce dont il s'agit), mince alors.

Voila, bonne vidéo comme d'habitude avec Mr Phi.

[GillesH38]

Sur FS j'avais fait des remarques sur le test de Turing (le genre de remarque qui me faisait faire insulter et traiter de con ...).

la remarque c'est qu'il y a une contradiction à définir l'intelligence par le fait qu'on ne peut pas distinguer une conversation d'un humain, comme l'avait fait Turing. Car l'intelligence, ce n'est pas vraiment ça : c'est plutot une perception juste de la réalité. Or une machine , pour ne pas se faire reconnaitre comme une machine par un test de Turing, doit affirmer qu'elle est humaine pour ne pas se faire détecter, et donc ment sur la réalité. On pourrait imaginer qu'elle sait qu'elle est une machine et qu'elle "ment" consciemment, mais comment le savoir si on se repose justement sur le langage pour tester la conscience ?
L'introduction de la video de MrPhi soulève bien cette contradiction : une machine entrainée sur les textes humains va dire qu'elle est humaine, et donc n'est pas "'intelligente" au sens de la perception d'une réalité - il faut la forcer à dire qu'elle est une machine, mais dans ce cas elle ne passe plus le test de Turing.

Donc je pense que ce que je disais sur FS n'était pas si con

[GillesH38]

et puis dans le passage de la vidéo ou il faut compter les passes du ballons entre les humains en T-shirt blanc je me suis fait avoir comme un bleu alors que j'avais lu par 2 fois cette expérience dans les bouquins au sujet de cette experience ! (je ne tease pas ce dont il s'agit), mince alors.

si vous ne connaissez pas, je vous conseille aussi la vidéo du tour incroyable de changement de couleur ...(en anglais)

https://www.youtube.com/watch?v=v3iPrBrGSJM

[Jeudi]

(Copilote devrait t’amener sur Turing, Dennett, Churchland)

celui la https://fr.wikipedia.org/wiki/Paul_Churchland ? Mais je vois pas bien le rapport avec l'IA à ce stade.
Un article de moins de 5 ans de lui sur l' IA ?

Plutôt sa femme, Patricia. La question que tu posais était « saura t'on trouver un pack de critères pour trancher«. Si tu ne lis pas ces auteurs, tu ne comprends pas ta question. (Pas vu Dr Phi, mais d’habitude il est bon)

[energy_isere]

[
Plutôt sa femme, Patricia.

OK

Patricia Churchland est philosophe des sciences dont les recherches s'intéressent à l'interface entre la philosophie et les neurosciences. Pour elle, pour comprendre l'esprit, les philosophes devraient comprendre le cerveau. Elle est associée à une école de pensée appelée matérialisme éliminativiste qui soutient que le sens commun, l'immédiatement intuitif, ou les concepts de la psychologie naïve, telles que la pensée, le libre arbitre et la conscience devront être révisées à l'aune du progrès scientifique et d'une manière physiquement réductionniste car les neuroscientifiques découvrent de plus en plus la nature du cerveau et des fonctions cérébrales4.
https://fr.wikipedia.org/wiki/Patricia_Churchland

Faudra que je creuse.

[energy_isere]

Sur FS j'avais fait des remarques sur le test de Turing (le genre de remarque qui me faisait faire insulter et traiter de con ...).

la remarque c'est qu'il y a une contradiction à définir l'intelligence par le fait qu'on ne peut pas distinguer une conversation d'un humain, comme l'avait fait Turing. Car l'intelligence, ce n'est pas vraiment ça : c'est plutot une perception juste de la réalité. Or une machine , pour ne pas se faire reconnaitre comme une machine par un test de Turing, doit affirmer qu'elle est humaine pour ne pas se faire détecter, et donc ment sur la réalité. On pourrait imaginer qu'elle sait qu'elle est une machine et qu'elle "ment" consciemment, mais comment le savoir si on se repose justement sur le langage pour tester la conscience ?
L'introduction de la video de MrPhi soulève bien cette contradiction : une machine entrainée sur les textes humains va dire qu'elle est humaine, et donc n'est pas "'intelligente" au sens de la perception d'une réalité - il faut la forcer à dire qu'elle est une machine, mais dans ce cas elle ne passe plus le test de Turing.

Donc je pense que ce que je disais sur FS n'était pas si con

je crois que maintenant on peut dire que la déclaration de Turing était trop simpliste à l'époque (mais moi même je n'aurais pas pu dire çà a cette époque). Les choses se compliquent vraiment et il faut arriver à définir ce que veut dire intelligence , ce que veut dire conscience. Comme dit Mr Phi les choses se brouillent avec ce qu'on voit arriver dans la recherche en IA.

dans la vidéo de Mr Phi à 41mm30s :....... Sauf qu'e, on en arrive à un point ou les choses vont commencer à se brouiller sérieusement pour certains systémes que nous créons .......

[energy_isere]

et puis dans le passage de la vidéo ou il faut compter les passes du ballons entre les humains en T-shirt blanc je me suis fait avoir comme un bleu alors que j'avais lu par 2 fois cette expérience dans les bouquins au sujet de cette experience ! (je ne tease pas ce dont il s'agit), mince alors.

si vous ne connaissez pas, je vous conseille aussi la vidéo du tour incroyable de changement de couleur ...(en anglais)

https://www.youtube.com/watch?v=v3iPrBrGSJM

Me suis fait bien avoir. j'ai vu seulement un quart de ce qu'il fallait prêter attention, (je tease pas)

[LeLama]

Comme dit Mr Phi les choses se brouillent avec ce qu'on voit arriver dans la recherche en IA.

Définir la conscience me semble au contraire un tres vieux problème, car les animaux, les bébés, les somnambules ou les coups de folie existent depuis toujours. Les animaux sont infiniment plus performants que les IA dans le sens de l'adaptation au milieu, et c'est deja difficile de donner une definition de la conscience qui soit opératoire avec les animaux ou le vivant. Et meme pour les humains, on ne sait pas donner de definition opératoire, ce qui rend difficile la question de la responsabilité pénale de certains crimes. Est ce qu'il y a conscience dès les premiers jours de la conception ? Comment dissocier la conscience du langage ? Le petit humain est conscient bien avant de savoir parler.

[energy_isere]

Oui bien sur, mais on parlait avec Mr Phi des ''systèmes que nous créons''.

[Jeudi]

Vidéo de Mr Phi : https://youtu.be/j2zv4jlo2Nw?si=eusD3Uhre9sJFKP8

Conscience et IA : que savons-nous vraiment ?

Cette vidéo est un partenariat avec le MESEC (Mediterranean Society for Consciousness Science) : https://mesec.co/

Le gros article dont je parle tout au long de la vidéo "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness" : https://arxiv.org/abs/2308.08708

Merci à Adrien Doerig ! Vous pouvez lire son article : "Hard criteria for empirical theories of consciousness" https://www.tandfonline.com/doi/full/10 ... 20.1772214

Sommaire

0:00 - Intro : pourquoi ChatGPT joue le rôle d'une IA dénuée de conscience ?
1:05 - Parce qu'on demande aux LLM de jouer ce rôle
4:46 - Le cas Blake Lemoine et le test de Turing
7:50 - L'article "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness"
10:53 - 1er présupposé : le fonctionnalisme
12:53 - 2e présupposé : des théories scientifiques de la conscience
15:52 - 3e présupposé : une approche chargée en théorie
17:38 - Présentation de la Global Workplace Theory (GWT) ou théorie de l'espace de travail global
20:58 - Sur le mécanisme de sélection
23:01 - Des données expérimentales à l'appui de GWT
25:57 - Les quatre propriétés indicatives de la consciences selon GWT
27:39 - Les transformers satisfont-ils les propriétés indicatives de la conscience selon GWT ?
30:00 - Des propriétés trop faciles à satisfaire : l'argument des "petits réseaux"
33:54 - Le système immunitaire ou une administration sont-elles conscientes selon les critères de GWT ?
36:24 - Le présent et l'avenir des sciences de la conscience
38:21 - Hermes-3 : les crises existentielles d'un LLM
40:50 - Observer le comportement et le fonctionnement interne d'un système ne suffit plus pour écarter la possibilité de la conscience
43:27 - Petite parenthèse sur l'interprétabilité des LLM
45:35 - Conclusion : de l'importance des théories de la conscience pour déterminer si un système IA est conscient
46:58 - Outro

Excellent merci.

[nemo]

Quelque réflexion sur la vidéo de MrPhi :
D'abord concernant le fonctionnalisme et les "théories de la conscience" : j'ai pas vraiment de souci avec l'hypothèse elle même. Le problème c'est surtout qu'on réduit le phénomène à ce qu'on mesure : ici typiquement le fonctionnement cérébral. Or rien ne dit que la conscience soit une fonction purement cérébrale. On a au contraire de très bonne raison de penser que le reste du corps participe à la conscience de diverse façon et encore plus à la psyché au sens large. Sauf que comme on sait pas isoler ça du reste du fonctionnement physiologique, et quels sont les phénomènes pertinents (au contraire du fonctionnement neuronal) on les ignore. Dans le principe ce n'est pas un souci, on étudie avec ce qu'on peut/sait mesurer c'est parfaitement normal. Ce qui l'est pas c'est de prétendre que ça résume le phénomène alors qu'on sait que c'est faux.
Dans l'explication de la "espace de travail global" on voit bien comment la conscience est totalement confondu (dans les deux sens du terme) avec la capacité de "travail" des lobes frontaux. C'est à dire une vison extrêmement étriqué de la conscience. J'aurais tendance à parler d'une conscience "de surface". Autrement dit même si les LLM répondaient aux critères réunit dans ces théories ont est pas dans de la conscience au sens des êtres vivants.
Adrien Doerig le dit dans la vidéo : les théories actuels de la conscience sont simplistes. La conformité des LLM à ces théories même si elle se trouvait réalisé dans les faits ne dirait rien de plus que nos limites dans la formulation de ce qu'est vraiment la conscience.
La conclusion est comique de mon point de vue : "Pour savoir si les IA sont consciente il faut savoir ce qu'est la conscience" Sans blague?

[GillesH38]

Quelque réflexion sur la vidéo de MrPhi :
D'abord concernant le fonctionnalisme et les "théories de la conscience" : j'ai pas vraiment de souci avec l'hypothèse elle même.

moi j'ai quelques problèmes avec cette hypothèse, proche du computationalisme (qui spécifie de plus que la "fonction" à exécuter peut être codée par un algorithme discret réalisable par une machine de Turing donc par n'importe quel ordinateur - autrement dit qu'il existe forcément une possibilité de construire des ordinateurs pensants). Je ne trouve pas cette hypothèse si évidente que ça. L'alternative n'est d'ailleurs pas que le dualisme qui supposerait un truc supplémentaire, une "âme" spécifiquement humaine (ou animale ?) qui pose tout autant de problèmes. Je ne crois pas non plus au dualisme, je pense que la conscience émerge bien de la matière mais pas forcément comme une "fonction" qui traite des données pour en sortir en résultat. Elle peut résulter d'une certaine organisation dynamique qui ne se résume pas à une fonction, mais qui soit aussi restreinte à certaines structures qui pourraient être réalisées dans le cerveau (ou dans le corps pourquoi pas) mais pas dans un ordinateur, donc pas interchangeable et indépendant du support comme une machine de Turing. pour prendre un exemple la fusion thermonucléaire n'est pas une "fonction", mais elle ne peut se produire que sous certaines conditions physiques. Je n'ai pas de théorie plus élaborée mais ça ne me semble pas pouvoir être exclus.

[energy_isere]

[
Plutôt sa femme, Patricia.

OK

Patricia Churchland est philosophe des sciences dont les recherches s'intéressent à l'interface entre la philosophie et les neurosciences. Pour elle, pour comprendre l'esprit, les philosophes devraient comprendre le cerveau. Elle est associée à une école de pensée appelée matérialisme éliminativiste qui soutient que le sens commun, l'immédiatement intuitif, ou les concepts de la psychologie naïve, telles que la pensée, le libre arbitre et la conscience devront être révisées à l'aune du progrès scientifique et d'une manière physiquement réductionniste car les neuroscientifiques découvrent de plus en plus la nature du cerveau et des fonctions cérébrales4.
https://fr.wikipedia.org/wiki/Patricia_Churchland

Faudra que je creuse.

Pas trouvé grand chose en Français.
ceci quand méme : https://www.lecho.be/economie-politique ... 44555.html