ChatGPT et autres LLM

[LeLama]

Je ne crois pas non plus au dualisme, je pense que la conscience émerge bien de la matière mais pas forcément comme une "fonction" qui traite des données pour en sortir en résultat. Elle peut résulter d'une certaine organisation dynamique qui ne se résume pas à une fonction, mais qui soit aussi restreinte à certaines structures qui pourraient être réalisées dans le cerveau (ou dans le corps pourquoi pas) mais pas dans un ordinateur, donc pas interchangeable et indépendant du support comme une machine de Turing. pour prendre un exemple la fusion thermonucléaire n'est pas une "fonction", mais elle ne peut se produire que sous certaines conditions physiques. Je n'ai pas de théorie plus élaborée mais ça ne me semble pas pouvoir être exclus.

Le pb de cette hypothese selon moi est qu'elle ne correspond pas aux donnees experimentales. Que la conscience ou la pensee ait besoin d'un support materiel pour s'exprimer, nous sommes d'accord la dessus. Qu'elle s'explique _entierement_ par un agencement materiel, je ne vois pas de fait experimental qui l'appuie. A l'heure d'aujourd'hui, aucun support matériel connu ni aucune structure physique dégagée n'est associé à l'amour, à l'amitié, à la perception d'une chaise ....

L'aspect expérimental et scientifique plaide plutôt pour l'autre hypothèse ama : la conscience ne peut être réduite à des phénomènes matériels. Les spécialitstes qui réussissent selon moi a dire qq chose d'intelligent ( c'est à dire opératoire) sur le cerveau et la conscience sont les psychologues cognitifs et les psychologues/psychanalistes. Aucun de ces spécialiste ne fait d'hypothèse matérielle sur le cerveau, ni ne cherche d'agencement materiel pour comprendre la conscience. Jung dit explicitement je crois que la conscience ne s'explique pas materiellement. A l'inverse, ceux qui essaient de comprendre le cerveau materiellement en partant de l'hypothèse matérialiste disent des choses que je trouve de très peu d'interet. Et ceux qui essaient de soigner par des medicaments ont aussi des resultats tres discutables et discutés ( les médicaments psychiatriques font partie des plus décriés au monde).

Comme j'aime bien toujours ne pas produire de narratif et me soumettre aux faits, je fais pour ma part l'hypothèse que la conscience n'est pas explicable materiellement. C'est ce point de vue qui est à mes yeux opératoire dans le monde actuel. Pour aller plus loin, je ne vois même pas comment on pourrait changer cette constatation experimentale dans le cadre scientifique actuel. Un element fondamental de la conscience est de produire du signifié à partir de signifiants. C'est presque une définition de la conscience. L'expression de la langue française "prendre conscience" exprime cette idée : Prendre conscience consiste à faire émerger le signifié à partir des signifiants dont on a connaissance. La science parle des signifiants, on peut ajouter des milliers de formules ou de lois de la physique, on ne pourra jamais dire comment extraire un signifié à partir des signifiants.

Un point avec lequel je suis d'accord avec toi est qu'en tout cas cette question de la definissabilité de la conscience est implicite dans l'idee d'IA. Disons qu'il y a trois point de vue:
- le point de vue "experimental" actuel ( qui peut changer a l'avenir): la conscience n'est pas explicable par le prisme matériel, c'est a dire par les lois de la physique
- le point de vue idealiste materialiste : il y a/on trouvera une explication materielle a la conscience
- le point de vue materialiste extreme : il y a une explication materielle a la conscience, realisable concrètement par une machine de Turing.

Ceux qui croient au l'IA générale disent implicitement qu'ils croient à l'hypothèse 3. Moi je crois à la 1. Toi tu crois à la 2.

[nemo]

Quelque réflexion sur la vidéo de MrPhi :
D'abord concernant le fonctionnalisme et les "théories de la conscience" : j'ai pas vraiment de souci avec l'hypothèse elle même.

moi j'ai quelques problèmes avec cette hypothèse, proche du computationalisme (qui spécifie de plus que la "fonction" à exécuter peut être codée par un algorithme discret réalisable par une machine de Turing donc par n'importe quel ordinateur - autrement dit qu'il existe forcément une possibilité de construire des ordinateurs pensants). Je ne trouve pas cette hypothèse si évidente que ça. L'alternative n'est d'ailleurs pas que le dualisme qui supposerait un truc supplémentaire, une "âme" spécifiquement humaine (ou animale ?) qui pose tout autant de problèmes. Je ne crois pas non plus au dualisme, je pense que la conscience émerge bien de la matière mais pas forcément comme une "fonction" qui traite des données pour en sortir en résultat. Elle peut résulter d'une certaine organisation dynamique qui ne se résume pas à une fonction, mais qui soit aussi restreinte à certaines structures qui pourraient être réalisées dans le cerveau (ou dans le corps pourquoi pas) mais pas dans un ordinateur, donc pas interchangeable et indépendant du support comme une machine de Turing. pour prendre un exemple la fusion thermonucléaire n'est pas une "fonction", mais elle ne peut se produire que sous certaines conditions physiques. Je n'ai pas de théorie plus élaborée mais ça ne me semble pas pouvoir être exclus.

toujours pas compirs que je veux que TU ME FOUTES LA PAIX?

[LeLama]

Je ne crois pas non plus au dualisme

Je ne suis pas non plus dualiste. Il n'y a pas dans ma vision conscience d'un côté et matiere de l'autre. Je crois que conscience et matiere s'entremelent tout le temps et que certaines experiences de la vie font plus apparaitre l'une ou l'autre des facettes de cette piece. Un peu comme le pile et le face d'une piece qui se definissent mutuellement. Un peu comme le temps et l'espace en relativité : ce qui est definissable au sens strict, ce sont des evenements de l'espace temps, le temps tout seul n'existe pas, l'espace tout seul n'existe pas. Mais dans la vie "courante", les phenomènes ne sont pas relativistes et on peut en pratique faire comme si le temps et l'espace peuvent etre définis indépendamment, ce qui est pourtant faux au sens strict.

Je pense la meme chose sur la matiere et la conscience. Elles ne sont pas bien definies de façon séparées, elles sont toujours ensemble, mais dans la vie courante on peut souvent parler de la matiere et de la conscience comme si elles etaient séparees.

[nemo]

Je ne crois pas non plus au dualisme

Je ne suis pas non plus dualiste. Il n'y a pas dans ma vision conscience d'un côté et matiere de l'autre. Je crois que conscience et matiere s'entremelent tout le temps et que certaines experiences de la vie font plus apparaitre l'une ou l'autre des facettes de cette piece. Un peu comme le pile et le face d'une piece qui se definissent mutuellement. Un peu comme le temps et l'espace en relativité : ce qui est definissable au sens strict, ce sont des evenements de l'espace temps, le temps tout seul n'existe pas, l'espace tout seul n'existe pas. Mais dans la vie "courante", les phenomènes ne sont pas relativistes et on peut en pratique faire comme si le temps et l'espace peuvent etre définis indépendamment, ce qui est pourtant faux au sens strict.

Je pense la meme chose sur la matiere et la conscience. Elles ne sont pas bien definies de façon séparées, elles sont toujours ensemble, mais dans la vie courante on peut souvent parler de la matiere et de la conscience comme si elles etaient séparees.

Pour ma part je prends ce genre d'hypothèse comme quelque chose d'euristique, vraiment pas comme quelque chose de sérieux par eux même. Nos théories actuelle sont simpliste, n'ont pas de modéle valable et ne doivent pas être prise au pieds de la lettre. Le résultat important qu'on a ici c'est qu'ils arrivent à la conclusion qu'ils ne savent pas de quoi ils parlent. A partir de là on peut toujours rêver qu'ils essayent d'intégrer des points de vue qui dépasse un peu l'approche purement neuronale.

[Glycogène]

Je pense la meme chose sur la matiere et la conscience. Elles ne sont pas bien definies de façon séparées, elles sont toujours ensemble, mais dans la vie courante on peut souvent parler de la matiere et de la conscience comme si elles etaient séparees.

C'est comme la matière (gros ordinateur) et un programme pour faire un gros calcul en physique ou mathématique : ils ne sont pas bien definis de façon séparées, ils sont toujours ensemble (quand ils fonctionnent), mais dans la vie courante on peut souvent parler de l'ordinateur et du programme comme s'ils etaient séparees.

Sinon, dans les théories présentées dans la vidéo, aucune ne semble avoir le critère qu'un système conscient doit modéliser son environnement ET se modéliser lui-même (lui-même dans l'environnement, et modéliser son propre fonctionnement pour pouvoir faire des prévisions sur ce qu'il peut faire).
Pourtant il me semblait que c'était un acquis comme critère nécessaire.
Il manque aussi le critère que le système doit être doué de capacité d'apprentissage. Pas juste une étape d'apprentissage, puis une utilisation, comme on fait pour les LLM. Mais un apprentissage (modification des paramètres internes) en permanence.
Ces 2 points me semblent évidents, mais ne sont même pas mentionnés dans l'article. Du coup, quand le chercheur fabrique des système minimalistes qui respectent les critères, il passe à côté des critères essentiels de mon point de vue.
Enfin bref, encore un papier pour augmenter ses stats. Ils en feront surement d'autres tous les 6 mois avec des petites avancées, ça augmentera leurs nb de papier à pas cher.

[nemo]

Enfin bref, encore un papier pour augmenter ses stats. Ils en feront surement d'autres tous les 6 mois avec des petites avancées, ça augmentera leurs nb de papier à pas cher.

T'es méchant avec eux. Si cela permet de diffuser l'idée de l'insuffisance des modèles actuels c'est pas complétement inutile.

[GillesH38]

Je ne crois pas non plus au dualisme, je pense que la conscience émerge bien de la matière mais pas forcément comme une "fonction" qui traite des données pour en sortir en résultat. Elle peut résulter d'une certaine organisation dynamique qui ne se résume pas à une fonction, mais qui soit aussi restreinte à certaines structures qui pourraient être réalisées dans le cerveau (ou dans le corps pourquoi pas) mais pas dans un ordinateur, donc pas interchangeable et indépendant du support comme une machine de Turing. pour prendre un exemple la fusion thermonucléaire n'est pas une "fonction", mais elle ne peut se produire que sous certaines conditions physiques. Je n'ai pas de théorie plus élaborée mais ça ne me semble pas pouvoir être exclus.

Le pb de cette hypothese selon moi est qu'elle ne correspond pas aux donnees experimentales. Que la conscience ou la pensee ait besoin d'un support materiel pour s'exprimer, nous sommes d'accord la dessus. Qu'elle s'explique _entierement_ par un agencement materiel, je ne vois pas de fait experimental qui l'appuie. A l'heure d'aujourd'hui, aucun support matériel connu ni aucune structure physique dégagée n'est associé à l'amour, à l'amitié, à la perception d'une chaise ....

bah bien sûr que si, le cerveau. Je ne connais personne qui exprime avoir ces sentiments ou ces sensations (ces "qualia" ) sans cerveau. On ne sait pas comment mais tu ne peux pas dire que "aucun support matériel connu ni aucune structure physique dégagée n ' [y] est associé"

L'aspect expérimental et scientifique plaide plutôt pour l'autre hypothèse ama : la conscience ne peut être réduite à des phénomènes matériels.

je ne vois pas comment on peut affirmer ça.De fait, c'est le contraire : aucune des prétentions (très nombreuses) à associer la conscience à des phénomènes hors des lois matérielles connues (genre parapsychologie, divination, vision à distance, astrologie, voire "miracles" ) n'a été corroborée par des expériences scientifiques crédibles. Vu le nombre de propositions et de croyances très répandues que c'est possible, l'échec expérimental pour les mettre en évidence est plutôt une preuve solide qu'il n'y a RIEN qui échappe à des phénomènes matériels et à leur contrainte.

Cependant, le besoin de croire le contraire est lui une donnée incontestable de la psychologie humaine.

Les spécialitstes qui réussissent selon moi a dire qq chose d'intelligent ( c'est à dire opératoire) sur le cerveau et la conscience sont les psychologues cognitifs et les psychologues/psychanalistes. Aucun de ces spécialiste ne fait d'hypothèse matérielle sur le cerveau, ni ne cherche d'agencement materiel pour comprendre la conscience. Jung dit explicitement je crois que la conscience ne s'explique pas materiellement. A l'inverse, ceux qui essaient de comprendre le cerveau materiellement en partant de l'hypothèse matérialiste disent des choses que je trouve de très peu d'interet. Et ceux qui essaient de soigner par des medicaments ont aussi des resultats tres discutables et discutés ( les médicaments psychiatriques font partie des plus décriés au monde).

ça n'a pas grand chose à voir avec le sujet. Jung avait une position particulière en psychanalyse et s'opposait à Freud, qui lui avait commencé sa carrière en étudiant l'influx nerveux à la suite des expériences de Helmholtz qui étaient le début de la "biophysique" et était persuadé que les progrès de la physique permettraient un jour de comprendre le cerveau, mais qu'en attendant la psychanalyse était une description "high level" de son fonctionnement. Il ne remettait pas en cause le support matériel de la conscience.

Un point avec lequel je suis d'accord avec toi est qu'en tout cas cette question de la definissabilité de la conscience est implicite dans l'idee d'IA. Disons qu'il y a trois point de vue:
- le point de vue "experimental" actuel ( qui peut changer a l'avenir): la conscience n'est pas explicable par le prisme matériel, c'est a dire par les lois de la physique
- le point de vue idealiste materialiste : il y a/on trouvera une explication materielle a la conscience
- le point de vue materialiste extreme : il y a une explication materielle a la conscience, realisable concrètement par une machine de Turing.

Ceux qui croient au l'IA générale disent implicitement qu'ils croient à l'hypothèse 3. Moi je crois à la 1. Toi tu crois à la 2.

plutot que "explication" matérielle, je parlerais plutot de "description" matérielle. La science n'explique pas vraiment pourquoi il y a des charges électriques, des interactions nucléaires fortes et faible, les rapport de masse des particules etc ...elle se contente de le décrire et de trouver des lois qui les régissent. Je pense qu'effectivement le cerveau ne viole jamais ces lois, c'est pour ça qu'on peut en faire une description matérielle. Je ne pense pas qu'on puisse jamais "expliquer" pourquoi certaines configurations de ce cerveau produisent de la conscience et pas d'autres, mais peut etre pourrait on préciser sous quelles conditions elles en produisent. Je suis assez dubitatif sur nos capacités concrètes à le faire, mais si on le fait un jour, il est fort possible que ces conditions ne soient pas "purement algorithmiques".

[LeLama]

bah bien sûr que si, le cerveau. Je ne connais personne qui exprime avoir ces sentiments ou ces sensations (ces "qualia" ) sans cerveau.

Faute de logique. Je ne connais personne sans poumon ou sans moelle epiniere qui ait des sentiments.

[LeLama]

je ne vois pas comment on peut affirmer ça.De fait, c'est le contraire : aucune des prétentions (très nombreuses) à associer la conscience à des phénomènes hors des lois matérielles connues (genre parapsychologie, divination, vision à distance, astrologie, voire "miracles" )

Deuxieme faute de logique. Dire que la conscience ne suit pas les lois materielles ne veut pas dire qu'elle suive une autre loi. Ca peut vouloir dire ne pas suivre de loi. C'est justement l'absence de loi et de déterminisme qui nous permet d'exprimer notre libre arbitre, pour ceux comme moi qui croient au libre arbitre.

[nemo]

Deuxieme faute de logique. Dire que ca ne suit pas les lois materielles ne veut pas dire suivre une autre loi. Ca peut vouloir dire ne pas suivre de loi.

Ne pas suivre de loi? Cela voudrait dire être inconnaissable. Or c'est pas le cas la conscience est connaissable. Mais le paradigme dans lesquels ces lois sont appréhendable est pas celui des lois physiques au sens restrictifs. Le mot "matériel" est ici très trompeur la conscience est pas exclu de la matière : c'est la matière qui ne s'exclu pas des lois de la conscience. Bon il faudrait introduire ici des notions que les matérialistes stricts refusent...

[LeLama]

Deuxieme faute de logique. Dire que ca ne suit pas les lois materielles ne veut pas dire suivre une autre loi. Ca peut vouloir dire ne pas suivre de loi.

Ne pas suivre de loi? Cela voudrait dire être inconnaissable. Or c'est pas le cas la conscience est connaissable. Mais le paradigme dans lesquels ces lois sont appréhendable est pas celui des lois physiques au sens restrictifs.

OK avec cette remarque. Quand je disais pas de lois, c'est pas de lois au sens du materialisme et de choses objectivables. C'est un peu comme l'esthétique. Si tu veux faire un beau dessin ou faire une belle maison, il y a des elements de comprehension, mais ce n'est pas deterministe au même titre que les sciences physiques, ces elements de comprehension s'expriment dans un langage symbolique et poétique, et pas dans le langage objectif des sciences. C'est la meme chose selon moi pour notre psyché ( Side note : C'est d'ailleurs pour ca que je trouve Freud un peu débile, il essaie de plaquer une comprehension tres sciences dures sur le monde sur le fonctionnement de la psyché ).

Pour bien se comprendre, pour ma part j'emploie le mot "loi" dans le sens "loi physique" avec un déterminisme direct qui ne laisse pas de place à la subjectivité et à l'interprétation. C'est en ce sens que le conscient et l'inconscient ne suivent pas de lois.

[Silenius]

Je ne crois pas non plus au dualisme

Je ne suis pas non plus dualiste. Il n'y a pas dans ma vision conscience d'un côté et matiere de l'autre.

Les nombreux temoignages de NDE semblent indiquer que la conscience peut exister sans matiere.

[nemo]

Deuxieme faute de logique. Dire que ca ne suit pas les lois materielles ne veut pas dire suivre une autre loi. Ca peut vouloir dire ne pas suivre de loi.

Ne pas suivre de loi? Cela voudrait dire être inconnaissable. Or c'est pas le cas la conscience est connaissable. Mais le paradigme dans lesquels ces lois sont appréhendable est pas celui des lois physiques au sens restrictifs.

OK avec cette remarque. Quand je disais pas de lois, c'est pas de lois au sens du materialisme et de choses objectivables. C'est un peu comme l'esthétique. Si tu veux faire un beau dessin ou faire une belle maison, il y a des elements de comprehension, mais ce n'est pas deterministe au même titre que les sciences physiques, ces elements de comprehension s'expriment dans un langage symbolique et poétique, et pas dans le langage objectif des sciences. C'est la meme chose selon moi pour notre psyché ( Side note : C'est d'ailleurs pour ca que je trouve Freud un peu débile, il essaie de plaquer une comprehension tres sciences dures sur le monde sur le fonctionnement de la psyché ).

Pour bien se comprendre, pour ma part j'emploie le mot "loi" dans le sens "loi physique" avec un déterminisme direct qui ne laisse pas de place à la subjectivité et à l'interprétation. C'est en ce sens que le conscient et l'inconscient ne suivent pas de lois.

Les explications de Freud sont complétement à coté de la plaque, c'est certain. L'intéret de son travail se sont ses observations. Ses explications je n'insiste pas mais c'est pris dans une vision totalement dépassé, très 19éme en fait.
Mais je ne suis pas d'accord avec toi c'est pas que ce n'est pas objectivable, ce sont nos outils qui sont inadaptés. Il est difficile à l'extrême de faire de la conscience un objet parce qu'on est pris dans une foule de contradiction quand on essaie.
Si on réfléchit bien à la notion de psyché (lire Jung les Racines de la conscience ou il explique bien ça je trouve) on arrive a des choses indécidables : il parle d'objet "psychoïdes" c'est à dire semblable à la psyché, "limite" entre le corporel et le psychique. Or ce qui est psychique est ce qui peut devenir conscient. Il nous manque un point d'appuis pour parler comme lui, un "extérieur" d'où la conscience puisse être observé. Tu dois avoir une idée de ce que peut être ce point d'appuis, mais pour ça il faut admettre un au delà de la l'ensemble corps/psyché. Enfin, au de là est pas le bon mot, plutôt u n point "oméga".

[nemo]

Je ne crois pas non plus au dualisme

Je ne suis pas non plus dualiste. Il n'y a pas dans ma vision conscience d'un côté et matiere de l'autre.

Les nombreux temoignages de NDE semblent indiquer que la conscience peut exister sans matiere.

Il y a pas tant de cas que cela qu'on peut détacher du fonctionnement cérébral. Il y a que quelque cas ou on est sur que le fonctionnement cérébral est physiquement impossible et qui pourtant montre des perceptions de l'environnement. Tout cela doit encore être étudié. Malheureusement c'est un domaine ou "pro" et "anti" perdent toutes objectivité et les avancées "sures" sont très faibles.

[GillesH38]

bah bien sûr que si, le cerveau. Je ne connais personne qui exprime avoir ces sentiments ou ces sensations (ces "qualia" ) sans cerveau.

Faute de logique. Je ne connais personne sans poumon ou sans moelle epiniere qui ait des sentiments.

certes mais les blessures au poumon ou à la moelle épinière ne provoquent pas d'incapacité à être conscient ou de modification de la conscience.

En revanche elle provoquent des problèmes pour respirer dans un cas, et possiblement des paralysies motrices dans l'autre. Ca pourrait t'aiguiller sur leurs fonctions vitales peut être ?