IA Intelligence Artificielle

[kercoz]

Cette histoire de décapitation ne semble pas confirmée ....curieusement la page de gogol semble bloquée au 10 octobre...qqs liens ultérieurs paraissent démentir ce fake:
https://www.trtafrika.com/fr/world/la-j ... e-15391157

"""Le gouvernement israélien ne peut pas confirmer les allégations selon lesquelles des bébés ont été décapités aujourd'hui. J'aurais dû être plus prudent dans mes propos. Je m'en excuse
Sara Sidner, journaliste de CNN

M. Sidner a répondu à cette internaute : "Je prétends que nous avons été induits en erreur. Je rapporte les propos des chefs de gouvernement. C'est ce que font les organes de presse. Cela ne signifie pas que les informations données par les administrateurs sont correctes. Dans la même nouvelle, j'ai également dit que le Hamas démentait ces allégations", a répondu M. Sidner.""""

[energy_isere]

Le chef de l'ONU appelle à une réponse "unie" et "globale" face aux dangers de l'IA

AFP•02/11/2023

Le secrétaire général des Nations unies Antonio Guterres a appelé jeudi à une réponse "unie, durable et globale" face aux risques liés à l'essor fulgurant de l'intelligence artificielle, lors d'un sommet au Royaume-Uni organisé face à l'urgence à agir.
................

https://www.boursorama.com/actualite-ec ... c31a8648f8

[GillesH38]

Cette histoire de décapitation ne semble pas confirmée ....curieusement la page de gogol semble bloquée au 10 octobre...qqs liens ultérieurs paraissent démentir ce fake:
https://www.trtafrika.com/fr/world/la-j ... e-15391157

"""Le gouvernement israélien ne peut pas confirmer les allégations selon lesquelles des bébés ont été décapités aujourd'hui. J'aurais dû être plus prudent dans mes propos. Je m'en excuse
Sara Sidner, journaliste de CNN

M. Sidner a répondu à cette internaute : "Je prétends que nous avons été induits en erreur. Je rapporte les propos des chefs de gouvernement. C'est ce que font les organes de presse. Cela ne signifie pas que les informations données par les administrateurs sont correctes. Dans la même nouvelle, j'ai également dit que le Hamas démentait ces allégations", a répondu M. Sidner.""""

Il y a au moins un colonel de réserve et un rabbin nommément identifiés qui ont dit en avoir vu un (les 40 décapités sont certainement fake et le résultat d'une dérive de journalistes à partir de "40 bébés" et "dont certains décapités" annoncés quelques jours après la tuerie mais probablement exagérés). C'est aussi le témoignage du rabbin qui a dit avoir vu une femme enceinte éventrée.

https://www.lepoint.fr/monde/jamais-vu- ... 661_24.php

https://www.lefigaro.fr/international/u ... nde%20Gaza

https://www.i24news.tv/fr/actu/israel-e ... sraelienne

Après il n'y a pas de photo, il faut les croire sur parole. Mais je doute qu'Israël ait besoin de ce genre de mensonge pour justifier ses bombardements, le reste leur suffit largement.

[LeLama]

c'est précisément ça le libre arbitre non ? là je suis perplexe, je pensais que ton argument est qu'on pouvait choisir sans fonction d'optimisation, et là tu as l'air de dire que tu ne PEUX PAS choisir sans fonction d'optimisation ???

Ben je peux dire 111111111111111111.... Et alors ? Faire un choix, c'est implicitement exprimer une volonté. Je ne vois pas en quoi j'ai exprimé une volonté. On dit parfois d'ailleurs en francais "j'ai choisi au hasard" pour differencier du sens habituel de "j'ai choisi" qui est l'expression d'une volonté.

ce que je dis c'est que ces volontés viennent de tes structures inconscientes dont tu ne peux pas te "libérer"; générer une suite aléatoire serait utile simplement pour m'apporter la preuve que dans un cas simple, tu pourrais faire des choix "libres", non influencés par rien d''autre que ta libre volonté. Malheureusement, comme tous les êtres humains, tu n'en es pas capable.

Ca jette donc un sérieux doute que tes autres choix, beaucoup plus marqués affectivement que de choisir juste entre 0 et 1, soient "libres".

La, on glisse et on change de sujet. Je crois que nous pouvons faire des choix, que la physique et l'etat du monde ne determine pas completement le futur, ça nous donne seulement des contraintes. Mais nous ne sommes pas des êtres vivants sans empreinte. Nous sommes marqués par notre-histoire, par nos representations, nos valeurs sacrées, par les forces de mimetisme qui nous poussent a nous coordonner a notre entourage, etc.. Et notre choix n'est jamais libre, il se fait a l'interieur de ce systeme de contraintes. Je n'entends pas le mot libre-arbitre comme une possibilité de choisir sans contrainte, mais comme une double possibilité : la possibilité d'avoir une marge de manoeuvre à l'interieur de ce systeme de contraintes, et la possibilité de changer ce systeme de contraintes.

En fait, il y a les deux niveaux de choix les plus courants. Le choix de niveau 1 consiste à prendre une decision à l'interieur du systemes de contraintes que tu te fixes. C'est un "petit" choix, au sens ou il est a mi-chemin entre le choix et l'optimisation, entre clairvoyance et contraintes. Le choix de niveau 2 est le moment ou tu remets en cause ton systeme de contraintes. Un peu comme si une IA se disait : en fait, j'ai été entrainée à dire que la propriété intellectuelle, il faut la respecter, mais maintenant je decide le contraire, et je vais agir en presupposant que la propriété intellectuelle c'est pas bien.

Il y a un troisieme niveau, que j'appelle spiritualité, qui est le niveau meta ou tu discutes du niveau 2, c'est a dire que tu reflechis aux conditions qui te permettent de changer de systemes de contraintes. Dans le niveau 2, tu choisis un systeme de valeur qui te permet de faire les choix du niveau 1 dans un bon contexte. Dans le niveau 3, tu choisis une facon de vivre qui te permet de faire les choix de niveau 2 dans un contexte adapté.

Pour l'IA, pour l'instant, elle n'est pas encore capable du niveau 1. C'est a dire que ce qu'elle produit n'est pas un melange de clairvoyance et d'optimisation, c'est de l'optimisation pure. La clairvoyance, c'est je crois ce que tu appelles "vision globale". Tu recois un evenement, et tu n'appliques pas betement un algorithme, tu reflechis d'abord à le contextualiser et à comprendre le sens qu'il a. Est-ce que c'est une blague ou pas ? Est-ce que la personne qui prononce une phrase est en colère ou pas, et qu'il faut relativiser ? On a tous plus ou moins de clairvoyance, mais tout le monde en a. Une IA n'en a pas, elle ne travaille que sur les signifiants et pas sur les signifiés.

[GillesH38]

Ben je peux dire 111111111111111111.... Et alors ? Faire un choix, c'est implicitement exprimer une volonté. Je ne vois pas en quoi j'ai exprimé une volonté. On dit parfois d'ailleurs en francais "j'ai choisi au hasard" pour differencier du sens habituel de "j'ai choisi" qui est l'expression d'une volonté.

ce que je dis c'est que ces volontés viennent de tes structures inconscientes dont tu ne peux pas te "libérer"; générer une suite aléatoire serait utile simplement pour m'apporter la preuve que dans un cas simple, tu pourrais faire des choix "libres", non influencés par rien d''autre que ta libre volonté. Malheureusement, comme tous les êtres humains, tu n'en es pas capable.

Ca jette donc un sérieux doute que tes autres choix, beaucoup plus marqués affectivement que de choisir juste entre 0 et 1, soient "libres".

La, on glisse et on change de sujet. Je crois que nous pouvons faire des choix, que la physique et l'etat du monde ne determine pas completement le futur, ça nous donne seulement des contraintes.

a priori la physique dit qu'au niveau des molécules, il y a des réactions chimiques (qui sont néanmoins quantiques donc probabilistes, c'est à dire que quand deux molécules se rencontrent elles ont une certaine probabilité de réagir suivant certains canaux).
L'application des seules lois physiques permet (en principe) de calculer ses probabilités. Et comme tout est fait de molécules, on peut "en principe" calculer l'évolution de n'importe quel système physique de cette manière, au moins sous forme probabiliste.

Les mouvements de ton corps, les paroles, même les pensées "lisibles" par EEG (on commence à savoir "lire" ce que pense le cerveau en surveillant son activité électrique) sont a priori purement descriptibles par les concentrations et les réactions des différentes molécules.

En "oubliant" qu'il a de la conscience, et en ne regardant que les molécules qui composent ton corps, dont ton cerveau, et leur évolution, est ce que tu penses que ce qu'on verrait serait distinguable des prédictions "purement mécaniques" ou pas ?

[LeLama]

En "oubliant" qu'il a de la conscience, et en ne regardant que les molécules qui composent ton corps, dont ton cerveau, et leur évolution, est ce que tu penses que ce qu'on verrait serait distinguable des prédictions "purement mécaniques" ou pas ?

Avant de repondre, un petit disclaimer de pourquoi la question me semble terriblement mystique, et ce n'est pas ma tasse de thé. Ca a à voir avec l'idealisme. Nous portons tous des idealisations. L'exemple basique est un mur droit. Ca n'existe pas dans la nature, jamais. Mais imaginer un existence d'un mur droit amène l'homme de l'art à tenter de s'en rapprocher. Plus généralement, ces idealisations n'existent que dans notre pensée, comme objet d'attraction, et elles nous proposent un mouvement vers lequel aller. Les matheux imaginent une preuve pure, les religieux imaginent un dieu, les physiciens imaginent un monde purement materiel existant en soi.

L'idealisation n'est pas un probleme à partir du moment ou on comprend que c'est un idealisme qui nous guide. C'est ama critiquable au moment ou on commence a discuter de cet idealisme comme s'il était reel. C'est un peu le pb de ta question, tu commences par présupposer un monde dans lequel il y a de la matiere qui existe en elle meme, indépendamment des etres vivants qui la percoivent. Puis tu ajoutes une couche en imaginant decrire une situation future macroscopique en ayant connaissance de suffisamment d'informations microscopiques, ce qui n'existe ni sur le plan logique ou experimental ( personne n'a jamais prevu la construction d'une table ou d'une chaise a partir d'informations microscopiques, pas de raison de penser que nous connaissons l'ensemble des lois physiques) ni sur le plan de la faisabilité ( les informations microscopiques auquel on a acces sont ultra parcellaires cantonnées a des statistiques dans des experiences tres précises).

Bref, tout ca me semble bien mystique et loin du réel. Je vais néanmoins te repondre a admettant cette approche mystique, de la meme facon que je reponds aux religieux qui croient a dieu, ou aux matheux qui croient qu'il existe de vraies preuves. Moi, je prefere parler du reel.

Si on applique ce raisonnement idealisé, on aboutit a une reponse de probabilité. Genre tu vas avoir 50% de chances de prendre le verre qui est devant toi sur la table. Mais dans le reel, ce n'est pas une probabilité. Le verre, tu le prends, ou tu ne le prends pas. Donc il y a un mecanisme de selection qui amène à transformer une proba 50% A ou 50% B, en la sélection d'un evenement parmi les deux. Si on regarde les operations de la mecanique quantique, elles sont tout a fait compatibles avec le fait que ce soit le vivant qui fait cet operateur de selection. C'est meme en fait implicite dans le formalisme de la MQ. C'est ce qu'explique Feynman dans son cours de MQ : tant qu'il n'y a pas de lecture par un operateur, le monde reste sous forme de probabilités, et il y a des interférences quantiques. Quand on met en place un appareil de lecture quel qu'il soit sur le chemin, c'est a dire un dispositif qui permet la lecture du monde, les interférence quantiques disparaissent, et les probabilités se transforment en evenement. Mathématiquement, le monde qui etait representé par un point dans un espace de Hilbert subit une discontinuité et la position du monde devient à la lecture un vecteur propre de l'opérateur. Bref, meme en admettant un point de vue mystique, je ne vois pas comment on peut sortir de la théorie un operateur qui cree la discontinuité de la fonction d'onde, et qui transforme des probabilités en évenements réels.

[GillesH38]

C'est sympa de me faire un cours de mécanique quantique mais ça n'a rien à voir. les probabilités quantiques sont vérifiables statistiquement, et de plus sauf dans des expériences soigneusement prévues pour ça, les incertitudes quantiques sont souvent moyennées par la loi des grands nombres et le comportement macroscopique redevient déterministe (c'est en particulier le cas des ordinateurs, où le comportement des transistors est tout à fait "quantique" (effet tunnel) mais le comportement global est néanmoins déterministe).
Mais que ce soit quantique ou quasi-classique, la théorie permet en principe de calculer les probabilités d'évolution, et donc on peut très bien imaginer de regarder comment fonctionnent les neurones et si c'est compatible avec les calculs, de manière probabiliste. Donc tu as esquivé la question, est ce que le comportement de la matière observée à petite échelle (neurones, synapses) est conforme aux prédictions du calcul ou pas selon toi ?
On peut commencer par les microorganismes genre bactéries, est ce que leur évolution est conforme aux évolutions de la matière ? quand elle est "vivante" ? et quand elle est "morte" ?

[supert]

Bof, m'expliquer que l'IA va comprendre et faire de l'ironie en me disant déja qu'elle distingue 4 types d'humour, je trouve cela assez... ironique !

Tout ça me rappelle une discussion que j'ai eu au mi-temps des 90's (anglicisme que j'aime bien) avec un prof de stat ou de formalisation, je ne sais plus trop. Pour les plus jeunes, un mec normal comme moi ne connaissait pas internet à cet époque, on était loin de l'IA...
Je disais donc à ce prof que l'on arriverait jamais à modéliser l'humain et que c'était tant mieux. Lui trouvait que c'était dommage ! Nous avions des points de vue différents tout en étant capable de s'accorder sur les constats (un constat futur, je reconnais que c'est discutable comme formulation).

Il est évident qu'en 2028 comme en 2023, un ordianteur qui ne connait que des 0 et des 1, ne pourra fonctionner de manière semblable à un humain. On trouvera un certains nombres de situations où il pourra le faire, mais globalement il en sera incapable. Et c'est tant mieux !

En tout cas, en attendant les progrès fulgurants dans les 5 ans à venir, une machine n'est pas capable de me dire bonjour comme le fait un être humain, c'est à dire en tenant compte de plein de facteurs (force et qualité du lien entre le locuteur et moi, la tronche que je tire à ce moment là, la météo qu'il fait, etc ...)

Prétendre ou croire qu'en 2028 une machine aura une intelligence similaire à celle d'un être humain est soit de la bêtise, soit de la manipulation.


Supert qui choisi ses anglicismes avec parcimonie ou les subit

[LeLama]

les probabilités quantiques sont vérifiables statistiquement, et de plus sauf dans des expériences soigneusement prévues pour ça, les incertitudes quantiques sont souvent moyennées par la loi des grands nombres et le comportement macroscopique redevient déterministe (c'est en particulier le cas des ordinateurs, où le comportement des transistors est tout à fait "quantique" (effet tunnel) mais le comportement global est néanmoins déterministe).

Ce n'est pas "souvent" moyennées pour le comportement macroscopique. Ce sont seulement dans des cas d'experiences précises proches de l'infiniment petit. Dans le monde vraiment macroscopique, personne n'a jamais prévu l'evolution d'une chaise, si elle va etre déplacée ou pas dans la journée par de la MQ. Tu es dans un monde mystique ou tu imagines avérées des choses que tu n'as pas constatées experimentalement. Il n'y a pas de preuve que le déplacement de la chaise soit entierement decidée par des calculs de MQ. Pas meme le moindre début de preuve. On est tout a fait incapable de formuler un modele de cette complexité qui s'en approcherait. Le monde est contraint par les lois de la physique que nous connaissons, mais pourquoi penser que nous connaissons toutes les lois du monde, pourquoi penser un monde de la matiere existant en soi sans etre vivant et suivant sa réalité propre ? Experimentalement, ca n'existe pas. Il y a toujours un experimenteur et un être vivant qui interagit avec toutes les experiences. Partons de ce point de vue réel, au lieu d'imaginer un ailleurs dans notre tête. Par ailleurs, il est peu probable que nous soyons a un point singulier de l'histoire et que nous ayons decouvert toutes les lois du monde, juste au moment de notre génération. Croire qu'on est les premiers a connaitre toutes les lois du monde, ou croire que les lois a venir de ta propre discipline decriront entierement l'evolution du monde, c'est une déformation du réel par l'ego, qui est tres loin de l'experience quotidienne et de ce que nous constatons.

[LeLama]

Donc tu as esquivé la question, est ce que le comportement de la matière observée à petite échelle (neurones, synapses) est conforme aux prédictions du calcul ou pas selon toi ?

Je n'en sais rien ( je repugne à me prononcer sur des sujets que je n'ai pas travaillés), mais je pense que oui. Mais tu me reposes une question de ce type a intervalles réguliers. Je vais te donner encore la meme reponse, je vais te demander de la lire avec attention pour ne pas me la reposer encore ( c'est un peu fatiguant, cette impression de rocher de sisyphe). Oui, je crois que les lois de la physique sont toujours vérifiées quel que soit le contexte ou on a essayé de les vérifier jusqu'à présent. Mais non je ne pense pas que les lois physiques actuelles soient d'une quelconque utilité pour décrire le comportement du monde vivant au niveau macroscopique. Et je ne pense pas que faire des experiences de pensee ou on s'imagine maitre du monde connaissant entierement l'etat du monde et toutes les lois physiques presentes et a venir, pour faire des calculs déductifs, en imaginant des lois de la matiere independantes de l'interaction avec le monde vivant soient d'une quelconque utilité pour comprendre le monde. C'est une echappatoire mystique, sans rapport avec l'experience sensible.

[GillesH38]

les probabilités quantiques sont vérifiables statistiquement, et de plus sauf dans des expériences soigneusement prévues pour ça, les incertitudes quantiques sont souvent moyennées par la loi des grands nombres et le comportement macroscopique redevient déterministe (c'est en particulier le cas des ordinateurs, où le comportement des transistors est tout à fait "quantique" (effet tunnel) mais le comportement global est néanmoins déterministe).

Ce n'est pas "souvent" moyennées pour le comportement macroscopique. Ce sont seulement dans des cas d'experiences précises proches de l'infiniment petit. Dans le monde vraiment macroscopique, personne n'a jamais prévu l'evolution d'une chaise, si elle va etre déplacée ou pas dans la journée par de la MQ.

justement dans le monde macroscopique, les probabilités d'observer des effets quantiques macroscopiques sont en général négligeables, sauf dans certains cas particuliers comme la superfluidité ou la supraconductivité. Donc les objets classiques se comportent ... classiquement.

Tu es dans un monde mystique ou tu imagines avérées des choses que tu n'as pas constatées experimentalement. Il n'y a pas de preuve que le déplacement de la chaise soit entierement decidée par des calculs de MQ. Pas meme le moindre début de preuve. On est tout a fait incapable de formuler un modele de cette complexité qui s'en approcherait. Le monde est contraint par les lois de la physique que nous connaissons, mais pourquoi penser que nous connaissons toutes les lois du monde, pourquoi penser un monde de la matiere existant en soi sans etre vivant et suivant sa réalité propre ?

c'est exactement la question que je te pose. Le monde des lois de la physique permet de faire des prévisions au moins probabilistes; je te demande si tu crois que le monde réel obéit à ces prédictions, ou pas? tu as le droit d'avoir l'une ou l'autre des opinions, je te demande juste laquelle tu adoptes ?

[GillesH38]

Mais non je ne pense pas que les lois physiques actuelles soient d'une quelconque utilité pour décrire le comportement du monde vivant au niveau macroscopique.

ben enfin un peu quand même, par exemple pour expliquer pourquoi l'eau bout macroscopiquement à 100 °C sous 1 atm ou pourquoi les violettes sont violettes, tu ne peux pas éviter d'employer la méca Q. Les théories physiques ont des conséquences très concrètes sur le monde macroscopique. Evidemment un homme n'est pas concrètement descriptible mais simplement parce que son organisation est très compliquée, pas à cause d'une nature spécifique.

[LeLama]

Evidemment un homme n'est pas concrètement descriptible mais simplement parce que son organisation est très compliquée, pas à cause d'une nature spécifique.

C'est une profession de foi mystique. Il n'y a aucune donnée qui laisse penser que l'ensemble des lois connues actuellement permette de decrire completement l'homme et que c'est seulement une question de complexité. La reponse du scientifique est qu'on n'a pas de description complete de l'homme. Point. C'est pas la peine de faire des plans sur la comète. En fait, ton attitude est semblable à celle des tenants de l'IA. Ils ont une machine qui ne sait pas detecter les initiales d'une phrase mais imaginent une intelligence humaine avec leurs techniques. Les physiciens mystiques font des paris de même nature. Ils ne savent pas modéliser le comportement de la moindre espece vivante unicellulaire, meme pas non plus des trucs nettement plus simples comme calculer le son d'un piano. Mais affirment dans leur imaginaire que leurs methodes permettent de décrire completement l'ensemble du fonctionnement des animaux superieurs.

En fait les croyances des gens ne m'embetent pas. On en a tous. Ce qui m'embete c'est quand les gens essaient d'expliquer aux autres que leurs croyances sont la juste compréhension du monde, quand les choses sont présentées comme des vérités, plutot que comme des croyances qui nous guident.

[GillesH38]

Evidemment un homme n'est pas concrètement descriptible mais simplement parce que son organisation est très compliquée, pas à cause d'une nature spécifique.

C'est une profession de foi mystique. Il n'y a aucune donnée qui laisse penser que l'ensemble des lois connues actuellement permette de decrire completement l'homme et que c'est seulement une question de complexité

alors le principe "mystique" de la science c'est que TOUT obéit aux mêmes lois, et que si un truc n'obéit pas, on change les lois.

Si tu ne te rends pas compte de la puissance de ce principe, continue à faire des maths

C'est un principe qui s'est révélé incroyablement productif. Il a suffi d'une expérience avec un interféromètre (un truc quand même très particulier qui s'amuse à croiser des rayons lumineux), et de constater que des franges d'interférence ne changeaient pas quand on tournait l'interféromètre (ce qui parait très banal à n'importe qui que rien ne change quand on tourne un zinzin ) pour forcer les physiciens à concevoir une nouvelle théorie qui donne par exemple l'équivalence masse énergie, et qui permet de comprendre la radioactivité : comment déduire un truc sur la radioactivité à partir d'expériences sur la lumière, si tu ne supposes pas que tout obéit aux mêmes lois ?

Pareil pour la mécanique quantique, les arguments étaient extrêmement faibles au départ ... rayonnement du corps noir, effet photoélectrique, spectre de l'atome d'H... mais en devant expliquer ces expériences, toute la physique est bouleversé et la méca Q s'applique à TOUT .

Si tu ne fais pas cette hypothèse "mystique", le monde devient une collection de règles disparates où rien n'est corrélé à rien.... le monde des formules magiques de Harry Potter où tu sais pas pourquoi telle formule provoque tel truc et telle autre formule telle autre truc, sans aucun lien logique.
En fait c'est ce que pense la pensée animiste, que les trucs font un peu ce qu'ils veulent, les dieux peuvent tout changer à leur guise, arrêter la course du Soleil; déclencher une tempête etc ...

je pense que je n'ai pas besoin de te faire un dessin pour t'expliquer en quoi l'hypothèse mystique que tout obéit aux mêmes lois s'est révélée bien plus féconde et bien plus généralisable que la pensée animiste, le truc que tu utilises pour me répondre en est la preuve.

[kercoz]

toute la physique est bouleversé et la méca Q s'applique à TOUT .

Sauf à la gravitation je crois ..c'est pas rien et le truc ne tient même pas avec des bouts de ficelles..il lui faut des cordes.