IA Intelligence Artificielle

[Jeudi]

ça veut dire quoi "tu" codes le temps ? (…)

Ou qui n’y arrive pas malgré tous ses efforts de bonne foi (…)

je crois que nos ordinateurs resteraient des machines de Turing même si elles avaient accès à un monde extérieur non calculable, mais on est dans le même cas sauf magie (avec l’option de dire que la magie est évidente quand on prie, qu’on voit son bébé pour la première fois, ou avec une bonne dose de champignon magique).

[GillesH38]

ça veut dire quoi "tu" codes le temps ? (…)

Ou qui n’y arrive pas malgré tous ses efforts de bonne foi (…)

je crois que nos ordinateurs resteraient des machines de Turing même si elles avaient accès à un monde extérieur non calculable, mais on est dans le même cas sauf magie (avec l’option de dire que la magie est évidente quand on prie, qu’on voit son bébé pour la première fois, ou avec une bonne dose de champignon magique).

les ordinateurs n'ont accès au monde extérieur que parce qu'ils s'alimentent à des capteurs qui vont toujours, sans exception, traduire les inputs par des variables discrétisées, donc réaliser une conversion analogique-> digitale, qu'ils traitent ensuite de façon déterministes, sinon ils seraient incapables de les traiter.

La aussi, ce n'est pas le cas du cerveau.

[Glycogène]

Ou as tu vu que les IA utilisent de l'aletaoire physique plutot que du pseudo-aleatoire et que ca permet de gagner qq chose ? Je sais que les gens essaient d'utiliser de l'aleatoire "physique" quand ils codent sinon le pseudo-aleatoire laisse des traces, mais pour l'IA, quel serait l'interet d'éviter le pseudo-aleatoire ?

Le cerveau humain utilise abondement de l'aléatoire.
Si une IA veut se rapprocher du cerveau humain, elle a intérêt à se servir de l'aléatoire.
Mais peut être que du pseudo aléatoire à longue période suffit.
Mais je disais ça surtout pour dire qu'une IA n'est pas forcément une machine de Turing. Il suffit qu'elle utilise du vrai aléatoire pour que tout ton raisonnement aboutissant au fait qu'une IA sera forcément limitée (= ne pourra pas faire certaines tâches qu'un cerveau humain peut faire, mais lui aussi est limité) , s'écroule, quel dommage !

Le fond du pb est que de l'aleatoire ne permet pas d'ameliorer ce que tu es capable de faire en moyenne.

Oui oui bien sûr...
Ca fait plus de 20 ans que je code ou j'utilise des programmes K qui transforme un programme P en programme Q selon tes définitions. En fait K ne fait pas ça, K cherche des bugs dans P. Mais ça permet de définir un ensemble des entrées qui permettent d'échapper aux bugs (si on ne souhaite pas les corriger), qu'on peut utiliser pour faire Q.
Bien sûr ce n'est pas parfait, l'ensemble des entrées qu'on obtient n'est pas exhaustif, il y a des trous, etc. Ca reste des programmes logiques comme du C, il n'y a pas de réseaux de neurones. Mais c'est quand même pour simuler des systèmes qui eux sont massivement parallèles dans la vraie vie (il y a des milliers de processus qui fonctionnent en même temps et qui n'attendent pas ton feu vert pour faire des choses).
Pour améliorer les perfs de K, depuis plus de 20 ans on utilise de l'aléatoire.
On veut le meilleur résultat dans un temps donné, et de façon répétable, on ne peut pas se permettre d'avoir un run qui dure 10 fois plus de temps que la veille parce que l'aléatoire a engendré cela ce coup-ci. Donc on utilise du pseudo-aléatoire.
Mais cela a quand même permis d'améliorer énormément la qualité des résultats à temps de run égal, et à travail humain de codage de K égal.
Donc quand on vient me dire que l'aléatoire ne change rien car mathématiquement ça ne change rien (ce qui est vrai dans mon cas), je ne suis pas d'accord.

[LeLama]

. Il suffit qu'elle utilise du vrai aléatoire pour que tout ton raisonnement aboutissant au fait qu'une IA sera forcément limitée (= ne pourra pas faire certaines tâches qu'un cerveau humain peut faire, mais lui aussi est limité) , s'écroule, quel dommage !

Je ne fetichise pas le raisonnement. La vie reelle n'est jamais un raisonnement. Disons que j'utilise le raisonnement pour gagner du temps, pour dire que la charge de la preuve revient a celui qui contredit le raisonnement. Mais le raisonnement est toujours une analogie, pas une preuve ( car la vie, c'est pas des maths !). Si quelqu'un me dit que l'aleatoire est utile, j'attends qu'il m'explique comment il utilise la difference entre aleatoire et pseudo-aleatoire. S'il n'est pas capable d'expliquer, c'est que c'est pas de l'aleatoire, juste une facon d'ordonner les choses comme une autre.

Donc quand on vient me dire que l'aléatoire ne change rien car mathématiquement ça ne change rien (ce qui est vrai dans mon cas), je ne suis pas d'accord.

Je n'ai pas vu ou tu utilises de l'aleatoire. Il me semble que tu utilises du pseudo-aleatoire pour balayer de nombreux cas. Peux tu expliquer de facon experimentale en quoi tu utiliserais specifiquement de l'aleatoire et pas du pseudo-aleatoire ? Est ce que tu utilises par exemple l'independance mathematique des tirages successifs ? Comment ? Ou autre chose, mais un truc qui soit signature d'un besoin aleatoire si c'est le cas.

[LeLama]

Ca fait plus de 20 ans que je code ou j'utilise des programmes K qui transforme un programme P en programme Q selon tes définitions. En fait K ne fait pas ça, K cherche des bugs dans P.

Les programmes utilises par des humains sont tres specifiques. Ils ne sont pas representatifs de programmes generaux d'une machine de Turing. Travailler avec les programmes P humains, ce n'est pas travailler sur l'infinité de programmes qu'on peut lister pour une machine de Turing. Par exemple, les programmes que j'ecris moi ont toujours des entrees calculables. Or on sait qu'un programme au hasard peut avoir des entrees non calculables.

C'est comme quand je te demande un nombre. La plupart des gens vont donner un entier, au pire une fraction. Pourtant mathematiquement, la proba était nulle, les fractions sont de mesure nulle dans l'ensemble des reels. Ca veut dire que les nombres qui nous viennent a l'esprit ne correspondent pas au modele probabiliste de la mesure de Lebesgue. Les nombres qu'on produit ne sont pas aleatoires. Les programmes qu'on produit ne sont pas non plus aleatoires. Ils sont bien specifiques dans l'immensité des programmes possibles. Avec juste qq centaines de caractere, tu peux ecrire en machine de Turing autant de programmes que d'atomes de l'univers.

C'est pour ca que le theoreme de non conversion, je ne le vois pas comme une impossiblité theorique pour les humains de faire qq chose pour les programmes humains. C'est un enoncé sur les machines de Turing, pas un enoncé sur les humains.

[Glycogène]

Je ne fetichise pas le raisonnement.

Ben si !
- Du pseudo-aléatoire de qualité peut se substituer à l'aléatoire.
- Le pseudo-aléatoire de qualité peut être généré par une machine de Turing.
- Une IA est une machine de Turing + éventuellement de l'aléatoire.
- Une IA qui utilise de l'aléatoire est donc indiscernable d'une IA qui utilise du pseudo-aléatoire.
- Une IA est donc forcément une machine de Turing dans tous les cas.
- Un théorème mathématique montre qu'une machine de Turing ne peut pas réaliser la tâche qui transforme P en Q.
- Une IA ne pourra donc jamais réaliser cette tâche.

C'est net et bien carré, ya rien qui dépasse, conclusion : l'IA elle est trop nulle.

Dans ce raisonnement, il y a plusieurs étapes qui sont bien fragiles !
Aujourd'hui, on ne demande pas qu'une IA réalise une tâche à coup sûr, mais réalise une tâche avec un certain taux de succès. Pareil avec les humains.
Donc oui, une IA ne pourra jamais transformer P en Q avec un taux de succès de 100%. Mais l'humain aussi se trompe de temps en temps, voir souvent.
Si une IA transforme P en Q avec un taux de succès similaire à celui des humains, j'estime que l'IA réalise la même tache que l'humain.

[LeLama]

C'est net et bien carré, ya rien qui dépasse, conclusion : l'IA elle est trop nulle.

Je ne peux rien contre ton interpretation qui n'est pas la mienne. On touche un point psychologique, et je ne suis pas dans ta tête.

[Glycogène]

Je ne peux rien contre ton interpretation qui n'est pas la mienne.

OK, j'ai mal compris. Du coup, quel est ton argument pour dire qu'une IA ne pourra jamais réaliser la tache de transformer P en Q ?
Mathématiquement, il sera toujours possible de trouver un exemple de P prouvant que l'IA échoue.
Mais en pratique on s'en fout qu'elle échoue de temps en temps, on a bien compris qu'on ne peut pas demander à une IA d'être fiable à 100% contrairement à ce qu'on demande à un logiciel de compta.

[LeLama]

OK, j'ai mal compris. Du coup, quel est ton argument pour dire qu'une IA ne pourra jamais réaliser la tache de transformer P en Q ?
Mathématiquement, il sera toujours possible de trouver un exemple de P prouvant que l'IA échoue.
Mais en pratique on s'en fout qu'elle échoue de temps en temps, on a bien compris qu'on ne peut pas demander à une IA d'être fiable à 100% contrairement à ce qu'on demande à un logiciel de compta.

Chuis d'accord. Mon point n'etait pas de demontrer que ca ne marchait jamais, mais de montrer les limitations theoriques. Ya des gens que je vois fantasmer d'une super-intelligence sans limite avec les ordinateurs. Tout systeme quel qu'il soit a ses limites et je voulais montrer une limite theorique pour les machines de Turing. Trouver une limitation ne signifie pas que rien n'est faisable et condamne le projet. Au contraire, la connaissance des limitations t'aident en general a voir ou il faut faire attention. L'impossibilité du mouvement perpetuel en physique nous amene a faire attention a l'energie. Et l'impossibilité de faire des programmes automatiques nous amene a faire attention au contexte dans lequel on peut espérer faire des choses utiles sans fantasmer a une super-intelligence sans limite.

D'une certaine facon, je m'attends a ce que l'IA soit comme le reste de l'informatique. Pour les systemes hyper-fermés, ca fait mieux que l'humain . Pour les systemes un peu ouverts au monde mais avec une bonne ingenieurie pour qu'ils apparaissent fermés aux yeux du logiciel, ca depend des cas, mais ca peut bien marcher. Pour des systemes vraiment ouverts, ya besoin de comprendre le sens, et l'info ne marche pas du tout. Pour transformer P en Q, je m'attends a ce que ce soit pareil. Si on considere des programmes P tres specifiques ecrits par des humains et qui se ressemblent les uns les autres, on est dans un environnement fermé. Si on choisit P parmi des programmes qui traitent tout et n'importe quoi comme pb, et qu'on melange les langages, les pbmatiques, je ne vois pas pourquoi ca marcherait ( Meme des problemes simplissimes comme le probleme de syracuse n'ont pas de reponse connue )

[LeLama]

- Du pseudo-aléatoire de qualité peut se substituer à l'aléatoire.
- Le pseudo-aléatoire de qualité peut être généré par une machine de Turing.

Tu n'as pas donne ta definition de aleatoire. Et j'ai l'impression qu'on ne s'est pas bien compris dessus.

L'aleatoire, c'est defini de facon mathematique. Et un processus physique peut etre appele' aleatoire s'il ne peut etre distingue' statistiquement du processus idealise' mathematiquement. Si on dit qu'on fait un tirage de 0,1 aleatoire, ca veut en general dire implicitement 2 choses :
-1) qu'a chaque tirage, on a une proba 0.5 d'avoir un 0 ou un 1 ( tirage equiprobable)
-2) que les tirages sont independants. C'est a dire que les tirages passe's ne te donnent aucune info d'aucune sorte sur le tirage en cours.

Il faut bien comprendre que la premiere condition, on s'en fout au sens ou elle n'est pas contraignante et ou on peut toujours la satisfaire par qq bricolages adequats. Petit intermede technique pour l'expliquer. Prenons par exemple une suite de tirages Xi independants telle qu'a chaque fois, j'ai 1% de chance d'avoir un 0 et 99% de chances d'avoir un 1. Ca ressemble pas du tout a un tirage equiprobable. Alors je vais faire une construction synthetique. Je pose Y1=X1+X2+.... X69, Y2=X70+...+X138, etc... Et je pose Z1=0 si Y1<69 et Z1=1 si Y1>=69. Par construction, Z1 ne prend que les valeurs 0 et 1 qui sont presque equidistribuee ( probas 0.5001 et 0.4999 ). Et si tu prends la suite Z1,Z2,... tu as une suite de variables aleatoires independantes. Plus generalement, tu me donnes des variables independantes satisfaisant n'importe quelle loi, et on peut bricoler un truc qui satisfait la condition 1 sans difficulte'.

Donc en fait la difficulte' et l'essence du caractere aleatoire n'est pas dans l'equirepartition et la condition 1) qui ne presente pas de difficulte's technique pour l'obtenir. La difficulte', ce qu'on ne sait pas faire physiquement, ce sont des tirages independants, c'est la condition 2) de la liste ci-dessus.

Toi, si je comprends bien ce que tu fais dans tes tests, tu "cribles" les possibles. Donc tu ne veux pas tester deux fois le meme cas. Si a l'etape n tu as fait le test sur l'entree e, a l'etape n+1, tu ne veux pas refaire le test sur la meme entree e. Donc tu veux par construction que tes tirages soient DEPENDANTS : le tirage de l'etape n te donne de l'information sur l'etape n+1 au sens ou il te donne une valeur que tu veux eviter. La condition 2) n'est pas verifiee.

[nemo]

Et si l'aléatoire "absolu" est une impossibilité?
La question est pas plus : c'est aléatoire si je ne peux pas distinguer cette suite d'une suite dont chaque tirage aurait 50/50 d'être 0 ou 1?
En réalité on pose son choix "philosophique" sans vraiment y réfléchir.

[LeLama]

Et si l'aléatoire "absolu" est une impossibilité?

Certains pensent que c'est possible avec des experiences quantiques. C'est une piste assez serieuse. Les physiciens se sont persuade's que le caractere probabiliste de la mecanique quantique n'est pas une incomprehension qu'ils combleraient par un pansement probabiliste, mais que le monde est a ce niveau vraiment probabiliste. A ma connaissance, ya pas de dispositif comme ca existant a l'heure actuelle, donc ton hypothese reste dans la course.

En tout cas, un truc marrant est que nous, etre humains, ne sommes pas capables de produire de l'aleatoire. Si on joue contre un ordi qui essaie de deviner le nb qu'on va donner a partir des nombres precedants qu'on a donne', il trouve notre nombre mieux qu'au hasard. J'ai des collegues qui programment ca avec les etudiants. C'est assez bluffant parait il de voir l'ordi deviner nos nombres mieux qu'au hasard ( j'ai pas joue' moi meme). Comment fait il pour savoir ce qu'on pense ?

La question est pas plus : c'est aléatoire si je ne peux pas distinguer cette suite d'une suite dont chaque tirage aurait 50/50 d'être 0 ou 1?

De facon pratique, on peut dire qu'un tirage n'est pas aleatoire si un mathematicien peut a partir des tirages passes' trouver le 0 ou le 1 qui suit avec une chance superieure a 50%. Un peu comme le jeu ci-dessus. Et aleatoire, si on ne peut rien deduire du passe' pour ameliorer le pari sur le tirage present.

[nemo]

Et si l'aléatoire "absolu" est une impossibilité?

Certains pensent que c'est possible avec des experiences quantiques. C'est une piste assez serieuse. Les physiciens se sont persuade's que le caractere probabiliste de la mecanique quantique n'est pas une incomprehension qu'ils combleraient par un pansement probabiliste, mais que le monde est a ce niveau vraiment probabiliste. A ma connaissance, ya pas de dispositif comme ca existant a l'heure actuelle, donc ton hypothese reste dans la course.

En tout cas, un truc marrant est que nous, etre humains, ne sommes pas capables de produire de l'aleatoire. Si on joue contre un ordi qui essaie de deviner le nb qu'on va donner a partir des nombres precedants qu'on a donne', il trouve notre nombre mieux qu'au hasard. J'ai des collegues qui programment ca avec les etudiants. C'est assez bluffant parait il de voir l'ordi deviner nos nombres mieux qu'au hasard ( j'ai pas joue' moi meme). Comment fait il pour savoir ce qu'on pense ?

Je suis tomber sur un jeu de chifoumi comme ça sur internet (pierre/papier/ciseau pour ceux qui connaisse pas ce nom). L'ordinateur fait facilement mieux qu'un humain. Ceci dit en étudiant comment l'ordinateur joue on peut trouver des stratégies pour contrer les siennes mais là on est très loin du "pur" aléatoire.

La question est pas plus : c'est aléatoire si je ne peux pas distinguer cette suite d'une suite dont chaque tirage aurait 50/50 d'être 0 ou 1?

De facon pratique, on peut dire qu'un tirage est aleatoire si un mathematicien peut a partir des tirages passes' trouver le 0 ou le 1 qui suit avec une chance superieure a 50%. Un peu comme le jeu ci-dessus.

Je ne comprend pas. Si il est capable de dire avec plus de 50% de chance le 0 ou le 1 qui suit c'est que ce n'est pas purement aléatoire, non?

[LeLama]

Je ne comprend pas. Si il est capable de dire avec plus de 50% de chance le 0 ou le 1 qui suit c'est que ce n'est pas purement aléatoire, non?

Euh, oui, pardon Il fallait lire le contraire. Je vais editer mon post.

[mobar]

Apres les lunettes, les dentiers, les mammaires, la dernière prothèse serait le cerveau ?
Il faut AUSSI etre conscient de ce que ces prothèses nous atrophie : La mémoire, le sens de l' orientation, les capacités de décision, de choix....On transforme l' individu en un nabot obèse, immature et débile.

On en connait qui n'ont pas besoin de prothèses pour sombrer dans la débilité et l'immaturité!