IA Intelligence Artificielle

[phyvette]

En réalité, l'Intelligence Artificielle, je m'en balance, tu n'imagine même pas.

Mais tu parles de pari sur 2028, et là ça, ça m'intéresse, que se soit sur l'I-A, sur la WXV 2028 ou sur la culture des patates douces en Haute-Provence, surtout si comme Gilles tu ne demandes pas de contrepartie.
Moi aussi j'aime bien gagner des paris sans risque.

[Silenius]

Gilles, je ne pense pas que les IA aient ete entrainees sur beaucoup d'images d'hommes faisant leur repassage suspendus a l'arriere de leur taxi. Je ne vois pas en quoi des hommes en paramoteur présenteraient une quelconque difficulté. Et je n'ai jamais dit que cela etait de l'AGI.

[Silenius]

Il va y avoir d'énormes "progrès" en 5 ans. Et ces progrès ne feront pas d'un robot un humain. Ils continueront à fonctionner comme des robots et par exemple créer une image de Mohamed Ali dansant en tutu en respectant hyper bien le grain de peau mais en laissant un doigt de trop. Bien sûr, ce type d'erreur va diminuer, mais le fonctionnement de la machine va rester le même: elle n'a pas les mêmes évidences qu'un humain et ne réfléchit pas ! Son intelligence ne sera pas équivalente à celle d'un humain.

Et Shane Legg, cofondateur de google trucmuche est soit un idiot, soit un menteur. Comme tout les gens qui veulent faire croire que c'est possible.


Supert qui ne parie qu'à coup sûr.

C'est un probleme quasi resolu depuis Midjourney v3 et la preview de la v4 viens de sortir qui est encore amelioree.

[GillesH38]

Gilles, je ne pense pas que les IA aient ete entrainees sur beaucoup d'images d'hommes faisant leur repassage suspendus a l'arriere de leur taxi. Je ne vois pas en quoi des hommes en paramoteur présenteraient une quelconque difficulté.

le problème n'est pas d'identifier des parapentes avec un moteur. Le problème est de comprendre en quelques secondes que ce sont des terroristes du Hamas qui sont en train d'attaquer un kibboutz, dans une scène que tu n'as jamais vu avant et que tu n'as pas eu l'habitude d'interpréter comme ça. Et par exemple de te représenter mentalement que ces gens viennent forcément de Gaza et sont passés par dessus le mur avec leurs parapentes, même si tu ne l'as pas vu. Le problème est dans la représentation mentale du monde sous jacente à ce que tu vois.

Dans l'image que tu donnes, il n'y a aucune interprétation à faire, c'est juste descriptif, et une IA peut sans doute reconnaitre un taxi et une planche à repasser. Mais elle ne l'interpréterait pas comme une intelligence humaine, si il y avait une interprétation à faire.

Note que cette représentation globale du monde est indispensable à la survie dans le milieu naturel, qui est précisément le propre de l'intelligence "vivante" (pas que humaine, tous les animaux en sont doués). Mais si la SF met abondamment en scène des IA qui maitrisent parfaitement la compréhension de leur environnement, comme tous les robots genre C3PO ou Terminator, absolument aucune IA actuelle ne serait capable de "vivre" dans la nature. On en est très très loin.

[LeLama]

Dans l'intelligence, il y a pour moi fondamentalement la notion de choix. Une des definitions possibles de l'intelligence est la capacité de faire des bons choix. Il y a dans l'espece humaine ( et je crois dans le vivant en général) à la fois une partie de fonctionnement mécanique et une partie qui ne l'est pas, où il y a un espace pour faire des choix.

Par exemple, quand je conduis une voiture, je suis la plupart du temps en mode automatique. Je peux écouter la radio, réflechir à comment je vais passer ma soirée, mon attention n'est pas sollicitée. Mais si je rencontre des travaux, si je dois faire un détour ou une manoeuvre imprévue, mon comportement change : la radio devient genante, je me concentre et je me mets dans une situation d'eveil mental, parce que je sais que je vais peut etre avoir un choix à faire.

Si on analyse ce qui se passe, l'IA ne reproduit que la partie mécanique du fonctionnement humain. Elle n'est pas capable de rentrer dans ce qui est le coeur du fonctionnement humain, c'est a dire de faire des choix. Si on prête attention à nos vies, il me semble que les choix que nous faisons reposent sur des émotions, des sentiments esthétiques, des représentations spirituelles et politiques, des idéalismes qui servent de guide. Toutes choses qui ne sont pas codables informatiquement.

[GillesH38]

la je ne suis pas d'accord le Lama, l'IA fait TOUJOURS des choix et on sait les formaliser (par une fonction de probabilité et un critère de décision, qui peut très bien être mathématisé, et peut etre meilleur que l'humain, par exemple sur la détection des tumeurs ). Ca ne me parait pas un vraiment un problème.

Le vrai problème selon moi, c'est la représentation globale du monde qui sous tend nos interprétations, et dont est dépourvue l'IA, à commencer parce qu'elle n'a pas construit sa vision du monde à partir de représentations sensorielles mais seulement à partir de données "high level", par exemple elle peut détecter un fer à repasser sur une image, si on lui montre une grand nombre de fer à repasser, mais elle ne réagira pas à l'image d'un fer à repasser appliqué sur un bras si on ne lui explique pas que ça brûle. En gros il faut tout lui dire avant et donc elle ne peut pas réagir à la nouveauté.

[LeLama]

la je ne suis pas d'accord le Lama, l'IA fait TOUJOURS des choix et on sait les formaliser (par une fonction de probabilité et un critère de décision, qui peut très bien être mathématisé, et peut etre meilleur que l'humain, par exemple sur la détection des tumeurs ). Ca ne me parait pas un vraiment un problème.

Justement, quand tu reponds a une fonction d'optimisation, tu ne fais pas un choix. Le fait de pouvoir mathématiser signifie que les choses sont déterministes et que tu ne fais pas de choix.

[GillesH38]

Tiens du coup j'ai essayé de demander à Dall-E de faire une image qui nécessite un peu de représentation mentale de la réalité. Je lui ai demandé de dessiner une carotte qu'on aurait plongé à moitié dans la farine et ressortie. Je suppose que tout le monde visualise une carotte orange, recouverte de farine blanche dans la moitié inférieure (peut etre que Mahiahi va nous ressortir une discussion de 20 pages pour savoir si la carotte était râpée ou dans quel sens on l'a plongée mais j'imagine que la plupart des lecteurs visualisent ça). Voila les 4 images que Dall-E m'a sorties






on sent que l'idée y est mais ... c'est pas ça

[GillesH38]

la je ne suis pas d'accord le Lama, l'IA fait TOUJOURS des choix et on sait les formaliser (par une fonction de probabilité et un critère de décision, qui peut très bien être mathématisé, et peut etre meilleur que l'humain, par exemple sur la détection des tumeurs ). Ca ne me parait pas un vraiment un problème.

Justement, quand tu reponds a une fonction d'optimisation, tu ne fais pas un choix. Le fait de pouvoir mathématiser signifie que les choses sont déterministes et que tu ne fais pas de choix.

il suffit d'appliquer des fonctions de probabilités sur le meilleur choix et de tirer aléatoirement selon cette fonction de probabilité pour que ça devienne non déterministe. Dans ton exemple, c'est évident que tu "fais des choix" selon une fonction d'optimisation pour éviter un accident, tu ne fais pas des choix aléatoires et heureusement ! l'intelligence est d'abord et avant tout utile pour survivre, et survivre c'est évidemment une forme d'optimisation.

[LeLama]

l'intelligence est d'abord et avant tout utile pour survivre, et survivre c'est évidemment une forme d'optimisation.

Mais dans la vie tu ne fais pas que des choses pour survivre. Comment tu mathématises le fait de consacrer du temps a du piano ou a du sport ? Comment tu mathematises le fait de choisir de développer ton égo ou au contraire de le dissoudre ?

Il y a des situations ou les contraintes determinent la decision, alors on est dans un cas purement mécanique. Et des cas ou les contraintes ne concluent pas. Et c'est au moment ou les contraintes ne determinent pas la décision que tu es en situation de choix. C'est en fait pour moi la définition de choix : c'est une décision qui n'est pas déterminée par les contraintes exterieures.

Pour reprendre l'exemple d'éviter un accident, il y a des cas ou c'est clair ce qu'il doit faire, donc tu ne fais pas de choix. Et des cas, ou les options ne sont pas differenciables : il va y avoir des arbitrages qui vont dependre de tes choix de valeurs, par exemple entre le temps et le risque. Suivant tes choix fondamentaux ( je mets davantage de valeur au temps ou davantage de valeur au fait d'eviter un accident), tu vas prendre une decision differente. Dans ce cas là, il y a choix.

Dans la vie réelle, c'est évidemment toujours un mélange, entre des choix et des contraintes.

[LeLama]

J'ajoute que meme pour survivre, les choses ne sont pas déterministes. J'ai donné l'exemple de la vitesse en voiture. Mais il y a aussi des gens qui se noient en essayant de sauver d'autres personnes de la noyade. Il n'y a pas d'algorithme pour décider si ça vaut le coup de se jeter à l'eau pour sauver un enfant. Ca va dépendre des contraintes ( je sais bien nager ou pas), mais pas que. Deux personnes ayant le même niveau de natation vont faire des choix differents.

Les humains peuvent discuter entre eux de l'opportunité ou pas de plonger pour sauver un enfant. Les IA ne le font pas.

[LeLama]

il suffit d'appliquer des fonctions de probabilités sur le meilleur choix et de tirer aléatoirement selon cette fonction de probabilité pour que ça devienne non déterministe.

Si tu c'est le resultat du pile ou face qui décide si tu fais du piano ou du sport, tu ne fais plus de choix. Recevoir en input des données de nature probabiliste est compatible avec un processus de décision déterministe et une absence de choix.

[GillesH38]

l'intelligence est d'abord et avant tout utile pour survivre, et survivre c'est évidemment une forme d'optimisation.

Mais dans la vie tu ne fais pas que des choses pour survivre. Comment tu mathématises le fait de consacrer du temps a du piano ou a du sport ? Comment tu mathematises le fait de choisir de développer ton égo ou au contraire de le dissoudre ?

je ne mathématise pas plus le piano et le sport , que je ne mathématise la transformée de Fourier des images que je vois pour les interpréter.

Mais néanmoins si je fais du piano et du sport, c'est que j'y trouve un "plaisir", et donc d'une certaine façon je réalise une optimisation "analogique" : que ce ne soit pas strictement mathématisante n'empêche pas que ce soit une forme d'optimisation floue.

Evidemment une IA fonctionne en numérique et pas en analogique, donc on va être obligé d'en passer par une mathématisation, ça ne veut pas dire que le cerveau fait la même chose mais ça veut dire que la mathématisation donne des performances comparables, comme la reconnaissance des visages par exemple.

Il y a des situations ou les contraintes determinent la decision, alors on est dans un cas purement mécanique. Et des cas ou les contraintes ne concluent pas. Et c'est au moment ou les contraintes ne determinent pas la décision que tu es en situation de choix. C'est en fait pour moi la définition de choix : c'est une décision qui n'est pas déterminée par les contraintes exterieures.

pour moi c'est une phrase vide de sens. Rien n'est complètement déterminé par les contraintes extérieures parce que ça passera toujours pas la structure interne de ton cerveau, et rien n'en est indépendant parce que sans informations extérieures, ton cerveau ne fait rien. C'est comme se demander si la lecture est déterminée par le livre ou les yeux ... les deux sont indispensables.

Pour reprendre l'exemple d'éviter un accident, il y a des cas ou c'est clair ce qu'il doit faire, donc tu ne fais pas de choix.

"ce qu'il doit faire" ne signifie pas qu'il n'y a pas de choix, il signifie simplement que la fonction d'optimisation est très piquée. C'est un choix, un choix très asymétrique bien sur , mais ça reste un choix. Mais si tu changes de fonction d'optimisation (par exemple si tu prends comme but de te suicider), le choix revient bien sur.

Et des cas, ou les options ne sont pas differenciables : il va y avoir des arbitrages qui vont dependre de tes choix de valeurs, par exemple entre le temps et le risque. Suivant tes choix fondamentaux ( je mets davantage de valeur au temps ou davantage de valeur au fait d'eviter un accident), tu vas prendre une decision differente. Dans ce cas là, il y a choix.

Dans la vie réelle, c'est évidemment toujours un mélange, entre des choix et des contraintes.

les situations que tu appelles "à choix" sont simplement des situations où la fonction d'optimisation est peu piquée, et peut etre même "plate" dans les barres d'erreurs. Par exemple tu en en montagne et tu hésites entre deux chemins, mais tu sais qu'il faut avancer , tu vas pas rester sur place. Tu fais un choix peu motivé mais tu dois le faire. Mais la nuance est juste dans la forme de la fonction d'optimisation, plus ou moins piquée, et bien sur de manière continue.

[GillesH38]

J'ajoute que meme pour survivre, les choses ne sont pas déterministes. J'ai donné l'exemple de la vitesse en voiture. Mais il y a aussi des gens qui se noient en essayant de sauver d'autres personnes de la noyade. Il n'y a pas d'algorithme pour décider si ça vaut le coup de se jeter à l'eau pour sauver un enfant. Ca va dépendre des contraintes ( je sais bien nager ou pas), mais pas que. Deux personnes ayant le même niveau de natation vont faire des choix differents.

Les humains peuvent discuter entre eux de l'opportunité ou pas de plonger pour sauver un enfant. Les IA ne le font pas.

si tu dois programmer un robot nageur qui doit sauver des nageurs, tu devras le programmer, et éviter peut etre qu'il se sacrifie aussi pour rien pour un nageur qui n'est pas rattrapable (inutile d'y aller si il est à un mètre des chutes du Niagara par exemple), donc tu devras passer par un algorithme de décision, parce qu'on ne sait faire que ça pour les robots. Le résultat ne sera pas forcément plus mauvais que le choix d'un humain. et bien sur comme pour les humains, il peut dépendre des capacités du robot.

Le problème de la discussion, c'est une autre question.

[LeLama]

les situations que tu appelles "à choix" sont simplement des situations où la fonction d'optimisation est peu piquée, et peut etre même "plate" dans les barres d'erreurs.

Je ne crois pas. Il n'y a selon moi pas de fonction d'optimisation qui te dit si tu dois etre egocentrique ou altruiste. Il y a un choix. Le libre arbitre existe.