IA Intelligence Artificielle

[supert]

Comment le modèle peut-il savoir qu'il ne sait pas ?

J'ai bien aimé cette question mais je ne suis pas sur d'avoir compris la réponse. Si une âme qualifiée veut bien se fendre d'une explication pour les nuls...


Supertomate qui sait qu'il ne sait pas et aime ce modèle

[GillesH38]

je pense avoir à peu près compris.
Un réseau de neurones, fondamentalement, ça fait des calculs. En gros tu lui poses une question à l'entrée qui est "numérisée" : les caractères ou plutot les "token" (petits groupes de caractères) sont numérotés, donc il traduit ta question par une suite de nombres, et il "calcule" à partir de là une sortie qui sera sa réponse, d'après son "entrainement" (qui revient à faire des opérations mathématiques sur les entrées, avec des coefficients qui sont ajustés par son entrainement pour que "ça colle au mieux" à ce qu'il a vu ). Mais il associe aussi une probabilité que sa réponse soit la bonne. Tout dépend ensuite du seuil de certitude que tu sélectionnes pour qu'il te réponde. Si tu exiges une grande confiance, il répondra des choses plus souvent justes mais il dira plus souvent qu'il ne sait pas si il ne trouve pas de bonne réponse avec une probabilité suffisante.

Evidemment tout ça ce sont juste des critères numériques ajustés sur des opérations mathématiques et il n'y aucune "conscience" de type humain derrière.

[Silenius]

un LLM genere les mots l'un apres l'autre, il y a plusieurs candidats avec une probabilite associee. Ex : "Paris est la capitale de la..." France=99% Belgique = 0,05%, etc... On peut estimer qu'en dessous d'un certain pourcentage le modele n'a pas de reponse fiable.

[supert]

Moi chui hyper intelligent, avec la réponse de Silenius, je peux essayer de comprendre celle de Gilles ! Merci à vous deux.

Mais je me demande si il est viable de donner le même seuil de proba pour des questions bien différentes...


Supertomate

[Silenius]

On peut imaginer un systeme qui analyse le type de prompt, et ajuste le seuil si c'est des maths, de l'histoire ou de la poesie

[supert]

C'est faisable ça ? Comment ? Des mots-clés peut-être.

Fais gaffe, tant que je comprendrais tes réponses, je risque de poser des questions...


Supertomate qui connaît le prompt, c'est du ciment rapide.

[energy_isere]

Une "bulle", et alors? Jeff Bezos vante les "bénéfices immenses" de l'IA

Boursorama avec Media Services •03/10/2025

Les investissements massifs dans l'intelligence artificielle (IA) risquent de provoquer une "bulle", mais les "bénéfices" de ces technologies vont être "immenses", a déclaré le patron d'Amazon Jeff Bezos lors de la Tech Week, le congrès de la technologie de Turin (Italie). "Les investisseurs n'ont pas l'habitude de donner deux milliards de dollars à une équipe de six personnes sans produit, et c'est pourtant ce qui se passe en ce moment" , a-t-il souligné lors d'une longue conversation avec John Elkann, président de la holding Exor (ainsi que de Stellantis et Ferrari), dont le fonds Vento organise la Tech Week.

Jeff Bezos a comparé les investissements actuels dans l'IA à la bulle des laboratoires de biotechnologie américains en l'an 2000, dopés par les progrès de la recherche génique, mais dont la valeur s'était écroulée après quelques mois.

Bezos loue un "âge d'or" multiformes

"Ces bulles industrielles peuvent être bénéfiques parce que, quand la poussière retombe et qu'on compte les gagnants, la société profite de ces inventions" , a ajouté Jeff Bezos. Dans le cas de l'IA, "les bénéfices vont être immenses", a assuré celui qui a notamment investi dans la start-up américaine d'IA générative Perplexity. "Cela va toucher toutes les entreprises du monde, en améliorant la qualité de leur travail et leur productivité", a poursuivi Jeff Bezos, alors que des manifestants propalestiniens essayaient de rentrer dans le congrès.

"Nous sommes dans l'âge d'or du voyage spatial, de l'IA, de la robotique... Il n'y a jamais eu de meilleur moment pour être enthousiasmé par l'avenir", s'est réjoui Jeff Bezos, qui a lancé cette année les premiers satellites de sa constellation Kuiper, visant à proposer une connexion internet très haut débit depuis l'espace.

Selon le cabinet spécialisé Gartner, les dépenses dans l'IA devraient atteindre dans le monde environ 1.500 milliards de dollars en 2025, puis plus de 2.000 en 2026. Le cabinet Bain a pour sa part pointé le gouffre de la course à la performance. Maintenir l'appétit de l'IA en puissance de calcul d'ici 2030 coûtera ainsi plus de 500 milliards de dollars par an d'investissements mondiaux dans les centres de données, adossés à 2.000 milliards de revenus annuels pour les rendre soutenables .

https://www.boursorama.com/actualite-ec ... 5f519501b2

[energy_isere]

Gros investissements IA en Arabie Saoudite et aux Emirats :

Saudi Arabia, UAE Pour Over $130 B Into AI To Offset Oil Price Risks

By Alex Kimani - Oct 30, 2025,

- Saudi Arabia and UAE are racing to dominate the Middle East’s AI landscape.

- The Gulf States are pouring tens of billions into data centers, cloud infrastructure, and semiconductor ventures in partnership with U.S. tech giants like Nvidia, Oracle, and Microsoft.

- The UAE’s MGX, a $100 billion AI investment vehicle formed by Mubadala and G42, is driving global partnerships through the $100 billion Global AI Infrastructure Investment Partnership.

.......................

https://oilprice.com/Energy/Energy-Gene ... Risks.html

[kercoz]

""""e psychiatre Serge Tisseron identifiait quatre fonctions successives aux objets techniques. Ils sont d’abord comme des esclaves, disait-il, des esclaves qui rendent des services dont nous ne pouvons bientôt plus nous passer. Ils deviennent ensuite les témoins d’histoires partagées, puis les complices d’actions plus ou moins avouables, enfin les partenaires d’émotions et de relations quasi intimes, au point de pouvoir susciter de notre part haine, envie, désir ou détestation. Prenons l’exemple de nos téléphones portables. Il est clair qu’ils sont loin d’être neutres et qu’ils remplissent ces quatre fonctions, notamment la dernière, avec une efficacité stupéfiante : ils sont des partenaires émotionnellement investis, « que l’on tient à la main comme on tiendrait une autre main ».

Notre vie psychique serait-elle en voie de « périphérisation », """"

"""Toutes les prothèses affaiblissent la fonction qu'elle est sensée aider.""" (Kercoz ponty)

Je suis pas sur d'être sur le bon forum pour poster ces liens :
https://www.radiofrance.fr/francecultur ... ls-3502667

[energy_isere]

"Un marché à 100 000 milliards de dollars" : plus c'est gros, plus ça passe pour le P.-D.G. de NVIDIA quand il s'agit d'IA
Article de Naïm Bada 01 nov 2025

lire https://www.clubic.com/actualite-585433 ... -d-ia.html

[energy_isere]

Une limite infranchissable empêchera l’intelligence artificielle d’avoir une conscience, dit le patron de l’IA chez Microsoft

04 novembre 2025 Numerama.com

Le débat autour d’une conscience potentielle qui finirait par émerger dans un système d’intelligence artificielle a repris de la vigueur avec les récents développements du secteur. Mais pour le patron de l’IA chez Microsoft, c’est une question mal posée. Il assure qu’il y a une limite fondamentale qui empêchera l’IA d’être consciente.

C’était en 2022. Un ancien ingénieur de chez Google s’était fait remarquer en soutenant que l’un des systèmes d’intelligence artificielle de son employeur, LaMDA, avait suffisamment progressé pour devenir une vraie IA dotée d’une « conscience ». Finalement licencié par Google, il a été contredit par ses pairs et les spécialistes en IA, jugeant qu’il faisait fausse route.

Trois ans plus tard, le fait est que le domaine de l’IA a progressé significativement. Le champ lexical pour décrire le comportement de certains systèmes aussi. On parle d’IA faisant preuve de « ludicité » ou mobilisant un raisonnement similaire à celui d’un humain. Est-ce à dire que les IA sont bien sur le chemin de la conscience ?

Pour Mustafa Suleyman, certainement pas, et l’intéressé connait bien son sujet. Il est l’un des fondateurs de DeepMind, une société experte en IA qui a été fondée en 2010 et rachetée par Google quatre ans plus tard. DeepMind s’était fait connaitre avec un système d’IA expert en jeu de go (AlphaGo) qui avait mis une raclée à tous les champions humains.

Après DeepMind, Mustafa Suleyman a travaillé directement chez Google avant de monter en 2022 sa propre société, Inflection AI. Et depuis 2024, il travaille chez Microsoft au sein de la division Microsoft AI en tant que vice-président exécutif. Son rôle ? Développer le chatbot Copilot et diriger les produits et la recherche en IA à destination du public.

Comme le rapporte CNBC le 2 novembre 2025, la position de Mustafa Suleyman — qui s’est exprimé dans le cadre d’une série de conférences sur l’IA — sur le sujet de la conscience est claire : celle-ci ne peut venir que d’êtres biologiques, comme les humains, et les développeurs et les chercheurs travaillant dans le domaine de l’IA devraient arrêter de suggérer le contraire.

L’expérience de la douleur, séparation fondamentale entre le vivant et l’artificiel

Pour distinguer fondamentalement la véritable conscience d’une simulation d’une expérience consciente, le patron de Microsoft AI a déclaré que « notre expérience physique de la douleur est quelque chose qui nous rend très tristes et nous fait nous sentir très mal, mais l’IA ne ressent pas de tristesse lorsqu’elle éprouve de la ‘douleur’ ».

« C’est une distinction très, très importante. Il s’agit en réalité simplement de créer la perception, le récit apparent de l’expérience, de soi-même et de la conscience, mais ce n’est pas ce que l’on vit réellement. Techniquement, vous le savez, car nous pouvons voir ce que fait le modèle », a-t-il ajouté. Ce n’est qu’illusion et apparence, en somme.

C’est là, juge-t-il, toute la différence entre l’IA et l’être vivant : la capacité à souffrir. « Si nous accordons des droits aux êtres humains aujourd’hui, c’est parce que nous ne voulons pas leur faire de mal, car ils souffrent. Ils ont un système de la douleur et des préférences qui les poussent à l’éviter », a-t-il ajouté. « Ces modèles [d’IA] n’ont pas cela. Ce n’est qu’une simulation. »

L’impossibilité pour une intelligence artificielle de vraiment ressentir la douleur est une frontière que Mustafa Suleyman juge par ailleurs infranchissable, y compris dans le futur. En clair, l’impossibilité d’une conscience artificielle place les chercheurs et les experts travaillant dans cette direction dans une impasse.

« [Ces systèmes] ne sont pas conscients. Il serait donc absurde de mener des recherches dessus, car ils ne le sont pas et ne peuvent pas l’être. » Le piège, résume Mustafa Suleyman, est de poser une mauvaise question sur la conscience de l’IA. Du coup, cela ne peut amener que vers des mauvaises réponses. Et l’intéressé est clair : « Je pense que c’est une question totalement inappropriée. »

https://www.numerama.com/tech/2109233-u ... osoft.html

[Jeuf]

Une limite infranchissable empêchera l’intelligence artificielle d’avoir une conscience, dit le patron de l’IA chez Microsoft

04 novembre 2025 Numerama.com

Le débat autour d’une conscience potentielle qui finirait par émerger dans un système d’intelligence artificielle a repris de la vigueur avec les récents [...]

https://www.numerama.com/tech/2109233-u ... osoft.html

Tout cela est intéressant. Si le développement de l'informatique se poursuit sur les décennies et le siècles à venir, des nouveaux éléments seront apportés immanquablement.
Nous faisons l'expérience de la conscience et nous supposons que les autres humains fassent la même puis que nous avons été formés de la même façon (rejetant l'hypothèse solipsiste), mais qu'en d'êtres artificiels?
Il semble difficile de produire la moindre preuve du fait qu'un être soit conscient, on ne pourra pas l'établir par la discussion...

Et en dehors de cela, il y a tout un nuanciers entre les êtres comme vous et moi qui discutons (quelques milliards), et la matière inanimée : les comateux, les chimpanzés, les chats, les embryons, les mouches, les mini-animaux à quelques centaines de neurones...
C'est un fameux et vieux problème, les réseaux de neurones artificiels viennent s'y ajouter et vont apporter des éléments.

[GillesH38]

bah déjà l'IA aurait une "conscience " de quoi ?

avant des faire des trucs hypercompliqués et de traduire du swahili en mongol, la première conscience qu'on a, c'est de notre corps, de sa finitude, des informations que nous donnent nos sens sur notre position dans l'espace temps, de nos sensations corporelles, de faim, de froid, de chaud, etc ... c'est sur cette couche de sensations proprioceptives qu'on bâtit ensuite une conscience de choses de plus en plus abstraites.

Mais une IA n'a rien de tout ça, pas de corps, pas d'histoire, ce n'est même pas un "individu" séparé des autres, on ne sait même pas sur quels serveurs délocalisés sont traités nos requêtes : comment pourrait elle avoir conscience de quelque chose qu'elle ne possède pas, un corps ?

[tita]

Mmmh...

Dans une nouvelle de Greg Egan, "En apprenant à être moi", ça raconte un monde futuriste où les humains remplacent leur cerveau par des Ndoli, des cristaux qui sont en fait des réseaux de neurones entraînés pour reproduire le cerveau de l'humain qui se fait remplacer son cerveau.

Y'a toute une branche de la philosophie qui s'intéresse à la conscience, la philosophie de l'esprit, et c'est pas simple de trancher sur ce que c'est et comment ça fonctionne. On a aussi eu beaucoup de peine à envisager la conscience chez les animaux pendant longtemps.

https://www.youtube.com/watch?v=tPgmr-6A10M

Mais bien évidemment, la nouvelle que je cite est de l'ordre de la science-fiction... Et c'est assez évident que les IA dont on parle aujourd'hui n'ont absolument rien à voir avec la conscience humaine qu'on expérimente. Les LLM ont pour entrée du langage et ressortent du langage, mais il n'y a absolument aucune expérience par l'IA de ce que nous pouvons ressentir (par nos autres sens et les émotions produites) dans les mots qui sont générés.

Mais disons qu'on construit une machine autour d'un réseau de neurones, et qui a pleins de capteurs et peu expérimenter le monde réel, est-ce qu'une conscience se développerait? J'ai l'impression que c'est encore une question ouverte...