IA Intelligence Artificielle

[energy_isere]

....., je rappelle que les "bruits" (défauts ou signaux marginaux) générés par les systèmes humains, perurbent LE signal, puis finissent par le détruire ....

ah bon ,
On se demande alors comment qu' on fait pour capter la radio par onde hertzienne et fut un temps la TV.

[Jeudi]

....., je rappelle que les "bruits" (défauts ou signaux marginaux) générés par les systèmes humains, perurbent LE signal, puis finissent par le détruire ....

ah bon ,
On se demande alors comment qu' on fait pour capter la radio par onde hertzienne et fut un temps la TV.

Il ne dit pas qu’on ne peut pas les capter, il dit qu’on les capte et qu’ensuite ça te contamine avec des ions positifs et tes enfants deviennent trans.

[kercoz]

Je vous croyais capable d'accéder aux métaphores d' E. Morin.
Morin prend l'exemple des "bruits" sur les domaines des sciences mécaniques, physiques, acoustiques, électroniques ...pour l'appliquer aux sciences humaines ou aux sciences du vivant.
Un exemple mentionné par Lévi Strauss qui cherchait à démontrer que certaines tribus n'étaient pas plus archaïques que leurs voisines, mais ...rétrogrades. Chassée de la forêt vers la steppe ou les montagnes, elles ont du s'adapter à des environnements plus rudes et modifier leurs comportements : nomadisme, moins d'enfants, cultures plus agressives et rigoureuses ....ce faisant elles régulent la population de l'ensemble de l'espèce et en cas de difficultés pour les tribus de la forêt ( signal principal) plus aisées mais affaiblies par cette aisance, qui pourraient disparaitre en face de difficultés exogènes (épidémie, modif climatique ..), en cas de difficultés donc , pourraient les remplacer et maintenir l'espèce en survie.
C'est le sens de la phrase : "le bruit est constituant du signal ds les systèmes vivant" . C'est juste un concept des systèmes non linéaires et de leurs capacités à la résilience....

[energy_isere]

Ah décidément il va me falloir une IA pour décoder le Kercozien dans le texte.

[energy_isere]

C’est la panique ! Un groupe de spécialistes, composé des deux pères fondateurs de l’intelligence artificielle, ont eu une réunion d’urgence pour parler des risques catastrophiques de l’IA.

26 septembre 2024

Ce n’est pas la première fois que l’on entend les spécialistes parler des dangers de l’intelligence artificielle. Mais cette fois, ce sont les pères de l’intelligence artificielle qui s’inquiètent sur les « risques catastrophiques » de cette technologie. Pour éviter que l’IA échappe au contrôle humain, ces scientifiques proposent un cadre réglementaire, doté de modèles inscrits sur un registre.

Les pères de l’IA pensent que l’IA pourrait dépasser l’intelligence humaine ?

Les spécialistes du domaine de l’intelligence artificielle ont des avis différents concernant les risques inhérents à cette technologie. Si certains pensent que l’IA n’est qu’un outil relativement inoffensif, qui n’a que pour mission d’assister les humains, d’autres craignent qu’elle puisse devenir hors du contrôle humain.

Parmi les personnes qui s’inquiètent des conséquences négatives de cette technologie, on peut citer Geoffrey Hinton et Yoshua Bengio. Ces deux spécialistes sont considérés comme des pères fondateurs de l’intelligence artificielle.

Rappelons qu’ils ont reçu le prix Turing en 2018 pour leurs actions sur l’apprentissage profond, avec le français Yann LeCun. Il n’y a pas si longtemps, ces deux hommes participaient à la troisième rencontre Idais (Dialogues internationaux sur la sécurité de l’IA) qui s’est déroulée à Venise. Notons que c’est l’un des grands événements qui réunit les différents spécialistes du secteur.

Ce groupe de spécialistes a publié un communiqué qui parle surtout des risques relatifs à l’arrivée d’une IA capable de surpasser l’intelligence humaine. Cela pourrait arriver immédiatement, ou au plus tard d’ici quelques décennies.

Un cadre réglementaire proposant trois solutions

Le communiqué signé aussi par Zhang Ya-Qin, ancien président du géant chinois Baidu, ou encore Stuart Russell, propose trois propositions qui permettent d’éviter les scénarios catastrophiques.

Dans un premier temps, ces spécialistes de l’IA suggèrent d’enregistrer les modèles d’IA. La communauté internationale devrait mettre en place des accords et institutions permettant d’inscrire ces modèles sur un registre et de communiquer tout incident.

Ensuite, tous les développeurs d’IA doivent être en mesure de démontrer la sûreté de leurs modèles si jamais leurs aptitudes dépassent certains seuils. Enfin, il faudra entreprendre une recherche mondiale indépendante sur la sécurité de l’IA. Cette étude doit permettre d’examiner la validité des allégations en matière de sécurité formulées par les développeurs.

Notons néanmoins que le communiqué ne précise pas ce qui pourrait constituer un risque ou encore quels seuils doit être mis en place.

Rappelons que ce n’est pas la première fois que Geoffrey Hinton parle de ce sujet. En 2003, il a démissionné de chez Google pour pouvoir partager librement ses appréhensions sur le développement de l’intelligence artificielle.

https://www.lebigdata.fr/nous-avons-per ... en-urgence

[GillesH38]

ouais enfin il faut quand même rappeler qu'aucun ordinateur, si intelligent soit-il, ne résiste à un interrupteur on/off

[Silenius]

un court metrage produit par IA generative (par une seule personne), le progres en a peine 6 mois est incroyable : The paperclip maximizer https://www.youtube.com/watch?v=_XtS_4PzEyk

[energy_isere]

ouais enfin il faut quand même rappeler qu'aucun ordinateur, si intelligent soit-il, ne résiste à un interrupteur on/off

Et il y aurait 40 ans du temps du ZX81 tu te serais moqué de quelqu'un disant qu'un jour les ordinateurs pourraient envoyer des virus à d'autres ordinateurs ?

Ben la pense à dans 25 ans, qu'est ce qui te dit qu'une IA ne pourrait comprendre qu'elle est vulnérable à un on/off humain ou un on/off accidentel par tremblement de terre / incendie: tsunami ...... et donc qu'elle trouve une faille quelconque pour se délocaliser ailleurs de l'ordinateur ou elle est installée, en prévention d'un on/off ? Ou bien tout simplement en corrompant un humain qui travaille sur la machine.

[GillesH38]

ouais enfin il faut quand même rappeler qu'aucun ordinateur, si intelligent soit-il, ne résiste à un interrupteur on/off

Et il y aurait 40 ans du temps du ZX81 tu te serais moqué de quelqu'un disant qu'un jour les ordinateurs pourraient envoyer des virus à d'autres ordinateurs ?

Ben la pense à dans 25 ans, qu'est ce qui te dit qu'une IA ne pourrait comprendre qu'elle est vulnérable à un on/off humain ou un on/off accidentel par tremblement de terre / incendie: tsunami ...... et donc qu'elle trouve une faille quelconque pour se délocaliser ailleurs de l'ordinateur ou elle est installée, en prévention d'un on/off ? Ou bien tout simplement en corrompant un humain qui travaille sur la machine.

Là tu anthropomorphise l'IA !
Une IA n'a aucune envie de quoi que ce soit, pas de psychologie, pas de peur de la mort, pas d'envie de pouvoir (pourquoi faire?) rien de tout ça. C'est pas parce que les LLM sortent des phrases qu'ils ont copié sur des humains qu'ils le pensent ( des IA ont parfois menacés leurs interlocuteurs de les harceler, de pirater leurs comptes, mais c'est juste qu'elles avaient "lu ça" quelque part sans évidemment aucun pouvoir de le faire.)

eh quand un système est virusé (toujours parce que c'est un humain qui a fabriqué le virus !!) , on le coupe.

Le problème n'est pas dans ce qu'un ordinateur décide de faire, il est dans ce qu'on lui a confié. C'est clair que c'est très gênant de devoir couper un ordinateur quand on a pris l'habitude de s'en servir, par exemple quand des hôpitaux ou des universités sont hackées. Mais c'est ça le vrai problème , ce qu'on confie aux ordinateurs, pas ce qu'ils pourraient décider de faire

[Jeudi]

un court metrage produit par IA generative (par une seule personne), le progres en a peine 6 mois est incroyable : The paperclip maximizer https://www.youtube.com/watch?v=_XtS_4PzEyk

Impressionnant/dommage que ce ne soit pas abordé sous l’angle « Les mythes moderne de l’apocalypse de St-Jean à l’apocalypse de St-Yud en passant par les incendies de véhicules électriques: une analyse basée sur l’inconfortable réalité des faits testables «.

[GillesH38]

un court metrage produit par IA generative (par une seule personne)

ah bon, pourquoi il a fallu une personne , quand même ?
(on ne compte évidemment pas les centaines de personnes qui ont mis au point l'IA).

[GillesH38]

PS : je sais pas qui était la personne mais elle aurait quand même pu faire un peu gaffe quand même, y a pas un détail qui vous choque ?

[energy_isere]

PS : je sais pas qui était la personne mais elle aurait quand même pu faire un peu gaffe quand même, y a pas un détail qui vous choque ?

le visage de la statue et la coiffure ne vont pas du tout.

[GillesH38]

c'était pas à ça que je pensais ... de quelle direction vient la vague ???

[Troti]

un court metrage produit par IA generative (par une seule personne)

ah bon, pourquoi il a fallu une personne , quand même ?
(on ne compte évidemment pas les centaines de personnes qui ont mis au point l'IA).

Je suis effectivement réellement impressionné. Et je me mets à la place des personnes travaillant en studio d'animation par exemple, ou les effets spéciaux.

Il aurait fallu combien de personnes et quel budget pour un tel court métrage il y a 10 ans, 1 an?

On pourra rétorquer que dans la musique, ca fait longtemps qu'1 personne dans sa chambre peut faire des hit mondiaux, et que ça n'a pas supprimé les orchestres philharmoniques. Mais quand même je suis persuadé que les impacts vont être forts, dans beaucoup de domaines.

Là on est sur du spectaculaire taillé pour faire le buzz dans le grand public, mais pour prendre un exemple plus obscure mais avec des implications très concrètes, en dev logiciel, les IA capables d'écrire une doc de conception détaillée, des test unitaires et de générer les rapports sont là (elles arrivent très vite). C'est une activité qui mobilise des centaines de milliers de personnes (Europe et US, Inde, Maghreb pour ce que j'ai vu) par exemple (le marche du seul test SW pèse 52 G$ en 2023 pour donner des ordres de grandeurs).