IA Intelligence Artificielle

[GillesH38]

certainement oui. Mais dans les erreurs communes figure l'idée que l'IA répond correctement quand on lui demande comment elle marche elle même. Ca ne requiert aucune connaissance personnelle, aucun apprentissage, c'est juste la question de savoir si elle-même sait qu'elle sait ou qu'elle ne sait pas. C'est un point basique qui ne demande pas de technicité de l'utilisateur.

Et manifestement, elle le sait beaucoup moins que ce que les gens peuvent croire assez naïvement quand ils lui "demandent comment elle marche". (En fait je tombe un peu dans le piège en disant "elle sait beaucoup moins" car ça laisse penser qu'elle "sait un peu", mais en réalité elle ne sait rien, je veux simplement dire que ce qu'elle sort est bien moins fiable que ce qu'on peut penser).

[LeLama]

dans les erreurs communes figure l'idée que l'IA répond correctement quand on lui demande comment elle marche elle même.

Oui, je plussoie ce point. On voit dans ce fil et dans d'autres des questions posees a la machine pour comprendre son fonctionnement . Les reponses n'engagent que ceux qui y croient.

Il me semble que la ou les connaissances sont bien connues, la machine repete, c'est OK. La ou c'est tres ouvert, pas connu, la machine invente. Sur son propre fonctionnement, la machine invente grave.... car personne ne comprend vraiment pourquoi les algos par reseau de neurones donnent des reponses raisonnables.

[Silenius]

euh mais comment une IA fait pour "savoir" si elle sait ou elle ne sait pas ?

Parce que lors de l'inference l'algo donne une probabilite a chaque mot probable. On pourrait le modifier pour recalculer la proba complete de la phrase avant output et dire a la place "desole, je ne sais pas" si la proba est trop basse ?
C'est un peu ce que fait le slider qui permet de regler la temperature sur certaines interfaces de chat. Il permet de donner de reponses plus ou moins "originales ou creatives" (comprendre exactes)
Edit : il y a une interface avec une librairie en Python avec la coloration des mots qui varie en fonction de la confiance.

[energy_isere]

John Hopfield, lauréat du prix Nobel de physique, "inquiet" du développement de l'IA
AFP •08/10/2024

lire : https://www.boursorama.com/actualite-ec ... 41647a297a

[energy_isere]

L'IA associée a des recherches en chimie par un chercheur Nobélisé à l'aide de AlphaFold2 :

Le Nobel de chimie récompense des travaux sur les protéines et l'IA

Reuters •09/10/2024

https://www.boursorama.com/actualite-ec ... e85ca0b7a4

[energy_isere]

OpenAI (ChatGPT) s'installe à Paris : Sam Altman a une idée derrière la tête

Samir Rahmoune Publié le 09 octobre 2024

Le monde de l'intelligence artificielle est à ce jour surtout dominé par les entreprises américaines, et par leurs rivales chinoises. Il semble difficile pour le moment aux autres nations de tirer leur épingle du jeu. Mais tout de même, parmi les poursuivants, on retrouve la France, qui est en quelque sorte la locomotive du Vieux Continent dans le domaine. Un rôle qui se confirme avec cette arrivée prestigieuse !

OpenAI ouvre un bureau à Paris

OpenAI vise Paris ! La start-up californienne annonce en effet ce mercredi son intention d'installer un bureau au niveau de la capitale française. Il s'agirait de la troisième implantation au niveau européen pour la firme de Sam Altman, après Dublin et Londres.

« Avec une équipe sur place, nous pourrons collaborer étroitement avec les entreprises, institutions et développeurs français pour les aider à tirer pleinement parti des avantages de l'IA » a fait savoir le patron de l'entreprise, qui devrait atteindre prochainement les 150 milliards de dollars de valorisation.

La capitale française, un vivier de talents IA

Pourquoi Paris ? La raison est simple, d'après le communiqué d'OpenAI. Il s'agit « d'accéder au vivier de talents français » dans le secteur de l'intelligence artificielle. Car si dans l'hexagone, l'on ne possède pas de mastodonte similaire au créateur de ChatGPT, Paris bénéficie tout de même d'un écosystème IA important.

La capitale française accueille ainsi la licorne Mistral AI, qui a notamment Nvidia ou Samsung comme investisseurs, et Microsoft comme partenaire. Elle est aussi là où s'est installé Kyutai, un laboratoire de développement IA fondé par Xavier Niel et l'ancien PDG de Google, qui a eu droit à une belle enveloppe de 300 millions d'euros pour son lancement à la fin de l'année dernière. Alors, en posant ses valises dans la ville lumière, Sam Altman va-t-il pouvoir dénicher le prochain Yann Le Cun ?

https://www.clubic.com/actualite-539996 ... -tete.html

[Glycogène]

Une vidéo de philosophie par Mr Phi au sujet des vidéos de philosophie générées par IA : https://www.youtube.com/watch?v=rJE2qkP0Gk4
Sur certains thèmes précis, les vidéos (bonne ou mauvaises) créées par des humains, sont noyées dans les (très mauvaises) vidéos générées par IA (contrôlée par des humains qui veulent juste faire de l'argent en faisant le plus de vues possibles sur des thèmes qui font des vues). Noyées signifie 1 vidéo d'humain pour 10000 vidéos d'IA, c'est hallucinant.

[energy_isere]

Une vidéo de philosophie par Mr Phi au sujet des vidéos de philosophie générées par IA : https://www.youtube.com/watch?v=rJE2qkP0Gk4
Sur certains thèmes précis, les vidéos (bonne ou mauvaises) créées par des humains, sont noyées dans les (très mauvaises) vidéos générées par IA (contrôlée par des humains qui veulent juste faire de l'argent en faisant le plus de vues possibles sur des thèmes qui font des vues). Noyées signifie 1 vidéo d'humain pour 10000 vidéos d'IA, c'est hallucinant.

Absolument effrayant.

On avait les spams dans son mail, maintenant des vidéo fake qui inondent Youtube.

Je me demande comment Youtube va réagir et contre attaquer. Ils vont devoir utiliser l' IA pour scruter ces vidéo et les éliminer ?

[nemo]

Ils vont devoir utiliser l' IA pour scruter ces vidéo et les éliminer ?

Probablement. Il y a trop de vidéo pour que cela puisse se faire manuellement. Et il y aura sans doute plein d'erreur de la part des IA. Déjà que les vlogueur se plaigne de la façon dont youtube gére les bans automatiques ou les demande de bans liés aux copyrights...

[GillesH38]

ça confirme ce que je pense, que le danger de l'IA ne vient pas de ce qu'elle déciderait de faire contre notre volonté (parce qu'elle ne le fera pas), mais de ce qu'on va décider nous de lui faire faire.

[energy_isere]

Ces parasites qui utilisent l' IA pour générer des mauvais contenus sans intervention humaine comptent sur les revenus générés par le visionnage de leur chaine Youtube.

voir au sujet de la rémunération sur Youtube : https://lesmakers.fr/remuneration-youtube/

En France, un YouTubeur avec 100 000 abonnés peut généralement espérer gagner entre 500 et 2 000 euros par mois grâce à la publicité1. Ce montant peut varier en fonction de plusieurs facteurs, notamment le nombre de vues, le taux d’engagement de l’audience, et la niche du contenu1.

Mr Phi qui à 354k abonnés, peut effectivement vivre de sa chaine qui semble t'il l'occupe à plein temps. Mais c'est du bon contenu.
Et en plus il est pas tout seul car il a un monteur vidéo.
De plus ses revenus sont certainement plus élevé avec les dons/soutiens via Patreon et Tipee

[supert]

Béotien arrive !!!

Y'a-t-il d'autres moyens que l'analyse des images pour savoir si une photo ou vidéo est artificielle ou pas ?

Autrement dit, à part compter le nombre de doigts et autres bizarreries qui devraient diminuer avec le temps, peut-on trouver quelque chose dans le code de l'image qui montrerait l'artificialité d'icelle ?

Sinon, il reste l'enquête. Il parait qu'on a maintenant des photos historiques datant d'avant l'invention de la photo.


Supert qui on l'a dit doit avoir dix doigts

[energy_isere]

Exemple d'image issue d'IA dans techno-science.net

Je déteste ce genre d'images



https://www.techno-science.net/actualit ... 24364.html

ou ceci :



https://www.techno-science.net/actualit ... 25795.html

[Glycogène]

Y'a-t-il d'autres moyens que l'analyse des images pour savoir si une photo ou vidéo est artificielle ou pas ?

A part si l'image montre des hallucinations typiques des IA, il n'y a pas de moyen.
Et ça fait déjà qq mois que les IA mettent le bon nb de doigts, ce n'est plus un critère utilisable. Ce genre de critère est toujours valable (pareil avec une image comportant du texte illisible ou qui ne veut rien dire, ou une vidéo avec un personnage qui sort du décor puis y rentre). Ces critères sont toujours valables, mais l'absence de ces défauts ne signifie pas que l'image/vidéo n'est pas issue d'une IA.

Mon critère principal reste l'absence d'originalité par rapport à des images issues d'IA sur le même thème.
Les images données par energy sont issues d'un prompt assez simple, 1 ou 2 lignes.
Prendre le temps de faire de dizaines d'essais en améliorant le prompt pour obtenir l'image qu'on souhaite, signifie qu'on n'est pas payé à l'heure, et que la génération du prompt n'est pas automatisé.
Typiquement, il doit surement exister un outil qui permet d'illustrer un article automatiquement en donnant juste le texte de l'article, même pas besoin de réfléchir à comment on voudrait l'illustrer puis à peaufiner un prompt sur un générateur d'image.
Du coup, ça donne toujours le même genre d'illustration.
Ca ne change pas par rapport à avant, où un humain cherchait dans une banque d'image de vraies photos sur le thème de l'article, puis en sélectionnait qq unes. On avait dans tous les articles sur la même news le même genre de photos au style impersonnelle et bien léchée, vu qu'il y avait le même processus de choix d'image et la recherche dans les mêmes banques d'image.
Avec l'IA, la seule différence pour le lecteur est la patte de l'IA dans les images, mais les images d'illustration sont tout aussi bidon qu'avant.
Alors que grace à l'IA on pourrait avoir une image bien plus proche du sujet de l'article, car pas besoin de maitriser un outil d'image de synthèse en 3D. Mais le but des rédacteurs de ces articles n'est pas de faire de la qualité, juste de la quantité.
Par contre ce qui est dangereux est la modification de photos par IA pour ajouter des personnages ou objets, qu'on utilise comme preuve pour accuser qqun.

[Jeudi]

Alors que grace à l'IA on pourrait avoir une image bien plus proche du sujet de l'article, car pas besoin de maitriser un outil d'image de synthèse en 3D. Mais le but des rédacteurs de ces articles n'est pas de faire de la qualité, juste de la quantité.
Par contre ce qui est dangereux est la modification de photos par IA pour ajouter des personnages ou objets, qu'on utilise comme preuve pour accuser qqun.

Bons points. Perso je ne vois pas ce qui nous empêcherait d’avoir un label « source de qualité », un mécanisme pour perdre le label en cas d’utilisation non éthique (incluant les guignols à la Raoult ou les c3p de l’intox russe), et des règles pour limiter la quantité de désinformation que Twitter peut répandre sans finir sur la paille.