ChatGPT et autres LLM

[Silenius]

Un autre papier interessant : une methode qui ameliore l'apprentissage continu pour les LLM de codage. Pas besoin de re entrainer le systeme lorsque certaines librairies ou languages de programmation sont mis a jour : Prompt Pooling with Teacher Forcing (PP-TF) 21% d'amelioration par rapport a une technique precedente.
https://arxiv.org/abs/2307.02435

[Silenius]

Par contre 1G token en mémoire permet de générer des vidéos (ou une suite d'une vidéo mise en prompt). Sauf que le LLM n'a été entrainé que sur du texte, donc ça ne fonctionne pas (désolé pour cette idée débile).

Non, avec un peu de fine-tuning, un text LLM peut generer une image : LLM Itself Can Read and Generate CXR Images https://arxiv.org/abs/2305.11490

we present a novel method to fine-tune a pre-trained LLM to read and generate images like text without any structural changes, extra training objectives, or the need for training an ad-hoc network while still preserving the instruction-following capability of the LLM.

sinon, il y a Visual ChatGPT

Visual ChatGPT: Talking, Drawing and Editing with Visual Foundation Models https://arxiv.org/pdf/2303.04671.pdf

et bien sur il y a des MLLM (multimodal) dont le plus connu est Gpt4.
Une "petite" liste ici : https://github.com/BradyFU/Awesome-Mult ... age-Models

[energy_isere]

ChatGPT : OpenAI est traîné en justice pour avoir formé son IA avec des livres piratés

PAR ANDRY NIRINA LE 03/07/2023

OpenAI et Microsoft sont de plus en plus pointés du doigt pour leur interprétation un peu étrange du droit d’auteur. Leur invention ChatGPT aurait été entraînée grâce à du contenu piraté.

De nombreux utilisateurs profitent d’ores et déjà des IA génératives pour créer des œuvres graphiques, mais aussi littéraires, et parfois, pour en tirer profit. OpenAI, la startup qui avec ChatGPT est à la genèse de cette révolution numérique et sociétale, est accusée par deux écrivains d’avoir utilisé leur contenu pour entraîner leur IA.

Les artistes reprochent aux créateurs de grands modèles de langage d’utiliser des sources normalement payantes pour former leurs chatbots. Si l’objectif des grands noms de la Silicon Valley est de tirer profit de l’Intelligence artificielle, les auteurs des « sources » originales ne recevront peut-être aucune contrepartie malgré leur contribution pourtant essentielle.

Selon Torrent Freak, « cette semaine, les auteurs Paul Tremblay et Mona Awad ont déposé un recours collectif contre OpenAI, accusant la société mère de ChatGPT de violation des droits d’auteur. Selon eux, ChatGPT a été partiellement formé sur leurs œuvres protégées par le droit d’auteur, sans autorisation ». L’accusation est grave. Comment les plaignants peuvent-ils être si sûrs qu’OpenAI a formé son chatbot sur leurs œuvres ? Pour M. Tremblay et Mme Awad, la preuve est évidente : « ChatGPT génère des résumés des œuvres protégées des plaignants, ce qui n’est possible que si ChatGPT a été formé sur ces œuvres ».

Mais l’accusation va plus loin encore. D’après MM. Tremblay et Awad, OpenAI aurait utilisé du contenu recueilli sur des sites de piratage de livres comme Z-Library. En effet, si la compagnie reste évasive sur la provenance des sources ayant servi à former son IA, on sait que ChatGPT a été entraîné sur au moins 360 000 livres. L’entreprise a-t-elle payé pour « s’inspirer » de ces œuvres ? On ne peut le savoir, mais les plaignants notent tout de même que « OpenAI a dû utiliser des ressources piratées, car il n’existe pas de bases de données légitimes contenant autant de livres ».

https://www.phonandroid.com/chatgpt-ope ... rates.html

[energy_isere]

ChatGPT : OpenAI rend GPT-4 globalement disponible

Aymeric Geoffre-Rouland
AYMERIC GEOFFRE-ROULAND , le 7 juillet 2023

OpenAI lance GPT-4 (son dernier modèle textuel) via API. Ce dernier offre des avancées significatives en génération de texte, incluant images et code. Les API de GPT-3.5 Turbo, DALL·E et Whisper sont aussi disponibles.

OpenAI a annoncé aujourd’hui la disponibilité générale de GPT-4, son dernier modèle de génération de texte utilisable par le biais de ChatGPT, via son API.

À partir de cet après-midi, tous les développeurs existants de l’API OpenAI ayant « un historique de paiements réussis » pourront accéder à GPT-4. La société prévoit d’ouvrir l’accès aux nouveaux développeurs d’ici la fin du mois, puis d’augmenter les limites de disponibilité par la suite, en fonction des ressources en calcul.

OpenAI révolutionne la génération de texte avec le lancement de GPT-4 via son API

OpenAI a déclaré, dans son article de blog, que des millions de développeurs ont demandé l’accès à l’API de GPT-4 depuis mars, et que « de plus en plus de produits innovants exploitant GPT-4 voient le jour chaque jour ». La vision d’OpenAI est d’atteindre un futur où les modèles conversationnels pourront soutenir n’importe quel cas d’utilisation.

GPT-4 présente plusieurs améliorations par rapport à son prédécesseur, GPT-3.5. Il est capable de générer du texte, y compris du code, sauf qu’il accepte également des images. Il a aussi atteint un niveau de performance « proche de l’humain » sur diverses tâches professionnelles et académiques. Comme les autres modèles GPT développés par OpenAI, GPT-4 a été entraîné à l’aide de données disponibles publiquement, ainsi que de données sous licence OpenAI.

GPT-4 n’est pas parfait non plus. Il peut parfois inventer des faits et commettre des erreurs de raisonnement, tout en tenant un discours convaincant. Il ne tire pas de leçons de ses expériences et échoue dans la résolution de problèmes complexes, comme l’introduction de vulnérabilités de sécurité dans le code qu’il génère.

OpenAI a également annoncé aujourd’hui la disponibilité générale de ses API GPT-3.5 Turbo, DALL·E 2, qui génère des images, et Whisper, qui convertit la parole en texte. À partir du 4 janvier 2024, les modèles GPT-3 et leurs dérivés ne seront plus disponibles, et seront remplacés par de nouveaux modèles, base GPT-3, qui sont plus efficaces en termes de calcul.

https://www.tomsguide.fr/chatgpt-openai ... isponible/

[energy_isere]

ChatGPT : GPT-5 sera encore plus proche de l’intelligence humaine, l’IA va changer le monde

David Douïeb , le 29 mars 2023 12:23

Alors que GPT-4 vient tout juste d’être lancé, OpenAI planche déjà sur son futur modèle GPT-5. Attendue pour décembre prochain, cette nouvelle itération s’annonce encore plus révolutionnaire, se rapprochant sensiblement de l’intelligence artificielle forte et donc des compétences d’un humain.

Il y a quelques jours, OpenAI a lancé GPT-4. Capable d’interagir avec les images, le nouveau modèle se veut plus fiable et plus précis que son prédécesseur. L’entreprise continue à travailler d’arrache-pied sur la future itération qui s’annonce encore plus révolutionnaire. Très actif sur Twitter, le développeur Siqi Chen confie avoir eu des informations notables allant en ce sens.

“On m’a dit que GPT-5 devait achever son apprentissage en décembre et qu’OpenAI s’attendait à ce qu’il atteigne l’IAG. Ce qui signifie que nous débattrons tous avec vigueur pour savoir s’il l’atteindra bel et bien”. Cet acronyme désigne l’intelligence artificielle forte, un concept qui apparaît comme le stade ultime du développement de l’IA.

ChatGPT va bientôt tendre davantage vers l’intelligence humaine

Raisonnement, résolution de problèmes, compréhension d’idées… Théoriquement, un tel stade signifierait que l’IA a la capacité d’apprendre n’importe quelle tâche intellectuelle que les humains peuvent accomplir. Cela est toutefois à double tranchant.

D’un côté, cela permettrait de déléguer encore plus de tâches chronophages et fastidieuses à l’IA, déchargeant la mule des travailleurs humains. Ces derniers pourraient alors se concentrer sur des tâches à haute valeur ajoutée. Un véritable tournant révolutionnaire, selon Bill Gates. Mais conférer à l’IA autant de compétences pourrait aussi avoir des conséquences inattendues, voire néfastes.

Exploitation de l’IA par des régimes totalitaires, désinformation, cyberattaques, chômage… Le patron d’OpenAI, Sam Altman, a d’ailleurs déjà évoqué ses craintes au sujet de l’intelligence artificielle. Il ne faut toutefois pas s’alarmer outre-mesure. Nous ne sommes pas dans un film de science-fiction où les robots s’apprêtent à prendre le contrôle sur nos vies. Mais il faut tout de même être conscient des effets néfastes des IA afin de mieux les combattre.

Avant de déployer GPT-5 sur ChatGPT, OpenAI lancera une itération intermédiaire baptisée GPT-4,5 “en septembre ou octobre 2023”.

https://www.tomsguide.fr/chatgpt-gpt-5- ... -le-monde/

[GillesH38]

tant qu'une IA reste dans des mémoires d'ordinateur, elle ne présente aucun danger. Le seul danger vient de ce qu'on lui laissera décider dans nos vies réelles.

[energy_isere]

tant qu'une IA reste dans des mémoires d'ordinateur, elle ne présente aucun danger. Le seul danger vient de ce qu'on lui laissera décider dans nos vies réelles.

ben non, les IA dans des mauvaises mains vont pouvoir générer du fake très facilement avec des vidéo falsifiées......

Et pas que la vidéo, la voix aussi :

IA : ils clonent les voix de vos proches pour vous arnaquer, voici comment vous en protéger
Technologie : La prochaine fois que vous recevrez un appel téléphonique d'un membre de votre famille ou d'un ami, assurez-vous d'abord qu'il ne s'agit pas d'un robot.

la rédaction de ZDNet
Par Sabrina Ortiz | Jeudi 09 Mars 2023
...................

https://www.zdnet.fr/actualites/ia-ils- ... 955206.htm

Attention aux arnaques au clonage de voix par l'IA : vous êtes de plus en plus nombreux à tomber dans le piège
Alexandre Boero 03 mai 2023 clubic
..................

https://www.clubic.com/technologies-d-a ... piege.html

Vérifiez toujours le numéro qui vous appelle
En cas de doute, posez une « question-clé » à votre proche, à laquelle lui seul pourrait répondre
Maîtrisez le partage de vos données personnelles sur le Web. Moins les pirates en savent sur vous, plus vous avez de chances d'être ignoré par ces derniers
Examinez la source de l'appel, du SMS ou du mail. Dans le cas d'un appel, tentez de rappeler directement la personne qui vous téléphone

perso, j' ai déjà idée des questions-clés que je poserais pour vérifier.

si vous pensez que je m'effraye inutilement regardez :

Des IA capables d’imiter nos voix : même votre mère pourrait tomber dans le piège vidéo 6mn https://www.youtube.com/watch?v=BfwYmdgdHB4
Courrier international
108 k abonnés
10 k vues

[energy_isere]

J'ai fait une IA du Président Emmanuel Macron, voici les résultats. vidéo 13mn https://www.youtube.com/watch?v=ECIas_koYcI

Defend Intelligence
124 k abonnés
92 377 vues 30 avr. 2023 #deepfake #intelligenceartificielle #IA
L'IA génératif prend de plus en plus de place dans la création de contenus. Aujourd'hui je vous montre une nouvelle frontière qui est en train d'être franchi, le son !
Dans cette vidéo je vous explique comment on en est arrivé là, et je vous montre des exemples avec Emmanuel Macron.

[GillesH38]

bah en même temps on n'a pas attendu l'IA pour faire des arnaques au téléphone et des imitations de voix : c'est sur qu'il faudra faire plus attention, vérifier si on a un doute, que les enregistrements audios et videos seront bien plus suspects d'être fabriqués, mais on s'adaptera.

[GillesH38]

Tiens je vais faire un test :

Jeudi, donne moi une recette de tarte aux poireaux.

bon ben Jeudi, qui croit que l'IA va faire tout comme les humains, n'a pas répondu comme une IA : il n'a pas donné de recette de tarte aux poireaux, comme on pouvait s'en douter. Alors que les IA répondent toujours gentiment à ce genre de demande.

En réalité, si vous posez les questions que vous posez à chatGPT à un humain, la réponse la plus probable n'est pas celle de chatGPT, mais une qui ressemblerait surement à " je suis pas ton larbin, t'as qu'à chercher toi même, et puis ça te fera bosser un peu, pour changer"

Mais bon imaginez qu'on mette en ligne une IA qui réponde ça, la rigolade que ça provoquerait ... Le truc c'est qu'on s'en ficherait complètement d'avoir un humain de plus sur Terre.

[energy_isere]

ben oui l' IA devient ton larbin comme tu dis ou moins connoté ''ton gentil assistant'' , mais ca on est habitué, on a déjà nos larbins énergétiques sous formes de machines fonctionnant au pétrole, gaz et electricité .......

[GillesH38]

bien sûr, j'ai rien contre utiliser des machines qui servent l'homme. Ca relativise juste le caractère "humain" des machines : les machines sortent des phrases qui semblent humaines, mais en réalité elles ne se comportent pas du tout comme un humain le ferait, un humain n'accepterait pas qu'on se serve de lui comme ça.

[energy_isere]

bien sûr, j'ai rien contre utiliser des machines qui servent l'homme. Ca relativise juste le caractère "humain" des machines : les machines sortent des phrases qui semblent humaines, mais en réalité elles ne se comportent pas du tout comme un humain le ferait, un humain n'accepterait pas qu'on se serve de lui comme ça.

ça n' aura qu'un temps :



je ne donne pas de dates. Ca peut être dans 100 ans ou dans 250 ans.

[GillesH38]

Faut pas oublier que dans "science-fiction", il y a "fiction"

[energy_isere]

ChatGPT : le trafic baisse drastiquement pour la première fois, que se passe-t-il ?

DAVID DOUÏEB , le 10 juillet 2023

Depuis son lancement en novembre dernier, ChatGPT n’a eu de cesse de voir son trafic exploser. Mais pour la première fois, une baisse de fréquentation sur le site de l’agent conversationnel a été constatée. Plusieurs raisons peuvent l’expliquer.
...................

https://www.tomsguide.fr/chatgpt-le-tra ... asse-t-il/