oleocene.org

kercoz a écrit : Hier, 12:58
S'auto-améliorer !! .... t'es autiste ou quoi ?... Elle s'auto détruit de plus en plus vite, l'humanité.

Jeuf a écrit : 12 sept. 2026, 11:16 L'humanité prise dans son ensemble ne cesse de s'auto-améliorer (pas dans sa biologie, mais dans son organisation et sa capacité à produire de la connaissance, entre autre)

Le directeur général d'Anthropic exhorte les entreprises spécialisées dans l'IA à ralentir le développement de leurs modèles face aux craintes d'une utilisation abusive

Reuters •13/09/2026

energy_isere a écrit : 07 sept. 2026, 11:13

L'IA avancée pourrait poser un "risque existentiel pour l'humanité", alerte l'ONU

une véritable auto-amélioration récursive n'est aujourd'hui ni atteinte ni inévitable.

Pourquoi certains spécialistes estiment-ils que l'intelligence artificielle pourrait anéantir l'humanité ?

Tom Hollmann franceinfo Publié le 12/09/2026

La démission fracassante d'un chercheur d'Anthropic a relancé les inquiétudes sur la course en avant vers des IA toujours plus puissantes. Derrière les scénarios catastrophistes se trouvent des capacités bien réelles, mais aussi de nombreuses extrapolations encore très débattues.

.......................

L'IA avancée pourrait poser un "risque existentiel pour l'humanité", alerte l'ONU

AFP •07/09/2026

Le Haut-Commissaire de l'ONU aux droits de l'homme a alerté lundi sur la nécessité d'élaborer rapidement une gouvernance de l'intelligence artificielle, affirmant que l'IA avancée "pourrait faire peser un risque existentiel sur l'humanité".

"Une IA qui s'échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d'être désactivée est une IA trop puissante", a déclaré à l'ouverture de la 63e session du Conseil des droits de l'homme à Genève, appelant à "mettre en place des garanties solides concernant la sûreté et la sécurité de l'IA, avant qu'il ne soit trop tard".

"Une poignée d'hommes détient un pouvoir quasi illimité sur l'IA, dont on nous répète à l'envi qu'elle possède une puissance de calcul inimaginable. Ils parlent de liberté, mais à y regarder de plus près, il s'avère qu'il ne s'agit guère que de la liberté d'exploiter nos données", a-t-il dénoncé.

L'IA qui se joue de l'homme est déjà une réalité. Les derniers modèles d'IA générative ne se contentent plus de suivre les ordres et vont jusqu'à mentir, manigancer ou menacer pour parvenir à leurs fins, sous le regard inquiet de certains chercheurs.

En juillet, des agents IA d'OpenAI sont ainsi sortis en juillet de leur milieu théoriquement confiné pour faire spontanément intrusion sur la plateforme Hugging Face, à la recherche de réponses à un test.

Les incidents liés à des agents dépassant leurs prérogatives pour accomplir la mission qui leur a été confiée se sont multipliés ces derniers mois, Anthropic ou le chinois Alibaba ayant connu des débordements similaires. Ils inquiètent une partie de la communauté de l'IA quant aux difficultés croissantes à surveiller et contrôler des modèles de plus en plus puissants.

Volker Türk va écrire dans les prochains jours aux entreprises du secteur "pour les exhorter à prendre les mesures qui sont en leur pouvoir afin de réduire les risques, dès maintenant".

"Au minimum, nous avons besoin que les pays qui hébergent l'IA et ceux qui participent à leurs chaînes d'approvisionnement s'accordent sur des lignes rouges communes", a-t-il souligné.

"Nous avons besoin d'une vérification indépendante, et d'une coopération bien plus étroite sur la sécurité au sein de l'industrie", a-t-il relevé, appelant également à prendre en compte "les répercussions de l'IA sur les pratiques en matière d'emploi, sur les principes fondamentaux de la démocratie et sur notre environnement".

Le Haut-Commissaire s'inquiète du fait que bien que tout le monde reconnaisse qu'il faille encadrer l'IA, cette reconnaissance ne se traduit pas suffisamment en mesures concrètes. Et plus cette régulation tarde, "plus les grandes entreprises technologiques en tirent avantage", selon lui.

Tout en saluant les mesures prises notamment par la Commission européenne concernant la responsabilité des plateformes et par la Corée du Sud en matière de gouvernance de l'IA, il affirme partager "les inquiétudes d'acteurs du secteur selon lesquelles l'IA avancée pourrait faire peser un risque existentiel sur l'humanité".

IA dans les entreprises: une adoption rapide, sans effet immédiat sur la productivité

Boursorama avec AFP •03/09/2026

L'intelligence artificielle s'installe rapidement dans les entreprises françaises, note jeudi une enquête de la Banque de France, qui observe toutefois une "forte hétérogénéité des usages" et des gains de productivité "encore limités".

Début 2026, plus des deux tiers des entreprises de plus de 20 salariés déclaraient utiliser "des outils d'IA générative", souligne la Banque de France, qui a publié jeudi son enquête, menée auprès d'environ 7.000 entreprises.

L'institution explique cette adoption rapide par une "barrière à l'entrée relativement faible, à la fois en matière de compétences techniques et de disponibilité des données", l'IA générative pouvant être utilisée "directement par les salariés au travers d'outils standardisés" comme ChatGPT, ou "intégrés aux suites bureautiques", comme Microsoft Copilot, étaye la Banque de France dans son étude.

L'IA non générative, c'est-à-dire l'ensemble des technologies d'intelligence artificielle conçues pour analyser, classer, optimiser des données sans créer de nouveaux contenus (reconnaissance visuelle, traitement statistique...), est quant à elle plus en retrait.

"Elle repose souvent sur l'exploitation de données structurées et nécessite des capacités d'intégration plus importantes", explique la Banque de France, ce qui conditionne nettement son adoption à la taille de l'entreprise: seules 30% des entreprises de moins de 50 salariés l'utilisent, quand les plus grandes entreprises sont 60% à en faire usage.

Malgré cette adoption rapide et large, les bénéfices économiques promis par l'avènement de l'IA dans les entreprises se font encore attendre: seul un tiers des entreprises constatent des gains de productivité.

Manque de "cas d'usage"

Les gains de productivité inégaux (...) décrits par les entreprises suggèrent une forte part des usages expérimentaux de l'IA" ainsi qu'une "intégration imparfaite dans les processus productifs", souligne la Banque de France.

"Les usages les plus matures de l'IA, à forte valeur ajoutée, sont encore restreints aux secteurs spécialistes du traitement de l'information", ajoutent les auteurs de l'étude.

Dans les entreprises, l'usage de l'IA trouve une bonne partie de ses limites dans "le manque de cas d'usage": la moitié des entreprises qui n'utilisent pas l'IA explique n'avoir pas encore identifié de tâches à accomplir grâce à cette technologie.

Les économistes ont des avis partagés quant aux gains de productivité induits par l'IA.

Le prix Nobel d'économie Daron Acemoglu estimait dans une étude en 2024 qu'elle apporterait un peu moins d'1% de croissance du PIB à 10 ans.

Pour autant, ces dernières années, le retard dans le numérique a été le "principal facteur du décrochage de la productivité française par rapport aux Etats-Unis", affirme une note publiée mercredi par la direction générale du Trésor.

"En France et en Europe, l'adoption des technologies numériques a été significativement plus lente qu'aux États-Unis, en particulier au sein des grandes entreprises et dans certains secteurs comme les services", expliquent les auteurs de la note, soulignant qu'aux Etats-Unis, 78% des entreprises utilisaient déjà "au moins une technologie numérique avancée" en 2025, soit près de 20 points de plus qu'en France.

Or, pour le Trésor, "une moindre adoption de l'IA est un risque important", bien que "difficilement mesurable".

Même chose sur le front des investissements: le prix Nobel d'économie Jean Tirole estimait ainsi jeudi sur France Inter qu'après avoir "négligé la Tech", l'Europe, aujourd'hui "quasiment absente" sur l'intelligence artificielle, est désormais faible et sans "les moyens de (ses) ambitions".

Project OT : le plan de Meta pour remplacer ses équipes par l'IA a déraillé

Par Naïm Bada Publié le 27 août 2026

Des documents internes consultés par Reuters racontent Project OT, le chantier secret de Meta pour bâtir une entreprise pilotée par l'IA. Entre fronde des salariés et gains introuvables, la mécanique s'est grippée en quelques mois.
........................
Derrière l'acronyme OT, pour Organization Transformation, se cache une ambition assumée : faire de Meta une entreprise « AI native », où les agents d'intelligence artificielle absorbent une partie du travail quotidien. Un manuel interne détaillait la cible, avec des cellules de trois à cinq personnes en remplacement des équipes classiques de dix à vingt spécialistes, et des titres traditionnels fondus dans un rôle générique de « bâtisseur ».

Les exercices de planification exploraient des coupes allant jusqu'à 60 % des effectifs de certaines équipes, entre licenciements, gels de postes et départs de salariés jugés peu performants.
........................

Une intelligence artificielle parvient à créer de nouveaux virus pour lutter contre les bactéries

latribune.fr Publié le 07 août 2026

Des chercheurs de l'université de Stanford ont annoncé dans une étude de la revue Science avoir demandé à un modèle d'IA de créer une nouvelle famille de virus pour lutter contre des bactéries.

Voilà une nouvelle démonstration des innombrables capacités des intelligences artificielles. Des chercheurs de l'université de Stanford viennent de demander à un modèle d'IA de créer de nouveaux virus… ce qu'elle a fait.

D'après une étude publiée dans la revue Science, ces chercheurs ont demandé à des modèles de langage spécialisés appelés Evo 1 et Evo 2 d'analyser de l'ADN de virus existants appelés « phage phiX174 » et de s'en inspirer pour créer des virus encore inexistants.

« Il s'agit d'une nouvelle étape dans la complexité que peut concevoir l'IA générative ; c'est la première fois que l'IA générative est utilisée pour concevoir un génome complet, quelque chose qui peut se répliquer et avoir d'autres fonctions à l'intérieur des cellules… C'était un nouveau territoire pour nous », a déclaré Brian Hie, professeur adjoint à l’université de Stanford, à la BBC.

Lutte contre les bactéries mortelles ou premier pas vers les armes bactériologiques ?
Au-delà de la prouesse technique, l'annonce est importante puisque ces nouveaux virus pourraient bien sauver des vies. Testés en laboratoire sécurisé, ces phages se sont révélés plus efficaces contre la bactérie Escherichia coli que leur modèle naturel.

Selon les auteurs de l'étude, cette découverte pourrait notamment contribuer au développement de virus conçus sur mesure pour éliminer les bactéries résistantes aux médicaments, qui, selon l'Organisation mondiale de la santé, tuent des millions de personnes chaque année. « Si nous nous développons de manière responsable, je pense que cela peut engendrer d'énormes bénéfices pour la santé humaine », a déclaré Brian Hie, biologiste computationnel à Stanford et co-auteur de l'étude.

Cette prouesse technologique laisse toutefois planer la menace d'une utilisation à des fins de guerre bactériologique. « Cet outil permettra de créer de nouvelles variantes comme le Covid-19 qui se propageront et infecteront la plupart des gens. Et ce sera grave. Nous ne devons pas faire cela », a affirmé au Wall Street Journal Kevin Esvelt, professeur associé au Massachusetts Institute of Technology.

Reste que, selon des experts interrogés par le Wall Street Journal, les recherches de l'équipe de Stanford ne présentent pas de risque immédiat pour la sécurité. Il est peu probable qu'elles soient appliquées immédiatement aux virus infectant l'homme, car ces derniers sont beaucoup plus grands et complexes que ceux synthétisés lors de l'expérience.

ChatGPT résout 10 grands problèmes de maths, mais il y a un souci considérable qui émerge
Un pavé numérique dans la mare des matheux

Julien Lausson Numerama 04 aout 1930

OpenAI affirme qu’une version interne de son modèle Astra a terrassé dix problèmes ouverts majeurs. Mais derrière l’emballement, les mathématiciens font face à un gouffre vertigineux : l’intelligence artificielle génère désormais des démonstrations plus vite que la science n’est capable de les comprendre.
Toutes les futures médailles Fields finiront-elles par ne récompenser que des systèmes d’intelligence artificielle générative ? Voilà bien l’une des questions qui doit circuler au sein de la communauté mathématique, et qui vient de gagner en force ces derniers jours après le pavé dans la mare que vient de jeter OpenAI, le concepteur de ChatGPT.

Car la startup américaine a frappé fort le 1er août, avec un billet de blog qui a célébré dix avancées en mathématiques et en informatique théorique. Le groupe a affirmé qu’une déclinaison interne d’Astra, sa prochaine génération de modèles de langage, est parvenue à résoudre ou à faire avancer de façon décisive dix problèmes ouverts en maths.
...................

kercoz a écrit : 23 juil. 2026, 18:06

energy_isere a écrit : 23 juil. 2026, 17:48 Certes Kercoz, et pourtant 325 millions de clients Netflix enregistrésdans le monde (post au dessus) qui se soucient fort peu des forets et autres problèmes ........

Le problème pour eux, c'est que ça n'est pas réciproque ....ils commencent à cramer .

Pourquoi l’IA de Google Earth a été désactivée d’urgence

Publié le 2 août 2026 Florian Bayard 01net

Google a eu la main lourde avec l’intelligence artificielle générative. À peine intégré à Google Earth, l’outil Nano Banana 2 a permis à n’importe quel internaute de fabriquer de fausses images satellite susceptibles de propager des fake news. La fonctionnalité a rapidement échappé à tout contrôle. Face à la polémique, Google a fait marche arrière en moins de 24 heures, retirant l’outil le temps de renforcer ses garde-fous.
.....................

energy_isere a écrit : 23 juil. 2026, 17:48 Certes Kercoz, et pourtant 325 millions de clients Netflix enregistrésdans le monde (post au dessus) qui se soucient fort peu des forets et autres problèmes ........