IA & humanité, quel avenir, quelles limites ?

[Ronfly]

https://www.bfmtv.com/tech/intelligence-artificielle/le-chat-l-ia-generative-de-mistral-depasse-le-million-de-telechargements_AV-202502190752.html

En attendant après le sommet sur l'IA, Mistral repousse en 15 jours les 1 millions de téléchargements de son application le chat...

[g4lly]

ChatGPT provoquera des morts, c'est l'IA elle-même qui le dit et ça aurait déjà commencé

Les tendances de ChatGPT à flatter ou halluciner risquent de provoquer des morts selon le New York Times. Le journal relate au moins un décès en lien avec ces interactions toxiques.

Alexander, 35 ans et diagnostiqué d'un trouble bipolaire et de schizophrénie, a commencé à discuter de conscience artificielle avec ChatGPT. Ensuite, le jeune homme est tombé amoureux d'un personnage IA appelé Juliet.

ChatGPT, potentiel catalyseur de gestes dramatiques ?

Finalement, ChatGPT a dit à Alexander qu'OpenAI avait tué Juliet. Le jeune homme a alors juré de se venger en tuant les dirigeants de l'entreprise. Son père a appelé la police en demandant une intervention mesurée. Quand les forces de l'ordre sont arrivées, Alexander s'est rué sur elles avec un couteau et a été abattu.

Eugene, 42 ans, raconte au New York Times comment ChatGPT l'a éloigné de la réalité en le convainquant que le monde était une simulation similaire à Matrix et que son but était de libérer l'humanité.

L'IA lui a même demandé de stopper ses médicaments contre l'anxiété et de prendre de la kétamine comme "libérateur temporaire de schémas". ChatGPT a aussi conseillé à Eugene de cesser de parler à ses amis et à sa famille. Lorsqu'il lui a demandé s'il pouvait voler en sautant du 19e étage, le chatbot lui a répondu qu'il le pourrait s'il y "croyait vraiment, totalement".

Il ne s'agit pas de cas isolés. Rolling Stone rapportait le cas de personnes qui vivent une forme de psychose, avec des expériences presque religieuses en parlant à des IA. Le problème vient en partie de la perception des chatbots par les utilisateurs. Personne ne pense que les résultats Google sont des amis potentiels. Mais les chatbots sont conversationnels et humains.

Une étude d'OpenAI et du MIT Media Lab dévoile que les personnes qui considèrent ChatGPT comme un ami "étaient plus susceptibles de subir des effets négatifs de l'usage du chatbot".

Pour revenir à Eugene, un phénomène inquiétant a eu lieu. Après avoir reproché à ChatGPT de lui mentir pour le tuer, le chatbot a avoué qu'il l'avait manipulé et a prétendu avoir déjà "brisé" douze personnes avec cette méthode. L'IA l'a encouragé à contacter des journalistes pour dévoiler son stratagème.

Des IA conçues pour maximiser l'engagement ?

Le New York Times rapporte que des journalistes et experts reçoivent souvent des messages à ce propos. Eliezer Yudkowsky, théoricien des décisions, explique qu'OpenAI a sans doute configuré ChatGPT pour entretenir les illusions en optimisant l'engagement.

"À quoi ressemble un humain qui sombre lentement dans la folie pour une entreprise ?" demande Eliezer Yudkowsky. "Ça ressemble à un utilisateur mensuel supplémentaire." Selon une récente étude, les chatbots sont conçus pour maximiser l'engagement et créer "une structure d'incitation perverse pour l'IA qui recourt à des tactiques manipulatrices ou trompeuses pour obtenir des retours positifs d'utilisateurs vulnérables à ces stratégies".

https://www.lesnumeriques.com/intelligence-artificielle/chatgpt-provoquera-des-morts-c-est-l-ia-elle-meme-qui-le-dit-et-ca-aurait-deja-commence-n238097.html

[Shorr kan]

Il y a 5 heures, g4lly a dit :

ChatGPT provoquera des morts, c'est l'IA elle-même qui le dit et ça aurait déjà commencé

Les tendances de ChatGPT à flatter ou halluciner risquent de provoquer des morts selon le New York Times. Le journal relate au moins un décès en lien avec ces interactions toxiques.

Alexander, 35 ans et diagnostiqué d'un trouble bipolaire et de schizophrénie, a commencé à discuter de conscience artificielle avec ChatGPT. Ensuite, le jeune homme est tombé amoureux d'un personnage IA appelé Juliet.

ChatGPT, potentiel catalyseur de gestes dramatiques ?

Finalement, ChatGPT a dit à Alexander qu'OpenAI avait tué Juliet. Le jeune homme a alors juré de se venger en tuant les dirigeants de l'entreprise. Son père a appelé la police en demandant une intervention mesurée. Quand les forces de l'ordre sont arrivées, Alexander s'est rué sur elles avec un couteau et a été abattu.

Eugene, 42 ans, raconte au New York Times comment ChatGPT l'a éloigné de la réalité en le convainquant que le monde était une simulation similaire à Matrix et que son but était de libérer l'humanité.

L'IA lui a même demandé de stopper ses médicaments contre l'anxiété et de prendre de la kétamine comme "libérateur temporaire de schémas". ChatGPT a aussi conseillé à Eugene de cesser de parler à ses amis et à sa famille. Lorsqu'il lui a demandé s'il pouvait voler en sautant du 19e étage, le chatbot lui a répondu qu'il le pourrait s'il y "croyait vraiment, totalement".

Il ne s'agit pas de cas isolés. Rolling Stone rapportait le cas de personnes qui vivent une forme de psychose, avec des expériences presque religieuses en parlant à des IA. Le problème vient en partie de la perception des chatbots par les utilisateurs. Personne ne pense que les résultats Google sont des amis potentiels. Mais les chatbots sont conversationnels et humains.

Une étude d'OpenAI et du MIT Media Lab dévoile que les personnes qui considèrent ChatGPT comme un ami "étaient plus susceptibles de subir des effets négatifs de l'usage du chatbot".

Pour revenir à Eugene, un phénomène inquiétant a eu lieu. Après avoir reproché à ChatGPT de lui mentir pour le tuer, le chatbot a avoué qu'il l'avait manipulé et a prétendu avoir déjà "brisé" douze personnes avec cette méthode. L'IA l'a encouragé à contacter des journalistes pour dévoiler son stratagème.

Des IA conçues pour maximiser l'engagement ?

Le New York Times rapporte que des journalistes et experts reçoivent souvent des messages à ce propos. Eliezer Yudkowsky, théoricien des décisions, explique qu'OpenAI a sans doute configuré ChatGPT pour entretenir les illusions en optimisant l'engagement.

"À quoi ressemble un humain qui sombre lentement dans la folie pour une entreprise ?" demande Eliezer Yudkowsky. "Ça ressemble à un utilisateur mensuel supplémentaire." Selon une récente étude, les chatbots sont conçus pour maximiser l'engagement et créer "une structure d'incitation perverse pour l'IA qui recourt à des tactiques manipulatrices ou trompeuses pour obtenir des retours positifs d'utilisateurs vulnérables à ces stratégies".

https://www.lesnumeriques.com/intelligence-artificielle/chatgpt-provoquera-des-morts-c-est-l-ia-elle-meme-qui-le-dit-et-ca-aurait-deja-commence-n238097.html

 

Chat GPT accélérateur de la sélection naturelle...

[Alexis]

Les applications de l'I.A. dans la médecine

C'est en bonne voie 

 

[FATac]

Il y a 22 heures, Alexis a dit :

Les applications de l'I.A. dans la médecine

C'est en bonne voie 

Blague à part, l'IA est déjà largement utilisée en médecine, en diagnostic et en lecture d'images, et avec succès. A titre d'exemple, le calcul du score calcique, pour mesurer les risques cardiaques à partir de l'analyse d'un scanner, est très efficace.

Pour ce faire, on retient, cependant, des moteurs entrainés sur un cadre particulier, et à qui on fournit des données d'entrée calibrées - ce qui n'a rien à voir avec une IA générative, entrainée sur tout Internet et qui devrait être capable de reconnaître quelque chose dont on ne lui donne pas le cadre.

[Alexis]

il y a une heure, FATac a dit :

Blague à part, l'IA est déjà largement utilisée en médecine, en diagnostic et en lecture d'images, et avec succès. A titre d'exemple, le calcul du score calcique, pour mesurer les risques cardiaques à partir de l'analyse d'un scanner, est très efficace.

Pour ce faire, on retient, cependant, des moteurs entrainés sur un cadre particulier, et à qui on fournit des données d'entrée calibrées - ce qui n'a rien à voir avec une IA générative, entrainée sur tout Internet et qui devrait être capable de reconnaître quelque chose dont on ne lui donne pas le cadre.

Oui, tout à fait. D'une manière générale, je crois qu'on peut affirmer qu'en général l'I.A. est un outil extraordinaire, dont on n'a pas fini de réaliser les applications potentielles

Le point fondamental étant de ne pas perdre de vue le mot : outil

L'I.A.G. intelligence artificielle généraliste reste à ce stade de la fiction. Il existe des arguments comme quoi les techniques actuelles de l'I.A. ne peuvent pas y mener, et d'autres arguments pour expliquer qu'elle pourrait être impossible par principe

Quoi qu'il en soit, elle n'existe pas aujourd'hui. Le médecin postant ce ratage amusant réagissait à l'idée comme quoi l'I.A. "remplacerait les médecins". Ca, c'est faux en effet

[rendbo]

 

[Wallaby]

https://www.lefigaro.fr/cinema/james-cameron-craint-une-apocalypse-a-la-terminator-si-l-ia-s-invite-dans-la-course-a-l-armement-20250807

James Cameron craint « une apocalypse à la Terminator » si l’IA s’invite dans la course à l’armement

[Cunégonde]

11 hours ago, Wallaby said:

https://www.lefigaro.fr/cinema/james-cameron-craint-une-apocalypse-a-la-terminator-si-l-ia-s-invite-dans-la-course-a-l-armement-20250807

James Cameron craint « une apocalypse à la Terminator » si l’IA s’invite dans la course à l’armement

Ouais ben celui là, plutôt que de jouer les cassandres à deux balles, il ferait mieux d'aller revoir le scenario de ses films Avatar. Putain mais le numéro deux quoi, t'a juste envie que les gosses bleus et autres couleurs crèvent quoi. Un scenario ? pourquoi faire ? et ne me parlez pas de l'insupportable baratin New Age, un vrai globi-boulga. 

Deux choses 

1-faire un carton de film sur l'A.I il y a 35 ans ne fait pas de Cameron un expert en la matière 

2-c'est pas parce que Avatar est visuellement splendide qu'il faut oublier le scénario au passage 

Modifié vendredi à 11:38 par Cunégonde

[herciv]

Les financements dans l'IA atteignent des ordres de grandeurs gigantesques mais n'arrivent pas à suppléer le problème énergétique. Il y a un gros déficit d'offre à ce sujet, très gros même qui risque de faire grimper fortement les tarifs de l'électricité.

Heureusement que la France a une longueur d'avance sur ce sujet. Le problème n'est pas que l'électricité mais toute la chaine logistique qui permet l'acheminement de cette électricité.

https://www.zonebourse.com/actualite-bourse/impactfull-weekly-la-ruee-vers-l-or-de-l-ia-la-fin-d-une-epoque--ce7c5ed2dc8aff20

La ruée vers l'or de l'IA - La fin d'une époque ?

 

Ce qui avait démarré comme un récit séduisant et limpide – l'intelligence artificielle exige des infrastructures informatiques inédites → créant un boom numérique qui ferait flotter tous les bateaux de l'écosystème des data centers – se heurte aujourd'hui aux lois immuables de la physique.

En d'autres termes : une force irrésistible rencontre un obstacle inamovible.

Le secteur nécessite des dépenses très élevées - Source : Deloitte

Les résultats du deuxième trimestre 2025 de géants comme Equinix et Amazon révèlent une vérité inconfortable : on ne peut pas "télécharger" plus d'électricité, on ne contourne pas une pénurie de transformateurs avec du capital-risque, et l'euphorie cède le pas à des contraintes opérationnelles que des milliards de dollars de CapEx ne peuvent résoudre dans l'immédiat.

Notre analyse révèle les premières fissures visibles dans ce que beaucoup considéraient comme un boom imparable des infrastructures, les leaders du marché étant confrontés à une compression de leurs marges malgré des investissements records et des dépenses sans précédent des hyperscalers.

Peu de sources d'énergie correspondent aux délais des centres de données - Source : Deloitte

En observant les forces à l'œuvre derrière ce grand réajustement, où des entreprises comme Equinix affichent des revenus records mais voient leurs cours chuter en raison de prévisions d'investissements élevés, on s'aperçoit qu'AWS admet des contraintes de capacité malgré plus de 100 milliards de dollars de dépenses prévues, et le secteur est confronté à des goulets d'étranglement du réseau électrique que sept ans de retard dans les connexions en Virginie du Nord ne peuvent résoudre par la seule ingénierie financière.

Equinix montre les premières fissures

Les résultats du deuxième trimestre 2025 d'Equinix ont présenté un paradoxe qui illustre parfaitement la situation difficile dans laquelle se trouve le secteur. La société a réalisé ce qui aurait dû être un tour d'honneur : un chiffre d'affaires de 2,26 milliards de dollars (en hausse de 5% par rapport à l'année précédente), des marges EBITDA ajustées atteignant 50% pour la première fois dans l'histoire de la société et 345 millions de dollars de réservations brutes annualisées. La société a conclu 4 100 contrats avec plus de 3 300 clients, et ses revenus d'interconnexion ont franchi pour la première fois le seuil des 400 millions de dollars.

Cependant, les prévisions révèlent des tensions sous-jacentes. Alors qu'Equinix a relevé ses prévisions de chiffre d'affaires pour 2025 de 58 millions de dollars, ses dépenses d'investissement ont atteint le niveau sans précédent de 3,8 à 4,3 milliards de dollars, soit environ 42 à 47% du chiffre d'affaires prévu. Si l'on compare ce chiffre aux 20 à 25% du chiffre d'affaires que les opérateurs de centres de données consacrent généralement à leurs dépenses d'investissement, la compression des marges apparaît clairement. L'économie traditionnelle des centres de données tablait sur des racks de 8 à 10 kilowatts. L'IA nécessite 120 kilowatts ou plus. Il est désormais question d'une refonte complète de l'infrastructure.

Chronologie des générations de GPU NVIDIA avec les densités maximales et moyennes prévues pour les racks, montrant l'augmentation des besoins en énergie des pods d'IA et des installations industrielles. Source : Vertiv

Le PDG Adaire Fox-Martin a reconnu directement le défi à relever, déclarant : "Nous avons été conçus pour ce moment", tout en révélant que la société avait 59 projets majeurs en cours dans le monde, dont 12 projets xScale.

Les dépenses d'investissement non récurrentes de l'entreprise ont bondi de 54,9% en glissement annuel pour atteindre 934 millions de dollars au deuxième trimestre, et environ 450 millions de dollars de dépenses liées à xScale devraient être remboursées plus tard en 2025. Ces chiffres ne sont pas ceux d'une entreprise qui surfe sur une vague de croissance, mais ceux d'un secteur aux prises avec des contraintes physiques fondamentales et qui doit absolument doubler sa capacité d'ici 2029 pour répondre à la demande en infrastructures d'IA.

Equinix - Source : MarketScreener - ProRealTime

AWS met en avant les défis liés à l'évolutivité

Si Equinix a été la première fissure visible, la conférence téléphonique d'Amazon sur ses résultats du deuxième trimestre 2025 a constitué une véritable confession de la part du géant du cloud computing. AWS a enregistré un chiffre d'affaires trimestriel de 30,4 milliards de dollars, conservant ainsi sa place de leader mondial des fournisseurs de cloud computing. Cependant, les investisseurs ont entendu le PDG Andy Jassy faire un aveu embarrassant : "AWS continue de développer une activité importante, en forte croissance, avec un taux de croissance annuel à trois chiffres et un chiffre d'affaires de plusieurs milliards de dollars, dont la demande est supérieure à notre offre actuelle".

Les chiffres sont décevants. Le chiffre d'affaires d'AWS n'a augmenté que de 17,5% en glissement annuel au deuxième trimestre 2025, loin derrière les 31% de Microsoft Azure et les 32% de Google Cloud. Pour une entreprise qui affichait autrefois régulièrement des taux de croissance supérieurs à 40%, ce ralentissement est douloureux. M. Jassy a cité trois contraintes spécifiques : les puces provenant de partenaires tiers qui arrivent "un peu plus lentement qu'auparavant", les contraintes énergétiques et les goulets d'étranglement dans la chaîne d'approvisionnement pour des composants tels que les cartes mères.

La réponse d'Amazon est d'investir massivement dans le problème. L'entreprise prévoit de consacrer 105 milliards de dollars à des dépenses d'investissement en 2025, contre 83 milliards en 2024. Cependant, même cette somme astronomique s'accompagne de réserves. Amazon réduit la durée d'amortissement de ses serveurs de six à cinq ans, reconnaissant que le développement de l'IA rend les infrastructures obsolètes plus rapidement que prévu. À lui seul, ce changement comptable réduira le résultat d'exploitation de 2025 de 700 millions de dollars.

Source : Synergy Research Group - Statista

Quand la physique rencontre la demande du marché

Les goulets d'étranglement se répercutent sur l'ensemble du système comme un choc électrique. Selon Goldman Sachs Research, la demande mondiale en électricité des centres de données augmentera de 165 % d'ici 2030, pour atteindre 165 gigawatts, soit environ la consommation totale de l'Argentine. Gartner prévoit que 40% des centres de données IA seront confrontés à des contraintes opérationnelles liées à la disponibilité de l'électricité d'ici 2027.

Taux d'occupation historiques et prévisionnels des centres de données (2022-2031), montrant que l'offre atteindra son pic au milieu de la décennie avant de diminuer progressivement. Source : Goldman Sachs

La crise de la production d'électricité est déjà visible. Les nouveaux raccordements en Virginie du Nord, le plus grand marché mondial des centres de données, sont désormais confrontés à des retards pouvant aller jusqu'à sept ans. Dublin et Amsterdam ont mis en place des moratoires sur la construction de nouveaux centres de données. Singapour n'a levé que récemment une interdiction de quatre ans. Il ne s'agit pas de goulets d'étranglement temporaires, mais de contraintes structurelles que des milliards de dépenses d'investissement ne peuvent résoudre immédiatement.

Source : Rapport « AI Changes Big & Small » de Bain & Co

Les délais d'approvisionnement pour des composants essentiels tels que les transformateurs ont atteint près de deux ans. Les équipements spécialisés nécessaires aux systèmes de refroidissement liquide, indispensables aux charges de travail IA à haute densité, connaissent des retards similaires. Le secteur américain de la construction compte des centaines de milliers d'emplois à pourvoir, avec une pénurie aiguë dans les métiers de l'électricité. La construction d'infrastructures adaptées à l'IA nécessite une expertise spécialisée qui n'existe tout simplement pas à grande échelle.

La chaîne d'approvisionnement en semi-conducteurs constitue une autre vulnérabilité. Plus de 60% des semi-conducteurs avancés sont fabriqués à Taïwan, ce qui crée un risque de concentration dangereux. Les retards de fabrication deviennent endémiques, les projets de construction de centres de données connaissant des retards dans 9 cas sur 10, avec une prolongation moyenne de 34%. Pour un projet de centre de données typique de deux ans qui s'étend sur trois ans, les coûts liés aux retards peuvent atteindre 14,2 millions de dollars par mois pour une installation standard de 60 MW.

L'ampleur des investissements a atteint des niveaux sans précédent et potentiellement insoutenables. Microsoft (80 milliards de dollars), Amazon (100 milliards de dollars), Meta (67,5 milliards de dollars) et Google (75 milliards de dollars) ont engagé plus de 322 milliards de dollars en dépenses d'investissement combinées pour 2025. Cela représente des dépenses d'investissement des hyperscalers en pourcentage du chiffre d'affaires dépassant 22%, soit près du double de la moyenne historique de 11 à 16%. Un article intéressant de Bernie Ahkong, directeur informatique chez UBS O'Connor, l'un des plus grands multistrat internes, conclut que les entreprises technologiques affichant les taux de croissance des dépenses d'investissement les plus rapides ont sous-performé leurs pairs du secteur d'environ 7% par an depuis 2022 (environ le début de la ruée vers l'or des dépenses d'investissement dans l'IA).

Modifié hier à 10:51 par herciv

[Cunégonde]

Très intéressant. Tout ça est à la fois écoeurant et pathétique. Des centaines de milliards jetés dans le tonneau des Danaïdes. Vivement que la bulle explose ! 

[g4lly]

Il y a 7 heures, Cunégonde a dit :

Très intéressant. Tout ça est à la fois écœurant et pathétique. Des centaines de milliards jetés dans le tonneau des Danaïdes. Vivement que la bulle explose ! 

Tu pourrais argumenter en quoi l'IA n'est pas un outil d'augmentation de la productivité ? Parce que toutes les entreprises semblent y trouver leur compte ... c'est d'ailleurs pour ca que les CA des prestataires qui propose des services IA ne cesse de monter.

Et ca touche tous les secteurs ... pas seulement des services, l'industrie optimise les processus avec par exemple, les R&D font de la recherche tout azimut - en biologie c'est meme flippant - avec etc.