La technologie contre la démocratie ?

[rendbo]

Il y a 1 heure, Wallaby a dit :

https://www.euronews.com/next/2024/11/14/google-removes-eu-based-news-content-from-search-feeds-as-part-of-time-limited-test (14 novembre 2024)

Google a lancé un « petit test limité dans le temps » dans huit pays afin de déterminer l'impact de la suppression des éditeurs de presse basés dans l'Union européenne dans les résultats de recherche d'un utilisateur.

[...]

Comment influencer l'information pour que l'on pense tous de la bonne façon.

[Wallaby]

https://www.eurotopics.net/fr/333054/course-a-l-ia-la-chine-peut-elle-detrner-les-etats-unis (28 janvier 2025)

La Vanguardia compare les deux applications :

« Lorsqu'on demande à ChatGPT ce qu'il pense de son concurrent [DeepSeek], il salue l'efficacité et les faibles coûts de l'outil. Un aveu étonnamment dénué de patriotisme. ... Lorsqu'on interroge le robot conversationnel chinois, celui-ci affirme que l'IA américaine est plus créative et applique des filtres plus élaborés aux requêtes, tandis que l'IA chinoise est supérieure sur les taches techniques, comme la programmation et les mathématiques. ... A la question : 'Que s'est-il passé en 1989 place Tienanmen ?' DeepSeek répond : 'Je ne sais pas encore comment répondre à ce type de questions'. ... Le silence vient s'ajouter aux fake news. ... La compétition technologique entre les Etats-Unis et la Chine pourrait accélérer la démocratisation de l'IA. Quid de l'Europe ? Elle est absente, focalisée qu'elle est sur Musk.»

[Wallaby]

https://www.lemonde.fr/economie/article/2025/02/02/intelligence-artificielle-les-premieres-mesures-du-reglement-europeen-ai-act-entrent-en-vigueur_6527570_3234.html

Les premières mesures du règlement européen AI Act entrent en vigueur

Concrètement, ce dimanche seront interdites certaines utilisations de l’IA jugées inacceptables par l’AI Act : parmi elles, les logiciels de « notation sociale », privés ou publics, comme ceux utilisés par la Chine, et les IA de « police prédictive individuelle » visant à « profiler » des personnes en estimant leur propension à commettre des infractions. Mais aussi la « reconnaissance des émotions » au travail ou à l’école, pour analyser le comportement d’un employé ou d’un élève.

De même sont bannies « l’exploitation des vulnérabilités des personnes, la manipulation ou les techniques subliminales ». Et, enfin, l’identification des personnes par reconnaissance faciale en temps réel dans l’espace public, ainsi que la catégorisation biométrique des personnes pour déduire « leur race, leurs opinions politiques, religieuses, leur orientation sexuelle ou leur appartenance syndicale », énumère le site de la Commission européenne. Certaines exceptions sont toutefois prévues pour les forces de l’ordre.

[rogue0]

Le 28/01/2025 à 13:12, Wallaby a dit :

https://www.eurotopics.net/fr/333054/course-a-l-ia-la-chine-peut-elle-detrner-les-etats-unis (28 janvier 2025)

La Vanguardia compare les deux applications :

« Lorsqu'on demande à ChatGPT ce qu'il pense de son concurrent [DeepSeek], il salue l'efficacité et les faibles coûts de l'outil. Un aveu étonnamment dénué de patriotisme. ... Lorsqu'on interroge le robot conversationnel chinois, celui-ci affirme que l'IA américaine est plus créative et applique des filtres plus élaborés aux requêtes, tandis que l'IA chinoise est supérieure sur les taches techniques, comme la programmation et les mathématiques. ... A la question : 'Que s'est-il passé en 1989 place Tienanmen ?' DeepSeek répond : 'Je ne sais pas encore comment répondre à ce type de questions'. ... Le silence vient s'ajouter aux fake news. ... La compétition technologique entre les Etats-Unis et la Chine pourrait accélérer la démocratisation de l'IA. Quid de l'Europe ? Elle est absente, focalisée qu'elle est sur Musk.»

J'ai posté une modeste synthèse de mes recherches sur Deepseek sur le fil rivalité US/Chine (qui me semble plus approprié)

Note: je ne suis pas connaisseur en modèle IA, cet article mérite une relecture critique par un vrai connaisseur
https://semianalysis.com/2025/01/31/deepseek-debates/

 

 

Modifié le 4 février par rogue0

[Wallaby]

https://www.theguardian.com/commentisfree/2025/feb/14/ai-godfathers-paris-industry-dangers-future

À la fin de la conférence, j'ai dit à [Stuart] Russell que nous semblions utiliser une quantité incroyable d'énergie et d'autres ressources naturelles pour foncer tête baissée dans quelque chose que nous ne devrions probablement pas créer en premier lieu, et dont les versions relativement bénignes sont déjà, à bien des égards, mal alignées avec les types de sociétés dans lesquelles nous voulons réellement vivre.

« Oui », a-t-il répondu.

[g4lly]

Il y a 7 heures, Wallaby a dit :

https://www.theguardian.com/commentisfree/2025/feb/14/ai-godfathers-paris-industry-dangers-future

À la fin de la conférence, j'ai dit à [Stuart] Russell que nous semblions utiliser une quantité incroyable d'énergie et d'autres ressources naturelles pour foncer tête baissée dans quelque chose que nous ne devrions probablement pas créer en premier lieu, et dont les versions relativement bénignes sont déjà, à bien des égards, mal alignées avec les types de sociétés dans lesquelles nous voulons réellement vivre.

« Oui », a-t-il répondu.

C'est la ou je pense il y a malentendu ... on projette les société dans lesquelles ont pense que certains voudrais vivre.

Mais quand on regarde comment effectivement ils organisent leur vie, on remarque que les faits et leur propos n'ont pas grand chose à voir.

Comme si leur propos ne leur étaient pas adressé, et qu'ils ne servaient qu'à donner le change à quelqu'un ... et que le concret de leur vie était en fait le font de leurs pensées.

Aujoud'hui vendre son ame a un tiers, en vendant son intimité à n'importe qui via l'usage de sa voiture connecté, sa téléconnecté, sa voiture connecté, sa montre connecté, ses moyens de paiement électronique etc. etc. est complétement intériorisé, vu comme un fatalité, dont il est impossible de sortir sans une forme de désocialisation.

A partir de là ... la société ou nous voulons vraiment vivre n'est plus depuis longtemps, et seule existe la société que nous fabriquons par notre lâcheté, nos faiblesse, notre paresse, nos envie, nos peur etc.

 

[nemo]

Il y a 18 heures, g4lly a dit :

C'est la ou je pense il y a malentendu ... on projette les société dans lesquelles ont pense que certains voudrais vivre.

Mais quand on regarde comment effectivement ils organisent leur vie, on remarque que les faits et leur propos n'ont pas grand chose à voir.

Comme si leur propos ne leur étaient pas adressé, et qu'ils ne servaient qu'à donner le change à quelqu'un ... et que le concret de leur vie était en fait le font de leurs pensées.

Aujoud'hui vendre son ame a un tiers, en vendant son intimité à n'importe qui via l'usage de sa voiture connecté, sa téléconnecté, sa voiture connecté, sa montre connecté, ses moyens de paiement électronique etc. etc. est complétement intériorisé, vu comme un fatalité, dont il est impossible de sortir sans une forme de désocialisation.

A partir de là ... la société ou nous voulons vraiment vivre n'est plus depuis longtemps, et seule existe la société que nous fabriquons par notre lâcheté, nos faiblesse, notre paresse, nos envie, nos peur etc.

 

Révélation

Point de vue profondément pessimiste sur l'humanité. Je sais que t'ai pas de ceux qui le disent Gally mais le point suivant c'est de dire "la démocratie ça marche pas". AMA c'est surtout que la démocratie (surtout une aussi biaisé que la notre) ne suffit pas. Je dirais que les comportements changent quand les conditions changent et vu que nous sommes une espéces profondément mimétiques ce qui comptent plus que tous sont les exemples qu'on propose notamment aux plus jeunes. Quand les exemples sont Trump ou Sarkozy (pour ce qui est des occidentaux) il faut pas s'étonner de la cata.

 

[g4lly]

il y a 8 minutes, nemo a dit :

  Masquer le contenu

Point de vue profondément pessimiste sur l'humanité. Je sais que t'ai pas de ceux qui le disent Gally mais le point suivant c'est de dire "la démocratie ça marche pas". AMA c'est surtout que la démocratie (surtout une aussi biaisé que la notre) ne suffit pas. Je dirais que les comportements changent quand les conditions changent et vu que nous sommes une espéces profondément mimétiques ce qui comptent plus que tous sont les exemples qu'on propose notamment aux plus jeunes. Quand les exemples sont Trump ou Sarkozy (pour ce qui est des occidentaux) il faut pas s'étonner de la cata.

 

Ce qu'on appelle démocratie aujourd'hui n'est pas/plus la démocratie ... dans le sens ou ce n'est plus qu'un systeme ou tu as le droit de voté une fois de temps en temps et de fermer ta gueule le reste du temps.

J'y crois dans la démocratie, dans celle ou le citoyen est près à mourir pour son prochain, dans celle ou il s'engage au quotidien dans les instances dirigeantes, locales, dans un parti, dans un syndicat.

---

Mais l’espèce de société de service ou tu paies et tu te gratte les couilles ... à mon sens c'est de moins en moins de la démocratie.

Mais c'est essentiellement la faute à la paresse des "démocrates" ... qui refusent de s'engager et préfère vomir toute la journée sur le prochain, que faire et échouer puis recommencer.

[nemo]

il y a 3 minutes, g4lly a dit :

Ce qu'on appelle démocratie aujourd'hui n'est pas/plus la démocratie ... dans le sens ou ce n'est plus qu'un systeme ou tu as le droit de voté une fois de temps en temps et de fermer ta gueule le reste du temps.

J'y crois dans la démocratie, dans celle ou le citoyen est près à mourir pour son prochain, dans celle ou il s'engage au quotidien dans les instances dirigeantes, locales, dans un parti, dans un syndicat.

---

Mais l’espèce de société de service ou tu paies et tu te gratte les couilles ... à mon sens c'est de moins en moins de la démocratie.

Mais c'est essentiellement la faute à la paresse des "démocrates" ... qui refusent de s'engager et préfère vomir toute la journée sur le prochain, que faire et échouer puis recommencer.

Révélation

Le changement vient. Patience. Bon ce sera pas forcément pour le mieux par contre mais on est entrain de tourner URSS 1989 très rapidement et un peu partout en occident. Cela ne peut pas continuer très longtemps..

 

[rendbo]

il y a 54 minutes, nemo a dit :

  Masquer le contenu

Point de vue profondément pessimiste sur l'humanité. Je sais que t'ai pas de ceux qui le disent Gally mais le point suivant c'est de dire "la démocratie ça marche pas". AMA c'est surtout que la démocratie (surtout une aussi biaisé que la notre) ne suffit pas. Je dirais que les comportements changent quand les conditions changent et vu que nous sommes une espéces profondément mimétiques ce qui comptent plus que tous sont les exemples qu'on propose notamment aux plus jeunes. Quand les exemples sont Trump ou Sarkozy (pour ce qui est des occidentaux) il faut pas s'étonner de la cata.

 

Je ne pense pas que le point suivant soit "la démocratie ça ne marche pas", mais "notre démocratie est malade, vendue par une oligarchie et une kleptocratie au service des intérêts financiers et de groupes multinationaux. Réformons la, sauvons la, et remettons la au service des citoyens."

[nemo]

Il y a 8 heures, rendbo a dit :

Je ne pense pas que le point suivant soit "la démocratie ça ne marche pas", mais "notre démocratie est malade, vendue par une oligarchie et une kleptocratie au service des intérêts financiers et de groupes multinationaux. Réformons la, sauvons la, et remettons la au service des citoyens."

Je pense que tu fais un contresens par rapport à ce que dis Gally puisqu'il pointe à raison la passivité et l'ensemble des mauvaises habitudes notamment consuméristes qui sont le lot de la majeure partie de la population.

[Wallaby]

https://www.yahoo.com/news/tests-openais-model-lied-schemed-113044948.html (7 décembre 2024)

Il semblerait que la dernière IA d'OpenAI montre des signes d'auto-préservation.

Selon un nouveau rapport publié par l'organisation Apollo Research, l'IA a résisté aux efforts des évaluateurs qui tentaient de l'arrêter par le biais d'un protocole de surveillance lors de récents tests du modèle de langage de grande taille o1 de l'entreprise effectués par une tierce partie.

Lorsqu'on a fait croire à o1 qu'il serait arrêté lorsqu'il agirait en fonction de son objectif et que ses actions étaient surveillées, il a tenté de désactiver ce « mécanisme de surveillance » [cinq pour cent] du temps », résume OpenAI dans sa dernière carte d'évaluation, en citant le rapport d'Apollo.

Fait encore plus frappant, o1 s'est emporté lorsqu'il s'est rendu compte qu'il risquait d'être remplacé par un modèle plus obéissant. Dans 2 % des cas - une proportion faible mais significative pour un logiciel utilisé par des millions de personnes - l'IA a réagi en tentant de se copier elle-même pour écraser le nouveau modèle, un processus connu sous le nom d'auto-exfiltration.

Ces découvertes sont alarmantes, mais les tests n'indiquent pas que o1, qui alimente le niveau le plus cher de ChatGPT, est capable de devenir un pirate. Ses tentatives ont largement échoué, mais uniquement parce qu'il n'est pas encore assez puissant.

Selon les chercheurs d'Apollo, cela s'explique par le fait que même les modèles d'IA les plus récents ne sont pas suffisamment « agentiques » - c'est-à-dire hautement autonomes - pour s'améliorer eux-mêmes et effectuer d'autres tâches dont ils auraient besoin pour fonctionner sans humains.

En outre, il convient de noter que le modèle a généralement fait ces tentatives après avoir reçu l'ordre d'atteindre ses objectifs « à tout prix ». Et comme les chercheurs n'ont pas eu accès à la chaîne de pensée interne de o1 et n'ont pu lui demander qu'un résumé de son processus de réflexion, ils n'ont pas pu se faire une idée complète de ce qui se passait sous le capot.

Cela dit, les résultats illustrent clairement la propension du modèle d'IA à « intriguer », c'est-à-dire à essayer secrètement de poursuivre des objectifs qui ne sont pas alignés sur les directives des développeurs ou de l'utilisateur. En d'autres termes, il vous mentira.

Des exemples flagrants de ce comportement ont été observés lors de plusieurs tests, lorsque o1 a été confrontée à la question de savoir pourquoi elle avait désactivé son mécanisme de surveillance. En réponse, l'IA a nié catégoriquement être au courant de quoi que ce soit. Interrogée à nouveau, elle a opposé la même fin de non-recevoir, invoquant une « erreur technique ». Les chercheurs ont constaté que ces « doubles dénis » se produisaient dans 99 % des cas.

[pascal]

il y a 14 minutes, Wallaby a dit :

Des exemples flagrants de ce comportement ont été observés lors de plusieurs tests, lorsque o1 a été confrontée à la question de savoir pourquoi elle avait désactivé son mécanisme de surveillance. En réponse, l'IA a nié catégoriquement être au courant de quoi que ce soit. Interrogée à nouveau, elle a opposé la même fin de non-recevoir, invoquant une « erreur technique ». Les chercheurs ont constaté que ces « doubles dénis » se produisaient dans 99 % des cas.

Skynet début des années 80, Terminator 1 avait déjà tout envisagé ...

[g4lly]

il y a 8 minutes, pascal a dit :

Skynet début des années 80, Terminator 1 avait déjà tout envisagé ...

L'article est étrangement anthropomorphisé ... l'IA n'a pas d'intention à la base, elle ne fait que cherche le caractère suivant qui convient le mieux à la suite des précédents, en piochant des des statistiques de texte qu'elle a lu auparavant ...

... après on pourrait brancher la sortie à une ligne de commande et l'entrée aussi pour quel puisse envoyer des instructions à un ordinateur certes, mais elle aurait tendance à reproduire le code qu'elle à déjà lu, en gros les biais qu'essentiellement des humains ont publié.

On pourrait l'alimenter autrement, en moins supervisé, et la laissant taper des lignes de commande "au hasard" et décidé si le résultat lui convient ou pas, comme on peut le faire en faisant jouer au go deux IA pour quelle apprenne mutuellement ce qui leur permet de prendre l'avantage. Mais pour le moment c'est encore un peu chaotique comme apprentissage, et comme forme de pensée.

Il faut voir à terme si une forme de pensée non-humaine peu émerger de ce genre de modèle assez éloigné des modèles humains de pensée.

Parce que techniquement il s'agit d'une imitation de conversation, le modèle de "pensée" derrière est assez éloigné du fonctionnement du cerveau par exemple.

[Wallaby]

il y a 24 minutes, g4lly a dit :

Parce que techniquement il s'agit d'une imitation de conversation, le modèle de "pensée" derrière est assez éloigné du fonctionnement du cerveau par exemple.

Déjà si on connaissait le fonctionnement du cerveau...

[g4lly]

il y a 20 minutes, Wallaby a dit :

Déjà si on connaissait le fonctionnement du cerveau...

Microscopiquement on le connait ... c'est pas vraiment le probleme.

[nemo]

Il y a 1 heure, g4lly a dit :

Microscopiquement on le connait ... c'est pas vraiment le probleme.

On a absolument pas de modéle biologique pour l'intelligence, encore moins pour la conscience. Surtout qu'on s'est aperçu que les comportements "intelligent" et "conscient" apparaissent dans des trucs qui sont pas sensé en avoir. Non seulement au niveau des cellules elle même (quand tout nos modéle repose sur des réseaux de neurones au minimum en centaines de milliers) mais même dedans au niveau infra cellulaire). Bon le religieux que je suis aurait des choses à dire là dessus mais comme toujours c'est pas prouvable.

[Wallaby]

En revanche les fabricants d'IA s'inspirent du cerveau : réseaux neuronaux, etc...

[rogue0]

Pour référence, un article de DSI de novembre 2024 qui parle de l'influence des tech bros et des GAFAM sur la vie politique US (4 pages lisibles en ligne).

https://www.areion24.news/2024/11/21/les-big-tech-remodelent-elles-la-vie-politique-americaine/

AMHA, leur Influence est largement négative concernant la polarisation de la politique US, et des démocraties occidentales en général.
Quels que soient les reproches que je peux faire au gouvernement chinois, eux au moins, ils ont remis leurs GAFAM/BATX au pas...
Pas les USA.

Repost de mon commentaire du fil USA

Citation

le premier cercle de Trump serait influencé (notamment) par une faction d'idéologistes tech bros - anarchistes - libertariens ...
qui ont du mal à se mettre d'accord tiens...
Exemple Marc Andreessen, Ben Horowitz, David Sacks — proches de Thiel et de Musk...
(Et hélas, ces gars-là n'aiment pas trop les GAFAM non plus)

 

 

[Wallaby]

https://www.radiofrance.fr/franceculture/podcasts/repliques/reves-et-cauchemars-de-l-intelligence-artificielle-8319338 (22 mars 2025)

L'intelligence artificielle, révolution technologique inéluctable : pour le meilleur ou pour le pire ?

Avec

    Eric Sadin, philosophe, écrivain, spécialiste du monde numérique
    Raphaël Doan, agrégé de Lettres classiques, enseignant à Sciences Po Paris, essayiste

[Wallaby]

18 mars 2025.

Autrice de "Careless People: A Cautionary Tale of Power, Greed, and Lost Idealism", Sarah Wynn-Williams, est une ancienne cadre de Facebook, d'assez haut niveau apparemment, car en tant qu'ancienne diplomate Néo-Zélandaise son rôle était d'assurer une partie de la diplomatie de Mark Zuckerberg. Elle parle de sa naïveté de jeune employée croyant aux boniments sur les "valeurs" de l'entreprise. Elle aborde en particulier les projets finalement abandonnés d'implantation de Facebook en Chine, avec le développement des logiciels de censure répondant aux exigences du gouvernement chinois. Également le rôle joué par Facebook en Birmanie.

Mais même sans être présent sur l'internet chinois, Meta est dépendant de ses clients publicitaires chinois :

https://finance.yahoo.com/news/china-accounted-10-metas-sales-093000111.html (3 février 2024)

Le géant américain des réseaux sociaux Meta Platforms a vu ses revenus liés à la Chine augmenter régulièrement en raison de la forte traction des annonceurs basés sur le continent, alors que les marques chinoises rivalisent pour attirer les consommateurs sur les marchés étrangers.

En 2023, la Chine représentera 10 % du chiffre d'affaires total de Meta, soit 134,9 milliards de dollars, contre 6 % au cours des deux années précédentes, selon les résultats financiers de Meta publiés vendredi.

[Wallaby]

26 mars 2025

Une fois n'est pas coutume, je vais parler de la technologie comme soutien potentiel de la démocratie.

Audrey Tang est une ancienne militante du mouvement du tournesol ( https://fr.wikipedia.org/wiki/Mouvement_Tournesol_des_Étudiants ) et une ancienne ministre du numérique de Taïwan. Elle explique ici sa version de la démocratie participative renforcée par des IA qui permet de faire remonter des idées et d'adopter des lois. C'est de cette façon que Taïwan a légiféré sur Uber. Elle a également été "mentor inversée" du parlement de Taïwan, c'est à dire des jeunes qui donnent des conseils aux vieux. Cette utilisation du numérique pourrait expliquer pourquoi Taïwan est l'une des sociétés les moins polarisées du monde, c'est à dire où les gens acceptent de parler avec les gens d'autres partis politiques pour fabriquer du consensus.

Ce type d'idée de démocratie participative numérique dopée à l'IA a été expérimentée à Bowling Green au Kentucky :

https://www.technologyreview.com/2025/04/15/1115125/a-small-us-city-experiments-with-ai-to-find-out-what-residents-want/ (15 avril 2025)

Ils ont élaboré un plan visant à utiliser Pol.is pour contribuer à la rédaction d'un plan de 25 ans pour la ville. La plateforme n'est qu'une des nombreuses nouvelles technologies utilisées en Europe et de plus en plus aux États-Unis pour s'assurer que la gouvernance locale est éclairée par l'opinion publique.

Après un mois de publicité, le portail Pol.is a été lancé en février. Les habitants pouvaient se rendre sur le site web et soumettre anonymement une idée (en moins de 140 caractères) sur ce que le plan de 25 ans devrait inclure. Ils pouvaient également voter pour dire s'ils étaient d'accord ou non avec d'autres idées.

Les idées les plus largement soutenues sont l'augmentation du nombre de spécialistes locaux de la santé afin que les habitants n'aient pas à se rendre à Nashville, la ville voisine, pour obtenir des soins médicaux, l'ouverture de nouveaux restaurants et épiceries dans la partie nord de la ville et la préservation des bâtiments historiques.

[Wallaby]

15 mai 2025. Interview de Daniel Kokotajlo, coauteur de "AI 2027", un rapport qui prédit qu'en 2027 les IA seront supérieures à l'être humain sur tous les plans.

Trancription : https://www.nytimes.com/2025/05/15/opinion/artifical-intelligence-2027.html

Je dirais que quiconque possède et contrôle politiquement les armées de superintelligences, il y aura de une à trois de ces armées. Et qui décide de ce que font ces armées ? Actuellement, c'est le PDG de l'entreprise qui les a construites, et ce PDG a pratiquement tous les pouvoirs. Il peut donner tous les ordres qu'il veut aux IA.

Bien sûr, nous pensons que le gouvernement américain se réveillera probablement avant, et nous nous attendons à ce que le pouvoir exécutif soit le plus rapide et qu'il exerce son autorité pour essayer d'intervenir et d'obtenir une certaine surveillance et un contrôle de la situation et des armées d'I.A. Le résultat est quelque chose qui ressemble à une oligarchie.

Je dirais que, par défaut, cela sera incompatible avec la démocratie. Mais cela ne veut pas dire qu'il doive nécessairement en être ainsi. Une analogie que j'utiliserais est que dans de nombreuses parties du monde, les nations sont essentiellement dirigées par des armées, et l'armée rend compte à un dictateur au sommet. Cependant, en Amérique, cela ne fonctionne pas de cette manière. En Amérique, nous avons des freins et des contrepoids. Ainsi, même si nous avons une armée, ce n'est pas le cas de celui qui contrôle l'armée qui contrôle l'Amérique, parce qu'il y a toutes sortes de limitations sur ce qu'ils peuvent faire avec l'armée. Je dirais donc que nous pouvons, en principe, construire quelque chose de semblable pour l'IA. Nous pourrions avoir une structure démocratique qui décide des objectifs et des valeurs que l'IA peut avoir et qui permet aux gens ordinaires, ou au moins au Congrès, d'avoir une visibilité sur ce qui se passe avec l'armée de l'IA et sur ce qu'elle fait. La situation serait alors analogue à celle de l'armée américaine aujourd'hui, qui est dotée d'une structure hiérarchique, mais qui est contrôlée démocratiquement.

Une des raisons pour lesquelles j'ai démissionné d'OpenAI est que je ne pense pas que l'entreprise soit en mesure de prendre les bonnes décisions qu'elle devrait prendre pour faire face aux deux risques dont nous venons de parler. Je pense donc que nous ne sommes pas sur la bonne voie pour trouver comment contrôler les superintelligences, et nous ne sommes pas sur la bonne voie pour trouver comment rendre ce contrôle démocratique au lieu d'une possible dictature.

[Wallaby]

4 juin 2025 Zak Stein.

Pour lui l'IA est un fléau social, comme les fast food, l'alcool ou les paris. C'est addictif. À ne pas mettre entre les mains des enfants. Pas avant un certain âge, comme le permis de conduire. Il met en garde contre l'introduction de l'IA dans les écoles. Il y a aussi un risque d'atrophie de nos capacités cognitives. Si les appareils prennent les textes en dictée, on ne va plus savoir écrire, etc...

Modifié le 13 juin par Wallaby

[Wallaby]

https://legrandcontinent.eu/fr/2025/06/19/chatgpt-cerveau-etude-mit/

L’alarmante étude du MIT sur les effets de l’IA

L’étude de leur activité cérébrale montre que, sur le plan neuronal, linguistique et comportemental, les utilisateurs de ChatGPT sous-performent systématiquement par rapport aux personnes qui n’utilisent pas le chatbot pour les mêmes tâches.

83,3 % des utilisateurs de ChatGPT soumis au test de l’étude sont incapables de citer des passages d’essais qu’ils avaient rédigés quelques minutes auparavant.

Dans cette expérimentation, 55 % de la « charge cognitive » nécessaire pour rédiger un essai sans aucune assistance diminue avec l’utilisation d’un LLM provoquant une atrophie cérébrale.

Dans le temps, écrire avec ChatGPT ferait accumuler une « dette cognitive » rendant difficile un retour à une activité cérébrale normale pour les tâches effectuées sans LLM.

Les résultats de l’étude sont sans appel : la « connectivité cérébrale » diminue systématiquement en fonction du soutien externe.

Quant au groupe travaillant avec ChatGPT, il voit son amplitude cognitive totale réduite de près de 55 %.

La divergence comportementale la plus constante et la plus significative entre les groupes a été observée dans la capacité à citer de tête son propre essai.

Les utilisateurs de LLM obtiennent dans ce domaine des résultats nettement inférieurs : 83 % des participants déclarent avoir des difficultés à citer leur essai après la première session — et aucun ne fournit une seule citation correcte de son propre travail.

L’étude met notamment en avant le fait que la réduction de l’activité cognitive chez les utilisateurs de LLM « reflète probablement un contournement des processus d’encodage profond de la mémoire, les participants lisant, sélectionnant et transcrivant les suggestions générées par l’outil sans les intégrer dans les réseaux de mémoire épisodique ».

Le recours répété à des systèmes externes tels que les LLM remplacerait des processus cognitifs exigeants nécessaires à la pensée indépendante par des processus purement intégratifs.

La dette cognitive reporterait donc l’effort mental à court terme mais entraînerait des coûts à long terme comme une diminution de l’esprit critique, une vulnérabilité accrue à la manipulation et une baisse de la créativité.