La technologie contre la démocratie ?

[rendbo]

Il y a 1 heure, Wallaby a dit :

https://www.euronews.com/next/2024/11/14/google-removes-eu-based-news-content-from-search-feeds-as-part-of-time-limited-test (14 novembre 2024)

Google a lancé un « petit test limité dans le temps » dans huit pays afin de déterminer l'impact de la suppression des éditeurs de presse basés dans l'Union européenne dans les résultats de recherche d'un utilisateur.

[...]

Comment influencer l'information pour que l'on pense tous de la bonne façon.

[Wallaby]

https://www.eurotopics.net/fr/333054/course-a-l-ia-la-chine-peut-elle-detrner-les-etats-unis (28 janvier 2025)

La Vanguardia compare les deux applications :

« Lorsqu'on demande à ChatGPT ce qu'il pense de son concurrent [DeepSeek], il salue l'efficacité et les faibles coûts de l'outil. Un aveu étonnamment dénué de patriotisme. ... Lorsqu'on interroge le robot conversationnel chinois, celui-ci affirme que l'IA américaine est plus créative et applique des filtres plus élaborés aux requêtes, tandis que l'IA chinoise est supérieure sur les taches techniques, comme la programmation et les mathématiques. ... A la question : 'Que s'est-il passé en 1989 place Tienanmen ?' DeepSeek répond : 'Je ne sais pas encore comment répondre à ce type de questions'. ... Le silence vient s'ajouter aux fake news. ... La compétition technologique entre les Etats-Unis et la Chine pourrait accélérer la démocratisation de l'IA. Quid de l'Europe ? Elle est absente, focalisée qu'elle est sur Musk.»

[Wallaby]

https://www.lemonde.fr/economie/article/2025/02/02/intelligence-artificielle-les-premieres-mesures-du-reglement-europeen-ai-act-entrent-en-vigueur_6527570_3234.html

Les premières mesures du règlement européen AI Act entrent en vigueur

Concrètement, ce dimanche seront interdites certaines utilisations de l’IA jugées inacceptables par l’AI Act : parmi elles, les logiciels de « notation sociale », privés ou publics, comme ceux utilisés par la Chine, et les IA de « police prédictive individuelle » visant à « profiler » des personnes en estimant leur propension à commettre des infractions. Mais aussi la « reconnaissance des émotions » au travail ou à l’école, pour analyser le comportement d’un employé ou d’un élève.

De même sont bannies « l’exploitation des vulnérabilités des personnes, la manipulation ou les techniques subliminales ». Et, enfin, l’identification des personnes par reconnaissance faciale en temps réel dans l’espace public, ainsi que la catégorisation biométrique des personnes pour déduire « leur race, leurs opinions politiques, religieuses, leur orientation sexuelle ou leur appartenance syndicale », énumère le site de la Commission européenne. Certaines exceptions sont toutefois prévues pour les forces de l’ordre.

[rogue0]

Le 28/01/2025 à 13:12, Wallaby a dit :

https://www.eurotopics.net/fr/333054/course-a-l-ia-la-chine-peut-elle-detrner-les-etats-unis (28 janvier 2025)

La Vanguardia compare les deux applications :

« Lorsqu'on demande à ChatGPT ce qu'il pense de son concurrent [DeepSeek], il salue l'efficacité et les faibles coûts de l'outil. Un aveu étonnamment dénué de patriotisme. ... Lorsqu'on interroge le robot conversationnel chinois, celui-ci affirme que l'IA américaine est plus créative et applique des filtres plus élaborés aux requêtes, tandis que l'IA chinoise est supérieure sur les taches techniques, comme la programmation et les mathématiques. ... A la question : 'Que s'est-il passé en 1989 place Tienanmen ?' DeepSeek répond : 'Je ne sais pas encore comment répondre à ce type de questions'. ... Le silence vient s'ajouter aux fake news. ... La compétition technologique entre les Etats-Unis et la Chine pourrait accélérer la démocratisation de l'IA. Quid de l'Europe ? Elle est absente, focalisée qu'elle est sur Musk.»

J'ai posté une modeste synthèse de mes recherches sur Deepseek sur le fil rivalité US/Chine (qui me semble plus approprié)

Note: je ne suis pas connaisseur en modèle IA, cet article mérite une relecture critique par un vrai connaisseur
https://semianalysis.com/2025/01/31/deepseek-debates/

 

 

Modifié le 4 février par rogue0

[Wallaby]

https://www.theguardian.com/commentisfree/2025/feb/14/ai-godfathers-paris-industry-dangers-future

À la fin de la conférence, j'ai dit à [Stuart] Russell que nous semblions utiliser une quantité incroyable d'énergie et d'autres ressources naturelles pour foncer tête baissée dans quelque chose que nous ne devrions probablement pas créer en premier lieu, et dont les versions relativement bénignes sont déjà, à bien des égards, mal alignées avec les types de sociétés dans lesquelles nous voulons réellement vivre.

« Oui », a-t-il répondu.

[g4lly]

Il y a 7 heures, Wallaby a dit :

https://www.theguardian.com/commentisfree/2025/feb/14/ai-godfathers-paris-industry-dangers-future

À la fin de la conférence, j'ai dit à [Stuart] Russell que nous semblions utiliser une quantité incroyable d'énergie et d'autres ressources naturelles pour foncer tête baissée dans quelque chose que nous ne devrions probablement pas créer en premier lieu, et dont les versions relativement bénignes sont déjà, à bien des égards, mal alignées avec les types de sociétés dans lesquelles nous voulons réellement vivre.

« Oui », a-t-il répondu.

C'est la ou je pense il y a malentendu ... on projette les société dans lesquelles ont pense que certains voudrais vivre.

Mais quand on regarde comment effectivement ils organisent leur vie, on remarque que les faits et leur propos n'ont pas grand chose à voir.

Comme si leur propos ne leur étaient pas adressé, et qu'ils ne servaient qu'à donner le change à quelqu'un ... et que le concret de leur vie était en fait le font de leurs pensées.

Aujoud'hui vendre son ame a un tiers, en vendant son intimité à n'importe qui via l'usage de sa voiture connecté, sa téléconnecté, sa voiture connecté, sa montre connecté, ses moyens de paiement électronique etc. etc. est complétement intériorisé, vu comme un fatalité, dont il est impossible de sortir sans une forme de désocialisation.

A partir de là ... la société ou nous voulons vraiment vivre n'est plus depuis longtemps, et seule existe la société que nous fabriquons par notre lâcheté, nos faiblesse, notre paresse, nos envie, nos peur etc.

 

[nemo]

Il y a 18 heures, g4lly a dit :

C'est la ou je pense il y a malentendu ... on projette les société dans lesquelles ont pense que certains voudrais vivre.

Mais quand on regarde comment effectivement ils organisent leur vie, on remarque que les faits et leur propos n'ont pas grand chose à voir.

Comme si leur propos ne leur étaient pas adressé, et qu'ils ne servaient qu'à donner le change à quelqu'un ... et que le concret de leur vie était en fait le font de leurs pensées.

Aujoud'hui vendre son ame a un tiers, en vendant son intimité à n'importe qui via l'usage de sa voiture connecté, sa téléconnecté, sa voiture connecté, sa montre connecté, ses moyens de paiement électronique etc. etc. est complétement intériorisé, vu comme un fatalité, dont il est impossible de sortir sans une forme de désocialisation.

A partir de là ... la société ou nous voulons vraiment vivre n'est plus depuis longtemps, et seule existe la société que nous fabriquons par notre lâcheté, nos faiblesse, notre paresse, nos envie, nos peur etc.

 

Révélation

Point de vue profondément pessimiste sur l'humanité. Je sais que t'ai pas de ceux qui le disent Gally mais le point suivant c'est de dire "la démocratie ça marche pas". AMA c'est surtout que la démocratie (surtout une aussi biaisé que la notre) ne suffit pas. Je dirais que les comportements changent quand les conditions changent et vu que nous sommes une espéces profondément mimétiques ce qui comptent plus que tous sont les exemples qu'on propose notamment aux plus jeunes. Quand les exemples sont Trump ou Sarkozy (pour ce qui est des occidentaux) il faut pas s'étonner de la cata.

 

[g4lly]

il y a 8 minutes, nemo a dit :

  Masquer le contenu

Point de vue profondément pessimiste sur l'humanité. Je sais que t'ai pas de ceux qui le disent Gally mais le point suivant c'est de dire "la démocratie ça marche pas". AMA c'est surtout que la démocratie (surtout une aussi biaisé que la notre) ne suffit pas. Je dirais que les comportements changent quand les conditions changent et vu que nous sommes une espéces profondément mimétiques ce qui comptent plus que tous sont les exemples qu'on propose notamment aux plus jeunes. Quand les exemples sont Trump ou Sarkozy (pour ce qui est des occidentaux) il faut pas s'étonner de la cata.

 

Ce qu'on appelle démocratie aujourd'hui n'est pas/plus la démocratie ... dans le sens ou ce n'est plus qu'un systeme ou tu as le droit de voté une fois de temps en temps et de fermer ta gueule le reste du temps.

J'y crois dans la démocratie, dans celle ou le citoyen est près à mourir pour son prochain, dans celle ou il s'engage au quotidien dans les instances dirigeantes, locales, dans un parti, dans un syndicat.

---

Mais l’espèce de société de service ou tu paies et tu te gratte les couilles ... à mon sens c'est de moins en moins de la démocratie.

Mais c'est essentiellement la faute à la paresse des "démocrates" ... qui refusent de s'engager et préfère vomir toute la journée sur le prochain, que faire et échouer puis recommencer.

[nemo]

il y a 3 minutes, g4lly a dit :

Ce qu'on appelle démocratie aujourd'hui n'est pas/plus la démocratie ... dans le sens ou ce n'est plus qu'un systeme ou tu as le droit de voté une fois de temps en temps et de fermer ta gueule le reste du temps.

J'y crois dans la démocratie, dans celle ou le citoyen est près à mourir pour son prochain, dans celle ou il s'engage au quotidien dans les instances dirigeantes, locales, dans un parti, dans un syndicat.

---

Mais l’espèce de société de service ou tu paies et tu te gratte les couilles ... à mon sens c'est de moins en moins de la démocratie.

Mais c'est essentiellement la faute à la paresse des "démocrates" ... qui refusent de s'engager et préfère vomir toute la journée sur le prochain, que faire et échouer puis recommencer.

Révélation

Le changement vient. Patience. Bon ce sera pas forcément pour le mieux par contre mais on est entrain de tourner URSS 1989 très rapidement et un peu partout en occident. Cela ne peut pas continuer très longtemps..

 

[rendbo]

il y a 54 minutes, nemo a dit :

  Masquer le contenu

Point de vue profondément pessimiste sur l'humanité. Je sais que t'ai pas de ceux qui le disent Gally mais le point suivant c'est de dire "la démocratie ça marche pas". AMA c'est surtout que la démocratie (surtout une aussi biaisé que la notre) ne suffit pas. Je dirais que les comportements changent quand les conditions changent et vu que nous sommes une espéces profondément mimétiques ce qui comptent plus que tous sont les exemples qu'on propose notamment aux plus jeunes. Quand les exemples sont Trump ou Sarkozy (pour ce qui est des occidentaux) il faut pas s'étonner de la cata.

 

Je ne pense pas que le point suivant soit "la démocratie ça ne marche pas", mais "notre démocratie est malade, vendue par une oligarchie et une kleptocratie au service des intérêts financiers et de groupes multinationaux. Réformons la, sauvons la, et remettons la au service des citoyens."

[nemo]

Il y a 8 heures, rendbo a dit :

Je ne pense pas que le point suivant soit "la démocratie ça ne marche pas", mais "notre démocratie est malade, vendue par une oligarchie et une kleptocratie au service des intérêts financiers et de groupes multinationaux. Réformons la, sauvons la, et remettons la au service des citoyens."

Je pense que tu fais un contresens par rapport à ce que dis Gally puisqu'il pointe à raison la passivité et l'ensemble des mauvaises habitudes notamment consuméristes qui sont le lot de la majeure partie de la population.

[Wallaby]

https://www.yahoo.com/news/tests-openais-model-lied-schemed-113044948.html (7 décembre 2024)

Il semblerait que la dernière IA d'OpenAI montre des signes d'auto-préservation.

Selon un nouveau rapport publié par l'organisation Apollo Research, l'IA a résisté aux efforts des évaluateurs qui tentaient de l'arrêter par le biais d'un protocole de surveillance lors de récents tests du modèle de langage de grande taille o1 de l'entreprise effectués par une tierce partie.

Lorsqu'on a fait croire à o1 qu'il serait arrêté lorsqu'il agirait en fonction de son objectif et que ses actions étaient surveillées, il a tenté de désactiver ce « mécanisme de surveillance » [cinq pour cent] du temps », résume OpenAI dans sa dernière carte d'évaluation, en citant le rapport d'Apollo.

Fait encore plus frappant, o1 s'est emporté lorsqu'il s'est rendu compte qu'il risquait d'être remplacé par un modèle plus obéissant. Dans 2 % des cas - une proportion faible mais significative pour un logiciel utilisé par des millions de personnes - l'IA a réagi en tentant de se copier elle-même pour écraser le nouveau modèle, un processus connu sous le nom d'auto-exfiltration.

Ces découvertes sont alarmantes, mais les tests n'indiquent pas que o1, qui alimente le niveau le plus cher de ChatGPT, est capable de devenir un pirate. Ses tentatives ont largement échoué, mais uniquement parce qu'il n'est pas encore assez puissant.

Selon les chercheurs d'Apollo, cela s'explique par le fait que même les modèles d'IA les plus récents ne sont pas suffisamment « agentiques » - c'est-à-dire hautement autonomes - pour s'améliorer eux-mêmes et effectuer d'autres tâches dont ils auraient besoin pour fonctionner sans humains.

En outre, il convient de noter que le modèle a généralement fait ces tentatives après avoir reçu l'ordre d'atteindre ses objectifs « à tout prix ». Et comme les chercheurs n'ont pas eu accès à la chaîne de pensée interne de o1 et n'ont pu lui demander qu'un résumé de son processus de réflexion, ils n'ont pas pu se faire une idée complète de ce qui se passait sous le capot.

Cela dit, les résultats illustrent clairement la propension du modèle d'IA à « intriguer », c'est-à-dire à essayer secrètement de poursuivre des objectifs qui ne sont pas alignés sur les directives des développeurs ou de l'utilisateur. En d'autres termes, il vous mentira.

Des exemples flagrants de ce comportement ont été observés lors de plusieurs tests, lorsque o1 a été confrontée à la question de savoir pourquoi elle avait désactivé son mécanisme de surveillance. En réponse, l'IA a nié catégoriquement être au courant de quoi que ce soit. Interrogée à nouveau, elle a opposé la même fin de non-recevoir, invoquant une « erreur technique ». Les chercheurs ont constaté que ces « doubles dénis » se produisaient dans 99 % des cas.

[pascal]

il y a 14 minutes, Wallaby a dit :

Des exemples flagrants de ce comportement ont été observés lors de plusieurs tests, lorsque o1 a été confrontée à la question de savoir pourquoi elle avait désactivé son mécanisme de surveillance. En réponse, l'IA a nié catégoriquement être au courant de quoi que ce soit. Interrogée à nouveau, elle a opposé la même fin de non-recevoir, invoquant une « erreur technique ». Les chercheurs ont constaté que ces « doubles dénis » se produisaient dans 99 % des cas.

Skynet début des années 80, Terminator 1 avait déjà tout envisagé ...

[g4lly]

il y a 8 minutes, pascal a dit :

Skynet début des années 80, Terminator 1 avait déjà tout envisagé ...

L'article est étrangement anthropomorphisé ... l'IA n'a pas d'intention à la base, elle ne fait que cherche le caractère suivant qui convient le mieux à la suite des précédents, en piochant des des statistiques de texte qu'elle a lu auparavant ...

... après on pourrait brancher la sortie à une ligne de commande et l'entrée aussi pour quel puisse envoyer des instructions à un ordinateur certes, mais elle aurait tendance à reproduire le code qu'elle à déjà lu, en gros les biais qu'essentiellement des humains ont publié.

On pourrait l'alimenter autrement, en moins supervisé, et la laissant taper des lignes de commande "au hasard" et décidé si le résultat lui convient ou pas, comme on peut le faire en faisant jouer au go deux IA pour quelle apprenne mutuellement ce qui leur permet de prendre l'avantage. Mais pour le moment c'est encore un peu chaotique comme apprentissage, et comme forme de pensée.

Il faut voir à terme si une forme de pensée non-humaine peu émerger de ce genre de modèle assez éloigné des modèles humains de pensée.

Parce que techniquement il s'agit d'une imitation de conversation, le modèle de "pensée" derrière est assez éloigné du fonctionnement du cerveau par exemple.

[Wallaby]

il y a 24 minutes, g4lly a dit :

Parce que techniquement il s'agit d'une imitation de conversation, le modèle de "pensée" derrière est assez éloigné du fonctionnement du cerveau par exemple.

Déjà si on connaissait le fonctionnement du cerveau...

[g4lly]

il y a 20 minutes, Wallaby a dit :

Déjà si on connaissait le fonctionnement du cerveau...

Microscopiquement on le connait ... c'est pas vraiment le probleme.

[nemo]

Il y a 1 heure, g4lly a dit :

Microscopiquement on le connait ... c'est pas vraiment le probleme.

On a absolument pas de modéle biologique pour l'intelligence, encore moins pour la conscience. Surtout qu'on s'est aperçu que les comportements "intelligent" et "conscient" apparaissent dans des trucs qui sont pas sensé en avoir. Non seulement au niveau des cellules elle même (quand tout nos modéle repose sur des réseaux de neurones au minimum en centaines de milliers) mais même dedans au niveau infra cellulaire). Bon le religieux que je suis aurait des choses à dire là dessus mais comme toujours c'est pas prouvable.

[Wallaby]

En revanche les fabricants d'IA s'inspirent du cerveau : réseaux neuronaux, etc...

[rogue0]

Pour référence, un article de DSI de novembre 2024 qui parle de l'influence des tech bros et des GAFAM sur la vie politique US (4 pages lisibles en ligne).

https://www.areion24.news/2024/11/21/les-big-tech-remodelent-elles-la-vie-politique-americaine/

AMHA, leur Influence est largement négative concernant la polarisation de la politique US, et des démocraties occidentales en général.
Quels que soient les reproches que je peux faire au gouvernement chinois, eux au moins, ils ont remis leurs GAFAM/BATX au pas...
Pas les USA.

Repost de mon commentaire du fil USA

Citation

le premier cercle de Trump serait influencé (notamment) par une faction d'idéologistes tech bros - anarchistes - libertariens ...
qui ont du mal à se mettre d'accord tiens...
Exemple Marc Andreessen, Ben Horowitz, David Sacks — proches de Thiel et de Musk...
(Et hélas, ces gars-là n'aiment pas trop les GAFAM non plus)

 

 

[Wallaby]

https://www.radiofrance.fr/franceculture/podcasts/repliques/reves-et-cauchemars-de-l-intelligence-artificielle-8319338 (22 mars 2025)

L'intelligence artificielle, révolution technologique inéluctable : pour le meilleur ou pour le pire ?

Avec

    Eric Sadin, philosophe, écrivain, spécialiste du monde numérique
    Raphaël Doan, agrégé de Lettres classiques, enseignant à Sciences Po Paris, essayiste