La technologie contre la démocratie ?

[Wallaby]

Le 10/11/2025 à 11:51, Rivelo a dit :

Respectueusement, votre discussion est hors sujet.

Il n'y a pas de différence entre un tour automatique qui "prend" le travail d'un ouvrier ou IA qui "prend" le travail d'un col blanc. Dans les deux cas, c'est une forme d'automatisation du travail, que l'on mesure au travers d'indicateurs comme l'augmentation de la productivité. Il n'y a rien de nouveau (à part la mega hype que cette transformation pourrait avoir lieu de manière massive, très vite, ...).

En permanence, l'économie détruit des emplois qui sont automatisés ou qui ne sont plus nécessaire. En permanence l'économie crée des emploi pour répondre à des nouveaux besoins. L'augmentation de la productivité permet d'augmenter le niveau de vie au fil du temps, changeant généralement qui sont les "gagnants" (les mieux payés etc...) et les perdants (qui étaient les mieux payés mais ne le sont plus, qui perdent leur job et doivent se reconvertir...). Mais globalement les jeux de vases communicants entre acteurs économique (et le macro pilotage des autorités monétaires qui assurent que l'on ne tombe pas dans des spirales d'inflation, de déflation ou de récession) fait que les rentrée fiscales rentrent, que les redistributions se font, ... Avec ou sans IA.

Oui mais c'est la première fois dans l'histoire de l'innovation qu'un ou plusieurs patrons qui sont aux manettes de la révolution technologique envisagent un chômage de masse et un revenu universel pour le compenser. Et c'est ainsi que Sam Altman a financé une recherche sur le revenu universel :

https://observer.com/2024/07/sam-altman-vision-universal-basic-income-taking-shape/ (22 juillet 2024)

Au cours des trois dernières années, des participants de l'Illinois et du Texas ont reçu des paiements mensuels en espèces de 1 000 dollars pour participer à un projet financé par Sam Altman, PDG d'OpenAI et l'un des plus éminents défenseurs du revenu de base. Les résultats récemment publiés de cette étude fournissent des premières indications sur la question de savoir si le revenu de base universel (RBU) est un modèle viable pour un avenir dominé par l'intelligence artificielle.

Cette initiative a été menée par OpenResearch, un organisme de recherche qui a reçu quelque 14 millions de dollars d'Altman et environ 10 millions de dollars d'OpenAI. Altman, qui a promu le revenu universel comme solution aux craintes que l'intelligence artificielle ne remplace les emplois, a soutenu le projet pour la première fois en 2016, alors qu'il dirigeait encore l'accélérateur de start-ups Y Combinator.

 

[Wallaby]

https://www.theguardian.com/news/2025/nov/18/what-ai-doesnt-know-global-knowledge-collapse

Lorsque les systèmes d'IA ne sont pas suffisamment exposés à une langue, ils présentent des lacunes dans leur compréhension de l'expérience humaine. Les données de Common Crawl, l'une des plus grandes sources publiques de données d'entraînement, révèlent des inégalités flagrantes. Elle contient plus de 300 milliards de pages web couvrant 18 ans, mais l'anglais, parlé par environ 19 % de la population mondiale, domine avec 45 % du contenu. Cependant, il peut y avoir un déséquilibre alarmant entre la taille démographique d'une langue et la façon dont cette langue est représentée dans les données en ligne. Prenons l'exemple de l'hindi, troisième langue la plus parlée au monde, parlée par environ 7,5 % de la population mondiale. Elle ne représente que 0,2 % des données de Common Crawl. La situation est encore plus grave pour le tamoul, ma propre langue maternelle. Bien qu'il soit parlé par plus de 86 millions de personnes dans le monde, il ne représente que 0,04 % des données.

Une étude réalisée en 2020 a montré que 88 % des langues du monde sont tellement négligées dans les technologies d'IA que les mettre à niveau serait un effort herculéen, voire impossible.

Dans son ouvrage intitulé Decolonizing Methodologies (1999), la chercheuse maorie Linda Tuhiwai Smith souligne que le colonialisme a profondément perturbé les systèmes de connaissances locaux – ainsi que les fondements culturels et intellectuels sur lesquels ils reposaient – en rompant les liens avec la terre, la langue, l'histoire et les structures sociales.

J'ai récemment collaboré avec Microsoft Research afin d'examiner plusieurs déploiements d'IA générative destinés à des populations non occidentales. En observant à quel point ces modèles d'IA ignorent souvent les contextes culturels, négligent les connaissances locales et sont fréquemment en décalage avec leur communauté cible, j'ai pris conscience à quel point ils intègrent les préjugés existants et excluent les connaissances marginalisées.

De par leur conception, les LLM ont également tendance à reproduire et à renforcer les idées les plus répandues statistiquement, créant ainsi une boucle de rétroaction qui réduit le champ des connaissances humaines accessibles.

Supposons que les données d'entraînement comprennent 60 % de références à la pizza, 30 % aux pâtes et 10 % au biryani comme aliments préférés. On pourrait s'attendre à ce que le modèle reproduise cette distribution si on lui posait la même question 100 fois. Cependant, dans la pratique, les LLM ont tendance à surproduire la réponse la plus fréquente. La pizza peut apparaître plus de 60 fois, tandis que des éléments moins fréquents tels que le biryani peuvent être sous-représentés ou omis complètement.

Il n'est pas surprenant qu'un nombre croissant d'études montrent que les LLM reflètent principalement les valeurs culturelles et les épistémologies occidentales. Ils surreprésentent certains groupes dominants dans leurs résultats, renforcent et amplifient les préjugés de ces groupes et sont plus précis sur le plan factuel lorsqu'il s'agit de sujets liés à l'Amérique du Nord et à l'Europe.

Au-delà du simple reflet des hiérarchies de connaissances existantes, l'IA générative a la capacité de les amplifier, car le comportement humain évolue parallèlement à elle. L'intégration de synthèses issues de l'IA dans les moteurs de recherche, ainsi que la popularité croissante des moteurs de recherche basés sur l'IA tels que Perplexity, soulignent cette évolution.

Partout dans le monde, l'IA générative fait également son entrée dans l'enseignement formel, où elle est utilisée pour générer du contenu pédagogique et soutenir l'apprentissage à son propre rythme grâce à des tuteurs IA. Par exemple, le gouvernement de l'État du Karnataka, où se trouve la ville de Bangalore, s'est associé à l'organisation à but non lucratif américaine Khan Academy pour déployer Khanmigo, un assistant d'apprentissage alimenté par l'IA, dans les écoles et les universités.

Tout cela signifie que, dans un monde où l'IA intervient de plus en plus dans l'accès à la connaissance, les générations futures risquent de perdre le contact avec un vaste corpus d'expériences, de connaissances et de sagesse.

Ce point a été mis en évidence lors d'une conversation que j'ai eue avec un haut responsable impliqué dans le développement d'un chatbot IA qui dessert plus de 8 millions d'agriculteurs en Asie et en Afrique. Le système fournit des conseils agricoles basés principalement sur des bases de données provenant d'avis gouvernementaux et d'organisations internationales de développement, qui ont tendance à s'appuyer sur la littérature scientifique. Le responsable a reconnu que de nombreuses pratiques locales qui pourraient être efficaces sont encore exclues des réponses du chat, car elles ne sont pas documentées dans la littérature scientifique.

Si l'IA générative accélère peut-être l'effacement des connaissances locales, elle n'en est pas la cause profonde. La marginalisation des connaissances locales et autochtones est depuis longtemps le fait de structures de pouvoir bien établies. L'IA générative ne fait que renforcer ce processus.