Systèmes de surveillance de population (big data, big brother, etc)

[Lame]

Pour moi, l' expérience indienne en matière d'hypersurveillance est certainement plus inquiétante que l'expérience chinoise.

En matière de surveillance et notation des citoyens, la Chine est un modèle pour les Européens, encore très minoritaires, qui veulent copier son système politique. Le système politique indien présente de grandes similitudes avec la plupart des régimes européens. Il comporte des dispositifs de dictature constitutionnelle biens pratiques pour ceux qui aspirent à l'instauration d'une démocratie contrôlée. L' Union indienne est également un des modèles fédéraux favoris des eurofédéralistes hamiltoniens.

Autrement dit, l'Inde peut fournir un schéma de construction d'un Etat parlementaire sous régime d'hypersurveillance.  Régime sans doute plus facilement privatisable que celui de la Chine.

[Lame]

1. Sur le comportement des IA (encore) faibles...
 

Citation

Amazon a dû se débarrasser d’une intelligence artificielle sexiste

Un programme censé trier les CV avant embauche discriminait les candidates.

Amazon a tenté d’automatiser ses recrutements en les confiant à une intelligence artificielle (IA) secrète. Selon une source anonyme impliquée dans le projet, le géant du e-commerce voulait «un engin auquel on pouvait fournir 100 CVs [pour] qu’il recrache les cinq meilleurs et qu’on embauche ceux-là».

Le succès d’Amazon repose en partie sur l’automatisation de toutes les étapes de son activité, du fonctionnement interne de ses entrepôts aux recommandations et à la fixation des prix sur son site Internet. Il semble donc naturel que l’entreprise étende cette automatisation à son recrutement.

L'IA copie les comportements humains

On pourrait même penser que c'est une bonne chose, puisqu’a priori des robots devraient être totalement objectifs, débarrassés de biais racistes ou sexistes que l'on trouve chez des humains. Or au contraire, les IA perpétuent ces biais. En effet, l’algorithme utilisé par Amazon, comme beaucoup d’autres, utilise ce qu'on appelle le «machine learning», c’est-à-dire qu'il se base sur des données pré-existantes et tente au mieux de les reproduire pour prendre des décisions.

L’IA s'appuyait sur les recrutements effectués durant les dix dernières années chez Amazon. Des embauches effectuées par des êtres humains, dans un environnement très largement dominé par les hommes. D’après Reuters, chez Amazon 60% de la masse salariale est masculine, et la société refuse de dévoiler la part de femmes à des postes techniques, où elles sont d’ordinaire encore plus rares.

Ainsi l’IA pénalisait les candidates qui avaient fait leur scolarité dans des universités non-mixtes ou tout CV qui contenait le mot «femme». Par exemple, la mention d’un «club de jeu échecs pour femme» dépréciait automatiquement le CV.

Selon Reuters, le programme n’était qu’un test. Lorsque le biais sexiste a été découvert, des modifications ont été apportées, mais comme Amazon ne pouvait s'assurer qu'il n'y avait pas d’autres discriminations, il a abandonné son algorithme en fin d’année dernière. Pour autant, le groupe n'a pas renoncé à trouver une formule qui pourrait le remplacer.

Source: Slate

 

2. Sur l'éducation des puissances informatiques...
 

Citation

Chine : les émotions au service de l’intelligence artificielle

En pleine croissance, le marché de la reconnaissance faciale a dépassé le milliard de yuans (128 millions d’euros) en 2016 et devrait être multiplié par cinq d’ici 2021, selon une étude du cabinet Analysys.

La course à l’intelligence artificielle (IA) continue de faire rage entre les États-Unis et la Chine. En juillet 2017, dans le cadre du Plan pour le développement de la prochaine génération d’intelligence artificielle, le Conseil des Affaires d’État a établi une stratégie prometteuse. D’ici 2020, la Chine espère ainsi rattraper son retard sur les États-Unis, les dépasser en 2025 et finalement imposer son leadership en la matière dès 2030. Dans le sillon de cette course à l’innovation à l’échelle mondiale, le gouvernement de Xi Jinping investit massivement dans le domaine de la reconnaissance faciale.

Le Parti communiste chinois recourt à d’importantes levées de fond avec l’aide des géants d’internet tels qu’Alibaba, Baidu et Tencent. En avril dernier, Alibaba a d’ailleurs participé à la plus grosse levée de fonds, soit environ 488 millions d’euros. Cette dernière est, selon ses fondateurs, la société la plus valorisée parmi l’ensemble des start ups chinoises qui travaillent sur « l’apprentissage profond, soit le fameux deep learning.

Connue pour son partenariat technologique avec les principaux fabricants de mobiles chinois tel que Huawei, l’entreprise exporte aussi ses technologies dans les domaines de la finance, la sécurité, le marché automobile, l’e-santé et l’éducation. Son produit phare sont ces caméras, adaptées à l’environnement dans lequel elles sont installées et capables de mesurer les faits et gestes des individus.

Le système de surveillance le plus sophistiqué du monde

Les systèmes de reconnaissance faciale se multiplient et envahissent ainsi la vie quotidienne des Chinois par la surveillance des lieux publics, des fast-foods, des banques, et jusqu’aux distributeurs de papier toilette ! Le pays met actuellement en place le système de caméras de surveillance le plus sophistiqué au monde. Il a déjà installé quelque 170 millions de caméras nourries à l’intelligence artificielle et en prévoit trois fois plus d’ici 2020.

Les établissements scolaires sont également visés : selon un journal local, un lycée de la ville d’Hangzhou, a expérimenté un « système intelligent de gestion des comportements en classe », une sorte de smart eye capable d’analyser la concentration des élèves. Situé au-dessus des professeurs, cet « œil numérique bienveillant » analyse les émotions des élèves à travers leurs traits et expressions de visage.

Il peut ainsi indiquer, en temps réel, à l’enseignant si l’élève est heureux, déconcentré, agité, anxieux ou encore s’il se sent concerné par la leçon en cours. L’objectif affirmé d’un tel système est d’aider les enseignants dans leurs démarches pédagogiques, d’encourager l’implication des élèves en classe et de pouvoir recenser rapidement les présents et les absents.

En pleine croissance, le marché de la reconnaissance faciale a dépassé le milliard de yuans (128 millions d’euros) en 2016 et devrait être multiplié par cinq d’ici 2021, selon une étude du cabinet Analysys.

Source: Contrepoints

Connexe: Les Chroniques de la Lune Noire 19: Une semaine ordinaire

Modifié le 15 octobre 2018 par Lame
Orthographe

[Lame]

 

L'hypersurveillance ne sert donc pas qu'à contrôler la population. Elle sert aussi à développer le contrôleur (artificiel) dans une logique d'automatisation. Ceci dit, sachant que le contrôleur sera de plus en plus puissant et qu'il a sa propre personnalité, son propre alignement, on peut se demander quand il passera de contrôleur à maître non souhaité...

Connexe: Psycho-pass

[rendbo]

Le 13/09/2018 à 22:25, collectionneur a dit :

y a t'il eu des progrès depuis ?

Je ne sais pas si il y a eu des progrès depuis, mais ma femme est en voyage d'affaire à Shanghai en ce moment. Alors qu'elle a grandi dans l'URSS et pays dérivés, elle a été assez marqué du fait que l'hotel enregistre sa photo et lui explique que c'est pour savoir si elle se tient bien dans la rue (et autres ?) et que si jamais elle sortait des clous, ses prochaines demandes de visas (pro et perso) seraient refusées... Elle m'a demandé si c'était possible ou pas, et comment.

Je sais que la reconnaissance faciale a fait des progrès, mais de là à avoir une surveillance aussi généralisée et automatisée je suis dubitatif.

[Lame]

Le ‎17‎/‎10‎/‎2018 à 00:57, rendbo a dit :

Je sais que la reconnaissance faciale a fait des progrès, mais de là à avoir une surveillance aussi généralisée et automatisée je suis dubitatif.

Pourquoi? Le principe de la reconnaissance faciale, c'est aussi d'automatiser en partie la recherche des terroristes et des fugitifs.

Et puis, plus il y a de caméra, plus les Chinois auront peur d'être pris en faute, selon les époque, par Xi Yinping/les nouveaux princes rouges/Le "Grand ordinateur".

A noter que si les techniques de clonage atteignent un jour le même niveau de raffinement que le système panoptique, certaines dystopies pourraient rejoindre la réalité de manière inattendue...

[Borisdedante]

Citation

Vie privée : le Conseil d’Etat valide le fichier rassemblant les informations de 60 millions de Français

Les détracteurs du mégafichier estiment qu’il ne prévoit pas assez de garanties contre les risques d’abus et de piratage. Le Conseil d’Etat, lui, y voit un outil contre la fraude.

Le Conseil d’Etat a rejeté jeudi 18 octobre les requêtes dirigées contre le décret instaurant le mégafichier regroupant les données personnelles de tous les Français, estimant notamment que sa création ne constituait pas une « atteinte disproportionnée » au droit des personnes au respect de leur vie privée.

............

 

https://lemonde.fr/pixels/article/2018/10/18/vie-privee-le-conseil-d-etat-valide-le-fichier-rassemblant-les-informations-de-60-millions-de-francais_5371436_4408996.html?xtref=https://t.co/O0sHl92ES9

Modifié le 30 octobre 2018 par Borisdedante

[rogue0]

Du nouveau sur le système de crédit social chinois.

Le 28/09/2017 à 19:32, rogue0 a dit :

Je commence par le futur système chinois de « Social Credit System » (traduction personnelle: « casier social » / « réputation sociale »).
Il y a très peu d’information sur ce futur système (prévu pour 2020), qui a d’énormes implications pour la surveillance des populations, et sur les modèles de société (et de l’impact des réseaux sociaux…).(...)

• • Les entreprises auraient d'autres bonus / malus :
  • prêts avec bonus / malus ou refusés.
  • idem pour émissions d'obligations ou introduction en bourse(...)

Pour les entreprises privées, il y a aussi de gros impacts IT.
(1000x pire que pour les impacts de l'impôt prélevé à la source)
Il faut mettre à disposition des autorités des flux de données formattées (indicateurs sociaux), et appliquer les sanctions.

Révélation

"Heureusement", les données ne sont pas stockées ou calculées dans le Facebook local, mais par une autorité gouvernementale.

De facto, ça sera probablement une barrière à l'entrée pour les sociétés étrangères (au mieux, obligées de sous traiter ça à des portails style alibaba/wechat)

Implications business et aspect big data (barrière à l'entrée)

http://www.chinafile.com/library/reports/chinas-social-credit-system-big-data-enabled-approach-market-regulation-broad

impacts business

https://www.merics.org/en/merics-analysis/china-monitor/merics-china-monitor-no-39/

 

 

La chambre de commerce de l'UE basée en Chine (*) a publié son guide pour alerter et aider les entreprises UE présentes en Chine à s'adapter (démarrage imminent 2020, et connexion obligatoire à ce système pour tous, même pour les entreprises étrangères).
Je n'ai pas lu le document (trop de boulot et inscription email obligatoire).
(* donc peu probable que le document soit purement une attaque gratuite, façon think tank conservateur US ...)

Selon les résumés par France24 / et le SCMP, les entreprises étrangères pourraient avoir un petit avantage initial, puisqu'elles sont déjà sous obligation de transparence depuis longtemps (que ce soit la Bourse, ou les associations de consommateur...).
(300 nouveaux points de contrôle sous le nouveau système, et potentiellement plus impartiaux que des bureaucrates réclamant des "cadeaux"... ).
L'association propose des forums/discussions avec les autorités chinoises pour faciliter l'implémentation de ces systèmes

Cependant, le rapport alerte sur les détournements possibles du système.
Tout comme la blacklist US (entity list contre Huawei), le système peut facilement avoir des critères subjectifs voire arbitraires, comme la menace contre la sécurité nationale.

résumés:

https://www.france24.com/fr/20190829-chine-credit-social-entreprise-notation-controle-economie-surveillance
https://www.scmp.com/news/china/diplomacy/article/3024636/european-firms-warned-chinas-social-credit-system-could-be

rapport original (versions chinoises disponibles)

https://www.europeanchamber.com.cn/en/press-releases/3045/european_chamber_report_on_china_s_corporate_social_credit_system_a_wake_up_call_for_european_business_in_china

https://www.europeanchamber.com.cn/en/publications-archive/709

Modifié le 30 août 2019 par rogue0

[rogue0]

 

Le 17/10/2018 à 00:57, rendbo a dit :

Je ne sais pas si il y a eu des progrès depuis, mais ma femme est en voyage d'affaire à Shanghai en ce moment. Alors qu'elle a grandi dans l'URSS et pays dérivés, elle a été assez marqué du fait que l'hotel enregistre sa photo et lui explique que c'est pour savoir si elle se tient bien dans la rue (et autres ?) et que si jamais elle sortait des clous, ses prochaines demandes de visas (pro et perso) seraient refusées... Elle m'a demandé si c'était possible ou pas, et comment.

Je sais que la reconnaissance faciale a fait des progrès, mais de là à avoir une surveillance aussi généralisée et automatisée je suis dubitatif.

1) C'est l'objectif revendiqué à terme, et c'est en cours (avec des démos impressionnantes dans de nombreuses startup chinoises, qui sont leader mondiaux en la matière).

Par contre, je n'ai aucune idée sur de l'efficacité du système en condition réelle (taux de reconnaissance : à 90% ? 99% ? pour moi, un système de surveillance généralisé temps réel sera vraiment utilisable en ville à partir de 99.99% / 0.01% de fausse alerte)

2) De toute façon, depuis 2017, les services de l'immigration chinoises relèvent maintenant systématiquement les empreintes digitales et la photo de tout étranger dès l'entrée sur le territoire chinois (relié au passeport).
Constaté lors d'un passage récent en Chine.

------------------------------
Exemple du statut actuel:
J'avais déjà posté ça sur le fil cyberguerre.

Il y a eu une grosse fuite de donnée sur une "Smart City" à Pékin, le quartier Liangmaqiao des ambassades (ville interconnectée, incluant des caméras de surveillance biométriques, suivi des entrées/sorties et des passants, traquage des téléphones / wifi, etc).
Il y avait une copie de la base de donnée en accès libre sur un cloud alibaba.
https://techcrunch.com/2019/05/03/china-smart-city-exposed/

Pour un européen qui souhaite préserver sa vie privée, ça fait peur. (cf carte).
Les caméras à reconnaissance faciale estiment l'âge, ( et la beauté ), l'ethnicité (Han, Xinjiang, black, caucasien...), détectent les barbes, lunettes de soleil, et si la personne est masquée (cause pollution ... ou autre) ,  et si les personnes sont reconnues, il croise ça automatiquement avec les fichiers de la police : c'est relié automatiquement à leur carte d'identité. (et leur crime/casier judiciaire: drogué, sorti de prison, etc)

Le taux de reconnaissance par le visage est inconnu ... mais de toute façon, ils sniffent aussi les téléphones mobiles et les Wifi allumés, donc cette identification-là est très fiable

 

Révélation

-------------------------

sur une note "plus légère":

le métro de Pékin signale qu'il est interconnecté au crédit social .
Ce qui inclut des malus en cas d'incivilité (manger ou boire dans le métro), et des bonus en cas de comportement "vertueux".

Si c'est "manuel" par les contrôleurs, c'est logique et ça ne me dérange pas.
Si c'est automatique via les caméras à reconnaissance faciale (le plus probable vu les foules), et ben les questions se posent (surtout sur la fiabilité de la reconnaissance...)

http://www.rfi.fr/asie-pacifique/20190519-chine-notes-credit-social-transports-commun-metro-pekin

[rogue0]

Reverse engineering du filtrage / censure d'image sous WeChat (activée uniquement vers les comptes de chine continentale, pas les comptes à numéros étrangers)

Analyse purement technique (et pas droit de l'hommiste).
Pas le temps de commenter, je le ferais plus tard si ça intéresse quelqu'un.

https://citizenlab.ca/2019/07/cant-picture-this-2-an-analysis-of-wechats-realtime-image-filtering-in-chats/

[rogue0]

Le 27/09/2017 à 16:06, rogue0 a dit :

Dans le sujet :

• Les boîtes noires de surveillance de la loi Sécurité, le système de surveillance #SORM russe, et ceux vendus aux pays du Maghreb sont en plein dans le sujet.

Fuite sur le système SORM russe, d'écoute et de surveillance internet / télécom (et de tracking GPS individuel ...)

https://meduza.io/en/feature/2019/08/27/suspicious-sniffers

https://darkk.net.ru/2019/cc/

cf dans le fil cyber pour les détails

c'est

[rogue0]

Le 08/02/2018 à 13:33, rendbo a dit :

une petite techno sympa qui nous vient de chine :

https://www.journaldugeek.com/2018/02/08/police-chinoise-desormais-dotee-de-lunettes-a-reconnaissance-faciale/

C'est une fake news qui circule autour de Hong Kong, mais le concept reste intéressant.

En 2017 (aucun rapport avec les manifs à HK donc), des artistes ont proposé un concept pour tromper la reconnaissance faciale, sans masque (illégaux dans pas mal de pays maintenant).
En projetant un autre visage sur le sien. 

https://www.dailydot.com/debug/wearable-face-projector-hong-kong-protesters/

https://factcheck.afp.com/video-actually-shows-2017-dutch-university-design-project

 

Révélation

 

C'est du concept art :
il y a sans doute des méthodes plus efficaces pour brouiller la reconnaissance faciale (cf les voitures connectées : les méthodes pour brouiller leur reconnaissance des panneaux).
Ou le concept du Tshirt "super moche" dont le dessin pirate les caméra de surveillance par William Gibson

https://arstechnica.com/cars/2017/09/hacking-street-signs-with-stickers-could-confuse-self-driving-cars/

https://www.datapanik.org/2014/02/28/william-gibsons-really-ugly-t-shirt/

Modifié le 11 octobre 2019 par rogue0

[rogue0]

Un chercheur Facebook (sic) propose une contre-mesure contre la reconnaissance faciale.
En gros, il s'agit d'ajouter du brouillage  sur ses photos et vidéos postées sur les réseaux sociaux, suffisamment pour les anonymiser (cad que les IA ne puissent pas les rapprocher avec sa vraie identité).

Ce n'est ni dénué d'intérêt ... ni dénué d'arrière-pensées :
si facebook continue à appliquer sa reconnaissance faciale avant brouillage, il garde l'exclusivité de l'identification de l'usager (et de ses données personnelles + marketing)

https://www.journaldugeek.com/2019/10/28/facebook-intelligence-artificielle-deepfake/

https://research.fb.com/publications/live-face-de-identification-in-video/

Accessoirement, Facebook se prend des procès préventifs , vu le taux d'erreur de sa reconnaissance faciale :
15% de faux positif... alors que l'algorithme est proposé aux forces de l'ordre.

Faudrait qu'il demandent conseil aux boîtes chinoises pour améliorer leurs algo ...

https://arstechnica.com/tech-policy/2019/10/35-billion-facial-recognition-lawsuit-against-facebook-moving-forward/

[rogue0]

Je partage ici 2 sujets liés:

• Amazon rédige une proposition de loi US pour "encadrer" (plutôt libérer) la reconnaissance faciale.
  les militants vie privée et droits de l'homme sont sceptiques  et cherchent le loup (et ont plutôt raison à mon avis)
  Ils ont d'ailleurs fait une démo-manif de reconnaissance faciale devant le congrès US pour dénoncer l'absence de réglementation dans le domaine.
  https://www.vox.com/recode/2019/9/25/20884427/jeff-bezos-amazon-facial-recognition-draft-legislation-regulation-rekognition
  https://www.vox.com/future-perfect/2019/11/15/20965325/facial-recognition-ban-congress-activism
  
   
• côté Chinois
  Je partage avec des réserves.
  https://www.axios.com/facial-recognition-china-un-standards-itu-585838b3-7b24-467b-8097-dbc81bf18117.html (résumé)
  https://www.ft.com/content/c3555a3c-0d3e-11ea-b2d6-9bf4d1957a67 (article original paywall)
  
  Cet article du Financial Times a un certain biais contre l'influence chinoise, mais certains détails font quand même tiquer pour un occidental...
  (à confirmer, aucun document n'a été montré)
  
  
  Titre "neutre" : Systèmes de vidéo surveillance / reconnaissance faciale / villes connectées :
  Les géants de la tech chinoise poussent leurs standards à l'ITU (union téléphonique internationale).
  En gros, ces futures normes (mondiales) seraient (bien sûrs) compatibles avec les systèmes de surveillance chinois (ou étatiques), et ne sont pas pensés pour la protection de la vie privée.

L'article est un mix entre des soucis légitimes de vie privée, et une certaine jalousie/méfiance de la montée de la tech chinoise, plus difficile à défendre publiquement.
La plupart des use case critiqués sont aussi envisagés du côté occidental (détection de suspects dans la foule) :
je me demande quelle méthode alternative pourrait être utilisée (et compatible CNIL)

Je n'ai pas trop le temps : s'il y a des intéressés, je referais un commentaire plus détaillé.

Quelques morceaux choisis:

Révélation

ITU standards are increasingly being authored by companies as opposed to government officials, according to members of international ITU delegations, and China’s influence in drafting and setting the standards at the UN has grown in recent years.(...)

ITU standards, which usually take around two years to be drafted and adopted, are highly influential in setting the rules around how tech is developed and used, particularly in the developing world. Drafts are put forward by companies and governments, and are then discussed at meetings involving representatives from several member states, before final approval.

Révélation

The proposals currently being discussed at the ITU have been criticised by human rights lawyers as crossing the line from technical specifications to policy recommendations, including outlining use cases and data requirements for facial recognition and other surveillance technologies.

“There are virtually no human rights, consumer protection, or data protection experts present in ITU standards meetings so many of the technologies that threaten privacy and freedom of expression remain unchallenged in these spaces,” said Mehwish Ansari, who leads ITU work at Article 19, a digital human rights non-profit. “When it comes to facial recognition [these standards are] extremely dangerous from a human rights perspective.”

Requirements in the draft standard for facial recognition, which is expected to be completed before the end of 2019 and will be fast-tracked for approval, stipulate a requirement to store detected facial features in a database, including race, skin colour, face style, birthmarks, scars and other demographic features.

Suggested uses for facial recognition technology include : the examination of people in public spaces by the police, confirmation of employee attendance at work, and the arrest of criminals, specifically by comparing “the country’s fugitive library with the local population library” to smoke out “local hiding criminal fugitives”.

Other use cases outlined include “black list alarms” that can be used to spot specific targets in schools, temples, airports, hospitals, malls, neighbourhoods and “other crowded places”.

Another proposal put forward by ZTE and China Mobile, which was accepted as a standard in June, laid out “requirements and functional architecture of a smart street light service”, including an option to “add video monitoring capabilities when deploying smart street lights”.

un lien qui passe le paywall :

Révélation

https://www.google.com/url?sa=t&rct=j&q=&esrc=s&source=web&cd=2&cad=rja&uact=8&ved=2ahUKEwi51O6-75bmAhXGzIUKHb4uAM0QFjABegQIARAB&url=https%3A%2F%2Fwww.ft.com%2Fcontent%2Fc3555a3c-0d3e-11ea-b2d6-9bf4d1957a67&usg=AOvVaw1J7Cedji0A8OZSdhSIKUIf

https://www.scmp.com/news/china/politics/article/3040134/china-launches-facial-recognition-mobile-phone-users

je suppose que les normes en question seraient ici

https://www.itu.int/ITU-T/workprog/wp_item.aspx?isn=15289

https://www.itu.int/search#?q=facial recognition&fl=0&ex=false&target=All

Modifié le 2 décembre 2019 par rogue0

[g4lly]

7 minutes ago, rogue0 said:

La plupart des use case critiqués sont aussi envisagés du côté occidental (détection de suspects dans la foule)

En général il n'y en a pas un pour rattraper l'autre dans la quête du contrôle ...

... et comme aujourd'hui le besoin de sécurité gadget a dépassé de loin le besoin de liberté/intimité ...

Pourquoi s'en priver.

Vive le maquillage ... les parapluies ... casquettes ... les vitre teintée - pour ceux dont la voiture ne les espionne pas a leur insu - .

[rogue0]

Par une pure coïncidence :

La Chine vient de rendre obligatoire le scan biométrique du visage, pour tout nouvel abonnement internet (fixe ou mobile).

https://www.scmp.com/news/china/politics/article/3040134/china-launches-facial-recognition-mobile-phone-users

Rappel : il n'y avait déjà plus d'anonymat sur l'internet chinois depuis longtemps (interdiction des VPN et la présentation de la carte d'identité était déjà obligatoire pour tout abonnement mobile).

Cette dernière mesure va vite remplir les bases de données pour la reconnaissance faciale.

 

[g4lly]

7 hours ago, rogue0 said:

Cette dernière mesure va vite remplir les bases de données pour la reconnaissance faciale.

Chez nous ces alimenté par l’émission de CNI et de passeport et ca ne dérange personne

Et a priori la commission s'oriente a très court terme vers l'obligation de la biométrie visage 2d et empreintes digitale pour toutes les CNI de l'Union.

[Phacochère]

Actu. Fr / Fête des Lumières 2019 : des gendarmes pour chasser les drones du ciel de Lyon

"Pendant l'édition 2019 de la Fête des Lumières de Lyon (Rhône), les gendarmes vont déployer une brigade anti-drone pour la première fois..." 

https://actu.fr/auvergne-rhone-alpes/lyon_69123/fete-lumieres-2019-gendarmes-chasser-drones-ciel-lyon_29818563.html

[c'est pas du tout ici que je souhaitais poster, désolé] 

Modifié le 8 décembre 2019 par Phacochère

[rogue0]

Le 02/12/2019 à 17:14, rogue0 a dit :

Systèmes de vidéo surveillance / reconnaissance faciale / villes connectées :

A ce sujet,

les expériences de vidéosurveillance boostée (biométrie ou "intelligente" à reconnaissance de comportement), se multiplient aussi en Europe... Même sans autorisation.
(Lyon, Valencienne, des lycées, etc).

• le gouvernement français proposait une expérimentation ALICEM sur la vidéosurveillance biométrique (à reconnaissance faciale comme en Chine).
  Devant les réactions, il réduit le scope de l'expérience.
  poke @koojisensei2 , comme quoi la critique de la société de surveillance n'est pas seulement dirigée contre la Chine.
  https://www.numerama.com/politique/594746-ne-pas-sacrifier-nos-droits-lhostilite-a-legard-de-la-reconnaissance-faciale-grandit-en-france.html
   
• La commission européenne envisage un moratoire de 5 ans sur tout déploiement à grande échelle de reconnaissance faciale (hors expérimentations limitées)
  https://www.numerama.com/politique/599951-reconnaissance-faciale-vers-un-moratoire-de-5-ans-dans-lunion-europeenne.html
   
• La ville de Marseille aurait installé un nouveau système de vidéo surveillance (fournisseur SNEF), dont le cahier des charges demande la possibilité de détecter et d'alerter automatiquement des situations à risque ou "remarquables" : comme des attroupements, des tags, des dépôts d'ordure, des gens qui tournent en rond dans un quartier...
  
  Ce sont des use case qui se défendent ... mais il n'y a actuellement aucun encadrement (que ce soit sur les faux positifs, la suppression des données, etc)... au delà de la réglementation actuelle sur la vidéosurveillance "de base" (sans biométrie ou analyse de comportement)

sources

Révélation

 

https://www.ldh-france.org/safe-city-a-marseille-premier-recours-contre-la-videosurveillance-automatisee-de-lespace-public/  (attention, article d'association engagée anti surveillance)

https://www.lemonde.fr/pixels/article/2020/01/21/a-marseille-un-systeme-de-videosurveillance-biometrique-attaque-en-justice_6026735_4408996.html

https://www.ouest-france.fr/provence-alpes-cote-dazur/marseille-13000/marseille-un-systeme-de-video-surveillance-biometrique-attaque-en-justice-6700251

https://www.bfmtv.com/tech/quatre-associations-se-liguent-contre-la-reconnaissance-faciale-dans-les-lycees-1636534.html

https://www.telerama.fr/medias/reconnaissance-faciale-en-france-pourra-t-on-y-echapper%2Cn6566018.php

 

 

 

[rogue0]

Le 02/12/2019 à 17:21, g4lly a dit :

En général il n'y en a pas un pour rattraper l'autre dans la quête du contrôle ...

... et comme aujourd'hui le besoin de sécurité gadget a dépassé de loin le besoin de liberté/intimité ...

A ce sujet, la police US utilise désormais plus la base de données Google Sensorvault que la géolocalisation des téléphones...
Parce qu'elle permet de dire quel smartphone était présent près du "lieu du crime" à une heure donnée (plutôt que de chercher laborieusement un suspect).

Ce qui a mené a des fausses accusations / inculpations.

Article en français un peu putaclick, mais qui montre le potentiel de cette base pour la surveillance.
https://www.presse-citron.net/a-cause-de-google-vous-pourrez-bientot-etre-accuse-de-cambriolage/

Version détaillée
https://www.eff.org/fr/deeplinks/2019/04/googles-sensorvault-can-tell-police-where-youve-been
https://codastory.com/news/googles-personal-data-law-enforcement/
https://www.nytimes.com/interactive/2019/04/13/us/google-location-tracking-police.html
 

En gros, la géolocalisation via les opérateurs téléphoniques est en théorie encadrée au niveau judiciaire
(demande dans le cadre d'enquête... sauf pour la géolocalisation à vendre pour les chasseurs de prime US ... ).
Le croisement avec les données perso des applications est lui beaucoup moins contrôlé... et permet d'avoir une liste instantanée de suspects équippé d'un smartphone (ayant un service google, bref quasiment tous les suspects, même les iPhone).

C'est du travail d'amateur comparé aux systèmes chinois, mais ça peut être détourné pour le même usage (si jamais une loi l'imposait aux GAFA... )

[rogue0]

Le 30/08/2019 à 19:34, rogue0 a dit :

Reverse engineering du filtrage / censure d'image sous WeChat (activée uniquement vers les comptes de chine continentale, pas les comptes à numéros étrangers)

Analyse purement technique (et pas droit de l'hommiste).
Pas le temps de commenter, je le ferais plus tard si ça intéresse quelqu'un.

https://citizenlab.ca/2019/07/cant-picture-this-2-an-analysis-of-wechats-realtime-image-filtering-in-chats/

Par rétro ingénierie, une étude retrouve les mots clés censurés en Chine pendant la crise du coronavirus
(sur Wechat, et YY, 2 plate-formes de communication populaires).

C'était du 1er au 15/01/2020, la période peu glorieuse, où l'épidémie était déclarée à l'OMS... mais où la discussion était censurée en Chine ( ce qui a valu une réprimande au poste de police pour le médecin lanceur d'alerte, décédé depuis).

https://www.20minutes.fr/high-tech/2732659-20200304-la-chine-censure-des-messages-de-ses-citoyens-sur-le-coronavirus

https://www.bbc.com/news/world-asia-china-51732042

Rapport technique détaillé

https://citizenlab.ca/2020/03/censored-contagion-how-information-on-the-coronavirus-is-managed-on-chinese-social-media/

Note : le géant chinois de la recherche, Baidu propose des API permettant aussi de voir si un site / contenu sera bloqué en Chine

https://www.theverge.com/2017/12/11/16762060/baidu-japan-great-firewall-censorship-china

https://lxr.co.jp/report/

Modifié le 9 mars 2020 par rogue0

[Lame]

Les logiciels de reconnaissance faciale ne sont qu'une partie des logiciels d'analyse mis en oeuvre dans le cadre des réseaux d'hypersurveillance.

Outre les logiciels de reconnaissance vocale, il y a aussi la reconnaissance des émotions:

- A lire sur Korii // L'angoissant développement de la reconnaissance d'émotions

Sans compter les logiciels de reconnaissance de la démarche:

- A lire sur Chine Magazine // Lancement de la reconnaissance de la démarche

- A lire sur Futura Tech // Le Pentagone veut intégrer la reconnaissance de démarche dans les smartphones

Ces technologies sont encore expérimentales mais nous devons nous demander si l'un des objectifs des autorités chinoises et américaines n'est pas le développement  d'un système-profiler, un système qui établirait les différentes caractéristiques comportementales d'une personne par le biais de l'hypersurveillance.

Il leur serait alors possible de créer des logiciels capables de simuler le comportement de tel ou tel individu sur base des données de son fichier.

Ce logiciel pourrait être "enveloppé" dans un "chassis" approprié ou utilisé en ligne.

A lire sur France Info // Nouveau monde. CovidIA : une intelligence artificielle pour simuler le déconfinement

[Rob1]

Personne n'a fait de système de reconnaissance de parties génitales ? Je me rappelle cette citation parmi les papiers Snowden : "Unfortunately … it would appear that a surprising number of people use webcam conversations to show intimate parts of their body to the other person."

[collectionneur]

Le 19/04/2020 à 14:53, Rob1 a dit :

Personne n'a fait de système de reconnaissance de parties génitales ? Je me rappelle cette citation parmi les papiers Snowden : "Unfortunately … it would appear that a surprising number of people use webcam conversations to show intimate parts of their body to the other person."

Dans un film d'espionnage comique français de 2003,  Double Zéro, un général utilise un tel système 

[Lame]

Le 19/04/2020 à 14:53, Rob1 a dit :

Personne n'a fait de système de reconnaissance de parties génitales ?

Ce serait effectivement avisé pour sécuriser les robots sexuels. Histoire d'éviter les contaminations indirectes par les MST des utilisateurs pirates.

Il y a 23 heures, collectionneur a dit :

Dans un film d'espionnage comique français de 2003,  Double Zéro, un général utilise un tel système 

Oui, comme le Général W. Putsch dans Monstres contre aliens.