Le système de crédit social : un futur standard de la smart city ?

Laboratoire d’Innovation Numérique de la CNIL, 28 novembre 2018

Portrait de ce que pourront être, à l’avenir, les principaux outils des villes connectées.

Du 13 au 15 novembre 2018, s’est tenu le Smart City World Congress, à Barcelone. A cette occasion, de nombreuses entreprises se sont affichées pour démontrer leur volonté de proposer des produits et des services innovants répondant aux besoins de la ville de demain. Cet évènement international a permis de dresser un portrait de ce que pourront être, à l’avenir, les principaux outils des villes connectées.

Aux côtés du géant du numérique HUAWEÏ, nombreuses sont les entreprises et villes chinoises à s’être présentées lors de ce salon. Ces entités font du tableau de bord, un système permettant de monitorer en temps réel toute la ville, l’élément central de leur solution.

Dans une version modernisée, comprenant l’Internet, les objets connectés et les technologies basées sur l’intelligence artificielle (reconnaissance faciale en particulier), cet outil est présenté comme étant capable de gérer les principaux problèmes rencontrés par la ville.

Pour permettre ce suivi continu, des outils de mesure doivent préalablement être déployés à des endroits stratégiques de la ville. Toutes les activités sont concernées : pollution, gestion des déchets, flux de transports, de personnes ou d’énergie, etc. Le tout fait enfin l’objet d’analyses prédictives afin de permettre aux villes d’anticiper les difficultés à venir.

Compte-tenu du volume de données collectées par ce système, et de la nature de ces données, l’enjeu de la conformité au Règlement Général sur la Protection (RGPD) des données devra nécessairement être pris en considération. Les solutions proposées par les entreprises chinoises incluent des systèmes de vidéosurveillance qui sont associés à des technologies de reconnaissance faciale. Des telles solutions impliquent la collecte d’un volume important de données personnelles, pour une surveillance continue et en temps réel des citoyens.

Si du côté des collectivités françaises, l’engagement en faveur de la protection des données personnelles est en bonne voie, le respect de la règlementation européenne est principalement vu comme une contrainte aux yeux des différents acteurs du secteur.

L’inquiétude d’une dérive dans le traitement des données personnelles n’est pas infondée. Il est possible d’y voir, de la part des entités chinoises, une tentative d’exportation du modèle de « Social Credit System », un système permettant d’attribuer une note aux citoyens selon des critères multiples (opinions politiques, comportements dans l’espace public et sur l’Internet, centres d’intérêt, etc.), et de leur infliger des sanctions ou leur octroyer des avantages en fonction de celle-ci. Une notation que la Chine envisage de généraliser dans l’ensemble de son pays d’ici 2020.

Des acteurs en viennent à se demander si ce système de crédit social ne risque pas de devenir une offre standard de la ville connectée. Mais aucun débat sur la surveillance ne fut organisé au cours du salon, ce qui est bien regrettable.

Sur le plan juridique, la mise en place du modèle chinois risquerait de se heurter à quelques barrières.

Le RGPD octroie aux personnes le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé qui produirait des effets juridiques ou les affecterait de manière significative. En principe, les individus pourraient refuser de faire l’objet d’une notation entraînant des sanctions sociales ou des discriminations juridiques.

Cependant ce droit ne s’applique pas si le traitement est autorisé par le droit de l’Union Européenne ou de l’Etat-membre, ou si la personne concernée donne son consentement explicite.

Une modification de la législation en vigueur, ou le recueil du consentement de la personne, permettrait de contourner cette limitation. Toutefois, un système de crédit social risquerait d’être contraire aux droits et libertés fondamentaux que se doit de respecter la France.

Quand bien même son instauration serait justifiée par un motif d’ordre public, il serait nécessaire de faire la balance entre les atteintes qu’il engendrerait et les garanties proposées pour les limiter.

A rapprocher : La Chine commence déjà à mettre en place son système de notation des citoyens prévu pour 2020 – Le Figaro

Sommaire

Autres articles

some
Publication d’un décret relatif à l’utilisation de la vidéo intelligente pour mesurer le port du masque dans les transports en commun
Décret n°021-269 du 10 mars 2021 relatif au recours à la vidéo intelligente pour mesurer le taux de port de masque dans les transports Dans le contexte de la crise sanitaire, les exploitants de services de transports public collectif ont…
some
Sortie des consoles next-gen – PS5 et Xbox Series X : la menace (non-fantôme) des scalping bots
Les bots permettent de réaliser ce que l’humain ne peut pas faire : un grand nombre d’actions dans un temps très court voire de manière instantanée. Mais l’objectif poursuivi est parfois questionnable, ainsi qu’en témoigne l’utilisation des scalping bots. Pour les…
some
E-sport : enjeux juridiques d’un secteur qui ne connait pas la crise
Les mesures de confinement ont favorisé l’expansion d’un secteur déjà en plein développement : l’e-sport. En France, l’e-sport est encadré par la loi pour une République Numérique de 2016 et ses décrets d’application. En réalité, les problématiques juridiques soulevées par l’e-sport…
some
Création du comité pilote d’éthique du numérique en France
Une avancée significative pour la prise en considération des enjeux liés à l’intelligence artificielle En décembre dernier, le Comité Consultatif National d’Ethique pour les sciences de la vie et de la santé (CCNE) a été chargé par le Premier Ministre,…
some
Déploiement national de « Signaux Faibles » : l’IA au service de la prévention des difficultés
Actualité Après des premiers résultats encourageants, le nouvel outil « Signaux Faibles » a été déployé sur l’ensemble du territoire national permettant ainsi de détecter précocement les difficultés rencontrées par les entreprises. Développé par la startup d’Etat « Etalab », l’outil « Signaux…
some
Infographie : le fonctionnement de Bpifrance pour financer l’innovation
Par Eldorado Eldorado présente une infographie complète sur le financement de l’innovation par Bpifrance. Acteur incontournable de l’écosystème startup, Bpifrance propose une multitude de dispositifs de financement à destination des entrepreneurs français. Lire l’article sur le fonctionnement de la BPI…