Group items tagged

La population musulmane de la région est soumise à de nombreuses technologies de contrôle afin de mesurer le degré de croyance et de pratique religieuse des individus, notamment par le biais du big data et de la reconnaissance faciale.

Le quotidien de la minorité religieuse est ainsi fait de caméras statiques et de drones-colombes intelligents, ou d’agents officiels et secrets susceptibles de fouiller tout individu plusieurs fois par jours. Des fouilles corporelles ou numériquse,  soit directement par le biais du smartphone ou via les traces numériques semées sur le très surveillé réseau social WeChat.

En cette période de hajj, le pélerinage à La Mecque que tous les musulmans en capacité de le faire se doivent d'effectuer une fois dans sa vie, cette surveillance étouffante se poursuit pour les ressortissants chinois. Accompagnés durant tout le pèlerinage par un guide de l’Association Islamique Chinoise, dirigée par l’Etat, les pélerins sont également porteurs de « cartes intelligentes » nouées autour de leur cou et enregistrant leurs données de géolocalisation ainsi que leurs conversations.

Souvent conçues et testées dans une démarche expérimentale, ces initiatives offrent des réponses efficientes et nouvelles aux enjeux qu’elles traitent. Mais sous leur apparente simplicité, elles posent de nombreux challenges juridiques en matière de mise en œuvre pour l’acteur public. Quid de la responsabilité de l’acteur public en matière de risque sanitaire et de salubrité des aliments d’un frigo partagé, qui s’adresse de facto à des usagers en dehors du seul spectre des membres de l’association qui l’ont conçu ? Quid du statut des contributeurs de Sauvlife, qui s’apparentent presque à des pompiers, mais qui ont également la liberté de ne pas intervenir ? Dans le cas du lycée, comment rendre possible un usage multiple d’un équipement public réservé à des mineurs ?

Quand certains pans de l’action publique sont gérés et utilisés de manière mutualisée, cela bouscule fondamentalement les piliers de l’acteur public : sa responsabilité face aux risques, ses contributeurs et la manière de les valoriser, la perméabilité avec le secteur marchand et même la légitimité à lever l’impôt pour financer des services devenus communs.

Sans surprise, faute de cadre juridique clair et sécurisant, rares sont les initiatives de ce type qui passent le cap de l’expérimentation. Et quand cela advient, cela tient souvent à des qualités individuelles : un élu prêt à prendre le risque, des équipes d’agents et des citoyens à l’implication exceptionnelles.

Un autre anachronisme consiste à penser que plus un pays est grand géographiquement, plus il est puissant. La situation économique et l’étendue du territoire sont de moins en moins intriqués. Je trouve plus intéressant d’imaginer une organisation plus flexible, qui donne à chaque personne la possibilité de choisir le gouvernement qu’elle souhaite.

L’Etat-nation, c’est l’idée que nous avons une identité liée à l’Etat plutôt qu’à notre ethnie, à notre religion ou à notre langue. C’est un progrès mais ce n’est qu’une étape si nous voulons échapper au déterminisme de nos identités liés à nos gènes, à notre naissance. Cette étape continue à nous lier par notre naissance puisque, si l’on n’a pas beaucoup d’argent, il reste très difficile de changer de nationalité. Il faut continuer à chercher d’autres étapes pour définir une autre identité, plus globale, en tant qu'être vivant. D’un point de vue écologique, il faut aussi se mettre à penser comme élément d’un écosystème

Oui, il y a une grande bureaucratie centrale qui facilite tout ça, qui s’appelle tout simplement « Information ». C’est une espèce de mélange entre l’ONU et Google, qui gère toute l’information dans le monde. Elle permet d’amener l’information à tout le monde tout en exerçant une surveillance globale. C’est une organisation très puissante. L’idée est d’interroger la possibilité et le bien-fondé d’une telle organisation globale, qui se réclame d’une neutralité en réalité impossible.

Pour la fédération, une éviction de ses membres de la fibre est « tout à fait inquiétant ». Aujourd'hui, le marché est dominé par l'opérateur historique (voir notre analyse), qui compte pour plus des deux tiers de recrutement de clients en fibre, en embarquant notamment des abonnés ADSL de concurrents. « On est en train de refermer un marché vivace, qui a permis à une foule d'acteurs locaux d'exister, sur quelques gros acteurs qui n'ont pas la même capacité d'innovation » appuie FFDN.

Il serait donc nécessaire de défendre l'accès de ces petits acteurs aux réseaux FTTH, à la fois pour leurs offres « neutres » et pour leur statut de « poisson-pilote », avec des compétences particulières. La fédération se targue de fournir un regard unique, fondé sur les droits fondamentaux et une longue expérience. Elle répond aussi bénévolement à des problèmes locaux (comme les réseaux hertziens en zones blanches) ou en palliant les manquements des opérateurs commerciaux. « La santé des associations que je représente est un des marqueurs du respect ou non de l'intérêt général sur ce marché. On est un peu des canaris, déclare Oriane Piquer-Louis. Si les plus petits meurent, les plus grands doivent quitter la mine. » 

Les réseaux d'initiative publique (RIP), initiés par des départements et régions, sont la voie la plus évidente vers la fibre pour les FAI associatifs. Ces réseaux sont tenus à une obligation de non-discrimination, soit les mêmes conditions tarifaires pour l'ensemble des opérateurs qui veulent y proposer leurs offres. Or, pour FFDN, les conditions ne conviennent pas à des acteurs qui comptent quelques centaines d'abonnés sur toute la France, alors que Bouygues Telecom ou Free négocient avec les délégataires des réseaux publics sur des millions de lignes.

Mais l’intelligence artificielle se diffuse également dans des sphères qui concernent plus directement la vie publique, et donc la société. Pour ne citer qu’eux : le classement de lycéens après leurs bacs[4], l’automatisation de procédures judiciaires[5] ou des horaires de ramassage scolaire[6], la dérégulation du flux automobile dans les villes dus à l’utilisation d’un service de GPS comme Waze[7], l’utilisation de la reconnaissance faciale dans des lieux publics[8] et privés[9], l’usage de « détecteurs de mensonges » aux frontières[10], la police prédictive[11], ou même plus simplement l’usage de systèmes reposant sur la captation de l’attention de l’utilisateur[12].  A leurs échelles, ces sujets touchent la vie sociale dans des dimensions qui pourraient légitimement demander à ce que des discussions plus démocratiques aient lieu. Ils entrent certes, plus ou moins directement dans la catégorie « intelligence artificielle » mais participent de la numérisation du monde à travers des algorithmes, et feront tous le pas vers l’IA si ce n’est déjà fait.

C’est là qu’intervient le passage qualitatif du « human in the loop » (HITL) au « society in the loop » (SITL). Pour le dire simplement, le SITL devient nécessaire lorsqu’un système utilisant l’intelligence artificielle a des implications importantes sur la sphère sociale. Iyad Rahwan explique : « alors que le HITL utilise le jugement d’un individu ou d’un groupe pour optimiser un système pensé trop étroitement, SITL embarque le jugement et les valeurs d’une société vue comme un tout, dans la définition la gouvernance algorithmique[13] de questions sociétales ». En résumé, le SITL est une forme de contrat social entre ceux qui doivent obéir aux règles et ceux qui écrivent les règles.

Coupons court au débat qui concerne les bulles de filtres : leur émergence et leurs effets dépendent du paramétrage des algorithmes de Facebook, de Google et des autres services susceptibles de créer ces bulles. Par conséquent, elles restent à leur main, notamment à travers leurs Conditions générales d’utilisation (CGU) et le secret d’affaires qui protègent ces systèmes (et les modèles d’affaires de captation du « temps de cerveau disponible » qui y sont directement liés). Pas de démocratie à cet endroit, quand bien même les impacts sur la démocratie pourraient être réels, même s’ils sont encore mal mesurés. C’est une des premières limites du modèle « Society in the loop ».

L'histoire du déclin du numérique français est une tragédie en trois actes. Il y eut d'abord les «  30 honteuses du numérique  », où une petite élite arrogante et dénuée de vision stratégique a démantelé notre industrie informatique et électronique grand public. Elle a débranché les travaux de recherches les plus intéressants et laissé nos meilleurs développeurs partir à l'étranger faute de pouvoir les associer à des projets ambitieux. Vient ensuite la capitulation vis-à-vis des grands acteurs américains. Ainsi, de nombreux politiques et hauts fonctionnaires français leur ont permis d'intégrer leurs technologies au cœur des prérogatives régaliennes de l'État : défense, renseignement, éducation, sécurité, mais aussi culture. Plusieurs d'entre eux quitteront leurs fonctions pour aller rejoindre ces sociétés. Le troisième acte se joue en ce moment. Alors que nos dirigeants se préparent à une vente à la découpe, il reste cependant un mince espoir d'inventer une autre manière d'utiliser le réseau plus en phase avec nos principes et nos valeurs. Mais pouvons-nous encore changer la doctrine des politiques numériques de la France  ? Quand on écoute nos hommes politiques, le déclassement de l'Europe vis-à-vis de l'Internet est présenté comme une fatalité. Un accident de l'Histoire à l'issue duquel les clés du monde de demain auraient été données aux États-Unis et à la Chine.

Nous aurions pu avoir un autre destin, car si les États-Unis avaient la vision et l'argent, c'est en Europe qu'ont été inventées deux des briques fondamentales de l'Internet : Linux et le Web. Mais à la différence du standard GSM, ces dernières ont eu le malheur d'être conçues par des individus talentueux hors des grandes institutions. Snobés chez nous, ces deux projets deviendront le moteur des plateformes numériques américaines et chinoises et l'instrument de leur domination mondiale.

Tout commence dans les années 70, avec l'abandon du réseau Cyclades de Louis Pouzin au profit du Minitel. Louis Pouzin en est le concepteur et il est l'inventeur de la segmentation des données en «  Datagramme  ». Il sera récompensé (avec Tim Berners-Lee et Vinton Cerf) par la reine d'Angleterre pour ses contributions essentielles à la création de l'Internet et il reste à ce jour un inconnu du grand public en France. Il faudra attendre 1994 pour que nos chercheurs acceptent enfin de s'intéresser à autre chose qu'à des technologies incompatibles avec l'Internet.