Group items tagged

Nous sommes à un moment de l'histoire des technologies de l'information et du numérique qui est assez comparable à l'état du monde en 1949 c'est à dire au moment où l'autre superpuissance de l'époque (l'union soviétique) se dota également de la bombe nucléaire (voir notamment ici ou là). Ce que je veux dire par là c'est que désormais, la totalité des plateformes existantes "à l'Ouest" dispose d'équivalents "à l'Est". Et le rapport au nucléaire n'est pas seulement analogique ou symbolique comme je l'écrivais par ici :  "Le numérique est une technologie littéralement nucléaire. Une technologie de noyau. Au "cœur" fissible d’un éventail de possibles aussi prometteurs qu’angoissants et pour certains, incontrôlables."   L'analogie est également (géo)politique. Toutes les grandes plateformes vont devoir faire le choix politique de savoir dans quelle mesure elles acceptent de se censurer et donc de collaborer avec des régimes autoritaires pour conquérir un marché. Et à l'échelle des enjeux que représentent à la fois les audiences qu'elles touchent déjà et celles qu'elles visent à conquérir, chacun de ces choix est un peu plus qu'un simple choix économique ou même moral.   

La vraie nouveauté c'est que ce projet à suscité la colère d'une partie des salariés de Google, qui à l'image de la victoire - je pense temporaire - qu'ils avaient remporté pour obliger leur employeur à se retirer du projet militaire Maven, espèrent cette fois faire suffisamment de bruit pour que ce projet de moteur censuré n'aille pas à son terme.  La crise éthique de certains anciens cadres des GAFA qui agissent comme autant de "repentis" pour les technologies qu'ils ont contribué à créer n'est plus simplement externe mais elle s'étend désormais à l'interne et touche aussi bien Google que Facebook, Microsoft, Amazon (à propos d'un programme de reconnaissance faciale) ou Twitter (à propos du refus de Jack Dorsey de fermer le compte d'un leader de l'Alt-right complotiste). 

S'agissant du contrôle linguistique il opère pour l'instant uniquement au travers des dispositifs et des plateformes agréées par le gouvernement chinois ou opérant sous son autorité directe. C'est le cas par exemple du moteur de recherche Baïdu. Comme d'autres, la Chine n'échappe pas à la multiplication des terminaux de connexion. Là où il y a quelques années il suffisait de surveiller l'ordinateur familial pour capter l'ensemble des pratiques connectées de 5 ou 6 personnes, il faut aujourd'hui étendre et démultiplier les moyens de surveillance sur chaque Smartphone ou tablette. Après la surveillance "de masse" c'est la surveillance "de chacun" qui prime. D'où d'ailleurs, le renforcement du contrôle "social" et du micro-ciblage comportemental qui devient le plus petit dénominateur commun efficient dans le cadre d'une volonté politique de contrôle de la population comme dans le cadre d'une volonté marketing d'expansion commerciale. Les deux aspects finissant d'ailleurs par se rejoindre, ce qui n'est pas le moindre des problèmes que nous avons aujourd'hui à résoudre, car pour citer encore Zeynep Tufekci :  "Nous créons une dystopie simplement pour pousser les gens à cliquer sur des publicités". Il me semble que nous sommes aujourd'hui à la phase d'après. Celle où les gens ont cliqué sur suffisamment de publicités et ont, ce faisant, accepté suffisamment de technologies de traçage actif ou passif pour que les conditions d'existence d'une forme de pouvoir autoritaire soient réunies et surtout pour qu'elle soient en passe d'être acceptées comme naturelles ou, pire, comme légitimes. 

Qu’est-ce que ce Crédit social ? Un système par lequel le comportement de chacun des citoyens chinois ainsi que les personnes morales sera évalué et noté. Une version béta est actuellement en test. Des entreprises, parmi lesquelles on retrouve par exemple China Rapid Finance, partenaire de Tencent (WeChat), Sésame Credit, une filiale de Alibaba et Didi Chuxing (équivalent chinois de Uber), participent à ce programme-pilote basé sur le volontariat mais qui deviendra obligatoire en 2020. Les citoyens seront ainsi notés selon cinq facteurs : leur historique de crédit, leur capacité à remplir leurs obligations contractuelles, leurs informations personnelles, mais aussi leurs comportements et préférences, et enfin leurs relations interpersonnelles.

Les propos tenus sur les réseaux sociaux seront ainsi analysés pour repérer les « énergies positives » : des messages favorables au gouvernement ou positifs sur l’économie du pays feront grimper le score des individus. Pour le moment les propos négatifs ne seraient pas pris en compte. Mais au-delà des paroles, les actes seront analysés. Un représentant de Sésame Crédit admet par exemple inférer des jugements sur les personnes en fonction du type de produit acheté : « quelqu’un qui joue aux jeux vidéo dix heures par jour sera considéré comme une personne inactive (ou fainéante) », alors qu’une personne qui « achète fréquemment des couches sera considérée comme un probable parent, qui par comparaison sera plus à même d’avoir le sens des responsabilités ». Rachel Botsman précise de façon pertinente que le système ne fait pas qu’analyser les comportements, mais qu’il les façonne et biaise les citoyens afin qu’ils adoptent des attitudes jugées plus vertueuses par les gouvernements.

Dans un autre contexte, la notion d’exemplarité en Chine atteint parfois des points qui seraient comiques, s’ils n’étaient pas attentatoires aux libertés des personnes. Un système de reconnaissance faciale et  « name and shame » a ainsi été mis en place à certains carrefours : lorsqu’une personne traverse alors qu’elle n’en a pas l’autorisation, sa photo et son nom sont projetés sur un panneau pendant quelques minutes afin de la pointer comme l’exemple à ne pas suivre.

L'histoire du déclin du numérique français est une tragédie en trois actes. Il y eut d'abord les «  30 honteuses du numérique  », où une petite élite arrogante et dénuée de vision stratégique a démantelé notre industrie informatique et électronique grand public. Elle a débranché les travaux de recherches les plus intéressants et laissé nos meilleurs développeurs partir à l'étranger faute de pouvoir les associer à des projets ambitieux. Vient ensuite la capitulation vis-à-vis des grands acteurs américains. Ainsi, de nombreux politiques et hauts fonctionnaires français leur ont permis d'intégrer leurs technologies au cœur des prérogatives régaliennes de l'État : défense, renseignement, éducation, sécurité, mais aussi culture. Plusieurs d'entre eux quitteront leurs fonctions pour aller rejoindre ces sociétés. Le troisième acte se joue en ce moment. Alors que nos dirigeants se préparent à une vente à la découpe, il reste cependant un mince espoir d'inventer une autre manière d'utiliser le réseau plus en phase avec nos principes et nos valeurs. Mais pouvons-nous encore changer la doctrine des politiques numériques de la France  ? Quand on écoute nos hommes politiques, le déclassement de l'Europe vis-à-vis de l'Internet est présenté comme une fatalité. Un accident de l'Histoire à l'issue duquel les clés du monde de demain auraient été données aux États-Unis et à la Chine.

Nous aurions pu avoir un autre destin, car si les États-Unis avaient la vision et l'argent, c'est en Europe qu'ont été inventées deux des briques fondamentales de l'Internet : Linux et le Web. Mais à la différence du standard GSM, ces dernières ont eu le malheur d'être conçues par des individus talentueux hors des grandes institutions. Snobés chez nous, ces deux projets deviendront le moteur des plateformes numériques américaines et chinoises et l'instrument de leur domination mondiale.

Tout commence dans les années 70, avec l'abandon du réseau Cyclades de Louis Pouzin au profit du Minitel. Louis Pouzin en est le concepteur et il est l'inventeur de la segmentation des données en «  Datagramme  ». Il sera récompensé (avec Tim Berners-Lee et Vinton Cerf) par la reine d'Angleterre pour ses contributions essentielles à la création de l'Internet et il reste à ce jour un inconnu du grand public en France. Il faudra attendre 1994 pour que nos chercheurs acceptent enfin de s'intéresser à autre chose qu'à des technologies incompatibles avec l'Internet.

Tout le monde, ou presque : le consentement des citoyens n’étant pas envisagé, impossible pour eux de refuser cette divulgation de données personnelles à l’entreprise chinoise, ni d’avoir aucune information sur ce qui sera fait de ces données après usage. Mais peut-être ces problèmes sont-ils encore secondaires lorsque l’on est, comme le peuple zimbabwéen, à la veille de l’installation d’une infrastructure de surveillance mise en place par un régime autoritaire. Et étant donnée la faible importance accordée au respects des Droits de l’Homme par ce régime au cours des quatre dernières décennies, difficile de croire le discours officiel justifiant l’arrivée de ces caméras intelligentes par l’éternelle excuse sécuritaire de vouloir réduire la criminalité. Surtout quand aucune loi ne protège l’accès aux données biométriques.

Rien n’y fait : équipés d’Internet, les pauvres ne font pas du tout ce qu’on attend d’eux, à savoir se sortir de la pauvreté. Les cabines numériques disposées dans les villages indiens deviennent des bornes d’arcade et, surprise, les cent millions d’ordinateurs de l’opération « One laptop per child » (financée par des entreprises, notamment AMD, Brightstar Corporation, eBay, Google, Marvell, etc.) n’ont pas réduit le fossé éducatif, sans doute parce qu’ils avaient été distribués à des enfants ne sachant parfois ni lire ni écrire. Des absurdités de ce type, l’autrice en dresse une longue liste, comme ces smartphones que l’on distribue à de jeunes femmes n’ayant le droit de s’en servir que pour passer des appels d’urgence. A New Delhi, d’autres jeunes femmes (les « computer girls ») deviennent des craques de l’informatique, mais restent assignées à leur statut traditionnel, système de castes oblige. Le constat est sans ambiguïté : non seulement la technologie tombe du ciel sans être intégrée dans une quelconque stratégie sociale, mais toute tentative de réappropriation est méprisée et découragée.

Histoire similaire en Chine, où l’on craignait que les cybercafés populaires ne favorisent les activités anti-régime. Ils furent rapidement interdits aux mineurs et on y généralisa le tracking, une pratique désormais monnaie courante dans l’Empire du Milieu. D’exemple en exemple, Payal Arora démontre que les décisions prises par les pouvoirs en place n’ont eu de cesse de réduire l’accès à Internet et à la culture aux personnes les moins dotées, sous prétexte que l’usage qui en serait fait n’entrerait pas dans les bons standards de moralité. Comme souvent, les pauvres font l’objet de politiques paternalistes : on leur demande d’être vertueux et le moindre faux pas les condamne.

A l’inverse, la débrouille des quartiers défavorisés est érigée en exemple à suivre. La mode de l’innovation frugale (ou « Jugaad innovation » ) qui consiste à innover avec des ressources limitées, en témoigne. En Inde par exemple, la customisation des véhicules afin de transporter plus de passagers est souvent mise en avant. Cependant, elle augmente sensiblement le nombre d’accidents : « la frugalité a un coût, celui de la sécurité », écrit Arora. Les Nano cars de Tata – des petites voitures accessibles au plus grand nombre – quant à elles, sont certes pratiques mais occasionnent de lourds dégâts environnementaux : rien ne dit aujourd’hui que ces innovations améliorent réellement la vie des pauvres, affirme la chercheuse

« Il nous est rapidement apparu impossible pour un officier de police seul de traiter une telle quantité de données », a expliqué à Bloomberg Artem Ermolaev, chef du département des technologies de l’information de Moscou. « Nous avions besoin d’une intelligence artificielle pour nous aider à trouver ce que nous recherchions. » C’est maintenant chose faite. Le système développé par la start-up russe Ntechlab permet de croiser les visages filmés par les caméras avec ceux des bases de donnée du ministère de l’Intérieur russe.

Il y a aujourd’hui une compétition entre réseaux sociaux. En Chine, WeChat a intégré depuis longtemps un système de paiement, qui rencontre un grand succès. S’il ne lance pas un service équivalent, Facebook peut se mettre en danger et va avoir du mal à perdurer. Mais à la différence d’un autre réseau social, Facebook ne peut pas le faire sans concertation, à la fois pour des raisons de taille, d’historique et de gouvernance.

On ne peut pas lancer un système de paiement avec une échelle, à terme, de 2,5 milliards d’utilisateurs, sans une large concertation avec les parties prenantes, à commencer par les Etats, et ce pour cinq raisons. La première, c’est justement le nombre d’utilisateurs concernés. La deuxième, c’est que la conjugaison entre un réseau social avancé et un système de paiement est précisément ce qui permet les systèmes de «crédit social», comme en Chine, avec une sanction des «mauvais comportements». La troisième, c’est le risque que demain, Facebook se mette à faire du crédit, et donc de l’émission monétaire. La quatrième, c’est qu’un tel projet a, selon moi, une nature politique. Je me souviens de ce que disait Peter Thiel, qui siège toujours au conseil d’administration de Facebook, lorsqu’il a lancé PayPal : il le voyait comme un moyen de contourner les Etats… Enfin, la cinquième raison est que, par le passé, Facebook n’a pas démontré, loin s’en faut, sa capacité à avoir une gouvernance optimale dans ses projets.

A long terme, il y a un risque politique : celui de voir émerger une puissance monétaire en capacité, notamment, d’influencer les marchés. C’est peut-être à l’échéance de cinq ou dix ans, mais c’est un risque significatif.

L’ouvrage commence par remettre la réalité des plateformes en perspective… Après le temps des promesses de l’avènement de « l’économie du partage » (voir notre dossier de 2014) voire de « la quatrième révolution industrielle », Srnicek rappelle que nous en sommes bien loin. Le secteur des technologies reste relativement modeste dans l’économie, tant en terme de valeur ajouté que d’emplois. Le secteur industriel, malgré la désindustrialisation, est encore bien plus flamboyant que le monde des nouvelles technologies.

Pour Srnicek, le capitalisme s’est tourné vers les données pour assurer la croissance et la vitalité de l’économie, à l’heure où l’industrie ralentissait. En ce sens, les plateformes sont un nouveau modèle d’entreprise, dont la fonction est d’extraire, de contrôler et de rendre productifs les données. Un « mirage compétitif », comme l’évoquaient Maurice Stucke et Ariel Ezrachi dans leur livre, qui tend à devenir de plus en plus monopolistique.

Le capitalisme s’est restructuré autour du numérique, réservoir de nouveaux concepts, d’innovations réelles ou à venir, reposant sur l’extraction des données. Les données sont devenues la matière première à extraire et les activités des usagers, leur source naturelle. Elles sont désormais au coeur du système capitaliste : « elles nourrissent les algorithmes et donnent [aux entreprises] des avantages concurrentiels, elles coordonnent la main d’oeuvre et permettent souvent de l’externaliser, elles optimisent et flexibilisent les processus de production, elles transforment des produits peu rentables en services hautement profitables et, après leur analyse, elles donnent accès à toujours plus de données – dans une sorte de cercle vertueux. »

Le débat entre les pessimistes, qui craignent pour l’environnement, et les optimistes, tenants du business as usual, ne porte donc pas sur la nécessité d’agir – personne n’est vraiment pour la disparition des éléphants ou la contamination des nappes phréatiques aux pesticides –, mais sur la gravité du problème, l’intensité et la vitesse avec laquelle il faudrait réagir, la possibilité de changer modes de production et habitudes de consommation, la manière (régulation, taxes, incitations, soutien public…) et les moyens (financiers, techniques) de mener la transition.

De fait, les solutions techniques sont présumées disponibles et abordables, sinon à portée de main, que ce soit pour les énergies « décarbonées », les solutions de mobilité du futur ou la capacité des rendements agricoles à toujours s’accroître – ou à se maintenir. Les plus audacieux, comme Jeremy Rifkin, vont jusqu’à promettre de telles « ruptures » technologiques – un vocable à la mode – que tout ou presque en deviendrait gratuit ou à « coût marginal zéro », à commencer par l’énergie issue de sources renouvelables2.

La pénurie a bien été un aiguillon essentiel, à l’origine d’une grande partie des innovations de la révolution industrielle, car la croissance permanente de la consommation allait bientôt dépasser les capacités de ponction sur les ressources renouvelables, locales ou importées. Jusque tard dans le xixe siècle, il y eut une limite purement « surfacique » à la production de produits essentiellement animaux et végétaux 

Comment la communauté Data For Good utilise-t-elle les algorithmes ? Qu’est-ce qui vous différencie des grandes entreprises tech ? Avec Data For Good, on veut permettre aux associations, aux projets citoyens et aux institutions d’avoir accès à la data science, qui est utilisée uniquement par les grandes entreprises comme les GAFA et les start-up pour l’instant, car c’est un service qui coûte très cher. Notre communauté bénévole soutient certains projets comme celui de l’association Frateli, qui travaille sur du mentorat. On leur a créé une plateforme de matching, avec des algorithmes, pour matcher en un clic un mentor avec un mentoré, alors qu’avant tout était fait à la main sur un tableur Excel. L’humain garde la décision finale, il peut changer les résultats donnés par l’algorithme, mais cela reste beaucoup plus rapide.

Notre but n’est pas de récolter des données, on ne fait pas des algorithmes qui utilisent les données des utilisateurs pour faire de la publicité. De plus, les codes sources produits par Data For Good sont tous en open source, donc si une autre association veut les utiliser, elle peut le faire gratuitement et librement. Les GAFA ouvrent certains de leurs codes sources, mais c’est avant tout pour attirer des développeurs, et ils n’ouvrent que des bribes de leurs codes. Et ils savent très bien que sans les données qu’ils possèdent, ces extraits de codes ne servent à rien.

Vous travaillez aussi chez AlgoTransparency, une plateforme qui cherche à décrypter les mécanismes de l’algorithme de YouTube : avez-vous réussi à savoir comment était construit cet algorithme, qui est un secret bien gardé par YouTube ? Sur YouTube, on est enfermé dans une spirale de recommandations qui ne montre pas forcément le meilleur de l’humanité... Sur AlgoTransparency, on a mis en place un robot qui est capable de mesurer quelle vidéo est recommandée, à partir de quelle vidéo. On a donc des données sur ces vidéos, mais comprendre comment fonctionne l’algorithme est très compliqué car celui-ci est très complexe, et il évolue en permanence car il est ré-entraîné tous les jours. Nous, on a décidé d’étudier nos données, en rentrant des mots clés, et de voir ce qu’il en sort.

Cette  monnaie numérique est le dernier étage de la fusée pour l'entreprise américaine. Facebook est déjà un géant médiatique et social d'une puissance inédite, avec plus de 2,4 milliards d'utilisateurs sur sa plateforme. Le fait de créer sa propre monnaie la positionne comme une puissante étatique.A l'échelle de l'humanité, aucune banque ni même un Etat n'a, une fois, été en mesure de proposer une monnaie à plus de 2 milliards d'individus. Le sentiment est, lui, mitigé, car il existe un risque évident en termes d'ingérence envers les activités originellement dévolues à l'Etat et de nombreuses questions relatives à la vie privée. Même si Facebook  promet comme d'habitude de forts standards de confidentialité .

Facebook a toujours dit que son prochain milliard d'utilisateurs se trouvait sur les marchés émergents, c'est-à-dire en Amérique du Sud, en Afrique, mais aussi en Inde (la Chine et la Russie n'étant pas accessibles, politiquement parlant). Avec cette monnaie numérique, Facebook vise avant tout à fournir des accès bancaires en ligne aux habitants des pays en développement et leur permettre d'effectuer des opérations monétaires élémentaires.

Aucune entreprise n'a jamais possédé un tel pouvoir, étant en mesure de toucher autant de gens quotidiennement et en possédant autant de données individualisées sur eux. Le faire en 15 ans, c'est totalement inédit.Les enjeux de la création d'une monnaie sont énormes, tant en matière de confidentialité, que de commerce et de libre concurrence. Or, Facebook, on l'a vu avec la gestion des discours de haine et de la  désinformation sur sa plateforme , s'est montré incapable de faire sa propre régulation. Celle-ci doit être prise en charge notamment par l'Etat.

D'autres principes s'adressent à tous, comme posséder le moins d’objets connectés possible. Cesser de noter autrui, aussi, permettrait d'éviter de basculer vers le système de « crédit social » chinois. Même si cela semble ludique ou que l'on pense bien faire en notant son prochain sur Uber ou Airbnb, ce sont les prémisses d'une société à la chinoise. Si on n'y prend pas garde, on y va tout droit.

J’ai cherché un mot permettant de refléter la façon dont j’avais envie de vivre, entre la mise à distance des objets connectés et le désir de vivre dans mon époque. Je me suis intéressée à l'équipément et aux usages, en listant 7 principes. Certains concernent la jeunesse, comme « ne pas fournir de téléphone portable avant 15 ans ».

Le minimalisme matériel concerne aussi les logiciels, donc il faut alléger son téléphone. On peut « libérer » son portable et son ordinateur en optant pour des logiciels libres qui respectent davantage la vie privée. Mais le libre peut prendre du temps et nous river de nouveau aux écrans, c’est toute son ambiguïté.

Nous sommes en voie de babélisation : Facebook est une tour de Babel, Google en est une autre. La Chine est à ce jour le seul « État plateforme » complet, avec l'imbrication du politique coercitif et du numérique via ces autres silos que sont les BATX (Baidu, Alibaba, Tencent, Xiaomi). Les choix technologiques asymétriques qui ont été faits ne pouvaient que conduire à l'émergence de ces silos. Et dans ces silos, nous passons notre temps à émettre des signaux pour gagner de l'attention. Mais on peut échapper au darwinisme numérique, qui amène les IA à nous remplacer progressivement pour toutes sortes de tâches, des plus fastidieuses aux plus artistiques, comme nous le vantent ceux qui en ont la maitrise, à savoir les gourous de la Silicon Valley. Les opérateurs télécom sont devenus les prolétaires du web alors qu'ils en étaient les maîtres.

Existe-t-il une lueur d'espoir, quand même, dans votre vision du futur d'Internet ? Oui, car les protocoles symétriques d'origine, comme la norme IPV6, sont toujours là. Et ça permet la distribution par chacun d'entre nous, au lieu de la confier à ces silos géants, dont le modèle économique repose sur les données que nous leur offrons gratuitement en échange de notre capacité à émettre ces signaux d'attention dont je parlais plus tô. Le péché originel, ce sont les protocoles asymétriques qui nous ont privé de notre singularité. Mais on peut encore croire à un âge de raison des réseaux. Il faudra peut-être 2, 3 ou 4 générations, et ça passera peut-être par des contractions violentes, mais c'est encore possible. C'est nous qui devons agir ! Les États n'agiront pas car agir serait contraire aux intérêts de la surveillance. Et les plateformes n'agiront pas non plus, car ce serait contraire aux intérêts de leurs actionnaires. Nous devons tous aspirer à l'émergence de cet être en réseau, qu'on ne peut décrire mais qui est là, et que la sonde poéitique permet de deviner par moments. Ce sera une révolution copernicienne.

Quand Mark Zuckerberg poste une photo de son chien, qui s'appelle Beast, des centaines de milliers de personnes s'intéressent à ce chien, qui n'aurait aucun intérêt si ce n'était pas celui du patron de Facebook. Elle est là, l'asymétrie de l'attention. C'est un changement de perspective dont on a besoin. Et justement, avant Filippo Brunelleschi, vers 1420, il n'y avait pas de perspective dans les tableaux, tout était à plat. Grâce à son bricolage avec un cadre et un miroir, il a donné à voir le monde via les tableaux (qui sont les ancêtres de nos écrans) avec la perspective optique, qui n'existait pas avant lui.