Group items tagged

Pire, la technologie s’est fait la complice de tous les défis auxquels nous sommes confrontés : à la fois d’un système économique hors de contrôle qui ne cesse d’élargir les inégalités, la polarisation politique comme le réchauffement climatique. Pour Bridle, la technologie n’est pas la solution à ces défis, elle est devenue le problème. Il nous faut la comprendre plus que jamais, dans sa complexité, ses interconnexions et ses interactions : mais cette compréhension fonctionnelle ne suffit pas, il faut en saisir le contexte, les conséquences, les limites, le langage et le métalangage.

Trop souvent, on nous propose de résoudre ce manque de compréhension de la technologie par un peu plus d’éducation ou son corollaire, par la formation d’un peu plus de programmeurs. Mais ces deux solutions se limitent bien souvent en une compréhension procédurale des systèmes. Et cette compréhension procédurale vise surtout à renforcer la « pensée computationnelle », c’est-à-dire la pensée des ingénieurs et des informaticiens qui n’est rien d’autre que le métalangage du solutionnisme technologique 

Les systèmes techniques sont devenus de plus en plus complexes. Trop critiques et interconnectés pour être compris, pensés ou conçus. Leur compréhension n’est disponible plus que pour quelques-uns et le problème est que ces quelques-uns sont les mêmes que ceux qui sont au sommet des structures de pouvoir. Pour James Bridle, il y a une relation causale entre la complexité des systèmes, leur opacité, et les violences et inégalités qu’ils propagent.

Délégation de la censure aux géants du Web D’un point de vue technique, économique et humain, seule une poignée d’acteurs – les géants du Web – pourront respecter des obligations aussi strictes. Les autres acteurs (commerciaux ou non) n’auront d’autre choix que de cesser leurs activités ou de se soumettre aux outils de modération (filtrage automatique et listes de blocage) développés par Facebook et Google depuis 2015 avec le soutien de la Commission européenne. Ces multinationales deviendront donc les juges de ce qui peut être dit sur Internet. La structure riche, variée et décentralisée du Web est vouée à disparaître.

Une loi inutile Ce règlement « anti-terroriste » ne permettra même pas d’atteindre son objectif affiché : empêcher que DAESH ou Al Qaeda diffusent leur propagande auprès des personnes déjà séduites par leurs discours. Il semble absurde de devoir encore le répéter : sur Internet, n’importe quelle loi de blocage peut être contournée par les personnes qui souhaitent accéder aux informations censurées. Les seuls effets de cette loi seront ses dommages collatéraux : le grand public n’aura certes plus à subir les contenus terroristes, mais il n’aura plus connaissance non plus des informations censurées abusivement.

« A la suite du jugement de la Cour d'appel de Paris, il y a nécessité que le législateur s'empare rapidement du sujet et définisse un nouveau régime juridique précisant les liens entre les travailleurs et les plates-formes », explique-t-on dans l'entourage de la ministre du Travail, Muriel Pénicaud. Ses services souhaitent aller vite pour intégrer ce nouveau régime dans la future loi LOM. Le report de son examen pour cause de grand débat national tombe bien.

Conséquence : si une plate-forme adopte une charte, elle ne pourra pas faire son marché dans les sujets énumérés par la loi. Elle devra tous les traiter, y compris « les règles garantissant le caractère non-exclusif de la relation entre les travailleurs et la plate-forme et la liberté pour les travailleurs d'avoir recours à la plate-forme » ou encore « les modalités visant à permettre aux travailleurs d'obtenir un prix décent pour leur prestation de service ».

En outre, le Conseil d'Etat alerte sur l'obligation de respecter le préambule de la Constitution de 1946, qui impose de faire bénéficier d'une participation aux bénéfices de l'entreprise « tous ceux qui sont intégrés de façon étroite et permanente à la communauté de travail qu'elle constitue, même s'ils ne sont pas salariés ».

Pour faire court, CHATONS serait un peu aux services libres ce que la Fédération FDN est aux fournisseurs d’accès internet libres : un moyen de rassembler, de mutualiser, de décentraliser, de donner de la visibilité, de fédérer autour de valeurs communes, de faciliter l’essaimage, mais sans pour autant centraliser, rigidifier, contrôler ces structures.

Framasoft ne couvre pas l’ensemble des besoins, et ne propose aucune garantie de disponibilités dans ses Conditions Générales d’Utilisation. Il serait donc utile de répartir la charge et les services sur différentes organisations, non seulement pour éviter les silos de données, mais aussi pour s’assurer de ne laisser aucun utilisateur dans l’impasse. L’un des objectifs serait de mettre en réseau les différentes organisations volontaires, afin qu’elles puissent proposer des services complémentaires (voir redondants) aux utilisateurs.

Pas encore, mais il est certain qu’Internet, tel que nous le connaissons, est en train de changer. Et pas forcément dans le bon sens. Les attaques contre la neutralité du net se multiplient (malgré quelques victoires). Google et Apple sont aujourd’hui les deux plus grosses capitalisation boursières mondiales, tous secteurs confondus. La valeur de leurs actions équivaut aux PIB d’États « riches » comme l’Argentine, la Belgique ou la Suède. La trésorerie des GAFAM leur permettent de faire un lobbying à une échelle jamais connue auparavant, leur assurant à terme d’avoir des lois, des réglementations, qui joueront en leur faveur. Cette puissance financière leur permet de racheter n’importe quelle start-up de la planète, leur confiant la maîtrise des innovations. La loi de Moore permet d’envisager des collectes, agrégation et analyse de données toujours plus importantes. L’internet des objets va accélérer ce mouvement et lui donner une ampleur nouvelle en « sortant » les pratiques de surveillance des périphériques habituels. Ces pratiques de surveillance sont adossées à des lois publiées en procédure accélérée, sans recul sur leur efficacité.

Déjà, un logiciel n'est pas un produit Ensuite, l'économie du logiciel libre est une économie de services. En effet, gagner de l'argent en rendant des services informatiques basés sur du logiciel libre, c'est possible et c'est d'ailleurs vivement encouragé par la Fondation pour le Logiciel Libre (FSF). À ceux qui se demandent ce que sont les services informatiques : on peut les classer en trois branches : L'installation de logiciels libres et la maintenance des ordinateurs tournant sous logiciels libres. La formation aux logiciels libres (ainsi que le conseil). L'intégration. C'est-à-dire le développement sur commande de fonctions nouvelles, voire de logiciels libres complets, autour des logiciels libres existants. Et ces trois façons de gagner honnêtement de l'argent dans l'informatique s'ajoutent à la vente de matériel (qui est une véritable économie de biens).

Chacun reconnaît également qu'il serait malhonnête de gagner de l'argent : en cuisinant des recettes non-libres sur lesquelles il est rendu impossible, par des voies tant légales que techniques, d'effectuer une analyse indépendante, entre autres graves dysfonctionnements pourtant courants en informatique, en revendant des droits d'utilisation d'articles de loi non-libre, ou en revendant des droits à soigner. Cela constituerait de véritables arnaques envers la société toute entière ! 2 Cela conduirait à des oligopoles, étouffant la concurrence et l'innovation, et abusant des consommateurs, comme on le constate dans l'informatique privatrice. La restauration non-libre, la loi non-libre, la médecine non-libre, ça ne marche pas !

D'abord, plus personne ne devrait s'étonner qu'un informaticien gagne de l'argent dans le logiciel libre : il le fait simplement de la même manière qu'un cuisinier, qu'un juriste ou qu'un médecin : en rendant des services. (Et il peut aussi vendre du matériel.) Mais ensuite, la question à se poser ne doit plus être « Comment gagne-t-on de l'argent avec des logiciels libres ? » mais plutôt « Comment peux-t-on laisser des gens gagner de l'argent avec des logiciels non-libres ? » Car si la société libre ne peut pas tolérer la cuisine non-libre, le droit non-libre, ou la médecine non-libre ; la société libre ne peut pas non plus tolérer le logiciel privateur.

Plutôt que de créer un cadre juridique plus clair et plus juste pour ces travailleurs – qui ont, pour la plupart, le statut de micro-entrepreneurs –, cette idée avance sans le dire vers la reconnaissance du statut d’indépendant. Statut qui, rappelons-le, profite en premier lieu aux plateformes, en ce qu’il les libère des charges et obligations (cotisations sociales et autres) liées au travail salarié.

En effet, le principe de l’adoption d’une charte inscrit la relation qui lie les travailleurs à leur(s) plate(s)-forme(s) en droit commercial, et non en droit du travail. Cela aurait pour effet de laisser les plateformes décider seules des conditions de travail et de rémunération, ainsi que de la protection sociale de ces travailleurs.

Les chartes prévues, unilatérales, ne contiennent pas de socle minimum de protection. Souhaite-t-on, aujourd’hui en France, déléguer à des entreprises britanniques (Deliveroo) ou américaines (Uber) le soin de déterminer de quelle protection sociale doivent bénéficier des travailleurs français ? Souhaite-t-on créer une société à trois vitesses, constituée de salariés, d’indépendants et de travailleurs au statut hybride, dont les conditions sont ensuite décidées par les juges au cas par cas, aboutissant de facto à la création d’un nouveau précariat ?

"Pour inciter à manipuler l'attention, il s'agit avant tout de s'attaquer aux éléments les plus faibles de la psychologie humaine. Il ne suffit plus de savoir beaucoup de choses sur nous. L'objectif est maintenant de changer ce que nous pensons et ce que nous faisons."

Jim Steyer a ajouté: "À mon avis, la comparaison avec les cigarettes était impressionnante parce que tout le monde la comprend... Il faut une conversation mondiale à ce sujet et une réglementation sensée des entreprises du secteur de la technologie".

Le PDG de Common Sense Media a participé à l'élaboration de nouvelles lois sur la protection de la vie privée en Californie et était à Bruxelles la semaine dernière pour discuter avec les législateurs de la loi européenne sur la protection de la vie privée, du RGPD, ainsi que d'autres réglementations relatives aux technologies.

Facebook fait mine de prendre conscience du problème de viralité lié à la plateforme en promettant aussi de « renforcer ses intelligences artificielles », encore une fois… Comme si, précisément, la « solution magique » de ses filtres automatisés ne venait pas d’être définitivement décrédibilisée, il y a deux mois, par une poignée d’internautes complices du tueur de Christchurch parvenant à les contourner pendant des jours, manifestement sans grand soucis. D’après Facebook, la première journée, 300 000 copies seraient passé au travers de ses filtres automatisés, n’étant traitées que pas son armée de modérateurs sous-payées et exposés aux pires conditions de travail.

Surtout, Facebook sait très bien que sa plateforme ne peut pas être corrigée, à moins de renoncer à son modèle économique, tout comme Google ou Twitter, véritable cœur du problème. La raison d’être de ces plateformes est de réunir le plus de personnes possibles en un seul endroit, pour les surveiller et leur proposer la publicité qui les influencera le plus.

Il est techniquement et humainement impossible de modérer d’aussi grosses plateformes pour éviter qu’elles ne deviennent des outils de harcèlement, de haine et de mort. Pire, pour maintenir tous nos cerveaux disponibles, leurs « intelligences artificielles » (qui ne se montrent efficaces qu’ici) entretiennent autant que possible la culture du buzz et, par là, le conflit, la caricature, la peur – tout ce qu’il faut pour éviter l’entraide et la cohésion. C’est le prix à payer pour capter plusieurs milliards de cerveaux en même temps, et ils ne renonceront jamais à nous le faire payer (c’est pourquoi nous luttons pour le développement d’un Web décentralisé et à taille humaine).

Nous, défenseurs d’un Internet neutre, libre et ouvert, appelons le législateur à agir pour que les grandes plateformes deviennent interopérables avec les autres services Internet. L’interopérabilité garantit à tout le monde de ne pas se trouver captif d’une plateforme : de pouvoir librement la quitter, sans perdre ses liens sociaux, et de continuer à communiquer avec ses contacts. L’interopérabilité permet à quiconque de lire depuis un service A les contenus diffusés par ses contacts sur un service B, et d’y répondre comme s’il y était. L’interopérabilité est garantie lorsqu’elle repose sur des standards ouverts.

Des services comme Facebook, Twitter et Youtube tiennent leur pouvoir du nombre élevé d’utilisateurs et d’utilisatrices qu’ils ont rendu captives : ce grand nombre incite d’autres personnes à rejoindre leur service, et leur captivité permet de leur imposer une surveillance constante à des fins publicitaires. Aujourd’hui, nombreux sont celles et ceux qui souhaiteraient y échapper mais sont contraints d’y rester sous peine de perdre le contact avec leurs relations. Pourtant, en dehors de ces plateformes, des services interopérables réunissent déjà des millions de personnes (Mastodon, Diaspora, PeerTube…), notamment via le protocole d’interopérabilité ActivityPub publié par le W3C en 2018. Ces réseaux décentralisés, basés sur des logiciels libres, sont co-hébergés par une multitude d’acteurs distribuant largement les coûts entre eux, ce qui contribue à l’émergence de modèles économiques bien plus respectueux des libertés que celui de la publicité ciblée.

Migrer vers ces services permettrait aussi d’échapper à l’environnement toxique entretenu sur Facebook, Youtube ou Twitter. Ces géants favorisent la diffusion des contenus qui maintiennent au mieux notre attention, souvent les plus anxiogènes ou caricaturaux. À l’opposé de la voie prise par les récentes lois de censure, il ne faut pas espérer que ces plateformes freinent la diffusion de propos haineux, trompeurs ou dangereux, car leur modèle économique, au contraire, renforce cette diffusion. Il est urgent de permettre à toute personne d’échapper à la surveillance et à la toxicité de ces grandes plateformes en rejoignant des services libres, décentralisés et à taille humaine sans conséquences nocives sur ses liens sociaux. La loi doit imposer cette interopérabilité.

L’entrée en vigueur du RGPD a clairement été l’événement marquant de 2018 et beaucoup d’intervenants s’y sont référés. Le principe d’équité y est affirmé. Or il s’agit d’un principe qui recouvre une dimension collective : l’équité suppose un groupe, contrairement aux autres principes (transparence, légalité, limitation de but, rétention, intégrité et confidentialité, minimisation des données, précision). Toutefois le texte ne donne pas de définition de l’équité dans le contexte de la gestion des données personnelles a fait remarquer Jussi Leppälä, Privacy Officer (Global) chez Valmet. Finalement, les intervenants s’accordaient à dire que le RGPD est un texte axé sur les besoins individuels plutôt que collectifs. Il protège l’individu, mais ne porte pas de vision véritablement collective des données personnelles.

Sur cette question de l’équité, l’exemple d’openSCHUFA donné par Walter Palmetshofer (Open Knowledge Allemagne) est inspirant : une campagne de collecte de données a été faite auprès de milliers d’individus pour comprendre l’algorithme de credit-scoring (pointage de crédit) de SCHUFA, bureau de crédit privé allemand. Cela a permis à des individus de pouvoir demander, preuves à l’appui, à corriger des décisions prises par l’algorithme. De manière générale, le biais algorithmique est un enjeu sociétal important, surtout pour les groupes les plus fragiles dont les données personnelles sont plus exposées et davantage victimes de biais algorithmiques (à ce sujet, lire Internet Actu).

D’autres intervenants ont insisté sur la nécessité d’accompagner les entreprises vers plus de prises en compte de leur responsabilité sociale. Le modèle de gouvernance qui domine actuellement étant l’hégémonie d’acteurs économiques (GAFA, BATX) raconte Bruno Carballa Smichowski, de Chronos, le rééquilibrage des pouvoirs doit venir des Etats. Ces derniers disposent de données personnelles, mais peuvent également demander des comptes et pousser les acteurs qui utilisent les données à être plus ouverts et actifs : littératie, infrastructure, open innovation, construire la confiance et faire reculer la peur, ou encore impliquer les personnes concernées (Hetan Shah et Jeni Tennison), sont autant d’actions que les pouvoirs publics peuvent mettre en place.

"Il ne faut pas édulcorer les conséquences: c'est de la surveillance." Fort de cette attaque en règle, Tim Cook a salué les efforts politiques menés en Europe avec la mise en application du RGPD (Règlement général sur la protection des données) cette année et les questions posées par le régulateur aux géants de la tech. 

Il a aussi affirmé que "chez Apple, nous soutenons pleinement une loi fédérale exhaustive sur la vie privée aux Etats-Unis" et dit considérer le droit à la vie privée comme un "droit humain fondamental". Tim Cook a défendu quatre principes sur lesquels il repose: 1) le droit de minimiser les données personnelles — limitant le droit des entreprises à collecter ces données; 2) le droit à la transparence — pour qu'un internaute sache ce qui est collecté sur lui et à quelles fins; 3) un droit d'accès — pour que les utilisateurs puissent accéder, modifier ou supprimer leurs données; 4) le droit à la sécurité, fondement de la confiance. 

En revanche, il ne s'est pas exprimé à Bruxelles sur la question de la fiscalité des acteurs du numérique, alors que le ministre français de l'économie Bruno Le Maire s'efforce de rallier ses pairs européens à un consensus sur l'épineuse question et que la Commissaire européenne à la concurrence Margrethe Vestager a sanctionné Apple pour ses acrobaties fiscales avec l'Irlande en 2016. 

Pour compenser cette « règle » qui rendrait la haine et le conflit rentables, le gouvernement veut renforcer les obligations imposées aux plateformes géantes qui en profitent : transparence et devoir de vigilance accrus. Pourquoi pas (cela peut être fait de façon plus ou moins pertinente, nous y reviendrons plus tard). Mais cette solution ne suffira jamais à contrer à elle seule les dérives permises par la « rentabilité du conflit ». Et il est illusoire d’imaginer, comme le fait le rapport cité ci-dessus, qu’on pourrait atténuer ce problème en mettant un juge derrière chaque diffamation ou injure prononcée sur Internet. Il y en a bien trop. Non, si on veut traiter le problème sérieusement, c’est l’ensemble de l’économie de l’attention qu’il faut remettre en question. Et cela doit passer par l’émergence d’alternatives saines qui reposent sur un autre modèle que celui des GAFAM.

En pratique, à La Quadrature du Net, nous avons songé à devenir un hébergeur de vidéos (en autorisant tout le monde à mettre en ligne des vidéos sur notre service de streaming Peertube). Ce serait une façon concrète de participer à la construction d’une alternative à Youtube, qui ne tirerait aucun profit des discours conflictuels ou de la surveillance de masse. Mais nous avons dû y renoncer. Nous n’avons pas du tout assez de juristes pour évaluer quelles vidéos seraient « manifestement illicites ». Nous n’avons pas les moyens de supporter des amendes en cas de plaintes. Youtube reste maître.

Si le gouvernement veut effectivement lutter contre la diffusion de « contenus haineux et extrêmes », il doit changer le droit pour favoriser le développement d’alternatives à l’économie de l’attention. Voici notre proposition. Premièrement, que les hébergeurs ne soient plus soumis aux mêmes obligations que les plateformes géantes, qui régulent les informations de façon active pour leurs intérêts économiques. Secondement, que les hébergeurs neutres, qui ne tirent aucun profit en mettant en avant de tel ou tel contenu, ne supportent plus la charge d’évaluer si un contenu est « manifestement illicite » et doit être censuré. Seul un juge doit pouvoir leur exiger de censurer un contenu.

Devant la cour d’appel, son contrat, dénommé « contrat de prestations de services », a été passé au peigne fin. Il en est ressorti que, si le livreur pouvait choisir ses plages horaires (« shifts ») pour effectuer des livraisons, il ne pouvait, sans pénalité, se désengager moins de 72 heures avant leur commencement. Qui plus est, la société Take eat easy se réservait le pouvoir de résiliation du contrat dans certains cas. Aussi, la société avait-elle édicté un « petit guide du coursier », instaurant un système de bonus-malus, les malus étant plus couramment appelés strike. 3 strikes en 1 mois conduisait à une convocation à un entretien avec la société sur les motivations du coursier et 4 strikes à la rupture des relations contractuelles. A la suite du rejet de ses prétentions par le conseil de prud’hommes de Paris, le livreur a interjeté appel. Par une décision du 20 avril 2017, la cour d’appel de Paris a refusé de reconnaître l’existence d’un contrat de travail. Selon les juges du fond, bien que le système de bonus/malus mis en place évoque un pouvoir de sanction, les pénalités sanctionnent des manquements à des obligations contractuelles, ce qui ne caractérise pas un pouvoir de sanction de type salarial. De plus, la cour relève que ces stipulations ne remettent pas en cause la liberté du coursier de choisir ses horaires, le moment de ses congés, tout comme sa durée de travail. Les juges du fond en déduisent que la société Take eat easy « ne détermine pas unilatéralement les conditions d’exécution du travail ».

La cour relève également que le livreur n’est lié par aucune clause d’exclusivité. Régisseur dans un petit théâtre parisien, celui-ci exerce même une seconde activité professionnelle. Aux yeux des juges d’appel, « cette liberté totale de travailler ou non (…) est exclusive d’une relation salariale ».

Dans sa décision très attendue, la Haute juridiction contredit la solution retenue en appel. La Cour de cassation considère que le livreur était bien lié à la plateforme par un contrat de travail. A cette fin, elle applique les principes classiques en matière de reconnaissance de la qualité de salarié.

L'affaire montre qu'il ne faut jamais sous-estimer les questions de procédure car ce sont elles qui garantissent l'effectivité des droits et libertés. Si le tribunal administratif accueillait le moyen développé par le ministre de l'intérieur, il supprimerait de facto l'Open Data par défaut, repassant subrepticement, au mépris de la loi Lemaire, de la logique de l'offre à celle de la demande. La libre communication des données publiques sera-t-elle tuée par des services cherchent à se soustraire au devoir de transparence par un grignotage procédural efficace et discret ? Reste à savoir si la juridiction administrative sera ou non complice de ce mauvais coup.