Group items tagged

Aux côtés de 173 personnes inconnues, il répond méthodiquement à la haine à l'œuvre dans les commentaires d'articles. Avec ses camarades, il se coordonne dans un groupe Facebook, secret et fermé, dont le nom reprend ironiquement un sigle policier. Il réunit femmes et hommes de 20 à 55 ans, «beaucoup de travailleurs sociaux», suppose Simon, même s'il n’en connaît personnellement que très peu. Depuis 2016, le groupe veille sur les posts Facebook des journaux normands pour faire en sorte que les commentaires les plus «likés», et donc ceux qui remontent tout en haut de la section, ne soient pas systématiquement les plus haineux.

Une trentaine de membres sont réellement actifs et actives, dont une dizaine qui réalise une veille sur les sujets connus pour être des «attrape-haine»: immigration, sexisme, protection sociale, etc. Dans un Google Doc, des argumentaires, chiffres-clés et articles sont prêts à être copiés-collés pour gagner un peu de temps au moment de rédiger son commentaire.

Face aux discours de haine en ligne, une majorité de personnes reste silencieuse, par manque de temps ou tout simplement manque d’arguments. Pour pallier cela, le think tank Renaissance numérique a créé «Seriously» en 2015, une méthode pour accompagner les internautes afin d'apprendre à répondre à la haine et à dépassionner les débats. Créé à l'origine dans le but d’aider des associations comme SOS homophobie ou SOS Racisme sur les réseaux sociaux, le site a aujourd’hui une portée plus vaste.

De fait nous semblons aujourd'hui n'avoir que deux choix fondés sur deux doctrines s'excluant mutuellement : Doctrine n°1 : La vie privée est une anomalie et si vous n'avez rien à vous reprocher vous n'avez rien à cacher. Soit le scénario d'une surveillance totale et globale de chacun de nos comportements par les grandes firmes tech en lien avec les états. Un projet au mieux de nature totalitaire et au pire de nature fasciste. Doctrine n°2 : La vie privée est un droit constitutionnel dont les états et les grandes firmes technologiques doivent être garants. Et là vous aurez toujours quelqu'un pour commencer à parler des exceptions, toujours un "oui mais" : "oui mais s'il s'agit de pédophilie ? De terrorisme ? D'empêcher un pilote d'avion mentalement déséquilibré de causer la mort de centaines de personnes ? A quel moment commence le "principe d'une surveillance de précaution" et quel aspect du droit fondamental à la vie privée doit-il fouler au pied ?" Et on ne s'en sort pas. 

Seul un troisième scénario pourra nous permettre d'éviter le pire. Il nécessite de passer par : la multiplication d'outils effectivement respectueux de notre vie privée dans le traitement technique des données qui y circulent (c'est la cas de DuckDuck Go, de Qwant, et de quelques autres) le déploiement de solutions alternatives à la toute puissance des GAFAM (comme l'initiative Dégooglisons internet le permet déjà, et comme le permettrait encore davantage la création d'un index indépendant du web combiné à la mutualisation déjà effective de ressources en Creative Commons) le soutien politique (et législatif) au déploiement du logiciel libre la formation à l'explicitation des enjeux de la surveillance ("Surveillance://" de Tristan Nitot en est un exemple magnifique) la prise de conscience que les données dont nous parlons sont avant tout celles de notre servitude volontaire

Demain peut-être, lorsque la dystopie se sera définitivement installée, ne nous faudra-t-il plus parler de "sans papiers" mais de "sans comptes". Des individus sans trace sociale numérique qui permette de les documenter. Ils ne seront plus "undocumented" mais "undigitized", non-numérisés. Et donc non-surveillables. Peut-être que ce sera une chance. Probablement même. De nouvelles formes de résistance documentaire émergeront, de nouvelles pédagogies contre la surveillance seront nécessaires. Et nous serons sans  peur, mais jamais sans reproche(s), car nous aurons compris que la doctrine selon laquelle "si nous n'avons rien à nous reprocher nous n'avons rien à cacher" est la source de tous les totalitarismes, que la vie privée est tout sauf une anomalie. Alors oui nous serons sans peur, dussions-nous pour cela rejoindre la cohorte de toutes celles et ceux qui sont, aujourd'hui, sans documents. Car cette humanité "undocumented" est bien plus qu'une humanité "sans papiers", elle est une humanité "non-documentée", en ce sens elle est aussi libre qu'elle permet de pointer et de mesurer notre propre asservissement aux nouveaux ordres documentaires. 

"Ce qui n'est pas compliqué c'est de fermer, simplement et définitivement les comptes de celles et ceux qui participent à des "raids numériques" appelant au viol de telle ou telle journaliste ou déniant à une ancienne actrice porno le droit d'avoir un enfant. Ce qui n'est pas compliqué c'est de fermer définitivement les comptes de celles et ceux qui utilisent le mot "crouille" ou "bougnoule" ou "PD" ou "sale fiotte" à longueur de tweets. Ces mots là sont la caractérisation en droit d'insultes à caractère raciste ou homophobe. Et en France, le racisme et l'homophobie ne sont pas des opinions mais des délits.  Et inutile de crier au risque d'une censure arbitraire et laissée aux mains des plateformes : je ne parle pas ici de comptes qui pourraient occasionnellement évoquer une imagerie nazi comme ce fut le cas de nombreux d'entre nous ces derniers jours suite à la Une polémique du Magazine du Monde, comptes et contenus qui sont d'ailleurs tout à fait improprement et aléatoirement bloqués dès qu'ils osent évoquer le mot nazi. Je parle des comptes d'authentiques sexistes, homophobes, racistes, antisémites et autres admirateurs assumés du 3ème Reich ou des pires dérives et appel à la haine de l'extrême droite. Les grandes plateformes disposent de l'historique complet de publication de ces comptes là. Elles disposent de technologies d'analyse linguistique qui leur permettent d'identifier et de recouper ces occurrences de la haine ou de l'incitation à la haine assumée. Elles pourraient, si elles disposaient d'un minimum d'éthique, faire travailler des modérateurs humains disposant des codes culturels permettant de contextualiser correctement ces dérives plutôt que de continuer d'exploiter des travailleurs pauvres aux Philippines pour ce travail de modération.   

Etes-vous prêt à réellement lutter contre les discours de haine, contre l'homophobie, en ajoutant dans vos CGU que chaque insulte raciste ou homophobe occasionnera la fermeture définitive du compte qui les a proférées ? Etes-vous prêt à perdre ces "clients" là qui ne sont pas, pour vous, anonymes, et qui ne l'ont jamais été ?

Notre droit est déjà outillé pour pouvoir identifier et juger des internautes qui abusent de la liberté d’expression, même sous pseudonyme. L’anonymat n’existe pas depuis la LCEN de 2004, et l’article A-43-9 du Code de procédure pénale offre aux enquêteurs un vaste ensemble de possibilités pour identifier le titulaire d’une adresse IP à partir d’un tweet, d’un post Facebook, d’un commentaire sous un article de presse en ligne tel que Next INpact.

Mais en pratique, les victimes doivent remuer ciel et terre, le plus souvent avec l’assistance d’un avocat, pour parvenir à un jugement et une condamnation. S’il est indispensable de rappeler aux géants du numérique que tirer un profit de leur activité depuis le territoire national emporte des responsabilités comme celle de collaborer avec la Justice, toute mesure en ce sens restera de l’incantation sans effet si l’État ne donne pas lui aussi l’exemple en gagnant en efficacité. Depuis plusieurs décennies la France se complaît dans le bas de classement en matière de budget de la Justice par habitant. Selon les chiffres publiés par Bercy à l’occasion du Grand Débat, pour 100 euros de dépense publique, la justice, service régalien par essence, est reléguée au dernier rang et ne récolte que… 40 centimes, soit 0,4 %.

Trop souvent de nombreuses réquisitions omettent des éléments essentiels (comme le port source ou un horodatage fiable) pour orienter les plateformes et FAI sur l'identification des auteurs d'actes délictueux en ligne. Cet exemple est loin d’être anecdotique, car il explique le faible taux de retour aux réquisitions judiciaires adressées aux plateformes comme l’établissent leurs rapports de transparence : alors que le Royaume-Uni obtient 91 % de réponses positives, la France (qui part de très loin, car il y a peu c'était 30 %) doit se contenter de 69 %.

Facebook fait mine de prendre conscience du problème de viralité lié à la plateforme en promettant aussi de « renforcer ses intelligences artificielles », encore une fois… Comme si, précisément, la « solution magique » de ses filtres automatisés ne venait pas d’être définitivement décrédibilisée, il y a deux mois, par une poignée d’internautes complices du tueur de Christchurch parvenant à les contourner pendant des jours, manifestement sans grand soucis. D’après Facebook, la première journée, 300 000 copies seraient passé au travers de ses filtres automatisés, n’étant traitées que pas son armée de modérateurs sous-payées et exposés aux pires conditions de travail.

Surtout, Facebook sait très bien que sa plateforme ne peut pas être corrigée, à moins de renoncer à son modèle économique, tout comme Google ou Twitter, véritable cœur du problème. La raison d’être de ces plateformes est de réunir le plus de personnes possibles en un seul endroit, pour les surveiller et leur proposer la publicité qui les influencera le plus.

Il est techniquement et humainement impossible de modérer d’aussi grosses plateformes pour éviter qu’elles ne deviennent des outils de harcèlement, de haine et de mort. Pire, pour maintenir tous nos cerveaux disponibles, leurs « intelligences artificielles » (qui ne se montrent efficaces qu’ici) entretiennent autant que possible la culture du buzz et, par là, le conflit, la caricature, la peur – tout ce qu’il faut pour éviter l’entraide et la cohésion. C’est le prix à payer pour capter plusieurs milliards de cerveaux en même temps, et ils ne renonceront jamais à nous le faire payer (c’est pourquoi nous luttons pour le développement d’un Web décentralisé et à taille humaine).

Pour compenser cette « règle » qui rendrait la haine et le conflit rentables, le gouvernement veut renforcer les obligations imposées aux plateformes géantes qui en profitent : transparence et devoir de vigilance accrus. Pourquoi pas (cela peut être fait de façon plus ou moins pertinente, nous y reviendrons plus tard). Mais cette solution ne suffira jamais à contrer à elle seule les dérives permises par la « rentabilité du conflit ». Et il est illusoire d’imaginer, comme le fait le rapport cité ci-dessus, qu’on pourrait atténuer ce problème en mettant un juge derrière chaque diffamation ou injure prononcée sur Internet. Il y en a bien trop. Non, si on veut traiter le problème sérieusement, c’est l’ensemble de l’économie de l’attention qu’il faut remettre en question. Et cela doit passer par l’émergence d’alternatives saines qui reposent sur un autre modèle que celui des GAFAM.

En pratique, à La Quadrature du Net, nous avons songé à devenir un hébergeur de vidéos (en autorisant tout le monde à mettre en ligne des vidéos sur notre service de streaming Peertube). Ce serait une façon concrète de participer à la construction d’une alternative à Youtube, qui ne tirerait aucun profit des discours conflictuels ou de la surveillance de masse. Mais nous avons dû y renoncer. Nous n’avons pas du tout assez de juristes pour évaluer quelles vidéos seraient « manifestement illicites ». Nous n’avons pas les moyens de supporter des amendes en cas de plaintes. Youtube reste maître.

Si le gouvernement veut effectivement lutter contre la diffusion de « contenus haineux et extrêmes », il doit changer le droit pour favoriser le développement d’alternatives à l’économie de l’attention. Voici notre proposition. Premièrement, que les hébergeurs ne soient plus soumis aux mêmes obligations que les plateformes géantes, qui régulent les informations de façon active pour leurs intérêts économiques. Secondement, que les hébergeurs neutres, qui ne tirent aucun profit en mettant en avant de tel ou tel contenu, ne supportent plus la charge d’évaluer si un contenu est « manifestement illicite » et doit être censuré. Seul un juge doit pouvoir leur exiger de censurer un contenu.

Le scientifique a identifié trois problèmes principaux qui minent le web. D’abord, les appels à la haine, les trolls et les fausses informations qui se multiplient sur les réseaux. Ensuite, l’ensemble des actions de piratage, issues d’acteurs privés ou publics. Enfin, comme il l’écrit dans une tribune parue lundi soir, «une conception de système qui crée des incitations perverses dans lesquelles la valeur des utilisateurs est sacrifiée, comme des modèles de revenus basés sur la publicité qui récompensent commercialement les pièges à clics et la propagation virale de la désinformation».

A la tête de la Web Foundation, Tim Berners-Lee a présenté fin 2018 un «Contrat pour le web», sorte de charte des droits et devoirs des gouvernements, entreprises et particuliers. Mais pour le chercheur, qui n’appelle pas forcément à davantage de lois, ce document théorique ne suffit pas. Il faut agir sur les données. «Il y a la nécessité très forte, aujourd’hui, de séparer les applications des données, affirme-t-il. Ces programmes peuvent accéder et traiter vos photos, vos informations, vos contacts, etc., il n’y a pas de problème à cela. Mais vous devez avoir un contrôle permanent et total sur vos informations. C’est vous qui devez autoriser tel ou tel service à y accéder.»

Tim Berners-Lee a pour ce faire lancé sa propre entreprise, Inrupt, qui collabore avec le Massachusetts Institute of Technology (MIT). Le physicien développe actuellement le projet Solid, qui vise à stocker les données personnelles des internautes dans des serveurs cloud ou physiquement chez soi. Le particulier décide ensuite quel service (LinkedIn, Facebook, Flickr, etc.) a accès à quelles données. «Le concept est simple, mais il s’agit d’un renversement total par rapport à la logique actuelle, avance Tim Berners-Lee. Nous créons des logiciels en open source pour Solid et nous appelons tous les développeurs intéressés à nous rejoindre.» Le physicien n’avance pas de date pour le lancement de Solid, qui vise selon lui à revenir au web originel, lorsque beaucoup de personnes connectées avaient leur propre site web.

Dans ces lignes, tout est effectivement vrai : Le « produit Facebook » n’est pas son business model (Facebook est un service pour mettre en relation les particuliers entre eux et les particuliers avec des professionnels). Facebook ne vend pas vos données à des tiers (ce serait céder son trésor de guerre qui, du coup perdrait énormément de valeur). Facebook n’a pas d’intérêt à favoriser des contenus « appât à clic » sur sa plateforme (il n’est pas apprécié par ses utilisateurs et n’a qu’une durée de vie à court terme qui n’est pas rémunératrice) Facebook n’a pas intérêt à garder les contenus de haine sur sa plateforme (il n’est pas rémunéré, car les marques qui font de la pub ne s’y associent pas). Humains et algorithmes ont une tâche encore jamais vue dans l’histoire, pour modérer une quantité de données colossale et font encore des erreurs même s’ils cherchent à faire de leur mieux.

Par exemple, quand il est question de vendre des données pour la publicité, il est évident que Facebook ne les vend pas : il n’a aucun intérêt, en tant qu’entreprise, à faire sortir ce précieux trésor de son enclave. Si Facebook vendait vos données à une marque, pourquoi paierait-elle Facebook la fois d’après, pour vendre ses produits ? Et pourtant, une fois cette tournure exclue, on se rappelle que Facebook vend un droit d’utilisation de ces profils publicitaires ciblés. Ce qui, pour l’utilisateur, est exactement la même chose en termes d’expérience : il va être pressé par la publicité ciblée.

Oui, des données collectées par Facebook ont été sorties illégalement et utilisées illégalement — c’est toute l’affaire Cambridge Analytica. Oui, tout logiciel, même sur le web, contient des bugs, des failles de sécurité ou des problèmes de fonctionnement qui peuvent entraîner une perte de données — Facebook, comme Google, n’est pas épargné. La question est donc plutôt à reposer en ces termes : de quelles données a-t-on vraiment besoin pour faire tourner un business  ? Peut-on prendre le risque de collecter autant d’information, parce que l’on peut ? Et si Mark Zuckerberg semble croire que ce profilage permet un meilleur ciblage et une plus grande satisfaction des internautes, l’esprit du privacy by design qui semble prendre de l’ampleur dans le web dit tout au contraire qu’il n’y a aucun intérêt, ni économique ni pratique, à s’embarrasser de données inutiles.

Cette  monnaie numérique est le dernier étage de la fusée pour l'entreprise américaine. Facebook est déjà un géant médiatique et social d'une puissance inédite, avec plus de 2,4 milliards d'utilisateurs sur sa plateforme. Le fait de créer sa propre monnaie la positionne comme une puissante étatique.A l'échelle de l'humanité, aucune banque ni même un Etat n'a, une fois, été en mesure de proposer une monnaie à plus de 2 milliards d'individus. Le sentiment est, lui, mitigé, car il existe un risque évident en termes d'ingérence envers les activités originellement dévolues à l'Etat et de nombreuses questions relatives à la vie privée. Même si Facebook  promet comme d'habitude de forts standards de confidentialité .

Facebook a toujours dit que son prochain milliard d'utilisateurs se trouvait sur les marchés émergents, c'est-à-dire en Amérique du Sud, en Afrique, mais aussi en Inde (la Chine et la Russie n'étant pas accessibles, politiquement parlant). Avec cette monnaie numérique, Facebook vise avant tout à fournir des accès bancaires en ligne aux habitants des pays en développement et leur permettre d'effectuer des opérations monétaires élémentaires.

Aucune entreprise n'a jamais possédé un tel pouvoir, étant en mesure de toucher autant de gens quotidiennement et en possédant autant de données individualisées sur eux. Le faire en 15 ans, c'est totalement inédit.Les enjeux de la création d'une monnaie sont énormes, tant en matière de confidentialité, que de commerce et de libre concurrence. Or, Facebook, on l'a vu avec la gestion des discours de haine et de la  désinformation sur sa plateforme , s'est montré incapable de faire sa propre régulation. Celle-ci doit être prise en charge notamment par l'Etat.

Si les années 1990 constituent bien une sorte d’âge d’or de l’utopie numérique, l’expansion d’Internet va progressivement remettre en cause cette vision enchantée du cyberespace. Afin de financer le développement de l’infrastructure, l’administration scientifique en charge d’Internet décide, en 1993, d’ouvrir le réseau aux entreprises privées. Jusqu’alors soutenu par la puissance publique, il était considéré comme un outil de coordination scientifique dont les usages se devaient d’être strictement non lucratifs. Mais le développement de services commerciaux d’accès favorise la découverte du web par un plus large public.

La deuxième trahison tient à l’accroissement du contrôle des communications dans un espace numérique jusqu’ici marqué par le principe d’auto-régulation et de responsabilisation de chaque participant. Dans les années 1990, les premières « affaires du net » révèlent la face sombre du web : incitations à la haine, pédopornographie, piratage informatique, propagande, etc. Ces menaces favorisent un retour progressif des États, jusqu’alors remarquablement absents, pour réguler les échanges et protéger les droits sur Internet. Depuis les années 2000, les initiatives législatives se multiplient pour lutter contre le piratage, la prolifération de contenus haineux ou, plus récemment, la manipulation de l’information.

Retour du contrôle des communications, règne de la marchandisation et centralisation du web autour des grandes plateformes : ces transformations d’Internet sont dénoncées comme autant de coups portés au projet initial de « l’Internet libre », principalement de la part des Gafam. Pour autant, on aurait tort d’opposer schématiquement les défenseurs aux fossoyeurs de l’utopie numérique. Google s’est parfois trouvé aux côtés des militants du net pour défendre la libre circulation de l’information, la neutralité du net ou l’assouplissement de la propriété intellectuelle. Le projet « Google books » de numérisation de livres, par exemple, n’est pas sans rappeler celui de bibliothèque universelle formulé par les premiers concepteurs du réseau. On songe également aux prises de position très strictes d’Apple au sujet de la protection de la vie privée5. Ces affinités s’expliquent aussi par les racines culturelles de l’utopie numérique. Les fondateurs d’entreprises numériques, les développeurs qui y travaillent, sont bien souvent des utilisateurs pionniers et passionnés d’Internet. Pour certains, l’esprit de la Silicon Valley, loin de marquer une trahison de l’utopie numérique, en constitue l’expression la plus aboutie en tant que synthèse entre l’esprit de la contre-culture et l’enthousiasme technologique d’entrepreneurs innovants.