Group items matching

in title, tags, annotations or url

Devant la cour d’appel, son contrat, dénommé « contrat de prestations de services », a été passé au peigne fin. Il en est ressorti que, si le livreur pouvait choisir ses plages horaires (« shifts ») pour effectuer des livraisons, il ne pouvait, sans pénalité, se désengager moins de 72 heures avant leur commencement. Qui plus est, la société Take eat easy se réservait le pouvoir de résiliation du contrat dans certains cas. Aussi, la société avait-elle édicté un « petit guide du coursier », instaurant un système de bonus-malus, les malus étant plus couramment appelés strike. 3 strikes en 1 mois conduisait à une convocation à un entretien avec la société sur les motivations du coursier et 4 strikes à la rupture des relations contractuelles. A la suite du rejet de ses prétentions par le conseil de prud’hommes de Paris, le livreur a interjeté appel. Par une décision du 20 avril 2017, la cour d’appel de Paris a refusé de reconnaître l’existence d’un contrat de travail. Selon les juges du fond, bien que le système de bonus/malus mis en place évoque un pouvoir de sanction, les pénalités sanctionnent des manquements à des obligations contractuelles, ce qui ne caractérise pas un pouvoir de sanction de type salarial. De plus, la cour relève que ces stipulations ne remettent pas en cause la liberté du coursier de choisir ses horaires, le moment de ses congés, tout comme sa durée de travail. Les juges du fond en déduisent que la société Take eat easy « ne détermine pas unilatéralement les conditions d’exécution du travail ».

La cour relève également que le livreur n’est lié par aucune clause d’exclusivité. Régisseur dans un petit théâtre parisien, celui-ci exerce même une seconde activité professionnelle. Aux yeux des juges d’appel, « cette liberté totale de travailler ou non (…) est exclusive d’une relation salariale ».

Dans sa décision très attendue, la Haute juridiction contredit la solution retenue en appel. La Cour de cassation considère que le livreur était bien lié à la plateforme par un contrat de travail. A cette fin, elle applique les principes classiques en matière de reconnaissance de la qualité de salarié.

«Je ne me bats pas contre le statut d’autoentrepreneur, mais c’est un cheval de Troie. Il y a dans l’ubérisation une forme d’occupation idéologique et politique où l’on valorise surtout le pouvoir d’achat», analyse-t-il. Autre motif d’espoir : son collectif, le Clap, a rencontré d’autres associations de livreurs à Bruxelles en octobre. Avec pour but de porter collectivement leurs revendications sociales.

Le premier est de former des registres immuables et distribués, enrichis au fil de l’eau et de façon sécurisée, tout en restant facilement consultables par tous à tout moment. En matière de gestion des droits d’auteur, ou de simple référencement des oeuvres, c’est un fort atout, en rupture avec la logique de fichier centralisé qui prévaut aujourd’hui.

Le second est de permettre la création de « contrats intelligents », c’est-à-dire des transactions programmables, conditionnées à des événements futurs. Ce sont ces contrats qui sont à l’origine de toutes les ICO (« Initial Coin Offering »), permettant à quiconque d’acquérir un token avant qu’il ne soit créé. Transposé au domaine culturel, le principe d’associer flux financiers et conditions pré-programmées automatisables peut s’avérer puissant. Il devient par exemple facile de faire évoluer le prix d’un album musical en fonction de son succès, ou d’offrir aux 100 premiers acheteurs de cet album une remise sur un concert à venir.

Le troisième atout tient aux paiements proprement dits : toute blockchain publique (ou tout token) est aussi une crypto-monnaie, convertible en d’autres monnaies, et autorisant de façon efficace des transactions de montants très faibles (inférieurs au centime d’euro), ce que nulle autre solution ne permettait jusqu’alors.

Le texte ne vient en revanche pas trancher le conflit sur le fond, à savoir si Uber doit des rattrapages de rémunération aux chauffeurs et si les travailleurs affiliés à une plateforme sont des travailleurs indépendants ou doivent être considérés légalement comme des employés avec salaire et protection sociale afférents. L’accord prévoit aussi qu’Uber cesse notamment de désactiver le compte des chauffeurs les moins actifs ou crée une procédure d’appel pour les chauffeurs suspendus du service, selon le texte consulté mardi par l’AFP.

Sous l’impulsion de son successeur, Dara Khosrowshahi, le groupe s’attache à redorer son image et assainir ses finances dans le but de s’introduire en Bourse très prochainement. Plusieurs cas de travailleurs affiliés à une plateforme demandant leur reconnaissance comme salariés, se sont faits jour dans plusieurs pays, notamment en France. En novembre, la Cour de cassation a reconnu le lien de subordination entre la société de livraison de repas Take Eat Easy et l’un de ses coursiers à vélo, rebattant les cartes concernant la définition du salariat et le recours des plateformes de services à des indépendants. En janvier, la cour d’appel de Paris a estimé que le lien qui unissait un ancien chauffeur indépendant à Uber était bien un contrat de travail, une première concernant le géant américain en France. Ce dernier a depuis formé un pourvoi en cassation

Plutôt que de créer un cadre juridique plus clair et plus juste pour ces travailleurs – qui ont, pour la plupart, le statut de micro-entrepreneurs –, cette idée avance sans le dire vers la reconnaissance du statut d’indépendant. Statut qui, rappelons-le, profite en premier lieu aux plateformes, en ce qu’il les libère des charges et obligations (cotisations sociales et autres) liées au travail salarié.

En effet, le principe de l’adoption d’une charte inscrit la relation qui lie les travailleurs à leur(s) plate(s)-forme(s) en droit commercial, et non en droit du travail. Cela aurait pour effet de laisser les plateformes décider seules des conditions de travail et de rémunération, ainsi que de la protection sociale de ces travailleurs.

Les chartes prévues, unilatérales, ne contiennent pas de socle minimum de protection. Souhaite-t-on, aujourd’hui en France, déléguer à des entreprises britanniques (Deliveroo) ou américaines (Uber) le soin de déterminer de quelle protection sociale doivent bénéficier des travailleurs français ? Souhaite-t-on créer une société à trois vitesses, constituée de salariés, d’indépendants et de travailleurs au statut hybride, dont les conditions sont ensuite décidées par les juges au cas par cas, aboutissant de facto à la création d’un nouveau précariat ?

Ici, le statut d’entrepreneur salarié associé (ESA) réunis dans des coopératives d’emploi et d’activité (CAE) est une vraie solution. Mobicoop réfléchit activement au déploiement d’une CAE dédiée aux métiers de la mobilité. Celle-ci permettrait par exemple aux travailleurs des plateformes de mobilité (Uber, Deliveroo etc.) de garder le statut d’indépendant auquel ils sont attachés tout en bénéficiant de mécanismes de protection sociale et de représentation collective.

Les collectivités territoriales, en entrant dans leur gouvernance, peuvent les lier durablement aux territoires. Le problème n’est donc pas tant technique ou juridique que celui de la volonté des acteurs politiques et économiques à s’asseoir à une table commune pour construire les mécanismes collaboratifs d’un XXIème siècle... non ubérisé ! 

Il faut ensuite que les utilisateurs et les travailleurs des plateformes puissent être associés aux grandes décisions des plateformes auxquelles ils sont liés, de façon à avoir leur mot à dire sur les évolutions de celles-ci, qu’elles soient technique ou économique. Cela peut se faire si la plateforme adopte des statuts coopératifs qui permettent aux utilisateurs et aux travailleurs de devenir membres coopérateurs.

Dans cette zone où les usines et les commerces ont fermé les uns après les autres, et où la République ne met plus guère les pieds [1], le McDo constitue un petit poumon économique auquel les salariés ont su donner une forte dimension sociale. « J’étais un petit délinquant, et le directeur de l’époque m’a ouvert une porte qui m’a permis d’obtenir un emploi [2]. Je veux que cette porte reste ouverte derrière moi, pour les jeunes qui arrivent », explique Kamel. Combien de jeunes du quartier ont connu leur première expérience professionnelle dans ce restaurant, qui a ouvert ses portes en 1992 ? Combien ont pu suivre une formation après y avoir travaillé, pour devenir plombier, électricien, ambulancier ? Combien, aussi, ont pu aller y bosser en accord avec un juge d’application des peines ? Combien ont pu passer leur permis de conduire après y avoir trouvé un job d’été ? Plusieurs centaines, c’est certain. Plus d’un millier, probablement.

Investi au sein de l’association « Syndicat des quartiers populaires de Marseille », Salim Grabsi confirme le rôle crucial que joue ici le McDo : « Il est implanté au cœur de différents quartiers qui ont pour point commun de souffrir d’une déficience des pouvoirs publics. Tous ses salariés sont issus de ces quartiers. Ce sont souvent des gens qui ont été cabossés par la vie. Lorsque des parents, des responsables associatif, ou des structures comme la nôtre repèrent des jeunes en difficulté, qui ont besoin d’une main tendue pour ne pas basculer dans la délinquance, on les oriente vers le McDo. Les directeurs successifs ont toujours joué le jeu, en leur faisant signer des petits contrats ou en les embauchant. Cet établissement est un intégrateur, un véritable amortisseur social. » Une dimension qui n’a pas ravi la direction du groupe McDonald’s France.

En début d’année, les salariés apprenaient que le franchisé et le groupe – ils possèdent l’établissement à 50-50 – comptaient revendre leur restaurant à un obscur homme d’affaires, lequel aurait un projet de « fast-food asiatique halal » [3]. « On prend ça comme une insulte, c’est très stigmatisant : on est dans les quartiers Nord, donc on est tous musulmans ?!, interroge Kamel. Nous, on ne veut pas d’un truc communautaire, on veut que tout le monde puisse venir. » Quant au prétendu repreneur, il est totalement inconnu, ne s’est jamais présenté devant les salariés, ne possède à l’heure actuelle aucun restaurant...

Les gouvernements s'engagent à  :S'assurer que tout le monde peut se connecter à InternetAinsi, n'importe qui, peu importe son identité ou son lieu de résidence, peut participer activement en ligne.Maintenir la disponibilité constante d'InternetAfin que personne ne soit privé de son droit à un accès complet à Internet.Respecter le droit fondamental des personnes à la vie privéeAinsi, tout le monde peut utiliser Internet librement, en toute sécurité et sans crainte.

Les entreprises s'engagent à :Rendre Internet abordable et accessible à tousPour que personne ne soit exclu de l’utilisation et de du futur  du Web.Respecter la vie privée et les données personnelles des consommateursAfin que les gens gardent le contrôle de leur privacité et vie en ligne.Développer des technologies qui supportent le meilleur de l'humanité et défient le pireAfin que le Web soit réellement un bien public qui donne la priorité aux gens.

Les citoyens s'engagent à :Être des créateurs et des collaborateurs sur le WebPour que le Web présente un contenu riche et pertinent pour tout le monde.Construire des communautés fortes qui respectent un discours civil et la dignité humainePour que tout le monde se sente en sécurité et bienvenu(e) en ligne.Se battre pour le WebPour que le Web reste ouvert et constitue une ressource publique universelle pour les utilisateurs du monde entier, aujourd'hui et à l'avenir.

Certaines technologies telles que le chiffrement des messages ou l’anonymisation sont émancipatrices et contribuent à créer un monde plus libre. En revanche, elles coexistent avec des innovations principalement coercitives dont la reconnaissance faciale automatique. Les crypto-monnaies, elles, se situent à mi-chemin : elles peuvent à la fois être vecteur d’oppression et de liberté. Cela dépend vraiment de la façon dont elles sont mises en œuvre. Libres d’accès et anonymes, elle peuvent accélérer l’innovation positive et connecter un grand nombre de personnes « non bancarisées », et ainsi les aider à sortir de la pauvreté. Contrôlées centralement et traçables, elles pourraient rigidifier l’innovation et exclure les « individus subversifs » des services financiers.

Mais l’effet serait totalement déshumanisant. Pourquoi ? Parce que la technologie conditionnerait massivement et automatiquement des individus à adopter un comportement souhaité.

le totalitarisme technologique est le totalitarisme efficacement et massivement mis en œuvre avec l’aide de la technologie, tout simplement. Il est une forme plus subreptice et molle du totalitarisme que l’on connaît, les forces oppressives étant moins visibles. Vous avez l’illusion du choix et de la liberté, tout en étant conditionné. Les personnes non conformes sont simplement exclues des systèmes technologiques qui composent le tissu de la société. Elles ne sont plus visibles parce que leurs voix sont filtrées et isolées.

Le débat entre les pessimistes, qui craignent pour l’environnement, et les optimistes, tenants du business as usual, ne porte donc pas sur la nécessité d’agir – personne n’est vraiment pour la disparition des éléphants ou la contamination des nappes phréatiques aux pesticides –, mais sur la gravité du problème, l’intensité et la vitesse avec laquelle il faudrait réagir, la possibilité de changer modes de production et habitudes de consommation, la manière (régulation, taxes, incitations, soutien public…) et les moyens (financiers, techniques) de mener la transition.

De fait, les solutions techniques sont présumées disponibles et abordables, sinon à portée de main, que ce soit pour les énergies « décarbonées », les solutions de mobilité du futur ou la capacité des rendements agricoles à toujours s’accroître – ou à se maintenir. Les plus audacieux, comme Jeremy Rifkin, vont jusqu’à promettre de telles « ruptures » technologiques – un vocable à la mode – que tout ou presque en deviendrait gratuit ou à « coût marginal zéro », à commencer par l’énergie issue de sources renouvelables2.

La pénurie a bien été un aiguillon essentiel, à l’origine d’une grande partie des innovations de la révolution industrielle, car la croissance permanente de la consommation allait bientôt dépasser les capacités de ponction sur les ressources renouvelables, locales ou importées. Jusque tard dans le xixe siècle, il y eut une limite purement « surfacique » à la production de produits essentiellement animaux et végétaux 

Les partisans du web décentralisé, explique Corbyn, souhaitent promouvoir et développer un web qui ne dépendrait plus des grandes entreprises qui amassent nos données pour en tirer profit. Pour ses promoteurs (parmi lesquels on trouve Tim Berners-Lee, Brewster Kahle ou Ted Nelson…), l’enjeu est de revenir à un web originel, avant qu’il ne soit perverti par les grandes plateformes qui ont émergé avec le web 2.0. Redistribuer le web afin que les utilisateurs gardent le contrôle de leurs données, interagissent et échangent des messages directement avec les autres membres du réseau sans passer par des services centralisés : tel est l’enjeu du dWeb.

Dans une série de billets un peu techniques présentant des applications concrètes de ce nouveau web décentralisé, on découvre plusieurs solutions émergentes comme Scuttlebutt, un réseau social décentralisé qui repose sur un protocole chiffré qui permet de stocker ses messages en local afin de les partager avec d’autres utilisateurs en pair à pair ; WebTorrent, un lecteur de torrent qui fonctionne dans le navigateur ; ou encore IPFS, un protocole pour remplacer le protocole HTTP du web…

Si ce web décentralisé est encore balbutiant, ce mouvement a été largement renouvelé par le développement des protocoles blockchain. De nouvelles applications sont apparues, comme Stealthy (un système de messagerie instantanée décentralisée), OpenBazaar (une place de marché décentralisée), GraphiteDocs (une alternative à Google Doc), Textile (une alternative à Instagram), Matrix (une alternative à Slack), DTube (une alternative à YouTube)… On y trouve aussi bien sûr les alternatives décentralisées aux réseaux sociaux que sont Akasha et Diaspora… Et même un navigateur pour explorer le web en pair à pair : Beaker Browser basé sur le protocole dat (voire les explications).

Qu’est-ce que ce Crédit social ? Un système par lequel le comportement de chacun des citoyens chinois ainsi que les personnes morales sera évalué et noté. Une version béta est actuellement en test. Des entreprises, parmi lesquelles on retrouve par exemple China Rapid Finance, partenaire de Tencent (WeChat), Sésame Credit, une filiale de Alibaba et Didi Chuxing (équivalent chinois de Uber), participent à ce programme-pilote basé sur le volontariat mais qui deviendra obligatoire en 2020. Les citoyens seront ainsi notés selon cinq facteurs : leur historique de crédit, leur capacité à remplir leurs obligations contractuelles, leurs informations personnelles, mais aussi leurs comportements et préférences, et enfin leurs relations interpersonnelles.

Les propos tenus sur les réseaux sociaux seront ainsi analysés pour repérer les « énergies positives » : des messages favorables au gouvernement ou positifs sur l’économie du pays feront grimper le score des individus. Pour le moment les propos négatifs ne seraient pas pris en compte. Mais au-delà des paroles, les actes seront analysés. Un représentant de Sésame Crédit admet par exemple inférer des jugements sur les personnes en fonction du type de produit acheté : « quelqu’un qui joue aux jeux vidéo dix heures par jour sera considéré comme une personne inactive (ou fainéante) », alors qu’une personne qui « achète fréquemment des couches sera considérée comme un probable parent, qui par comparaison sera plus à même d’avoir le sens des responsabilités ». Rachel Botsman précise de façon pertinente que le système ne fait pas qu’analyser les comportements, mais qu’il les façonne et biaise les citoyens afin qu’ils adoptent des attitudes jugées plus vertueuses par les gouvernements.

Dans un autre contexte, la notion d’exemplarité en Chine atteint parfois des points qui seraient comiques, s’ils n’étaient pas attentatoires aux libertés des personnes. Un système de reconnaissance faciale et  « name and shame » a ainsi été mis en place à certains carrefours : lorsqu’une personne traverse alors qu’elle n’en a pas l’autorisation, sa photo et son nom sont projetés sur un panneau pendant quelques minutes afin de la pointer comme l’exemple à ne pas suivre.

Côté consommation pour commencer, les études les plus pessimistes avancent que ceux-ci pourraient représenter jusqu’à 13% de l’électricité mondiale en 2030 (avec un secteur informatique qui consommerait jusqu’à 51% du total de la consommation électrique mondiale). Des chiffres qui ne font pas l’unanimité, The Shift Project prévoyant plutôt 25% pour le secteur informatique et 5% pour les data centers en 2025 (ces 5% équivaudraient tout de même à toute la consommation électrique actuelle du secteur numérique).

Même si l’on constate de nombreux efforts faits pour améliorer l’efficacité énergétique des infrastructures, par exemple du côté des « big tech », l’ADEME rapporte que les géants du numérique ne portent pas un véritable discours sur la « sobriété énergétique et numérique nécessaire pour rester sous la perspective d’une augmentation des températures planétaires de 1,5°.»

Le rapport insiste ensuite sur les déséquilibres qui résultent de certaines implantations dans les territoires. Première constatation : ces impacts sociaux sont très peu documentés. Bien souvent, les data centers arrivent sans dire leur nom, en périphérie des villes, aux Etats-Unis ou en France, à Saclay par exemple ou encore Plaine Commune. Cette furtivité des bâtiments rend d’autant plus difficile les contestations ou demandes de participation de la part des populations locales.

Le scandale Cambridge analytica a-t-il changé notre manière de voir la démocratie ? Le lien avec la démocratie n’est pas direct. Je ne crois pas qu’avec quelques posts finement ajustés, on a pu modifier lourdement le résultat des élections. Des gens qui cherchent à modifier le résultat des élections, c’est vieux comme Hérode, cela s’appelle des candidats. En revanche, Cambridge analytica a montré quelque chose de plus embêtant. Avec des mots crus : il y a différentes familles de margoulins qui tripatouillent les données personnelles pour faire des choses malsaines. Et je constate que les politiciens sont aussi malhonnêtes que les autres. Je trouve extrêmement embêtant qu’on retrouve dans la même classe le capitaliste qui veut faire du pognon pour vendre des produits et le politicien qui veut se faire élire à tout prix. Ce qui met en danger la démocratie, ce n’est pas tant le fait que certaines personnes font n’importe quoi avec les données personnelles, mais le fait que les politiciens trouvent normal d’avoir recours à ces méthodes.

Un an après, a-t-on des leviers plus efficaces pour lutter contre ces dérives ? Les leviers existent, mais on les utilise très faiblement. Le texte européen sur les données personnelles (RGPD) interdit d’utiliser les données personnelles des gens pour n’importe quoi. Les personnes doivent donner leur consentement à l’usage qu’on fait de leurs données. Pour chaque usage, il faut demander l’autorisation. A l’heure actuelle, ce n’est pas respecté, puisqu’on utilise vos données personnelles pour cibler la publicité. Je pense qu’aucun être humain sur terre n’a dit explicitement : « Oui, je souhaite que vous analysiez ma vie privée pour mieux me cibler ». C’est toujours plus ou moins implicite, plus ou moins inclus dans un contrat. Si on applique fermement le droit européen, c’est interdit. Les textes européens devraient écrire : « La publicité ciblée est interdite ». C’est écrit autrement parce qu’il y a eu un lobbying au Parlement européen pour espérer gagner quelques années, quelques exceptions, quelques passe-droits, quelques tolérances autour de certaines dérives…

Selon vous, Cambridge analytica n’a pas changé le cours de l’élection de Donald Trump. Pourquoi pensez-vous cela ? Donald Trump s’est fait élire avec des méthodes électorales d’une malhonnêteté fabuleuse. Au mieux Cambridge analytica a pu convaincre quelques républicains conservateurs d’aller voter alors qu’ils n’en avaient pas très envie. Je ne crois pas que Cambridge analytica a eu plus d’effet qu’un meeting électoral. Ce qui est embêtant, c’est de le faire de manière malhonnête. Le but de ces plateformes est de vous manipuler, elles gagnent leur vie de cette manière. Le client chez Facebook, c’est le publicitaire et le but de Facebook est de satisfaire ses clients. Les plateformes pourraient vous manipuler pour vous mettre dans la main des politiques. La France y travaille d’arrache pied. Quand on nous dit : « L’État va collaborer avec Facebook pour faire la chasse aux fakes news ». C’est extrêmement inquiétant. Un gouvernement décide le vrai du faux et se met d’accord avec les plus puissants manipulateurs pour vous faire admettre que le vrai gouvernemental est vrai et que le faux gouvernemental est faux. C’est de la manipulation à très grande échelle.

Le scientifique a identifié trois problèmes principaux qui minent le web. D’abord, les appels à la haine, les trolls et les fausses informations qui se multiplient sur les réseaux. Ensuite, l’ensemble des actions de piratage, issues d’acteurs privés ou publics. Enfin, comme il l’écrit dans une tribune parue lundi soir, «une conception de système qui crée des incitations perverses dans lesquelles la valeur des utilisateurs est sacrifiée, comme des modèles de revenus basés sur la publicité qui récompensent commercialement les pièges à clics et la propagation virale de la désinformation».

A la tête de la Web Foundation, Tim Berners-Lee a présenté fin 2018 un «Contrat pour le web», sorte de charte des droits et devoirs des gouvernements, entreprises et particuliers. Mais pour le chercheur, qui n’appelle pas forcément à davantage de lois, ce document théorique ne suffit pas. Il faut agir sur les données. «Il y a la nécessité très forte, aujourd’hui, de séparer les applications des données, affirme-t-il. Ces programmes peuvent accéder et traiter vos photos, vos informations, vos contacts, etc., il n’y a pas de problème à cela. Mais vous devez avoir un contrôle permanent et total sur vos informations. C’est vous qui devez autoriser tel ou tel service à y accéder.»

Tim Berners-Lee a pour ce faire lancé sa propre entreprise, Inrupt, qui collabore avec le Massachusetts Institute of Technology (MIT). Le physicien développe actuellement le projet Solid, qui vise à stocker les données personnelles des internautes dans des serveurs cloud ou physiquement chez soi. Le particulier décide ensuite quel service (LinkedIn, Facebook, Flickr, etc.) a accès à quelles données. «Le concept est simple, mais il s’agit d’un renversement total par rapport à la logique actuelle, avance Tim Berners-Lee. Nous créons des logiciels en open source pour Solid et nous appelons tous les développeurs intéressés à nous rejoindre.» Le physicien n’avance pas de date pour le lancement de Solid, qui vise selon lui à revenir au web originel, lorsque beaucoup de personnes connectées avaient leur propre site web.

Mais l’intelligence artificielle se diffuse également dans des sphères qui concernent plus directement la vie publique, et donc la société. Pour ne citer qu’eux : le classement de lycéens après leurs bacs[4], l’automatisation de procédures judiciaires[5] ou des horaires de ramassage scolaire[6], la dérégulation du flux automobile dans les villes dus à l’utilisation d’un service de GPS comme Waze[7], l’utilisation de la reconnaissance faciale dans des lieux publics[8] et privés[9], l’usage de « détecteurs de mensonges » aux frontières[10], la police prédictive[11], ou même plus simplement l’usage de systèmes reposant sur la captation de l’attention de l’utilisateur[12].  A leurs échelles, ces sujets touchent la vie sociale dans des dimensions qui pourraient légitimement demander à ce que des discussions plus démocratiques aient lieu. Ils entrent certes, plus ou moins directement dans la catégorie « intelligence artificielle » mais participent de la numérisation du monde à travers des algorithmes, et feront tous le pas vers l’IA si ce n’est déjà fait.

C’est là qu’intervient le passage qualitatif du « human in the loop » (HITL) au « society in the loop » (SITL). Pour le dire simplement, le SITL devient nécessaire lorsqu’un système utilisant l’intelligence artificielle a des implications importantes sur la sphère sociale. Iyad Rahwan explique : « alors que le HITL utilise le jugement d’un individu ou d’un groupe pour optimiser un système pensé trop étroitement, SITL embarque le jugement et les valeurs d’une société vue comme un tout, dans la définition la gouvernance algorithmique[13] de questions sociétales ». En résumé, le SITL est une forme de contrat social entre ceux qui doivent obéir aux règles et ceux qui écrivent les règles.

Coupons court au débat qui concerne les bulles de filtres : leur émergence et leurs effets dépendent du paramétrage des algorithmes de Facebook, de Google et des autres services susceptibles de créer ces bulles. Par conséquent, elles restent à leur main, notamment à travers leurs Conditions générales d’utilisation (CGU) et le secret d’affaires qui protègent ces systèmes (et les modèles d’affaires de captation du « temps de cerveau disponible » qui y sont directement liés). Pas de démocratie à cet endroit, quand bien même les impacts sur la démocratie pourraient être réels, même s’ils sont encore mal mesurés. C’est une des premières limites du modèle « Society in the loop ».