Group items tagged

Mais l’intelligence artificielle se diffuse également dans des sphères qui concernent plus directement la vie publique, et donc la société. Pour ne citer qu’eux : le classement de lycéens après leurs bacs[4], l’automatisation de procédures judiciaires[5] ou des horaires de ramassage scolaire[6], la dérégulation du flux automobile dans les villes dus à l’utilisation d’un service de GPS comme Waze[7], l’utilisation de la reconnaissance faciale dans des lieux publics[8] et privés[9], l’usage de « détecteurs de mensonges » aux frontières[10], la police prédictive[11], ou même plus simplement l’usage de systèmes reposant sur la captation de l’attention de l’utilisateur[12].  A leurs échelles, ces sujets touchent la vie sociale dans des dimensions qui pourraient légitimement demander à ce que des discussions plus démocratiques aient lieu. Ils entrent certes, plus ou moins directement dans la catégorie « intelligence artificielle » mais participent de la numérisation du monde à travers des algorithmes, et feront tous le pas vers l’IA si ce n’est déjà fait.

C’est là qu’intervient le passage qualitatif du « human in the loop » (HITL) au « society in the loop » (SITL). Pour le dire simplement, le SITL devient nécessaire lorsqu’un système utilisant l’intelligence artificielle a des implications importantes sur la sphère sociale. Iyad Rahwan explique : « alors que le HITL utilise le jugement d’un individu ou d’un groupe pour optimiser un système pensé trop étroitement, SITL embarque le jugement et les valeurs d’une société vue comme un tout, dans la définition la gouvernance algorithmique[13] de questions sociétales ». En résumé, le SITL est une forme de contrat social entre ceux qui doivent obéir aux règles et ceux qui écrivent les règles.

Coupons court au débat qui concerne les bulles de filtres : leur émergence et leurs effets dépendent du paramétrage des algorithmes de Facebook, de Google et des autres services susceptibles de créer ces bulles. Par conséquent, elles restent à leur main, notamment à travers leurs Conditions générales d’utilisation (CGU) et le secret d’affaires qui protègent ces systèmes (et les modèles d’affaires de captation du « temps de cerveau disponible » qui y sont directement liés). Pas de démocratie à cet endroit, quand bien même les impacts sur la démocratie pourraient être réels, même s’ils sont encore mal mesurés. C’est une des premières limites du modèle « Society in the loop ».

Pourquoi cette entreprise continue à jouer solo, à capter les contributions communes, et malgré toutes les demandes, à fermer son code ? Et par quelle magie est arrivé ce quasi monopole alors que dans d’autres pays de nombreuses solutions libres, ouvertes et transparentes ont fait leur preuve ?

Avons-nous compris qu'un code fermé et propriétaire c'est comme un brevet Monsanto ? Qui s'approprie le vivant, qui fait disparaître la diversité du vivant et donc des espèces, qui privatise le commun, qui installe une dépendance mortifère avec sa solution et nécessite de toujours racheter la même solution ? Avons-nous bien compris qu'un code propriétaire s'est s'approprier la richesse offerte par les gens, leur travail, leurs données ?Avons-nous bien compris qu'un code propriétaire c'est une boîte noire en qui personne, je dis bien personne, à part celui qui l’a codé, ne peut avoir confiance ?

il n’y a que le logiciel libre qui peut garantir les conditions de transparence, de responsabilité collective (hackers, développeurs, usagers, citoyennes et citoyens, associations de liberté et neutralité du net), qui coopérant les unes avec les autres, peuvent être les seuls garants d’un processus numérique démocratique sincère et sous surveillance.

Le scandale Cambridge analytica a-t-il changé notre manière de voir la démocratie ? Le lien avec la démocratie n’est pas direct. Je ne crois pas qu’avec quelques posts finement ajustés, on a pu modifier lourdement le résultat des élections. Des gens qui cherchent à modifier le résultat des élections, c’est vieux comme Hérode, cela s’appelle des candidats. En revanche, Cambridge analytica a montré quelque chose de plus embêtant. Avec des mots crus : il y a différentes familles de margoulins qui tripatouillent les données personnelles pour faire des choses malsaines. Et je constate que les politiciens sont aussi malhonnêtes que les autres. Je trouve extrêmement embêtant qu’on retrouve dans la même classe le capitaliste qui veut faire du pognon pour vendre des produits et le politicien qui veut se faire élire à tout prix. Ce qui met en danger la démocratie, ce n’est pas tant le fait que certaines personnes font n’importe quoi avec les données personnelles, mais le fait que les politiciens trouvent normal d’avoir recours à ces méthodes.

Un an après, a-t-on des leviers plus efficaces pour lutter contre ces dérives ? Les leviers existent, mais on les utilise très faiblement. Le texte européen sur les données personnelles (RGPD) interdit d’utiliser les données personnelles des gens pour n’importe quoi. Les personnes doivent donner leur consentement à l’usage qu’on fait de leurs données. Pour chaque usage, il faut demander l’autorisation. A l’heure actuelle, ce n’est pas respecté, puisqu’on utilise vos données personnelles pour cibler la publicité. Je pense qu’aucun être humain sur terre n’a dit explicitement : « Oui, je souhaite que vous analysiez ma vie privée pour mieux me cibler ». C’est toujours plus ou moins implicite, plus ou moins inclus dans un contrat. Si on applique fermement le droit européen, c’est interdit. Les textes européens devraient écrire : « La publicité ciblée est interdite ». C’est écrit autrement parce qu’il y a eu un lobbying au Parlement européen pour espérer gagner quelques années, quelques exceptions, quelques passe-droits, quelques tolérances autour de certaines dérives…

Selon vous, Cambridge analytica n’a pas changé le cours de l’élection de Donald Trump. Pourquoi pensez-vous cela ? Donald Trump s’est fait élire avec des méthodes électorales d’une malhonnêteté fabuleuse. Au mieux Cambridge analytica a pu convaincre quelques républicains conservateurs d’aller voter alors qu’ils n’en avaient pas très envie. Je ne crois pas que Cambridge analytica a eu plus d’effet qu’un meeting électoral. Ce qui est embêtant, c’est de le faire de manière malhonnête. Le but de ces plateformes est de vous manipuler, elles gagnent leur vie de cette manière. Le client chez Facebook, c’est le publicitaire et le but de Facebook est de satisfaire ses clients. Les plateformes pourraient vous manipuler pour vous mettre dans la main des politiques. La France y travaille d’arrache pied. Quand on nous dit : « L’État va collaborer avec Facebook pour faire la chasse aux fakes news ». C’est extrêmement inquiétant. Un gouvernement décide le vrai du faux et se met d’accord avec les plus puissants manipulateurs pour vous faire admettre que le vrai gouvernemental est vrai et que le faux gouvernemental est faux. C’est de la manipulation à très grande échelle.

les technologies font rarement l’objet de débats démocratiques, il nous semble même étrange d’accoler les deux termes, comme si ce qui était « technique » sortait par principe de la sphère du débat. Les seuls critères peut-être, qui mériteraient des discussions, seraient les analyses coûts / bénéfices et les risques sanitaires et environnementaux.

Comment expliquer ce déficit démocratique ? Sclove le met sur le compte d’un malentendu à propos de la technologie : nous aurions trop tendance à penser chaque objet à travers un usage unique. Un marteau par exemple, sert à planter un clou et ce serait tout. En fait, lorsqu’un homme plante un clou, il développe ses muscles, sue, s’affirme, se souvient des mythes de Vulcain et Thor, du garage de son grand-père, etc. Le marteau lui, a nécessité de couper un arbre, extraire du minerai de fer, c’est un objet plutôt utilisé pour travailler seul (il n’a qu’un manche) qui véhicule donc une certaine forme d’organisation du travail. Comme toutes les technologies, les marteaux sont « polypotents », c’est-à-dire bourrés d’effets secondaires et d’externalités de toutes sortes qui passent bien souvent à la trappe. C’est au regard de ces effets qu’une démocratie devrait pouvoir anticiper, jauger, et décider ou non d’adopter une technologie.

La seconde critique affirme que « prévoir » les externalités positives ou négatives d’une technologie est difficile. Sclove l’admet volontiers mais nuance néanmoins : il reste que les citoyens sont les plus à même de savoir si une technologie va changer leur vie, les forcer à travailler ensemble ou isolément, procurer du plaisir ou de l’apathie, accroitre ou non l’autonomie ou la dépendance à une entité centralisée. Qui plus est, la démocratie technique n’agit pas qu’à l’endroit des nouveautés, elle concerne également le régime technologique présent : questionner l’existant est aussi une manière de ne pas le renforcer dans ses défauts.

Dans un ouvrage publié l’année dernière : Le temps des algorithmes, deux informaticiens français - Serge Abiteboul et Gilles Dowek-  expliquaient que le rythme relativement lent auquel étaient consultées les populations dans une démocratie (une élection par an en moyenne) avait été dicté au cours des XVIIIe et XIXe par la lenteur des communications elles-mêmes - une diligence, ça ne va pas vite, organiser des élections prenaient du temps. A l’heure où une information va à la vitesse de la lumière, il semble impossible de ne pas revoir ce rythme. Dit comme ça, ça a l’air évident. 

Dans un livre paru il y a cinq ans (The New Digital Age), Jared Cohen et Eric Schmidt (à l’époque patron de Google) annonçaient tranquillement l’avènement d’un nouveau monde où les plateformes numériques suppléeraient les États dans bien des fonctions de la vie publique, jusque dans l’organisation de la vie démocratique. 

Lutter contre l’ambition des GAFA à se substituer à l’Etat, contre les États qui essaient d’interférer dans les élections d’autres pays, lutter contre l’usage des réseaux sociaux à des fins de fausses informations. Tout en promouvant de nouvelles manières de consulter les peuples, d’écrire en commun une constitution comme l’a fait l’Islande etc. Il y a du boulot… 

Un autre anachronisme consiste à penser que plus un pays est grand géographiquement, plus il est puissant. La situation économique et l’étendue du territoire sont de moins en moins intriqués. Je trouve plus intéressant d’imaginer une organisation plus flexible, qui donne à chaque personne la possibilité de choisir le gouvernement qu’elle souhaite.

L’Etat-nation, c’est l’idée que nous avons une identité liée à l’Etat plutôt qu’à notre ethnie, à notre religion ou à notre langue. C’est un progrès mais ce n’est qu’une étape si nous voulons échapper au déterminisme de nos identités liés à nos gènes, à notre naissance. Cette étape continue à nous lier par notre naissance puisque, si l’on n’a pas beaucoup d’argent, il reste très difficile de changer de nationalité. Il faut continuer à chercher d’autres étapes pour définir une autre identité, plus globale, en tant qu'être vivant. D’un point de vue écologique, il faut aussi se mettre à penser comme élément d’un écosystème

Oui, il y a une grande bureaucratie centrale qui facilite tout ça, qui s’appelle tout simplement « Information ». C’est une espèce de mélange entre l’ONU et Google, qui gère toute l’information dans le monde. Elle permet d’amener l’information à tout le monde tout en exerçant une surveillance globale. C’est une organisation très puissante. L’idée est d’interroger la possibilité et le bien-fondé d’une telle organisation globale, qui se réclame d’une neutralité en réalité impossible.

La Free Software Foundation (FSF) est la principale organisation de défense du logiciel libre. La Software Freedom Conservancy « est une organisation à but non lucratif qui promeut, améliore, développe et défend les projets libres et open source (FLOSS) ». Ce mois-ci, la Software Freedom Conservancy organise la première conférence internationale Copyleft sponsorisée par Google, Microsoft et la FSF. En fait, Google est une telle force pour le bien dans le monde qu’elle est autorisée à sponsoriser une conférence Copyleft alors même que ces licences sont bannies au sein de la compagnie. Si même la FSF n’a aucun problème avec le fait d’avoir son logo juste à côté de celui de Google et Microsoft, qui suis-je pour critiquer ces sociétés ?

Mozilla n’a aucun problème avec Google, elle s’associe souvent avec eux et utilise même Google Analytics. Si une fondation aussi honnête et éthique qui a tellement à cœur de protéger notre vie privée n’a aucun problème avec le fait d’avoir Google comme moteur de recherche principal ou de recevoir des millions de dollars de leur part, qui suis-je pour critiquer Google sur la vie privée ?

Le CEO d’APPLE, Tim Cook, a personnellement approuvé cet engagement pour la vie privée et c’est pourquoi Apple a intégré Google comme moteur de recherche par défaut dans leur navigateur, c’est aussi pourquoi ils ne crachent pas non plus sur les 12 milliards de dollars de revenus que cet accord leur apporte. Parce que Google est tout comme Apple et a construit ses produits pour protéger notre vie privée. Pour quelle autre raison Apple autoriserait leur présence sur ses smartphones et mettrait en danger notre vie privée ? Si Tim Cook est content d’avoir Google dans son iPhone alors il doit certainement y avoir quelque chose qui ne tourne pas rond chez moi.

En français Manifeste RESET - 2019 - FING Label territoire numérique inclusif-mars 2019 Orientations stratégiques cadrant le développement des projets numériques au Pôle Solidarité Citoyenneté Culture de Rennes métropole 1 Développer des services numériques nouveaux pour une accessibilité renforcée aux services publics 2 Lutter contre la fracture numérique (et l’intégrer dans le point numéro 1) 3 Impulser une culture collaborative (personnes morales, habitants, institutions, etc) 4 Faire place et donner à voir l’innovation et l’expérimentation 5 Accompagner en interne l’appropriation d’une culture du numérique dans la collectivité. Conception numérique responsable - Low tech - Green IT (eco-responsable) Charte territoire France connectée pour un numérique inclusif (décembre 2018 - Etat-Gironde) - il existerait un pdf en ligne :-) Déclaration de Montréal IA Responsable Charte sur l’usage de la donnée - Nantes métropole - juin 2019 Manifeste de la fabcity Manifeste pour une démocratie délibérative (civic tech-BlueNove) Projet de charte des smart cities (ADULLACT - juin 2019) Charte PrestaLibre pour les relations entre prestataires informatiques et collectivités (2018, Lorient et les Consometers). Charte de l’aidant numérique, ville de Paris Charte de l’aidant numérique, Grand Chambery CHARTE DE L’ACCOMPAGNEMENT NUMERIQUE DES RESEAUX LOCAUX D’INCLUSION NUMERIQUE, Stratégie Départementale d’Inclusion numérique des Pyrénées-Atlantique Kit et modèle de mandat de la CNIL pour les travailleurs sociaux Charte internationale des données ouvertes [Serment d’Hippocrate pour Data Scientist by Data For Good] Explications (https://www.hippocrate.tech/) Serment (https://framavox.org/g/Qtz0JHr9/dataforgood-serment) Charte qualité des données de Datatourisme Charte de l’IFLA sur Internet en bibliothèque Charte Biblib ABF (Association des bibliothécaire de France)

Pour moi les communs, c’est le SEUL moyen pour nous de pouvoir décider, à notre échelle, du système alimentaire et agricole que nous voulons pour notre société.

Ce sont des AMAP, groupements d’achats, coopératives qui rassemblent producteurs et mangeurs sur un territoire.Ce sont des supermarchés coopératifs.Ce sont des systèmes de garanties participatifs comme le label Nature & Progrès.Ce sont des connaissances ouvertes et partagées sur les méthodes culturales, la fabrication d’outils.Ce sont des jardins communautaires.

Comment avons-nous pu nous retrouver au début du XXIe siècle dans une situation où Mark Zuckerberg – et quelques autres patrons de plateformes numériques – se fixent comme objectif récurrent de «protéger la démocratie», principalement à grands coups «d’algorithmes» et «d’intelligence artificielle» et affirment que cela sera une de leurs principales «missions» au sein de leur entreprise et à l’échelle du monde ?

En 2011, deux théoriciens de l’intelligence artificielle traitant des problèmes éthiques qu’allaient poser les algorithmes écrivaient que «les algorithmes de plus en plus complexes de prise de décision sont à la fois souhaitables et inévitables, tant qu’ils restent transparents à l’inspection, prévisibles pour ceux qu’ils gouvernent, et robustes contre toute manipulation» (Bostrom et Yudowski, «The Ethics of Artificial Intelligence»).

Aujourd’hui, «les algorithmes» dont nous parlons se déploient au sein d’architectures techniques toxiques englobant des millions ou des milliards d’utilisateurs. Aujourd’hui, «les algorithmes» dont nous parlons reposent sur des jeux de données propriétaires et donc totalement opaques. Aujourd’hui, «les algorithmes» dont nous parlons sont explicitement développés pour se doter d’un niveau d’autonomie (ou «d’apprentissage») qui rend leur «comportement» et leurs décisions souvent imprévisibles pour leurs créateurs eux-mêmes. Aujourd’hui, «les algorithmes» dont nous parlons interagissent en permanence avec d’autres algorithmes, d’autres jeux de données et d’autres architectures techniques toxiques ; et ils le font à des échelles toujours plus vastes et dans des environnements toujours plus contraints qui augmentent encore le niveau de risque et d’incertitude.

Le terme de « post-vérité » a été utilisé pour la première fois en 2004 par l’écrivain américain Ralph Keyes. Il décrit la post-vérité comme l’apparition d’un système ou d’une société où la différence entre le vrai ou le faux n’a plus d’importance. Cette définition a éclaté aux yeux du monde en 2016 avec le vote pour le Brexit et l’élection de Donald Trump à la présidence des Etats-Unis. Et fake news a été élu terme de l’année 2017.

C’est pourquoi RSF a créé une commission sur l’information et la démocratie, composée de 25 personnalités de 18 nationalités différentes. Y figurent des lauréats du prix Nobel, des spécialistes des nouvelles technologies, des journalistes, des juristes et des anciens dirigeants d’organisations internationales. Cette commission a édicté une déclaration qui « vise à entrer dans cette nouvelle logique afin de définir les obligations des entités structurantes de l’espace public ». RSF a donc sélectionné douze pays qui vont s’engager à signer un pacte sur l’information et la démocratie sur la base de la déclaration évoquée ci-dessus. Le but est, à terme, de créer une entité qui associera des experts indépendants qui pourra édicter des propositions avec un monopole de l’initiative et qui pourront être mises en œuvre par des Etats.

Elle repose sur des principes forts : Le droit à l’information fiable La liberté de la presse La vie privée La responsabilité des participants du débat public La transparence des pouvoirs

Les géants du numérique, avec leurs « licornes » à plusieurs milliards de dollars, nous ont confisqué le potentiel d’Internet. Alimentée par la très courte vue et la rapacité du capital-risque et des start-ups, la vision utopique d’une ressource commune décentralisée et démocratique s’est transformée en l’autocratie dystopique des panopticons de la Silicon Valley que nous appelons le capitalisme de surveillance. Cette mutation menace non seulement nos démocraties, mais aussi l’intégrité même de notre personne à l’ère du numérique et des réseaux1.

Alors que la conception éthique décrit sans ambiguïté les critères et les caractéristiques des alternatives éthiques au capitalisme de surveillance, c’est l’éthique elle-même qui est annexée par les Big Tech dans des opérations de relations publiques qui détournent l’attention des questions systémiques centrales2 pour mettre sous les projecteurs des symptômes superficiels3.

Small Tech elle est conçue par des humains pour des humains 4 ; elle n’a pas de but lucratif 5 ; elle est créée par des individus et des organisations sans capitaux propres6 ; elle ne bénéficie d’aucun financement par le capitalisme de la surveillance des Big Tech7 ; elle respecte la vie privée par défaut8 ; elle fonctionne en pair à pair9 ; elle est copyleft10 ; elle favorise les petits plutôt que les grands, les simples plutôt que les complexes et tout ce qui est modulaire plutôt que monolithique11 ; elle respecte les droits humains, leurs efforts et leur expérience12 ; elle est à l’échelle humaine13.

Ici, le statut d’entrepreneur salarié associé (ESA) réunis dans des coopératives d’emploi et d’activité (CAE) est une vraie solution. Mobicoop réfléchit activement au déploiement d’une CAE dédiée aux métiers de la mobilité. Celle-ci permettrait par exemple aux travailleurs des plateformes de mobilité (Uber, Deliveroo etc.) de garder le statut d’indépendant auquel ils sont attachés tout en bénéficiant de mécanismes de protection sociale et de représentation collective.

Les collectivités territoriales, en entrant dans leur gouvernance, peuvent les lier durablement aux territoires. Le problème n’est donc pas tant technique ou juridique que celui de la volonté des acteurs politiques et économiques à s’asseoir à une table commune pour construire les mécanismes collaboratifs d’un XXIème siècle... non ubérisé ! 

Il faut ensuite que les utilisateurs et les travailleurs des plateformes puissent être associés aux grandes décisions des plateformes auxquelles ils sont liés, de façon à avoir leur mot à dire sur les évolutions de celles-ci, qu’elles soient technique ou économique. Cela peut se faire si la plateforme adopte des statuts coopératifs qui permettent aux utilisateurs et aux travailleurs de devenir membres coopérateurs.

Dans ce nouveau genre de mobilisation, où la participation en ligne est toute aussi importante que les blocages sur les ronds-points, les chefs par défaut sont les admins des pages Facebook. Eric Drouet et Priscillia Ludosky sont maintenant tous les deux admins du groupe La France en colère !!!, qui comprend 250 000 personnes. Dans le groupe des huit, une troisième tête se dégage : le charismatique Maxime Nicolle aka Fly Rider, qui avait été invité chez Cyril Hanouna. Il gère Fly Rider infos blocages, un groupe de 62 000 personnes qui suivent ses Facebook live quotidiens.

S’il fallait tracer les limites d’un ancien et d’un nouveau monde, Emmanuel Macron et Philippe Martinez apparaissent comparés à Eric Drouet et Maxime Nicolle comme la relique d’une époque révolue. Ces deux leaders des gilets jaunes renouvellent totalement la manière de gérer un mouvement social.

On se demanderait presque pourquoi BFM TV ne les diffuse pas en direct à l’antenne. Ces lives n’ont pas moins de pertinence dans le conflit qu’un discours d’Emmanuel Macron ou Edouard Philippe. Alors que, parmi les gilets jaunes, plus personne ne croit au discours des médias traditionnels, ces Facebook live, et plus largement toutes les vidéos qui circulent sur le réseau, apparaissent comme le seul média fiable.

Comme toutes les start-up, les projets étudiés cherchent, souvent par tâtonnement, des modèles de revenus aussi bien en marchés B2C que B2B. Côté B2C, Plume Labs et Smart Citizen disposent d’une source de revenus directs issus de la vente d’objets connectés (la distribution du « Flow », le capteur de Plume Labs, est annoncée pour juin 2018 et le capteur de Smart Citizen est en rupture de stock dans l’attente d’une nouvelle version plus accessible au grand public). C’est le cas également de 90 jours dans un modèle « premium ». Côté modèle d’audience, tous sont confrontés à la difficulté, classique dans l’économie du web, de réunir une masse critique d’utilisateurs.

Par comparaison avec d’autres start-up, celles-ci doivent faire face à des contraintes spécifiques. Ainsi, la levée de fonds auprès des capital-risqueurs est particulièrement laborieuse, ces derniers se montrant frileux à l’égard de ces entreprises poursuivant une finalité d’intérêt général dont ils anticipent des retombées financières limitées. Autre contrainte à l’égard des clients : l’exigence de cohérence entre stratégie de croissance d’une part et discours sur les finalités de l’autre. Afin de ne pas froisser sa communauté d’utilisateurs d’origine, Tinkuy raconte avoir refusé des financements de la société Total et décrit les réactions provoquées par le partenariat passé avec la société Nouvelles Frontières: « Quoi ? Vous faites partir des gens en avion, c’est quoi cette communauté ? »

La finalité poursuivie par ces entrepreneurs, tout comme la fragilité de leurs modèles économiques, n’est pas sans évoquer une autre famille de start-up d’intérêt général, les « civic techs » qui cherchent à améliorer la démocratie. Mais à la différence de ces dernières, les acteurs étudiés interagissent peu les uns avec les autres. Ils ne se retrouvent pas dans des événements communs, pas plus qu’ils ne se domicilient dans des incubateurs dédiés. La construction d’une narration collective semble pour l’heure absente de leur vision stratégique. Seule leur observation dans le temps permettra de dire si les transition techs choisiront de renforcer leur modèle économique pour pouvoir se pérenniser au risque de prendre de la distance avec la finalité d’intérêt général ou si au contraire elles affirmeront collectivement leur identité pour attirer investisseurs et utilisateurs. Un suivi s’avère essentiel pour le Groupe Orange, déjà engagé dans une démarche de sobriété énergétique, afin de pouvoir accompagner ses clients sur leur propre chemin de transition écologique, en soutenant le cas échéant les entreprises les plus prometteuses.