Group items tagged

Un autre aspect particulier du projet est d'explorer le concept de "privacy by using" et de faire du projet un outil de sensibilisation et d'éducation aux problématiques d'éthique et de protection de la vie privée dans les services intégrant de l'IA. 

Dans ce sens, nous travaillons sur des contenus et des formats (ateliers et rencontres de type barcamp) spécifiquement pensés de manière ludique pour les écoles afin de sensibiliser dès le plus jeune âge aux problématiques liées aux biais et à l'économie de l'attention, problématiques inhérentes à la "vie numérique" de l'époque actuelle et qui vont s'avérer toujours plus critiques avec le développement de l'IA (de plus en plus d'enfants sont confrontés très tôt à des services potentiellement problématiques, en particulier avec le boom des assistants vocaux).

Ainsi, en combinant la méthode "society in the loop" et l'approche "privacy by using", le projet permet de constituer de façon concertée une base de connaissances libre et ouverte tout en participant à l'éducation de la société sur les enjeux et les bonnes pratiques d'une intelligence artificielle d'intérêt général éthique et responsable.

Mais l’intelligence artificielle se diffuse également dans des sphères qui concernent plus directement la vie publique, et donc la société. Pour ne citer qu’eux : le classement de lycéens après leurs bacs[4], l’automatisation de procédures judiciaires[5] ou des horaires de ramassage scolaire[6], la dérégulation du flux automobile dans les villes dus à l’utilisation d’un service de GPS comme Waze[7], l’utilisation de la reconnaissance faciale dans des lieux publics[8] et privés[9], l’usage de « détecteurs de mensonges » aux frontières[10], la police prédictive[11], ou même plus simplement l’usage de systèmes reposant sur la captation de l’attention de l’utilisateur[12].  A leurs échelles, ces sujets touchent la vie sociale dans des dimensions qui pourraient légitimement demander à ce que des discussions plus démocratiques aient lieu. Ils entrent certes, plus ou moins directement dans la catégorie « intelligence artificielle » mais participent de la numérisation du monde à travers des algorithmes, et feront tous le pas vers l’IA si ce n’est déjà fait.

C’est là qu’intervient le passage qualitatif du « human in the loop » (HITL) au « society in the loop » (SITL). Pour le dire simplement, le SITL devient nécessaire lorsqu’un système utilisant l’intelligence artificielle a des implications importantes sur la sphère sociale. Iyad Rahwan explique : « alors que le HITL utilise le jugement d’un individu ou d’un groupe pour optimiser un système pensé trop étroitement, SITL embarque le jugement et les valeurs d’une société vue comme un tout, dans la définition la gouvernance algorithmique[13] de questions sociétales ». En résumé, le SITL est une forme de contrat social entre ceux qui doivent obéir aux règles et ceux qui écrivent les règles.

Coupons court au débat qui concerne les bulles de filtres : leur émergence et leurs effets dépendent du paramétrage des algorithmes de Facebook, de Google et des autres services susceptibles de créer ces bulles. Par conséquent, elles restent à leur main, notamment à travers leurs Conditions générales d’utilisation (CGU) et le secret d’affaires qui protègent ces systèmes (et les modèles d’affaires de captation du « temps de cerveau disponible » qui y sont directement liés). Pas de démocratie à cet endroit, quand bien même les impacts sur la démocratie pourraient être réels, même s’ils sont encore mal mesurés. C’est une des premières limites du modèle « Society in the loop ».

Take Alexa as another example, Amazon’s voice-controlled AI assistant. Alexa is female. Why? As children and adults enthusiastically shout instructions, questions and demands at Alexa, what messages are being reinforced? Professor Neff wonders if this is how we would secretly like to treat women: ‘We are inadvertently reproducing stereotypical behaviour that we wouldn’t want to see,’ she says.

In the home, AI assistance with a subservient role is female. In the realm of law or finance, AI assistance is coded as male, affording the male computer voice a context of authority and professionalism.

These scenarios of a gendered, humanised means of interacting with technology are on some level obvious. We hear the voice and see the avatar – our own imaginations make the leap to engage on a personal level with a machine and some code. This is something tangible and in the public realm. We can choose to embrace, reject, push back. However, the issues of gender and power balances go deeper still and further from sight.

Individual cookie management and installing special anti-tracking software has never been a common activity, so the majority of users continue to contribute to the collection of personalized data, even if it makes most of us uneasy. We don't trust most Internet sites, but we use them anyway. Pew Research Center wrote about the fate of online trust and summarized that many experts doubt the possibility of progress, saying "people are insured to risk, addicted to convenience, and will not be offered alternatives to online interactions."

Pire, la technologie s’est fait la complice de tous les défis auxquels nous sommes confrontés : à la fois d’un système économique hors de contrôle qui ne cesse d’élargir les inégalités, la polarisation politique comme le réchauffement climatique. Pour Bridle, la technologie n’est pas la solution à ces défis, elle est devenue le problème. Il nous faut la comprendre plus que jamais, dans sa complexité, ses interconnexions et ses interactions : mais cette compréhension fonctionnelle ne suffit pas, il faut en saisir le contexte, les conséquences, les limites, le langage et le métalangage.

Trop souvent, on nous propose de résoudre ce manque de compréhension de la technologie par un peu plus d’éducation ou son corollaire, par la formation d’un peu plus de programmeurs. Mais ces deux solutions se limitent bien souvent en une compréhension procédurale des systèmes. Et cette compréhension procédurale vise surtout à renforcer la « pensée computationnelle », c’est-à-dire la pensée des ingénieurs et des informaticiens qui n’est rien d’autre que le métalangage du solutionnisme technologique 

Les systèmes techniques sont devenus de plus en plus complexes. Trop critiques et interconnectés pour être compris, pensés ou conçus. Leur compréhension n’est disponible plus que pour quelques-uns et le problème est que ces quelques-uns sont les mêmes que ceux qui sont au sommet des structures de pouvoir. Pour James Bridle, il y a une relation causale entre la complexité des systèmes, leur opacité, et les violences et inégalités qu’ils propagent.

En l’absence de régulation, le digital labor préfigure le pire du travail : un monde de travailleurs isolés, privés de droits sociaux et iolés les uns des autres, livrés aux conditions léonines des employeurs — et accomplissant des tâches standardisées, fragmentées, peu qualifiées et dépourvues de sens global. Ici et là, des tentatives de régulation ou de création de plateformes équitables sont en cours. Il est urgent de les soutenir, si l’on ne veut pas que le développement croissant de l’automatisation ne soit synonyme non d’une disparition du travail, mais de sa dégradation irrémédiable.

Cet imaginaire largement libertarien irrigue profondément la culture du web depuis ses débuts et s’incarne, par exemple, dans la figure du hacker ou de l’entrepreneur nomade, du passionné qui s’accomplit dans un « projet professionnel qui est aussi existentiel ». Mais Antonio Casilli note combien cette vision est élitiste et ne prend pas en compte l’asymétrie des forces dans un marché du travail en berne où le chômage est élevé et l’ascenseur social en panne,

« Ce ne sont pas les machines qui font le travail des hommes, mais les hommes qui sont poussés à réaliser un digital labor pour les machines en les accompagnant, en les invitant, en les entraînant », résume le chercheur. Les intelligences artificielles doivent toujours être paramétrées, entraînées et encore très largement supervisées par des humains, malgré les progrès des méthodes d’apprentissage non supervisés. Les progrès fulgurants des IA ces dernières années sont surtout dus à l’explosion des quantités de données d’entraînement : or celles-ci doivent être triées, annotées, préparées par des humains. Et enfin, ces programmes doivent être évalués et corrigés pour pouvoir s’améliorer. Ainsi, les utilisateurs vont utiliser pendant plusieurs années une version beta du service Gmail de Google, pour l’améliorer, ou tagger leurs amis sur des photos et contribuer ainsi sans nécessairement en avoir conscience à l’affinement du service de reconnaissance faciale de Facebook : « C’est un travail humble et discret, qui fait de nous, contemporains, à la fois les dresseurs, les manouvriers et les agents d’entretien de ces équipements. » La question que pose l’intelligence artificielle et l’automatisation, ce n’est donc pas celle de la menace sur l’emploi – mais celle de la transformation profonde du travail pour répondre aux besoins de la machine.

La majeure partie des tâches proposées consiste à compléter des questionnaires, souvent à des fins de recherche scientifique. La collecte de données arrive en second: il peut s'agir par exemple de trouver les adresses mails de tous les podologues d'une ville, moyennant 10 centimes par adresse mail trouvée. Une part non négligeable repose sur la transcription d'images ou d'extraits sonores. C'est grâce à ce type de travaux que les géants du Web entraînent leurs intelligences artificielles. Enfin, la modération de contenus est extrêmement fréquente. Pour l'ONU, toutes ces tâches «ne correspondent pas au niveau d'éducation des travailleurs», qui sont 37% à être titulaire d'un diplôme universitaire.

Pire, certains de ces travaux sont extrêmement difficiles sur le plan psychologique: beaucoup de modérateurs souffrent ainsi de syndromes de stress post-traumatiques à force d'être exposés aux contenus les plus sombres du Web (images de torture, de pédopornographie, de massacres...).

Pour couronner le tout, les rythmes de travail sont particulièrement soutenus: 43% des sondés travaillent la nuit, 68% travaillent entre 20h et 22h, souvent car ils exercent en parallèle une autre activité professionnelle, les revenus du digital labor ne permettant pas d'en faire une activité à temps plein. Les salaires sont, à l'échelle mondiale, ramenés à la moyenne de 3,31 dollars de l'heure en fourchette basse, 4,43 dollars en fourchette haute (soit entre 2,81 et 3,76 euros). L'enquête démontre qu'une proportion substantielle de travailleurs gagne moins que le salaire minimum de leur lieu de résidence. L'ONU ajoute qu'une part non négligeable de «para-travail» n'est pas payée: pour chaque heure travaillée, au moins 20 minutes sont consacrées à des tâches comme la connexion sur les plateformes, les démarches administratives, chercher de nouvelles tâches, comprendre les énoncés des instructions... À noter également, 90% des répondants affirment avoir déjà été non payés pour des tâches accomplies.

Facebook fait mine de prendre conscience du problème de viralité lié à la plateforme en promettant aussi de « renforcer ses intelligences artificielles », encore une fois… Comme si, précisément, la « solution magique » de ses filtres automatisés ne venait pas d’être définitivement décrédibilisée, il y a deux mois, par une poignée d’internautes complices du tueur de Christchurch parvenant à les contourner pendant des jours, manifestement sans grand soucis. D’après Facebook, la première journée, 300 000 copies seraient passé au travers de ses filtres automatisés, n’étant traitées que pas son armée de modérateurs sous-payées et exposés aux pires conditions de travail.

Surtout, Facebook sait très bien que sa plateforme ne peut pas être corrigée, à moins de renoncer à son modèle économique, tout comme Google ou Twitter, véritable cœur du problème. La raison d’être de ces plateformes est de réunir le plus de personnes possibles en un seul endroit, pour les surveiller et leur proposer la publicité qui les influencera le plus.

Il est techniquement et humainement impossible de modérer d’aussi grosses plateformes pour éviter qu’elles ne deviennent des outils de harcèlement, de haine et de mort. Pire, pour maintenir tous nos cerveaux disponibles, leurs « intelligences artificielles » (qui ne se montrent efficaces qu’ici) entretiennent autant que possible la culture du buzz et, par là, le conflit, la caricature, la peur – tout ce qu’il faut pour éviter l’entraide et la cohésion. C’est le prix à payer pour capter plusieurs milliards de cerveaux en même temps, et ils ne renonceront jamais à nous le faire payer (c’est pourquoi nous luttons pour le développement d’un Web décentralisé et à taille humaine).

D'autres principes s'adressent à tous, comme posséder le moins d’objets connectés possible. Cesser de noter autrui, aussi, permettrait d'éviter de basculer vers le système de « crédit social » chinois. Même si cela semble ludique ou que l'on pense bien faire en notant son prochain sur Uber ou Airbnb, ce sont les prémisses d'une société à la chinoise. Si on n'y prend pas garde, on y va tout droit.

J’ai cherché un mot permettant de refléter la façon dont j’avais envie de vivre, entre la mise à distance des objets connectés et le désir de vivre dans mon époque. Je me suis intéressée à l'équipément et aux usages, en listant 7 principes. Certains concernent la jeunesse, comme « ne pas fournir de téléphone portable avant 15 ans ».

Le minimalisme matériel concerne aussi les logiciels, donc il faut alléger son téléphone. On peut « libérer » son portable et son ordinateur en optant pour des logiciels libres qui respectent davantage la vie privée. Mais le libre peut prendre du temps et nous river de nouveau aux écrans, c’est toute son ambiguïté.

En français Manifeste RESET - 2019 - FING Label territoire numérique inclusif-mars 2019 Orientations stratégiques cadrant le développement des projets numériques au Pôle Solidarité Citoyenneté Culture de Rennes métropole 1 Développer des services numériques nouveaux pour une accessibilité renforcée aux services publics 2 Lutter contre la fracture numérique (et l’intégrer dans le point numéro 1) 3 Impulser une culture collaborative (personnes morales, habitants, institutions, etc) 4 Faire place et donner à voir l’innovation et l’expérimentation 5 Accompagner en interne l’appropriation d’une culture du numérique dans la collectivité. Conception numérique responsable - Low tech - Green IT (eco-responsable) Charte territoire France connectée pour un numérique inclusif (décembre 2018 - Etat-Gironde) - il existerait un pdf en ligne :-) Déclaration de Montréal IA Responsable Charte sur l’usage de la donnée - Nantes métropole - juin 2019 Manifeste de la fabcity Manifeste pour une démocratie délibérative (civic tech-BlueNove) Projet de charte des smart cities (ADULLACT - juin 2019) Charte PrestaLibre pour les relations entre prestataires informatiques et collectivités (2018, Lorient et les Consometers). Charte de l’aidant numérique, ville de Paris Charte de l’aidant numérique, Grand Chambery CHARTE DE L’ACCOMPAGNEMENT NUMERIQUE DES RESEAUX LOCAUX D’INCLUSION NUMERIQUE, Stratégie Départementale d’Inclusion numérique des Pyrénées-Atlantique Kit et modèle de mandat de la CNIL pour les travailleurs sociaux Charte internationale des données ouvertes [Serment d’Hippocrate pour Data Scientist by Data For Good] Explications (https://www.hippocrate.tech/) Serment (https://framavox.org/g/Qtz0JHr9/dataforgood-serment) Charte qualité des données de Datatourisme Charte de l’IFLA sur Internet en bibliothèque Charte Biblib ABF (Association des bibliothécaire de France)

Le Livre Blanc appelle ainsi les concepteurs à améliorer la simplicité d’accès, estimant qu’une « grande part de responsabilité » incombe aux designers d’interface (UX designers) dans l’intégration des problématiques d’accessibilité aux outils du numérique. « Les concepteurs de sites ont tendance à créer des sites pour eux-mêmes, commente Olivier Sauvage, entrepreneur et fondateur de Wexperience, société de conseil en UX Design. C’est aussi un problème de formation : pendant leurs études, pratiquement aucun UX designer n’entend parler d’illectronisme. Il faut absolument former ceux qui font le web à ces questions-là ».

À moins que les personnes concernées par l'illectronisme ne soient aidées par les interfaces vocales. C’est le pari d’Olivier Mejean, directeur de demain.ai, un cabinet de conseil en stratégie spécialisé dans l'intelligence artificielle, et également contributeur du rapport. À ses yeux, la solution peut résider en deux lettres désormais bien connues : IA. « Pour apporter un service à ceux qui ne sont pas capables de communiquer via des interfaces, la meilleure solution n’est-elle pas de créer une interface sans interface ?  », explique-t-il, estimant qu’on peut « récupérer une partie des gens par la voix ».

L’apprentissage machine pourrait également permettre d’identifier les « abandonnistes », soit les 19% des Français qui, au cours des douze derniers mois, ont renoncé plus d’une fois à faire quelque chose parce qu’il fallait utiliser Internet. « La machine est capable de déceler les comportements anormaux, et donc d’identifier la personne qui est sur le point d’abandonner et de la rattraper, en lui proposant soit d’appeler un numéro, soit de prendre un rendez-vous, soit d'échanger avec un chatbot ». Soit exactement les stratégies déployées par les sites de e-commerce pour vous rattraper quand vous avez déguerpi avant de « valider votre panier » - leur hantise ultime.

Pour éviter aux robots de venir heurter les étudiants sur les trottoirs, la Start up a mis en place un système de pilotage par des opérateurs. Or ces opérateurs ne sont autres que des travailleurs situés en Colombie, dont le salaire ne dépasse pas les 2 dollars de l’heure. Un montant à peine plus élevé que le salaire minimum à Bogota.

Des robots pas tout à fait autonomes, donc, puisque pilotés par des humains, et pas tout à fait au service de l’homme, puisque nécessitant d’en exploiter certains en les payant au lance-pierre. On n’arrête pas le progrès. Précisons qu’un pilote peut diriger trois robots à la fois. De quoi permettre à l’entreprise d’obtenir une bonne rentabilité…

Nous sommes en voie de babélisation : Facebook est une tour de Babel, Google en est une autre. La Chine est à ce jour le seul « État plateforme » complet, avec l'imbrication du politique coercitif et du numérique via ces autres silos que sont les BATX (Baidu, Alibaba, Tencent, Xiaomi). Les choix technologiques asymétriques qui ont été faits ne pouvaient que conduire à l'émergence de ces silos. Et dans ces silos, nous passons notre temps à émettre des signaux pour gagner de l'attention. Mais on peut échapper au darwinisme numérique, qui amène les IA à nous remplacer progressivement pour toutes sortes de tâches, des plus fastidieuses aux plus artistiques, comme nous le vantent ceux qui en ont la maitrise, à savoir les gourous de la Silicon Valley. Les opérateurs télécom sont devenus les prolétaires du web alors qu'ils en étaient les maîtres.

Existe-t-il une lueur d'espoir, quand même, dans votre vision du futur d'Internet ? Oui, car les protocoles symétriques d'origine, comme la norme IPV6, sont toujours là. Et ça permet la distribution par chacun d'entre nous, au lieu de la confier à ces silos géants, dont le modèle économique repose sur les données que nous leur offrons gratuitement en échange de notre capacité à émettre ces signaux d'attention dont je parlais plus tô. Le péché originel, ce sont les protocoles asymétriques qui nous ont privé de notre singularité. Mais on peut encore croire à un âge de raison des réseaux. Il faudra peut-être 2, 3 ou 4 générations, et ça passera peut-être par des contractions violentes, mais c'est encore possible. C'est nous qui devons agir ! Les États n'agiront pas car agir serait contraire aux intérêts de la surveillance. Et les plateformes n'agiront pas non plus, car ce serait contraire aux intérêts de leurs actionnaires. Nous devons tous aspirer à l'émergence de cet être en réseau, qu'on ne peut décrire mais qui est là, et que la sonde poéitique permet de deviner par moments. Ce sera une révolution copernicienne.

Quand Mark Zuckerberg poste une photo de son chien, qui s'appelle Beast, des centaines de milliers de personnes s'intéressent à ce chien, qui n'aurait aucun intérêt si ce n'était pas celui du patron de Facebook. Elle est là, l'asymétrie de l'attention. C'est un changement de perspective dont on a besoin. Et justement, avant Filippo Brunelleschi, vers 1420, il n'y avait pas de perspective dans les tableaux, tout était à plat. Grâce à son bricolage avec un cadre et un miroir, il a donné à voir le monde via les tableaux (qui sont les ancêtres de nos écrans) avec la perspective optique, qui n'existait pas avant lui.