Skip to main content

Home/ QN2019/ Group items tagged numérique

Rss Feed Group items tagged

Aurialie Jublin

[Logiciel libre] Et si le monde numérique devenait vraiment « libre » ? - 0 views

  • « Je ne vois pas ce qui peut exister et qui ne soit pas remplaçable par une solution open source, en particulier dans les innovations sociales et tous les projets d’intérêt général, dit-elle. Hier, je suis tombée sur un logiciel qui gère la projection dans les cinémas... Le libre permet aussi de répondre à des besoins publics, à l’image d’OpenCimetière qui a été produit pour une commune et qui sert à présent à d’autres mairies.
  • Cet élan d’ouverture s’est décliné dans la production de marchandises avec l’open hardware, dans les données avec l’open data (mise à disposition de données publiques) ou encore dans le partage des connaissances avec l’open innovation, l’open science, etc. Ce mouvement général repose sur la libre circulation des savoirs, l’accessibilité au « faire » et la coopération entre pairs.
  • « Quand des salariés transforment leur entreprise en coopérative, cela ne les empêche pas de recruter un directeur, mais la direction est une compétence de coordination et non un organe de pouvoir. C’est la même chose dans le pair-à-pair », précise-t-elle.
  • ...4 more annotations...
  • Mais, si l’open source a permis au libre de gagner en efficacité, sa focalisation sur la technique l’a sans doute éloigné de ceux à qui il s’adressait en premier lieu : tous les autres, qui ne développent pas. Le libre reste, en effet, très circonscrit au monde de l’informatique et se compose majoritairement d’hommes, même si d’une multitude de nationalités.
  • Les logiciels libres ne permettent pas forcément de protéger les données, mais on est sûr que l’exploitation des données ne constitue pas le modèle économique du service. Quand on entre dans l’état d ’esprit du logiciel libre, on prend conscience de l’impact de l’informatique dans sa propre vie, on est plus vigilant et on est assuré que quelqu’un quelque part vérifiera s’il y a des mouchards dans le code et alertera les autres. La faiblesse du libre, c’est que si j’envoie un mail à un ami qui est sur Gmail, malgré tous mes efforts, Google aura mes données. Le libre te pousse à considérer l’interconnexion aux autres et le risque qu’on fait prendre aux autres en laissant ses données sur internet sans s’assurer de ce qu’elles deviennent », explique Catherine Guillard.
  • L’une des clés serait sans doute de rendre l’engagement dans le libre aussi mobilisateur pour d’autres métiers que ceux du développement... Par exemple les graphistes, les juristes ou pourquoi pas le monde médical, qui tous doivent composer avec le numérique et les dérives de certains de ses acteurs. Enfin, il faudrait peut-être revenir aux origines sociales et politiques du libre.
  • En effet, à l’image du bio qui n’est pas qu’une méthode de culture, le libre n’est pas qu’une méthode de développement, mais propose un modèle de société plus respectueux des autres, plus solidaire, plus attentif aux impacts sociaux et environnementaux. Faire un pas vers le libre, c’est, au fond, soutenir le « faire ensemble ».
  •  
    "Les logiciels libres et le mouvement open source luttent contre les boîtes noires, prônant le partage des savoirs et le « faire ensemble ». Mais l'ouverture des codes est-elle vraiment un gage d'ouverture aux autres ? Le monde du « libre » ne devrait-il pas engager une mutation pour rendre plus tangible sa dimension solidaire et toucher un public plus large ? Ce sont les questions que pose cet article de Solidarum, issu du numéro 3 de la revue Visions solidaires pour demain, en librairie depuis la mi-janvier."
Aurialie Jublin

Internet est une utopie : les fausses promesses du numérique - L'ADN - 0 views

  •  
    "L'Internet était une promesse utopique, il est devenu notre cauchemar contemporain, s'alarme le pionnier du Web français Bruno Walther. Hypnotisés par nos écrans, nous ne cherchons plus à changer le monde mais à le fuir. Et si l'on se reconnectait au réel ?"
Aurialie Jublin

Derrière les promesses de l'intelligence artificielle, le cauchemar du "digit... - 0 views

  • En l’absence de régulation, le digital labor préfigure le pire du travail : un monde de travailleurs isolés, privés de droits sociaux et iolés les uns des autres, livrés aux conditions léonines des employeurs — et accomplissant des tâches standardisées, fragmentées, peu qualifiées et dépourvues de sens global. Ici et là, des tentatives de régulation ou de création de plateformes équitables sont en cours. Il est urgent de les soutenir, si l’on ne veut pas que le développement croissant de l’automatisation ne soit synonyme non d’une disparition du travail, mais de sa dégradation irrémédiable.
  • Cet imaginaire largement libertarien irrigue profondément la culture du web depuis ses débuts et s’incarne, par exemple, dans la figure du hacker ou de l’entrepreneur nomade, du passionné qui s’accomplit dans un « projet professionnel qui est aussi existentiel ». Mais Antonio Casilli note combien cette vision est élitiste et ne prend pas en compte l’asymétrie des forces dans un marché du travail en berne où le chômage est élevé et l’ascenseur social en panne,
  • « Ce ne sont pas les machines qui font le travail des hommes, mais les hommes qui sont poussés à réaliser un digital labor pour les machines en les accompagnant, en les invitant, en les entraînant », résume le chercheur. Les intelligences artificielles doivent toujours être paramétrées, entraînées et encore très largement supervisées par des humains, malgré les progrès des méthodes d’apprentissage non supervisés. Les progrès fulgurants des IA ces dernières années sont surtout dus à l’explosion des quantités de données d’entraînement : or celles-ci doivent être triées, annotées, préparées par des humains. Et enfin, ces programmes doivent être évalués et corrigés pour pouvoir s’améliorer. Ainsi, les utilisateurs vont utiliser pendant plusieurs années une version beta du service Gmail de Google, pour l’améliorer, ou tagger leurs amis sur des photos et contribuer ainsi sans nécessairement en avoir conscience à l’affinement du service de reconnaissance faciale de Facebook : « C’est un travail humble et discret, qui fait de nous, contemporains, à la fois les dresseurs, les manouvriers et les agents d’entretien de ces équipements. » La question que pose l’intelligence artificielle et l’automatisation, ce n’est donc pas celle de la menace sur l’emploi – mais celle de la transformation profonde du travail pour répondre aux besoins de la machine.
  •  
    "Un spectre hante l'intelligence artificielle, c'est le digital labor. Le dernier livre du sociologue Antonio Casilli , spécialiste des réseaux sociaux et des mutations du travail à l'ère numérique, dresse un panorama sombre des nouvelles formes de travail déconsidéré ou invisible apparues avec l'essor des plateformes et de l'automatisation."
Aurialie Jublin

Contre la haine en ligne, des internautes s'organisent | Slate.fr - 0 views

  • Aux côtés de 173 personnes inconnues, il répond méthodiquement à la haine à l'œuvre dans les commentaires d'articles. Avec ses camarades, il se coordonne dans un groupe Facebook, secret et fermé, dont le nom reprend ironiquement un sigle policier. Il réunit femmes et hommes de 20 à 55 ans, «beaucoup de travailleurs sociaux», suppose Simon, même s'il n’en connaît personnellement que très peu. Depuis 2016, le groupe veille sur les posts Facebook des journaux normands pour faire en sorte que les commentaires les plus «likés», et donc ceux qui remontent tout en haut de la section, ne soient pas systématiquement les plus haineux.
  • Une trentaine de membres sont réellement actifs et actives, dont une dizaine qui réalise une veille sur les sujets connus pour être des «attrape-haine»: immigration, sexisme, protection sociale, etc. Dans un Google Doc, des argumentaires, chiffres-clés et articles sont prêts à être copiés-collés pour gagner un peu de temps au moment de rédiger son commentaire.
  • Face aux discours de haine en ligne, une majorité de personnes reste silencieuse, par manque de temps ou tout simplement manque d’arguments. Pour pallier cela, le think tank Renaissance numérique a créé «Seriously» en 2015, une méthode pour accompagner les internautes afin d'apprendre à répondre à la haine et à dépassionner les débats. Créé à l'origine dans le but d’aider des associations comme SOS homophobie ou SOS Racisme sur les réseaux sociaux, le site a aujourd’hui une portée plus vaste.
  • ...4 more annotations...
  • Xavier estime que la responsabilité de répondre à la haine est collective. «Les journalistes ne sont ni assez nombreux, ni assez payés pour le faire sous tous leurs articles, souligne-t-il, il ne faut pas laisser la désinformation se répandre. On a trop longtemps considéré les commentaires comme un bruit de fond.» Pourtant, nous connaissons aujourd’hui le pouvoir de ces derniers sur le lectorat. En 2015, une équipe de recherche a prouvé que la perception d’un article était modifiée par les commentaires correspondant sur Facebook. Les scientifiques ont fait lire le même article à des volontaires, avec une variation de mentions «j’aime» et de commentaires. Plus le nombre de commentaires négatifs était important, plus l’article était perçu comme peu convaincant –le nombre de «likes» était cependant loin d’avoir le même effet.
  • «On peut arriver à se comprendre, ce sont juste des personnes en colère, constate-t-il. On a laissé faire les choses en considérant cela comme un bruit de fond. “Don’t feed the troll”, pour moi c’est complètement faux, il faut intervenir!». En effet, trois scientifiques ont analysé les commentaires sous 100.000 posts et découvert que si le premier commentaire visible est positif, les internautes ont tendance à être positifs dans leur réaction et inversement quand le premier commentaire est négatif.
  • Au mois de janvier, SOS Racisme a créé un groupe Facebook fermé appelé «#TEAMRIPOSTE!» qui a pour but de réunir des personnes qui veulent militer de chez elles et aider à commenter les publications sur les réseaux sociaux. Sur la page du groupe, on peut lire: «La légalité ne s’arrête pas aux portes d’internet, il est aussi important de rappeler qu’un grand nombre de mesures peuvent être prises pour supprimer ces messages racistes ou faire condamner leurs auteurs». Pharos, une plateforme en ligne mise en place par le gouvernement, permet de signaler des contenus ou des comportements illicites.
  • Selon Jennyfer Chrétien du think tank Renaissance numérique, l’un des plus gros combats à mener est éducatif. Pour cela, le groupe de réflexion prépare des programmes de sensibilisation, surtout auprès du jeune public. «Nous ne pouvons pas nous contenter de sanctionner les propos illicites», affirme la directrice. Il est impératif de travailler sur le «réflexe de fermeture de l'onglet» qui doit être converti en «réflexe citoyen».
  •  
    "Prendre le temps de répondre aux commentaires qui pourrissent le web pour tenter de le pacifier."
Aurialie Jublin

The next billion users : une immersion dans l'internet des pauvres - Digital Society Forum - 0 views

  • Rien n’y fait : équipés d’Internet, les pauvres ne font pas du tout ce qu’on attend d’eux, à savoir se sortir de la pauvreté. Les cabines numériques disposées dans les villages indiens deviennent des bornes d’arcade et, surprise, les cent millions d’ordinateurs de l’opération « One laptop per child » (financée par des entreprises, notamment AMD, Brightstar Corporation, eBay, Google, Marvell, etc.) n’ont pas réduit le fossé éducatif, sans doute parce qu’ils avaient été distribués à des enfants ne sachant parfois ni lire ni écrire. Des absurdités de ce type, l’autrice en dresse une longue liste, comme ces smartphones que l’on distribue à de jeunes femmes n’ayant le droit de s’en servir que pour passer des appels d’urgence. A New Delhi, d’autres jeunes femmes (les « computer girls ») deviennent des craques de l’informatique, mais restent assignées à leur statut traditionnel, système de castes oblige. Le constat est sans ambiguïté : non seulement la technologie tombe du ciel sans être intégrée dans une quelconque stratégie sociale, mais toute tentative de réappropriation est méprisée et découragée.
  • Histoire similaire en Chine, où l’on craignait que les cybercafés populaires ne favorisent les activités anti-régime. Ils furent rapidement interdits aux mineurs et on y généralisa le tracking, une pratique désormais monnaie courante dans l’Empire du Milieu. D’exemple en exemple, Payal Arora démontre que les décisions prises par les pouvoirs en place n’ont eu de cesse de réduire l’accès à Internet et à la culture aux personnes les moins dotées, sous prétexte que l’usage qui en serait fait n’entrerait pas dans les bons standards de moralité. Comme souvent, les pauvres font l’objet de politiques paternalistes : on leur demande d’être vertueux et le moindre faux pas les condamne.
  • A l’inverse, la débrouille des quartiers défavorisés est érigée en exemple à suivre. La mode de l’innovation frugale (ou « Jugaad innovation » ) qui consiste à innover avec des ressources limitées, en témoigne. En Inde par exemple, la customisation des véhicules afin de transporter plus de passagers est souvent mise en avant. Cependant, elle augmente sensiblement le nombre d’accidents : « la frugalité a un coût, celui de la sécurité », écrit Arora. Les Nano cars de Tata – des petites voitures accessibles au plus grand nombre – quant à elles, sont certes pratiques mais occasionnent de lourds dégâts environnementaux : rien ne dit aujourd’hui que ces innovations améliorent réellement la vie des pauvres, affirme la chercheuse
  • ...9 more annotations...
  • Plus grave encore, il y a fort à parier qu’elles freinent les solutions de plus long terme comme par exemple le développement de transports publics accessibles à tous. Côté mobile, une application comme AquaSift permet de détecter la toxicité de l’eau mais ne résout en rien le fait que dans beaucoup de communautés pauvres, y accéder reste difficile. On ne change pas le gouvernement avec une application. Si l’innovation frugale rencontre un succès fulgurant en Occident, ce n’est que parce que nous en avons totalement romantisé l’image.
  • En somme, la frugalité (Jugaad en Inde, « Shan-zaï » en Chine, « Gambiarra », « Bacalhau » ou « Jeitinho » au Brésil) est aussi une forme de solutionnisme technologique qui repose, une fois encore, sur la confortable conviction que les pauvres ont toutes les ressources en eux pour s’en sortir, pourvu qu’ils articulent habilement leurs problèmes aux dernières technologies disponibles.
  • Payal Arora n’a pas de mots assez durs pour dénoncer la vaste supercherie du système. Non seulement aucune relation de causalité n’a prouvé son efficacité, mais en plus, il structure l’éducation dans un sens qui pose une multitude de questions d’ordre éthiques et politiques. Ainsi, ces appareils et les programmes soi-disant éducatifs avec lesquels ils fonctionnent restent des boîtes noires, indisponibles à tout audit sérieux. L’expérimentation, qui dure 75 jours, nécessite la présence d’un ou plusieurs adultes dont on ne connaît pas la rémunération et le protocole de suivi des enfants est tout sauf rigoureux scientifiquement. Des études plus sérieuses ont rapporté que la plupart des machines ne fonctionnaient pas, faute de connexion Internet. Et quand elles marchaient, elles étaient souvent monopolisés par de jeunes garçons devant des jeux vidéos. Enfin, les contenus pédagogiques, souvent en anglais, présentent un danger pour la pérennité des langues traditionnelles. Pour le professeur Mark Warschauer (University of California), cité par Arora, ces dispositifs sont un échec total. Pourtant, Mitra a bien récolté un million d’euros grâce au Ted Prize pour cette « école dans le cloud » résolument inefficace… Pour Arora, cette triste histoire trouve ses racines dans la foi encore trop peu contestée dans le constructivisme , une théorie qui stipule que l’enfant peut apprendre seul et sans professeur.
  • En prenant un peu de hauteur, la chercheuse critique plus largement une certaine forme de philanthropie très à la mode dans les milieux technologiques. Elle l’accuse ouvertement d’être contre-productive et de servir les intérêts de grandes corporations plus que des populations pauvres : « la technologie est devenue une institution en soi, la pauvreté une opportunité. La croyance néolibérale en l’efficacité absolue du marché transforme n’importe quelle inégalité en actif pour l’innovation. » Pour Arora, cette idéologie vient justifier la nécessité de tester sur les moins aisés de nouvelles solutions qu’un riche Occidental n’imaginerait même pas pour ses propres enfants. Les pauvres n’ont pas besoin de plus d’innovation, mais de moins d’innovation, affirme-telle : « Si l’innovation est une courroie de transmission pour des projets pilote, alors les pauvres seront mieux sans. Ils ne devraient pas servir de rats de laboratoires pour les nouvelles technologies. Le simple fait qu’une technologie est nouvelle ne devrait pas justifier en soi qu’on l’expérimente sur des pauvres ».
  • Sa dénonciation englobe aussi le projet « AltSchool » largement financé par Mark Zuckerberg et Priscilla Chan, une sorte de « classe Ikea », où les enfants terminent seuls devant des écrans, pour un prix conséquent et sans que son efficacité réelle soit démontrée. Le plus grand problème selon elle, reste que le marché pardonne plus facilement les défaillances technologiques qu’humaines : la Silicon Valley peut réinjecter des millions de dollars pour trouver une nouvelle solution technique à un problème ancien, mais elle refuse de réfléchir aux problèmes de fond, comme le manque de professeurs ou l’état désastreux des écoles dans certains quartiers.
  • En dernière partie d’ouvrage, Payal Arora attaque les questions liant surveillance et vie privée. On le savait déjà, les pauvres en ont toujours été surveillés. Le « social credit system » chinois et son cousin indien « Unique Digital Number » (UID) sont ainsi connus pour conforter les hiérarchies sociales en place et agir par contagion : en Chine, fréquenter une personne dont le score est bas revient à prendre le risque de voir baisser son propre score. On en déduirait un peu rapidement que dans les pays pauvres, et plus généralement en dehors de l’Occident, la vie privée aurait moins de valeur aux yeux des individus. A y regarder de près, cela semble un peu plus compliqué. En interrogeant plus largement les usages quotidiens des réseaux sociaux dans les favelas et autres bidonvilles, Arora montre qu’ici comme là-bas, la vie privée n’est pas sans valeur ni abstraite, mais un concept avant tout lié à des particularités culturelles. Au Brésil par exemple, une jeune femme déclare ne pas en vouloir à sa mère de la « stalker » en ligne (c’est-à-dire à suivre ces déplacements, fouiller ses messages et autres réseaux d’amis)
  • En Inde, Facebook est pour de nombreux jeunes l’occasion de parler au sexe opposé, chose difficile dans la vie réelle. Le Chat est à ce titre tout à fait adapté à la romance, à travers des poèmes et autres conversations romantiques. Cependant, à l’échelle mondiale, un tiers de ces échanges se font anonymement, avant tout pour protéger les données personnelles et par souci de réputation, notamment en Asie.
  • Arora en profite pour démonter les profonds préjugés qui tendent nous à faire croire que parce que l’on est pauvre, parce que l’on vit dans une communauté étroitement liée, parfois à plusieurs dans une même pièce, on ne valoriserait pas la vie privée. En réalité, les pauvres, dans les pays étudiés par Arora, ne sont pas moins attachés à la confidentialité que les Occidentaux, même si celle-ci prend différentes significations en fonction des pays, des cultures et des genres. Dans un village en Jordanie, la confidentialité sert avant tout à protéger la vertu féminine et l’honneur masculin (préserver son image dans la communauté, ne pas s’exposer publiquement pour les femmes). Dans une famille aisée du Royaume-Uni, elle préserve l’innocence des jeunes (notamment à travers le filtrage des contenus). Plus encore qu’en Occident, préserver sa confidentialité dans les pays pauvres relève de la lutte car le succès immense des réseaux amène aussi son lot de danger : « revenge porn » et harcèlement peuvent ruiner la réputation d’un individu, conduire à l’exil et même au suicide.
  • The Next Billion Users, Digital Life Beyond the West est, en résumé, une étude inestimable, formidablement documentée et regorgeant d’illustrations plus pertinentes les unes que els autres. Loin des théories globalisantes qui tendent à mettre dans un même sac « Les Chinois », « Les Indiens », quitte à les opposer à l’Occident dans une lutte pour la puissance technologique, cette enquête de terrain vient au contraire contredire nos préjugés sur ce monde que nous jugeons bien souvent à l’emporte-pièce et sans nous embarrasser de détails. A travers son étude et notamment ses entretiens et anecdotes, la chercheuse met en lumière les relents colonialistes qui ponctuent les relations Nord-Sud, notamment en matière numérique. Arora brise notre propension à romantiser la pauvreté, à ne l’envisager qu’à travers nos lunettes postcoloniales, comme une tribu de bons sauvages qu’il faudrait éduquer à notre mode de vie. Enfin, elle réduit en poussière le fantasme du pauvre débrouillard, entrepreneur par nature, auto-organisé et vertueux. Cette vision, biaisée, n’a pour objet que d’asseoir les projets technocratiques de l’Occident, qui ne regarde que ses intérêts propres et surtout pas ceux des populations « à civiliser ».
  •  
    "A quoi ressemble l'Internet des pauvres ? Pas à l'image romantique forgée par la philanthropie occidentale, explique l'anthropologue Payal Arora. Pourtant, cette conception paternaliste de la pauvreté informe toujours nombre d'initiatives de développement par la technologie, qui s'apparentent à une nouvelle forme de solutionnisme."
Aurialie Jublin

La « colère Internet ». Et si les révolutions étaient désormais algorithmique... - 0 views

  •  
    "Clément Mabi (@C_Mabi), maître de conférences à l'UTC de Compiègne, spécialiste des questions d'expérimentation démocratique, de participation citoyenne et de culture numérique, interroge dans ce texte le rôle d'Internet dans l'émergence et la structuration des mouvements politiques récents. Là où nous posons trop souvent un regard binaire sur Internet, le jugeant coup à coup favorable à la démocratie, ou encourageant des visées populistes, son propos opte pour une remise en contexte sociale de l'usage des technologies qui permet de dépasser cette dichotomie trop stricte. Il défend qu'Internet n'est pas stricto sensu une représentation fidèle du monde social, mais plutôt son miroir déformant qu'il convient d'étudier sous différents angles avant de se laisser aller à des jugements hâtifs et englobants."
Aurialie Jublin

Gilles Babinet : «Il faut arrêter ce projet et mettre en place une concertati... - 0 views

  • Il y a aujourd’hui une compétition entre réseaux sociaux. En Chine, WeChat a intégré depuis longtemps un système de paiement, qui rencontre un grand succès. S’il ne lance pas un service équivalent, Facebook peut se mettre en danger et va avoir du mal à perdurer. Mais à la différence d’un autre réseau social, Facebook ne peut pas le faire sans concertation, à la fois pour des raisons de taille, d’historique et de gouvernance.
  • On ne peut pas lancer un système de paiement avec une échelle, à terme, de 2,5 milliards d’utilisateurs, sans une large concertation avec les parties prenantes, à commencer par les Etats, et ce pour cinq raisons. La première, c’est justement le nombre d’utilisateurs concernés. La deuxième, c’est que la conjugaison entre un réseau social avancé et un système de paiement est précisément ce qui permet les systèmes de «crédit social», comme en Chine, avec une sanction des «mauvais comportements». La troisième, c’est le risque que demain, Facebook se mette à faire du crédit, et donc de l’émission monétaire. La quatrième, c’est qu’un tel projet a, selon moi, une nature politique. Je me souviens de ce que disait Peter Thiel, qui siège toujours au conseil d’administration de Facebook, lorsqu’il a lancé PayPal : il le voyait comme un moyen de contourner les Etats… Enfin, la cinquième raison est que, par le passé, Facebook n’a pas démontré, loin s’en faut, sa capacité à avoir une gouvernance optimale dans ses projets.
  • A long terme, il y a un risque politique : celui de voir émerger une puissance monétaire en capacité, notamment, d’influencer les marchés. C’est peut-être à l’échéance de cinq ou dix ans, mais c’est un risque significatif.
  • ...3 more annotations...
  • Je ne vois pas Facebook rencontrer un succès dans les systèmes de paiement sans vouloir aller plus loin : si vous connaissez le comportement des gens, vous êtes capable de qualifier le risque attaché à l’utilisation de l’argent, donc de créer des produits financiers sophistiqués, des produits assurantiels… Et je ne les imagine pas se limiter à un système de transaction et ne pas venir, à terme, sur l’émission monétaire.
  • Je ne suis pas sûr qu’il faille vraiment démanteler Facebook, mais je suis certain qu’il faut en changer la gouvernance. On ne peut pas avoir des gens qui débarquent dans la vie de 2,5 milliards de personnes et disent : «On a parlé avec le gouverneur de la Banque centrale d’Angleterre et avec quelques régulateurs, et on y va.» C’est inacceptable.
  • Il faut d’abord arrêter ce projet, et mettre en place une concertation avec les Etats, à commencer par le G7. Des débats citoyens seraient sans doute nécessaires : l’émission monétaire, les produits financiers, ce sont des sujets assez techniques, mais ce sont des enjeux importants. De façon plus générale, il y a une asymétrie entre les Etats qui cherchent à innover mais sont soumis à des règles, à des normes, et les innovateurs - le cas de Facebook est très emblématique - qui ont une culture de la rupture. Et cette asymétrie est très défavorable aux Etats. Il faut que nous ayons, entre les deux, la capacité à faire naître de l’innovation qui soit réellement au service du bien commun. Jusqu’à preuve du contraire, et même si c’est une plateforme fantastique, le bien commun n’est pas dans Facebook.
  •  
    "Gilles Babinet, spécialiste des questions numériques, détaille les raisons pour lesquelles le libra présente de vrais risques à terme, et menace notamment la souveraineté des pays."
Aurialie Jublin

Techlash : et si le retour de bâton de la "tech" était l'occasion de formuler... - 0 views

  •  
    "Le « Techlash » n'épargne plus aucune entreprise technologique aux Etats-Unis. Forgée par The Economist, la formule désigne le « retour de bâton » qui vise les géants du numérique dont les déboires sont désormais quotidiens. Scandales à répétition, revendications de la part des salariés, mouvements citoyens et de consommateurs, fronde des Etats : le monde de la « tech » est attaqué sur tous les fronts mais poursuit son irrésistible ascension financière. Pris un à un, les retentissements du techlash font le buzz, mais ce qui couve est plus profond et appelle à une meilleure prise en compte des aspirations de la société dans les modes de conception des technologies."
Aurialie Jublin

Illectronisme : quelles solutions pour les exclus du numérique ? - U&R - 0 views

  • Le Livre Blanc appelle ainsi les concepteurs à améliorer la simplicité d’accès, estimant qu’une « grande part de responsabilité » incombe aux designers d’interface (UX designers) dans l’intégration des problématiques d’accessibilité aux outils du numérique. « Les concepteurs de sites ont tendance à créer des sites pour eux-mêmes, commente Olivier Sauvage, entrepreneur et fondateur de Wexperience, société de conseil en UX Design. C’est aussi un problème de formation : pendant leurs études, pratiquement aucun UX designer n’entend parler d’illectronisme. Il faut absolument former ceux qui font le web à ces questions-là ».
  • À moins que les personnes concernées par l'illectronisme ne soient aidées par les interfaces vocales. C’est le pari d’Olivier Mejean, directeur de demain.ai, un cabinet de conseil en stratégie spécialisé dans l'intelligence artificielle, et également contributeur du rapport. À ses yeux, la solution peut résider en deux lettres désormais bien connues : IA. « Pour apporter un service à ceux qui ne sont pas capables de communiquer via des interfaces, la meilleure solution n’est-elle pas de créer une interface sans interface ?  », explique-t-il, estimant qu’on peut « récupérer une partie des gens par la voix ».
  • L’apprentissage machine pourrait également permettre d’identifier les « abandonnistes », soit les 19% des Français qui, au cours des douze derniers mois, ont renoncé plus d’une fois à faire quelque chose parce qu’il fallait utiliser Internet. « La machine est capable de déceler les comportements anormaux, et donc d’identifier la personne qui est sur le point d’abandonner et de la rattraper, en lui proposant soit d’appeler un numéro, soit de prendre un rendez-vous, soit d'échanger avec un chatbot ». Soit exactement les stratégies déployées par les sites de e-commerce pour vous rattraper quand vous avez déguerpi avant de « valider votre panier » - leur hantise ultime.
  • ...1 more annotation...
  • Alors que rien ne semble pouvoir arrêter la dématérialisation, le « cyberminimalisme » et l'émergence d'un « droit à la non-connexion qui donnerait le droit, par exemple, d’accéder aux services publics sans passer par un écran, en allant trouver un humain à un guichet » ne semblent donc toujours pas être des options pour notre futur. 
  •  
    "Le Syndicat de la Presse sociale (SPS) publie un Livre Blanc contre l'illectronisme. Un phénomène qui concerne 23% de la population française."
Aurialie Jublin

SCANI, Internet autrement - 0 views

  •  
    "la Société Coopérative d'Aménagement Numérique Icaunaise (SCANI) est un fournisseur d'accès internet coopératif qui rassemble particuliers, entreprises et collectivités de l'Yonne. Chaque utilisateur est copropriétaire du réseau et peut influer sur l'avenir de son accès à internet."
Aurialie Jublin

« Les opérateurs télécom sont devenus les prolétaires du web » - U&R - 0 views

  • Nous sommes en voie de babélisation : Facebook est une tour de Babel, Google en est une autre. La Chine est à ce jour le seul « État plateforme » complet, avec l'imbrication du politique coercitif et du numérique via ces autres silos que sont les BATX (Baidu, Alibaba, Tencent, Xiaomi). Les choix technologiques asymétriques qui ont été faits ne pouvaient que conduire à l'émergence de ces silos. Et dans ces silos, nous passons notre temps à émettre des signaux pour gagner de l'attention. Mais on peut échapper au darwinisme numérique, qui amène les IA à nous remplacer progressivement pour toutes sortes de tâches, des plus fastidieuses aux plus artistiques, comme nous le vantent ceux qui en ont la maitrise, à savoir les gourous de la Silicon Valley. Les opérateurs télécom sont devenus les prolétaires du web alors qu'ils en étaient les maîtres.
  • Existe-t-il une lueur d'espoir, quand même, dans votre vision du futur d'Internet ? Oui, car les protocoles symétriques d'origine, comme la norme IPV6, sont toujours là. Et ça permet la distribution par chacun d'entre nous, au lieu de la confier à ces silos géants, dont le modèle économique repose sur les données que nous leur offrons gratuitement en échange de notre capacité à émettre ces signaux d'attention dont je parlais plus tô. Le péché originel, ce sont les protocoles asymétriques qui nous ont privé de notre singularité. Mais on peut encore croire à un âge de raison des réseaux. Il faudra peut-être 2, 3 ou 4 générations, et ça passera peut-être par des contractions violentes, mais c'est encore possible. C'est nous qui devons agir ! Les États n'agiront pas car agir serait contraire aux intérêts de la surveillance. Et les plateformes n'agiront pas non plus, car ce serait contraire aux intérêts de leurs actionnaires. Nous devons tous aspirer à l'émergence de cet être en réseau, qu'on ne peut décrire mais qui est là, et que la sonde poéitique permet de deviner par moments. Ce sera une révolution copernicienne.
  • Quand Mark Zuckerberg poste une photo de son chien, qui s'appelle Beast, des centaines de milliers de personnes s'intéressent à ce chien, qui n'aurait aucun intérêt si ce n'était pas celui du patron de Facebook. Elle est là, l'asymétrie de l'attention. C'est un changement de perspective dont on a besoin. Et justement, avant Filippo Brunelleschi, vers 1420, il n'y avait pas de perspective dans les tableaux, tout était à plat. Grâce à son bricolage avec un cadre et un miroir, il a donné à voir le monde via les tableaux (qui sont les ancêtres de nos écrans) avec la perspective optique, qui n'existait pas avant lui.
  • ...1 more annotation...
  • Et nous aurons peut-être un jour un grand espace de partage, avec tout le monde à égalité, dans lequel chacun est libre de prendre sa part ou pas, et dans lequel tout le monde sera traité de la même façon s'il décide d'en être. Un tel espace permettrait l'éclosion de communs. Nous sommes aujourd'hui quelques chercheurs à commencer à définir ce nouveau champ de recherche qui n'en est qu'à ses débuts.
  •  
    "« On peut encore croire à un âge de raison des réseaux », nous dit le chercheur Olivier Auber, qui dans son nouveau livre, Anoptikon (FYP éditions, 2019), plaide pour un changement de perspective afin de faire d'Internet le grand espace de partage qu'il promettait d'être à ses débuts."
Aurialie Jublin

Paris se dote de sa propre infrastructure pour héberger les données de ses ad... - 0 views

  • Alors que les services publics sont de plus en plus numérisés, ce nouvel équipement doit offrir les plus hauts standards de sécurité quant à l’hébergement des données. Il permet notamment à Paris, qui externalisait jusque-là cette prestation, de ne plus dépendre d’acteurs étrangers – possiblement soumis à des réglementations, comme le Cloud Act, lequel permet aux Etats-Unis de réclamer à des fournisseurs de service américains l’accès à des données stockées à l’étranger – et de garantir ainsi la souveraineté des données. En outre, sauf dans le cas de missions ponctuelles, les équipements sont entièrement gérés par les services informatiques de la mairie. « Nous avons la maîtrise physique du stockage de bout en bout », se réjouit M. Grégoire.
  • La mairie a également tenu à ce que cette installation ait une empreinte environnementale limitée. Manifestation la plus visible de cette volonté, la chaleur dégagée par le data center est utilisée pour alimenter le réseau de chauffage de bâtiments voisins.
  • Ce nouvel équipement a nécessité un investissement de 16 millions d’euros. Pour faire baisser la facture, la mairie a dimensionné le lieu de telle sorte qu’il puisse proposer à d’autres services publics d’accueillir leurs serveurs, moyennant finances – à un coût qu’elle assure avantageux. L’Assistance publique-Hôpitaux de Paris et Eau de Paris comptent parmi ses premiers clients, et des discussions sont en cours pour conclure de nouveaux contrats.
  • ...1 more annotation...
  • Une telle solution pourrait-elle être adoptée par d’autres villes françaises ? L’adjoint au maire admet que le coût d’entrée est prohibitif et que Paris n’aurait pas pu faire ce choix s’il ne disposait pas des compétences en interne pour créer et maintenir ce site. Mais, veut-il croire, « c’est une philosophie qui est appelée à se développer ».
  •  
    "Alors qu'elle externalisait jusque-là le stockage de ses données numériques, la ville a investi 16 millions d'euros dans un centre de données pour en reprendre le contrôle."
Aurialie Jublin

affordance.info: World Wide (under)Wear : l'homme de Vitruve numérique - 0 views

  •  
    "Evolution qui pourrait être la suivante : l'économie de l'attention se transformera en "économie de l'occupation" avec comme point pivot de l'une à l'autre une économie de la distraction. La distraction qui, algorithmiquement régulée et organisée, est seule capable de focaliser notre attention et de la transformer en occupation. Là où l'attention dans la thèse de Herbert Simon était définie - en gros hein ... - comme la somme du temps de visionnage, du temps d'audition et du temps d'usage, l'économie de l'occupation pourrait être définie par la somme du temps de captation passive, du temps de mesure passive et du temps d'interaction directe avec des équipements et des dipositifs à portée ou en relation directe avec 3 de nos 5 sens (vue, toucher, voix). Plus précisément l'économie de l'occupation pourrait se résumer ainsi : + Temps de captation passive (principalement de nos données) + Temps de mesure passive (principalement de nos comportements) + Temps d'usage passif (de dispositifs et/ou d'objets disséminés à même notre corps et/ou dans notre environnement cinesthésique direct, c'est à dire à portée de 3 de nos 5 sens) = Temps d'occupation Comme on le voit sur la métaphore visuelle de l'Homme de Vitruve ci-après, si l'économie de l'attention s'exerçait sur la partie "haute" de nos facultés, l'économie de l'occupation est davantage centrée sur la partie basse de notre "mobilité", sur nos fonctions motrices plus que sur nos fonctions cérébrales. Et là où l'économie de l'attention mobilisait avant tout de l'information et des espaces de discours (partie haute toujours), l'économie de l'occupation mobilise principalement des données et des capteurs (partie basse)."
Aurialie Jublin

La plupart des applis pour les réfugiés ne sont pas utilisées - Digital Socie... - 0 views

  • avec la généralisation du mobile. Celle-ci a instauré un mode d’existence différent, fondé sur la joignabilité permanente. Les nouvelles technologies ont apporté des réponses immédiates à certains besoins des migrants : rester proche de la famille, rendre la migration supportable. À mesure que ces technologies se sont développées, elles ont envahi tous les aspects de la vie des migrants. Elles ont aussi amené de nouvelles contraintes : les smart borders , le tracking, la question de la privacy, ainsi que des contraintes sociales nouvelles comme l’obligation d’être présent même à distance, d’envoyer de l’argent…
  • Tout s’accélère en 2015, quand les médias mettent en lumière le migrant connecté. De tous côtés activistes et hackers se mettent à créer des applications pour les réfugiés. Il y a une vague d’idées, une sorte de « technophorie ». Avec une expertise technique sur le sujet, beaucoup d’élan et d’initiative, mais sans vraiment avoir étudié la chose avant, sans avoir réellement regardé les usages.
  • Toutes les associations doivent soudain s’y mettre, le Haut Commissariat aux Réfugiés de l’ONU se lance aussi là-dedans, Techfugees naît et la presse encourage beaucoup ces initiatives. Il y a de l’argent, public et privé, pour développer des prototypes, mais pas assez pour accompagner ces applications vers leur maturation, les phases de testing, le développement d’un business model.
  • ...6 more annotations...
  • Avec mes collègues Léa Macias et Samuel Huron, nous avons inventorié une centaine d’applications et de plateformes construites ces 8 dernières années. Celles-ci proposent des services très variés : Information-service, mise en relation, recherche d’emploi, hébergement, traduction, apprentissage des langues, éducation et formation, identité, santé… Nous avons constaté que ces applications ont une vie de comète : ainsi en juin 2018, 27 % des applications recensées précédemment avaient disparu (13 sur les 48 recensées). En septembre 2018, 29 % avaient disparu (soit 10 sur les 35 recensées).
  • Nous avons aussi testé ces applications avec des réfugiés inscrits à l’école Simplon, dans le programme Refugeek qui les forme à être programmeurs en France. Ce sont des gens habitués au code, aux applications. Dans leur téléphone, nous n’avons trouvé aucune application destinée aux réfugiés. Ils utilisent Facebook, WhatsApp, Google, comme tout le monde
  • Nous avons aussi constaté que toutes les applications, même les plus simples, demandaient des informations personnelles. Toutes ont l’idée de faire reposer leur modèle économique sur les data. C’est classique dans le champ des applications. Mais quand on travaille avec des réfugiés, c’est délicat. Car ces personnes ne sont pas réfugiées par hasard : elles fuient des dangers et il faut faire très attention avec ces données.
  • Les applications qui marchent, comme CALM (Comme à la Maison, application qui met en lien des réfugiés avec des particuliers qui peuvent les héberger pour des durées variables, ndlr), c’est parce qu’elles mettent en pratique une idée longuement mûrie, dans le cas de CALM celle de favoriser l’intégration par l’immersion.
  • CALM, développé par le mouvement citoyen Singa , repose sur l’idée de l’intégration par l’immersion. je crois aussi que c’est très efficace. Les codes d’une société s’acquièrent plus facilement lorsqu’on est immergé dans un environnement, on approche l’altérité différemment. Surtout, des sentiments naissent de cette mise en relation de reconnaissance, de satisfaction... Cela crée une énergie très positive. Parfois ces relations durent quelques semaines, parfois toute une vie. Quand les migrants racontent des trajectoires migratoires réussies, il y a toujours une personne, à un moment donné, qui les a tiré vers la société. Singa a essayé de capter ce moment, de l’investir de manière numérique et je pense que c’est une bonne chose.
  • Ensuite, nous avons vu que l’hospitalité ne pouvait pas être déléguée à des techniques de matching. L’hospitalité, ce n’est pas Tinder. Nous avons essayé d’utiliser le matching pour organiser des rencontres, par exemple, sur la base d’intérêts communs. Mais ça ne marchait pas. Ou bien, quand ça prenait, les gens passaient sur Facebook, qui donne un aperçu plus complet de l’environnement social de la personne... Mais CALM reste une plateforme importante. Elle a été beaucoup médiatisée et a permis d’ouvrir les esprits, de faire parler de l’hébergement chez soi. Je pense qu’elle n’est pas étrangère à l’amendement adopté en octobre 2018 par l’Assemblée Nationale, instaurant un crédit d’impôt pour les personnes hébergeant des réfugiés chez elles .
  •  
    "Depuis le début de la crise migratoire en 2015, de nombreuses applications pour les réfugiés ont vu le jour. Si elles naissent de bonnes intentions, elles sont rarement utiles. C'est ce qu'explique la sociologue Dana Diminescu , enseignante-chercheuse à Télécom Paris-Tech, qui étudie depuis longtemps les usages des TIC chez les migrants (elle avait d'ailleurs coordonné le dossier consacré aux diasporas connectées sur notre site )."
Aurialie Jublin

'C'est de la surveillance': Tim Cook vient de démolir Facebook devant les gen... - 0 views

  • "Il ne faut pas édulcorer les conséquences: c'est de la surveillance." Fort de cette attaque en règle, Tim Cook a salué les efforts politiques menés en Europe avec la mise en application du RGPD (Règlement général sur la protection des données) cette année et les questions posées par le régulateur aux géants de la tech. 
  • Il a aussi affirmé que "chez Apple, nous soutenons pleinement une loi fédérale exhaustive sur la vie privée aux Etats-Unis" et dit considérer le droit à la vie privée comme un "droit humain fondamental". Tim Cook a défendu quatre principes sur lesquels il repose: 1) le droit de minimiser les données personnelles — limitant le droit des entreprises à collecter ces données; 2) le droit à la transparence — pour qu'un internaute sache ce qui est collecté sur lui et à quelles fins; 3) un droit d'accès — pour que les utilisateurs puissent accéder, modifier ou supprimer leurs données; 4) le droit à la sécurité, fondement de la confiance. 
  • En revanche, il ne s'est pas exprimé à Bruxelles sur la question de la fiscalité des acteurs du numérique, alors que le ministre français de l'économie Bruno Le Maire s'efforce de rallier ses pairs européens à un consensus sur l'épineuse question et que la Commissaire européenne à la concurrence Margrethe Vestager a sanctionné Apple pour ses acrobaties fiscales avec l'Irlande en 2016. 
  •  
    "Convié à s'exprimer lors de la Conférence internationale des commissaires à la protection des données et de la vie privée à Bruxelles, ce mercredi 24 octobre 2018, Tim Cook a fait l'apologie d'Apple en dénonçant avec vigueur les travers dont se rend coupable un autre géant de la tech de la Silicon Valley selon lui - Facebook, sans jamais le nommer. "
Aurialie Jublin

Le contrôle des données numériques personnelles est un enjeu de liberté colle... - 0 views

  • Il serait commode de penser que l’humain du XXIe siècle a renoncé à sa vie privée. Mais il ne s’agit pourtant pas d’indifférence. Les sondages montrent avec insistance et sans ambiguïté que les internautes la chérissent encore à l’heure des réseaux sociaux et des smartphones. Comment, alors, expliquer cette apathie ?
  • Pendant des décennies, à raison, défendre la vie privée revenait à protéger l’individu. Aujourd’hui encore, on s’obstine à rechercher et mesurer les conséquences individuelles de cette collecte effrénée de données personnelles et de ces piratages à répétition. Mais le paradigme a changé : la question des données personnelle n’est pas un problème d’intimité. C’est un enjeu de liberté collective.
  • Prenez l’affaire Cambridge Analytica : le problème n’est pas que Donald Trump et son équipe de campagne ont consulté méthodiquement la liste d’amis de 87 millions d’utilisateurs de Facebook (dont plus de 200 000 Français). Mais qu’ils aient pu utiliser ces informations, agrégées à des millions d’autres, pour mener une campagne politique extrêmement personnalisée, quasi individualisée, en utilisant à plein l’invraisemblable machine à cibler des messages proposée par Facebook. L’impact de cette fuite de données personnelles n’est plus individuel, il est collectif. Il ne s’agit pas de l’intimité de son existence vis-à-vis d’une organisation politique, mais de la liberté collégiale de choisir en conscience son dirigeant politique ou ses conditions de vie commune.
  • ...2 more annotations...
  • Au bout du compte et si rien ne change, alors que ces entreprises s’immisceront de plus en plus dans nos activités quotidiennes, passant peu à peu de la « suggestion » à l’« injonction », nous serons sans doute pris au piège des données personnelles. On décidera à notre place, d’une manière qu’on nous présentera comme optimale puisque conçue sur l’analyse de données de millions de personnes dont la vie nous est similaire, et en nous confisquant une part de notre libre arbitre. Il ne s’agit pas d’intimité vis-à-vis d’une quelconque entreprise de la Silicon Valley, mais de liberté individuelle.
  • La seule solution est de limiter la dissémination aux quatre vents de nos données personnelles. Mais comment le faire sans se retirer des connexions, sociales et professionnelles, d’une société désormais numérisée ? Comment renoncer à tous ces avantages ? La solution se trouve quelque part entre le collectif (des règles politiques pour limiter la collecte et l’exploitation des données) et l’individuel (le recours à une technologie plus frugale et plus décentralisée).
  •  
    Les révélations des failles de sécurité touchant des services en ligne s'accumulent. Et la collecte de nos données fait peser un risque collectif d'envergure.
manonmolins

Déclaration de principes - Cities for Digital Rights - 0 views

  •  
    Annoncée dans le cadre de la Smart Cities World Expo à Bacerlone ce jeudi 15 novembre, une coalition de villes (pour le moment : Amsterdam, New York City et Barcelone) - soutenue par l'ONU - s'engage à protéger et soutenir les droits numériques des individus sur internet au niveau local et global.
Aurialie Jublin

CFDT - Travailleurs des plateformes : beaucoup de bruit pour rien ? - 0 views

  • Devant la cour d’appel, son contrat, dénommé « contrat de prestations de services », a été passé au peigne fin. Il en est ressorti que, si le livreur pouvait choisir ses plages horaires (« shifts ») pour effectuer des livraisons, il ne pouvait, sans pénalité, se désengager moins de 72 heures avant leur commencement. Qui plus est, la société Take eat easy se réservait le pouvoir de résiliation du contrat dans certains cas. Aussi, la société avait-elle édicté un « petit guide du coursier », instaurant un système de bonus-malus, les malus étant plus couramment appelés strike. 3 strikes en 1 mois conduisait à une convocation à un entretien avec la société sur les motivations du coursier et 4 strikes à la rupture des relations contractuelles. A la suite du rejet de ses prétentions par le conseil de prud’hommes de Paris, le livreur a interjeté appel. Par une décision du 20 avril 2017, la cour d’appel de Paris a refusé de reconnaître l’existence d’un contrat de travail. Selon les juges du fond, bien que le système de bonus/malus mis en place évoque un pouvoir de sanction, les pénalités sanctionnent des manquements à des obligations contractuelles, ce qui ne caractérise pas un pouvoir de sanction de type salarial. De plus, la cour relève que ces stipulations ne remettent pas en cause la liberté du coursier de choisir ses horaires, le moment de ses congés, tout comme sa durée de travail. Les juges du fond en déduisent que la société Take eat easy « ne détermine pas unilatéralement les conditions d’exécution du travail ».
  • La cour relève également que le livreur n’est lié par aucune clause d’exclusivité. Régisseur dans un petit théâtre parisien, celui-ci exerce même une seconde activité professionnelle. Aux yeux des juges d’appel, « cette liberté totale de travailler ou non (…) est exclusive d’une relation salariale ».
  • Dans sa décision très attendue, la Haute juridiction contredit la solution retenue en appel. La Cour de cassation considère que le livreur était bien lié à la plateforme par un contrat de travail. A cette fin, elle applique les principes classiques en matière de reconnaissance de la qualité de salarié.
  • ...3 more annotations...
  • Selon la Cour, le système de la géolocalisation du livreur permettant son suivi en temps réel, ainsi que le système de sanctions auraient dû conduire les juges du fond à reconnaitre l’existence d’un pouvoir de direction et de contrôle et celle d’un pouvoir de sanction. Toutes choses caractérisant l’existence un contrat de travail.
  • En tout cas, les décisions semblaient autant se fonder sur le degré d’autonomie du travailleur que sur les principes classiques de qualification d’un contrat de travail, qu’elles rappelaient malgré tout. Manière sans doute de prendre en compte la nouveauté de ces situations… La Cour de cassation ne l’entend pas ainsi. Pour elle, dès lors que les indices classiques de l’existence d’un lien de subordination sont présents, l’autonomie (réelle ou supposée selon les cas) des travailleurs du numérique n’est pas déterminante. Ce qui compte c’est l’existence, ou non, d’un pouvoir de direction et de contrôle, sur lequel s’appuie le pouvoir de sanction.
  • En tout cas, il n’est sans doute pas anodin que, dans la note explicative de l’arrêt, la Haute juridiction indique que les textes actuellement existants concernant les travailleurs des plateformes (pas applicables en l’espèce) ne comportent aucune réponse à la question. La Cour de cassation prend ainsi explicitement position pour dire que la loi Travail (9) ne pose pas de présomption d’indépendance vis-à-vis de ces travailleurs, mais seulement l’esquisse d’une responsabilité sociale des plateformes.
  •  
    "Grande première : la Cour cassation vient d'analyser la relation liant un livreur à une plateforme ! Appliquant des principes très classiques à cette situation pourtant spécifique, la Haute juridiction a considéré que le livreur était bien lié à la plateforme par un contrat de travail. Selon la Cour de cassation, la plateforme disposait d'un pouvoir de direction, de contrôle et de sanction sur le livreur. Cass.soc.28.11.18, n°17-20079."
« First ‹ Previous 81 - 100 of 129 Next › Last »
Showing 20 items per page