Group items tagged

Ed Felten du Centre des politiques pour les technologies de l'information - https://citp.princeton.edu/ - de Princeton revient dans un très intéressant billet sur la responsabilité des algorithmes. Il s'inspire d'un billet d'Ethan Zuckerman - http://www.ethanzuckerman.com/blog/2012/09/05/tsa-pre-check-fairness-and-opaque-algorithms/ - qui évoque son expérience du programme de pré-enregistrement de l'administration de la sécurité des transports américaine, qui permet à ceux qui voyagent beaucoup de s'enregistrer pour diminuer le temps des procédures de sécurité aux aéroports.  Zuckerman s'interroge sur l'iniquité des algorithmes, capables de sélectionner les gens selon des critères qui leur demeurent opaques. Ed Felten estime qu'il faut rendre les processus algorithmiques publics et ouverts, afin que les gens puissent savoir ce qu'il fait (la transparence) et que les gens puissent s'assurer que l'algorithme ait été exécuté correctement. Ainsi, si un algorithme annonce qu'il choisit 5 % des gens au hasard pour leur faire subir une fouille poussée, vous pouvez le contrôler, et vérifier que d'autres critères n'entrent pas en jeu. Même imprévisible, un algorithme doit toujours rendre des comptes. Si vous êtes sur une liste de personnalités à risque (qui a une action sur l'algorithme) vous devriez aussi pouvoir le savoir (même si vous n'avez pas à connaitre forcément les raisons). Ed Felten estime que les algorithmes responsables devraient se développer dans d'autres secteurs que la sûreté aéroportuaire, comme dans les systèmes de votes électroniques...

"Les algorithmes ne peuvent pas être neutres", rappelle Olivier Ertzscheid. "Le fantasme de la neutralité des algorithmes est très proche de celui d'une dictature éclairée. Si on veut la neutralité, il faut une opacité totale sur le mode de calcul appliqué. Mais si on a une opacité totale, nul ne peut plus être garant de cette neutralité que ceux qui mettent en place l'algorithme." L'opacité ne peut donc pas être la solution, en déduit le chercheur. "La pertinence des profils est la clé algorithmique de la société du contrôle", explique le chercheur. "De la même manière que la rupture technologique introduite par Google dans le monde du search reposait sur l'idée folle qu'il n'était plus besoin de s'intéresser au contenu des pages pour les classer par pertinence mais que leur environnement externe (les liens pointant vers elles) suffisait, de la même manière les tendances actuelles - non pas seulement de l'espionnite aïgue qui agite nos gouvernants mais aussi et surtout l'ingénierie à l'oeuvre derrière l'ensemble des fonctionnalités sociales présentes sur le web - les tendances actuelles des réseaux sociaux et des moteurs postulent que davantage que le contenu de nos profils ce sont les métadonnées qui les englobent qui sont les facteurs clé d'une mise en calculabilité des individus pour déterminer la pertinence de tel ou tel profil au regard de telle ou telle visée politique ou commerciale." Les métadonnées des Big Data servent à qualifier, document mon profil pour rétablir de la distance au sein de l'effet "petit monde". La neutralité des algorithmes devrait permettre de garantir que ce soit le taux de précision qui soit mis en avant dans une logique de recherche, c'est-à-dire le ratio entre le nombre de documents pertinents trouvés et le nombre total de documents trouvés en réponse à la question ; mais, les logiques attentionnelles surestiment plutôt le taux de rappel (ratio entre le nombre de documents pertin

Comment connaître les biais des algorithmes ? Par l'ingénierie inversée, estime Nicholas Diakopoulos pour The Atlantic. Au Wall Street Journal, une équipe de journaliste a sondé les plateformes d'ecommerce pour identifier les cas de tarification dynamiques. Au Daily Beast, Michael Keller a regarder la fonction de correction d'orthographe de l'iPhone pour voir les mots qui n'étaient pas dans le correcteur. Pour Slate, Nicholas Diakopoulos a observé les algorithmes d'auto-complétion pour déterminer les termes censurés par Google et Bing... Les algorithmes sont des boîtes noires dont nul ne sait ce qu'il se passe à l'intérieur. Mais en faisant varier les entrées, vous pouvez tenter de comprendre comment il les transforme, les analyse et commencer à percer certains de leurs secrets. A Harvard, Latanya Sweeney a regardé comment les publicités étaient racialement orientées. C'est aux journalistes (et aux scientifiques) de comprendre les algorithmes, estime Nicholas Diakopoulos en enquêtant sur eux.

A son lancement, les recommandations d'Amazon étaient faites par des équipes d'éditeurs... jusqu'à leur remplacement par Amabot, le moteur de recommandation d'Amazon. Aujourd'hui pourtant, si les algorithmes ont tendance partout à remplacer la médiation humaine pour faire de la recommandation automatique, force est de constater que ce n'est pas partout le cas, rapporte Seth Fiegerman pour Mashable. Et d'évoquer le cas d'une radio qui ne choisit pas ses programmes avec un algorithme et qui a vu son audience progresser. Ou encore celui du Los Angeles Times qui utilise des algorithmes pour détecter les crimes qui méritent qu'un journaliste s'y intéresse ou les tremblements de terre qui méritent un article. Les algorithmes pour aider au repérage de ce dont les journalistes doivent parler...

Keep Calm and Carry On, on se souvient du slogan britannique ("Gardez votre calme et tenez bon") - dont Loup Espargilière retrace l'étonnante histoire : http://loupespargiliere.blog.lemonde.fr/2013/02/19/keep-calm-and-carry-on-met-le-flegme-britannique-a-rude-epreuve/ . Désormais, détourné à gogo, le slogan s'affiche n'importe comment, comme ce "Restons calme et violons à max" apparu sur des tee-shirts dans la boutique anglaise d'Amazon. En fait explique Morozov, ce détournement du texte était généré par un algorithme à la recherche d'un slogan marquant. "C'est le théorème du signe infini appliqué au produit : avec le temps, les algorithmes produiront un t-shirt que quelqu'un veut." Et Morozov d'expliquer que les algorithmes vont démultiplier ces produits fantômes, à l'image des 100 000 livres générés algorithmiquement par le professeur de marketing Philip Parker. L'impression 3D également va rencontrer le choc algorithmique, assure Morozov. Quand tout peut potentiellement devenir un achat, dans un monde où nous sommes continuellement surveillés, et où on nous envoit des informations et des produits en regard de cette surveillance automatique, tous les produits peuvent s'adapter. Nous devenons des machines d'information anxieuses et notre névrose ne semble guérissable que par la consommation sans fin des recommandations que nos machines produisent pour nous. "Gardez votre calme et achetez-moins", voilà un tee-shirt qu'il est peu probable que les algorithmes nous recommande.

Passionnante plongée avec un mathématicien, Chris McKinlay, qui applique une fouille de donnée et construit des algorithmes pour optimiser ses rencontres sur OKcupid et trouver l'amour. Une autre manière de contourner les algorithmes des sites de rencontres et de montrer qu'ils sont loin d'être optimaux. Pour McKinlay, les algorithmes d'OKCupid sont certainement très bons, mais il est difficile que les gens se rencontrent s'ils n'ont pas répondus aux mêmes questions. D'où l'importance, pour lui, d'extraire les questions les plus répondues pour mieux faire matcher les algorithmes. Ses techniques sont expliqués dans un livre : http://christophermckinlay.net

Le spécialiste de la vie privée Peter Fleischer réagit à un article du Wall Street Journal - http://online.wsj.com/article/SB10000872396390443890304578006252019616768.html?mod=WSJ_hpp_MIDDLENexttoWhatsNewsThird - qui s'intéresse à comment les algorithmes s'insèrent dans les ressources humaines, que ce soit pour décider de qui employer comme pour décider des promotions des employés. L'article souligne que ces algorithmes pourraient bien prochainement rencontrer des problèmes juridiques, notamment si l'on montre qu'ils filtres (intentionnellement ou pas) certaines catégories d'employés. En Europe, rappelle Fleischer, les décisions individuelles automatisées sont contraires aux lois. Si les algorithmes peuvent nous aider à prendre de meilleures décisions, estime le chercheur, il faut néanmoins se poser la question de comment leur ajouter des garanties supplémentaires. 

Finis CV et lettres de motivations... Linked-in a mis en place un algorithme qui se base sur les actions des recruteurs afin de leur proposer "les utilisateurs qu'ils devraient embaucher". Le service baptisé "Recruiter" accessible aux entreprises ayant souscrit un compte premium payant permet d'espionner les profils, de les ajouter à des listes de candidats potentiels, d'entrer en contact avec vos anciens employeurs ou d'être tenu au courant de qui s'attarde sur votre profil et ce... sans que les utilisateurs le sachent ! L'algorithme mis en place se base sur les actions du recruteurs et se complexifie à mesure que l'employeur utilise Linked-in. Il recommande des utilisateurs à la formation et aux compétences similaires de ceux mis en sélection. 16 000 entreprises disposent déjà d'un compte premium à 8000 euros par an et plus de la moitié de ses revenus provient de cette offre pro. Demain, le recrutement pourrait aller plus loin encore, estime la Harvard Business Review dans un article sur l'avenir du recrutement par les algorithmes : http://blogs.hbr.org/cs/2012/10/digital_staffing_the_future_of.html Demain, les recruteurs sauront synthétisés l'ensemble des informations disponibles en ligne pour générer des profils d'individus et cibler les talents. Demain, être absent des réseaux signifiera s'écarter du marché du travail.

Les algorithmes apprennent et répètent nos comportement, ce qui facilite la commodité, mais tend à répéter des traits ou des erreurs à l'infini, estime John Burn-Murdoch pour le Guardian. La caractéristique des algorithmes à reproduire la prise de décision humaine peut être une arme à double tranchant. Récemment, une université britannique a ainsi développé un modèle informatique pour rationaliser son processus d'admission qui a exacerbé la discrimination sexuelle et raciale. Des biais de sélection ont aussi été découverts sur Linked-in : lycée, université, pays de résidences peuvent devenir des critères excluants. Avons-nous donné trop de pouvoir aux machines ?

Dans "L'amour au temps des algorithmes", Dan Slater estime que la rencontre en ligne devient une découverte sociale. Mais n'est-ce pas là l'effet de la rationalisation de la sociabilité par les algorithmes, interroge Rob Horning pour The New Inquiry. Que se passe-t-il quand nos rencontres sont médiées par des entreprises, des algorithmes ? Que devient notre autonomie individuelle ? La sociabilité est-elle désormais guidée par nos relations sociales ? Or, ce qui rend la sociabilité agréable, estime Leo Bersani dans "Sociability and Cruising", c'est l'abandon de l'individualité et non pas sa réaffirmation. Alors que la sociabilité est un oubli de soi, la découverte sociale repose sur nos intérêts communs pour faciliter la rencontre. La capacité à éprouver la sociabilité réside dans la capacité à être pleinement soi-même, ce qui suppose, dans un contexte de médias sociaux, de pouvoir être pleinement anonyme. Nous devons cesser de penser l'identité comme quelque chose qui peut être agrandi quantitativement, estime Rob Horning.

Excellente présente d'Andreas Klinger sur le rôle des algorithmes dans notre rapport à l'information. Il nous faut comprendre les algorithmes des canaux de distribution des contenus. Qu'importe votre article, son titre, sa mise ne forme... L'important c'est comment va le traiter l'algorithme du Newsfeed de Facebook ! Certains canaux punissent la republication, d'autres l'encouragent.

Christian Sandvig s'intéresse à comment les algorithmes imprègnent notre culture. Il revient sur Google Instant qui propose des suggestions de terme de recherche dans Google quand vous tapez des mots dans le moteur pour souligner que certains mots ne proposent aucune suggestion... C'est là une "censure douce" que Google a déployé pour répondre aux critiques à l'encontre de ce service. Mais quels mots doivent-ils être bloqués ? Puis il observe les différences entre les meilleures histoires et les informations les plus récentes du fil d'actualité de Facebook, pour souligner combien nos relations sont régis par des algorithmes qui changent notre rapport aux autres...

Pour Andrew McAfee le plus grand défi des Big Data est de convaincre les gens de ne pas croire leurs a priori : http://blogs.hbr.org/2013/12/big-datas-biggest-challenge-convincing-people-not-to-trust-their-judgment/ Mais l'intelligence des machines ne va pas remplacer notre intelligence humaine, elle va la compléter, estime Walter Frick pour la Harvard Business Review. Mais comment ? Pour l'économiste Tyler Cowen, nos compétences vont devoir surtout apprendre des forces et des faiblesses des programmes pour savoir quand leur faire confiance et quand les remplacer. Mais pour McAfee, quand les experts appliquent leur jugement à la suite d'un algorithme, ils font généralement pire que l'algorithme. Le mieux est d'ajouter les opinions subjectives des experts aux algorithmes... Ces 2 modèles de collaboration soulèvent un certain nombre de question...

Malgré leur puissance, leur rapidité et leur précision, les algorithmes ne fonctionnent pas tout seuls. La plupart du temps, ils sont secondés par des êtres humains, car ils ont souvent du mal à déchiffrer l'ambiguïté du langage humain, rappelle Steve Lohr pour le New York Times. Et la contribution humaine augmente plus qu'elle ne diminue, s'organise plus qu'elle se désolidarise. Leurs rôles : nettoyer les bases de données, éliminer l'ambiguïté, aider l'algo à mieux fonctionner... quand celui-ci remonte des informations qu'il a du mal à analyser.

En introduction à ce numéro de la revue "réseaux" dédiée à la politique des algorithmes, le sociologue Dominique Cardon rappelle : "Autrefois dédiés à de très banales opérations de segmentation de clientèle, les outils de datamining mis en place par les entreprises prétendent désormais calculer les traces des consommateurs afin de personnaliser leurs offres (Benedetto-Meyer, 2013). Les individus eux-mêmes ne cessent de se préoccuper de ce que les compteurs disent d'eux et de leurs comportements numériques sur les plates-formes du web social. D'une utilisation ex post réservée à des professionnels, les mesures deviennent des indicateurs ex ante, s'inscrivant à même les interfaces et introduisant dans les usages les plus quotidiens une visée prévisionnelle d'orientation des comportements. Sur un mode mineur, implicite et silencieux, la navigation des internautes est continûment guidée par les outils de classement qui rendent les informations disponibles à leur attention (Sunstein et Thaler, 2008 ; Kessous et al., 2010). Pour beaucoup, cette entrée dans l'ère des big data et des algorithmes[2][2] Le terme d'algorithme a été popularisé par la présence... suite constitue une rupture majeure dans l'évolution des services numériques. Elle confère une importance décisive non seulement aux possesseurs de données, mais aussi et surtout, à ceux qui sauront les rendre intelligibles. Avec enthousiasme ou frayeur, ce nouveau monde des données est apprécié comme une nouvelle puissance susceptible pour les uns de réinventer les marchés et l'organisation, de rendre la démocratie plus transparente, de faciliter les interactions avec les choses et l'environnement ou d'élaborer des connaissances prédictives (Ayres, 2007 ; Steiner, 2012 ; Weinberger, 2012), alors que d'autres s'alarment des usages commerciaux des fichiers, des menaces sur la vie privée, de la dictature de l'hypervisibilité ou de la colonisation d

Intéressante synthèse en infographie sur les algorithmes. 

LivesOn - http://liveson.org - propose d'analyser votre flux Twitter pour l'utiliser, comprendre votre goût et sa syntaxe, et Twitter pour vous après votre mort. Ce qui semble certainement une blague offre une bonne illustration de la vanité des algorithmes.

Annie Lowreyjan revient sur les poussées tarifaires d'Uber, la société de taxi nouvelle génération. Pour un même trajet, la veille du jour de l'an, un taxi normal coûtait 13$ (pourboire compris), quand un voyage avec Uber était proposé à 47 dollars. Le même service. La même quantité de temps. Le même voyage. Et pourtant un différentiel de 3,5 fois le prix. Face aux critiques sur ces poussées tarifaires au moment où les gens font le plus appel à ses services, Uber s'est montré clair, voire cynique : si vous ne voulez pas payer le prix, ne nous utilisez pas. En ayant accès à des données en temps réel sur la demande et l'offre ce qui lui permet d'adapter en permanence ses tarifs. Uber est haut de gamme et coûte généralement environ 50% de plus que la concurrence locale. Les voitures sont commandées en 15 minutes, vous payez via votre application et Uber garde 20% du prix de la course pour lui. Lors de la tempête ou des fêtes de fin d'années, nombreux sont ceux qui ont râlé sur les prix pratiqués par Uber. Mais c'est le logiciel qui est programmé ainsi, explique le patron d'Uber. La hausse des prix reflète l'état de la demande et de la disponibilité de celles-ci. Pour Kalanick, la tarification algorithmique bénéficie aux passagers : ils payent plus mais n'attendent pas. Les tarifs des taxis eux sont régulés pour protéger les consommateurs, qu'importe si c'est parfois au détriment du service et du temps d'attente. L'algorithme de Uber tente de maximiser le nombre de voyages, pas les revenus des chauffeurs. Reste que l'opacité de la tarification dynamique, du point de vue du client génère forcément de la frustration et du mécontentement. Uber fini par prendre un risque avec un tel algorithme qui génère de la grogne, et pourrait s'aliéner des clients à long terme. "L'efficacité du marché n'est pas toujours la même chose que le bénéfice des consommateurs". Il existe désormais des formes sournoises de discrimination p

Et voici les algoraves, où l'on danse sur de la musique générée par des algorithmes...

Le Tow Center pour le journalisme numérique publie un court rapport de Nicolas Diakopoulos pour inviter les journalistes à s'intéresser aux algorithmes, des objets dignes d'enquête.