Group items tagged

Olivier Ertzscheid revient sur 3 exemples classiques des formes de détournement algorithmique : le Google Bombing, GWEI (le programme qui rachète Google par des clics publicitaires) et Random Shooper (la programmation aléatoire d'achat sur Amazon), 3 exemples qui s'appuient sur les règles de base de l'algorithme pour en faire le coeur du détournement. En ré-instrumentant ses routines dans une perspective artistique ou hacktiviste, il se pourrait pourtant que de tels projets renforcent les capacités prédictives des algorithmes, explique Olivier Ertzscheid en citant Bernard Chazelle, car la plupart des découvertes récentes en complexité algorithmique ont été le fait de l'aléa. La dichotomie des Big Data est entièrement articulée autour d'une propriété fondamentale : "il faut aux programmes informatiques une immense quantité de données pour asseoir et bâtir leur capacité prédictive (et prescriptrice) de comportements, mais il ne faut aux algorithmes que la lecture d'un état et d'un petit nombre de caractères (= de données) pour l'exercer, pour la rendre opératoire. C'est ce qui fait qu'ils sont si délicats à leurrer."

Anna Jobin revient sur la campagne de sensibilisation de l'ONU sur le droit des femmes qui montrait des visages de femmes silencieux et les résultat d'une recherche Google listant des lieux communs et sexistes sur les femmes. La campagne de sensibilisation a été un succès pour prendre conscient du sexisme des requêtes... Mais nous ne savons rien de l'algorithme d'autocomplétion de Google qui affiche ces résultats. Combien de personnes ont tapés ces questions stéréotypées ? Représentent-ils une majorité de la population ou pas ? L'autocomplétion affiche sur les mots que vous commencez à inscrire les requêtes "utiles" des utilisateurs... mais que signifie le terme "utile" ? L'autocomplétion n'est pourtant pas totalement automatisé, mais au contraire est personnalisé et parfois censuré. "Google n'est pas le miroir objectif qu'il prétend être" et la campagne montre bien que la manière dont il affiche des résultats à un impact direct sur nous. Google n'est pas innocent, la responsabilité n'est pas une option binaire. Si nous, en tant que société, ne voulons pas que des stéréotypes négatifs (sexistes, racistes, discriminatoires...) l'emportent, comment pouvons-nous agir ? Quand les algorithmes ne sont pas responsables, qui l'est ?

"Les commissions de libération conditionnelle de quinze Etats américains s'en remettent désormais à des logiciels pour décider si un détenu doit ou non être libéré, rapporte le Wall Street Journal. Un algorithme décortiquant 50 à 100 facteurs évalue le risque de récidive afin d'aider à la prise de décision." Le but, réduire les coûts ! Le risque, que derrière les critères d'objectivité, se cachent des vérités cachées et des préjugés. Est-ce nos préjugés que nous mettons en algorithmes ?

L'autre face de "la peur de manquer quelque chose" (fear of missing out, Fomo) est "la peur d'être manqué" (fear of being missed, Fobm) : http://thesocietypages.org/cyborgology/2012/10/22/fear-of-being-missed/ , estime Jenny Davis. La Fobm capteur la peur d'être ignoré, oublié à l'heure de l'hyperconnectivité. Fomo et Fobm évoquent notre difficulté à disparaître des réseaux sociaux. Tiana Bucher évoquait récemment la peur de l'invisibilité - http://nms.sagepub.com/content/14/7/1164 - en expliquant que les algorithmes produisent une menace de pénurie de visibilité, comme c'est le cas du nouvel EdgeRank de Facebook qui rend les moins visibles encore moins objets d'interactions. Pourtant, notre visibilité, si elle est limitée par les algorithmes, n'est pas déterminé par eux, estime Jenny Davis. Enfin, la visibilité n'est pas un état omniprésent, mais plutôt quelque chose de rare. En fait, estime Davis, l'hypervisibilité et l'invisibilité ne sont pas mutuellement exclusives. Les gens s'inquiètent du narcissisme, de la surveillance, des invastions de la vie privée tout en trouvant du plaisir au partage et à la micro-célébrité.

Le chercheur de l'EPFL Pedro Pinto a développé un algorithme capable de remonter à la source de tout type d'information circulant dans un réseau complexe. Etude : http://prl.aps.org/abstract/PRL/v109/i6/e068702

Nous sommes déjà en train de construire les métropoles du futur, mais souhaitons-nous vraiment y vivre ? Un nombre grandissant de penseurs des sciences sociales, de l'architecture, de l'urbanisme et du design commencent à sonner une note de prudence, estime Courtney Humphries pour le Boston Globe. La ville qui surveille ces concitoyens, même pour des raisons "utiles" empiète sur la liberté individuelle et ce d'autant que ces services seront demain au mains de partenaires privés. Le risque est que ces programmes de ville intelligentes nous détournent également d'autres solutions, non technologiques. Un changement massif dans les priorités urbaines menées en grande partie hors de la vue du public est en cours. Pour ces critiques, nous devons discuter de l'avenir de la ville avec les usagers, estime Anthony Townsend auteur de "Villes intelligentes : Big Data, les pirates citoyens et la quête d'une nouvelle utopie". Selon lui, ce sont les algorithmes de gouvernement qui doivent être mis en évidence plus que les données", or les villes sont plus préoccupées d'ouvrir leurs données que d'ouvrir les logiciels et les algorithmes des outils propriétaires qui façonnent la ville de demain. "Ce qui m'inquiète sont les lois de facto qui sont codées dans les logiciels des villes intelligentes sans examen du public." Les attentats de Boston ont montré combien la vidéosurveillance était omniprésente dans nos vies. Que se passerait-il si les sociétés qui les exploitent pouvaient les agréger et les analyser comme l'a fait la CIA ? Pour Townsend, nous devons nous méfier d'une approche centralisée des villes. Pour Adam Greenfield, le risque est celui d'une nouvelle planification urbaine, qui risque d'être aussi dévastatrice que celle du XXe siècle. Pour Townsend, le bureau des nouvelles mécaniques urbaines créées par la ville de Boston - http://www.newurbanmechanics.org - est un bon exemple de construction d'un débat citoyen autour de l'avenir de

La conférence sur la gouvernance des algorithmes propose une impressionnante web/bibliographie sur le sujet. 

Les Big Data peuvent déterminer qui mérite vraiment un prêt... - mais n'est-ce pas déjà le cas ? Ne sont-ce pas déjà des algorithmes qui déterminent votre banque à vous autoriser ou non un crédit ? - De nouveaux algorithmes souhaitent distinguer les emprunteurs fiables de ceux qui risquent de faire défaut, souligne Evgeny Morozov en évoquant plusieurs start-ups du secteur comme Lenddo, Wonga, Kreditech ou LendUP - qui utilisent Facebook et Twitter pour vérifier votre fiabilité via votre réputation. Le pbe est que ces systèmes commencent à vendre leurs données pour faire profiter aux clients validés d'offres en ligne, voir de crédits dédiés en partenariat avec des sites de commerce en ligne. Nous faudra-t-il imaginer demain séparer les activité de prêt et les activités de crédits des banques comme on a séparer les activités des banques commerciales des banques d'investissements ?

Vinod Khosla, cofondateur de Sun Microsystems, l'affirme : à l'avenir les machines remplaceront 80 % des médecins. Vinod Khosla a fait la controverse en publiant récemment un article intitulé : "Avons-nous besoins de docteurs ou d'algorithmes ?" : http://techcrunch.com/2012/01/10/doctors-or-algorithms/ Un article accueillit avec horreur, face à cette vision où les soins seront sacrifiés sur l'hôtel de l'efficacité. Certains médecins reconnaissent pourtant que la critique du manque d'efficacité du système de santé de Khosla est stimulante. Mais tout ne pourra pas être réglé par des algorithmes... préviennent-ils.

Nick Seaver, ethnologue chez Intel, explore la façon dont les gens imaginent et négocient la relation entre les domaines culturels et techniques. Dans ce cadre, il s'est particulièrement intéressé aux développeurs, et notamment à ceux qui construisent des systèmes de recommandation musicales, comme Pandora, Spotify, Songza ou Beats Music. Comment les développeurs suggèrent des matériaux d'écoute aux utilisateurs en utilisant données, algorithmes et recommandations humaines. Si l'ethnographie est un excellent outil pour montrer combien les utilisateurs sont plus compliqués qu'on pourrait le penser, il est également un outil utile pour comprendre les processus par lesquels la technologie se construit et mieux comprendre les algorithmes ou les Big Data se construisent. Et Nick Seaver d'observer comment ces entreprises catégorisent les utilisateurs, selon une typologie populaire, celle de David Jennings, qui distingue les utilisateurs en savants (7%), enthousiastes (21%), occasionnels (32%) et indifférents (40%). Cette distinction pose un problème de fond, car bien souvent, les développeurs qui travaillent dans ces sociétés sont surtout un public de spécialistes de la musique, alors que les utilisateurs sont principalement occasionnels ou indifférents et donc abordent la musique d'une manière forcément très différente des experts. Le risque, bien sûr, est que les savants construisent des systèmes qui répondent à leur propres intérêts et à leurs propres idées sur la musique, négligeant les autres types d'utilisateurs. Le regard ethnographique pourrait permettre de construire des expériences qui aillent au-delà de variables trop simplistes comme : quel prix payer ? Combien de clics avant d'arriver au morceau que je souhaite écouter ?... Quelles sont les idées préconçues sur la culture des développeurs ? Quelles expériences veulent-ils créer dans les systèmes qu'ils construisent ? L'ethnographie des technologues permet de const

La BBC évoque - http://www.bbc.co.uk/news/technology-25033172 - un nouveau brevet de Google pour la "génération automatisée de suggestions pour des réactions personnalisées dans les réseaux sociaux". "Traduction : à ce stade, nous avons tellement d'informations sur vous, nous vous connaissons mieux que vous mêmes, de sorte que vous pouvez nous laisser gérer vos réseaux sociaux pour vous." Les réseaux sociaux impliquent des modes de comportements différents... Pour les maîtriser à mesure qu'ils se démultiplient, pourquoi ne pas utiliser un algorithme. Ainsi, si un de vos collègue change d'emploi ou si un ami à un enfant, des algorithmes pourraient se charger de le féliciter à votre place ou de remercier ceux qui ont posté sur votre mur ou ceux qui ont répondu à votre e-mail ! Nous voici proche d'aboutir à la stase parfaite entre le soi et l'expression de soi, conclut Carr. Optimiser et rendre le monde plus efficace... Mais que vaudrons les félicitations quand elles seront produites par des machines ?

Frank Swain voyage dans le monde entier... Et autant le dire, l'algorithme qui gère son compte en banque n'aime pas du tout cela. A chaque fois, il doit décider si celui qui veut retirer de l'argent à l'autre bout du monde est bien celui qu'il prétend, et c'est visiblement plus difficile pour lui, quand la semaine d'avant il était à Londres et celle d'après à Istanbul. Tant et si bien que l'automate renvoie le plus souvent la transaction vers un être humain pour l'approuver ou non. On ne connaît pas les facteurs qui permettent à la machine de décider ou non d'accepter une transaction. Et s'il refuse, nous ne serons pas mis au courant de la raison. "Je suis constamment engagé dans une danse avec l'algorithme sans que je puisse entendre la musique et la seule réaction que je reçois est quand je marche sur les pieds de mon partenaire". Nous ne connaissons pas les règles de l'algo, ni quand et comment elles sont modifiées. Comme le disent Timo Arnall ou James Bridle, nos vies sont influencées par les technologies et les systèmes invisibles qui nous entourent façonnent nos modes de vie. Nous vivons à l'intérieur de systèmes invisibles aussi courants que des formulaires d'assurance, des demandes de prêts, d'emplois, de rencontres... Et nous tentons de nous y ajuster consciemment, en fournissant les informations que nous pensons être les plus appropriées ou les moins mal interprétées par ces systèmes. Les criminels en savent plus que le public sur ces algorithmes, ils savent mieux que nous contourner la vidéosurveillance, comme l'explique Bridle dans Ring of Steel : https://www.readmatter.com/a/ring-of-steel/ Dans le pas de danse sans professeur que nous entamons avec les machines, Frank Swain vient d'apprendre qu'il ne faut pas annuler de transaction quand on est à l'autre bout du monde. Les machines n'ont pas l'air d'aimer cela...

Des informaticiens ont développé un algorithme qui utilise la structure d'un réseau social pour trouver la meilleur stratégie pour vous mettre en relation avec des gens que vous ne connaissez pas. L'idée est de vous permettre de trouver les relations qui vous conduiront le plus vite possible à être mis en relation avec une personne cible.

A Boston, on a remplacé la carte scolaire par un algorithme.

Viktor Mayer-Schönberger et Kenneth Cukier, auteurs de "Big Data, a révolution that will transfomr how we live, work and think" publient un extrait de leur livre. "Il n'existe aucun moyen infaillible pour se préparer au monde des Big Data", mais nous devons concevoir des garanties pour que les spécialistes des algorithmes puissent évaluer l'analyse du monde, afin que les Big data ne transforme pas notre monde en une boite noire.

Le Flight Quest Contest - https://www.gequest.com/c/flight/details/winners - est un concours pour améliorer la prédiction des arrivées des vols aériens. Le gagnant du concours a proposé un algorithme permettant d'améliorer de 40 % les estimations actuelles. 

"La clé de l'externalisation n'est plus le stockage mais sa capacité à créer des représentations supposément communes alors qu'elles ne dépendent que des techniques de mises en scène d'acteurs opérant dans une opacité totale. Pour le dire simplement, après avoir accepté de déléguer à des acteurs privés des pans entiers de nos vies et de nos mémoires connectées, il nous faut désormais accepter de ne pouvoir les interpréter qu'à la lueur d'un remodelage algorithmique qui nous demeurera parfaitement inconnu. Pour le dire encore différemment, il est possible de "combattre" l'idéologie que certains médias tentent de nous imposer en la déconstruisant, précisément parce que cette idéologie est fabriquée et non co-produite par chacun d'entre nous, parce qu'elle est le fait d'individus indentifiables soumis à des logiques de pouvoir observables, et non d'une nouvelle main invisible qui n'est plus celle du marché mais celle des algorithmes, ces nouvelles commodités de la représentation"

Amusant. Echangez un message rempli de mots clefs pour faire réagir les algorithmes de la NSA.

Benoît Raphaël revient sur Truth Teller - http://truthteller.washingtonpost.com - un robot journaliste développé par le Washington Post pour analyser en temps réel les discours vidéo des politiques et vérifier leurs propos dans les bases de données. Le Fact Checking est désormais confié aux algorithmes !

Gregory Piatetsky-Shapiro revient sur les promesses du Big Data (la prédiction) pour nous rappeler qu'à ce jour, elles ne les ont pas encore relevées. Et de rappeler que Netflix a fait travailler des développeurs sur un nouvel algorithme qu'ils ne sont pas parvenu à implémenter et qui n'a permis d'améliorer les conseils personnalisés qu'à la marge. Les services d'analyses de Big Data des opérateurs de télécommunication sensés réduire le taux de désabonnement de leurs bases clients. Même l'amélioration du taux de clic sur les publicités est pour l'instant très insuffisant. Ces trois exemples montrent que "le caractère aléatoirement inhérent au comportement humain est le facteur limitant de la réussite de ces modélisation". Si les Big Data permettent des gains marginaux, le comportement humain demeure rétif à la modélisation. "L'analyse prédictive peut aider à comprendre comment faire se poser le Rover sur Mars, mais pas qui va acheter une barre de mars". Reste que l'analyste pense tout de même que les Big Data vont nous aider à mieux comprendre le comportement, comme le montre les progrès fais par Google ou Siri... Mais attention à ne pas en attendre trop !