Group items tagged

"La police américaine adresse de plus en plus de requêtes à Google pour géolocaliser des suspects en accédant à une base de données qui contient les positions géographiques de centaines de millions de téléphones dans le monde, a révélé le New York Times. La méthode est critiquée. "

"En mars 2019 j'ai mis en ligne mon nouveau site web en suivant des principes de conception "low tech". Je me suis décidé à faire cela car, premièrement, j'ai été impressionné par la refonte de solar.lowtechmagazine.com. Leur site est devenu extrêmement léger grâce à une approche esthétique et technique sensée. De plus ils ont pensé au système énergétique : le serveur est alimenté par un panneau solaire et une batterie, ce qui veut dire que si la batterie est à plat et si le temps est mauvais alors le site n'est plus en ligne. Deuxièmement, depuis 2 ans je m'intéresse au concept d'Anthropocène, aux politiques de transition sociale et écologique et à l'impact du numérique sur les écosystèmes. Ces recherches et travaux de terrain m'ont permis de refonder complètement ma pratique et j'avais envie de développer un outil qui pourrait démontrer ce changement dans ma pratique de designer et inspirer d'autres personnes à faire de même."

"On n'est jamais totalement incognito sur les réseaux sociaux, on laisse toujours des traces. C'est donc une fausse bonne idée de supprimer ce relatif anonymat. Il recouvre en fait autant de libertés que de possibilités d'agir qu'il faut conserver."

"Je travaille depuis quelques temps avec Matteo Mazzeri sur un projet de recherche appliquée en partenariat avec le CERN (cf. https://twitter.com/Genial_Project) qui propose une approche assez singulière de l'articulation entre intelligence artificielle (IA) et service public. Il s'agit de concevoir une "IA concertée" et open source qui permette de développer des services d'intérêt général / à vocation de service public. L'originalité de notre approche est d'appliquer le concept de "society in the loop" exposé par le MIT Medialab (concept très bien expliqué en français par Irénée Régnauld dans cet article) de manière à proposer une méthodologie, un travail humain sur les données et des modèles d'apprentissage qui permettent de refléter au plus près les besoins de "la société" et d'aboutir à une IA éthique et responsable."

"Le monde du logiciel va mal et si l'on n'agit pas, on risque de le regretter. Environnement, qualité, exclusion… Software Eats The World (Le logiciel mange le monde…) ? Oui un peu trop. "

Si on tape «filles noires», «Juifs» ou «belles» dans le moteur de recherche, qu'obtient-on ? Dans son dernier ouvrage, la chercheuse américaine, dénonce le sexisme, les discriminations et le racisme des résultats affichés par la plateforme. Antidémocratique et à visées publicitaires, Google bénéficie d'un excès de confiance de la part des internautes.

"Depuis le début de la crise migratoire en 2015, de nombreuses applications pour les réfugiés ont vu le jour. Si elles naissent de bonnes intentions, elles sont rarement utiles. C'est ce qu'explique la sociologue Dana Diminescu , enseignante-chercheuse à Télécom Paris-Tech, qui étudie depuis longtemps les usages des TIC chez les migrants (elle avait d'ailleurs coordonné le dossier consacré aux diasporas connectées sur notre site )."

Les révélations des failles de sécurité touchant des services en ligne s'accumulent. Et la collecte de nos données fait peser un risque collectif d'envergure.

"Attention, c'est du brutal. Algorithmes, la bombe à retardement (Novembre 2018, Les Arènes) nous plonge dans les cuisines peu ragoûtantes des fabricants d'algorithmes. L'auteure, Cathy O'Neil, est une mathématicienne américaine de haut vol passée de l'université aux banques puis aux analyses en big data avant de se reconvertir en lanceuse d'alerte. Elle pousse ici un cri d'alarme citoyen : nous ne pouvons pas rester spectateurs d'un monde où nous sommes de plus en plus tributaires d'outils conçus de façon opaque, utilisés à des fins commerciales ou sécuritaires et ayant pour conséquence d'exacerber les inégalités."

"Une nouvelle enquête du New York Times sur le réseau social le confirme : Facebook a autorisé de grandes entreprises comme Amazon, Netflix, Microsoft ou Spotify à se servir allègrement dans les données personnelles de ses utilisateurs."

"Qui crée de la valeur ? Qui profite de la valeur ? Qui détruit de la valeur ? Si nous confondons ceux qui profitent de la valeur ou détruisent la valeur avec ceux qui la créent, nous finirons avec des sociétés appauvries et malheureuses, au sein desquelles règnent les pillards."

"Petit à petit, le service public s'organise contre le monopole de Google. Des outils associatifs font leur apparition sur les sites internet des collectivités comme Framasoft ou OpenStreetMap, et certaines entreprises comme Qwant investissent l'éducation nationale."

"Deuxio, sa haine viscérale est adressée à des communautés et à des minorités (rien de nouveau sous le fascisme ordinaire ...) mais elle se caractérise en cela qu'elle stigmatise principalement ces communautés du fait de leur absence de papiers (les fameux "Undocumented Men") et qu'elle utilise, pour conduire et guider cette haine, les outils et les métriques ne pouvant s'appliquer qu'à une population "sur-documentable". C'est ainsi que Cambridge Analytica a joué un rôle majeur dans la construction de sa victoire ; c'est ainsi également que la toute puissance du discours totalitaire est d'autant plus efficiente qu'elle s'applique à des communautés ciblées parce que sur-documentées (et sur-documentables) ; c'est ainsi, enfin, qu'il faut voir la volonté affichée de récupérer à toute force les mots de passe de ces "undocumented men" car cela permet au discours totalitaire et au projet fasciste qui le sous-tend de faire entrer le monde dans les deux seules catégories binaires qu'il comprend et qui composent son horizon et son projet : d'un côté ceux qu'il est possible de contrôler et de manipuler (les "sur-documentés") et de l'autre ceux contre qui il faut diriger la haine des premiers (les "sous-documentés", les "undocumented")."

"Scandale Cambridge Analytica, Règlement Général sur la Protection des Données (RGPD)... La mode est à la diète des datas. Chacun y va de son petit écrémage électronique, de sa politique anti-cookie et tout le monde ne jure plus que par son indice de masse d'info personnelle. Sortez de la boulimie et relevez comme Millie Servant, en charge de la communication numérique pour Cap Digital & Futur.e.s Festival, le seul défi slim qui vaille : le Data Detox Challenge. Un parcours « détox » proposé sur 8 jours par la fondation Mozilla et le Tactical Technology Collective. "

"Face aux multiples biais inscrits dans la production même des données utilisées par les algorithmes et les outils d'apprentissage automatisés, le risque, rappelle la chercheuse Kate Crawford (@katecrowford), co-fondatrice de l'AI Now Institute (@AINowInstitute), est que « plutôt que de concevoir des systèmes censés résoudre les problèmes, nous les exacerbions »."

"Alors qu'il n'y a pas si longtemps, la fracture numérique semblait ne pouvoir se résorber, les usagers les plus modestes semblent finalement avoir adopté les outils numériques très rapidement, à l'image de l'introduction de la photographie au début du XXe siècle dans les sociétés rurales traditionnelles qu'évoquait Pierre Bourdieu dans Un art moyen. L'internet des classes dominantes et urbaines a colonisé la société, rapporte Dominique Pasquier dans son étude où elle s'est intéressée aux employées (majoritairement des femmes) travaillant principalement dans le secteur des services à la personne et vivant dans des zones rurales. En matière de temps, d'utilisation des services en lignes, les usages d'internet des plus modestes ont rejoint les taux d'usages des classes supérieures. Reste à savoir si les usages sont les mêmes du haut au bas de l'échelle sociale. Interview."

"La visualisation de données, ou infographie, est à la mode et chacun s'enthousiasme pour les nouveaux outils qui permettent d'en produire - nous en avons dénombré, avec mon collègue Rahul Bhargava, plus de cinq cents. Malgré cette richesse technique, on manque souvent d'outils permettant une réflexion critique sur la politique et l'éthique de la représentation. Et comme le grand public est plutôt facile à impressionner avec des graphiques, la « data visualization » acquiert un grand pouvoir rhétorique. Quand bien même nous savons rationnellement que ces images ne représentent pas « le monde entier », nous avons tendance à l'oublier, et à accepter les graphiques comme des faits car ils sont généralisés, scientifiques et semblent présenter un point de vue neutre et expert. Quel est le problème ? La théorie féministe du point de vue situé rappelle que toute connaissance est située socialement et que les perspectives des groupes opprimés - femmes, minorités et autres - sont exclues de manière systématique de la connaissance dite « générale ». La cartographie critique dirait que les cartes sont des sites du pouvoir et produisent des mondes qui sont intimement associés à ce pouvoir. Comme le soulignent Denis Wood et John Krygier, le choix de ce que l'on place sur la carte « fait inévitablement surgir le problème de la connaissance, tout comme les opérations de symbolisation, de généralisation et de classification ». Il faudra bien admettre l'existence de ce pouvoir d'inclure et d'exclure, apprendre à le dépister et développer un langage visuel pour le décrire. Dans l'immédiat, il importe de reconnaître que la visualisation de données est un des outils de pouvoir parmi les plus puissants et les plus biaisés."

"La Quadrature du Net publie et analyse les documents obtenus auprès de la mairie de Saint-Etienne sur son projet de « Safe City ». Micros couplés à la vidéosurveillance, drones automatisés, application de dénonciation citoyenne… Ils révèlent la ville sous-surveillance telle que fantasmée par son maire, Gaël Perdriau."

"En 2017, Iyad Rahwan (@iyadrahwan), responsable du groupe des coopérations évolutives au MIT posait avec Joi Ito (@Joi) du MIT Medialab le concept de « Society in the loop » (SITL), une méthode pour impliquer différentes parties-prenantes dans la conception d'un système d'apprentissage automatique[1] (ou machine learning), à la base des intelligences artificielles (IA) qui jalonnent le quotidien. L'idée : co-construire plutôt qu'imposer les solutions au grand public, en faisant intervenir dès la phase de conception une diversité d'acteurs. J'en retrace ici un court historique, une illustration et les quelques perspectives et limites qu'il me paraît intéressant de pointer, notamment au regard des questions relatives à ce qu'on appelle la « démocratie technique »."

"Google, Facebook et Amazon se sont accaparés le Web. Cette domination était loin d'être aussi écrasante il y a encore quatre ans, et semble non seulement bien partie pour durer, mais devrait signer la mort d'un Web fondé sur la diversité et la liberté, comme le démontre le développeur brésilien André Medeiros - dit André Staltz - dans un post publié sur Medium. Nous nous dirigeons, à ses yeux, vers l'avènement d'un « Trinet » aux allures de dystopie."