Group items tagged

Quand les ordinateurs cherchent à détecter les gens, ils recherchent certains modèles... Il suffit de produire de la confusion pour les mettre en échec. C'est ce que produit le CV dazzle d'Adam Harvey : http://cvdazzle.com ou le RealFace Glamoflauge de Simone C. Niquille : http://s-c-n.biz/ ou encore la robe PlayTime de Kim Kardashian : http://yinggao.ca

"Chargé d'envoyer des SMS de relance aux demandeurs d'emploi, l'opérateur explique qu'un dysfonctionnement dans ces envois peut expliquer le volume important du nombre de radiations..." Les chiffres du chômage dépendent de nos algorithmes.

IBM se lance dans l'ère de l'informatique cognitive en lançant un institut dédié : http://www.research.ibm.com/cognitive-computing/ L'objectif, élargir les champs d'application des ordinateurs tels Watson, qui utilisent le langage naturel et des algorithmes. Au programme, des applications qui améliorent le travail collaboratif des groupes.

Pour l'ingénieur Abbas El-Zein, les technologies de surveillances de la NSA ont été mises au point par des hommes. Savaient-ils à quoi serviraient leurs algorithmes ? Ont-ils tenu compte du potentiel d'abus dans leur conception ? Doivent-ils être tenus comme responsables ou ont-ils simplement fait leur travail ? La question est la même quand les ingénieurs développent du matériel pour la défense (même si en fait, il sert surtout a son contraire). Pourtant, quand les médecins utilisent leur savoir pour faire le mal, nous les condamnons sans ambages... Pourquoi la société n'applique-t-elle pas les mêmes normes pour les ingénieurs ? L'ingénieur est devenu le modèle du salarié d'industrie, et l'inconvénient est la perte de leur autonomie. Leur éthique est devenue technique, explique Abbas El-Zein : ils conçoivent pour que les systèmes fassent ce qu'ils sont censés faire, pas pour la façon dont ils doivent être utilisés. Les ingénieurs conduisent des projets complexes techniquement, mais n'ont pas une grande connaissance de la complexité sociale de la technologie. Il est tant que la profession commence à s'engager sur des questions éthiques, politiques et sur les ramifications sociales de leurs inventions...

Le designer Matthew Plummer-Fernandez a imaginé un moyen de corrompre les fichiers 3D via un logiciel afin qu'ils ne soient pas repérer par les algorithmes de reconnaissances de formes qui s'apprêtent à protéger les formes des objets en empêchant leurs téléchargement. Les fichiers modifiés peuvent être lus via une clé permettant de leur rendre leur apparence originelle. L'idée du designer était de de trouver un moyen pour combattre les poursuites pour violation du droit d'auteur et du droit des marques qui commencent à s'intéresser aux fichiers 3D, empêchant de reproduire une figure de Mickey ou une chaise Ikea...

Trop souvent, nous optons pour la publication des données dans des fins de transparence, même si elle porte atteinte à des principes comme le respect de la vie privée ou la participation civique, estime Evgeny Morozov dans son nouveau livre, "Pour tout sauver, cliquez ici". Notre internet-centrisme déforme notre point de vue et nous éloigne de ce qui est vraiment important, soutien le chercheur. Morozov n'est pas le seul à craindre la dictature de la transparence, Lawrence Lessig s'en méfie également - http://www.internetactu.net/2009/10/20/la-transparence-a-t-elle-des-limites/ . Mais pour Morozov, la résistance est nécessaire. Nous devons exiger de nos systèmes en ligne de respecter d'autres valeurs que la seule transparence. Le solutionnisme des données n'est pas une solution, estime Morozov. L'efficacité maximale n'est pas nécessairement une valeur à favoriser : l'inefficacité a aussi une valeur et des avantages sociaux. Nos données sont incomplètes ou trop réductrices et nos systèmes prédictifs, guidés par celles-ci, pourraient être défaillants. Si les données semblent objectifs, l'interprétation est toujours subjective, rappelle le chercheur. Organiser toute l'information du monde et la rendre universellement accessible et utile, comme le clame Google, est-il un objectif louable ?

Les contacts professionnels qu'on peut avoir sur les réseaux sociaux seraient révélateurs de notre capacité à rembourser un crédit, estiment les entrepreneurs de la startup-up de crédit participatif Neo : http://myneoloan.com. La banque en ligne Movenbank - http://movenbank.com - va elle utiliser les données de Facebook pour ajuster les taux d'intérêts des emprunteurs. Lenddo - https://www.lenddo.com - demande aux demandeurs de crédits que leurs amis sur Facebook se portent garants d'eux... Face à ces nombreuses innovations, les banques demeurent prudentes : Schufa, un bureau de crédit allemand, a abandonné un programme d'extraction de données depuis Facebook, Twitter et LinkedIn, suite à une réaction négative du public. L'usage des sites sociaux pour enquêter sur les emprunteurs semble pour l'instant se faire au détriment de toute confidentialité et de tout respect de la vie privée. Or nos données révèlent bien plus que ce que l'on pense et la simple analyse de nos relations sociales, de la façon dont on utilise l'internet, peut dire beaucoup de nos comportements... 

Une étude récente montrait qu'aimer les fritiques sur Facebook était corrélée avec une grande intelligence. Mais la corrélation ne fait pas démonstration, rappelle Derrick Harris pour GigaOm. Peut-on prendre des décisions graves d'impact - sur la santé des personnes, sur leur capacités financières - en nous fondant sur des corrélations simples ? Le darwinisme des données que dénonçait Om Malik ne cesse de s'étendre : http://gigaom.com/2013/03/17/uber-data-darwinism-and-the-future-of-work/ . Mais les corrélations ne sont pas bonnes, on ne construira pas un bon produit.

Pour Latanya Sweeney de l'université d'Harvard, la discrimination raciale s'est emparée de la publicité en ligne. En entrant son prénom dans Google (qui semble connoté à la communauté noire) des publicités pour un service de renseignement en ligne lui propose de savoir si elle a été arrêtée, ce qui semble suggérer qu'elle a un casier judiciaire. Les prénoms les plus corrélés à la communauté noire américaine tendent à servir cette publicité 25 % de fois plus souvent que les prénoms attachés à un public blanc, estime la chercheuse. Et de mettre au pilori la société www.instantcheckmate.com qui est à l'origine de ces publicités.

EdX vient de créer un logiciel pour noter automatiquement les dissertations d'étudiants rapporte le New York Times : http://www.nytimes.com/2013/04/05/science/new-test-for-computers-grading-essays-at-college-level.html?pagewanted=1&_r=0&ref=general&src=me Pour cela, il lui suffit d'avoir digérer une centaine de copies corrigées par de véritables professeurs puis le modèle s'adapte au sujet suivant les modèles qu'il discerne dans les copies. Pour Les Perelman, ancien du MIT, qui a pris ces systèmes en défaut en rédigeant des dissertations dénuées de sens pour tromper ces logiciels, ces systèmes sont dangereux. EdX s'attend néanmoins à une adoption massive...

Les programmes informatiques pourraient bientôt prendre des décisions de justice... Le pire est qu'ils pourraient le faire mieux que les humains. On se souvient d'une étude  - http://www.internetactu.net/2011/05/11/nos-decisions-en-questions/ - qui soulignait que le jugement des juges était influencé par leur humaine condition. Tom Gordon du Fraunhofer Institute de Munich en partenariat avec la société Init a développé un logiciel pour automatiser les demande d'aides à l'agence fédérale de l'emploi pour les parents avec enfants. Chaque demande est automatiquement analysée par rapport aux arguments de droits. Anna Ronkainen d'Onomatics en Finlande a elle construit un outil appelé TrademarkNow qui estime les similarité entre marques existantes et nouvelles marques déposées.

Les logiciels capables de nous fournir des informations avant que nous ne les leur demandions sont appelés à nous changer la vie, explique Tom Simonite pour la Technology Review. Les logiciels commencent à pouvoir nous dire qu'il nous faut partir 10 minutes plus tôt à notre rendez-vous à l'autre côté de la ville du fait des conditions de circulation... comme le fait Google Now. Pour Bill Ferrell, PDG d'Osito - http://www.getosito.com - , une application concurrente, il nous faut parler désormais d'intelligence prédictive, mais cela nécessite d'avoir toujours plus de données personnelles pour affiner la prédiction. Google est ainsi capable de vous signaler des propriétés à vendre lors de vos déplacements si vous avez cherché auparavant ce type d'informations... Reste que ces systèmes ont encore du mal à dire ce qui est important à l'utilisateur : leur indiquer où se trouve le café le plus proche parce qu'ils en ont déjà pris un dans ce type d'établissement ou le passage du prochain bus juste parce qu'ils passent devant un arrêt n'est pas toujours opportun. 

Le directeur de la NSA, le Général Keith Alexander, a défendu hier devant le Capitole son programme de surveillance PRISM dont l'existence a été révélée au grand jour la semaine dernière. Selon lui, le programme aurait permis de prévenir des « douzaines d'attaques terroristes », « à la fois ici et à l'étranger ». Peu avant, le Président Obama avait précisé qu'une attaque terroriste à New York en 2009 avait été évitée en partie grâce à PRISM. D'autres avancent que le rôle du programme aurait été superflu dans l'affaire.

Jérémie Zimmermann : "Nous devons questionner notre rapport, en tant que société tout entière, à la technologie. D'un côté, nous avons des technologies qui sont faites pour rendre les individus plus libres, par l'ouverture et le partage des connaissances : ce sont les logiciels libres (comme GNU/Linux, Firefox ou Bittorrent), les services décentralisés (que chacun fait tourner sur son serveur ou sur des serveurs mutualisés entre amis ou à l'échelle d'une entreprise, institution, etc.) et le chiffrement point à point (qui permet aux individus de protéger par les mathématiques leurs communications contre les interceptions). De l'autre, nous constatons la montée en puissance de technologies qui sont conçues pour contrôler les individus, voire restreindre leurs libertés en les empêchant d'en faire ce qu'ils souhaitent. Je pense à ces pseudo "téléphones intelligents" qui ne sont ni des téléphones (ils sont avant tout des ordinateurs qui savent également téléphoner), ni intelligents, car en réalité ils permettent de faire moins de choses que des ordinateurs traditionnels et sont conçus en réalité pour empêcher à l'utilisateur de choisir d'où seront installés les programmes, d'installer les programmes de son choix, ou même d'avoir accès pour le comprendre au fonctionnement des puces cruciales qui permettent d'émettre ou recevoir des données... Si l'on devait appeler cela de "l'intelligence", cela serait peut-être au sens anglais du mot, pour parler de renseignement, d'espionnage... car de tels appareils semblent être conçus pour espionner leurs utilisateurs. De la même façon, ces services massivement centralisés sont par essence, par leur architecture, faits pour aspirer toutes les données personnelles possibles et imaginables. Ce sont les modèles économiques de ces entreprises qui sont basés sur le fait d'entretenir un flou entre vie privée et vie publique... Toutes ces technologies ont en commun de maintenir l'utilis

L'été dernier, Momentum, une agence de marketing espagnole, a fait parlé d'elle en proposant un distributeur de boisson qui modifiait le prix des boissons selon la température extérieure, en baissant le prix des boissons fraiches quand il faisait trop chaud. Bien sûr, cet exemple n'avait pas d'autre vertu que marketing, souligne Evgeny Morozov : toute entreprise normalement constitué ne pourrait faire que l'inverse... Mais Momentum a surtout montré que la prolifération de capteurs bons marchés permet d'introduire la tarification dynamique, sans intervention de l'opérateur humain. En 2011 Intel et Kraft ont lancé iSample, un capteur optique pour déterminer l'âge et le sexe de l'acheteur et lui suggérer des produits appropriés... Demain, ils permettront d'empêcher les automates qui délivrent des DVD de proposer des films porno à des enfants...  "Une fois que nos visages peuvent être attachés à nos profils de réseaux sociaux, toutes sortes d'autres manipulations entrent en scène", estime Morozov : réductions, oui, mais aussi augmentations... Si la machine peut prédire les situations en analysant notre profil de réseau social ou interroger l'application d'auto-tracking sur notre téléphone pour savoir à quel point nous sommes assoiffés, pourra-t-elle nous facturer plus cher la boisson fraîche dont nous avons besoin ? Pour l'investisseur Max Levchin, les capteurs peuvent enfin nous permettre d'utiliser nos objets à leur plein potentiel. Alors que dans le passé les services de taxis traitaient les appels dans l'ordre d'arriver, Uber ou Hailo, elles, vous permettent d'avoir accès à un service différent si vous en payez le prix. Demain seront-nous traités différemment selon que nous sommes amis avec Bill Gates sur Facebook ou que nous ne sommes pas sur le site social mondial ? "Dans le cas des taxis, l'inefficacité n'était pas seulement une conséquence malheureuse d'un monde sans capteurs. Au contraire, il était l'aboutissement l

Dans un dossier en 6 parties, Fabien Soyez revient sur Indect, le projet européen de vidéosurveillance intelligente. Pour Rosamunde Van Brakel de l'université libre de Bruxelles, ce type de projet risque d'accuser à tort des individus et nous mener à une société de méfiance organisée fondée sur la discrimination algorithmique. "Le développement d'une telle technologie est inquiétant, et je me demande si l'argent qui est mis dans ce type de projets ne serait pas mieux dépensé dans les méthodes classiques de prévention du crime, qui ont prouvé leur efficacité et qui sont moins intrusives."

Les activités humaines sont de plus en plus fondées sur la gestion et l'analyse d'énormes masses de données. Notre société devient progressivement "datacentrique", estime le chercheur Pierre Lévy, à mesure qu'elles reposent sur le médium algrorithmique.

Le like est "le décompte précis de l'ensemble des perversions algorithmiques possibles". Olivier Ertzscheid.

Pour Michael Fertik, lorsque des tiers prédéterminent l'information, les prix, les gens que vous rencontrer, comme c'est le cas sur l'internet, votre illusion de contrôle semble totale, quand elle ne l'est pas. La réglementation américaine rend illégale la discrimination dans l'accès au crédit en fonction de caractéristiques personnelles, mais la fouille de données et leur personnalisation permet de contourner l'esprit de la loi. Selon ce que vos données affichent de vous, on ne vous proposera pas de crédits attrayants ! Nous sommes à l'aube de la ségrégation et de la séparation. "La personnalisation a son côté obscur."

Geeta Dayal pour Wired revient sur plusieurs exemples récents des prouesses des robots qui traquent le droit d'auteur, notamment dans les vidéos et dans les diffusions vidéo en live. Le livestreaming va-t-il devenir bientôt inutilisable ? Des technologies qui minent le droit d'usage équitable (fair use) américain, estime le spécialiste du droit d'auteur, Kembrew McLeod. Est-ce que demain nos lunettes de réalité augmenté vont s'éteindre pour atteinte au droit d'auteur ?