Group items tagged

Réunie en assemblée plénière le 7 avril 2022, la CNCDH a adopté à l'unanimité un avis dans lequel elle formule près de 20 recommandations pour un encadrement juridique ambitieux pour l'intelligence artificielle. Alors que les recherches sur l'intelligence artificielle (IA) et la mise en œuvre de ses applications pratiques se développent, la réglementation actuelle demeure lacunaire pour endiguer les atteintes possiblement majeures aux droits fondamentaux. Dans le contexte de l'adoption prochaine de la proposition de règlement de l'UE sur le sujet, et des travaux en cours au sein du Conseil de l'Europe, la CNCDH invite les pouvoirs publics à promouvoir un encadrement juridique ambitieux en la matière. Elle recommande, d'une part, d'interdire certains usages de l'IA jugés trop attentatoires aux droits fondamentaux, tels que le scoring social ou l'identification biométrique à distance des personnes dans l'espace public et les lieux accessibles au public. D'autre part, elle recommande de faire peser sur les utilisateurs d'un système d'IA des exigences en mesure de garantir le respect des droits fondamentaux : une étude d'impact, une consultation des parties prenantes, une supervision du système tout au long de son cycle de vie. La CNCDH appelle enfin à reconnaître des droits aux personnes ayant fait l'objet d'une décision impliquant un algorithme, notamment le droit à une intervention humaine dans le processus de décision, ou encore un droit au paramétrage des critères de fonctionnement du système d'IA.

a CNCDH alerte les pouvoirs publics sur les dangers pour les droits fondamentaux de toute application de suivi de personnes et des contacts, en particulier sur le droit à la vie privée. Alors que le recours à un outil numérique de suivi des interactions sociales paraît s'imposer comme un élément important du dispositif de sortie du confinement porté par le gouvernement, la Commission nationale consultative des droits de l'homme (CNCDH) s'est autosaisie pour alerter les pouvoirs publics sur les dangers pour les droits fondamentaux de toute application de suivi de personnes et des contacts, en particulier sur le droit à la vie privée.

a CNCDH alerte les pouvoirs publics sur les dangers pour les droits fondamentaux de toute application de suivi de personnes et des contacts, en particulier sur le droit à la vie privée. Alors que le recours à un outil numérique de suivi des interactions sociales paraît s'imposer comme un élément important du dispositif de sortie du confinement porté par le gouvernement, la Commission nationale consultative des droits de l'homme (CNCDH) s'est autosaisie pour alerter les pouvoirs publics sur les dangers pour les droits fondamentaux de toute application de suivi de personnes et des contacts, en particulier sur le droit à la vie privée.

Depuis quelques temps, certaines volontés politiques s'affichent afin de remettre en cause les protections techniques et juridiques garanties par les méthodes de chiffrement. Pour s'opposer à ces propositions dangereuses pour, l'Observatoire des Libertés et du Numérique publie son positionnement argumentaire concernant la défense du droit au chiffrement, outil indispensable à la protection des libertés à l'ère numérique. Les capacités (techniques et légales) de surveillance des États à l'ère numérique sont aujourd'hui telles que le droit fondamental à la vie privée, garant de la liberté d'expression, d'opinion, d'information, dans une société démocratique, a été profondément remis en cause ces dernières années, en France et dans le monde. Dans ces conditions, la capacité de chiffrer ses communications numériques et ses données informatiques est une condition indispensable à la préservation des droits et libertés fondamentales, et l'un des derniers remparts, individuels et collectifs, aux intrusions arbitraires et illégales de nombreux acteurs, étatiques, privés, ou criminels. Le chiffrement va bien au-delà d'une question de droits de l'Homme : alors que le numérique a investi l'ensemble des champs d'activité humains, l'affaiblir, quelle que soit la technique utilisée, reviendrait à fragiliser considérablement l'économie, mais aussi la sécurité collective. Répétons-le, il n'existe pas de technique d'affaiblissement systémique du chiffrement qui ne permettrait de viser que les activités criminelles : l'ensemble des citoyens seraient alors aussi potentiellement visés. Il n'existe pas non plus de technique d'affaiblissement du chiffrement qui ne profiterait qu'à des acteurs « bien intentionnés ». Si une faille est créée pour un État (police, justice, service de renseignements…), elle sera alors disponible pour tous les autres acteurs (Autres États, organisations criminelle

"La Présidente de l'APCE a plaidé pour une approche plus sensible aux droits humains dans les travaux sur l'intelligence artificielle, s'adressant aujourd'hui à la Conférence organisée par la présidence finlandaise du Comité des Ministres à Helsinki sur 'Maîtriser les règles du jeu - l'impact du développement de l'intelligence artificielle sur les droits de l'homme, la démocratie et l'état de droit'."

A l'heure de l'entrée en vigueur du Règlement général sur la protection des données (RGPD), la Commission nationale consultative des droits de l'homme (CNCDH) alerte sur la nécessité de préserver le droit à la vie privée face aux mutations engendrées par les usages numériques. La CNCDH soulignera d'abord la menace que fait peser le numérique sur le respect de la vie privée, cette menace devant toutefois être mesurée à l'aune des nouveaux visages de la vie privée (I). Elle recherchera, ensuite, les moyens les plus appropriés pour renforcer l'effectivité des garanties offertes (II). La Commission s'efforcera, enfin, de proposer des mesures permettant d'atteindre un équilibre protecteur et pérenne dans l'architecture des droits de l'homme (III). La CNCDH formule une dizaine de recommandations pour que soient garantis et protégés le droit à la vie privée, le consentement libre et éclairé, la liberté d'expression.

A l'heure de l'entrée en vigueur du Règlement général sur la protection des données (RGPD), la Commission nationale consultative des droits de l'homme (CNCDH) alerte sur la nécessité de préserver le droit à la vie privée face aux mutations engendrées par les usages numériques. La CNCDH soulignera d'abord la menace que fait peser le numérique sur le respect de la vie privée, cette menace devant toutefois être mesurée à l'aune des nouveaux visages de la vie privée (I). Elle recherchera, ensuite, les moyens les plus appropriés pour renforcer l'effectivité des garanties offertes (II). La Commission s'efforcera, enfin, de proposer des mesures permettant d'atteindre un équilibre protecteur et pérenne dans l'architecture des droits de l'homme (III). La CNCDH formule une dizaine de recommandations pour que soient garantis et protégés le droit à la vie privée, le consentement libre et éclairé, la liberté d'expression.

"Les robots, êtres sujets de droits et de devoirs ? Si la question peut prêter à sourire, elle n'en reste pas moins très sérieuse. En effet, la commission des affaires juridiques du Parlement Européen approuvait le mardi 12 janvier dernier une proposition de texte visant à créer un cadre et un statut juridique spécifiques pour les robots. Au vu de la progression fulgurante du réalisme des derniers robots humanoïdes conçus, et du degré de complexité et de précision de l'intelligence artificielle de certains, la question d'un droit des robots peut effectivement très sérieusement se poser. La commission des affaires juridiques a d'ailleurs voté majoritairement pour la proposition en question, et celle-ci sera maintenant étudiée par la Commission Européenne. Mais alors, quels enjeux pour ce droit des robots ?"

Le colloque qui s'est tenu au Sénat, le 14 novembre 2019, sous le haut patronage du Président du Sénat, a ainsi donné lieu à une réflexion collective sur trois problématiques cruciales pour la défense des droits de l'Homme à l'avènement du numérique : - en premier lieu, les droits numériques des citoyens sont-ils la « nouvelle frontière » - au sens de John Fitzgerald Kennedy lors de sa campagne de 1960 - des droits de l'Homme, c'est-à-dire la nouvelle ambition que le Conseil de l'Europe doit porter au XXIème siècle auprès de ses États membres ? - en deuxième lieu, quelles réponses le Conseil de l'Europe et ses États membres peuvent-ils apporter, à leurs niveaux, face à l'expansion et à la banalisation des fake news dans les démocraties européennes ? - enfin, l'impératif d'une action multilatérale, dans le cadre du Conseil de l'Europe, mais aussi au-delà, pour lutter sur le Web contre les discours de haine, la cybercriminalité et le cyberterrorisme est-il suffisamment pris en compte par les États, seuls tenants de l'autorité légitime pour prévenir et réprimer ces fléaux ? Chacun de ces sujets a donné lieu à la confrontation des analyses de plusieurs intervenants aux compétences, aux responsabilités ou aux rapports officiels reconnus. À chaque fois, au moins un représentant du Conseil de l'Europe a été amené à en présenter l'action, tandis que d'autres intervenants d'organisations internationales, d'administrations nationales ou experts de la société civile et universitaires ont apporté l'éclairage de leurs expériences respectives au débat. Le présent rapport, qui synthétise les échanges de cette journée de réflexion, s'inscrit dans le même dessein. À travers cette publication, la délégation française à l'APCE souhaite apporter sa pierre à un édifice indispensable au quotidien de nombreux citoyens. Le Conseil de l'Europe, en dépit de ses 70 ans, es

Forte d'une doctrine forgée dans l'exercice de son mandat de rapporteur national sur la lutte contre le racisme, la CNCDH s'est auto-saisie pour analyser la proposition de loi. Le 9 juillet 2019, les membres de la Commission nationale consultative des droits de l'Homme (CNCDH) ont voté en plénière un avis relatif à la proposition de loi visant à lutter contre la haine sur Internet. Adoptée le même jour à l'Assemblée nationale, la proposition de loi inquiète la CNCDH qui la juge inadéquate et disproportionnée. Tout en soutenant pleinement l'objectif affiché de cette proposition de loi, la CNCDH s'alarme des risques qu'une telle loi ferait peser sur les libertés fondamentales. Par ailleurs, la CNCDH regrette une proposition de loi peu ambitieuse en matière d'éducation au numérique et déplore un « dispositif inutilement complexe » qui reposerait exclusivement sur des acteurs privés pour pallier « l'insuffisance de moyens budgétaires ». A ce titre, elle rappelle qu'une plateforme de signalement en ligne du ministère de l'Intérieur existe, PHAROS, et qu'elle manque de moyens. Dans ses conclusions, la CNCDH recommande le retrait de l'article 1er de la proposition de loi pour assurer une juste conciliation entre le respect des droits et libertés fondamentaux et droits et lutte contre les contenus haineux en ligne tout en renforçant les mesures préventives.

Forte d'une doctrine forgée dans l'exercice de son mandat de rapporteur national sur la lutte contre le racisme, la CNCDH s'est auto-saisie pour analyser la proposition de loi. Le 9 juillet 2019, les membres de la Commission nationale consultative des droits de l'Homme (CNCDH) ont voté en plénière un avis relatif à la proposition de loi visant à lutter contre la haine sur Internet. Adoptée le même jour à l'Assemblée nationale, la proposition de loi inquiète la CNCDH qui la juge inadéquate et disproportionnée. Tout en soutenant pleinement l'objectif affiché de cette proposition de loi, la CNCDH s'alarme des risques qu'une telle loi ferait peser sur les libertés fondamentales. Par ailleurs, la CNCDH regrette une proposition de loi peu ambitieuse en matière d'éducation au numérique et déplore un « dispositif inutilement complexe » qui reposerait exclusivement sur des acteurs privés pour pallier « l'insuffisance de moyens budgétaires ». A ce titre, elle rappelle qu'une plateforme de signalement en ligne du ministère de l'Intérieur existe, PHAROS, et qu'elle manque de moyens. Dans ses conclusions, la CNCDH recommande le retrait de l'article 1er de la proposition de loi pour assurer une juste conciliation entre le respect des droits et libertés fondamentaux et droits et lutte contre les contenus haineux en ligne tout en renforçant les mesures préventives.

"Le 8 juin 2020 l'entreprise IBM annonçait qu'elle ne vendrait, ni ne développerait plus de technologies de reconnaissance faciale, suivie par des annonces de Amazon et Microsoft. Plus récemment, le Conseil constitutionnel français jugeait qu'une grande partie de la proposition de loi visant à lutter contre la haine en ligne était inconstitutionnelle et pourrait restreindre de manière disproportionnée la liberté d'expression. Alors que l'actualité récente montre les difficultés d'appréhension des droits fondamentaux dans le champ numérique, Renaissance Numérique invite les régulateurs et les acteurs européens à bâtir une éthique de responsabilité commune, reposant sur ces droits et une véritable évaluation technologique de leur bonne application."

"La crise sanitaire oblige les autorités religieuses à donner, dans l'urgence, des réponses pour organiser le culte. Comment le droit de l'Église peut-il répondre à ces situations exceptionnelles ? Une journée d'étude à l'Institut catholique de Paris s'est intéressée, lundi 30 novembre, à ces tensions inédites."

"S'inscrire au chômage, faire valoir ses droits à la retraite, déclarer ses revenus : les usagers sont poussés à se tourner vers internet. Avec la fermeture des guichets, les plus fragiles n'ont plus accès à leurs droits sociaux. 15 % des Français restent déconnectés. Précaires, seniors et non-diplômés sont les premiers oubliés du numérique et peinent encore à se servir de leur ordinateur et à naviguer sur internet. Si les collectivités investissent depuis longtemps dans les infrastructures, elles familiarisent de plus en plus les déconnectés aux pratiques numériques à l'aide de bus itinérants, d'initiations aux tablettes tactiles ou de création de cyberespaces…"

"Aujourd'hui, qui n'accepte pas quotidiennement des dizaines de termes et conditions en cliquant passivement sur « ok » ? Qui parvient encore à échapper aux innombrables cookies qui scrute nos ordinateurs ? Nous sommes devenus les premiers complices de la dépossession de nos données personnelles. Pourtant, nous ne retirons pas la moindre rémunération directe de cette matière première que nous fournissons. Et pour cause, la monétisation de nos données constitue la principale source de rémunération de plateformes comme les GAFA. L'apparente gratuité des services qu'elles nous offrent est en réalité le coût de notre « privacy ». Pour mettre fin à ce pillage de nos données par les entreprises du Net, GenerationLibre défend l'introduction d'un droit de propriété sur les données personnelles. Inspiré par le raisonnement déployé par le chercheur américain Jaron Lanier, l'objectif est de rendre l'individu juridiquement propriétaire de ses données personnelles. Chacun pourrait ainsi vendre ses données aux plateformes, ou au contraire payer pour le service rendu et conserver ses données privées.Cette innovation juridique est telle qu'elle n'existe encore dans aucun pays dans le monde. Mais ce droit de propriété s'inscrit dans la suite logique du Règlement général sur la protection des données personnelles, qui entrera en vigueur le 25 mai 2018. L'opportunité pour l'Europe d'innover et de diffuser son modèle est à saisir." Document disponible à Veille & Doc

"Introduite par Apple dans son iPhone X, la reconnaissance faciale s'apprête à envahir notre quotidien. Qu'il s'agisse d'identifier des gens sur les réseaux sociaux ou bien de payer avec son sourire plutôt qu'avec sa carte bleue, l'ascension de cette technologie semble irrésistible, du fait de son potentiel commercial évident. Mais faut-il vraiment se résigner à vivre dans un monde de surveillance totale et de publicités toujours plus ciblées ? Dans cette tribune, le journaliste Fabien Benoit, collaborateur régulier d'Usbek & Rica, plaide pour la « sanctuarisation du droit à l'anonymat » et appelle à l'ouverture d'« États généraux de la biométrie et de la vie privée », sur le modèle du grand débat national sur la bioéthique qui vient de s'ouvrir."

"« Les développement actuels de la société du numérique transforment profondément à la fois positivement mais également négativement nos vies, nos relations à l'autre, si ce n'est l'avenir de l'identité humaine. Le rôle du Droit est remis en question dans sa dimension spatiale, ses acteurs et ses concepts. Les branches traditionnelles du droit s'effritent voire s'effondrent ». Yves Poullet, professeur émérite à l'Université de Namur, porte un regard critique sur une innovation qui bouleverse notre société pour le meilleur et pour le pire. Selon lui, il est difficile de ne pas saluer les développement introduit par les développement des TICS à commencer par internet. « Comment ne pas souligner ce merveilleux outil d'émancipation aussi bien individuelle que sociale ? ». Un enthousiasme contrebalancé par des doutes et des réserves. Le « village global » n'a rien à voir avec le village traditionnel que nous connaissons. Car l'ensemble des objets connectés qui nous entourent au quotidien, nos tablettes, nos objets embarqués, dans nos poches et nos voitures, «  parlent de nous-mêmes plus et mieux que nous ne pourrions le faire », affirme l'auteur."

Jusqu'où ira la toute-puissance des GAFAs dans l'accès et l'exploitation de nos données personnelles ? Le confort de la servitude volontaire a un prix : la mise à nu de nos usages, de notre consommation, de notre santé. Depuis les révélations du site Wikileaks, la valeur « data » est une ressource convoitée et jalousée par les États et les entreprises. À la course effrénée pour cette valeur prisée répond la mise en place d'un nouvel écosystème où s'affrontent les « cercles » de la souveraineté des citoyens, des États et des entreprises. Quelle voix pourra porter le message de la liberté des citoyens sans se briser contre le mur des puissantes multinationales ? À l'heure où l'Union européenne affine sa politique de protection des données, de nouveaux rapports de force écrivent chaque jour les règles d'une gouvernance en genèse. Droit fondamental garanti par l'article 8 de la Charte des droits fondamentaux de l'Union européenne, la protection des données des citoyens, à l'intérieur et à l'extérieur du territoire européen, ravive l'urgence à délimiter un cadre international des souverainetés. De la reconnaissance du Privacy Shield le 12 juillet 2016 par la Commission européenne au Safe Harbor, gage d'une protection équivalente des données à l'extérieur de l'espace européen, un système nouveau émerge, dans une violence et une concurrence qui participent d'un éveil de conscience aussi brutal que nécessaire : celui de la fin de l'internet avec ses libertés innées. Cette note a été écrite par Farid Gueham, consultant secteur public et contributeur numérique et innovation auprès de la Fondation pour l'innovation politique.

"Les algorithmes capables de donner sens à d'énormes quantités de données ont permis la « digitalisation du droit ». Cela a débouché sur des systèmes intelligents de justice prédictive et de gestion de l'information juridique. Comment les professionnels du droit, particulièrement les avocats et les juges, seront-ils impactés par cette révolution des données ? Le robot remplacera-t-il un jour le juriste ?"

"Le Haut-Commissaire de l'ONU aux droits de l'Homme Volker Türk recommande la mise en place de « garde-fous efficaces » pour limiter les effets négatifs de l'IA. Il se dit « profondément troublé par le potentiel de nuisance des récentes avancées en matière d'intelligence artificielle »."