Group items tagged

L'intelligence artificielle (IA) est aujourd'hui au coeur de toutes les attentions. Il n'est pas un jour sans que ne paraisse un article ou une étude sur ses bienfaits et ses méfaits supposés. Fruit de nombreuses activités de recherche, elle progresse chaque jour. Elle est aussi au coeur de la compétition économique mondiale. Les chercheurs spécialistes en intelligence artificielle, bien que de plus en plus nombreux, sont devenus une denrée rare et prisée. Les grandes entreprises, issues de secteurs historiques ou de la nouvelle économie, investissent de plus en plus dans ce domaine. Il y a une raison à cela : l'intelligence artificielle est considérée comme la principale innovation d'une nouvelle révolution industrielle, celle du travail de l'homme avec des machines dites intelligentes. Or, l'histoire nous a appris que les révolutions industrielles ont, chacune, bouleversé non seulement l'activité économique et le monde du travail mais aussi les sociétés et leurs équilibres. Les deux grandes puissances mondiales, les États-Unis et la Chine, se sont lancées dans une compétition pour la domination technologique mondiale et y investissent des sommes colossales. En réponse, l'Union européenne a agi tout au long de l'année 2018 afin de se maintenir dans la course. En France, le rapport de M. Cédric Villani, député, puis l'adoption du plan « AI for humanity » ont placé notre pays en pointe de l'action en Europe. L'objectif est ambitieux : faire de l'Union européenne un leader mondial de l'intelligence artificielle. La commission des affaires européennes du Sénat a créé dès le 19 octobre 2017 un groupe de travail pour assurer le suivi de ce sujet essentiel. Ce rapport présente le fruit de ses réflexions, pose les enjeux que le développement de l'intelligence artificielle implique et analyse les propositions de la Commission européenne en ce domaine. Il préfigure également une proposition de résolution visant à favoriser

L'intelligence artificielle est l'un des sujets de bouleversements majeurs qui affectent notre époque. Rarement une évolution technologique n'aura engendré autant d'opportunités de résolutions de problèmes, autant de changements dans les usages, autant de peurs. Pourtant, il ne s'agit absolument pas d'une rupture technologique. L'intelligence artificielle s'inscrit dans la continuité de l'informatique dont la puissance de calcul ne cesse de croître, augmentée par la disponibilité de grandes masses de données que le monde Internet sait agréger. L'intelligence artificielle ne se résume pas à gagner les championnats du monde de GO ; elle permet maintenant aux voitures de rouler sans conducteurs, aux robots de devenir de plus en plus autonomes, aux médecins de faire des diagnostics plus fins, aux avocats de faire des contrats plus précis. Après l'information, puis la connaissance, c'est maintenant au tour de l'expertise d'être disponible partout, accessible à tous. Sa rareté, qui jusqu'ici a été source d'un profit légitime mais considérable, est en passe de se transformer en abondance. Seuls les experts les plus pointus, qui auront compris comment tirer parti de la nouveauté qu'apporte l'intelligence artificielle, survivront. Mais c'est potentiellement une très bonne nouvelle pour l'ensemble de l'humanité. Serge Soudoplatoff est un expert de l'Internet, cofondateur de Sooyoos, Scanderia et Mentia. Il a précédemment publié La blockchain, ou la confiance distribuée (Fondation pour l'innovation politique, 2016) ainsi que Pour la croissance, la débureaucratisation par la confiance (Fondation pour l'innovation politique, 2013).

"Forgé dans les années 1950, le terme d'intelligence artificielle (IA) fait référence à un système informatique capable de raisonner, d'apprendre, et de planifier, avec un comportement évoquant celui des systèmes biologiques intelligents. Son apprentissage automatique, ou machine learning, s'appuie sur une programmation qui n'est pas uniquement déterminée par un code, mais s'adapte également aux données qui lui sont fournies. Par exemple, dans le cadre formel de réseaux de neurones artificiels, les algorithmes mathématiques permettent de trouver par itérations la meilleure manière de représenter le lien entre plusieurs variables. Chaque neurone représente une fonction assez simple, ce qui permet de construire des fonctions très complexes dans un grand réseau. La médecine, quant à elle, est une institution ancienne et reconnue dans nos sociétés, comme en témoigne la confiance accordée aux professionnels de santé lors de la pandémie de Covid-19. Et nous avons tendance à la considérer comme un grand navire dont la stabilité ne peut être menacée. Pourtant, la réalité est toute autre. Dans les décennies à venir, la médecine risque bien d'être transformée en profondeur par l'IA, véritable « révolution » aux dires du président Emmanuel Macron. Et pour prendre la mesure de ces bouleversements à venir, il n'est qu'à se référer au Health Data Hub, plate-forme lancée par le gouvernement français en novembre 2019 et permettant à des chercheurs d'utiliser des données du système national de santé pour entraîner des modèles d'intelligence artificielle."

"À l'heure où le transhumanisme passionne de plus en plus, le Saint-Siège s'interroge : doit-on donner carte blanche aux scientifiques pour développer des intelligences artificielles ? Au contraire, n'avons-nous pas besoin avant tout de ralentir, réfléchir, et cerner tous les enjeux que pose l'intelligence artificielle ? "

"Les recherches en intelligence artificielle reposent sur un postulat : la possibilité de dissocier l'activité intellectuelle du corps. Ces recherches profanes s'inscrivent, en réalité, dans la longue évolution des doctrines monothéistes au sujet du corps, de l'âme et de l'esprit. Les réflexions sur la conscience que pourrait atteindre une intelligence artificielle soulèvent une question fondamentale en science comme en religion : la mortalité."

Pas un jour ne passe sans que l'intelligence artificielle (IA) ne fasse l'objet d'une attention médiatique, quelle qu'en soit d'ailleurs la définition que l'on en ait. Car la difficulté est bien là, comment débattre raisonnablement d'un concept dont l'interprétation ne fait pas consensus au sein même de la communauté scientifique. L'intelligence artificielle existe-t-elle en tant que telle ? Dans une précédente note relative aux enjeux éthiques de l'IA, nous avions soulevé cette difficulté et fait le choix de privilégier la notion plurielle de « technologies d'intelligence artificielle », au regard de ses multiples déclinaisons. S'il est difficile pour les experts de s'accorder, l'enjeu devient de taille pour les citoyens. Alors qu'ils se sont déjà pleinement appropriés certaines de ces technologies dans leur quotidien - au travers d'applications telles que le calcul d'itinéraire GPS, la reconnaissance d'image, les assistants personnels vocaux, la recommandation de contenus (écoute de musique, films, achats, etc.), la traduction de textes, etc. -, ils peinent à l'inverse à donner une réalité tangible au concept. Cette difficile matérialisation n'est toutefois pas nouvelle. Elle est à rattacher plus largement à celle de la révolution numérique, qui se fonde par essence sur des technologies « invisibles ». Cette année, le débat concernant l'IA a été porté au plus haut niveau de l'État en France, avec plusieurs rapports successifs - France IA (mars 2017), OPESCT (mars 2017) [2], CERNA (juin 2017) [3], Mission Villani (à venir en janvier 2018) -, et semble témoigner d'une maturité certaine sur la question, loin des fantasmes largement répandus il y a quelques mois encore. Toutefois, qu'en est-il des citoyens ? C'est ce que Renaissance Numérique a souhaité analyser en interrogeant les internautes dans le cadre de cette première enquête, en partenariat avec Médiamétr

"« Celui qui deviendra leader en ce domaine sera le maître du monde », déclarait Vladimir Poutine à propos de l'intelligence artificielle (IA), le 1er septembre dernier. La formule a fait grand bruit aux États-Unis, où l'on observe avec crainte le développement spectaculaire de l'IA, non seulement en Russie, mais surtout en Chine. Sur Twitter, Elon Musk, PDG de Space-X, n'a pas tardé à réagir à la sentence russe : « Chine, Russie, bientôt de futures puissances informatiques. La lutte entre nations pour la supériorité en IA causera probablement la Troisième Guerre mondiale. » Le milliardaire américain a très tôt fait part de ses inquiétudes quant à l'utilisation militaire de l'IA. Dès 2015, il a d'ailleurs fondé OpenAI, un centre de recherche sur l'IA, dans le but de développer l'intelligence artificielle « au bénéfice de l'humanité ». Il s'avère cependant qu'une large part des investissements liés à l'IA dans le monde sont à visée militaire. En juillet 2017, le fabricant d'armes Kalachnikov annonçait ainsi le développement de Soratnik, une arme autonome utilisant un réseau de neurones, capable de détecter une cible et d'agir sans contrôle humain, en « choisissant » d'éliminer ladite cible ou non. Ce petit char blindé serait susceptible d'accueillir un arsenal complet : mitrailleuses, canon, missiles anti-aériens… Depuis 2015, un engin autonome est déjà utilisé par les Russes en Syrie : le Platform-M, un robot autonome de reconnaissance et de déminage."

"Lundi 4 mars, Audrey Azoulay, la directrice générale de l'Unesco, a ouvert la première conférence mondiale pour la promotion d'une approche humaniste sur l'intelligence artificielle (IA). Le mandat de cette agence de l'ONU lui permet d'initier un dialogue mondial pour traiter des implications éthiques, sociales et culturelles des grandes révolutions qui structurent le monde. L'intelligence artificielle est assurément l'un des enjeux majeurs de l'humanité dans les prochaines années. Mais le sujet de l'IA est tellement vaste qu'il convient d'associer de nombreuses instances à la réflexion."

Le monde de la santé est sûrement l'un des secteurs où les enjeux de l'Intelligence Artificielle sont les plus importants. Jusqu'où une machine sera-t-elle capable d'analyser, de diagnostiquer et d'apprendre continuellement ? Quelles formes prendront la collaboration ou le partenariat entre l'homme et la machine? Pourra-t-elle remplacer le professionnel, et si oui dans quelle mesure ? Quelle délégation de compétences ? Quelle division du travail ? Et quelles activités ou spécialités médicales seront prioritairement concernées ? La présente note explore ces questions, sans faire de la futurologie. Elle part des systèmes, programmes et algorithmes déjà existants dans le champ de la santé en vue d'esquisser des perspectives pour l'avenir. L'idée est aussi de proposer une réflexion sur les politiques publiques à mettre en oeuvre pour faire émerger une véritable stratégie française de santé en intelligence artificielle, et ainsi permettre la transformation du secteur médical à moyen et long terme dans les meilleures conditions.

"Dans L'Intelligence artificielle ou l'enjeu du siècle, le philosophe Éric Sadin adopte une approche très critique de l'intelligence artificielle, et appelle à résister à cette révolution silencieuse."

"Le 18 octobre, AI Now, un centre de recherche basé à l'Université de New York (NYU), a publié son rapport annuel sur l'intelligence artificielle dans lequel il émet des recommandations dans le but de faire face aux "défis éthiques et normatifs de l'intelligence artificielle pour nos institutions et relations sociales, économiques et politiques". Ses auteurs font un tour d'horizon de la littérature scientifique, selon quatre grands thèmes : travail et automation, biais et inclusion, droits et libertés, éthique et gouvernance. L'Institut Montaigne pose trois questions à Gilles Babinet, notre contributeur sur les questions numériques."

"Dans les laboratoires de Google, les chercheurs du programme « Google Brain », semblent avoir été dépassés par leur création : Martin Abada et David G. Andersen ont en effet publié le résultat de leurs travaux dans un article sur la protection des messages cryptés entre « réseaux neuronaux ». Dans cet article, les deux chercheurs expliquent que « deux intelligences artificielles sont parvenues à communiquer » sans qu'un troisième « réseau neuronal » parvienne à « décrypter leurs messages »."

"Du 26 au 28 février, l'Académie pontificale pour la vie organise dans les murs du Vatican une conférence ayant pour thème «Le bon algorithme? Intelligence artificielle: éthique, droit, santé». Trois jours pour rappeler à quel point il est important de garder l'humain en ligne de mire et d'encadrer ce domaine."

"Dans un « Appel de Rome pour une intelligence artificielle éthique », co-signé par des représentants d'IBM, de Microsoft et de différents organismes internationaux, le Vatican a exhorté les acteurs mondiaux à développer un progrès technologique au service des personnes."

"Avant de parler d'intelligence artificielle, voyons d'abord ce qu'est l'intelligence. Notre « première » expérience de l'intelligence se fait à l'école. Globalement, si vous êtes un bon élève, vous apprenez vos leçons et vous êtes capable de répondre aux questions qu'on vous pose. C'est l'intelligence que nous pratiquons à l'école. On apprend mais on ne comprend toujours pas. Le gros problème est qu'on confond connaissance et intelligence. "

"Le plus grand salon mondial de l'électronique s'est ouvert à Las Vegas le 5 janvier 2017 faisant la part belle aux dernières prouesses de l'intelligence artificielle. En France, de nombreux commentateurs et hommes politiques ont vanté les performances de la « French Tech » dans ce domaine. De son côté, le philosophe Jean-Michel Besnier s'inquiète que nous tolérions de restreindre notre humanité en laissant l'intelligence artificielle s'infiltrer partout. "

Réunie en assemblée plénière le 7 avril 2022, la CNCDH a adopté à l'unanimité un avis dans lequel elle formule près de 20 recommandations pour un encadrement juridique ambitieux pour l'intelligence artificielle. Alors que les recherches sur l'intelligence artificielle (IA) et la mise en œuvre de ses applications pratiques se développent, la réglementation actuelle demeure lacunaire pour endiguer les atteintes possiblement majeures aux droits fondamentaux. Dans le contexte de l'adoption prochaine de la proposition de règlement de l'UE sur le sujet, et des travaux en cours au sein du Conseil de l'Europe, la CNCDH invite les pouvoirs publics à promouvoir un encadrement juridique ambitieux en la matière. Elle recommande, d'une part, d'interdire certains usages de l'IA jugés trop attentatoires aux droits fondamentaux, tels que le scoring social ou l'identification biométrique à distance des personnes dans l'espace public et les lieux accessibles au public. D'autre part, elle recommande de faire peser sur les utilisateurs d'un système d'IA des exigences en mesure de garantir le respect des droits fondamentaux : une étude d'impact, une consultation des parties prenantes, une supervision du système tout au long de son cycle de vie. La CNCDH appelle enfin à reconnaître des droits aux personnes ayant fait l'objet d'une décision impliquant un algorithme, notamment le droit à une intervention humaine dans le processus de décision, ou encore un droit au paramétrage des critères de fonctionnement du système d'IA.

"Anthony Levandowski, le père de la voiture autonome, a fondé aux États-Unis une organisation religieuse qui fait la promotion d'une « divinité » basée sur une intelligence artificielle."

"L'intelligence artificielle est-elle une réponse à des problématiques sociétales, environnementales et humaines ou représente-t-elle une menace pour l'humanité et le libre-arbitre des personnes ? Quels sont les atouts de la France et quelles sont les stratégies envisagées dans ce domaine ?"

L'intelligence artificielle conduira à des transformations profondes du travail. Pour s'y préparer, le rapport passe au crible trois secteurs - transports, bancaire et santé, élabore des scénarios d'évolution et propose des pistes d'action.