HyperVoix

"Le géant chinois Alibaba a aussi trouvé une parade intéressante. Son assistant vocal, AliGenie, a une voix de personnage de dessin animé qui peut sembler aussi bien féminine que masculine. Elle est parfois représentée sous une forme physique, sous forme d'un petit chat, dont on ne peut pas définir le sexe."

"A newly revealed patent application filed by Amazon is raising privacy concerns over an envisaged upgrade to the company's smart speaker systems. This change would mean that, by default, the devices end up listening to and recording everything you say in their presence." "In the patent application, the authors explain that your Echo device would only ever record between 10-30 seconds of audio at a time, before wiping it from the local memory buffer, and recording a new 10-30 seconds of audio over it (again and again). In each of these 10-30 second recordings, the device would continuously scan looking for commands involving the wakeword, and if it didn't find any, they'd get deleted forever - in theory, at least."

"Amazon a dévoilé de nouvelles commandes vocales pour Alexa. L'une d'entre elles concerne la vie privée. Grâce à la commande « Alexa, efface tout ce que j'ai dit« , l'assistant vocal supprimera votre historique vocal de la journée, comme le rapporte Engadget. Une fonctionnalité pratique, qui vient remplacer la procédure fastidieuse qu'il est possible de faire de manière manuelle." [...] "Il faut dans un premier temps activer la fonctionnalité, qui ne l'est pas par défaut. Il est ainsi obligatoire si vous souhaitez utiliser la fonctionnalité, de vous rendre dans les paramètres de confidentialité d'Alexa sur l'application ou le site web et activer le paramètre « Activer la suppression par la voix." [...] "Par ailleurs, Amazon a également présenté un « Privacy Hub » permettant aux clients de la firme d'obtenir divers renseignements sur Alexa comme la politique de confidentialité ou encore comment modifier les paramètres de confidentialité. "

Les chercheurs de la start-up d'intelligence artificielle Dessa ont créé une réplique de la voix de Joe Rogan, célèbre podcasteur américain. "La start-up précise que son modèle pourrait potentiellement reproduire la voix de n'importe qui, à condition que suffisamment de données soient disponibles. " "Bien que cette technologie présente des avantages, la start-up a décidé de ne pas la rendre accessible au public. Il en est de même pour ses recherches. En effet, pour l'entreprise, une simulation de voix aussi perfectionnée est susceptible d'être exploitée à des fins malveillantes." "Du côté des avantages, Dessa indique tout de même que sa technologie pourrait permettre de créer des assistants vocaux plus réalistes. Il serait également possible de concevoir des voix synthétiques réalistes et personnalisées pour les personnes atteintes de troubles de la parole. "

www.oto.ai "La société américaine fondée par l'entrepreneur suisse Teo Borschberg vient de lever 2,2 millions de dollars. Son service se présente comme un «coach» des employés travaillant dans des centres d'appels."

Etude HADOPI / CSA : Assistants vocaux et enceintes connectées

"En résumé : les agents conversationnels sont devenus incontournables. Ils viennent réinjecter de l'intelligence, artificielle ou humaine, à des interfaces qui n'étaient que des automates très complexes. Ils ouvrent la possibilité à des publics en difficultés avec le numérique d'accéder à des services et à de l'informations que le digital, paradoxalement avait eu tendance à repousser. Oui, les outils de chats, textuels ou vocals, ont un grand rôle à jouer dans les interactions business. Et demain, non seulement, on pourra parler à un site web en chattant, mais aussi oralement, dès que les utilisateurs en auront compris les grands avantages."

inventaire des capacités émotionnelles de l'IA

p58 "Le micro-travail pour « vérifier » l'IA "J. : la femme qui écoutait les robots" "[...] comment différencier une IA qui fonctionne de manière automa-tique et une IA qui fonctionne sur la base de l'intervention humaine réalisée en temps réel ?"

"Amazon développe actuellement un accessoire connecté dont la fonction est de reconnaître les émotions de son porteur, affirme Bloomberg. Porté au poignet, l'engin serait pourvu de micros et fonctionnerait en association avec une application installée sur un smartphone. Il déterminerait l'état d'esprit de l'utilisateur en s'appuyant sur la tonalité de sa voix. On ignore si les résultats sont fiables, mais une phase de test serait d'ores et déjà en cours d'après une source anonyme proche du programme."

"[...] fears of a dystopian AI future are also swirling around Amazon's facial recognition software system Rekognition, which the company reportedly attempted to sell to U.S Immigration and Customs Enforcement (ICE) and which has been tested by law enforcement in Washington and Oregon. While the public is currently focused on the use of Rekognition by law enforcement and government agencies, there is another issue to consider. If the technology becomes a standard part of the smart display experience, people may balk at the idea of installing Amazon's technology in their homes."

"L'UNESCO s'alarme de la prolifération d'assistants vocaux (Siri, Alexa, Cortana, Google Assistant) programmés pour avoir une voix féminine par défaut, une « personnalité docile », et pour répondre de façon évasive et joueuse aux insultes ou provocations à caractère sexuel. Ou comment des outils du quotidien auxquels des centaines de millions de personnes s'adressent tous les jours peuvent renforcer les préjugés sexistes associant les femmes au statut d'assistantes zélées." "Le marché est aujourd'hui dominé par quatre assistants, via lesquels se font 90% des interactions vocales dans la plupart des pays. Alexa (Amazon), Cortana (Microsoft), Siri (Apple) et le Google Assistant ou Google Home. Leurs noms sont, pour trois d'entre eux, féminins - Alexa est une référence à la grande bibliothèque d'Alexandrie, Cortana est un personnage de la série de jeux vidéo Halo qui apparaît sous la forme d'une femme svelte au corps transparent, Siri signifie « belle femme qui vous mène à la victoire » en norvégien - mais surtout, leurs voix sont systématiquement définies comme féminines par défaut, à l'exception de Siri dans quatre langues : arabe, hollandais, anglais (d'Angleterre) et… français. L'option de voix masculine a été ajoutée sur Siri en 2013, et sur Google Assistant en 2017. En revanche, elle n'existe pas pour Cortana ni Alexa." "L'Unesco recommande de poursuivre les recherches sur le rôle joué par les nouveaux produits d'intelligence artificelle dans la propagation ou le renforcement des biais sexistes, de proposer au minimum une voix féminine et une voix masculine et d'étudier la possibilité de développer une voix « non genrée » pour les assistants vocaux. "

"In a free service, bots call restaurants and make reservations. The technology is impressive, except for when the caller is actually a person." "In other words, Duplex, which Google first showed off last year as a technological marvel using A.I., is still largely operated by humans. While A.I. services like Google's are meant to help us, their part-machine, part-human approach could contribute to a mounting problem: the struggle to decipher the real from the fake, from bogus reviews and online disinformation to bots posing as people." "Google's A.I. is eerily human, when it works" "Duplex needs lots of data to improve" "Duplex is proficient at making a restaurant reservation over the phone, but much like Facebook, Google still leans on human intelligence. At any given moment, it is lifelike. But it struggles to deal with the unexpected. "There are three things that are important when it comes to A.I.'s interactions with humans: context, context and context," said Jerry Kaplan, author of "Humans Need Not Apply: A Guide to Wealth and Work in the Age of Artificial Intelligence" and a Stanford University lecturer on artificial intelligence. "Machines are very good with detail but terrible at context," he said."

"With "Project Alias," Bjørn Karmann and Tore Knudsen of Denmark demonstrated a simple yet effective way to take back control over our own private sphere, which earned them the STARTS Prize of the European Commission." "None of us had any smart home devices for a long time, and we were certainly not planning to buy one either. But after Bjørn won Google's AI Experiment Challenge back in 2017 he got a Google Home smart device as a gift from the I/O event. Despite the lack of excitement, Bjørn brought it home for a trial period. It did not take long before frustrations started to build up, and empathy towards the uncanny voice disappeared. Every interaction and behavioral pattern felt predetermined. He felt like a passive consumer who just wanted to give the poor assistant a name that was not the company's brand. And then there was the microphone. A direct link to the servers at Google that always was on and ready to be triggered by your command. So the idea of hacking it started to arise. But as makers, we had to face the sad truth that it was yet another device with a completely closed system. To hack it, we would have to get creative. This is when the idea of a "man-in-the-middle-attack" started. A device that we would trust and which has no connection to the internet. Whose job is to take control of the other assistant and whose name it would deserve."

Souvent genrés au féminin et dotés d'une voix de femme, les assistants vocaux comme Siri, Alexa, Cortana ou Google Assistant tendent à perpétuer des clichés, estime l'Unesco.

"Le droit à l'image d'une personne physique inclut donc également le droit à sa voix." "Dans ses articles 226-1 et suivants, le Code pénal instaure une protection de la vie privée qui est à rapprocher du secret des correspondances (comme spécifié dans l'article L.33-1 du Code des postes et des communications électroniques)." "[...]si la multiplication des interfaces de collectes de nos voix et la réalisation de traitements effectués en grande partie à distance n'est pas sans poser de question, le droit propose déjà une panoplie de solutions réglementaires permettant d'encadrer ces usages. Il convient néanmoins de demeurer vigilant au regard des enjeux importants que la massification des traitements automatiques de la parole peuvent faire peser sur les individus."

"Comcast is working on an in-home device to monitor people's health, and aims to begin pilot-testing it later this year." [...] "Unlike most home speakers, the device won't be positioned as a communications or assistant tool, and won't be able to do things like search the web or turn lights on and off. But it will have a personality like Alexa and it will be able to make emergency phone calls in the case of a health event, the people said."

"Emotion-classifying AI isn't anything new, but traditional approaches are supervised, meaning that they ingest training data labeled according to speakers' emotional states. Scientists at Amazon took a different approach recently, which they describe in a paper scheduled to be presented at the International Conference on Acoustics, Speech, and Signal Processing. Rather than sourcing an exhaustively annotated "emotion" corpus to teach a system, they fed an adversarial autoencoder a publicly available data set containing 10,000 utterances from 10 different speakers. The result? The neural network was up to 4% more accurate at judging valence, or emotional value, in peoples' voices." https://developer.amazon.com/fr/blogs/alexa/post/2d8c2128-eec9-44cc-9274-444940eb0a4d/using-adversarial-training-to-recognize-speakers-emotions

"The UNESCO report asks developers to design a neutral machine gender for voice assistants, which are programmed to discourage gender-based insults. Technology firms should also emphasise to the public that voice assistants are non-human." https://unesdoc.unesco.org/ark:/48223/pf0000367416.page=1