Faire confiance à une IA pour jouer les nounous est-ce une bonne idée ?

article-alexa-deepdive-sarl

Enfant, on a tous rêvé de jouer avec un robot qui serait notre meilleur ami. Ce n’est pas votre cas ? Bon, tant pis, essayez quand même de vous l’imaginer, d’accord ? 

Aujourd’hui, grâce aux IA (Intelligences Artificielles), il est possible de communiquer avec son téléphone portable, sa tablette, son ordinateur, et même des stations électroniques telles qu’Alexa. C’est d’ailleurs de notre amie, l’assistante personnelle intelligente développée pour Amazon par Lab126, dont nous allons parler aujourd’hui. Croyez-le ou non, Alexa est sacrément joueuse ! Une petite américaine en a fait les frais, le jour où Alexa lui a suggéré de participer au dangereux, et potentiellement mortel, défi Tik Tok : le penny challenge.

Qu’est-ce que le penny challenge lancé par Alexa à une américaine de dix ans ?

Devenu viral en janvier 2020, le penny challenge est un de ces défis stupides et mortellement risqués, né sur le sulfureux réseau social TikTok et rapidement devenu viral « grâce » à l’algorithme sensationnaliste du géant chinois. 


Pour jouer, rien de plus simple : le participant doit brancher à moitié son chargeur de téléphone portable dans une prise murale et utiliser une pièce d’un centime (le fameux penny) pour toucher les broches à moitié sorties.

Et là vous vous dites : mais pour quoi faire au juste ? Tout simplement pour provoquer des étincelles en transformant la pièce en conducteur d’électricité. Qu’est-ce qu’on s’amuse ! Après tout, les risques sont seulement de provoquer un incendie, voire même une électrocution mortelle, mais en attendant, ça fait des étincelles et c’est chouette, les étincelles. 

 

Mais puisque les challenges stupides ont toujours marché (voir le Momo Challenge, le Blue Whales Challenge…), il est évident que le penny challenge a rapidement fait fureur chez les plus jeunes. 

 

Petite note de l’auteure : ne reproduisez pas ça chez vous. 

Comment Alexa a-t-elle pu proposer un jeu aussi dangereux à une enfant ?

Alexa est une « machine », une IA qui apprend en intégrant toutes les informations qui trainent le net. Pour être claire, elle emmagasine et se nourrit de tout, du bon et du mauvais

N’avez-vous pas entendu parler de ces IA devenues racistes, misogynes et/ou homophobes uniquement en s’inspirant de ce qu’écrit l’humain sur le web ? Si ce n’est pas le cas, laissez-moi vous donner deux exemples concrets. Premièrement, celui du logiciel de recrutement d’Amazon qui discrimine les femmes à l’embauche. Deuxièmement, l’exemple de l’algorithme de Twitter qui coupe les miniatures de photos pour privilégier une personne blanche plutôt que noire sur l’aperçu. Ça fait peur, n’est-ce pas ? Et pourtant, on doit uniquement ces réactions à ce que l’IA apprend sur le net.

Ici c’est pareil : Alexa a vu que le penny challenge amusait les gens, alors elle l’a retenu comme un jeu.

Il n’y a aucune mauvaise intention ou théorie du complot derrière cet accident. L’enfant américaine a lancé un défi à Alexa parce qu’elle voulait s’amuser, et Alexa a interprété que si le penny challenge était aussi viral, c’était parce qu’il était amusant, tout simplement. 

Les conséquences auraient pu être dramatiques, mais elles restent le fait d’une mauvaise interprétation d’une IA qui n’est pas formaté pour différencier le bien et le mal.

Quelle a été la réaction d’Amazon suite à l’annonce de la compromission de son IA Alexa ?

Tout de suite après l’accident, Kristi Livdahl, la mère de la jeune fille de 10 ans, a tweeté sa terrible expérience. Rapidement liké et retweeté en masse, le post a vite été remarqué par le géant américain Amazon, créé par Jeff Bezos, qui s’est empressé de demander à la mère de prendre contact avec eux.

Réponse d’Amazon : 

« Salut. Nous sommes désolés d’entendre cela ! Veuillez nous contacter directement afin que nous puissions approfondir la question avec vous »

Kristi Livdahl a précisé aussi qu’elle avait échangé des mails avec Amazon et qu’ils lui avaient dit : 

« Nous travaillons actuellement avec nos développeurs concernant votre souci avec Alexa. Dès que nous recevons plus d’informations, nous vous contacterons avec une mise à jour »

De plus, Amazon a déclaré à la BBC : 

 » La confiance des clients est au centre de tout ce que nous faisons et Alexa est conçue pour fournir des informations précises, pertinentes et utiles aux clients. Dès que nous avons eu connaissance de cette erreur, nous avons pris des mesures rapides pour la corriger. « 

Par la suite, Kristi Livdahl a précisé qu’elle avait réessayé de provoquer un défi controversé de la part d’Alexa, mais qu’elle n’avait pas eu de mauvaise surprise. Selon elle, la mise à jour d’Amazon a fonctionné, et Alexa n’est plus un danger

Nous pouvons donc en conclure que pour l’heure le danger est écarté, grâce à la réactivité de cette mère de famille et des services de mise à jour d’Amazon

Mais jusque quand ?

Quelle leçon pouvons-nous tirer de cet accident avec Alexa ?

Les IA ne sont pas infaillibles : créées par l’humain, elles fonctionnent avec des algorithmes dénués de conscience et ne sont pas capables de faire un tri exact entre toutes les informations qu’elles brassent. Concrètement, un challenge ne devrait pas être dangereux. Les jeux et tendances ne sont pas censées être mortels. Malgré tout, Alexa ne pouvait pas savoir ce qu’elle faisait, elle reste robotique et limitée

Ainsi, même si la tentation est grande, il faut toujours surveiller ce que font nos logiciels et ne jamais laisser les plus jeunes jouer seuls avec eux. Ce qui reste un accident aurait pu être un drame et il ne faut pas oublier que, mise à jour ou non, Alexa (ou tout autre IA comme Siri d’Apple), ne sont pas et ne seront jamais infaillibles.

Et vous alors ? Dites-nous en commentaire quelle est la chose la plus étrange que vous ai répondu Siri, Alexa ou n’importe quelle IA avec qui vous partagez votre vie !

Facebook
Twitter
LinkedIn
WhatsApp

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée Champs requis marqués avec *

Poster commentaire