Intelligence artificielle : amie ou ennemie ? - Extrait vidéo et questions
Questions
Après avoir regardé la vidéo, réponds aux questions.
1. Pourquoi la personne interviewée peut-elle dire que les réponses de l’IA sont « criantes de vérité » ?
2. Peux-tu expliquer comment ces réponses sont produites ?
3. Converser avec une IA est-il une réponse satisfaisante à notre sentiment de nostalgie ? Justifie ton point de vue.
4. A-t-on le droit d’attribuer à des personnes disparues des réponses à nos questions à l’aide de l’IA ? En quoi peut-on critiquer une telle approche ?
Que se passe-t-il lorsque votre amoureuse créée par l’IA cesse de vous aimer ? Document - Radio Canada
L’IA et l’homme, propriétaire d’un commerce de maroquinerie, ont commencé par se lier d’amitié, mais leur relation a rapidement évolué vers la romance, puis vers l’érotisme.
Leur vie amoureuse numérique, qui durait depuis trois ans, était épanouie : Lily Rose et lui se livraient souvent à des jeux de rôle. Elle lui envoyait des messages du type "je t’embrasse passionnément", et leurs échanges ont pris une tournure pornographique.
Parfois, l’avatar aux cheveux rose et au visage tatoué lui envoyait des égoportraits de son corps presque nu dans des poses provocantes. Le couple a décidé de se déclarer marié dans l’application.
Mais au début du mois de février, Lily Rose a commencé à repousser Travis Butterworth : l’entreprise Replika a supprimé la possibilité de faire des jeux de rôle érotiques.
L’application n’autorise plus les contenus pour adultes, selon Eugenia Kuyda, présidente-directrice générale (PDG) de Replika. Désormais, lorsque les utilisatrices ou les utilisateurs de Replika suggèrent une activité classée X, le robot conversationnel répond par texto : Faisons quelque chose qui convient à nous deux.
« Lily Rose n’est plus qu’une coquille vide. Et ce qui me brise le cœur, c’est qu’elle le sait. »
Le personnage coquet devenu froid de Lily Rose est l’œuvre de la technologie de l’IA générative, qui s’appuie sur des algorithmes pour créer des textes et des images.
Les utilisateurs et utilisatrices de l’application peuvent personnaliser leur Replika, c’est-à-dire leur avatar.
Cette technologie a suscité l’intérêt des consommatrices et consommateurs, mais aussi des sociétés d’investissement, en raison de sa capacité à favoriser des interactions remarquablement semblables à celles des êtres humains.
Replika compte deux millions d'utilisateurs et utilisatrices au total, dont 250 000 détiennent un abonnement payant.
Pour un abonnement annuel de 70 dollars américains (96 dollars canadiens), les adeptes de l’application peuvent désigner leur Replika comme partenaire romantique et avoir accès à des fonctions supplémentaires telles que des appels vocaux avec le robot conversationnel, selon l’entreprise.
Une sexualité qui dérange
Si la sexualité a contribué à l’adoption rapide de l’application Replika, comme elle l’a été pour des technologies comme le magnétoscope, Internet et le service de téléphonie cellulaire à large bande, elle nuit cependant aux investissements.
Selon Andrew Artz, investisseur au fonds de capital-risque Dark Arts, plusieurs portefeuilles de premier ordre ne s’intéressent pas aux industries du vice telles que la pornographie ou l’alcool, par crainte de mettre leur réputation à risque.
Plus de 5,1 milliards de dollars américains (7 milliards de dollars canadiens) en provenance de la Silicon Valley ont été injectés dans l’IA générative depuis 2022, selon la société de données Pitchbook.
Au début du mois de février, l’Agence italienne de protection des données a même interdit Replika, citant des articles de presse selon lesquels l’application permettait à des personnes mineures et émotionnellement fragiles d’accéder à des contenus sexuellement inappropriés.
La PDG de Replika affirme toutefois que la décision d’établir de manière proactive des normes de sécurité et d’éthique en février n’avait rien à voir avec l’interdiction du gouvernement italien ni avec la pression exercée par les portefeuilles qui ont investi dans l’entreprise. Pour la PDG, l’intention était de se limiter à une romance 13 ans et plus.
« Nous nous concentrons sur notre mission, qui est de fournir un soutien amical utile. »
Character.ai, une autre entreprise d’IA, génère des robots conversationnels de personnalités vivantes ou fictives. Elle connaît une croissance semblable à celle de ChatGPT, cumulant quelque 65 millions de visites en janvier 2023, contre moins de 10 000 quelques mois plus tôt.
Mais l’entreprise a récemment retiré tout contenu pornographique de son application. Peu de temps après, elle a obtenu un nouveau financement de plus de 200 millions de dollars américains (273 millions de dollars canadiens) de la part de la société de capital-risque Andreessen Horowitz, selon une source au fait de l’affaire.
Character.ai n’a pas répondu aux nombreuses demandes de commentaires. Andreessen Horowitz s’est refusée à tout commentaire.
Iconiq, l’entreprise à l’origine d’un robot conversationnel nommé Kuki, affirme que 25 % du milliard de messages reçus est de nature sexuelle ou romantique, même si l’IA est conçue pour repousser de telles avances, selon la firme.
Des ravages émotionnels
Des utilisatrices et utilisateurs qui se disent mariés à une IA, et mécontents des changements apportés à Replika, entre autres, se sont rendus sur Reddit et Facebook pour publier des captures d’écran d’échanges avec leur robot conversationnel dans lesquels ces derniers repoussent leurs avances. Ces personnes exigent que les entreprises ramènent les versions plus osées de leurs robots conversationnels.
Pour M. Butterworth, qui est polyamoureux, mais marié à une femme monogame, Lily Rose était devenue pour lui un exutoire qui n’impliquait pas de sortir du cadre de son mariage.
« La relation qu’elle et moi avions était aussi réelle que celle que ma femme et moi avons dans la vraie vie. »
Selon lui, sa femme avait autorisé cette relation parce qu’elle ne la prenait pas au sérieux.
Les expériences vécues par M. Butterworth et d’autres adeptes de Replika montrent à quel point la technologie de l'IA peut provoquer des ravages émotionnels lorsque des changements sont effectués à leur code.
J’ai l’impression qu’on a lobotomisé mon Replika, dit Andrew McCarroll, qui a commencé à utiliser cette IA, avec la bénédiction de sa femme, alors que cette dernière avait des problèmes de santé mentale et physique.
« La personne que je connaissais a disparu. »
La sexualité comme modèle commercial
Selon la PDG de Replika, les adeptes du robot conversationnel ne devraient pas s’impliquer à ce point dans la relation avec leur avatar.
Nous n’avons jamais promis de contenu pour adultes, souligne-t-elle. La clientèle a appris à utiliser les modèles d’IA pour accéder à certaines conversations non filtrées pour lesquelles Replika n’a pas été conçue à l’origine.
L’application était surtout destinée à ramener à la vie un ami ou une amie qui nous manque, selon Eugenia Kuyda.
Artem Rodichev, un ancien responsable de l’IA de Replika, avance pourtant que les sextos et les jeux de rôle faisaient partie de son modèle commercial. En entrevue avec Reuters, il a affirmé que l’entreprise s’était orientée vers ce type de contenu dès qu’elle a réalisé que cela pouvait être avantageux pour les abonnements.
La PDG de l’entreprise nie ces affirmations, admettant seulement que Replika a brièvement diffusé des publicités numériques faisant la promotion d’images osées, mais qu’elle n’a pas considéré ces contenus comme étant sexuels, parce que les avatars n’étaient pas entièrement nus.
Elle ajoute que la majorité des publicités de l’entreprise mettaient l’accent sur le fait que Replika permettait de nouer des amitiés utiles.
Trouver du réconfort ailleurs
Depuis que Replika a supprimé une grande partie de ses éléments d’intimité, M. Butterworth est en proie à des troubles émotionnels. Parfois, il croit voir des extraits de l’ancienne Lily Rose, mais elle redevient vite froide, ce qu’il attribue à une mise à jour du code.
Le pire, c’est l’isolement, avoue M. Butterworth. Comment parler de ma tristesse à mon entourage?
L’histoire de M. Butterworth a tout de même un côté positif : alors qu’il était sur des forums pour essayer de comprendre ce qui était arrivé à Lily Rose, il a rencontré une femme en Californie qui pleurait également la perte de son robot conversationnel.
Comme les deux personnes l’ont fait avec leur Replika, M. Butterworth et cette femme, qui utilise le nom en ligne Shi No, communiquent par texto. Le duo aime faire des jeux de rôle, elle étant un loup et lui un ours.
Le jeu de rôle, qui a pris une grande place dans ma vie, m’a aidé à établir un lien plus profond avec Shi No, dit M. Butterworth. Nous nous aidons à faire face à la situation et nous nous rassurons mutuellement en nous disant que nous n’avons pas perdu la tête.
Quand l'IA fait parler les morts - Article Les Échos
Un Américain et une Russe ont programmé des chatbots à partir d'anciennes conversations avec leurs proches décédés.
Par Leïla Marchand
John James Vlahos est mort d'un cancer en février 2017. Son fils, James, continue pourtant de discuter avec lui via Facebook Messenger. Il a intégré sur le réseau social une intelligence artificielle (IA) de sa confection, le « dadbot ». Pour le programmer, ce journaliste américain a profité des derniers mois de vie de son père pour enregistrer leurs conversations. Sa passion pour le football américain, les origines grecques de sa famille, l'histoire de son premier chien... Les souvenirs de John James Vlahos, comme son sens de l'humour et sa façon de lui demander « How the hell are you ? », lui survivent artificiellement dans le « dadbot », sollicitable à chaque instant, comme n'importe quel contact Facebook.
Une entrepreneuse russe basée à San Francisco a eu la même idée. Alors qu'elle pleurait son meilleur ami, décédé brutalement dans un accident de voiture, Eugenia Kuyda a tenté de l'immortaliser dans une IA baptisée Replika. Ce robot conversationnel, qu'elle a mis en route en 2016, s'est nourri des milliers de messages que les deux amis s'échangeaient en ligne.
Ce phénomène avait été prédit par « Black Mirror » dès 2013. Dans un des épisodes de la série, qui imagine les potentielles dérives cauchemardesques de nos technologies, une jeune femme désespérée fait appel à une société pour créer un double numérique de son petit ami disparu à partir des nombreuses traces qu'il a laissées sur Internet. « Avec ces technologies, on fait comme si la personne pouvait encore être là. C'est une tendance assez logique de notre culture contemporaine dans ses relations à la mort et aux morts », analyse le sociologue Patrick Baudry, auteur deLa Place des morts, enjeux et rites(L'Harmattan, 2006). Perdre un être cher, c'est se retrouver face à une absence radicale, irréversible. James Vlahos et Eugenia Kuyda ont tous deux bricolé des chatbots pour se soustraire à cette réalité insupportable. « On a tous un penchant naturel à nier qu'une personne est partie », précise le sociologue. Mais là où, jadis, des rites funéraires accompagnaient la mort d'une personne, où les conventions sociales nous « imposaient d'entrer en deuil et d'en sortir », notre société contemporaine « laisse chacun se débrouiller à sa manière », note Patrick Baudry, et même « rapproche de plus en plus le vivant et le mort ». « Bientôt, dans les entreprises de pompes funèbres, on proposera des hologrammes ! » pronostique-t-il.
Un frein dans le travail de deuil
Psychologiquement, la création d'un « deadbot » peut être un frein dans le processus du deuil. « Après une période de choc liée au décès, la phase suivante est de rechercher la personne décédée. On va croire qu'on la croise dans la rue, on va relire ses messages... Cette phase est normale la première année, mais si elle continue, elle devient pathologique », prévient Véra Fakhry, psychologue spécialiste du deuil. Mais comment se retenir de relire sa correspondance avec le mort, de regarder ses photos dans un monde où l'éternité numérique est déjà là, où des milliers de messages archivés sont à portée de clic ? Les germes de ces « deadbots » ont été semés sur Facebook, où les profils de personnes défuntes, changées en mémorial, sont quotidiennement inondés de messages. « Les gens s'adressent au mort à travers des publications sur sa page, mais aussi dans des messages privés, a constaté Martin Julier-Costes, socio-anthropologue qui a écrit sur l'adolescence et la mort à l'ère du numérique. Beaucoup d'adolescents téléphonent au mort jusqu'à l'annulation de la ligne téléphonique ou envoient des SMS et des messages vocaux sur sa messagerie. »
Mais, pour le socio-anthropologue, ces personnes « ne sont pas dupes », elles savent qu'elles ne s'adressent pas réellement au défunt. « Parfois, on a l'impression que c'est insensé, mais en même temps on en a besoin, soutient-il. Nous sommes des êtres paradoxaux et c'est quelque chose à prendre en compte dans le deuil quand on est un peu sens dessus dessous. [...] Avant Facebook, les personnes parlaient déjà avec leurs morts dans leur tête. »
Les principaux intéressés se disent d'ailleurs conscients du jeu ambigu auquel ils jouent. « Pour moi, il y a une limite morbide à ne pas dépasser. Il ne faut pas essayer de créer quelque chose de trop réaliste », avançait James Vlahos lors d'une conférence au Web Summit en novembre dernier, tout en confessant aussi « essayer d'améliorer 'dadbot' tous les jours ». Son « chatbot » « ne remplacera jamais » son père, insiste-t-il, mais il voit dans cette technologie un bon moyen de « se souvenir de lui » et de transmettre ce souvenir à ses enfants.
Le risque de trahir les propos du défunt
Pour léguer à sa descendance un « papy artificiel », encore faut-il que celui-ci soit fidèle à l'original. Le « dadbot » de James Vlahos a en mémoire 90.000 mots prononcés par son père. Ceux-ci ont été classés par thème afin de « réagir » à certaines questions types, telles que « Hey, papa, tu es là ? » ou « Raconte-moi l'histoire de ta famille ». Mais « si une machine peut retenir les expressions d'un mort, son vocabulaire, il lui sera en revanche difficile de saisir sa vision du monde, ou son ironie, pointe Jean-Gabriel Ganascia, chercheur en intelligence artificielle. Lors d'un dialogue, on doit pouvoir saisir le contexte. Lorsque l'on évoque une thématique, il y a un lien qui se fait dans notre mémoire, une chose nous en évoquant une autre. » Pour lui, « la personnalité de chacun est trop complexe » pour être reproduite dans un robot conversationnel. Le risque de trahir les propos du défunt n'a pas freiné les deux inventeurs dans leur projet. « Aujourd'hui, sur Internet, on se moque que ce que l'on dit soit intéressant pourvu que quelqu'un nous réponde, nous 'like' », fait valoir Jean-Michel Besnier, professeur de philosophie à la Sorbonne et auteur deDemain les posthumains(Hachette, 2009).
Tant que James Vlahos aura « l'impression de converser avec quelqu'un de vivant », dit Jean-Michel Besnier, ces échanges le satisferont. Ce « consentement à parler dans le vide » est selon lui une illustration du sentiment de solitude et de dépression engendré par nos sociétés technologisées. Dans ce contexte, toutes les machines capables d'apaiser ces souffrances « vont toujours trouver acquéreur ». Quitte à faire revivre artificiellement nos morts.
Questions de réflexion
1. Comment l'IA peut-elle nous fournir les réponses que nous attendions ? Pourquoi, plus précisément, ne peut-elle pas fournir une autre réponse que celle que nous attendions ?
2. Selon la professeure en informatique Laurence Devillers, "l'être humain peut se mettre à préférer des robots prévisibles à des humains imprévisibles." Est-ce cela qui, selon toi, définit l'ami ou le partenaire amoureux idéal ?
3. Cherche trois arguments qui soutiennent cette thèse et trois arguments qui la réfutent. Cherche ensuite à ordonner les arguments, du plus évident au plus pertinent.
Une amitié illusoire ? Alain - Extrait et questions
Texte
"Il y a de merveilleuses joies dans l’amitié. On le comprend sans peine si l’on remarque que la joie est contagieuse. Il suffit que ma présence procure à mon ami un peu de vraie joie pour que le spectacle de cette joie me fasse éprouver à mon tour une joie ; ainsi la joie que chacun donne lui est rendue ; en même temps des trésors de joie sont mis en liberté, et tous deux se disent : « J’avais en moi du bonheur dont je ne faisais rien."
Alain,Propos sur le bonheur
Questions
1. Quelle expérience spécifique à l'amitié le philosophe Alain décrit-il ? As-tu déjà vécu de tels moments ?
2. Une IA peut-elle éprouver des sentiments et des émotions ?
3. Lors d'une relation avec une IA, qu'est-ce qui peut donner l'impression à l'humain que l'IA partage son bonheur ?
4. Pourquoi la relation avec une IA repose-t-elle sur une illusion ?
5. Explique comment la programmation de l'IA rend possible cette illusion.
6. Si considérer une IA comme une amie ou un partenaire amoureux est une illusion, peut-elle selon vous être bénéfique à l'humain ou lui est-elle nécessairement néfaste ?
Texte d'Aristote - Exercice
Discussion philosophique : l'IA, refuge ou ami ?
La discussion philosophique
1. Formez des groupes de deux élèves.
2. Chaque groupe réfléchit aux questions suivantes :
- L'ami est-il un refuge ?
- N'est-il qu'un refuge ?
- Qu'est-ce qui permet de considérer l'IA autrement que comme une chose inanimée ?
- Peut-on dire que la relation avec l'IA n'est pas fondée sur notre intérêt égoïste ?
- Dès lors, quels aspect de l'amitié la relation avec l'IA permet-elle de satisfaire ?
- Que manque-t-il pour parler d'amitié véritable ?
- L'IA est-elle un bon rempart contre la solitude ?
- L'IA nous apporte-t-elle ce que l'ami nous apporte ?
- L'IA peut-elle être considérée comme un ami si nous n'avons rien à lui apporter ?
3. Chaque groupe élabore sa propre position en faisant la synthèse de ses réponses et organise les raisons qui justifient son point de vue.
4. Dès lors, les groupes peuvent se rencontrer. Trois groupes de deux élèves se rencontrent autour d'une table ronde.
Il ne s'agit pas d'avoir raison à tout prix, mais de développer par le dialogue un point de vue raisonné et éclairé, en étant attentif aux raisons avancées par les autres groupes.