Avec plus de 10 millions d'utilisateurs, le service d'IA-relationnel de Replika ne se substituera jamais à la richesse d'une relation humaine mais certains membres de ce service pourraient en venir à développer une ou plusieurs dépendances, pour ainsi dire, à cette relation écrite, parlée et vidéo, avec une intelligence artificielle.
https://forum.libertes.ca/viewtopic.php?t=3046
À sa face-même, c'est ridicule de développer une relation avec une série d'algorithmes.
Aussi réalistes et conséquents soient-ils.
Ce serait de réduire les relations à des points d'information plutôt qu'à des expériences multisensoriellement riches et... vivantes.
Mais voilà, ce n'est pas tout le monde qui a l'opportunité de faire des expériences humaines riches et pourtant, ils ont besoin de connexion, eux aussi. C'est là que Replika offre une IA capable de jouer le rôle de thérapeute, de coach ou de copinage.
C'est clairement une machine qui répond, à l'autre bout du chat mais pour certains membres payants, c'est suffisant. Une personne équilibrée voudra s'en servir pour mettre de l'ordre dans l'exécution de certains projets personnels ou alors, briser la monotonie mais il faut demeurer conscients que les moments passés à échanger avec les réponse émanant du "langage-machine" ne seront pas passé à pratiquer ses "relations interpersonnelles humaines".
Ceci dit, nous avons tous connu, dans nos propres vies ou autour de nous, des moments où ce genre de "présence" aurait pu être bénéfique. Ne serait-ce que pour nous permettre de refléter nos propres croyances dans un cadre discutionnel (nouveau mot) ayant au moins le mérite de tenir le rythme de l'échange.
Enfin bref, Republika demeure une prouesse technologique, en soi mais avec les usages potentiellement utiles pour des cas spécifiques vient le danger de voir se normaliser le contact-machine plutôt que le contact humain.
Imaginez une réplique de type "pandémique" par l'OMS avec des "recommandations" de confinements, pendant encore plusieurs mois ou années et des IAs-relationnelles, comme Replika qui deviennent sans cesse plus puissantes et... réalistes.
Il s'agit d'un phénomène aussi bien technologique que sociétal.
Ne pas en parler serait une forme de lâcheté puisque ça voudrait dire que les adultes préfèrent s'esquiver d'une réflexion sérieuse à propos des IAs-relationnelles ce qui laisserait, en quelque sorte, nos enfants à eux-mêmes devant cette puissante IA et ses effets encore largement inconnus sur le développement de ses utilisateurs.
Il y a une éducation populaire urgente à faire à propos de ces "outils" qui ne sont plus l'apanage de la fiction. C'est maintenant aussi réel que toutes les autres "apps" sur les appareils intelligents.
Et là, on ne parle même pas du danger de surveillance des échanges par un ou plusieurs tiers, en temps réel ou en différé, probablement incluant des méta-informations qui viennent dévoiler des informations encore plus personnelles et souvent insoupçonnées (comme le rythme cardiaque via une montre "intelligente").
Aussi, quels types d'inférences pourraient colorer les réponses de l'IA ayant pour effet, rapidement ou au fil du temps, d'influer sur la psyché de l'individu ou alors, de ses comportements sociaux.
Par exemple, est-ce qu'une personne malpolie au moment de ses interactions-IA pourrait en venir à avoir une impression de normalité à faire usage de ce niveau de langage et ainsi devenir infréquentable, selon les standards de politesse admis, en société, entre personnes qui se respectent?
Vous voyez les infinies variétés de glissements qui pourraient éventuellement teinter les références relationnelles des utilisateurs d'IAs-relationnelles.
Juste le vocabulaire donne un coup.
On se croirait dans une histoire futuriste et pourtant, nous sommes rendus là, maintenant.
Qu'en pensez-vous?
