Les robots conversationnels et leur impact dans le domaine financier
L’utilisation des robots conversationnels basés sur l’intelligence artificielle et les algorithmes est de plus en plus répandue dans le secteur de l’assurance-vie et de la banque. Cependant, une récente étude menée par l’Autorité de contrôle prudentiel et de résolution (ACPR) alerte sur les conséquences de ces chatbots dans le domaine financier.
Une confiance trompeuse
Selon l’étude, les conseils financiers donnés par les robots conversationnels peuvent « augmenter à tort la confiance des utilisateurs » et les inciter à accepter des conseils qui ne sont pas adaptés à leur situation. L’ACPR met en garde contre les propositions incorrectes faites par les robots-conseillers, affirmant que les explications fournies sous forme de conversation peuvent tromper les utilisateurs et les pousser à prendre des décisions inappropriées.
Résultats de l’étude
L’étude de l’ACPR a été réalisée auprès de 256 participants, principalement des novices en matière financière. Un robot-conseiller, baptisé Robex, a été spécialement développé pour cette étude. Les résultats ont révélé que les explications fournies par le robot ne contribuent pas significativement à la compréhension des propositions financières par les utilisateurs, ni à leur capacité à suivre ou non les conseils donnés.
Les conséquences pour les utilisateurs peu éduqués financièrement
De manière préoccupante, l’étude souligne que les utilisateurs ayant un niveau d’éducation plus faible comprennent moins bien les propositions incorrectes, mais sont plus enclins à les accepter malgré tout. Cela soulève donc des inquiétudes quant à la protection de ces utilisateurs, car la réglementation financière française requiert que les propositions de contrat soient justifiées en montrant au client le lien entre ses caractéristiques financières et sa situation personnelle.
Le besoin de clarté et de précision
L’ACPR indique que la motivation derrière les conseils donnés par ces robots-conseillers manque souvent de clarté et reste trop générique. Les explications fournies aux utilisateurs ne sont pas assez précises et ne tiennent pas compte des caractéristiques individuelles de chaque client. Il est donc essentiel d’améliorer la qualité des conseils donnés par ces robots afin de garantir la protection des utilisateurs et d’éviter les conséquences négatives liées à des investissements mal adaptés.
Conclusion
L’utilisation croissante des robots conversationnels dans le domaine financier soulève des préoccupations concernant la confiance trompeuse qu’ils peuvent susciter chez les utilisateurs. L’étude de l’ACPR met en évidence la nécessité de garantir une meilleure compréhension des propositions financières et une justification claire des conseils donnés. Il est important de maintenir un équilibre entre l’utilisation de la technologie et la protection des utilisateurs, en veillant à ce que les robots-conseillers fournissent des recommandations adaptées à chaque situation individuelle.