Pays-Bas: l’AP rappelle l’obligation de préserver le contact humain face aux chatbots IA et esquisse des perspectives réglementaires

Chatbots IA et service client: l’AP rappelle l’importance du contact humain

Dans les sites d’entreprises, la fenêtre de discussion peut inviter le visiteur à poser une question à un chatbot alimenté par l’intelligence artificielle. Cette pratique n’est pas nouvelle aux Pays‑Bas et en Suisse, et elle attire l’attention de l’autorité néerlandaise de protection des données (AP).

Selon l’AP, les organisations qui utilisent des chatbots doivent toujours offrir la possibilité de dialoguer avec un représentant humain. L’institution s’inquiète du risque de disparition du contact humain et demande que le fait de parler à un robot soit clairement indiqué, les avancées technologiques rendant de plus en plus difficile la distinction entre interlocuteur humain et IA.

Elle souligne aussi que, après une première interaction insatisfaisante avec un chatbot, les consommateurs sont souvent redirigés vers un autre chatbot plutôt que vers un agent humain, ce qui accroît leur frustration.

Vers une régulation renforcée et des directives européennes

Si la situation ne s’améliore pas, les régulateurs néerlandais envisagent d’imposer des règles plus strictes sur l’usage des chatbots dans les services clients. Ils ont par ailleurs exhorté la Commission européenne à établir des lignes directrices claires pour la conception des chatbots basés sur l’IA. L’AP rappelle que ces outils doivent être équitables, reconnaissables et accessibles, et qu’ils ne doivent pas induire les utilisateurs en erreur.