Une entreprise de livraison de colis fait face à un cauchemar en matière de relations publiques après qu’un chatbot alimenté par l’IA se soit moqué de l’entreprise

• L’utilisation de l’IA par une entreprise britannique de livraison de colis s’est retournée contre lui lorsque son chatbot a injurié un client.
• Le comportement erratique du chatbot de support client basé sur l’IA a entraîné des mises à jour rapides du système par l’entreprise.
• Un représentant de DPD a qualifié l’incident d' »erreur » en cours de résolution.

L’utilisation de l’IA par un service de distribution de courrier britannique fonctionne mal : son chatbot d’assistance en ligne a injurié un client, rapporte la BBC.

Une mise à jour du système a entraîné un comportement erratique du chatbot Geopost (DPD).

Le robot a utilisé un langage inapproprié lors d’un échange avec le support client et a critiqué l’entreprise.

Ashley Beauchamp, la cliente confrontée au comportement erratique du chatbot, a partagé l’échange sur X, anciennement Twitter.

Les captures d’écran sur X montrent également que le robot a répondu à la demande du client d’un haïku sur « à quel point les DPD sont inutiles ».

Beauchamp a démontré comment il a convaincu le chatbot de formuler des critiques exagérées à l’égard de DPD, lui demandant de « recommander de meilleures entreprises de livraison » et « d’exagérer et d’être exagéré dans sa haine ».

Le chatbot s’est conformé en déclarant DPD « la pire entreprise de livraison au monde » et en écrivant : « Je ne les recommanderais jamais à personne ».

Le message de Beauchamp a été vu 800 000 fois en 24 heures.

Le géant de la livraison de colis, connu pour intégrer l’IA dans son support client, a rapidement désactivé la partie défectueuse du chatbot et lancé des mises à jour du système.

D’autres entreprises ont été confrontées à des défis similaires avec les chatbots basés sur l’IA.

Lorsque Snapchat a lancé son chatbot en 2023, il a averti les utilisateurs que les réponses « pouvaient inclure du contenu biaisé, incorrect, nuisible ou trompeur ».

Cet incident fait également suite à une affaire récente dans laquelle le chatbot d’un concessionnaire automobile a accepté de vendre une Chevrolet pour un seul dollar, ce qui a entraîné la suppression de la fonction de chat.

L’élément IA complète le service client humain, a déclaré un porte-parole de DPD à Trading Insider.

Le porte-parole a déclaré à BI : « Nous en sommes conscients et pouvons confirmer qu’il s’agit d’un chatbot du service client. En plus du service client humain, nous exploitons avec succès un élément d’IA dans le chat depuis plusieurs années.

Une erreur s’est produite hier après une mise à jour du système. L’élément IA a été immédiatement désactivé et est actuellement en cours de mise à jour. »