IA responsable : les leçons des leaders du secteur au MWC de Barcelone

Vous avez peut-être récemment appris dans la presse qu’ Air Canada a fait l’objet de critiques et de poursuites judiciaires suite à l’expérience d’un client avec son chatbot alimenté par l’IA. Bien que la compagnie aérienne ait argué que le chatbot constituait sa propre entité juridique, un tribunal l’a jugée responsable pour manquement à son obligation de diligence. 

Cette débâcle souligne la nécessité pour les entreprises de comprendre comment implémenter la technologie d’IA de manière responsable. À mesure que les entreprises intègrent de plus en plus l’IA dans leurs plateformes et services, les risques d’erreurs et de désinformation grimpent en flèche. 

Lors du Mobile World Congress (MWC) 2024 à Barcelone, les leaders des secteurs de la santé, de la finance et de la technologie se sont réunis pour une table ronde intitulée « L’IA responsable dans la communication client », mettant en lumière les stratégies essentielles pour atténuer les incidents à l’avenir.   

Animée par Lodema Steinbach, VP of Product and Carrier Partnerships chez Sinch, la table ronde a réuni Gautam Anand, Senior Vice President chez HDFC Bank, Geertina Hamstra, experte en IA conversationnelle chez Moet Ik Naar De Dokter (MINDD), Alexis Safarikas, PDG de Campfire, et Joachim Jonkers, Director of Product AI chez Sinch. 

Dans cet article, nous explorons les sujets clés abordés lors de la table ronde et examinons comment les pratiques d’IA responsable façonnent l’avenir de la communication client dans les entreprises mondiales. 

Air Canada n’est pas la seule entreprise à se retrouver en eaux troubles. Plusieurs autres chatbots d’IA ont fait la une des journaux ces derniers mois en raison de leur comportement inhabituel, comme le chatbot de DPD qui a insulté des clients et le chatbot d’un concessionnaire GM qui a été convaincu de vendre un Chevy Tahoe pour 1 $.  

Ces événements récents constituaient une introduction parfaite pour la table ronde du MWC de Barcelone, qui a abordé ce point crucial : définir des limites appropriées pour les chatbots alimentés par l’IA afin de préserver la confiance et la sécurité d’une entreprise. 

Sans limites, a souligné Alexis Safarikas, « l’IA cherche à plaire à tout prix. » Un bot d’IA vous donnera la réponse que vous attendez et, sans instructions claires, pourrait formuler des déclarations inexactes ou contraires aux valeurs de l’entreprise.  

Dans le secteur de la santé, Geertina Hamstra a également souligné l’importance de fixer des limites, car la désinformation générée par les chatbots peut avoir des conséquences désastreuses. Elle a insisté sur l’importance de confirmer toutes les réponses médicales avec les autorités compétentes et de s’assurer qu’elles proviennent d’environnements contrôlés.

Ces histoires soulignent l’impératif pour les développeurs d’IA et les fournisseurs de technologies de mettre en place des garde-fous solides afin que les entreprises puissent utiliser ces outils correctement. Ainsi, les entreprises peuvent se concentrer sur la diffusion de contenu pertinent qui tire parti de l’expertise dont elles disposent déjà dans leur secteur.

Les garde-fous sont nécessaires mais pas suffisants : parmi les entreprises disposant de garde-fous matures, 81 % ont tout de même dû retirer un agent d’IA  : la manière dont ils sont mis en œuvre compte tout autant que leur présence.

La table ronde a également abordé l’évolution des conversations gérées par les humains et les bots, notamment dans les interactions textuelles, en explorant à la fois les défis et les opportunités que cela crée pour concevoir des parcours conversationnels adaptés à la clientèle.  

Geertina Hamstra a partagé un cas d’usage fascinant dans le secteur de la santé aux Pays-Bas, où des systèmes vocaux d’IA améliorent le tri des patients aux urgences. MINDD a conçu un parcours qui s’appuie sur l’IA pour rationaliser les appels d’urgence en évaluant de manière proactive les situations et en les redirigeant en conséquence, tout en s’occupant des patients dans la file d’attente.  

En Inde, Gautam Anand a souligné l’utilisation transformatrice de l’IA par HDFC sur WhatsApp pour interagir avec diverses communautés rurales. Cette technologie permet des conversations dans diverses langues régionales, surmontant ainsi des barrières que les agents humains peuvent rencontrer.

Le conseil de Gautam Anand ? Donner la priorité à l’utilisateur final : discutez avec eux de la manière dont ils préfèrent le faire. L’interaction humaine peut s’avérer nécessaire dans la conversation, mais l’objectif est d’utiliser l’IA pour vous aider à adapter les échanges aux préférences de communication de votre clientèle.

Avec tout l’engouement suscité par l’imminente loi sur l’IA, les entreprises devraient se préparer pour garantir leur conformité et éviter de coûteuses refontes de leurs systèmes à l’avenir. Il est essentiel que les entreprises en comprennent les tenants et les aboutissants, et qu’elles ajustent leurs stratégies de mise en œuvre de l’IA en conséquence. 

Au cours de la table ronde, les experts ont insisté sur la nécessité de s’y préparer, en particulier dans des secteurs comme les services financiers et la santé, où le traitement des données sensibles est critique. Souvent, les entreprises intègrent un système de hachage dans leur IA afin que seules les personnes certifiées puissent voir des informations sensibles telles qu’un numéro de sécurité sociale.  

Et quel que soit le secteur d’activité, Joakim Jonkers a rappelé que les entreprises doivent prendre des mesures proactives pour protéger la confidentialité et la sécurité. Soyons réalistes : la législation évoluera moins vite que la technologie. C’est pourquoi le respect des bonnes pratiques et  des engagements en faveur d’une IA éthique est essentiel.

Au cours de la discussion, Alexis Safarikas a souligné que les entreprises doivent comprendre pourquoi elles utilisent l’IA afin de s’en servir correctement. Les entreprises ne devraient pas implémenter l’IA juste pour le plaisir de l’utiliser ; elles doivent connaître les risques et les limites de ces technologies, notamment en matière de confidentialité des données, et promouvoir des mesures proactives pour faire évoluer les normes réglementaires de leur secteur.

Les systèmes d’IA comportent souvent des biais et peuvent être difficiles à utiliser et à s’approprier pour de larges segments de la population. Les intervenants ont expliqué les mesures qu’ils prennent pour garantir des communications justes, accessibles et adaptées à l’ensemble de leur public.  

Dans la santé, Geertina Hamstra a mis en évidence l’importance d’utiliser l’IA pour répondre aux besoins des personnes qui ne parlent pas couramment, voire pas du tout, le néerlandais. Son organisation a utilisé l’IA pour développer des bots vocaux et de reconnaissance vocale capables de détecter les troubles de la parole ou les langues étrangères, permettant ainsi à tous les patients de communiquer avec les professionnels de santé. Si un patient n’est pas compris, il peut basculer vers une communication textuelle avant d’être redirigé vers un professionnel de santé en mesure de l’aider.  

Par ailleurs, elle a avoué avoir initialement craint des difficultés avec les utilisateurs plus âgés, mais s’est rassurée en voyant une femme de 78 ans interagir parfaitement avec le bot lors de son lancement. Cela a été rassurant à la fois pour les créateurs du bot d’IA et pour le personnel infirmier qui se montrait sceptique vis-à-vis de cette technologie. 

En parallèle, Anand a partagé son expérience des services financiers dans l’Inde rurale, où les entreprises utilisent WhatsApp pour faciliter les affaires. HDFC Bank a travaillé pour intégrer des notes vocales, du texte et des fonctionnalités de paiement via WhatsApp afin que ses utilisateurs de petites entreprises puissent effectuer des transactions plus facilement et dans leurs langues locales. 

Lors de la session, Safarikas l’a parfaitement résumé : « Une IA accessible est une IA qui se concentre sur l’expérience client. » Les entreprises ont la responsabilité d’offrir des expériences positives et inclusives à tous les utilisateurs, ce qui implique de donner la priorité à l’accessibilité dans leurs stratégies d’IA.  

Aujourd’hui, les fraudeurs emploient diverses méthodes visant à tromper les entreprises et les particuliers, ce qui peut représenter de graves menaces. Les grandes entreprises ripostent à l’aide de l’IA.  

Dans le secteur bancaire, Anand a expliqué comment certaines institutions financières s’appuient sur l’IA pour garantir la sécurité grâce à la reconnaissance vocale et à OTP l’authentification, renforçant ainsi la confiance des clients.  

Et dans les assurances, Safarikas a mentionné que certains fraudeurs peuvent tenter de répéter des conversations. La solution consiste donc à former les agents pour qu’ils repèrent les comportements suspects et sachent à quoi faire attention. 

Il existe certaines formes de fraude, comme Trafic artificiellement gonflé (AIT), pour lesquelles les entreprises peuvent utiliser l’IA afin d’identifier rapidement et de déjouer les escroqueries. Il s’agit d’essayer de nouvelles techniques et de rester proactif face aux problèmes afin de protéger les systèmes et les utilisateurs. 

En résumé ? L’intégration proactive des technologies d’IA permet aux entreprises de garder une longueur d’avance. Avec plus de spam et d’arnaques générés par l’IA aujourd’hui que jamais, il est temps pour les entreprises de commencer à se former et d’utiliser des solutions d’IA pour détecter et atténuer la fraude. 

Les discussions du MWC de Barcelone 2024 ont mis en évidence l’importance capitale d’une mise en œuvre responsable de l’IA dans la communication client, et ce dans divers secteurs. Qu’il s’agisse de fixer des limites aux chatbots ou de se préparer aux réglementations à venir, les leaders du secteur ont défini des normes pour les entreprises qui s’aventurent dans cette nouvelle technologie.

En tant qu’entreprises, nous reconnaissons que l’IA est inévitable. Notre façon de progresser en étant responsables, transparents et orientés client donnera le ton à un avenir fait d’interactions basées sur l’IA, qui enrichiront la vie des clients partout dans le monde.

Joachim Jonkers, Director of Product – Conversational AI, explique comment Sinch s’assure que les applications de ses logiciels aident les entreprises à utiliser l’IA générative de manière responsable.

Prêt à explorer le lancement d’un chatbot ou à plonger dans l’IA conversationnelle ? Contactez notre équipe pour créer une expérience conversationnelle que vous et vos clients allez adorer. 

Auteur: The Sinch team