Lecciones sobre IA responsable de líderes del sector en el MWC Barcelona

Es posible que últimamente hayas visto en las noticias que Air Canada se ha enfrentado al escrutinio y a acciones legales tras la experiencia de un cliente con su chatbot con IA. Aunque la aerolínea argumentó que el chatbot era su propia entidad legal, un tribunal la consideró responsable por no prestar una atención razonable. 

Esta debacle subraya la necesidad de que las empresas comprendan cómo implementar la tecnología de IA de manera responsable. A medida que las compañías integran cada vez más la IA en sus plataformas y servicios, el riesgo de desinformación y errores se dispara. 

En el Mobile World Congress (MWC) de Barcelona 2024, líderes del sector de la sanidad, las finanzas y la tecnología se reunieron en una mesa redonda llamada “IA responsable en la comunicación con los clientes”, arrojando luz sobre las estrategias esenciales para mitigar contratiempos en el futuro.   

Moderado por Lodema Steinbach, vicepresidenta de Producto y Asociaciones con Operadores en Sinch, el panel contó con la participación de Gautam Anand, vicepresidente sénior en HDFC Bank, Geertina Hamstra, experta en IA conversacional en Moet Ik Naar De Dokter (MINDD), Alexis Safarikas, director ejecutivo de Campfire, y Joachim Jonkers, director de IA de Producto en Sinch. 

En este artículo, profundizamos en los temas clave compartidos durante la mesa redonda y cubrimos cómo las prácticas de IA responsable están dando forma al futuro de la comunicación con los clientes en las grandes empresas. 

En Air Canada no son los únicos que se encuentran navegando en aguas desconocidas. Otros chatbots con IA han ocupado los titulares en los últimos meses por su comportamiento inusual, como el chatbot de DPD que insultó a los clientes y el chatbot de un concesionario de GM al que convencieron para que vendiera un Chevy Tahoe por 1 $.  

Estos sucesos recientes sirvieron de introducción perfecta para el panel del MWC Barcelona en el que se debatió este punto crucial: establecer límites adecuados para los chatbots con IA con el fin de mantener la confianza y la seguridad de la empresa. 

Sin límites, señaló Alexis Safarikas, “la IA es complaciente”. Un bot con IA te dará la respuesta que quieres, y sin indicaciones, puede crear afirmaciones falsas o que no se alineen con los valores de la empresa.  

En el sector sanitario, Geertina Hamstra enfatizó aún más la importancia de establecer límites, ya que la desinformación de los chatbots puede ser la receta para el desastre. Destacó la importancia de confirmar todas las respuestas médicas con las autoridades pertinentes y asegurarse de que provengan de entornos controlados.

Estas historias establecen el imperativo de que los equipos de desarrollo de IA y los proveedores de tecnología implementen barreras sólidas para que las empresas que utilizan las herramientas puedan hacerlo correctamente. De esa manera, las empresas pueden centrarse en ofrecer contenido relevante que aproveche el conocimiento experto que ya tienen sobre su sector.

Las barreras de seguridad son necesarias pero no suficientes: entre las empresas con barreras totalmente maduras, el 81 % ha tenido que retirar un agente de IA , por lo que cómo se implementan importa tanto como tenerlas.

El panel también debatió sobre el panorama en evolución de las conversaciones impulsadas por personas y bots, particularmente en interacciones basadas en texto, explorando tanto los desafíos como las oportunidades que esto crea para diseñar flujos de conversación para los clientes.  

Hamstra compartió un caso de uso sanitario muy interesante de los Países Bajos, donde los sistemas de voz con IA mejoran el triaje de los pacientes en urgencias. MINDD creó un flujo que se basa en la IA para agilizar las llamadas de emergencia evaluando proactivamente las situaciones y realizando el enrutamiento correspondiente, todo ello mientras atiende a los pacientes en la cola.  

En la India, Gautam Anand destacó el uso transformador de la IA por parte de HDFC en WhatsApp para interactuar con diversas comunidades rurales. Esta tecnología permite mantener conversaciones en varios idiomas regionales, superando las barreras que podrían encontrar los agentes humanos.

¿El consejo de Anand? Prioriza a los usuarios finales: conversa con ellos de la forma en que prefieren hacerlo. La interacción humana puede ser necesaria en la conversación, pero el objetivo es utilizar la IA para ayudarte a adaptar la conversación a la forma en que tus clientes prefieren interactuar.

Con todo el revuelo sobre la inminente Ley de IA, las empresas deben prepararse para garantizar el cumplimiento y la preparación a fin de evitar costosas revisiones del sistema en el futuro. Es esencial que las empresas comprendan los entresijos de la ley y perfeccionen sus estrategias de implementación de IA en consecuencia. 

Durante el panel, los especialistas enfatizaron la necesidad de estar preparados, particularmente en sectores como los servicios financieros y la sanidad, donde el manejo de datos confidenciales es crítico. A menudo, las empresas utilizan un sistema de hash en su IA para que solo las personas autorizadas puedan ver información confidencial, como el número de la seguridad social.  

Y, sea cual sea el sector de la empresa, Joakim Jonkers mencionó que las organizaciones deben tomar medidas proactivas para salvaguardar la privacidad y la seguridad. Afrontémoslo: la legislación avanzará más lentamente que la evolución de la tecnología, por lo que respetar las mejores prácticas y los compromisos con una IA ética son esenciales.

En el debate, Safarikas recalcó la necesidad de que las empresas entiendan por qué su compañía utiliza la IA para utilizarla bien. Las empresas no deberían implementar la IA por el mero hecho de utilizarla: necesitan conocer los riesgos y las limitaciones asociados a estas tecnologías, en particular en relación con la privacidad de los datos, y abogar por medidas proactivas para impulsar los estándares normativos en su respectivo sector.

Los sistemas de IA a menudo conllevan sesgos y pueden resultar difíciles de utilizar y de entender para grandes grupos de población. En el panel se debatió qué están haciendo para garantizar unas comunicaciones justas y accesibles que conecten con toda su audiencia.  

En el ámbito sanitario, Hamstra destacó la importancia de usar la IA para atender a las personas que no hablan neerlandés con fluidez o que no lo hablan en absoluto. Su organización ha utilizado la IA para desarrollar bots de voz y habla que pueden detectar problemas del habla o idiomas extranjeros para que todos los pacientes puedan comunicarse con los proveedores sanitarios. Si no se entiende a un paciente, este puede cambiar a la comunicación por texto y ser redirigido a un proveedor que pueda ayudarle.  

Además, afirmó que en un principio le preocupaban los posibles problemas con los usuarios de edad avanzada, pero se tranquilizó al ver la interacción fluida de una mujer de 78 años con el bot cuando se lanzó. Esto resultó tranquilizador tanto para el equipo creador del bot de IA como para el personal de enfermería que se mostraba escéptico ante la tecnología. 

En paralelo, Anand compartió información sobre los servicios financieros en la India rural, donde las empresas utilizan WhatsApp para ayudar a la gente a hacer negocios. HDFC Bank ha trabajado para incorporar notas de voz, texto y funciones de pago a través de WhatsApp para que sus usuarios de pequeñas empresas puedan realizar transacciones con mayor fluidez y en sus idiomas locales. 

Durante la sesión, Safarikas lo expresó a la perfección: “Una IA accesible es aquella que se centra en la experiencia del cliente”. Las empresas tienen la responsabilidad de ofrecer experiencias positivas e inclusivas a todos los usuarios, lo que implica priorizar la accesibilidad en sus estrategias de IA.  

En la actualidad, quienes cometen fraude utilizan diversos métodos destinados a engañar a las empresas y a las personas que pueden suponer amenazas importantes. Las empresas líderes están contraatacando mediante la IA.  

En el sector bancario, Anand explicó cómo algunas instituciones financieras están utilizando la IA para ayudar a garantizar la seguridad mediante el reconocimiento de voz y la OTP autenticación, lo que aumenta la confianza del cliente.  

Y en los seguros, Safarikas mencionó que algunas personas que cometen fraude pueden intentar mantener conversaciones repetitivas, por lo que la solución es cuestión de formar a los agentes para que identifiquen los comportamientos sospechosos y sepan a qué atenerse. 

Hay algunas formas de fraude, como el Tráfico inflado artificialmente (AIT), en las que las empresas pueden utilizar la IA para identificar y frustrar rápidamente las estafas. Se trata de probar nuevas técnicas y mantenerse al tanto de los problemas para proteger los sistemas y a los usuarios. 

¿En resumen? La integración proactiva de las tecnologías de IA puede empoderar a las empresas para mantenerse a la vanguardia. Al haber más spam y estafas generados por IA ahora que nunca, es hora de que las empresas empiecen a formarse y a utilizar soluciones de IA para detectar y mitigar el fraude. 

Los debates celebrados en el MWC Barcelona 2024 pusieron de relieve la importancia fundamental que tiene la implementación responsable de la IA en la comunicación con los clientes en diversos sectores. Desde el establecimiento de límites en torno a los chatbots hasta la preparación para las próximas normativas, los líderes del sector han establecido estándares para las empresas que se aventuran en esta nueva tecnología.

Como empresas, reconocemos que la IA es inevitable. La forma en que avancemos para ser responsables, transparentes y centrarnos en el cliente marcará la pauta para un futuro de interacciones impulsadas por la IA que enriquezcan la vida de los clientes en todo el mundo.

Joachim Jonkers, director de Producto (IA conversacional), explica cómo trabaja Sinch para asegurarse de que las aplicaciones de nuestro software ayuden a las empresas a utilizar la IA generativa de forma responsable.

¿Todo listo para explorar el lanzamiento de un chatbot o adentrarte en la IA conversacional? Conecta con nuestro equipo para crear una experiencia conversacional que os encantará a ti y a tus clientes. 

Autor: The Sinch team