{"id":208814,"date":"2026-09-09T04:16:19","date_gmt":"2026-09-09T04:16:19","guid":{"rendered":"https:\/\/sinch.com\/blog\/ia-responsable-mwc-2024\/"},"modified":"2026-09-09T04:16:19","modified_gmt":"2026-09-09T04:16:19","slug":"ia-responsable-mwc-2024","status":"publish","type":"blog","link":"https:\/\/sinch.com\/es\/blog\/ia-responsable-mwc-2024\/","title":{"rendered":"Lecciones sobre IA responsable de l\u00edderes del sector en el MWC Barcelona"},"content":{"rendered":"\n

Es posible que \u00faltimamente hayas visto en las noticias que\u00a0Air Canada se ha enfrentado al escrutinio<\/a>\u00a0y a acciones legales tras la experiencia de un cliente con su chatbot con IA. Aunque la aerol\u00ednea argument\u00f3 que el chatbot era su propia entidad legal, un tribunal la consider\u00f3 responsable por no prestar una atenci\u00f3n razonable.\u00a0<\/p>\n\n\n\n

Esta debacle subraya la necesidad de que las empresas\u00a0comprendan c\u00f3mo implementar la tecnolog\u00eda de IA de manera responsable.\u00a0<\/strong>A medida que las compa\u00f1\u00edas integran cada vez m\u00e1s la IA en sus plataformas y servicios, el riesgo de desinformaci\u00f3n y errores se dispara.\u00a0<\/p>\n\n\n\n

En el Mobile World Congress (MWC) de Barcelona 2024, l\u00edderes del sector de la sanidad, las finanzas y la tecnolog\u00eda se reunieron en una mesa redonda llamada \u201cIA responsable en la comunicaci\u00f3n con los clientes<\/a>\u201d, arrojando luz sobre las estrategias esenciales para mitigar contratiempos en el futuro.\u00a0\u00a0\u00a0<\/p>\n\n\n\n

Moderado por Lodema Steinbach, vicepresidenta de Producto y Asociaciones con Operadores en Sinch, el panel cont\u00f3 con la participaci\u00f3n de Gautam Anand, vicepresidente s\u00e9nior en\u00a0HDFC Bank<\/a>, Geertina Hamstra, experta en IA conversacional en\u00a0Moet Ik Naar De Dokter<\/a>\u00a0(MINDD), Alexis Safarikas, director ejecutivo de\u00a0Campfire<\/a>, y Joachim Jonkers, director de IA de Producto en Sinch.\u00a0<\/p>\n\n\n

\n
\"Panelistas
Panelistas debatiendo sobre la IA responsable en la comunicaci\u00f3n con los clientes en el MWC Barcelona 2024. De izquierda a derecha: Joachim Jonkers (Sinch), Gautam Anand (HDFC Bank), Geertina Hamstra (MINDD), Alexis Safarikas (Campfire) y Lodema Steinback (Sinch).<\/em><\/figcaption><\/figure>\n<\/div>\n\n\n

En este art\u00edculo, profundizamos en los temas clave compartidos durante la mesa redonda y cubrimos c\u00f3mo las pr\u00e1cticas de IA responsable est\u00e1n dando forma al futuro de la comunicaci\u00f3n con los clientes en las grandes empresas.\u00a0<\/p>\n\n\n\n

Poner l\u00edmites a los bots<\/h2>\n\n\n\n

En Air Canada no son los \u00fanicos que se encuentran navegando en aguas desconocidas. Otros chatbots con IA han ocupado los titulares en los \u00faltimos meses por su comportamiento inusual, como el chatbot de DPD que\u00a0insult\u00f3 a los clientes<\/a>\u00a0y el chatbot de un concesionario de GM al que convencieron para que vendiera un\u00a0Chevy Tahoe por 1\u00a0$<\/a>. \u00a0<\/p>\n\n\n\n

Estos sucesos recientes sirvieron de introducci\u00f3n perfecta para el panel del MWC Barcelona en el que se debati\u00f3 este punto crucial:\u00a0establecer l\u00edmites adecuados para los chatbots con IA con el fin de mantener la confianza y la seguridad de la empresa.<\/strong>\u00a0<\/p>\n\n\n\n

Sin l\u00edmites, se\u00f1al\u00f3 Alexis Safarikas, \u201cla IA es complaciente\u201d. Un bot con IA te dar\u00e1 la respuesta que quieres, y sin indicaciones, puede crear afirmaciones falsas o que no se alineen con los valores de la empresa.\u00a0\u00a0<\/p>\n\n\n\n

En el sector sanitario, Geertina Hamstra enfatiz\u00f3 a\u00fan m\u00e1s la importancia de establecer l\u00edmites, ya que la desinformaci\u00f3n de los chatbots puede ser la receta para el desastre. Destac\u00f3 la importancia de confirmar todas las respuestas m\u00e9dicas con las autoridades pertinentes y asegurarse de que provengan de entornos controlados.<\/p>\n\n\n\n

Conclusi\u00f3n: una IA responsable significa establecer par\u00e1metros<\/h3>\n\n\n\n

Estas historias establecen el imperativo de que los equipos de desarrollo de IA y los proveedores de tecnolog\u00eda implementen barreras s\u00f3lidas para que las empresas que utilizan las herramientas puedan hacerlo correctamente. De esa manera, las empresas pueden centrarse en\u00a0ofrecer contenido relevante<\/a>\u00a0que aproveche el conocimiento experto que ya tienen sobre su sector.<\/p>\n\n\n\n

Las barreras de seguridad son necesarias pero no suficientes: entre las empresas con barreras totalmente maduras, el 81\u00a0% ha tenido que retirar un agente de IA<\/a> , por lo que c\u00f3mo se implementan importa tanto como tenerlas.<\/p>\n\n\n\n

Transferencia de la IA a los agentes<\/h2>\n\n\n\n

El panel tambi\u00e9n debati\u00f3 sobre el panorama en evoluci\u00f3n de las conversaciones impulsadas por personas y bots, particularmente en interacciones basadas en texto, explorando tanto los desaf\u00edos como las oportunidades que esto crea para dise\u00f1ar flujos de conversaci\u00f3n para los clientes. \u00a0<\/p>\n\n\n\n

Hamstra comparti\u00f3 un caso de uso sanitario muy interesante de los Pa\u00edses Bajos, donde los sistemas de voz con IA mejoran el triaje de los pacientes en urgencias. MINDD cre\u00f3 un flujo que se basa en la IA para agilizar las llamadas de emergencia evaluando proactivamente las situaciones y realizando el enrutamiento correspondiente, todo ello mientras atiende a los pacientes en la cola.\u00a0\u00a0<\/p>\n\n\n\n

En la India, Gautam Anand destac\u00f3 el uso transformador de la IA por parte de HDFC en\u00a0WhatsApp<\/a>\u00a0para interactuar con diversas comunidades rurales. Esta tecnolog\u00eda permite mantener conversaciones en varios idiomas regionales, superando las barreras que podr\u00edan encontrar los agentes humanos.<\/p>\n\n\n\n

Conclusi\u00f3n: mant\u00e9n a los clientes en el centro de tu estrategia de IA<\/h3>\n\n\n\n

\u00bfEl consejo de Anand?\u00a0Prioriza a los usuarios finales<\/strong>: conversa con ellos de la forma en que prefieren hacerlo. La interacci\u00f3n humana puede ser necesaria en la conversaci\u00f3n, pero el objetivo es utilizar la IA para ayudarte a adaptar la conversaci\u00f3n a la forma en que tus clientes prefieren interactuar.<\/p>\n\n\n\n

Asegurarte de estar a punto para la normativa<\/h2>\n\n\n\n

Con todo el revuelo sobre la inminente\u00a0Ley de IA<\/a>, las empresas deben prepararse para garantizar el cumplimiento y la preparaci\u00f3n a fin de evitar costosas revisiones del sistema en el futuro. Es esencial que las empresas comprendan los entresijos de la ley y perfeccionen sus estrategias de implementaci\u00f3n de IA en consecuencia.\u00a0<\/p>\n\n\n\n

Durante el panel, los especialistas enfatizaron la necesidad de estar preparados, particularmente en sectores como los servicios financieros y la sanidad, donde el manejo de datos confidenciales es cr\u00edtico. A menudo, las empresas utilizan un sistema de hash en su IA para que solo las personas autorizadas puedan ver informaci\u00f3n confidencial, como el n\u00famero de la seguridad social.\u00a0\u00a0<\/p>\n\n\n\n

Y, sea cual sea el sector de la empresa, Joakim Jonkers mencion\u00f3 que\u00a0las organizaciones deben tomar medidas proactivas para salvaguardar la privacidad y la seguridad.<\/strong>\u00a0Afront\u00e9moslo: la legislaci\u00f3n avanzar\u00e1 m\u00e1s lentamente que la evoluci\u00f3n de la tecnolog\u00eda, por lo que respetar las mejores pr\u00e1cticas y\u00a0los compromisos con una IA \u00e9tica<\/a>\u00a0son esenciales.<\/p>\n\n\n\n

Conclusi\u00f3n: conoce tu \u201cporqu\u00e9\u201d<\/h3>\n\n\n\n

En el debate, Safarikas recalc\u00f3 la necesidad de que las empresas entiendan\u00a0por qu\u00e9<\/em>\u00a0su compa\u00f1\u00eda utiliza la IA para utilizarla bien. Las empresas no deber\u00edan implementar la IA por el mero hecho de utilizarla: necesitan conocer los riesgos y las limitaciones asociados a estas tecnolog\u00edas, en particular en relaci\u00f3n con la privacidad de los datos, y abogar por medidas proactivas para impulsar los est\u00e1ndares normativos en su respectivo sector.<\/p>\n\n\n\n

Mantener la accesibilidad y la equidad<\/h2>\n\n\n\n

Los sistemas de IA a menudo\u00a0conllevan sesgos<\/a>\u00a0y pueden resultar dif\u00edciles de utilizar y de entender para grandes grupos de poblaci\u00f3n. En el panel se debati\u00f3 qu\u00e9 est\u00e1n haciendo para garantizar unas comunicaciones justas y accesibles que conecten con toda su audiencia.\u00a0\u00a0<\/p>\n\n\n\n

En el \u00e1mbito sanitario, Hamstra destac\u00f3 la importancia de usar la IA para atender a las personas que no hablan neerland\u00e9s con fluidez o que no lo hablan en absoluto. Su organizaci\u00f3n ha utilizado la IA para desarrollar bots de voz y habla que pueden detectar problemas del habla o idiomas extranjeros para que todos los pacientes puedan comunicarse con los proveedores sanitarios. Si no se entiende a un paciente, este puede cambiar a la comunicaci\u00f3n por texto y ser redirigido a un proveedor que pueda ayudarle. \u00a0<\/p>\n\n\n\n

Adem\u00e1s, afirm\u00f3 que en un principio le preocupaban los posibles problemas con los usuarios de edad avanzada, pero se tranquiliz\u00f3 al ver la interacci\u00f3n fluida de una mujer de 78 a\u00f1os con el bot cuando se lanz\u00f3. Esto result\u00f3 tranquilizador tanto para el equipo creador del bot de IA como para el personal de enfermer\u00eda que se mostraba esc\u00e9ptico ante la tecnolog\u00eda.\u00a0<\/p>\n\n\n\n

En paralelo, Anand comparti\u00f3 informaci\u00f3n sobre los servicios financieros en la India rural, donde las empresas utilizan WhatsApp para ayudar a la gente a hacer negocios. HDFC Bank ha trabajado para incorporar notas de voz, texto y funciones de pago a trav\u00e9s de WhatsApp para que sus usuarios de peque\u00f1as empresas puedan realizar transacciones con mayor fluidez y en sus idiomas locales.\u00a0<\/p>\n\n\n\n

Conclusi\u00f3n: la IA responsable se centra en la experiencia del cliente<\/h3>\n\n\n\n

Durante la sesi\u00f3n, Safarikas lo expres\u00f3 a la perfecci\u00f3n:\u00a0\u201cUna IA accesible es aquella que se centra en la experiencia del cliente\u201d.<\/strong>\u00a0Las empresas tienen la responsabilidad de ofrecer experiencias positivas e inclusivas a todos los usuarios, lo que implica priorizar la accesibilidad en sus estrategias de IA.\u00a0\u00a0<\/p>\n\n\n\n

Lucha contra el fraude<\/h2>\n\n\n\n

En la actualidad, quienes cometen fraude utilizan diversos m\u00e9todos destinados a enga\u00f1ar a las empresas y a las personas que pueden suponer amenazas importantes. Las empresas l\u00edderes est\u00e1n contraatacando mediante la IA.\u00a0\u00a0<\/p>\n\n\n\n

En el sector bancario, Anand explic\u00f3 c\u00f3mo algunas instituciones financieras est\u00e1n utilizando la IA para ayudar a garantizar la seguridad mediante el reconocimiento de voz y la\u00a0OTP<\/a>\u00a0autenticaci\u00f3n, lo que aumenta la confianza del cliente.\u00a0\u00a0<\/p>\n\n\n\n

Y en los seguros, Safarikas mencion\u00f3 que algunas personas que cometen fraude pueden intentar mantener conversaciones repetitivas, por lo que la soluci\u00f3n es cuesti\u00f3n de formar a los agentes para que identifiquen los comportamientos sospechosos y sepan a qu\u00e9 atenerse.\u00a0<\/p>\n\n\n\n

Hay algunas formas de fraude, como el\u00a0Tr\u00e1fico inflado artificialmente (AIT)<\/a>, en las que las empresas pueden utilizar la IA para identificar y frustrar r\u00e1pidamente las estafas. Se trata de probar nuevas t\u00e9cnicas y mantenerse al tanto de los problemas para proteger los sistemas y a los usuarios.\u00a0<\/p>\n\n\n\n

Conclusi\u00f3n: la IA puede ayudar a las empresas a adelantarse a las estafas<\/h3>\n\n\n\n

\u00bfEn resumen?\u00a0La integraci\u00f3n proactiva de las tecnolog\u00edas de IA puede empoderar a las empresas para mantenerse a la vanguardia.\u00a0<\/strong>Al haber m\u00e1s spam y estafas generados por IA\u00a0ahora que nunca<\/a>, es hora de que las empresas empiecen a formarse y a utilizar soluciones de IA para detectar y mitigar el fraude.\u00a0<\/p>\n\n\n\n

Navegar por el camino hacia una IA responsable en la comunicaci\u00f3n con los clientes<\/h2>\n\n\n\n

Los debates celebrados en el MWC Barcelona 2024 pusieron de relieve la importancia fundamental que tiene la implementaci\u00f3n responsable de la IA en la comunicaci\u00f3n con los clientes en diversos sectores. Desde el establecimiento de l\u00edmites en torno a los chatbots hasta la preparaci\u00f3n para las pr\u00f3ximas normativas, los l\u00edderes del sector han establecido est\u00e1ndares para las empresas que se aventuran en esta nueva tecnolog\u00eda.<\/p>\n\n\n\n

Como empresas, reconocemos que la IA es inevitable.\u00a0La forma en que avancemos para ser responsables, transparentes y centrarnos en el cliente marcar\u00e1 la pauta para un futuro de interacciones impulsadas por la IA que enriquezcan la vida de los clientes en todo el mundo.<\/strong><\/p>\n\n\n\t

\r\n\t\t\t\t\t
\r\n \r\n
\r\n <\/svg>\r\n <\/div>\r\n \"How\r\n <\/a>\r\n <\/div>\r\n