Lições sobre IA responsável com lideranças do setor na MWC Barcelona

Talvez você tenha visto no noticiário recentemente que a Air Canada enfrentou escrutínio e ação legal após a experiência de cliente com o seu chatbot com IA. Embora a companhia aérea argumentasse que o chatbot era sua própria entidade legal, o tribunal a considerou responsável por não fornecer cuidados razoáveis. 

Esse desastre enfatiza a necessidade das empresas entenderem como implementar a tecnologia de IA com responsabilidade. À medida que as empresas integram cada vez mais a IA em suas plataformas e serviços, o risco de desinformação e erros aumenta. 

Na Mobile World Congress (MWC) Barcelona 2024, lideranças do setor de saúde, finanças e tecnologia se reuniram para um painel de discussão chamado “IA responsável na comunicação com o cliente“, esclarecendo estratégias essenciais para mitigar contratempos no futuro.   

Com a moderação de Lodema Steinbach, vice-presidente de produto e parcerias com operadoras da Sinch, o painel contou com Gautam Anand, vice-presidente sênior na HDFC Bank, Geertina Hamstra, especialista em IA conversacional da Moet Ik Naar De Dokter (MINDD), Alexis Safarikas, CEO da Campfire, e Joachim Jonkers, diretor de produto de IA na Sinch. 

Neste artigo, exploramos os principais tópicos compartilhados durante o painel de discussão e abordamos como as práticas de IA responsável estão moldando o futuro da comunicação com o cliente em empresas globais. 

A Air Canada não é a única empresa a navegar em águas desconhecidas. Vários outros chatbots com IA ganharam as manchetes nos últimos meses por seu comportamento incomum, como o chatbot da DPD, que xingou clientes e o chatbot de uma concessionária da GM que foi convencido a vender um Chevy Tahoe por US$ 1.  

Esses eventos recentes levaram perfeitamente ao painel na MWC Barcelona que discutiu este ponto crucial: definir limites apropriados para chatbots com IA, a fim de manter a confiança e a segurança da empresa. 

Sem limites, observou Alexis Safarikas, “a IA quer agradar as pessoas”. Um bot de IA dará a resposta que você quer e, sem orientações, pode criar declarações falsas ou que não se alinham com os valores da empresa.  

No setor de saúde, Geertina Hamstra enfatizou ainda mais a importância de estabelecer limites, já que a desinformação vinda de chatbots pode ser uma receita para o desastre. Ela ressaltou a importância de confirmar todas as respostas médicas com as autoridades relevantes e garantir que elas se originem de ambientes controlados.

Essas histórias mostram como é essencial que profissionais de desenvolvimento de IA e provedores de tecnologia implementem proteções robustas para que as empresas usem as ferramentas corretamente. Dessa forma, as empresas podem se concentrar em entregar conteúdo relevante que aproveita o conhecimento especializado que já possuem sobre seu setor.

Proteções são necessárias, mas não suficientes: entre as empresas com proteções totalmente maduras, 81% ainda precisaram reverter um agente de IA — como são implementadas é tão importante quanto tê-las.

O painel também discutiu o cenário em evolução das conversas entre humanos e bots, particularmente em interações baseadas em texto, explorando tanto os desafios quanto as oportunidades que isso cria para a elaboração de fluxos de conversa para clientes.  

Hamstra compartilhou um caso de uso na área da saúde muito interessante nos Países Baixos, onde sistemas de voz com IA aprimoram a triagem de pacientes em salas de emergência. A MINDD construiu um fluxo que depende da IA para otimizar chamadas de emergência, avaliando proativamente as situações e roteando-as adequadamente, enquanto atende pacientes na fila.  

Na Índia, Gautam Anand destacou o uso transformador de IA pelo HDFC no WhatsApp para engajar diversas comunidades rurais. Essa tecnologia permite conversas em vários idiomas regionais, superando as barreiras que agentes humanos possam encontrar.

O conselho de Anand? Priorize a pessoa usuária final – converse com ela da maneira que preferir conversar. A interação humana pode ser necessária na conversa, mas o objetivo é usar a IA para ajudar você a adaptar a conversa da maneira que sua clientela prefere se engajar.

Com todos os rumores sobre o iminente AI Act, as empresas devem se preparar para garantir a conformidade e a prontidão para evitar revisões caras de sistemas no futuro. É essencial que as empresas entendam todos os detalhes da lei e ajustem suas estratégias de implementação de IA adequadamente. 

Durante o painel, especialistas enfatizaram a necessidade de prontidão, especialmente em setores como serviços financeiros e de saúde, onde o manuseio de dados confidenciais é fundamental. Geralmente, as empresas usam um sistema de hash em sua IA para que apenas pessoas certificadas possam ver informações confidenciais, como o número do seguro social.  

E independentemente do setor da empresa, Joakim Jonkers mencionou que as empresas devem tomar medidas proativas para proteger a privacidade e a segurança. Sejamos realistas: a legislação será mais lenta do que a evolução da tecnologia, portanto, seguir as práticas recomendadas e compromissos com a IA ética são essenciais.

Na discussão, Safarikas ressaltou a necessidade de as empresas entenderem por que elas estão usando a IA, para assim usá-la bem. As empresas não devem implementar a IA pelo simples fato de usá-la: elas precisam conhecer o risco e as limitações associadas às tecnologias, particularmente em relação à privacidade de dados, e defender medidas proativas para impulsionar os padrões regulatórios em seus respectivos setores.

Sistemas de IA geralmente carregam vieses e podem ser desafiadores para grandes grupos populacionais usarem e se relacionarem. O painel discutiu o que eles estão fazendo para garantir comunicações justas e acessíveis que repercutam em todo o seu público.  

Na área da saúde, Hamstra destacou a importância de usar a IA para atender pessoas que podem não falar holandês fluentemente ou que não falam de forma alguma. A organização dela usou a IA para desenvolver bots de voz e fala que podem detectar deficiências na fala ou idiomas estrangeiros para que todos os pacientes possam se comunicar com os provedores de saúde. Caso a pessoa não seja compreendida, ela pode mudar para a comunicação por texto e, em seguida, ser redirecionada para um provedor que possa ajudar.  

Além disso, ela disse que inicialmente estava preocupada com possíveis desafios para pessoas usuárias idosas, mas se tranquilizou com a interação perfeita de uma mulher de 78 anos com o bot quando ele foi lançado. Isso foi tranquilizador tanto para quem criou o bot de IA quanto para as enfermeiras que eram céticas em relação à tecnologia. 

Em paralelo, Anand compartilhou insights de serviços financeiros da Índia rural, onde as empresas estão usando o WhatsApp para ajudar as pessoas a fazer negócios. O HDFC Bank tem trabalhado para incorporar notas de voz, texto e recursos de pagamento via WhatsApp, para que sua clientela de pequenas empresas possa realizar transações de forma mais integrada e em seus idiomas locais. 

Durante a sessão, Safarikas disse da melhor forma: “Uma IA acessível é aquela que foca na experiência do cliente.” As empresas têm a responsabilidade de proporcionar experiências positivas e inclusivas para todas as pessoas usuárias, o que significa priorizar a acessibilidade em suas estratégias de IA.  

Hoje, golpistas usam vários métodos com a intenção de enganar empresas e indivíduos que podem representar ameaças significativas. As principais empresas estão revidando usando a IA.  

No setor bancário, Anand explicou como algumas instituições financeiras estão usando a IA para ajudar a garantir a segurança com reconhecimento de voz e OTP autenticação, aumentando a confiança da clientela.  

Em seguros, Safarikas mencionou que golpistas podem tentar conversas repetitivas, portanto a solução é uma questão de treinar agentes para identificar comportamentos suspeitos e saber no que prestar atenção. 

Há algumas formas de fraude, como Tráfego artificialmente inflado (AIT), em que as empresas podem usar a IA para identificar e frustrar rapidamente golpes. É uma questão de tentar novas técnicas e se manter ciente dos problemas para proteger os sistemas e as pessoas usuárias. 

Resumindo? A integração proativa de tecnologias de IA pode capacitar as empresas a permanecerem à frente do jogo. Com mais golpes e spam gerados por IA agora do que nunca, é hora de as empresas começarem a treinar e usar soluções de IA para detectar e mitigar fraudes. 

As discussões na MWC Barcelona 2024 destacaram a importância crítica da implementação responsável da IA na comunicação com o cliente em vários setores. Desde estabelecer limites para os chatbots até a preparação para as próximas regulamentações, lideranças do setor definiram padrões para empresas que se aventuram nesta nova tecnologia.

Como empresas, reconhecemos que a IA é inevitável. A forma como avançamos para sermos responsáveis, transparentes e focados no cliente definirá o tom de um futuro de interações baseadas em IA que enriquecem a vida da clientela em todo o mundo.

Joachim Jonkers, diretor de produto de IA conversacional, discute como a Sinch trabalha para garantir que os aplicativos de nosso software ajudem as empresas a usar a IA generativa com responsabilidade.

Tudo pronto para explorar o lançamento de um chatbot ou mergulhar na IA conversacional? Conecte-se com a nossa equipe para criar uma experiência de conversa que você e sua clientela vão adorar. 

Autor: The Sinch team