Erkenntnisse zu verantwortungsvoller KI von Branchenführern auf dem MWC Barcelona

Vielleicht haben Sie in letzter Zeit in den Nachrichten gelesen, dass Air Canada in die Kritik geriet und sich nach den Erfahrungen eines Kunden mit seinem KI-gestützten Chatbot mit rechtlichen Schritten konfrontiert sah. Während die Fluggesellschaft argumentierte, der Chatbot sei eine eigene rechtliche Entität, machte ein Gericht sie wegen mangelnder Sorgfaltspflicht haftbar. 

Dieses Debakel unterstreicht, wie wichtig es für Unternehmen ist, zu verstehen, wie KI-Technologie verantwortungsvoll implementiert wird. Da Unternehmen KI zunehmend in ihre Plattformen und Dienste integrieren, steigt das Risiko von Fehlinformationen und Fehlern rasant. 

Auf dem Mobile World Congress (MWC) 2024 in Barcelona trafen sich Führungskräfte aus den Bereichen Gesundheitswesen, Finanzen und Technologie zu einer Podiumsdiskussion mit dem Titel „Verantwortungsvolle KI in der Kundenkommunikation“, um wichtige Strategien zur Vermeidung zukünftiger Missgeschicke zu beleuchten.   

Unter der Moderation von Lodema Steinbach, VP of Product and Carrier Partnerships bei Sinch, nahmen Gautam Anand, Senior Vice President bei HDFC Bank, Geertina Hamstra, Expertin für Conversational KI bei Moet Ik Naar De Dokter (MINDD), Alexis Safarikas, CEO von Campfire, und Joachim Jonkers, Director of Product AI bei Sinch, an der Diskussion teil. 

In diesem Artikel befassen wir uns mit den wichtigsten Themen der Podiumsdiskussion und zeigen auf, wie verantwortungsvolle KI-Praktiken die Zukunft der Kundenkommunikation in globalen Unternehmen prägen. 

Air Canada ist nicht das einzige Unternehmen, das sich in unbekannte Gewässer gewagt hat. Eine Reihe weiterer KI-Chatbots sorgte in den letzten Monaten durch ungewöhnliches Verhalten für Schlagzeilen, wie beispielsweise der Chatbot von DPD, der die Kunden beschimpfte und der Chatbot eines GM-Händlers, der dazu überredet wurde, einen Chevy Tahoe für 1 $ zu verkaufen.  

Diese jüngsten Ereignisse leiteten perfekt über zur Podiumsdiskussion auf dem MWC Barcelona, bei der dieser entscheidende Punkt besprochen wurde: die Festlegung angemessener Grenzen für KI-gestützte Chatbots, um das Vertrauen und die Sicherheit eines Unternehmens zu wahren. 

Ohne Grenzen, so Alexis Safarikas, „ist die KI darauf aus, es allen recht zu machen.“ Ein KI-Bot gibt Ihnen die gewünschte Antwort und kann ohne entsprechende Vorgaben unwahre Aussagen generieren oder solche, die nicht mit den Unternehmenswerten übereinstimmen.  

Für den Gesundheitssektor betonte Geertina Hamstra ebenfalls, wie wichtig es ist, Grenzen zu setzen, da Fehlinformationen durch Chatbots katastrophale Folgen haben können. Sie betonte, dass alle medizinischen Antworten von zuständigen Stellen bestätigt werden und aus kontrollierten Umgebungen stammen müssen.

Diese Geschichten verdeutlichen, dass KI-Entwicklungsteams und Technologieanbieter robuste Leitplanken implementieren müssen, damit Unternehmen die Tools richtig nutzen können. Auf diese Weise können sich Unternehmen darauf konzentrieren, relevante Inhalte bereitzustellen , die das bereits vorhandene Fachwissen über ihre Branche nutzen.

Leitplanken sind notwendig, aber nicht ausreichend: unter Unternehmen mit vollständig ausgereiften Leitplanken mussten 81 % dennoch einen KI-Agenten zurückziehen  – wie sie implementiert werden, ist genauso wichtig wie ihr bloßes Vorhandensein.

Das Podium diskutierte auch die sich entwickelnde Landschaft menschlicher und bot-gesteuerter Konversationen, insbesondere bei textbasierten Interaktionen. Dabei wurden sowohl die Herausforderungen als auch die Chancen beleuchtet, die dies für die Gestaltung von Konversationsabläufen für Kunden mit sich bringt.  

Hamstra teilte einen überzeugenden Anwendungsfall aus dem niederländischen Gesundheitswesen, bei dem KI-gestützte Voice-Systeme die Triage in Notaufnahmen verbessern. MINDD hat einen auf KI basierenden Ablauf entwickelt, der Notrufe optimiert, indem er Situationen proaktiv bewertet und ein entsprechendes Routing vornimmt, während gleichzeitig die Patientinnen und Patienten in der Warteschlange betreut werden.  

In Indien hob Gautam Anand den transformativen Einsatz von KI durch HDFC auf WhatsApp hervor, um vielfältige ländliche Gemeinschaften einzubinden. Diese Technologie ermöglicht Konversationen in verschiedenen regionalen Sprachen und überwindet so Barrieren, auf die menschliches Personal stoßen könnte.

Anands Rat? Priorisieren Sie die Endnutzerinnen und -nutzer – kommunizieren Sie mit ihnen so, wie sie es bevorzugen. Menschliche Interaktion in der Konversation kann notwendig sein, aber das Ziel ist es, KI zu nutzen, um die Konversation genau an die bevorzugte Kommunikationsweise Ihrer Kundschaft anzupassen.

Angesichts der vielen Diskussionen um den bevorstehenden AI Actsollten sich Unternehmen jetzt rüsten, um Compliance und Einsatzbereitschaft sicherzustellen – und so später kostspielige Systemüberholungen zu vermeiden. Es ist unerlässlich für Unternehmen, die Details des Gesetzes zu verstehen und ihre KI-Implementierungsstrategien entsprechend abzustimmen. 

Während der Podiumsdiskussion betonten die Fachleute die Notwendigkeit, vorbereitet zu sein – insbesondere in Sektoren wie Finanzdienstleistungen und dem Gesundheitswesen, wo der Umgang mit sensiblen Daten kritisch ist. Oft nutzen Unternehmen ein Hashing-System in ihrer KI, damit nur zertifiziertes Personal sensible Informationen wie eine Sozialversicherungsnummer sehen kann.  

Unabhängig von der Branche des Unternehmens wies Joakim Jonkers darauf hin, dass Unternehmen proaktive Maßnahmen ergreifen sollten, um Datenschutz und Sicherheit zu gewährleisten. Seien wir ehrlich: Die Gesetzgebung wird sich langsamer entwickeln als die Technologie. Daher sind die Einhaltung von Best Practices und das Bekenntnis zu ethischer KI unerlässlich.

In der Diskussion betonte Safarikas, wie wichtig es für Unternehmen ist, zu verstehen, warum ihr Unternehmen KI einsetzt, um sie optimal nutzen zu können. Unternehmen sollten KI nicht nur um der KI willen implementieren – sie müssen die mit den Technologien verbundenen Risiken und Einschränkungen kennen, insbesondere in Bezug auf den Datenschutz, und sich für proaktive Maßnahmen einsetzen, um regulatorische Standards in ihrer jeweiligen Branche voranzutreiben.

KI-Systeme weisen oft Voreingenommenheiten auf und können für große Bevölkerungsgruppen schwer zu nutzen und nachzuvollziehen sein. Das Podium diskutierte, welche Maßnahmen ergriffen werden, um eine faire und barrierefreie Kommunikation zu gewährleisten, die bei der gesamten Zielgruppe Anklang findet.  

Im Gesundheitswesen hob Hamstra die Bedeutung der KI hervor, um auf Personen einzugehen, die kein oder nur gebrochenes Niederländisch sprechen. Ihre Organisation hat mithilfe von KI Voice- und Sprach-Bots entwickelt, die Sprachstörungen oder Fremdsprachen erkennen können, sodass alle Patientinnen und Patienten mit dem Gesundheitspersonal kommunizieren können. Wenn jemand nicht verstanden wird, kann die Person zur Textkommunikation wechseln und anschließend an eine Fachkraft weitergeleitet werden, die weiterhilft.  

Darüber hinaus gab sie an, dass sie anfangs Bedenken hinsichtlich möglicher Herausforderungen bei älteren Nutzergruppen hatte. Die reibungslose Interaktion einer 78-jährigen Frau mit dem Bot bei dessen Einführung stimmte sie jedoch zuversichtlich. Dies war sowohl für das Entwicklungsteam des KI-Bots als auch für das Pflegepersonal, das der Technologie skeptisch gegenüberstand, beruhigend. 

Parallel dazu teilte Anand Einblicke zu Finanzdienstleistungen aus dem ländlichen Indien, wo Unternehmen WhatsApp nutzen, um Menschen bei ihren Geschäften zu unterstützen. Die HDFC Bank hat daran gearbeitet, Voice-Nachrichten, Text- und Zahlungsfunktionen über WhatsApp zu integrieren, damit ihre kleinbetriebliche Nutzerschaft Transaktionen reibungsloser und in ihren lokalen Sprachen durchführen kann. 

Während der Sitzung brachte es Safarikas auf den Punkt: „Eine barrierefreie KI ist eine, die sich auf das Kundenerlebnis konzentriert.“ Unternehmen tragen die Verantwortung, allen, die das Tool nutzen, positive und inklusive Erlebnisse zu bieten. Das bedeutet, dass Barrierefreiheit in ihren KI-Strategien Priorität haben muss.  

Heutzutage nutzen Betrügende verschiedene Methoden, um Unternehmen und Privatpersonen zu täuschen, was erhebliche Bedrohungen darstellen kann. Führende Unternehmen wehren sich mithilfe von KI.  

Für den Bankensektor erklärte Anand, wie einige Finanzinstitute KI einsetzen, um die Sicherheit durch Voice-Erkennung und OTP Authentifizierung zu gewährleisten und so das Vertrauen der Kundschaft zu stärken.  

Und im Versicherungswesen erwähnte Safarikas, dass einige Betrügende wiederholte Konversationen versuchen könnten. Die Lösung besteht also darin, das Personal darauf zu schulen, verdächtiges Verhalten zu erkennen und zu wissen, worauf zu achten ist. 

Es gibt einige Formen von Betrug, wie Künstlich generierter Traffic (AIT), bei denen Unternehmen KI einsetzen können, um Betrugsmaschen schnell zu identifizieren und zu vereiteln. Es geht darum, neue Techniken auszuprobieren und bei Problemen am Ball zu bleiben, um Systeme und die Nutzerschaft zu schützen. 

Unterm Strich? Die proaktive Integration von KI-Technologien kann Unternehmen in die Lage versetzen, einen Schritt voraus zu sein. Mit mehr KI-generiertem Spam und Betrug denn jeist es an der Zeit für Unternehmen, mit der Schulung zu beginnen und KI-Lösungen zu nutzen, um Betrug zu erkennen und einzudämmen. 

Die Diskussionen auf dem MWC Barcelona 2024 unterstrichen die entscheidende Bedeutung einer verantwortungsvollen KI-Implementierung in der Kundenkommunikation über verschiedene Branchen hinweg. Von der Festlegung von Grenzen für Chatbots bis hin zur Vorbereitung auf kommende Vorschriften haben Branchenführende Maßstäbe für Unternehmen gesetzt, die sich an diese neue Technologie wagen.

Als Unternehmen erkennen wir, dass KI unumgänglich ist. Wie wir in puncto Verantwortlichkeit, Transparenz und Kundenorientierung voranschreiten, wird den Ton für eine Zukunft KI-gesteuerter Interaktionen angeben, die das Leben der Kundschaft weltweit bereichern.

Joachim Jonkers, Director of Product – Conversational AI, erläutert, wie Sinch sicherstellt, dass Anwendungen unserer Software Unternehmen dabei unterstützen, generative KI verantwortungsvoll zu nutzen.

Bereit, die Einführung eines Chatbots zu erkunden oder in konversationelle KI einzutauchen? Treten Sie mit unserem Team in Kontakt um ein Konversationserlebnis zu schaffen, das Sie und Ihre Kundschaft begeistern wird. 

Autor: The Sinch team