Das Gesundheitswesen muss mehr als nur Compliance meistern, um KI-Kommunikation zu skalieren

Es sind noch ein paar Tage bis zu Ihrem Arzttermin und, „Ding!“, Ihr Smartphone meldet sich mit einer SMS-Erinnerung. Ein paar Tage später erhalten Sie eine Benachrichtigung, dass Ihr Rezept zur Abholung bereitliegt. Dann folgt eine weitere Nachricht, dass Ihre Testergebnisse in der App verfügbar sind.

Die Gesundheitsbranche erzeugt genau die Art von massenhafter, wiederkehrender Kommunikation, für die KI-Agenten entwickelt wurden – und sie werden bereits eingesetzt.

Doch die Skalierung von KI ist in einer Branche, die von Datenschutz- und Compliance-Bedenken geprägt ist, komplex. Medizinische Anbieter haben die moralische Pflicht zum Schutz der Personen, die sie behandeln, sowie deren Daten. Ein Versäumnis in diesem Bereich hat schwerwiegende Folgen. Durchgesickerte medizinische Akten können leicht in kriminelle Hände geraten, zu hohen Geldstrafen führen und das Vertrauen der Behandelten dauerhaft zerstören. Und dennoch haben diese Risiken die Branche nicht abgeschreckt.

Sinchs AI Production Paradox Bericht befragte über 450 Führungskräfte im Gesundheitswesen aus zehn Regionen dazu, wie sie KI bereits in der Kundenkommunikation einsetzen oder dies planen. Die Ergebnisse widersprechen dem, was man von einer derart stark regulierten Branche erwarten könnte. Obwohl Compliance den produktiven KI-Einsatz im Gesundheitswesen erschwert, ist dies nicht der Grund, warum Support-Mitarbeiter immer wieder scheitern.

Der Einsatz von KI in der Kundenkommunikation hat sich von hypothetischen Konversationen in der Chefetage zu festen Bestandteilen der jährlichen Investitionsstrategien eben dieser Unternehmen entwickelt. Branchenübergreifend planen bis zu 98 % der Unternehmen, die Ausgaben für KI-Kommunikation zu steigern  – und zwar im Jahr 2026. Mit 16 % im Vergleich zu branchenübergreifend 13 % gehört das Gesundheitswesen zu den Sektoren, die am häufigsten Investitionssteigerungen von 50 % oder mehr für KI-gestützte Kundenkommunikation planen. Diese Ambition deutet auf eine klare Chance hin: Patienten-Engagement in großem Maßstab.

Jeden Tag senden medizinische Anbieter eine Vielzahl zeitkritischer Updates an die Personen, die sie behandeln – von der Terminerinnerung bis zur Nachbetreuung nach einem verpassten Besuch. Diese Aufgaben sind wiederkehrend, konstant und, um ehrlich zu sein: Oft übersteigen sie die Kapazitäten, die ein Callcenter bewältigen kann.

22 % der Führungskräfte im Gesundheitswesen betrachten ausgehende Voice-Agenten für Terminvereinbarungen, Erinnerungen und proaktive Kontaktaufnahme als die größte Chance für Voice-KI, was fünf Prozentpunkte über dem allgemeinen Durchschnitt (17 %) liegt. Identitätsprüfung ist die andere große Chance für das Gesundheitswesen. Bevor eine Person ein Testergebnis abrufen oder ein Rezept bestätigen kann, muss sie ihre Identität nachweisen. Deshalb setzen 41 % diese Aufgabe ganz oben auf die Liste für den Einsatz von KI-Agenten.

Lange Zeit hörten wir davon, dass Unternehmen ihre KI-Ambitionen nicht verwirklichen können, weil sie in der Pilotphase stecken bleiben. Unsere aktuelle Studie zeigt, dass dies in der Kundenkommunikation nicht mehr der Fall ist. Branchenübergreifend haben KI-Agenten die Produktionsreife erreicht. Das Gesundheitswesen bildet hier keine Ausnahme: 55 % der Unternehmen setzen sie bereits aktiv ein.

Dennoch ist es der Bereich in der Studie mit der langsamsten Entwicklung. Die Bereitstellungsrate im Gesundheitswesen liegt sieben Punkte unter dem allgemeinen Durchschnitt, und auch die Konversionsrate von der Pilot- zur Produktionsphase ist die niedrigste aller Branchen.

Die Einwilligung der behandelten Personen, klinische Daten und HIPAA legen die Messlatte höher an als in den meisten anderen Branchen. Zudem sind die Richtlinien speziell für KI noch immer undurchsichtig. Lediglich 37 % der Organisationen im Gesundheitswesen berichten von klaren Richtlinien zur KI-Offenlegung – das ist eine der niedrigsten Raten in der Studie.

Diese Vorsicht spiegelt sich in der Bereitschaft der Teams wider. Nur 42 % der Führungskräfte im Gesundheitswesen geben an, dass sie bei einer umfassenden Bereitstellung sehr zuversichtlich sind.

Es stellt sich heraus, dass die Produktionsreife nur der erste Teil der Herausforderung ist. 75 % der Organisationen im Gesundheitswesen, die KI-Agenten in Produktion betreiben, waren gezwungen, diese aufgrund von Governance-Fehlern zurückzusetzen oder abzuschalten.

Wenn in 33 % der Fälle PII (personenbezogene Daten) oder Datenlecks der Hauptgrund sind, sollten die Alarmglocken schrillen. Die Branche weiß nur zu gut, wie teuer es wird, wenn sensible Daten in die falschen Hände geraten. IBM stellte fest, dass das Gesundheitswesen seit 13 Jahren in Folge mit 6,64 Millionen US-Dollar branchenübergreifend die höchsten durchschnittlichen Kosten durch Datenschutzverletzungen verzeichnet. Zudem stellt jedes Datenleck einen schweren Vertrauensbruch bei den betroffenen Personen dar – ein Schaden, der sich nicht mit Geld beheben lässt.

Es liegt nahe, die Komplexität der Compliance für das Scheitern von KI-Agenten verantwortlich zu machen, aber unsere Forschung zeigt ein anderes Bild. Sobald eine Einrichtung im Gesundheitswesen die Produktionsphase erreicht hat, verhält sie sich bei allen 19 in der Studie untersuchten Compliance- und Datenschutzmaßnahmen wie jede andere Branche, und die Ausfallrate ist nur einen Prozentpunkt höher als der Gesamtdurchschnitt.

Der Druck durch Compliance verlangsamte den Weg des Gesundheitswesens zur Produktionsreife. Sobald die Systeme jedoch aktiv sind, scheint dieser Nachteil der Branche keine Rolle mehr zu spielen. Etwas anderes löst die Ausfälle aus, und das ist nicht immer leicht zu erkennen.

Ein Problem, das unsere Forschung aufgedeckt hat, ist, dass nicht alle Beteiligten dieselbe Sichtweise auf das KI-Programm teilen. Technische Führungskräfte berichten innerhalb desselben Unternehmens konsequent von einer höheren Rate an Rollbacks als die Geschäftsführung.

Im Gesundheitswesen gibt es eine erhebliche Diskrepanz, wenn es um Sicherheitsrichtlinien geht. 36 % der Führungskräfte auf C-Level im Gesundheitswesen berichten von vollständig ausgereiften Richtlinien, im Gegensatz zu nur 18 % der Director-Ebene, die diese entwickeln. Wir haben es alle schon erlebt: Ein Problem, das von oben betrachtet klein wirkt, erhält auch nur ein kleines Budget. Die Arbeit, die den nächsten Rollback verhindern würde, bleibt somit auf der Strecke.

Eine ähnliche Lücke in der Wahrnehmung zeigt sich bei den Kostenerwartungen: 34 % der Führungskräfte auf C-Level im Gesundheitswesen erwarten, dass KI die Kosten um mehr als die Hälfte senkt. Dieser Wert sinkt bei den für die Umsetzung verantwortlichen Directors auf 12 %.

Die Verantwortlichen für die Freigabe und die für die Umsetzung zuständigen Personen beschreiben zwei völlig unterschiedliche Programme. Und je weiter man von der Entwicklung entfernt ist, desto optimistischer ist das Bild.

„Als Führungskraft auf C-Level ist man oft nicht in jedes technische Detail involviert, aber genau das ist der Punkt. Führungskräfte müssen auf einer anderen Ebene und mit einem längeren Zeithorizont agieren. Man sieht, wie sich die Technologie verhält, und – was noch wichtiger ist – man kann vorhersehen, wohin sie sich entwickelt und welche neuen Möglichkeiten sie als Nächstes eröffnet. Etwas, das jede Führungskraft verinnerlichen muss, ist, dass die KI, die wir heute haben, die schlechteste KI ist, die wir jemals haben werden. Von nun an wird sie nur noch besser, schneller und leistungsfähiger. Das ist die Perspektive, die Führungskräfte auf C-Level einbringen – die Fähigkeit, über kurzfristige Reibungspunkte hinauszusehen und die langfristige Richtung zu erkennen. Und diese Entwicklung beschleunigt sich immer weiter.“

Stefan Wenzel CPO, SAP Engagement Cloud

Unsere Studie ergab, dass der stärkste Indikator für den Erfolg einer KI-Bereitstellung branchenübergreifend die Kommunikationsinfrastruktur ist, auf der der Agent basiert.

Im Gesundheitswesen lassen sich die Fehler genau darauf zurückführen. Ein Drittel der Rollbacks im Gesundheitswesen wurde durch Datenlecks oder die Offenlegung von personenbezogenen Daten ausgelöst. Das bedeutet, dass sensible klinische Daten dort auftauchen, wo sie es nicht sollten. Ein Testergebnis, das an eine falsche Person gesendet wird, oder eine Medikamentenakte, die in eine Nachricht gezogen wird, welche eigentlich nur eine Terminzeit bestätigen sollte.

Hierbei handelt es sich um Infrastrukturfehler. Sowohl die Offenlegung personenbezogener Daten als auch Lücken in Audit-Trails entstehen eine Ebene unterhalb der Richtlinien – direkt in der Infrastruktur, auf der der Agent läuft. Die Daten wurden offengelegt, weil die Plattform dies nicht verhindert hat.

Die gute Nachricht lautet: Medizinische Anbieter finanzieren bereits die richtigen Ansätze. Vertrauen, Sicherheit und Compliance stehen mit 75 % ganz oben auf ihrer Liste der Investitionsprioritäten – genau wie überall sonst. Aber das Gesundheitswesen priorisiert auch die Kommunikationsinfrastruktur mit 64 %, was drei Punkte über dem Durchschnitt und sechs Punkte über der Entwicklung von KI-Agenten selbst liegt. Für eine derart vorsichtige Branche ist dies ein klares Statement dafür, wo sie den Kern des Problems vermutet.

Und auch die Erwartungen an Partnerschaften spiegeln dies wider. Die Funktionen, die Befragte aus dem Gesundheitswesen am meisten schätzen, deuten alle auf die Plattform unter dem Agenten hin: Zuverlässigkeit, Compliance, Verantwortlichkeit. Dies ist eine klare Anforderung an eine bessere Infrastruktur.

Medizinische Anbieter haben eine komplexe Landschaft aus HIPAA, der Einwilligung der Behandelten und klinischen Daten durchquert, um mit KI in Produktion zu gehen. Doch sobald das System aktiv ist, ist dies nicht der Grund für mögliche Ausfälle. Diese Ausfälle haben ihren Ursprung eine Ebene tiefer – in der Infrastruktur, auf der der Agent ausgeführt wird. Und diese Erkenntnis gilt für jede untersuchte Branche in der Studie.

Die AI Production Paradox kombiniert die Erkenntnisse von 2.527 Führungskräften, um zu untersuchen, was passiert, nachdem Unternehmen mit ihren KI-Agenten live gehen, welche Kosten bei Ausfällen entstehen und wie wichtig ein starkes Fundament ist. Erfahren Sie im Vergleich, wie das Gesundheitswesen abschneidet und was ein KI-Programm erfolgreich macht.

Autor: Tara Brownbill Tara Brownbill is a Senior Content Manager at Sinch