Das Gesundheitswesen muss mehr als nur Compliance meistern, um KI-Kommunikation zu skalieren

Es sind noch ein paar Tage bis zu Ihrem Arzttermin und, „Ding!“, Ihr Smartphone meldet sich mit einer SMS-Erinnerung. Ein paar Tage später erhalten Sie eine Benachrichtigung, dass Ihr Rezept zur Abholung bereitliegt. Dann folgt eine weitere Nachricht, dass Ihre Testergebnisse in der App verfügbar sind.

Die Gesundheitsbranche erzeugt genau die Art von massenhafter, wiederkehrender Kommunikation, für die KI-Agenten entwickelt wurden – und sie werden bereits eingesetzt.

Doch die Skalierung von KI ist in einer Branche, die von Datenschutz- und Compliance-Bedenken geprägt ist, komplex. Medizinische Anbieter haben die moralische Pflicht zum Schutz der Personen, die sie behandeln, sowie deren Daten. Ein Versäumnis in diesem Bereich hat schwerwiegende Folgen. Durchgesickerte medizinische Akten können leicht in kriminelle Hände geraten, zu hohen Geldstrafen führen und das Vertrauen der Behandelten dauerhaft zerstören. Und dennoch haben diese Risiken die Branche nicht abgeschreckt.

Sinchs AI Production Paradox Bericht befragte über 450 Führungskräfte im Gesundheitswesen aus zehn Regionen dazu, wie sie KI bereits in der Kundenkommunikation einsetzen oder dies planen. Die Ergebnisse widersprechen dem, was man von einer derart stark regulierten Branche erwarten könnte. Obwohl Compliance den produktiven KI-Einsatz im Gesundheitswesen erschwert, ist dies nicht der Grund, warum Support-Mitarbeiter immer wieder scheitern.

Der Einsatz von KI in der Kundenkommunikation hat sich von hypothetischen Konversationen in der Chefetage zu festen Bestandteilen der jährlichen Investitionsstrategien eben dieser Unternehmen entwickelt. Im Gesundheitswesen sind es bis zu 96 % der Organisationen die Ausgaben für KI-Kommunikation zu steigern  – und zwar im Jahr 2026. Die Branche gehört zu denjenigen, die am wahrscheinlichsten Investitionssteigerungen von 50 % oder mehr in KI-agentengestützte Kundenkommunikation planen, mit 16 % gegenüber 13 % insgesamt. Diese Ambition deutet auf eine klare Chance hin: Patienten-Engagement in großem Maßstab.

Jeden Tag senden medizinische Anbieter eine Vielzahl zeitkritischer Updates an die Personen, die sie behandeln – von der Terminerinnerung bis zur Nachbetreuung nach einem verpassten Besuch. Diese Aufgaben sind wiederkehrend, konstant und, um ehrlich zu sein: Oft übersteigen sie die Kapazitäten, die ein Callcenter bewältigen kann.

22 % der Führungskräfte im Gesundheitswesen betrachten ausgehende Voice-Agenten für Terminvereinbarungen, Erinnerungen und proaktive Kontaktaufnahme als die größte Chance für Voice-KI, was fünf Prozentpunkte über dem allgemeinen Durchschnitt (17 %) liegt. Identitätsprüfung ist die andere große Chance für das Gesundheitswesen. Bevor eine Person ein Testergebnis abrufen oder ein Rezept bestätigen kann, muss sie ihre Identität nachweisen. Deshalb setzen 41 % diese Aufgabe ganz oben auf die Liste für den Einsatz von KI-Agenten.

Lange Zeit hörten wir davon, dass Unternehmen ihre KI-Ambitionen nicht verwirklichen können, weil sie in der Pilotphase stecken bleiben. Unsere aktuelle Studie zeigt, dass dies in der Kundenkommunikation nicht mehr der Fall ist. Branchenübergreifend haben es KI-Agenten in die Produktionsphase geschafft, und das Gesundheitswesen bildet da keine Ausnahme: 55 % der Organisationen sind jetzt live und 80 % planen, bis Ende 2026 live zu gehen.

Dennoch ist es der Bereich in der Studie mit der langsamsten Entwicklung. Die Bereitstellungsrate im Gesundheitswesen liegt sieben Punkte unter dem allgemeinen Durchschnitt, und auch die Konversionsrate von der Pilot- zur Produktionsphase ist die niedrigste aller Branchen.

Die Einwilligung der behandelten Personen, klinische Daten und HIPAA legen die Messlatte höher an als in den meisten anderen Branchen. Zudem sind die Richtlinien speziell für KI noch immer undurchsichtig. Lediglich 37 % der Organisationen im Gesundheitswesen berichten von klaren Richtlinien zur KI-Offenlegung – das ist eine der niedrigsten Raten in der Studie.

Diese Vorsicht spiegelt sich in der Bereitschaft der Teams wider. Nur 42 % der Führungskräfte im Gesundheitswesen geben an, dass sie bei einer umfassenden Bereitstellung sehr zuversichtlich sind. Siebenunddreißig Prozent nennen Bedenken hinsichtlich Vertrauen, Sicherheit und Governance als das größte Hindernis für einen echten geschäftlichen Nutzen durch KI.

Es stellt sich heraus, dass die Produktionsreife nur der erste Teil der Herausforderung ist. 75 % der Organisationen im Gesundheitswesen, die KI-Agenten in Produktion betreiben, waren gezwungen, diese aufgrund von Governance-Fehlern zurückzusetzen oder abzuschalten. Bei Programmen mit voll ausgereiften Sicherheitsvorkehrungen und einer dementsprechend besseren Erkennung liegt die Quote sogar noch höher bei 80 %.

Für Führungskräfte im Gesundheitswesen besteht die Hauptfolge dieser Fehlschläge darin, dass Support-Teams überlastet werden (34 %) oder ein dauerhafter Markenschaden entsteht (33 %). Genau die Art von Ergebnissen, die diese Programme eigentlich verhindern sollten.

Aber die Alarmglocken schrillen erst richtig, wenn man sich den Hauptgrund für diese Rollbacks ansieht, der in 33 % der Fälle aus PII- oder Datenlecks besteht. Die Branche weiß nur zu gut, wie teuer es wird, wenn sensible Daten in die falschen Hände geraten. IBM stellte fest, dass das Gesundheitswesen seit 13 Jahren in Folge mit 6,64 Millionen US-Dollar branchenübergreifend die höchsten durchschnittlichen Kosten durch Datenschutzverletzungen verzeichnet. Zudem stellt jedes Datenleck einen schweren Vertrauensbruch bei den betroffenen Personen dar – ein Schaden, der sich nicht mit Geld beheben lässt.

Es liegt nahe, die Komplexität der Compliance für das Scheitern von KI-Agenten verantwortlich zu machen, aber unsere Forschung zeigt ein anderes Bild. Sobald eine Einrichtung im Gesundheitswesen die Produktionsphase erreicht hat, verhält sie sich bei allen 19 in der Studie untersuchten Compliance- und Datenschutzmaßnahmen wie jede andere Branche, und die Ausfallrate ist nur einen Prozentpunkt höher als der Gesamtdurchschnitt.

Der Druck durch Compliance verlangsamte den Weg des Gesundheitswesens zur Produktionsreife. Sobald die Systeme jedoch aktiv sind, scheint dieser Nachteil der Branche keine Rolle mehr zu spielen. Etwas anderes löst die Ausfälle aus, und das ist nicht immer leicht zu erkennen.

Ein Problem, das unsere Forschung aufgedeckt hat, ist, dass nicht alle Beteiligten dieselbe Sichtweise auf das KI-Programm teilen. Technische Führungskräfte berichten innerhalb desselben Unternehmens konsequent von einer höheren Rate an Rollbacks als die Geschäftsführung.

Im Gesundheitswesen gibt es eine erhebliche Diskrepanz, wenn es um Sicherheitsrichtlinien geht. 36 % der Führungskräfte auf C-Level im Gesundheitswesen berichten von vollständig ausgereiften Richtlinien, im Gegensatz zu nur 18 % der Director-Ebene, die diese entwickeln. Wir haben es alle schon erlebt: Ein Problem, das von oben betrachtet klein wirkt, erhält auch nur ein kleines Budget. Die Arbeit, die den nächsten Rollback verhindern würde, bleibt somit auf der Strecke.

Eine ähnliche Lücke in der Wahrnehmung zeigt sich bei den Kostenerwartungen: 34 % der Führungskräfte auf C-Level im Gesundheitswesen erwarten, dass KI die Kosten um mehr als die Hälfte senkt. Dieser Wert sinkt bei den für die Umsetzung verantwortlichen Directors auf 12 %.

Die Verantwortlichen für die Freigabe und die für die Umsetzung zuständigen Personen beschreiben zwei völlig unterschiedliche Programme. Und je weiter man von der Entwicklung entfernt ist, desto optimistischer ist das Bild.

„Als Führungskraft auf C-Level ist man oft nicht in jedes technische Detail involviert, aber genau das ist der Punkt. Führungskräfte müssen auf einer anderen Ebene und mit einem längeren Zeithorizont agieren. Man sieht, wie sich die Technologie verhält, und – was noch wichtiger ist – man kann vorhersehen, wohin sie sich entwickelt und welche neuen Möglichkeiten sie als Nächstes eröffnet. Etwas, das jede Führungskraft verinnerlichen muss, ist, dass die KI, die wir heute haben, die schlechteste KI ist, die wir jemals haben werden. Von nun an wird sie nur noch besser, schneller und leistungsfähiger. Das ist die Perspektive, die Führungskräfte auf C-Level einbringen – die Fähigkeit, über kurzfristige Reibungspunkte hinauszusehen und die langfristige Richtung zu erkennen. Und diese Entwicklung beschleunigt sich immer weiter.“

Stefan Wenzel CPO, SAP Engagement Cloud

Unsere Studie ergab, dass der stärkste Indikator für den Erfolg einer KI-Bereitstellung branchenübergreifend die Kommunikationsinfrastruktur ist, auf der der Agent basiert.

Im Gesundheitswesen lassen sich die Fehler genau darauf zurückführen. Ein Drittel der Rollbacks im Gesundheitswesen wurde durch Datenlecks oder die Offenlegung von personenbezogenen Daten ausgelöst. Das bedeutet, dass sensible klinische Daten dort auftauchen, wo sie es nicht sollten. Ein Testergebnis, das an eine falsche Person gesendet wird, oder eine Medikamentenakte, die in eine Nachricht gezogen wird, welche eigentlich nur eine Terminzeit bestätigen sollte.

Die Lücke im Audit-Trail ist ebenso vielsagend: Jeder fünfte Rollback (20 %) lässt sich auf eine mangelnde Prüfbarkeit zurückführen. Das System konnte schlichtweg nicht nachweisen, was der Agent getan hat oder warum.

Hierbei handelt es sich um Infrastrukturfehler. Sowohl die Offenlegung personenbezogener Daten als auch Lücken in Audit-Trails entstehen eine Ebene unterhalb der Richtlinien – direkt in der Infrastruktur, auf der der Agent läuft. Die Daten wurden offengelegt, weil die Plattform dies nicht verhinderte, und es ist unmöglich nachzuvollziehen, wie das passieren konnte, da die Plattform es nicht aufgezeichnet hat.

All das ist mit Kosten verbunden, die nicht immer offensichtlich sind. Einundachtzig Prozent der Entwicklungsteams im Gesundheitswesen geben an, dass sie mindestens die Hälfte ihrer Zeit in Sicherheitskontrollen investieren. Zeit, die für die Entwicklung neuer Funktionen fehlt. Und dieser Aufwand entfällt nicht, sobald die Agenten live geschaltet sind. Tatsächlich geben 36 % der Teams in der Produktionsphase an, den Großteil ihrer Zeit mit Sicherheitsaspekten zu verbringen – vor der Produktion waren es noch 29 %.

Sicherheit ist jedoch nicht das einzige Thema. Mehr als die Hälfte (57 %) entwickelt eigene Lösungen, um den Kontext bei einem Kanalwechsel beizubehalten, da ihre Plattform dies nicht nativ unterstützt. All das ist Entwicklungszeit, die genutzt werden könnte, um das Erlebnis der Patientinnen und Patienten zu verbessern.

Die gute Nachricht lautet: Medizinische Anbieter finanzieren bereits die richtigen Ansätze. Vertrauen, Sicherheit und Compliance stehen mit 75 % ganz oben auf ihrer Liste der Investitionsprioritäten – genau wie überall sonst. Aber das Gesundheitswesen priorisiert auch die Kommunikationsinfrastruktur mit 64 %, was drei Punkte über dem Durchschnitt und sechs Punkte über der Entwicklung von KI-Agenten selbst liegt. Für eine derart vorsichtige Branche ist dies ein klares Statement dafür, wo sie den Kern des Problems vermutet.

Und auch die Erwartungen an Partnerschaften spiegeln dies wider. Die Funktionen, die Befragte aus dem Gesundheitswesen am meisten schätzen, deuten alle auf die Plattform unter dem Agenten hin: Zuverlässigkeit, Compliance, Verantwortlichkeit. Und genau bei der Zuverlässigkeit weist die heutige Infrastruktur Defizite auf: 44 % geben an, dass sie für autonome KI-Interaktionen nicht zuverlässig genug ist. Zusammengenommen ergibt sich daraus das Anforderungsprofil für eine bessere Infrastruktur.

Medizinische Anbieter haben eine komplexe Landschaft aus HIPAA, der Einwilligung der Behandelten und klinischen Daten durchquert, um mit KI in Produktion zu gehen. Doch sobald das System aktiv ist, ist dies nicht der Grund für mögliche Ausfälle. Diese Ausfälle haben ihren Ursprung eine Ebene tiefer – in der Infrastruktur, auf der der Agent ausgeführt wird. Und diese Erkenntnis gilt für jede untersuchte Branche in der Studie.

Die AI Production Paradox kombiniert die Erkenntnisse von 2.527 Führungskräften, um zu untersuchen, was passiert, nachdem Unternehmen mit ihren KI-Agenten live gehen, welche Kosten bei Ausfällen entstehen und wie wichtig ein starkes Fundament ist. Erfahren Sie im Vergleich, wie das Gesundheitswesen abschneidet und was ein KI-Programm erfolgreich macht.

Autor: Tara Brownbill Tara Brownbill is a Senior Content Manager at Sinch