Die Auswirkungen von KI-agenten: Was deutsche Krankenhäuser wissen müssen

Wie Sie sich auf eine neue Ära der agentenbasierten KI im Gesundheitswesen vorbereiten.

Deutschlands Gesundheitseinrichtungen durchlaufen eine der größten digitalen Transformationen seit Jahrzehnten. Investitionen im Rahmen des Krankenhauszukunftsgesetzes (KHZG) und der zunehmende Einsatz künstlicher Intelligenz helfen Krankenhäusern dabei, klinische und betriebliche Abläufe zu modernisieren. Von der klinischen Dokumentation und diagnostischen Unterstützung bis hin zur Automatisierung administrativer Prozesse entwickelt sich KI zunehmend zu einem wertvollen Instrument, um die Effizienz zu steigern und den Druck auf medizinisches Fachpersonal zu verringern.

Mit der zunehmenden Nutzung agentenbasierter KI entstehen jedoch neue Risiken und Unsicherheiten, auf die sich Krankenhäuser vorbereiten müssen. KI-Agenten sind darauf ausgelegt, Aufgaben auszuführen, mit mehreren Systemen zu interagieren und Arbeitsabläufe mit minimalem menschlichem Eingreifen durchzuführen. Wenn diese autonomen Systeme Teil des täglichen Krankenhausbetriebs werden, eröffnen sie neue Möglichkeiten und bringen zugleich neue Verantwortlichkeiten mit sich.

Für Führungskräfte im deutschen Gesundheitswesen verlagert sich die Diskussion daher von der Frage, wie KI implementiert werden kann, hin zur Frage, wie dies sicher geschehen kann – unter Schutz der Patientendaten, Einhaltung regulatorischer Vorgaben und Wahrung des Vertrauens.

Die Bedrohungslandschaft im Gesundheitswesen verändert sich

Gesundheitseinrichtungen verwalten große Mengen sensibler Patienteninformationen und sind zugleich auf digitale Systeme angewiesen, um eine kontinuierliche Versorgung sicherzustellen. Diese Kombination macht Krankenhäuser zu häufigen Zielen von Ransomware-Angriffen und identitätsbasierter Cyberkriminalität. Eine Studie zum Gesundheitswesen aus dem Jahr 2025 von der BDO AG Wirtschaftsprüfungsgesellschaft und dem Deutschen Krankenhausinstitut ergab, dass 90 % der befragten deutschen Krankenhäuser die Bedrohung durch Cyberkriminalität als hoch oder sehr hoch einschätzen, während 20 % angaben, in den vergangenen drei Jahren von einem Cybervorfall betroffen gewesen zu sein.

Viele erfolgreiche Angriffe beruhen inzwischen nicht mehr auf technisch ausgeklügelten Exploits. Stattdessen verschaffen sich Angreifer Zugang über kompromittierte Zugangsdaten, übermäßige Benutzerberechtigungen, vergessene Konten oder unzureichend verwaltete digitale Identitäten. Während deutsche Krankenhäuser ihre digitalen Ökosysteme weiter ausbauen und KI-Agenten in klinische und betriebliche Arbeitsabläufe integrieren, führen sie zugleich eine neue Klasse digitaler Identitäten ein, die geschützt, verwaltet und überwacht werden muss. Ohne klare Kontrollen für Identitäten und Zugriffsrechte kann die wachsende Zahl menschlicher und nichtmenschlicher Identitäten die Angriffsfläche erheblich vergrößern.

Vorbereitung auf den verstärkten Einsatz von KI in Krankenhäusern

Im Gegensatz zu herkömmlicher KI kann agentenbasierte KI im Namen von Benutzern mit klinischen und administrativen Systemen interagieren. Aufgrund dieser Autonomie müssen KI-Agenten ebenso konsequent verwaltet und kontrolliert werden wie alle klinischen Fachkräfte, Beschäftigten oder externen Dienstleister, die auf Krankenhaussysteme zugreifen.

Herkömmliche KI-Tools unterstützen in erster Linie die Entscheidungsfindung. Sie helfen dabei, Krankengeschichten zusammenzufassen, klinische Dokumentationen zu erstellen, Muster in bildbasierten Dateien zu erkennen (z.B. Röntgen-Bilder) oder wiederkehrende administrative Aufgaben zu automatisieren. Die menschlichen Benutzer behalten dabei eindeutig die Kontrolle. KI-Agenten stellen jedoch einen grundlegenden Wandel dar. Sie geben nicht nur Empfehlungen, sondern können Termine koordinieren, Informationen aus mehreren Anwendungen abrufen, Arbeitsabläufe auslösen und komplexe Aufgaben innerhalb vordefinierter Parameter selbstständig erledigen.

Diese Entwicklung birgt enormes Potenzial, die betriebliche Effizienz zu steigern und den administrativen Aufwand zu reduzieren. Gleichzeitig verändert sie die Sicherheitsanforderungen an Krankenhäuser. Wenn ein KI-Agent selbstständig handeln kann, als wäre er ein menschlicher Benutzer, wird er faktisch zu einem weiteren Akteur im Gesundheitswesen und benötigt eine eigene digitale Identität.

Agenten können kontinuierlich arbeiten, gleichzeitig mit mehreren Plattformen interagieren und Aktionen mit Maschinengeschwindigkeit ausführen. Ohne geeignete Kontrollen könnte ein KI-Agent mit übermäßigen Berechtigungen unbeabsichtigt auf sensible Informationen zugreifen, unbefugte Aktionen durchführen oder betriebliche Störungen verursachen. Die Herausforderung besteht darin, sicherzustellen, dass sie innerhalb klar definierter Grenzen agieren.

Bei der Einführung autonomer KI sollten Krankenhäuser dieselben Fragen stellen, die sie bereits bei menschlichen Benutzern berücksichtigen:

• Auf welche Ressourcen darf diese Identität zugreifen?
• Sind die Zugriffsberechtigungen angemessen?
• Wer ist für die Überwachung verantwortlich?
• Kann jede Aktion überwacht und revisionssicher protokolliert werden?

Diese Fragen gewinnen zunehmend an Bedeutung, da sich Krankenhäuser auf einen breiteren Einsatz von KI vorbereiten.

Ein solides Identity & Access Management ist unverzichtbar

Jeder KI-Agent sollte – ebenso wie eine klinische Fachkraft oder ein Auftragnehmer – über eine eigene verwaltete Identität verfügen. Diese Identität sollte festlegen, auf welche Ressourcen der Agent zugreifen darf, welche Aktionen er ausführen kann und wer für seine Überwachung verantwortlich ist. Dieser Ansatz erhöht die Sicherheit und unterstützt die Einhaltung bestehender und sich weiterentwickelnder Vorschriften wie die DSGVO, NIS2 und des EU-KI-Gesetzes, die Verantwortlichkeit, Transparenz und einen angemessenen Zugriff auf sensible Gesundheitsdaten betonen.

Krankenhäuser benötigen außerdem Governance-Rahmenwerke, die sicherstellen, dass KI-Agenten auch langfristig sicher arbeiten. Dazu gehören Zugriffsrechte nach dem Least Privilege-Prinzip, die kontinuierliche Überwachung von Aktivitäten, die Pflege von Audit-Trails sowie die eindeutige Zuordnung der Verantwortung für jedes KI-System. Sobald KI Teil des täglichen Krankenhausbetriebs wird, sollte sie ebenso konsequent verwaltet und kontrolliert werden wie jedes andere Mitglied der Organisation.

Vorbereitung auf die Zukunft

Es wird erwartet, dass KI-Agenten künftig eine immer wichtigere Rolle im Gesundheitswesen spielen werden. Von diesen Entwicklungen profitieren vor allem die Krankenhäuser, die zunächst die richtigen Grundlagen für Sicherheit und Governance schaffen.

Durch die Integration von KI in bestehende Strategien für Identitäts- und Zugriffsmanagement können deutsche Krankenhäuser Innovationen nutzen, gleichzeitig die Privatsphäre der Patienten schützen, ihre Cyberresilienz stärken und Vertrauen in die nächste Generation von Gesundheitstechnologien aufbauen.

Erfahren Sie mehr über die sichere Implementierung von KI-Agenten.