Die KI-Verordnung kommt. Damit wird die rechtskonforme Nutzung von KI-Systemen auch für den Gesundheitssektor zur Compliance-Anforderung.
Contents

Die wachsende Bandbreite an Anwendungsgebieten von Systemen der Künstlichen Intelligenz (KI-Systeme) spielt auch im Gesundheitswesen eine immer größere Rolle.

In der medizinischen Diagnostik können Algorithmen auf Basis vieler Daten etwa zur Erkennung von Krankheitsbildern, wie Haut- und Lungenkrebs, eingesetzt werden. Ein wesentlicher Treiber ist die Kombination aus Big Data und KI, indem ein KI-basiertes System immense Datenmengen kombiniert, Zusammenhänge aus tausenden von vorangegangenen Fällen ableitet und in kürzester Zeit diese Daten analysiert. Dies gilt neben der Diagnostik auch für die Behandlung von Patienten und eine KI-gestützte Entscheidungsunterstützung des Arztes, etwa bei der Wahl medizinischer Therapien, der Berechnung individueller Komplikationsrisiken des Patienten bei Operationen oder die Erstellung von individuellen Ernährungsplänen für Patienten. Schließlich kommt KI zur Unterstützung des Managements und zur effizienteren Gestaltung von Arbeitsabläufen eines Krankenhauses zum Einsatz, zum Beispiel bei KI-gestützten Dokumentationen, den Einsatz von Leitsystemen zur Optimierung komplexester Situationen in der Unfallchirurgie oder für Vorhersagen zu Patientenaufkommen und Liegedauer zur Optimierung der Auslastung.

KI-Verordnung normiert umfassenden Rechtsrahmen

In rechtlicher Hinsicht sind dabei unter anderem datenschutzrechtliche Vorgaben sowie zukünftig die „Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz“ (KI-VO) zu beachten. Der Gesetzesentwurf, der Anfang 2024 in Kraft treten soll, normiert einen umfassenden Rechtsrahmen für den Einsatz von KI-Systemen innerhalb der EU und ist von hoher praktischer Bedeutung für Produkthersteller, Einführer, Händler und Nutzer. Einbezogen in den Adressatenkreis ist jede natürliche oder juristische Person, die ein KI-System entwickelt oder entwickeln lässt und/oder in eigener Verantwortung betreibt.

Folgende Eckpunkte des Entwurfs der KI-VO sind besonders hervorzuheben:

  • (Weite) gesetzliche Definition des Begriffs „KI-System“;
  • risikobasierter Ansatz mit Verpflichtungen für Hersteller, Betreiber und Nutzer in Abhängigkeit vom jeweiligen Risiko des KI-Systems;
  • die Risikostufen reichen von inakzeptablen, verbotenen KI-Systemen, über KI-Systeme mit hohem Risiko bis hin zu solchen mit geringem Risiko;
  • Regelungen zur Rechtsdurchsetzung und Aufsicht über die Einhaltung der KI-VO sowie ein Bußgeldkatalog mit unterschiedlichen Sanktionsstufen.

Jetzt Rahmenbedingungen für rechtskonformen KI-Einsatz analysieren

Unternehmen, wie etwa Krankenhäuser und Versicherungen, sollten sich frühzeitig mit den rechtlichen Rahmenbedingungen für einen rechtskonformen Einsatz von KI-Systemen befassen. Denn die Umsetzung der KI-VO dürfte vielschichtige Anforderungen für Unternehmen mit sich bringen. Dazu gehört etwa die strategische Entscheidung, wer im Unternehmen für die Einhaltung der KI-Governance zuständig sein soll. Es sind Prozesse zur Auswahl und Qualität von KI-Systemen, Risikoklassifizierung, Dokumentation, Einhaltung von Informations- und Transparenzpflichten sowie zur Überwachung der Einhaltung rechtlicher und ethischer Rahmenbedingungen zu etablieren. Insbesondere die Einordnung des jeweiligen KI-Systems in eine bestimmte Risikostufe, mit der sodann entsprechende Pflichten verbunden sind, dürfte sich in der Praxis vielfach als schwierig erweisen, zumal die Risikoklassifizierung fortlaufend zu überprüfen und je nach Weiterentwicklung des KI-Systems entsprechend anzupassen sein wird.

Unternehmen sollten Risiko- und Qualitätsmanagementsystem einrichten

Unternehmen sollten daher ein Risiko- und Qualitätsmanagementsystem einrichten. Denn die KI-VO sieht nachträgliche Kontrollen, Transparenzpflichten und Durchsetzungsmechanismen vor. Hierfür bedarf es des Aufbaus geeigneter Governance-Strukturen, um ein Risikomanagement-System zu etablieren. Es muss sichergestellt werden, dass zum Beispiel über den gesamten Lebenszyklus des KI-Systems eine Risikobewertung durchgeführt wird und Maßnahmen zur Risikobekämpfung ergriffen werden können.

Wir beantworten Ihnen gerne alle Fragen zum Gesetzentwurf und unterstützen Sie dabei, die rechtlichen Rahmenbedingungen für den Einsatz von KI praxisorientiert, effektiv und gesetzeskonform umzusetzen.

Treffen Sie uns auf der Veranstaltung „Die Non-Profit Organisation 2024“

Gerne laden wir Sie auch zu der Veranstaltung „Die Non-Profit Organisation 2024“ am 30./31. Januar 2024 in Düsseldorf ein. Wir werden dort am 31. Januar 2023 einen Vortrag halten mit dem Titel „KI im Gesundheits- und Sozialsektor“.

Weitere Informationen