Inkrafttreten und Übergangsfristen
Die KI-VO sieht ein gestaffeltes Inkrafttreten vor. Sechs Monate nach Inkrafttreten – also bereits seit Februar 2025 – sind unannehmbare KI-Praktiken verboten. Dies betrifft etwa KI-Systeme, die Menschen unzulässig manipulieren oder „Social Scoring“ durchführen (z.B. das Bewerten von Personen anhand ihres Verhaltens oder bestimmter Merkmale). Ebenfalls seit Anfang 2025 gelten bereits einige grundlegende Vorgaben wie die Pflicht zur Schaffung von KI-Kompetenz bei Mitarbeitenden, wozu u.a. eine Schulungspflicht gehört. Seit August 2025 greifen nun weitere Regelungen. So gelten bereits erste Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck („General Purpose AI“, wie z.B. ChatGPT), etwa Transparenz- und Informationspflichten gegenüber nachgelagerten Entwicklern.
Ab dem 2. August 2026 unterliegt dann der Großteil aller KI-Systeme den neuen Regeln. Insbesondere Hochrisiko-KI-Systeme müssen dann die vorgesehenen Konformitätsanforderungen erfüllen. Allerdings: Für KI-Systeme, die Bestandteil bestimmter regulierter Produkte sind, gilt eine verlängerte Frist von 36 Monaten. Dies ist u.a. für Medizinprodukte relevant. Konkret betrifft dies KI als Sicherheitsbauteil von Produkten, die bereits nach anderer EU-Harmonisierungsregelung (aufgeführt in Anhang I der KI-VO) und mit externer Konformitätsprüfung in Verkehr gebracht werden müssen. Ein Beispiel hierfür sind KI-Komponenten in Medizinprodukten oder Maschinen, für die die KI-VO-Vorschriften erst ab August 2027 greifen, um Überschneidungen mit bestehenden Produktnormen (z.B. der Medizinprodukte-Verordnung, MDR) abzufedern.
Risikoklassifizierung und Hochrisiko-KI-Systeme
Die KI-VO verfolgt einen risikobasierten Regulierungsansatz. KI-Anwendungen werden je nach Gefährdungspotenzial in vier Kategorien eingeteilt: KI-Anwendungen mit unannehmbarem Risiko, hohem Risiko, begrenztem Risiko und minimalem Risiko. Je höher das Risiko ist, desto strenger sind die zu erfüllenden Anforderungen. Ein KI-System gilt als hochriskant, wenn es entweder (1) als Sicherheitsbauteil eines geregelten Produkts (Anhang I KI-VO) dient oder selbst ein solches Produkt darstellt (z. B. KI in einem Medizinprodukt) oder (2) für einen kritischen Anwendungsfall gemäß Anhang III bestimmt ist (hohes Risiko in bestimmten Szenarien, z. B. Personalauswahl, Kreditvergabe, Gesundheitsversorgung).
In Bezug auf Produkte bedeutet dies, dass KI-Systeme automatisch als hochriskant eingestuft werden, wenn sie Bestandteil eines Produkts mit Sicherheitsfunktion sind, das bereits nach sektorspezifischem EU-Recht prüfpflichtig ist. Dies ist etwa dann der Fall, wenn KI in regulierte Produkte wie Medizinprodukte integriert wird, sofern diese einer Konformitätsbewertung durch Dritte unterliegen. Eine KI-gestützte medizinische Software zur Diagnoseunterstützung, die als Medizinprodukt gilt, wird grundsätzlich bereits aufgrund der Medizinprodukte-Regularien als Hochrisiko-KI anzusehen sein. Ferner können KI-Komponenten, die z. B. einen chirurgischen Roboter oder ein anderes medizinisches Gerät steuern, als Hochrisiko-Systeme einzustufen sein. Letztlich fallen viele KI-basierte Lösungen im Gesundheitswesen unter die EU-Medizinprodukteverordnung (MDR), wie z.B. Diagnosesoftware, die Krankheiten erkennt, oder KI-Module in Therapiegeräten. Wenn eine KI-Anwendung als Medizinprodukt oder Zubehör davon eingestuft ist (etwa eine Software zur radiologischen Bildanalyse), unterliegt sie den MDR-Vorschriften. Ist für das jeweilige Produkt eine externe Zertifizierung (Konformitätsbewertung durch eine "Benannte Stelle") vorgeschrieben – was ab Risikoklasse IIa regelmäßig der Fall ist – dann stuft die KI-VO die enthaltene KI automatisch als Hochrisiko-KI-System ein. Ein KI-Algorithmus, der MRT-Aufnahmen auswertet und Diagnosen vorschlägt, wäre ein Hochrisiko-KI-System, weil er ein Medizinprodukt mit potenziell erheblichen Auswirkungen auf die Behandlung darstellt. Hersteller solcher Systeme müssen folglich zusätzlich zur MDR-Konformität auch die KI-VO-Anforderungen erfüllen.
Im Hinblick auf die Fallgruppe der "Szenarien" kann KI auch dadurch hochriskant sein, dass sie für einen kritischen Gesundheitsanwendungsfall bestimmt ist. Anhang III der KI-VO nennt ausdrücklich KI-Systeme für den Zugang zu grundlegenden Dienstleistungen wie der Gesundheitsversorgung als Hochrisikoanwendungsfall. Das heißt, KI, die über die Zuteilung oder Verweigerung von medizinischen Leistungen entscheidet, wird als hochriskant eingestuft.
Des Weiteren ist von größerer Relevanz der gesamte Bereich des Personalwesens, in dem ebenfalls vermehrt KI zum Einsatz kommt. Wird ein KI-System z.B. im Bereich der Ausbildung für die Bewertung des Bildungsniveaus oder der Lernergebnisse eingesetzt, oder im Bewerbungsverfahren für Auswertung und Bewertung von Lebensläufen einschließlich einer Bewerberempfehlung genutzt, oder werden KI-Systeme zur Bewertung von Leistungen im Arbeitsverhältnis eingesetzt (z.B. Beeinflussung der Entscheidung über Beförderungen oder Kündigungen), liegen Hochrisiko-KI-Systeme vor.
Pflichten für Anbieter und Betreiber
Die unterschiedlichen Akteure in der Liefer- und Nutzungskette – vom Hersteller bis zum Anwender – haben jeweils spezifische Pflichten, um den sicheren und vertrauenswürdigen Einsatz von KI zu gewährleisten.
Die Anbieter müssen, bevor ein Hochrisiko-KI-System in der EU in Verkehr gebracht oder in Betrieb genommen wird, eine Konformitätsbewertung nach den Vorgaben der KI-VO durchführen (u.a. zu Datenqualität, Bias-Minimierung, technischer Dokumentation und Protokollierung, Cybersicherheit, Robustheit) sowie ein Qualitätsmanagement- und Risikomanagementsystem einführen. Der Anbieter stellt eine EU-Konformitätserklärung aus und bringt die vorgeschriebene CE-Kennzeichnung an. Der Anbieter hat sodann durch technische und organisatorische Vorkehrungen sicherzustellen, dass sein KI-Produkt über den gesamten Lebenszyklus hinweg den Vorschriften der KI-VO entspricht.
Betreiber von Hochrisiko-KI-Systemen sollten prüfen, ob die Konformitätserklärung den gesetzlichen Vorgaben genügt. Sie müssen ein kontinuierliches Risikomanagement betreiben und geeignete technische und organisatorische Maßnahmen ergreifen, um sicherzustellen, dass sie die Hochrisiko-KI-Systeme gemäß den Gebrauchsanweisungen einsetzen. Hierzu zählt insbesondere die menschliche Überwachung der Funktionsweise der KI-Systeme durch kompetente Personen, um Anomalien und Fehlfunktionen etc. erkennen zu können. Die Durchführung dieser Aufsicht gilt es zu dokumentieren. Betreiber müssen den sicheren und vorschriftsgemäßen Betrieb der KI gewährleisten. Flankiert wird der Pflichtenkatalog für Betreiber durch Protokollierungs- und Meldepflichten, aber z.B. auch durch das Erfordernis, eine Datenschutz-Folgenabschätzung (Art. 29 Abs. 6 KI-VO verweist auf DSGVO) und ggf. eine Grundrechte-Risikoanalyse durchzuführen – insbesondere, wenn die KI sensible personenbezogene Daten (etwa Gesundheitsdaten) verarbeitet oder erhebliche Grundrechtseingriffe nach sich ziehen könnte.
Im Ergebnis gilt festzuhalten, dass durch die KI-VO gerade bei Hochrisiko-KI-Systemen in Medizinprodukten sichergestellt wird, dass Innovationen wie KI-gestützte Diagnostik und Robotik innerhalb des vorgegebenen Rechtsrahmens entwickelt und betrieben werden können. Betreiber von Krankenhäusern und andere Gesundheitsunternehmen sollten im Wege einer GAP-Analyse herausarbeiten, welche Pflichten nach der KI-VO für den rechtskonformen Einsatz von KI-Anwendungen zu erfüllen sind und welche Maßnahmen hierfür, spätestens ab Inkrafttreten der weiteren Regelungen der KI-VO ab August 2026 bzw. 2027, umgesetzt werden müssen.
